Transformers.js 文件

生成/引數

您正在檢視的是需要從原始碼安裝。如果您想進行常規 npm 安裝,請檢視最新的穩定版本 (v3.0.0)。
Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

生成/引數


生成/引數~GenerationFunctionParameters : <code> Object </code>

型別generation/parameters 的內部型別定義

引數量型別描述
[kwargs]任何

(Dict[str, any], 可選)

屬性

名稱型別預設描述
[inputs]*

(Tensor,形狀取決於模態,可選):用作生成提示或模型編碼器輸入的序列。如果為 null,該方法將使用 bos_token_id 和批次大小為 1 進行初始化。對於僅解碼器模型,inputs 應採用 input_ids 格式。對於編碼器-解碼器模型,inputs 可以表示 input_idsinput_valuesinput_featurespixel_values 中的任何一個。

[generation_config]*

(GenerationConfig, 可選):用作生成呼叫基本引數化的生成配置。傳遞給生成與 generation_config 屬性匹配的 **kwargs 將覆蓋它們。如果未提供 generation_config,將使用預設值,其載入優先順序如下:

  • (1) 如果存在,則從 generation_config.json 模型檔案載入;
  • (2) 從模型配置載入。請注意,未指定的引數將繼承 [GenerationConfig] 的預設值,應檢視其文件以引數化生成。
[logits_processor]*

(LogitsProcessorList, 可選):補充從引數和生成配置構建的預設 logits 處理器。如果傳遞的 logits 處理器已使用引數或生成配置建立,則會引發錯誤。此功能適用於高階使用者。

[stopping_criteria]*

(StoppingCriteriaList, 可選):補充從引數和生成配置構建的預設停止條件。如果傳遞的停止條件已使用引數或生成配置建立,則會引發錯誤。此功能適用於高階使用者。

[streamer]*

(BaseStreamer, 可選):用於流式傳輸生成序列的流式傳輸器物件。生成的標記透過 streamer.put(token_ids) 傳遞,流式傳輸器負責任何進一步的處理。

[decoder_input_ids]Array.<number>

(number[], 可選):如果模型是編碼器-解碼器模型,此引數用於傳遞 decoder_input_ids


< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.