Transformers.js 文件

生成/停止條件

您正在檢視的是需要從原始碼安裝。如果您想要常規的 npm 安裝,請檢視最新的穩定版本(v3.0.0)。
Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

生成/停止條件


生成/停止條件.StoppingCriteria

可在生成過程中應用的所有停止條件的抽象基類。

種類generation/stopping_criteria 的靜態類


stoppingCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>

種類StoppingCriteria 的例項方法
返回Array.<boolean> - 指示每個序列是否應停止的布林值列表。

引數量型別描述
input_idsArray.<Array<number>>

(形狀為 (batch_size, sequence_length)number[][]):詞彙表中輸入序列標記的索引。

scoresArray.<Array<number>>

scores(形狀為 (batch_size, config.vocab_size)number[][]):語言建模頭的預測分數。這些可以是 SoftMax 之前的每個詞彙標記的分數,也可以是 SoftMax 之後的每個詞彙標記的分數。


生成/停止條件.StoppingCriteriaList

種類generation/stopping_criteria 的靜態類


new StoppingCriteriaList()

構造 StoppingCriteriaList 的新例項。


stoppingCriteriaList.push(item)

向列表中新增新的停止條件。

種類StoppingCriteriaList 的例項方法

引數量型別描述
itemStoppingCriteria

要新增的停止條件。


stoppingCriteriaList.extend(items)

向列表中新增多個停止條件。

種類StoppingCriteriaList 的例項方法

引數量型別描述
itemsStoppingCriteria | StoppingCriteriaList | Array<StoppingCriteria>

要新增的停止條件。


生成/停止條件.MaxLengthCriteria

此類可用於在生成的總標記數超過 max_length 時停止生成。請記住,對於僅解碼器型別的轉換器,這將包括初始提示標記。

種類generation/stopping_criteria 的靜態類


new MaxLengthCriteria(max_length, [max_position_embeddings])

引數量型別預設描述
max_length數字

輸出序列可以擁有的最大標記數。

[max_position_embeddings]數字

模型的最大長度,由模型的 config.max_position_embeddings 屬性定義。


生成/停止條件.EosTokenCriteria

此類可用於在生成“序列結束”標記時停止生成。預設情況下,它使用 model.generation_config.eos_token_id

種類generation/stopping_criteria 的靜態類


new EosTokenCriteria(eos_token_id)

引數量型別描述
eos_token_idnumber | Array<number>

“序列結束”標記的 ID。可選地,使用列表來設定多個“序列結束”標記。


eosTokenCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>

種類EosTokenCriteria 的例項方法

引數量型別
input_idsArray.<Array<number>>
scoresArray.<Array<number>>

生成/停止條件.InterruptableStoppingCriteria

此類可用於在使用者中斷程序時停止生成。

種類generation/stopping_criteria 的靜態類


< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.