Transformers.js 文件
生成/停止條件
並獲得增強的文件體驗
開始使用
生成/停止條件
- 生成/停止條件
生成/停止條件.StoppingCriteria
可在生成過程中應用的所有停止條件的抽象基類。
種類:generation/stopping_criteria
的靜態類
stoppingCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>
種類:StoppingCriteria
的例項方法
返回:Array.<boolean>
- 指示每個序列是否應停止的布林值列表。
引數量 | 型別 | 描述 |
---|---|---|
input_ids | Array.<Array<number>> | (形狀為 |
scores | Array.<Array<number>> | scores(形狀為 |
生成/停止條件.StoppingCriteriaList
種類:generation/stopping_criteria
的靜態類
new StoppingCriteriaList()
構造 StoppingCriteriaList
的新例項。
stoppingCriteriaList.push(item)
向列表中新增新的停止條件。
種類:StoppingCriteriaList
的例項方法
引數量 | 型別 | 描述 |
---|---|---|
item | StoppingCriteria | 要新增的停止條件。 |
stoppingCriteriaList.extend(items)
向列表中新增多個停止條件。
種類:StoppingCriteriaList
的例項方法
引數量 | 型別 | 描述 |
---|---|---|
items | StoppingCriteria | StoppingCriteriaList | Array<StoppingCriteria> | 要新增的停止條件。 |
生成/停止條件.MaxLengthCriteria
此類可用於在生成的總標記數超過 max_length
時停止生成。請記住,對於僅解碼器型別的轉換器,這將包括初始提示標記。
種類:generation/stopping_criteria
的靜態類
new MaxLengthCriteria(max_length, [max_position_embeddings])
引數量 | 型別 | 預設 | 描述 |
---|---|---|---|
max_length | 數字 | 輸出序列可以擁有的最大標記數。 | |
[max_position_embeddings] | 數字 |
| 模型的最大長度,由模型的 |
生成/停止條件.EosTokenCriteria
此類可用於在生成“序列結束”標記時停止生成。預設情況下,它使用 model.generation_config.eos_token_id
。
種類:generation/stopping_criteria
的靜態類
- .EosTokenCriteria
new EosTokenCriteria(eos_token_id)
._call(input_ids, scores)
⇒Array.<boolean>
new EosTokenCriteria(eos_token_id)
引數量 | 型別 | 描述 |
---|---|---|
eos_token_id | number | Array<number> | “序列結束”標記的 ID。可選地,使用列表來設定多個“序列結束”標記。 |
eosTokenCriteria._call(input_ids, scores) ⇒ <code> Array. < boolean > </code>
種類:EosTokenCriteria
的例項方法
引數量 | 型別 |
---|---|
input_ids | Array.<Array<number>> |
scores | Array.<Array<number>> |
生成/停止條件.InterruptableStoppingCriteria
此類可用於在使用者中斷程序時停止生成。
種類:generation/stopping_criteria
的靜態類
< > 在 GitHub 上更新