介面：TextGenerationStreamDetails

屬性

best _ of _ sequences

• 可選 best_of_sequences: TextGenerationStreamBestOfSequence[]

使用 `best_of` 引數時的附加序列

定義於

inference/src/tasks/nlp/textGenerationStream.ts:68

---

finish _ reason

• finish_reason: TextGenerationStreamFinishReason

生成結束原因

定義於

inference/src/tasks/nlp/textGenerationStream.ts:58

---

generated _ tokens

• generated_tokens: number

生成的 token 數量

定義於

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

提示詞 token

定義於

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• 可選 seed: number

如果取樣已啟用，則為取樣種子

定義於

inference/src/tasks/nlp/textGenerationStream.ts:62

---

tokens

• tokens: TextGenerationStreamToken[]

定義於

inference/src/tasks/nlp/textGenerationStream.ts:66

< > 在 GitHub 上更新