生成/流式傳輸器

• 生成/流式傳輸器
  • .TextStreamer
    • new TextStreamer(tokenizer, options)
    • .put(value)
    • .end()
    • .on_finalized_text(text, stream_end)
  • .WhisperTextStreamer
    • new WhisperTextStreamer(tokenizer, options)
    • .put(value)

---

生成/流式傳輸器.TextStreamer

簡單的文字流式傳輸器，一旦形成完整單詞，就會立即將標記列印到標準輸出。

型別：generation/streamers 的靜態類

• .TextStreamer
  • new TextStreamer(tokenizer, options)
  • .put(value)
  • .end()
  • .on_finalized_text(text, stream_end)

---

new TextStreamer(tokenizer, options)

引數量	型別	預設	描述
分詞器	*
選項	物件
[options.skip_prompt]	布林值	false	是否跳過提示符標記
[options.skip_special_tokens]	布林值	true	解碼時是否跳過特殊標記
[options.callback_function]	函式		當文字準備好顯示時呼叫的函式
[options.token_callback_function]	函式		生成新標記時呼叫的函式
[options.decode_kwargs]	物件	{}	傳遞給分詞器解碼方法的附加關鍵字引數

---

textStreamer.put(value)

接收標記，解碼它們，並在它們形成完整單詞後立即將其列印到標準輸出。

型別：TextStreamer 的例項方法

引數量	型別
值	陣列.<陣列<大整數>>

---

textStreamer.end()

重新整理任何剩餘快取，並將換行符列印到標準輸出。

型別：TextStreamer 的例項方法

---

textStreamer.on_finalized_text(text, stream_end)

將新文字列印到標準輸出。如果流結束，也會列印一個換行符。

型別：TextStreamer 的例項方法

引數量	型別
文字	字串
流結束	布林值

---

生成/流式傳輸器.WhisperTextStreamer

實用類，用於處理由 Whisper 語音轉文字模型生成的標記流。當以下事件發生時，將呼叫回撥函式：

• 新塊開始 (on_chunk_start)
• 生成新標記 (callback_function)
• 塊結束 (on_chunk_end)
• 流式傳輸結束 (on_finalize)

型別：generation/streamers 的靜態類

• .WhisperTextStreamer
  • new WhisperTextStreamer(tokenizer, options)
  • .put(value)

---

new WhisperTextStreamer(tokenizer, options)

引數量	型別	預設	描述
分詞器	*
選項	物件
[options.skip_prompt]	布林值	false	是否跳過提示符標記
[options.callback_function]	函式		當文字準備好顯示時呼叫的函式
[options.token_callback_function]	函式		生成新標記時呼叫的函式
[options.on_chunk_start]	函式		新塊開始時呼叫的函式
[options.on_chunk_end]	函式		塊結束時呼叫的函式
[options.on_finalize]	函式		流式傳輸結束時呼叫的函式
[options.time_precision]	數字	0.02	時間戳精度
[options.skip_special_tokens]	布林值	true	解碼時是否跳過特殊標記
[options.decode_kwargs]	物件	{}	傳遞給分詞器解碼方法的附加關鍵字引數

---

whisperTextStreamer.put(value)

型別：WhisperTextStreamer 的例項方法

引數量	型別
值	陣列.<陣列<大整數>>

---

< > 在 GitHub 上更新