Hub 文件

Spaces 上的 ChatUI

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

Spaces 上的 ChatUI

Hugging Chat 是一個開源介面,讓所有人都能嘗試開源大型語言模型,如 Falcon、StarCoder 和 BLOOM。藉助名為 ChatUI 的官方 Docker 模板,你可以使用 Hugging Face 的基礎設施,只需點選幾下即可部署你自己的基於所選模型的 Hugging Chat。

部署你自己的 Chat UI

要開始使用,只需點選這裡。此應用程式的後端使用 text-generation-inference 以實現更好的模型推理最佳化。由於這些模型無法在 CPU 上執行,你可以根據所選模型選擇 GPU。

你需要提供一個 MongoDB 端點,你的聊天記錄將寫入到該端點。如果你將此部分留空,你的日誌將持久化到 Space 內的資料庫中。請注意,Hugging Face 無法訪問你的聊天記錄。你可以透過提供應用程式名稱和應用程式顏色引數來配置 Space 的名稱和主題。在此下方,你可以選擇要提供服務的模型的 Hugging Face Hub ID。你還可以以 JSON 格式更改下面的字典中的生成超引數。

注意:如果你想部署一個具有受控訪問許可權的模型或一個私有倉庫中的模型,你只需在倉庫秘密中提供 HF_TOKEN。你需要將其值設定為你可以從這裡獲取的訪問令牌。

建立完成後,你會在 Space 上看到 Building。構建完成後,你就可以嘗試你自己的 HuggingChat 了!

開始聊天!

閱讀更多

< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.