推理提供商文件

Hub整合

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

Hub整合

推理提供商與Hugging Face Hub緊密整合。無論您使用哪個提供商,使用情況和賬單都將集中在您的Hugging Face賬戶中。

模型搜尋

在Hub上列出模型時,您可以過濾以選擇部署在您選擇的推理提供商上的模型。例如,要列出部署在Fireworks AI基礎設施上的所有模型:https://huggingface.co/models?inference_provider=fireworks-ai

也可以選擇所有或多個提供商並過濾其可用模型:https://huggingface.co/models?inference_provider=all

使用推理提供商的功能

Hugging Face的某些功能使用了推理提供商,並計入您的每月信用額度。PRO和Enterprise包含的每月信用額度應該可以滿足大多數使用者對這些功能的適度使用。

推理小元件

模型頁面上可用的互動式小元件(例如deepseek-ai/DeepSeek-V3-0324)。這是在Hub上快速測試模型的入口點。

推理操場

一個全面的聊天介面,支援各種模型和提供商,可在https://huggingface.co/playground訪問。

Data Studio AI

在資料集頁面上將文字轉換為SQL查詢(例如open-r1/codeforces-cots)。

使用者設定

在您的使用者帳戶設定中,您可以

  • 設定您已註冊的提供商的API金鑰。如果您不設定,您的請求將由您的HF賬戶計費。更多詳情請參閱計費部分
  • 按偏好順序排列提供商。這適用於模型頁面中的小元件和程式碼片段。

組織設定

類似的設定可以在您的組織設定中找到。此外,您可以看到團隊成員的使用情況圖表,這有助於將使用情況計費集中到團隊層面。

< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.