Hub 文件
推理服務提供商
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
推理提供商
Hugging Face 的模型頁面為數千種模型提供了按需推理服務，因此你可以在瀏覽器中直接試用所有模型。該服務由推理提供商提供支援，幷包含一個免費層級。
推理提供商為開發者提供了一種簡化、統一的方式來訪問數百個機器學習模型，由最佳的無伺服器推理合作伙伴提供支援。👉 有關完整文件，請訪問推理提供商文件。
中心上的推理提供商
推理提供商與 Hugging Face 中心深度整合，您可以透過以下幾種方式使用它：
- 互動式小元件 - 直接在模型頁面上使用互動式小元件測試模型，這些小元件在底層使用推理提供商。請檢視DeepSeek-R1-0528 模型頁面以獲取示例。
- 推理 Playground - 輕鬆測試和比較聊天完成模型與您的提示。請訪問推理 Playground 開始使用。
- 搜尋 - 在模型頁面上按推理提供商篩選模型，以查詢透過特定提供商可用的模型。
- 資料工作室 - 使用 AI 在中心上探索資料集。請在您喜歡的 資料集上檢視資料工作室。
使用推理提供商構建
您可以使用我們的 SDK 或 HTTP 客戶端將推理提供商整合到您自己的應用程式中。以下是使用 Python 和 JavaScript 的快速入門，更多詳細資訊請檢視推理提供商文件。
python
javascript
您可以使用我們的 Python SDK 與推理提供商進行互動。
from huggingface_hub import InferenceClient
import os
client = InferenceClient(
api_key=os.environ["HF_TOKEN"],
provider="auto", # Automatically selects best provider
)
# Chat completion
completion = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3-0324",
messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)
# Image generation
image = client.text_to_image(
prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
model="black-forest-labs/FLUX.1-dev"
)
或者，您也可以直接使用相容 OpenAI API 的客戶端。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://router.huggingface.co/v1",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="deepseek-ai/DeepSeek-V3-0324",
messages=[
{
"role": "user",
"content": "A story about hiking in the mountains"
}
],
)相容 OpenAI API 的客戶端不支援影像生成。
您需要一個具有推理許可權的 Hugging Face 令牌。請在設定 > 令牌中建立。
推理提供商的工作原理
要深入瞭解推理提供商，請檢視推理提供商文件。以下是一些關鍵資源：
什麼是 HF-Inference API？
HF-Inference API 是透過推理提供商可用的提供商之一。它以前被稱為“推理 API（無伺服器）”，其底層由推理端點提供支援。
有關 HF-Inference 提供商的更多詳細資訊，請檢視其專用頁面。
< > 在 GitHub 上更新