推理端點(專用)文件

建立端點

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

建立端點

首次登入後,您將被定向到端點建立頁面。舉例來說,本指南將介紹部署distilbert/distilbert-base-uncased-finetuned-sst-2-english以進行文字分類的步驟。

1. 輸入 Hugging Face 倉庫 ID 和您想要的端點名稱

Create

2. 選擇您的例項配置

選擇雲提供商、區域和例項型別。如果您正在尋找特定但尚未提供的雲提供商、區域或例項,請告知我們。

select region

3. 應用自動縮放至零

或者保持您的端點不變。

autoscaling

4. 定義端點的安全級別

define security

5. 自定義您的端點

您可以在高階配置中進一步自定義您的端點:副本自動縮放、任務、版本、框架和容器型別都可以在本節中訪問。

advanced configuration

6. 建立您的端點

點選建立端點。顯示的成本估算為每小時,不考慮自動擴縮。

create endpoint

7. 等待端點構建、初始化和執行

請注意,初始化時間取決於模型大小,通常需要 1 到 5 分鐘。

running

8. 測試您的端點 🎉

您可以在端點概覽中利用 Playground 🏁 進行測試!

playground < > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.