定價

使用 🤗 推理端點可在專用基礎設施上輕鬆部署機器學習模型。建立端點時，您可以選擇要部署的例項型別，並根據每小時費率擴充套件模型。具有有效訂閱和信用卡資訊的 Hugging Face 帳戶可以使用 🤗 推理端點。在訂閱期結束時，當成功部署的端點（準備好提供服務）處於“正在初始化”和“正在執行”狀態時，使用者或組織帳戶將按使用的計算資源收費。

您可以在下方找到 🤗 推理端點所有可用例項的每小時定價，以及費用計算示例。雖然價格按小時顯示，但實際費用按分鐘計算。

CPU 例項

下表顯示了當前可用的 CPU 例項及其每小時定價。如果在應用程式中無法選擇例項型別，您需要請求配額才能使用它。

GPU 例項

下表顯示了當前可用的 GPU 例項及其每小時定價。如果在應用程式中無法選擇例項型別，您需要請求配額才能使用它。

加速器例項

下表顯示了當前可用的自定義加速器例項及其每小時定價。如果在應用程式中無法選擇例項型別，您需要請求配額才能使用它。

定價示例

以下定價場景示例展示瞭如何計算成本。您可以在上表中找到所有例項型別和大小的每小時費率。使用以下公式計算成本：

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas))

基本端點

• AWS CPU intel-spr x2 (2 個 vCPU 4GB RAM)
• 自動擴縮（最少 1 個副本，最多 1 個副本）

每小時費用

instance hourly rate * (hours * # min replica) = hourly cost
$0.067/hr * (1hr * 1 replica) = $0.067/hr

每月費用

instance hourly rate * (hours * # min replica) = monthly cost
$0.064/hr * (730hr * 1 replica) = $46.72/month

高階端點

• AWS GPU 小型（1 個 GPU 14GB RAM）
• 自動擴縮（最少 1 個副本，最多 3 個副本），每小時流量高峰會將端點從 1 個副本擴縮到 3 個副本，持續 15 分鐘

每小時費用

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas)) = hourly cost
$0.5/hr * ((1hr * 1 replica) + (0.25hr * 2 replicas)) = $0.75/hr

每月費用

instance hourly rate * ((hours * # min replica) + (scale-up hrs * # additional replicas)) = monthly cost
$0.5/hr * ((730hr * 1 replica) + (182.5hr * 2 replicas)) = $547.5/month

配額

現在可在推理儀表板 https://ui.endpoints.huggingface.co 的“已用配額”下檢視列出的可用配額。

顯示的數字將引用已用例項數/可用例項配額。*暫停*的端點不會計入“已用”配額。*縮減到零*的端點將被計為“已用”配額——如果您想解鎖此配額，只需暫停縮減到零的端點即可。

如果您想增加配額分配，請聯絡我們。PRO 使用者和 Enterprise Hub 組織在請求時將獲得更高的配額。