介面：BaseArgs

屬性

accessToken

• 可選 accessToken：string

要使用的訪問令牌。沒有它，你很快就會受到速率限制。

可在 hf.co/settings/token 免費建立

如果你打算呼叫 Sambanova、Together、Replicate 等相容的推理提供商，也可以傳入外部推理提供商的金鑰。

定義在

inference/src/types.ts:92

---

endpointUrl

• 可選 endpointUrl：string

要使用的端點 URL。

如果未指定，將呼叫預設的 router.huggingface.co 推理提供商端點。

定義在

inference/src/types.ts:109

---

model

• 可選 model：string

要使用的 HF 模型。

如果未指定，將呼叫 huggingface.co/api/tasks 以獲取任務的預設模型。

/!\ 遺留行為允許將其作為 URL，但這已被棄用，將來會移除。請改用 endpointUrl 引數。

定義在

inference/src/types.ts:102

---

provider

• 可選 provider: "black-forest-labs" | "cerebras" | "cohere" | "fal-ai" | "featherless-ai" | "fireworks-ai" | "groq" | "hf-inference" | "hyperbolic" | "nebius" | "novita" | "nscale" | "openai" | "ovhcloud" | "replicate" | "sambanova" | "together" | "auto"

設定一個推理提供商來執行此模型。

預設為“auto”，即模型可用的提供商中的第一個，按使用者在 https://huggingface.co/settings/inference-providers 中的順序排序。

定義在

inference/src/types.ts:116

< > 在 GitHub 上更新