推理提供商文件
Featherless AI
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
Featherless AI
所有支援 Featherless AI 的模型都可以在這裡找到。
Featherless AI 是一個無伺服器 AI 推理平臺，提供數千個開源模型的訪問。
我們的目標是使所有 AI 模型都可用於無伺服器推理。我們透過 API 為不斷擴充套件的開放權重模型庫提供推理服務。
支援的任務
聊天補全 (LLM)
瞭解更多關於聊天補全 (LLM) 的資訊，請點選這裡。
語言
客戶端
提供商
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="featherless-ai",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="moonshotai/Kimi-K2-Instruct",
messages=[
{
"role": "user",
"content": "What is the capital of France?"
}
],
)
print(completion.choices[0].message)聊天補全 (VLM)
瞭解更多關於聊天補全 (VLM) 的資訊，請點選這裡。
語言
客戶端
提供商
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="featherless-ai",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="google/gemma-3-27b-it",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Describe this image in one sentence."
},
{
"type": "image_url",
"image_url": {
"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
}
}
]
}
],
)
print(completion.choices[0].message)文字生成
瞭解更多關於文字生成的資訊，請點選這裡。
語言
客戶端
提供商
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="featherless-ai",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="moonshotai/Kimi-K2-Instruct",
messages="\"Can you please let us know more details about your \"",
)
print(completion.choices[0].message)