推理提供商文件
Fireworks AI
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
Fireworks AI
所有支援的 Fireworks AI 模型可以在這裡找到
Fireworks AI 是一個以開發者為中心的平臺，提供高效能的生成式人工智慧解決方案，實現大型語言模型 (LLM) 和影像模型的有效部署和微調。
支援的任務
聊天補全 (LLM)
瞭解更多關於聊天補全 (LLM) 的資訊，請點選這裡。
語言
客戶端
提供商
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="fireworks-ai",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="openai/gpt-oss-120b",
messages=[
{
"role": "user",
"content": "What is the capital of France?"
}
],
)
print(completion.choices[0].message)聊天補全 (VLM)
瞭解更多關於聊天補全 (VLM) 的資訊，請點選這裡。
語言
客戶端
提供商
import os
from huggingface_hub import InferenceClient
client = InferenceClient(
provider="fireworks-ai",
api_key=os.environ["HF_TOKEN"],
)
completion = client.chat.completions.create(
model="meta-llama/Llama-4-Scout-17B-16E-Instruct",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Describe this image in one sentence."
},
{
"type": "image_url",
"image_url": {
"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
}
}
]
}
],
)
print(completion.choices[0].message)