Text Generation Inference 文件

在 Inferentia 上使用 TGI

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

在 Inferentia 上使用 TGI

您可以透過 TGI neuron 後端,在 AWS Trainium 和 Inferentia 平台上使用 TGI。

在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.