Hugging Face 的 LOGO

text-generation-inference 文件

在 Google TPU 上使用 TGI

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

在 Google TPU 上使用 TGI

請檢視此指南，瞭解如何在 TPU 上使用 TGI 提供模型。

< > 在 GitHub 上更新

←在 AWS Trainium 和 Inferentia 上使用 TGI 在 Intel GPU 上使用 TGI→
© . This site is unofficial and not affiliated with Hugging Face, Inc.