text-generation-inference 文件
將 TGI 與 Inferentia 結合使用
並獲得增強的文件體驗
開始使用
您可以使用 TGI Neuron 後端在 AWS Trainium 和 Inferentia 平臺上使用 TGI。