AWS Trainium & Inferentia

🤗 Optimum Neuron

🤗 Optimum Neuron 是 🤗 Transformers 庫與 AWS 加速器（包括 AWS Trainium 和 AWS Inferentia）之間的介面。它提供了一套工具，可以在單加速器和多加速器設定中為不同的下游任務輕鬆載入、訓練和推理模型。官方驗證的模型和任務列表可在此處找到：這裡。

教程

學習基礎知識，熟悉在 AWS Trainium 和 AWS Inferentia 上訓練和部署 transformers。如果您是首次使用 🤗 Optimum Neuron，請從這裡開始！

操作指南

幫助您實現特定目標的實用指南。檢視這些指南，瞭解如何使用 🤗 Optimum Neuron 解決實際問題。

參考

關於 🤗 Optimum Neuron 的類和方法如何工作的技術描述。