AWS Trainium & Inferentia 文件
安裝
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
安裝
我們建議使用 Hugging Face Neuron 深度學習 AMI (DLAMI)。DLAMI 預裝了所有必需的庫，包括 Optimum Neuron、Neuron 驅動程式、Transformers、Datasets 和 Accelerate。
但也可以透過 pip 安裝，如下所述。
在安裝 optimum-neuron 之前，請確保已安裝 Neuron 驅動程式和工具，請參閱此處的詳細指南。
新增 pip 包 URL
指向 AWS Neuron 倉庫
python -m pip config set global.extra-index-url https://pip.repos.neuron.amazonaws.com安裝用於 AWS Trainium ( trn1 ) 或 AWS Inferentia2 ( inf2 ) 的 optimum-neuron
python -m pip install --upgrade-strategy eager optimum-neuron[neuronx]
安裝用於 AWS Inferentia ( inf1 ) 的 optimum-neuron
python -m pip install --upgrade-strategy eager optimum-neuron[neuron]