Apple 晶片

Apple 晶片 (M 系列) 採用統一記憶體架構，可以高效地在本地訓練大型模型，並透過減少與資料檢索相關的延遲來提高效能。由於 PyTorch 與 Metal Performance Shaders (MPS) 的整合，您可以利用 Apple 晶片進行訓練。

mps 後端需要 macOS 12.3 或更高版本。

某些 PyTorch 操作尚未在 MPS 中實現。為避免錯誤，請設定環境變數 PYTORCH_ENABLE_MPS_FALLBACK=1 以回退到 CPU 核心。如果您遇到任何其他問題，請在 PyTorch 倉庫中提出問題。

TrainingArguments 和 Trainer 如果檢測到 Apple 晶片裝置可用，則會自動將後端裝置設定為 mps。無需額外更改即可在您的裝置上啟用訓練。

mps 後端不支援分散式訓練。

資源

在《在 Mac 上引入加速 PyTorch 訓練》這篇部落格文章中瞭解更多關於 MPS 後端的資訊。