在 Google Cloud TPU 實例上進行訓練

歡迎閱讀 🤗 Optimum-TPU 訓練指南！本節將涵蓋如何使用 Google Cloud TPU 對模型進行微調。

支援的模型

請參閱 支援的模型。

開始使用

先修條件

在開始訓練流程前，請確保您已具備：

1. 已設定好的 Google Cloud TPU 實例（請參閱 部署指南）
2. 已安裝具備 PyTorch/XLA 支援的 Optimum-TPU

pip install optimum-tpu -f https://storage.googleapis.com/libtpu-releases/index.html

訓練指令碼範例

您現在可以參考我們的多個範例指令碼以開始使用：

1. Gemma 微調

   • 請參閱我們的 Gemma 微調筆記本 (Notebook) 獲取逐步指南

2. LLaMA 微調

   • 請參閱我們的 LLaMA 微調筆記本 (Notebook) 獲取詳細說明