Google TPU 文件
🤗 Optimum TPU
並獲得增強的文件體驗
開始使用
🤗 Optimum TPU
**🚧 Optimum-TPU 現已封存。**儘管此專案已不再開發，您仍可繼續透過以下方式探索 TPU 解決方案：
Optimum TPU 提供了所有必要的機制，可用於利用和優化在 Google Cloud TPU 裝置上運行的 AI 工作負載。Optimum-TPU 是 HuggingFace 針對 TPU 平台優化 HuggingFace 產品的解決方案。這讓使用者能在 TPU 上以最佳效能使用 HuggingFace 的功能和易於使用的函式庫。我們目前優化 transformers 和 TGI，並整合 HuggingFace Hub，讓您可以存取 HuggingFace 龐大的模型函式庫。
如果您是來這裡開始在 TPU 上使用 HuggingFace 產品，那麼您來對地方了。
此 API 提供與 HuggingFace transformers 相同的整體使用者體驗，只需進行最少的變更即可針對推論和訓練的效能。
Optimum TPU 旨在盡可能減少使用 Google Cloud TPU 加速器時的阻力。因此，我們提供了一個可透過 pip 安裝的套件，以確保每個人都能輕鬆上手。
pip install optimum-tpu -f https://storage.googleapis.com/libtpu-releases/index.html
為何選擇 TPU
TPU 在具有矩陣運算、長期訓練和大型批次規模的大規模機器學習工作負載方面表現出色。相較之下，GPU 為具有自訂操作或混合 CPU/GPU 工作負載的模型提供更大的彈性。TPU 不適合需要頻繁分支、高精度算術或自訂訓練迴圈操作的工作負載。更多資訊請參閱 https://cloud.google.com/tpu/docs/intro-to-tpu#when_to_use_tpus
為何選擇 Optimum-TPU
Optimum-TPU 是 HuggingFace 生態系統與 Google Cloud TPU 硬體之間的橋樑。它極大地簡化了原本複雜的整合過程，提供直觀的介面，抽象化 TPU 特定的實作細節，同時保持高效能。透過自動優化、高效批次處理策略、智慧記憶體管理等，Optimum-TPU 確保您的模型在 TPU 硬體上以最佳效率運行。該框架與 HuggingFace Hub 的模型和資料集目錄深度整合，讓您能夠輕鬆部署和微調最先進的模型，同時保有 HuggingFace 函式庫熟悉的易用性，並最大限度地發揮 TPU 硬體的能力。