TPU 硬體支援

Optimum-TPU 支援並針對 v5e 與 v6e TPU 進行了最佳化。

TPU 命名慣例

TPU 的命名遵循此格式：<tpu_version>-<number_of_tpus>

TPU 版本

• v5litepod (v5e)
• v6e

例如，v5litepod-8 是一種包含 8 個 TPU 的 v5e TPU。

TPU 記憶體

每個晶片的 HBM（高頻寬記憶體）容量：v5e 與 v5p 為 16GB，v6e 為 32GB。因此，v5e-8 (v5litepod-8) 擁有 16GB*8=128GB 的 HBM 記憶體。

TPU 推薦執行階段 (Runtime)

建立 TPU VM 時，請為 optimum-tpu 使用下列基礎映像檔：

• v2-alpha-tpuv6e (TPU v6e) (推薦)
• v2-alpha-tpuv5 (TPU v5p) (推薦)
• v2-alpha-tpuv5-lite (TPU v5e) (推薦)
• tpu-ubuntu2204-base (預設)

如需安裝說明，請參考我們的 TPU 設定教學。我們建議您在 optimum-tpu 中使用 alpha 版本，因為 optimum-tpu 已針對這些版本進行測試與最佳化。

更多資訊請見 https://cloud.google.com/tpu/docs/runtimes#pytorch_and_jax

後續步驟

如需有關不同 TPU 硬體的更多資訊，請查看： https://cloud.google.com/tpu/docs/v6e https://cloud.google.com/tpu/docs/v5p https://cloud.google.com/tpu/docs/v5e

定價資訊可在此處查詢： https://cloud.google.com/tpu/pricing

TPU 可用性可在此處查詢： https://cloud.google.com/tpu/docs/regions-zones