在 Google Cloud 上首次設定 TPU

本指南將引導您完成在 Google Cloud Platform (GCP) 上設定並存取您的第一個 TPU 執行個體。

先修條件

在開始之前，請確保您已具備：

• Google Cloud 帳戶
• 帳戶已啟用帳單功能
• 對雲端主控台的基本熟悉度

第 1 步：啟用 TPU 存取權

1. 前往 TPU 資訊主頁：https://console.cloud.google.com/compute/tpus

   • 注意：如果您尚未啟用，則需要啟用 TPU API
   • 您的專案必須連結有效的帳單帳戶

2. 如果出現提示，請為您的專案啟用 TPU API

第 2 步：建立您的 TPU 執行個體

點擊「建立」(Create) 按鈕以設定您的 TPU 執行個體。

區域選擇

1. 檢閱可用於 TPU 的區域與分區：https://cloud.google.com/tpu/docs/regions-zones
2. 在本範例中，我們將使用 us-west-4a 分區
   • 重要提示：TPU 可用性可能會因區域而異
   • 提示：選擇靠近您主要使用地點的區域

TPU 設定

1. 選擇 TPU 類型
   • 我們將使用 TPU v5e-8（對應於 v5litepod8）。這是一個包含 8 個 v5e TPU 晶片的 TPU 節點
   • 如需 TPU 類型的詳細規格，請參閱我們的 TPU 硬體類型說明文件
2. 選擇執行階段 (Runtime)
   • 選擇 v2-alpha-tpuv5-lite 執行階段
   • 此執行階段針對 TPU v5e 進行了最佳化
     • 更多關於執行階段的資訊，請參閱我們 TPU 硬體頁面中的「TPU 建議執行階段」章節

第 3 步：存取您的 TPU

建立完成後，您應該可以透過 SSH 存取您的 TPU 執行個體

1. 存取您的 TPU

   • 點擊主控台中的「SSH」按鈕即可立即取得終端機存取權

   

2. 若要進行永久的 SSH 存取

   • 請依照以下指南新增您的 SSH 金鑰：https://cloud.google.com/compute/docs/connect/add-ssh-keys
   • 這將使未來的連線更加方便
   • 您也可以查看我們關於 gcloud cli 指南中的 SSH 章節

下一步

現在您已擁有一個運作正常的 TPU 環境，可以開始將其用於 AI 工作負載。根據您的使用需求，我們提供兩條主要途徑

AI 推論與訓練教學

1. TPU 上的模型服務

   • 請參閱我們的服務教學：在 TPU 上首次進行模型服務
   • 了解如何在 TPU 上有效率地部署與服務 ML 模型

2. TPU 上的模型訓練

   • 從我們的訓練指南開始：在 TPU 上首次進行模型訓練
   • 了解如何開始在 TPU 上訓練 ML 模型

請選擇最符合您當前需求的教學

• 若要部署現有模型，請從我們的 模型服務教學開始
• 若要訓練新模型，請從我們的 模型訓練教學開始