透過 GCloud CLI 部署和連線 Google TPU 例項

上下文

我們假設讀者已經建立了 Google Cloud Platform (GCP) 使用者或組織帳戶以及關聯的專案。

我們還假設讀者已安裝 Google Cloud CLI。如果沒有，請按照以下連結進行安裝和設定。

在 GCP 上建立初始 TPU VM

為了建立您的初始 TPU 例項，您需要提供一些資訊

• 您希望部署例項的 GCP 區域（例如，為了開發目的靠近讀者，為了生產目的靠近終端使用者）
• 您希望針對哪種 TPU
• 您希望在例項上利用的 TPU 執行時版本
• 自定義例項名稱，以便快速瀏覽和引用例項

總的來說，最終命令如下所示

gcloud compute tpus tpu-vm create <ref_instance_name> \
--zone=<deploiment_zone> \
--accelerator-type=<target_tpu_generation> \
--version=<runtime_version>

部署 TPU v5litepod-8 例項

在我們的例子中，我們將在 GCP 區域 us-west4-a 中部署名為 optimum-tpu-get-started 的 v5litepod-8 例項，使用最新的 v2-alpha-tpuv5-lite 執行時版本。

當然，請隨意調整所有這些引數以匹配您的使用情況和配額。

在建立例項之前，請確保安裝 gcloud alpha component，因為這是定位 TPUv5 VM 所必需的：gcloud components install alpha

gcloud alpha compute tpus tpu-vm create optimum-tpu-get-started \
--zone=us-west4-a \
--accelerator-type=v5litepod-8 \
--version=v2-alpha-tpuv5-lite

透過 ssh 連線到例項

gcloud compute tpus tpu-vm ssh <ref_instance_name> --zone=<deployment_zone>
$ >

在上面部署 v5litepod-8 的示例中，它會像這樣

gcloud compute tpus tpu-vm ssh optimum-tpu-get-started --zone=us-west4-a
$ >

其他有用的命令

這用於獲取有關 tpu-vm 的資訊，例如其外部 IP

gcloud compute tpus tpu-vm describe --zone=<tpu_zone> <tpu_name>

下一步

• 如果您希望訓練自己的模型，現在可以安裝 optimum-tpu
• 如果您希望進行服務，可以檢視我們的服務教程