Habana Labs 與 Hugging Face 合作加速 Transformer 模型訓練

加利福尼亞州，聖克拉拉和舊金山，2022 年 4 月 12 日

在深度學習的驅動下，Transformer 模型在自然語言處理、計算機視覺、語音等廣泛的機器學習任務上，都提供了最先進的效能。然而，大規模訓練這些模型通常需要大量的計算能力，這使得整個過程變得不必要地漫長、複雜和昂貴。

今天，高效專用深度學習處理器領域的先驅 Habana® Labs 與 Transformer 模型的大本營 Hugging Face 榮幸地宣佈，雙方將聯手讓高質量 Transformer 模型的訓練變得更輕鬆、更快捷。得益於 Habana 的 SynapseAI 軟體套件與 Hugging Face Optimum 開源庫的整合，資料科學家和機器學習工程師現在只需幾行程式碼，就可以在 Habana 處理器上加速他們的 Transformer 訓練任務，並享受更高的生產力和更低的訓練成本。

為亞馬遜 EC2 DL1 例項和超微的 X12 Gaudi AI 訓練伺服器提供支援的 Habana Gaudi 訓練解決方案，其價效比相比同類訓練解決方案高出 40%，使客戶能夠以更低的成本進行更多的訓練。每個 Gaudi 處理器上都集成了十個 100G 乙太網埠，從而可以輕鬆且經濟高效地將系統從 1 個 Gaudi 擴充套件到數千個。Habana 的 SynapseAI® 在設計之初就進行了最佳化，以實現 Gaudi 的高效能和易用性，它支援 TensorFlow 和 PyTorch 框架，並專注於計算機視覺和自然語言處理應用。

Hugging Face 在 Github 上擁有超過 60,000 顆星、超過 30,000 個模型以及數百萬的月訪問量，是開源軟體歷史上增長最快的專案之一，也是機器學習社群的首選之地。

透過其硬體合作伙伴計劃，Hugging Face 為 Gaudi 的先進深度學習硬體提供了終極的 Transformer 工具集。此次合作將有助於快速擴充套件 Habana Gaudi 訓練的 Transformer 模型庫，將 Gaudi 的高效和易用性帶給自然語言處理、計算機視覺、語音等廣泛的客戶用例。

“我們很高興能與 Hugging Face 及其眾多開源開發者合作，以滿足對 Transformer 模型日益增長的需求，這些模型將受益於 Gaudi 訓練平臺的效率、易用性和可擴充套件性，”Habana Labs 軟體產品管理負責人 Sree Ganesan 表示。

“Habana Gaudi 為深度學習模型訓練帶來了新的效率水平，我們非常高興能透過 Optimum 庫，讓 Transformer 使用者只需極少的程式碼改動就能輕鬆獲得這種效能，”Hugging Face 產品總監 Jeff Boudier 說。

要了解如何開始使用 Habana Gaudi 進行訓練，請訪問 https://developer.habana.ai。

有關 Hugging Face 和 Habana Gaudi 合作的更多資訊，請訪問 https://huggingface.co/Habana。