Hugging Face 與微軟合作,在 Azure 上推出 Hugging Face 模型目錄

釋出於 2023 年 5 月 24 日
在 GitHub 上更新

Hugging Face Endpoints on Azure

今天,我們很高興地宣佈 Hugging Face 擴充套件與微軟的合作,將 Hugging Face Hub 的開源模型引入 Azure 機器學習。我們共同構建了一個新的 Hugging Face Hub 模型目錄,可直接在 Azure 機器學習工作室中使用,其中包含來自 Hugging Face Hub 的數千個最受歡迎的 Transformers 模型。透過這項新的整合,您現在只需點選幾下即可將 Hugging Face 模型部署到託管端點上,並在安全、可擴充套件的 Azure 基礎設施上執行。

Hugging Face Model Catalog

這項新體驗擴充套件了我們去年宣佈的戰略合作伙伴關係,當時我們將 Azure 機器學習端點作為 Azure Marketplace 中的一個新託管應用程式推出,以簡化在 Azure 上部署大型語言模型的體驗。儘管我們之前的市場解決方案是充滿希望的第一步,但它有一些侷限性,我們只能透過與 Azure 機器學習的本機整合來克服這些侷限性。為了解決這些挑戰並增強客戶體驗,我們與微軟合作,為 Hugging Face 使用者在 Azure 機器學習工作室中提供完全整合的體驗。

Hugging Face 託管著超過 200,000 個開源模型,每天提供超過 100 萬次模型下載,是機器學習的首選目的地。但如今,將 Transformers 部署到生產環境仍然是一個挑戰。

開發人員和組織面臨的主要問題之一是部署和擴充套件生產級推理 API 的難度。當然,一個簡單的選擇是依賴基於雲的 AI 服務。儘管它們使用起來非常簡單,但這些服務通常由一組有限的模型提供支援,這些模型可能不支援您需要的任務型別,並且根本無法進行深度定製。或者,基於雲的機器學習服務或內部平臺為您提供完全控制,但代價是更多的時間、複雜性和成本。此外,許多公司都有嚴格的安全、合規和隱私要求,要求他們只在擁有管理許可權的基礎設施上部署模型。

Hugging Face 首席宣傳官 Julien Simon 表示:“透過新的 Hugging Face Hub 模型目錄,原生整合到 Azure 機器學習中,我們與微軟的合作翻開了新的一頁,為企業客戶提供了一種超簡單的方式,可以在其安全的 Azure 環境中部署 Hugging Face 模型以進行即時推理。”

微軟 Azure AI 平臺公司副總裁 John Montgomery 表示:“將 Hugging Face 的開源模型整合到 Azure 機器學習中,體現了我們致力於為開發人員提供行業領先的 AI 工具的承諾。” “這項合作不僅簡化了大型語言模型的部署過程,還為即時推理提供了安全且可擴充套件的環境。這是我們加速 AI 計劃並憑藉 Azure 基礎設施的強大功能快速安全地將創新解決方案推向市場的重要里程碑。”

在 Azure 機器學習上部署 Hugging Face 模型從未如此簡單

  • 在 Azure 機器學習工作室中開啟 Hugging Face 登錄檔。
  • 單擊 Hugging Face 模型目錄。
  • 按任務或許可證篩選並搜尋模型。
  • 單擊模型磁貼以開啟模型頁面,然後選擇即時部署選項以部署模型。
  • 選擇 Azure 例項型別,然後單擊部署。

Creating a Hugging Face Endpoint on Azure

幾分鐘內,您就可以測試您的端點並將其推理 API 新增到您的應用程式中。從未如此簡單!

Predicting with a Hugging Face Endpoint on Azure

如果您想觀看該服務的實際操作,可以單擊下面的圖片觀看影片演示。

Video walkthrough of Hugging Face Endpoints

Azure 機器學習上的 Hugging Face 模型目錄現已在所有提供 Azure 機器學習的 Azure 區域公開預覽。試用該服務並在論壇中告訴我們您的反饋和問題

社群

註冊登入以發表評論

© . This site is unofficial and not affiliated with Hugging Face, Inc.