Microsoft Azure 文件
從 Hugging Face Hub 到 Azure ML 的一鍵部署
並獲得增強的文件體驗
開始使用
從 Hugging Face Hub 到 Azure ML 的一鍵部署
本指南介紹了 Hugging Face Hub 和 Azure 機器學習 (Azure ML) 開源模型的一鍵部署，用於即時推理。
TL;DR Hugging Face Hub 是一個協作平臺，託管著超過一百萬個開源機器學習模型、資料集和演示。它支援自然語言處理、視覺和音訊領域的廣泛任務，並提供帶有元資料、模型卡以及透過 API 和流行 ML 庫進行程式化訪問的版本控制儲存庫。Azure 機器學習是一個基於雲的平臺，用於大規模構建、部署和管理機器學習模型。它提供託管基礎設施，包括強大的 CPU 和 GPU 例項、自動化伸縮、安全端點和監控，使其適用於實驗和生產部署。
Hugging Face Hub 和 Azure ML 之間的整合允許使用者以最少的配置直接將數千個 Hugging Face 模型部署到 Azure 的託管基礎設施上。這是透過 Azure ML Studio 中的本地模型目錄實現的，該目錄包含可用於即時部署的 Hugging Face 模型。
將 Hugging Face Hub 中的開源模型部署到 Azure ML 作為託管線上端點進行即時推理的步驟如下：
訪問 Hugging Face Hub 模型頁面，瀏覽 Hub 上所有可用的開源模型。
或者，您也可以直接從 Azure ML 模型目錄中的 Hugging Face 集合開始，而不是 Hugging Face Hub，然後使用 Azure ML 模型目錄篩選器探索可用的模型，以部署您想要的模型。
利用 Hub 篩選器，您可以輕鬆地根據任務型別、引數數量、推理引擎支援等篩選條件查詢和發現新模型。
選擇您想要的模型，在其模型卡中點選“部署”按鈕，然後選擇“Azure ML”選項，再點選“在 Azure ML 中前往模型”。請注意，模型可能不可用以進行部署，這意味著某些模型的“部署”按鈕可能未啟用；或者可能未列出“Azure ML”選項，這意味著該模型不受 Azure ML 支援的任何推理引擎或任務支援；或者“Azure ML”按鈕可用，但顯示“請求新增”，這意味著該模型目前不可用但可以釋出，因此您可以請求將其新增到 Azure ML 模型目錄中的 Hugging Face 集合。
在 Azure ML Studio 上，您將被重定向到模型卡，您需要點選“使用此模型”，並填寫端點和部署的配置值，例如端點名稱、例項型別或例項計數等；然後點選“部署”。
端點建立成功且部署準備就緒後，您將能夠向已部署的 API 傳送請求。有關如何傳送推理請求的更多資訊，您可以檢視 Azure ML 端點中的“使用”選項卡，或檢視文件中任何可用的 Azure ML 示例。
更多資訊可以在 Hugging Face Hub 在 Azure ML 上一鍵部署功能的原始公告中找到，地址為 Hugging Face 與 Microsoft 合作在 Azure 上推出 Hugging Face 模型目錄。
< > 在 GitHub 上更新