特性與優勢

廣泛的模型目錄整合

超過 10,000 個 Hugging Face 模型——包括文字、視覺、語音和多模態模型——可以直接在 Azure AI Foundry Hub 和 Azure Machine Learning Studio 中訪問，實現一鍵部署。

持續更新確保 Hugging Face Hub 中新發布和熱門模型在釋出當日即可在 Azure 上使用。
安全、可擴充套件和託管的部署

模型可以部署在 Azure Machine Learning 中的託管線上端點上，為即時推理提供安全、可擴充套件的 REST API。

Azure 的基礎設施支援 CPU 和 GPU 部署，並內建自動擴縮、流量拆分和監控等功能。

模型經過漏洞掃描，某些模型權重直接託管在 Azure 上，以增強安全性和合規性，包括無外部出口的私有網路部署。
多模態和特定領域支援

此次合作涵蓋了廣泛的模態和任務：文字生成、翻譯、影像分類、分割、語音識別、音訊分類等等。

持續擴充套件包括對影片、3D、時間序列、蛋白質摺疊和其他專業領域的支援。
企業級基礎設施和開發工具

整合利用 Azure 的企業級基礎設施，包括最新的 GPU 和 CPU 產品。

Hugging Face 模型針對 Azure 的硬體進行了最佳化，確保高水平的效能和效率，特別是對於要求嚴格的生成式 AI 應用。

與 Azure Machine Learning SDK、Azure AI SDK 和 Python API 整合，實現無縫自動化和指令碼編寫。
社群和開源生態系統

此次合作將 Hugging Face 開源社群的創新（近 200 萬個模型和 800 萬用戶）帶給 Azure 的企業客戶。

Hugging Face 模型由開源推理引擎提供支援，這些引擎基於 Transformers、Diffusers 或 Sentence Transformers；以及高效的生產就緒解決方案，例如文字生成推理 (TGI)、vLLM、SGLang 和文字嵌入推理 (TEI) 等。
增強的安全、合規性和監控

透過 Azure 提供的所有模型都經過安全掃描和合規性檢查，因為模型權重確保以 Safetensors 格式分發，並由 Hugging Face 安全合作伙伴 JFrog、Protect AI 和 ClamAV 以及 Hugging Face 的 Pickelscan 進行掃描。

Azure 的企業安全功能（私有端點、網路隔離、審計跟蹤）可用於 Hugging Face 模型部署。

企業和開發者的優勢

加速 AI 採用和創新

快速訪問最新的開源模型和最先進的 AI 功能，無需承擔基礎設施設定或維護的開銷。

使組織能夠更快地構建、試驗和迭代 AI 解決方案，與不斷發展的 AI 格局保持同步。
降低生產就緒型 AI 的門檻

透過最少的配置，簡化將複雜模型（如 Transformers 和 LLM）部署到安全、生產環境的過程。

減少對專業 DevOps 或 ML 基礎設施專業知識的需求。
靈活性和控制性

企業保留對資料、模型選擇和部署環境的完全控制，支援公共雲和私有云場景。
成本和資源最佳化

Azure 靈活的擴縮、全球可用性和按需付費定價有助於最佳化實驗和大規模生產的成本。

透過自動擴縮和流量管理功能高效利用資源。
安全與合規性

企業級安全、合規性和隱私控制內置於模型生命週期的每個階段。

模型經過漏洞審查，可以在隔離環境中部署以滿足監管要求。
面向未來的保障和生態系統增長

持續合作確保定期更新、對新模態的支援以及與新興 Azure 和 Hugging Face 功能的整合。

訪問開放和專有模型，以及用於構建模組化、智慧體和可組合 AI 應用程式的工具。

Hugging Face 和 Microsoft Azure 之間的這種深度整合使組織能夠利用開源 AI 的最佳優勢，同時享受 Azure 雲生態系統的可靠性、安全性和可擴充套件性。

< > 在 GitHub 上更新