從雲端到開發者:Hugging Face 和 Microsoft 加深合作

釋出日期:2024年5月21日
在 GitHub 上更新

在今天的 Microsoft Build 大會上,我們很高興地宣佈一系列新的功能和合作,微軟和 Hugging Face 正在深化戰略合作,以便在任何地方都能更輕鬆地使用開放模型和開源人工智慧。我們將共同努力,幫助人工智慧開發者在開放科學、開源、雲、硬體和開發者體驗方面取得進展——請繼續閱讀今天在所有這些方面釋出的公告!

MS BUILD Keynote announcement Hugging Face

雲端人工智慧開發者的合作

我們很高興地宣佈兩項重要的全新體驗,用於在 Microsoft Azure 上使用開放模型構建人工智慧。

Azure 模型目錄中擴充套件的 HF 精選集

一年前,Hugging Face 和微軟 釋出了 Azure 模型目錄中的 Hugging Face 精選集。Hugging Face 精選集自推出以來已被數百個 Azure AI 客戶使用,提供了上千個開放模型。今天,我們將一些最受歡迎的開放大型語言模型新增到 Hugging Face 精選集中,以實現從 Azure AI Studio 直接一鍵部署。

新模型包括來自 Meta 的 Llama 3、來自 Mistral AI 的 Mistral 7B、來自 Cohere for AI 的 Command R Plus、來自 Qwen 的 Qwen 1.5 110B,以及 Hugging Face 社群在 Open LLM 排行榜上表現最佳的一些微調模型。

要在您自己的 Azure 帳戶中部署模型,您可以從 Hugging Face Hub 上的模型卡開始,選擇“在 Azure 上部署”選項。

model-hub-azure

或者您可以在 Azure AI Studio 的 Hugging Face 精選集中直接找到模型,然後點選“部署”。

ai-studio-deploy

在 Azure 上使用新的 AMD MI300X 構建人工智慧

今天,微軟釋出了基於最新 AMD Instinct MI300 GPU 的新 Azure ND MI300X 虛擬機器 (VM) 在 Azure 上正式釋出。Hugging Face 與 AMD 和微軟合作,在新虛擬機器上為 Hugging Face 模型實現了驚人的效能和價效比。

這項工作利用了我們與 AMD 的深度合作以及我們的開源庫 Optimum-AMD,對 Hugging Face 開源庫和模型在 AMD Instinct GPU 上進行了最佳化、ROCm 整合和持續測試。

開放科學的合作

微軟一直在 Hugging Face 上釋出一些最受歡迎的開放模型,目前在 Hugging Face Hub 上的微軟組織中提供了近 300 個模型。

這包括最近釋出的 Phi-3 模型系列,這些模型在 MIT 許可下發布,其效能遠遠超出其引數量。例如,Phi-3 mini 僅有 38 億個引數,但其效能卻優於許多引數量為 70 億到 100 億的大型語言模型,這使得這些模型成為裝置端應用程式的絕佳選擇。

為了展示 Phi-3 的能力,Hugging Face 在其免費的消費者應用程式 Hugging Chat 中部署了 Phi-3 mini,該應用程式允許使用者與最優秀的開放模型進行聊天並建立助手。

開源的合作

Hugging Face 和微軟合作了 3 年,透過 optimum 開源庫,輕鬆地 匯出和使用 ONNX Runtime 的 Hugging Face 模型

最近,Hugging Face 和微軟一直致力於透過 WebGPU 實現本地推理,利用 Transformers.jsONNX Runtime Web。請閱讀 ONNX Runtime 團隊的這篇社群文章,瞭解更多關於合作的資訊。

要親身體驗 WebGPU 的強大功能,請觀看這個 Phi-3 演示,它能在瀏覽器中以每秒超過 70 個 token 的速度在本地生成內容!

開發者的合作

最後但同樣重要的是,今天我們釋出了一項新的整合,讓開發者使用 Hugging Face Spaces 和 VS Code 構建人工智慧應用程式比以往任何時候都更容易!

Hugging Face 社群已使用 Hugging Face Spaces 在 Hub 上建立了超過 50 萬個 AI 演示應用程式。透過新的 Spaces 開發模式,Hugging Face 使用者可以輕鬆地將其 Space 連線到本地 VS Code,或者啟動基於 Web 的 VS Code 環境。

dev-mode

Spaces 開發模式目前處於 Beta 階段,適用於 PRO 訂閱者。要了解更多關於 Spaces 開發模式的資訊,請檢視 《Introducing Spaces Dev mode for a seamless developer experience》文件

接下來

我們很高興能深化與微軟的戰略合作,使開源人工智慧在各地更易於訪問。請繼續關注,我們將在未來幾個月在 Azure AI Studio 模型目錄中啟用更多模型,並推出新的功能和體驗。

社群

註冊登入以評論

© . This site is unofficial and not affiliated with Hugging Face, Inc.