戴爾企業中心:構建本地 AI 所需的一切

釋出於 2025 年 5 月 23 日
在 GitHub 上更新

本週在 Dell Tech World 大會上,我們宣佈了新版 戴爾企業中心 (Dell Enterprise Hub),提供了一整套模型和應用程式,可輕鬆在戴爾 AI 伺服器和 AI PC 上構建本地執行的 AI。

Dell and Hugging Face announcing the Dell Enterprise Hub

模型蓄勢待發

如果您今天訪問戴爾企業中心,可以找到一些最受歡迎的模型,例如 Meta Llama 4 MaverickDeepSeek R1Google Gemma 3,只需點選幾下即可進行部署和訓練。

但您得到的遠不止模型,它是一個經過全面測試的容器,針對特定的戴爾 AI 伺服器平臺進行了最佳化,並附有使用 Docker 和 Kubernetes 進行本地部署的簡易說明。

Meta Llama 4 Maverick available for Dell AI Server platforms
Meta Llama 4 Maverick 可以部署在 NVIDIA H200 或 AMD MI300X 戴爾 PowerEdge 伺服器上

我們與戴爾首席技術與創新官 (CTIO) 和工程團隊持續合作,以便儘快將最新、最出色的模型準備好,並經過測試和最佳化,以適應戴爾 AI 伺服器平臺 — Llama 4 模型在 Meta 公開發布後 1 小時內即可在戴爾企業中心上使用!

推出 AI 應用程式

戴爾企業中心現在提供即用型 AI 應用程式!

如果模型是引擎,那麼應用程式就是汽車,使它們變得有用,讓您可以真正到達目的地。透過新的應用程式目錄,您可以構建強大的應用程式,完全在本地為您的員工執行,並使用您的內部資料和服務。

新的 應用程式目錄 讓您可以輕鬆地在您的私有網路中部署領先的開源應用程式,包括 OpenWebUIAnythingLLM

OpenWebUI and AnythingLLM available in the Dell Application Catalog

OpenWebUI 可以輕鬆部署本地聊天機器人助手,這些助手透過 MCP 連線到您的內部資料和服務,從而構建能夠搜尋網頁、使用向量資料庫和儲存檢索內部資料以用於 RAG 用例的代理體驗。

OpenWebUI User Interface

AnythingLLM 使構建強大的代理助手變得容易,這些助手可以連線到多個 MCP 伺服器,從而連線您的內部系統甚至外部服務。它包括支援多個模型、處理影像、文件以及為內部使用者設定基於角色的訪問控制的功能。

AnythingLLM User Interface

這些應用程式使用提供的可自定義 Helm Charts 輕鬆部署,這樣您的 MCP 伺服器從一開始就已註冊。

Deployment instructions for OpenWebUI on Dell AI Server

由 NVIDIA、AMD 和 Intel 提供支援

戴爾企業中心是全球唯一為最新 AI 加速器硬體提供即用型模型部署解決方案的平臺

  • NVIDIA H100 和 H200 GPU 驅動的戴爾平臺
  • AMD MI300X 驅動的戴爾平臺
  • 英特爾 Gaudi 3 驅動的戴爾平臺
Dell Enterprise Hub supports NVIDIA, AMD and Intel powered Dell AI Servers

我們與戴爾、NVIDIA、AMD 和 Intel 直接合作,因此當您在系統上部署容器時,它已完全配置並可供使用,經過全面測試和基準測試,可在您的戴爾 AI 伺服器平臺上開箱即用,提供最佳效能。

適用於戴爾 AI PC 的裝置端模型

新的戴爾企業中心現在除了支援 AI 伺服器上的模型外,還支援在戴爾 AI PC 裝置上執行的模型!

Model Catalog includes many models for on-device inference on Dell AI PCs

這些模型支援裝置上的語音轉錄(OpenAI whisper)、聊天助手(Microsoft Phi 和 Qwen 2.5)、影像放大和生成嵌入。

要部署模型,您可以按照您選擇的戴爾 AI PC 的特定說明進行操作,該 PC 由 Intel 或 Qualcomm NPU 提供支援,並使用新的 Dell Pro AI Studio。與 Microsoft Intune 等 PC 機群管理系統相結合,它為 IT 組織提供了一個完整的解決方案,以使員工具備裝置上的 AI 功能。

現已支援 CLI 和 Python SDK

戴爾企業中心提供了一個線上門戶,可訪問戴爾 AI 伺服器平臺和 AI PC 的 AI 功能。但是,如果您想直接從開發環境工作怎麼辦?

推出新的 dell-ai 開源庫,包含 Python SDK 和 CLI,因此您可以直接從終端或程式碼中在您的環境中直接使用戴爾企業中心 - 只需 pip install dell-ai

Available commands for dell-ai CLI

總結

戴爾企業中心(Dell Enterprise Hub)提供了完整的工具包,包括適用於 AI 伺服器和 AI PC 的模型和應用程式,可使用 Docker、Kubernetes 和 Dell Pro AI Studio 輕鬆安裝,從而在企業中部署生成式 AI 應用程式,實現完全安全和本地化部署。

作為戴爾客戶,這意味著您可以在短短一小時內(而不是數週)快速:

  • 推出由最新開源大型語言模型 (LLM) 提供支援的內部網路聊天助手,並使用 MCP 將其連線到您的內部儲存系統(例如戴爾 PowerScale),所有這些都在隔離環境中進行
  • 透過細粒度訪問控制和單點登入(SSO)提供對複雜代理系統的訪問許可權,這些系統可以處理內部文字、程式碼、影像、音訊和文件,並訪問網路以獲取當前上下文
  • 以完全受控的方式,透過戴爾 AI PC 群為員工設定裝置上的私有轉錄功能

如果您正在使用 戴爾企業中心 (Dell Enterprise Hub),我們很樂意在評論中聽到您的反饋!

社群

註冊登入 評論

© . This site is unofficial and not affiliated with Hugging Face, Inc.