使用戴爾企業中心在本地構建 AI
今天，我們宣佈推出戴爾企業中心（Dell Enterprise Hub），這是 Hugging Face 上的一項新體驗，旨在利用戴爾平臺輕鬆地在本地訓練和部署開放模型。
請訪問 dell.huggingface.co 嘗試使用。
企業需要使用開放模型構建 AI
在構建 AI 系統時，開放模型是滿足企業安全、合規和隱私要求的最佳解決方案。
- 基於開放模型構建使公司能夠理解、擁有和控制其 AI 功能，
- 開放模型可以託管在企業安全的 IT 環境中，
- 在本地訓練和部署開放模型可以保護客戶資料。
但是，在本地基礎設施中使用大型語言模型 (LLM) 通常需要數週的反覆試驗，處理容器、並行性、量化和記憶體不足錯誤。
藉助戴爾企業中心，我們可以輕鬆地使用戴爾平臺在本地訓練和部署 LLM，將數週的工程工作縮短到幾分鐘。
戴爾企業中心：本地 LLM 變得輕鬆
戴爾企業中心提供了一系列精選的當今最先進的開放模型，包括 Meta 的 Llama 3、Mistral AI 的 Mixtral、Google 的 Gemma 等。
要訪問戴爾企業中心，您只需要一個 Hugging Face 帳戶。
戴爾企業中心是專為企業從頭開始設計的，並針對戴爾平臺進行了最佳化。
您可以輕鬆地按許可證或模型大小篩選可用模型。
選擇模型後，您可以檢視專為企業使用設計的全面模型卡。您可以一目瞭然地看到模型的關鍵資訊、大小以及哪些戴爾平臺支援它。
Meta、Mistral 和 Google 的許多模型需要授權才能訪問模型權重。由於戴爾企業中心基於 Hugging Face 使用者帳戶構建，您的帳戶許可權將轉移到戴爾企業中心，您只需獲得一次許可即可。
使用戴爾企業中心部署開放模型
選擇可部署的模型後，在戴爾環境中部署它非常容易。只需選擇一個受支援的戴爾平臺，以及您希望用於部署的 GPU 數量。
當您將提供的指令碼貼上到戴爾環境終端或伺服器中時，一切都會自動進行，使您的模型作為 API 端點在您的戴爾平臺上可用。Hugging Face 為每個戴爾平臺優化了部署配置，考慮了可用的硬體、記憶體和連線功能，並定期在戴爾基礎設施上進行測試，以提供開箱即用的最佳結果。
使用戴爾企業中心訓練開放模型
模型微調透過根據公司特定的訓練資料更新模型權重來提高其在特定領域和用例中的效能。微調後的開放模型已被證明優於 GPT-4 等最佳可用閉源模型，為特定 AI 功能提供更高效和更高效能的模型。由於公司特定的訓練資料通常包含機密資訊、智慧財產權和客戶資料，因此在本地進行微調對企業合規性很重要，這樣資料永遠不會離開公司安全 IT 環境。
使用戴爾企業中心在本地微調開放模型就像部署模型一樣容易。主要的額外引數是為戴爾環境本地路徑提供最佳化的訓練容器，其中託管訓練資料集，以及完成時將微調模型上傳到何處。訓練資料集可以作為 CSV 或 JSONL 格式的檔案提供，遵循此規範。
使用戴爾企業中心自帶模型
如果您想在本地部署您自己的模型，而無需它離開您的安全環境，該怎麼辦？
使用戴爾企業中心，一旦您訓練了一個模型，它將託管在您選擇的本地安全環境中。透過選擇“部署微調模型”選項卡，部署它只是另一個簡單的步驟。
如果您使用戴爾企業中心支援的一種模型架構自行訓練了模型，您也可以以完全相同的方式部署它。
只需將本地路徑設定為您在將執行提供的程式碼片段的環境中儲存模型權重的位置。
部署後，模型即可作為 API 端點使用，透過遵循與 OpenAI 相容的訊息 API 傳送請求即可輕鬆呼叫。這使得將使用 OpenAI 構建的原型轉換為使用戴爾企業中心設定的安全本地部署變得超級容易。
我們才剛剛開始
今天，我們非常高興釋出戴爾企業中心，它提供了許多可即時使用的容器模型，這些模型針對多種平臺進行了最佳化，距離宣佈我們與戴爾科技的合作已經過去六個月了。
戴爾提供了許多基於 NVIDIA、AMD 和 Intel Gaudi AI 硬體加速器的平臺。Hugging Face 與 NVIDIA (optimum-nvidia)、AMD (optimum-amd) 和 Intel (optimum-intel 和 optimum-habana) 的工程協作將使我們能夠為所有戴爾平臺配置上的開放模型的部署和訓練提供更多最佳化的容器。我們很高興能為更多最先進的開放模型提供支援，並在更多戴爾平臺上啟用它們——我們才剛剛開始！
