Optimum
加入 Hugging Face 社群
並獲得增強的文件體驗
概述
歡迎來到適用於英特爾® Gaudi® AI 加速器的 Optimum 操作指南!
這些指南涵蓋了更高階的主題,將向您展示如何輕鬆地從 HPU 中獲得最佳效能。以下是您將找到的內容:
- 指令碼適配:瞭解如何為英特爾 Gaudi 適配 Transformers/Diffusers 指令碼
- 預訓練模型:使用 Transformers 預訓練模型的指南
- 加速訓練:探索加速訓練的技術
- 加速推理:瞭解如何最佳化推理以實現更快執行
- 使用 DeepSpeed:擴充套件您的訓練以處理更大的模型
- 多節點訓練:透過多節點設定加速執行
- 量化:探索 FP8 和 UINT4 量化以實現最佳化推理
< > 在 GitHub 上更新
© . This site is unofficial and not affiliated with Hugging Face, Inc.