AWS Trainium & Inferentia 文件
🚀 教程：如何微調和執行 LLM
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
🚀 教程：如何微調和執行 LLM
瞭解如何使用 AWS Trainium 執行和微調模型以獲得最佳效能。
Llama 3
使用 LoRA 微調 Llama 3 8B
Qwen 3
使用 LoRA 微調 Qwen3 8B
SageMaker 上的 Llama 3.2
在 SageMaker Hyperpod 上持續預訓練 Llama 3.2 1B
你將學到什麼
這些教程將指導您完成在 AWS Trainium 上微調大型語言模型的完整過程。
- 📊 資料準備：載入並預處理資料集以進行監督微調。
- 🔧 模型配置：設定 LoRA 介面卡和分散式訓練引數。
- ⚡ 訓練最佳化：利用張量並行、梯度檢查點和混合精度。
- 💾 檢查點管理：整合和合並模型檢查點以便部署。
- 🚀 模型部署：匯出和測試您微調後的模型以進行推理。
選擇最適合您用例的教程，立即開始在 AWS Trainium 上微調您的 LLM 吧！