🤗 Optimum Notebook

您可以在這裡找到與 🤗 Optimum 中每個加速器相關的 Notebook 列表。

Optimum Habana

筆記本	描述	Colab	Studio Lab
如何使用 DeepSpeed 在 Habana Gaudi 上訓練數十億引數的模型	展示如何使用 DeepSpeed 在 Habana Gaudi 上對 16 億引數的 GPT2-XL 模型進行因果語言建模的預訓練/微調。

Optimum Intel

OpenVINO

筆記本	描述	Colab	Studio Lab
如何使用 OpenVINO 執行推理	解釋如何將模型匯出到 OpenVINO 並使用 OpenVINO Runtime 在各種任務上執行推理
如何使用 NNCF 量化問答模型	展示如何使用 NNCF 對問答模型應用訓練後量化，並使用 OpenVINO 加速推理

Neural Compressor

筆記本	描述	Colab	Studio Lab
如何使用 Intel Neural Compressor 量化文字分類模型	展示如何在訓練模型時，使用 Intel Neural Compressor 對任何 GLUE 任務進行量化。

Optimum ONNX Runtime

筆記本	描述	Colab	Studio Lab
如何使用 ONNX Runtime 量化文字分類模型	展示如何使用 ONNX Runtime 對任何 GLUE 任務的模型應用靜態和動態量化。
如何使用 ONNX Runtime 微調文字分類模型	展示如何使用 ONNX Runtime 在 GLUE 任務上微調 DistilBERT 模型。
如何使用 ONNX Runtime 微調摘要模型	展示如何在 BBC 新聞語料庫上微調 T5 模型。
如何使用 ONNX Runtime 微調 DeBERTa 進行問答	展示如何在 SQuAD 資料集上微調 DeBERTa 模型。