安裝

在開始之前，你需要設定你的環境，安裝相應的軟體包，並配置 Accelerate。Accelerate 在 Python 3.8+ 上進行了測試。

Accelerate 可在 pypi 和 conda 上獲取，也可以在 GitHub 上找到。下面是每種安裝方式的詳細資訊。

pip

要從 pypi 安裝 Accelerate，請執行

pip install accelerate

conda

Accelerate 也可以透過 conda 安裝

conda install -c conda-forge accelerate

原始碼

每天都會新增尚未釋出的新功能。要親自嘗試它們，請從 GitHub 倉庫安裝：

pip install git+https://github.com/huggingface/accelerate

如果你正在為該庫做貢獻，或者希望修改原始碼並在執行程式碼時看到即時結果，可以從本地克隆的倉庫安裝可編輯版本：

git clone https://github.com/huggingface/accelerate
cd accelerate
pip install -e .

配置

安裝後，你需要根據當前系統的訓練設定來配置 Accelerate。為此，執行以下命令並回答提示的問題：

accelerate config

要編寫一個不包含 DeepSpeed 配置或在 TPU 上執行等選項的基本配置，你可以快速執行：

python -c "from accelerate.utils import write_basic_config; write_basic_config(mixed_precision='fp16')"

Accelerate 將自動利用可用的最大 GPU 數量並設定混合精度模式。

要檢查你的配置是否正確，請執行：

accelerate env

下面顯示了一個示例輸出，描述了在一臺機器上使用兩個 GPU 且未使用混合精度的情況：

- `Accelerate` version: 1.2.0.dev0
- Platform: Linux-6.8.0-47-generic-x86_64-with-glibc2.35
- `accelerate` bash location: /home/zach/miniconda3/envs/accelerate/bin/accelerate
- Python version: 3.10.13
- Numpy version: 1.26.4
- PyTorch version (GPU?): 2.5.1+cu124 (True)
- PyTorch XPU available: False
- PyTorch NPU available: False
- PyTorch MLU available: False
- PyTorch MUSA available: False
- System RAM: 187.91 GB
- GPU type: NVIDIA GeForce RTX 4090
- `Accelerate` default config:
        - compute_environment: LOCAL_MACHINE
        - distributed_type: MULTI_GPU
        - mixed_precision: no
        - use_cpu: False
        - debug: False
        - num_processes: 2
        - machine_rank: 0
        - num_machines: 1
        - gpu_ids: all
        - rdzv_backend: static
        - same_network: True
        - main_training_function: main
        - enable_cpu_affinity: False
        - downcast_bf16: no
        - tpu_use_cluster: False
        - tpu_use_sudo: False
        - tpu_env: []

< > 在 GitHub 上更新