Diffusers 文件
xFormers
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
xFormers
我們推薦 xFormers 用於推理和訓練。在我們的測試中，注意力塊中執行的最佳化可以同時實現更快的速度和更低的記憶體消耗。
從 pip 安裝 xFormers
pip install xformers
xFormers pip 包需要最新版本的 PyTorch。如果您需要使用舊版本的 PyTorch，我們建議從原始碼安裝 xFormers。
安裝 xFormers 後，您可以使用 enable_xformers_memory_efficient_attention() 來實現更快的推理速度和更低的記憶體消耗，如本節所示。
根據這個問題，xFormers v0.0.16 在某些 GPU 上無法用於訓練（微調或 DreamBooth）。如果您遇到此問題，請按照問題評論中的說明安裝開發版本。