Diffusers 文件
ONNX Runtime
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
ONNX Runtime
🤗 Optimum 提供了一個與 ONNX Runtime 相容的 Stable Diffusion pipeline。你需要使用以下命令安裝 🤗 Optimum 以支援 ONNX Runtime
pip install -q optimum["onnxruntime"]本指南將向您展示如何將 Stable Diffusion 和 Stable Diffusion XL (SDXL) pipeline 與 ONNX Runtime 結合使用。
Stable Diffusion
要載入模型並執行推理，請使用 ORTStableDiffusionPipeline。如果你想載入一個 PyTorch 模型並將其動態轉換為 ONNX 格式，請設定 export=True
from optimum.onnxruntime import ORTStableDiffusionPipeline
model_id = "stable-diffusion-v1-5/stable-diffusion-v1-5"
pipeline = ORTStableDiffusionPipeline.from_pretrained(model_id, export=True)
prompt = "sailing ship in storm by Leonardo da Vinci"
image = pipeline(prompt).images[0]
pipeline.save_pretrained("./onnx-stable-diffusion-v1-5")批次生成多個提示詞似乎會佔用過多記憶體。在我們研究這個問題時，您可能需要進行迭代而不是批處理。
要離線將 pipeline 匯出為 ONNX 格式並在以後用於推理，請使用 optimum-cli export 命令
optimum-cli export onnx --model stable-diffusion-v1-5/stable-diffusion-v1-5 sd_v15_onnx/然後執行推理（無需再次指定 export=True）
from optimum.onnxruntime import ORTStableDiffusionPipeline
model_id = "sd_v15_onnx"
pipeline = ORTStableDiffusionPipeline.from_pretrained(model_id)
prompt = "sailing ship in storm by Leonardo da Vinci"
image = pipeline(prompt).images[0]
您可以在 🤗 Optimum 文件中找到更多示例，Stable Diffusion 支援文字到影像、影像到影像和影像修復任務。
Stable Diffusion XL
要載入並使用 SDXL 進行推理，請使用 ORTStableDiffusionXLPipeline
from optimum.onnxruntime import ORTStableDiffusionXLPipeline
model_id = "stabilityai/stable-diffusion-xl-base-1.0"
pipeline = ORTStableDiffusionXLPipeline.from_pretrained(model_id)
prompt = "sailing ship in storm by Leonardo da Vinci"
image = pipeline(prompt).images[0]要將 pipeline 匯出為 ONNX 格式並在以後用於推理，請使用 optimum-cli export 命令
optimum-cli export onnx --model stabilityai/stable-diffusion-xl-base-1.0 --task stable-diffusion-xl sd_xl_onnx/ONNX 格式的 SDXL 支援文字到影像和影像到影像任務。
< > 在 GitHub 上更新