Diffusers 文件
英特爾 Gaudi
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
英特爾 Gaudi
英特爾 Gaudi AI 加速器系列包括 英特爾 Gaudi 1、英特爾 Gaudi 2 和 英特爾 Gaudi 3。每臺伺服器都配備 8 個裝置,稱為 Habana 處理單元 (HPU),Gaudi 3 上提供 128GB 記憶體,Gaudi 2 上提供 96GB 記憶體,第一代 Gaudi 上提供 32GB 記憶體。有關底層硬體架構的更多詳細資訊,請檢視 Gaudi 架構概述。
Diffusers 管道可以利用 HPU 加速,即使管道尚未新增到 Optimum for Intel Gaudi 中,也可以使用 GPU 遷移工具包。
在您的管道上呼叫 .to("hpu")
,將其移動到 HPU 裝置,如下所示的 Flux:
import torch
from diffusers import DiffusionPipeline
pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")
image = pipeline("An image of a squirrel in Picasso style").images[0]
對於 Gaudi 最佳化的擴散管道實現,我們建議使用 Optimum for Intel Gaudi。