Diffusers 文件

英特爾 Gaudi

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

英特爾 Gaudi

英特爾 Gaudi AI 加速器系列包括 英特爾 Gaudi 1英特爾 Gaudi 2英特爾 Gaudi 3。每臺伺服器都配備 8 個裝置,稱為 Habana 處理單元 (HPU),Gaudi 3 上提供 128GB 記憶體,Gaudi 2 上提供 96GB 記憶體,第一代 Gaudi 上提供 32GB 記憶體。有關底層硬體架構的更多詳細資訊,請檢視 Gaudi 架構概述。

Diffusers 管道可以利用 HPU 加速,即使管道尚未新增到 Optimum for Intel Gaudi 中,也可以使用 GPU 遷移工具包

在您的管道上呼叫 .to("hpu"),將其移動到 HPU 裝置,如下所示的 Flux:

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-schnell", torch_dtype=torch.bfloat16)
pipeline.to("hpu")

image = pipeline("An image of a squirrel in Picasso style").images[0]

對於 Gaudi 最佳化的擴散管道實現,我們建議使用 Optimum for Intel Gaudi

< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.