Huggingface.js 文件

介面:QuantizationConfig

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

介面:QuantizationConfig

屬性

bits

Optional bits: number

定義於

packages/hub/src/lib/parse-safetensors-metadata.ts:352


load _ in _ 4bit

Optional load_in_4bit: boolean

定義於

packages/hub/src/lib/parse-safetensors-metadata.ts:353


load _ in _ 8bit

Optional load_in_8bit: boolean

定義於

packages/hub/src/lib/parse-safetensors-metadata.ts:354


modules _ to _ not _ convert

Optional modules_to_not_convert: string[]

定義於

packages/hub/src/lib/parse-safetensors-metadata.ts:351


quant _ method

Optional quant_method: string

定義於

packages/hub/src/lib/parse-safetensors-metadata.ts:350

< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.