Huggingface.js 文件
介面:QuantizationConfig
加入 Hugging Face 社群
並獲得增強的文件體驗
開始使用
介面:QuantizationConfig
屬性
bits
• Optional
bits: number
定義於
packages/hub/src/lib/parse-safetensors-metadata.ts:352
load _ in _ 4bit
• Optional
load_in_4bit: boolean
定義於
packages/hub/src/lib/parse-safetensors-metadata.ts:353
load _ in _ 8bit
• Optional
load_in_8bit: boolean
定義於
packages/hub/src/lib/parse-safetensors-metadata.ts:354
modules _ to _ not _ convert
• Optional
modules_to_not_convert: string
[]
定義於
packages/hub/src/lib/parse-safetensors-metadata.ts:351
quant _ method
• Optional
quant_method: string
定義於
packages/hub/src/lib/parse-safetensors-metadata.ts:350
< > 在 GitHub 上更新