Hugging Face 的 LOGO

Optimum 文件

虛擬輸入生成器

您正在檢視的是需要從原始碼安裝。如果您想進行常規的 pip 安裝，請檢視最新的穩定版本 (v1.27.0)。
Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

虛擬輸入生成器

為了執行任務（追蹤、將模型匯出到某個後端、測試模型輸出等），通常需要生成虛擬輸入。DummyInputGenerator 類的目標是使這種生成變得簡單且可重用。

基類

類 optimum.utils.DummyInputGenerator

< >

( )

為支援的輸入名稱在所請求的框架中生成虛擬輸入。

連線輸入

< >

( inputs dim: int )

引數

  • 輸入 — 在給定框架中要連線的張量列表。
  • 維度 (int) — 要連線的維度。

將輸入連線在一起。

常數張量

< >

( shape: typing.List[int] value: typing.Union[int, float] = 1 dtype: typing.Optional[typing.Any] = None framework: str = 'pt' )

引數

  • 形狀 (List[int]) — 常數張量的形狀。
  • 值 (Union[int, float]，預設為 1) — 用來填充常數張量的值。
  • 資料型別 (Optional[Any]，預設為 None) — 常數張量的資料型別。
  • 框架 (str，預設為 "pt") — 請求的框架。

生成一個常數張量。

生成

< >

( input_name: str framework: str = 'pt' int_dtype: str = 'int64' float_dtype: str = 'fp32' )

引數

  • 輸入名稱 (str) — 要生成的輸入的名稱。
  • 框架 (str，預設為 "pt") — 請求的框架。
  • 整數資料型別 (str，預設為 "int64") — 生成的整數張量的資料型別。
  • 浮點資料型別 (str，預設為 "fp32") — 生成的浮點張量的資料型別。

生成與請求框架對應的虛擬輸入。

在維度上填充輸入

< >

( input_ dim: int desired_length: typing.Optional[int] = None padding_length: typing.Optional[int] = None value: typing.Union[int, float] = 1 dtype: typing.Optional[typing.Any] = None )

引數

  • 輸入_ — 要填充的張量。
  • 維度 (int) — 要填充的維度。
  • 期望長度 (Optional[int]，預設為 None) — 填充後沿維度的期望長度。
  • 填充長度 (Optional[int]，預設為 None) — 沿維度填充的長度。
  • 值 (Union[int, float]，預設為 1) — 用於填充的值。
  • 資料型別 (Optional[Any]，預設為 None) — 填充的資料型別。

將輸入填充到期望長度或填充長度。

隨機浮點張量

< >

( shape: typing.List[int] min_value: float = 0 max_value: float = 1 framework: str = 'pt' dtype: str = 'fp32' )

引數

  • 形狀 (List[int]) — 隨機張量的形狀。
  • 最小值 (float，預設為 0) — 允許的最小值。
  • 最大值 (float，預設為 1) — 允許的最大值。
  • 框架 (str，預設為 "pt") — 請求的框架。
  • 資料型別 (str，預設為 "fp32") — 生成的浮點張量的資料型別。可以是“fp32”、“fp16”、“bf16”。

生成一個在 [min_value, max_value) 範圍內的隨機浮點張量。

隨機整數張量

< >

( shape: typing.List[int] max_value: int min_value: int = 0 framework: str = 'pt' dtype: str = 'int64' )

引數

  • 形狀 (List[int]) — 隨機張量的形狀。
  • 最大值 (int) — 允許的最大值。
  • 最小值 (int，預設為 0) — 允許的最小值。
  • 框架 (str，預設為 "pt") — 請求的框架。
  • 資料型別 (str，預設為 "int64") — 生成的整數張量的資料型別。可以是“int64”、“int32”、“int8”。

生成在 [min_value, max_value) 範圍內的隨機整數張量。

隨機掩碼張量

< >

( shape: typing.List[int] padding_side: str = 'right' framework: str = 'pt' dtype: str = 'int64' )

引數

  • 形狀 (List[int]) — 隨機張量的形狀。
  • 填充側 (str，預設為“右”) — 填充應用的側面。
  • 框架 (str，預設為 "pt") — 請求的框架。
  • 資料型別 (str，預設為 "int64") — 生成的整數張量的資料型別。可以是“int64”、“int32”、“int8”。

生成右填充或左填充的掩碼張量。

支援輸入

< >

( input_name: str ) → bool

引數

  • 輸入名稱 (str) — 要生成的輸入的名稱。

返回

布林值

一個布林值，指定是否支援該輸入。

檢查 DummyInputGenerator 是否支援生成請求的輸入。

現有虛擬輸入生成器

類 optimum.utils.DummyTextInputGenerator

< >

( task: str normalized_config: NormalizedTextConfig batch_size: int = 2 sequence_length: int = 16 num_choices: int = 4 random_batch_size_range: typing.Optional[typing.Tuple[int, int]] = None random_sequence_length_range: typing.Optional[typing.Tuple[int, int]] = None random_num_choices_range: typing.Optional[typing.Tuple[int, int]] = None padding_side: str = 'right' **kwargs )

生成虛擬編碼器文字輸入。

類 optimum.utils.DummyDecoderTextInputGenerator

< >

( task: str normalized_config: NormalizedTextConfig batch_size: int = 2 sequence_length: int = 16 num_choices: int = 4 random_batch_size_range: typing.Optional[typing.Tuple[int, int]] = None random_sequence_length_range: typing.Optional[typing.Tuple[int, int]] = None random_num_choices_range: typing.Optional[typing.Tuple[int, int]] = None padding_side: str = 'right' **kwargs )

生成虛擬解碼器文字輸入。

類 optimum.utils.DummyPastKeyValuesGenerator

< >

( task: str normalized_config: NormalizedTextConfig batch_size: int = 2 sequence_length: int = 16 random_batch_size_range: typing.Optional[typing.Tuple[int, int]] = None random_sequence_length_range: typing.Optional[typing.Tuple[int, int]] = None **kwargs )

生成虛擬的 past_key_values 輸入。

類 optimum.utils.DummySeq2SeqPastKeyValuesGenerator

< >

( task: str normalized_config: typing.Union[optimum.utils.normalized_config.NormalizedSeq2SeqConfig, optimum.utils.normalized_config.NormalizedEncoderDecoderConfig] batch_size: int = 2 sequence_length: int = 16 encoder_sequence_length: typing.Optional[int] = None random_batch_size_range: typing.Optional[typing.Tuple[int, int]] = None random_sequence_length_range: typing.Optional[typing.Tuple[int, int]] = None **kwargs )

為 seq2seq 架構生成虛擬的 past_key_values 輸入。

類 optimum.utils.DummyBboxInputGenerator

< >

( task: str normalized_config: NormalizedConfig batch_size: int = 2 sequence_length: int = 16 random_batch_size_range: typing.Optional[typing.Tuple[int, int]] = None random_sequence_length_range: typing.Optional[typing.Tuple[int, int]] = None **kwargs )

生成虛擬邊界框輸入。

類 optimum.utils.DummyVisionInputGenerator

< >

( task: str normalized_config: NormalizedVisionConfig batch_size: int = 2 num_channels: int = 3 width: int = 64 height: int = 64 visual_seq_length: int = 16 **kwargs )

生成虛擬視覺輸入。

類 optimum.utils.DummyAudioInputGenerator

< >

( 任務: str 標準化配置: NormalizedConfig 批大小: int = 2 特徵大小: int = 80 最大幀數: int = 3000 音訊序列長度: int = 16000 **kwargs )

< > 在 GitHub 上更新

←GPTQ 量化 標準化配置→
© . This site is unofficial and not affiliated with Hugging Face, Inc.