模型 - Hugging Face 文件

類 optimum.intel.openvino.modeling_base.OVBaseModel

( 模型: 模型配置: PretrainedConfig = 無裝置: str = 'CPU' 動態形狀: bool = True ov_配置: typing.Optional[typing.Dict[str, str]] = 無模型_儲存_目錄: typing.Union[str, pathlib.Path, optimum.intel.openvino.utils.TemporaryDirectory, NoneType] = 無量化_配置: typing.Union[optimum.intel.openvino.configuration.OVWeightQuantizationConfig, typing.Dict, NoneType] = 無 **kwargs )

基礎 OVModel 類。

從預訓練

< 來源 >

( 模型_id: typing.Union[str, pathlib.Path] 匯出: bool = False 強制_下載: bool = False 使用_auth_token: typing.Union[bool, str, NoneType] = None token: typing.Union[bool, str, NoneType] = None 快取_目錄: str = '/root/.cache/huggingface/hub' 子資料夾: str = '' 配置: typing.Optional[transformers.configuration_utils.PretrainedConfig] = None 僅本地檔案: bool = False 信任_遠端_程式碼: bool = False 版本: typing.Optional[str] = None **kwargs )

引數

model_id (Union[str, Path]) — 可以是：
- 一個字串，即託管在 huggingface.co 模型倉庫中的預訓練模型的模型 ID。有效的模型 ID 可以是根級別的，如 bert-base-uncased，也可以是使用者或組織名稱空間下的，如 dbmdz/bert-base-german-cased。
- 一個包含使用 ~OptimizedModel.save_pretrained 儲存的模型目錄的路徑，例如 ./my_model_directory/。
export (bool, 預設為 False) — 定義提供的 model_id 是否需要匯出為目標格式。
force_download (bool, 預設為 True) — 是否強制（重新）下載模型權重和配置檔案，如果存在快取版本則覆蓋。
use_auth_token (Optional[Union[bool,str]], 預設為 None) — 已棄用。請改用 token 引數。
token (Optional[Union[bool,str]], 預設為 None) — 用作遠端檔案 HTTP bearer 授權的令牌。如果為 True，將使用執行 huggingface-cli login 時生成的令牌（儲存在 huggingface_hub.constants.HF_TOKEN_PATH 中）。
cache_dir (Optional[str], 預設為 None) — 如果不應使用標準快取，則為下載的預訓練模型配置應快取的目錄路徑。
subfolder (str, 預設為 "") — 如果相關檔案位於模型倉庫的子資料夾中（本地或 huggingface.co 上），您可以在此處指定資料夾名稱。
config (Optional[transformers.PretrainedConfig], 預設為 None) — 模型配置。
local_files_only (Optional[bool], 預設為 False) — 是否只檢視本地檔案（即不嘗試下載模型）。
trust_remote_code (bool, 預設為 False) — 是否允許 Hub 上定義的自定義程式碼進行建模。此選項僅應設定為 True，用於您信任且已閱讀其程式碼的倉庫，因為它將在您的本地機器上執行 Hub 上存在的程式碼。
revision (Optional[str], 預設為 None) — 要使用的特定模型版本。它可以是分支名稱、標籤名稱或提交 ID，因為我們使用基於 git 的系統儲存 huggingface.co 上的模型和其他工件，因此 revision 可以是 git 允許的任何識別符號。

從預訓練模型配置例項化預訓練模型。

重塑

< 來源 >

( 批次大小: int 序列長度: int 高度: int = 無寬度: int = 無 )

引數

batch_size (int) — 批次大小。
sequence_length (int) — 序列長度或通道數。
height (int, 可選) — 影像高度。
width (int, 可選) — 影像寬度。

在模型的層上傳播給定的輸入形狀，修復模型的輸入形狀。

類 optimum.intel.OVModelForCausalLM

< 來源 >

( 模型: 模型配置: PretrainedConfig = 無裝置: str = 'CPU' 動態形狀: bool = 無 ov_配置: typing.Optional[typing.Dict[str, str]] = 無模型_儲存_目錄: typing.Union[str, pathlib.Path, optimum.intel.openvino.utils.TemporaryDirectory, NoneType] = 無量化_配置: typing.Union[optimum.intel.openvino.configuration.OVWeightQuantizationConfig, typing.Dict, NoneType] = 無 **kwargs )

引數

model (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
config (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型相關的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
device (str, 預設為 "CPU") — 模型將最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
dynamic_shapes (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設為 False 時，模型不會動態重塑。
ov_config (Optional[Dict], 預設為 None) — 包含與模型編譯相關資訊的字典。
compile (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這可能有助於避免不必要的編譯。

具有因果語言建模頭（與輸入嵌入繫結的線性層）的 OpenVINO 模型。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( 輸入_ids: LongTensor 注意_mask: typing.Optional[torch.LongTensor] = 無過去_key_values: typing.Optional[typing.Tuple[typing.Tuple[torch.FloatTensor]]] = 無位置_ids: typing.Optional[torch.LongTensor] = 無 token_type_ids: typing.Optional[torch.LongTensor] = 無 **kwargs )

生成

< 來源 >

( inputs: typing.Optional[torch.Tensor] = 無生成_配置: typing.Optional[transformers.generation.configuration_utils.GenerationConfig] = 無 logits_處理器: typing.Optional[transformers.generation.logits_process.LogitsProcessorList] = 無停止_條件: typing.Optional[transformers.generation.stopping_criteria.StoppingCriteriaList] = 無字首_允許_tokens_fn: typing.Optional[typing.Callable[[int, torch.Tensor], typing.List[int]]] = 無同步_gpus: typing.Optional[bool] = 無助手_模型: typing.Optional[ForwardRef('PreTrainedModel')] = 無流式傳輸器: typing.Optional[ForwardRef('BaseStreamer')] = 無負數_提示_ids: typing.Optional[torch.Tensor] = 無負數_提示_attention_mask: typing.Optional[torch.Tensor] = 無 **kwargs )

類 optimum.intel.OVModelForMaskedLM

< 來源 >

( 模型 = 無配置 = 無 **kwargs )

引數

model (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
config (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型相關的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
device (str, 預設為 "CPU") — 模型將最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
dynamic_shapes (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設為 False 時，模型不會動態重塑。
ov_config (Optional[Dict], 預設為 None) — 包含與模型編譯相關資訊的字典。
compile (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這可能有助於避免不必要的編譯。

OpenVINO 模型，帶有 MaskedLMOutput，用於掩碼語言建模任務。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( 輸入_ids: typing.Union[torch.Tensor, numpy.ndarray] 注意_mask: typing.Union[torch.Tensor, numpy.ndarray] token_type_ids: typing.Union[torch.Tensor, numpy.ndarray, NoneType] = 無 **kwargs )

引數

input_ids (torch.Tensor) — 詞彙表中輸入序列標記的索引。可以使用 AutoTokenizer 獲取索引。什麼是輸入 ID？
attention_mask (torch.Tensor), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
- 1 表示未掩碼的標記，
- 0 表示已掩碼的標記。什麼是注意力掩碼？
token_type_ids (torch.Tensor, 可選) — 分段標記索引，指示輸入的第一個和第二個部分。索引選擇範圍為 [0, 1]：
- 1 表示句子 A 中的標記，
- 0 表示句子 B 中的標記。什麼是標記型別 ID？

OVModelForMaskedLM 的前向方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

使用 transformers.pipelines 進行掩碼語言建模的示例

>>> from transformers import AutoTokenizer, pipeline
>>> from optimum.intel import OVModelForMaskedLM

>>> tokenizer = AutoTokenizer.from_pretrained("roberta-base")
>>> model = OVModelForMaskedLM.from_pretrained("roberta-base", export=True)
>>> mask_token = tokenizer.mask_token
>>> pipe = pipeline("fill-mask", model=model, tokenizer=tokenizer)
>>> outputs = pipe("The goal of life is" + mask_token)

類 optimum.intel.OVModelForSeq2SeqLM

< 來源 >

( 編碼器: 模型解碼器: 模型解碼器_with_past: 模型 = 無配置: PretrainedConfig = 無裝置: str = 'CPU' 動態形狀: bool = True ov_配置: typing.Optional[typing.Dict[str, str]] = 無模型_儲存_目錄: typing.Union[str, pathlib.Path, optimum.intel.openvino.utils.TemporaryDirectory, NoneType] = 無量化_配置: typing.Union[optimum.intel.openvino.configuration.OVWeightQuantizationConfig, typing.Dict] = 無 **kwargs )

引數

encoder (openvino.Model) — 與編碼器關聯的 OpenVINO Runtime 模型。
解碼器 (openvino.Model) — 與解碼器關聯的 OpenVINO Runtime 模型。
帶過去值的解碼器 (openvino.Model) — 與帶過去鍵值的解碼器關聯的 OpenVINO Runtime 模型。
配置 (transformers.PretrainedConfig) — PretrainedConfig 是與模型關聯的配置例項。用配置檔案初始化不會載入與模型關聯的權重，只加載配置。

用於 OpenVINO 推理的帶語言建模頭的序列到序列模型。

前進

< 來源 >

( input_ids: LongTensor = None attention_mask: typing.Optional[torch.FloatTensor] = None decoder_input_ids: typing.Optional[torch.LongTensor] = None decoder_attention_mask: typing.Optional[torch.LongTensor] = None encoder_outputs: typing.Optional[typing.Tuple[typing.Tuple[torch.Tensor]]] = None past_key_values: typing.Optional[typing.Tuple[typing.Tuple[torch.Tensor]]] = None cache_position: typing.Optional[torch.LongTensor] = None labels: typing.Optional[torch.LongTensor] = None **kwargs )

引數

輸入 ID (torch.LongTensor) — 詞彙表中輸入序列標記的索引，形狀為 (batch_size, encoder_sequence_length)。
注意力掩碼 (torch.LongTensor) — 用於避免對填充標記索引執行注意力的掩碼，形狀為 (batch_size, encoder_sequence_length)。掩碼值選擇在 [0, 1]。
解碼器輸入 ID (torch.LongTensor) — 詞彙表中解碼器輸入序列標記的索引，形狀為 (batch_size, decoder_sequence_length)。
編碼器輸出 (torch.FloatTensor) — 編碼器 last_hidden_state 的形狀為 (batch_size, encoder_sequence_length, hidden_size)。
過去鍵值 (tuple(tuple(torch.FloatTensor), *可選*) — 包含用於加速解碼的注意力塊的預計算鍵和值隱藏狀態。元組的長度為 config.n_layers，每個元組包含兩個形狀為 (batch_size, num_heads, decoder_sequence_length, embed_size_per_head) 的張量和兩個形狀為 (batch_size, num_heads, encoder_sequence_length, embed_size_per_head) 的額外張量。

OVModelForSeq2SeqLM 的 forward 方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

文字生成示例

>>> from transformers import AutoTokenizer
>>> from optimum.intel import OVModelForSeq2SeqLM

>>> tokenizer = AutoTokenizer.from_pretrained("echarlaix/t5-small-openvino")
>>> model = OVModelForSeq2SeqLM.from_pretrained("echarlaix/t5-small-openvino")
>>> text = "He never went out without a book under his arm, and he often came back with two."
>>> inputs = tokenizer(text, return_tensors="pt")
>>> gen_tokens = model.generate(**inputs)
>>> outputs = tokenizer.batch_decode(gen_tokens)

使用 transformers.pipeline 的示例

>>> from transformers import AutoTokenizer, pipeline
>>> from optimum.intel import OVModelForSeq2SeqLM

>>> tokenizer = AutoTokenizer.from_pretrained("echarlaix/t5-small-openvino")
>>> model = OVModelForSeq2SeqLM.from_pretrained("echarlaix/t5-small-openvino")
>>> pipe = pipeline("translation_en_to_fr", model=model, tokenizer=tokenizer)
>>> text = "He never went out without a book under his arm, and he often came back with two."
>>> outputs = pipe(text)

class optimum.intel.OVModelForQuestionAnswering

< 來源 >

( 模型 = 無配置 = 無 **kwargs )

引數

模型 (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
配置 (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型關聯的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
裝置 (str, 預設為 "CPU") — 模型將為其最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
動態形狀 (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設情況下，如果模型不需要動態重塑，則應設定為 False。
OpenVINO 配置 (Optional[Dict], 預設為 None) — 包含模型編譯相關資訊的字典。
編譯 (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這對於避免不必要的編譯很有用。

帶 QuestionAnsweringModelOutput 的 OpenVINO 模型，用於抽取式問答任務。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( 輸入_ids: typing.Union[torch.Tensor, numpy.ndarray] 注意_mask: typing.Union[torch.Tensor, numpy.ndarray] token_type_ids: typing.Union[torch.Tensor, numpy.ndarray, NoneType] = 無 **kwargs )

引數

輸入 ID (torch.Tensor) — 詞彙表中輸入序列標記的索引。可以使用 AutoTokenizer 獲取索引。什麼是輸入 ID？
注意力掩碼 (torch.Tensor, 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值選擇在 [0, 1]：
- 1 表示未被掩蓋的標記，
- 0 表示被掩蓋的標記。什麼是注意力掩碼？
標記型別 ID (torch.Tensor, 可選) — 分段標記索引，用於指示輸入的第一個和第二個部分。索引選擇在 [0, 1]：
- 1 表示句子 A 的標記，
- 0 表示句子 B 的標記。什麼是標記型別 ID？

OVModelForQuestionAnswering 的 forward 方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

使用 transformers.pipeline 進行問答的示例

>>> from transformers import AutoTokenizer, pipeline
>>> from optimum.intel import OVModelForQuestionAnswering

>>> tokenizer = AutoTokenizer.from_pretrained("distilbert-base-cased-distilled-squad")
>>> model = OVModelForQuestionAnswering.from_pretrained("distilbert-base-cased-distilled-squad", export=True)
>>> pipe = pipeline("question-answering", model=model, tokenizer=tokenizer)
>>> question, text = "Who was Jim Henson?", "Jim Henson was a nice puppet"
>>> outputs = pipe(question, text)

class optimum.intel.OVModelForSequenceClassification

< 來源 >

( 模型 = 無配置 = 無 **kwargs )

引數

模型 (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
配置 (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型關聯的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
裝置 (str, 預設為 "CPU") — 模型將為其最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
動態形狀 (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設情況下，如果模型不需要動態重塑，則應設定為 False。
OpenVINO 配置 (Optional[Dict], 預設為 None) — 包含模型編譯相關資訊的字典。
編譯 (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這對於避免不必要的編譯很有用。

帶 SequenceClassifierOutput 的 OpenVINO 模型，用於序列分類任務。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( 輸入_ids: typing.Union[torch.Tensor, numpy.ndarray] 注意_mask: typing.Union[torch.Tensor, numpy.ndarray] token_type_ids: typing.Union[torch.Tensor, numpy.ndarray, NoneType] = 無 **kwargs )

引數

輸入 ID (torch.Tensor) — 詞彙表中輸入序列標記的索引。可以使用 AutoTokenizer 獲取索引。什麼是輸入 ID？
注意力掩碼 (torch.Tensor, 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值選擇在 [0, 1]：
- 1 表示未被掩蓋的標記，
- 0 表示被掩蓋的標記。什麼是注意力掩碼？
標記型別 ID (torch.Tensor, 可選) — 分段標記索引，用於指示輸入的第一個和第二個部分。索引選擇在 [0, 1]：
- 1 表示句子 A 的標記，
- 0 表示句子 B 的標記。什麼是標記型別 ID？

OVModelForSequenceClassification 的 forward 方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

使用 transformers.pipeline 進行序列分類的示例

>>> from transformers import AutoTokenizer, pipeline
>>> from optimum.intel import OVModelForSequenceClassification

>>> tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased-finetuned-sst-2-english")
>>> model = OVModelForSequenceClassification.from_pretrained("distilbert-base-uncased-finetuned-sst-2-english", export=True)
>>> pipe = pipeline("text-classification", model=model, tokenizer=tokenizer)
>>> outputs = pipe("Hello, my dog is cute")

class optimum.intel.OVModelForTokenClassification

< 來源 >

( 模型 = 無配置 = 無 **kwargs )

引數

模型 (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
配置 (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型關聯的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
裝置 (str, 預設為 "CPU") — 模型將為其最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
動態形狀 (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設情況下，如果模型不需要動態重塑，則應設定為 False。
OpenVINO 配置 (Optional[Dict], 預設為 None) — 包含模型編譯相關資訊的字典。
編譯 (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這對於避免不必要的編譯很有用。

帶 TokenClassifierOutput 的 OpenVINO 模型，用於標記分類任務。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( 輸入_ids: typing.Union[torch.Tensor, numpy.ndarray] 注意_mask: typing.Union[torch.Tensor, numpy.ndarray] token_type_ids: typing.Union[torch.Tensor, numpy.ndarray, NoneType] = 無 **kwargs )

引數

輸入 ID (torch.Tensor) — 詞彙表中輸入序列標記的索引。可以使用 AutoTokenizer 獲取索引。什麼是輸入 ID？
注意力掩碼 (torch.Tensor, 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值選擇在 [0, 1]：
- 1 表示未被掩蓋的標記，
- 0 表示被掩蓋的標記。什麼是注意力掩碼？
標記型別 ID (torch.Tensor, 可選) — 分段標記索引，用於指示輸入的第一個和第二個部分。索引選擇在 [0, 1]：
- 1 表示句子 A 的標記，
- 0 表示句子 B 的標記。什麼是標記型別 ID？

OVModelForTokenClassification 的 forward 方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

使用 transformers.pipelines 進行標記分類的示例

>>> from transformers import AutoTokenizer, pipeline
>>> from optimum.intel import OVModelForTokenClassification

>>> tokenizer = AutoTokenizer.from_pretrained("dslim/bert-base-NER")
>>> model = OVModelForTokenClassification.from_pretrained("dslim/bert-base-NER", export=True)
>>> pipe = pipeline("token-classification", model=model, tokenizer=tokenizer)
>>> outputs = pipe("My Name is Peter and I live in New York.")

class optimum.intel.OVModelForAudioClassification

< 來源 >

( 模型 = 無配置 = 無 **kwargs )

引數

模型 (openvino.Model) — 是用於執行 OpenVINO Runtime 推理的主要類。
配置 (transformers.PretrainedConfig) — PretrainedConfig 是模型配置類，包含模型的所有引數。用配置檔案初始化不會載入與模型關聯的權重，只加載配置。請檢視 ~intel.openvino.modeling.OVBaseModel.from_pretrained 方法以載入模型權重。
裝置 (str, 預設為 "CPU") — 模型將為其最佳化的裝置型別。生成的編譯模型將包含特定於此裝置的節點。
動態形狀 (bool, 預設為 True) — 當設定為 True 時，模型的所有維度都將設定為動態。預設情況下，如果模型不需要動態重塑，則應設定為 False。
OpenVINO 配置 (Optional[Dict], 預設為 None) — 包含模型編譯相關資訊的字典。
編譯 (bool, 預設為 True) — 當設定為 False 時，在載入步驟中停用模型編譯。在模型需要靜態重塑、裝置修改或啟用 FP16 轉換的情況下，這對於避免不必要的編譯很有用。

帶 SequenceClassifierOutput 的 OpenVINO 模型，用於音訊分類任務。

此模型繼承自 optimum.intel.openvino.modeling.OVBaseModel。請檢視超類文件，瞭解庫為其所有模型實現的通用方法（例如下載或儲存）

前進

< 來源 >

( input_values: typing.Union[torch.Tensor, numpy.ndarray] attention_mask: typing.Union[torch.Tensor, numpy.ndarray, NoneType] = None **kwargs )

引數

輸入 ID (torch.Tensor) — 詞彙表中輸入序列標記的索引。可以使用 AutoTokenizer 獲取索引。什麼是輸入 ID？
注意力掩碼 (torch.Tensor, 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值選擇在 [0, 1]：
- 1 表示未被掩蓋的標記，
- 0 表示被掩蓋的標記。什麼是注意力掩碼？
標記型別 ID (torch.Tensor, 可選) — 分段標記索引，用於指示輸入的第一個和第二個部分。索引選擇在 [0, 1]：
- 1 表示句子 A 的標記，
- 0 表示句子 B 的標記。什麼是標記型別 ID？

OVModelForAudioClassification 的 forward 方法，覆蓋了 __call__ 特殊方法。

雖然前向傳播的配方需要在此函式中定義，但在此之後應呼叫 Module 例項，而不是此函式，因為前者負責執行預處理和後處理步驟，而後者則默默地忽略它們。

使用 transformers.pipelines 進行音訊分類的示例

>>> from datasets import load_dataset
>>> from transformers import AutoFeatureExtractor, pipeline
>>> from optimum.intel import OVModelForAudioClassification

>>> preprocessor = AutoFeatureExtractor.from_pretrained("superb/hubert-base-superb-er")
>>> model = OVModelForAudioClassification.from_pretrained("superb/hubert-base-superb-er", export=True)
>>> pipe = pipeline("audio-classification", model=model, feature_extractor=preprocessor)
>>> dataset = load_dataset("superb", "ks", split="test")
>>> audio_file = dataset[3]["audio"]["array"]
>>> outputs = pipe(audio_file)

最佳

模型

通用模型類

類 optimum.intel.openvino.modeling_base.OVBaseModel

從預訓練

重塑

自然語言處理

OVModelForCausalLM

類 optimum.intel.OVModelForCausalLM

前進

生成

OVModelForMaskedLM

類 optimum.intel.OVModelForMaskedLM

前進

OVModelForSeq2SeqLM

類 optimum.intel.OVModelForSeq2SeqLM

前進

OVModelForQuestionAnswering

class optimum.intel.OVModelForQuestionAnswering

前進

OVModelForSequenceClassification

class optimum.intel.OVModelForSequenceClassification

前進

OVModelForTokenClassification

class optimum.intel.OVModelForTokenClassification

前進

音訊

OVModelForAudioClassification

class optimum.intel.OVModelForAudioClassification

前進

OVModelForAudioFrameClassification

class optimum.intel.OVModelForAudioFrameClassification

前進

OVModelForCTC

class optimum.intel.OVModelForCTC

前進

OVModelForAudioXVector

class optimum.intel.OVModelForAudioXVector

前進

OVModelForSpeechSeq2Seq

class optimum.intel.OVModelForSpeechSeq2Seq

前進

計算機視覺

OVModelForImageClassification

class optimum.intel.OVModelForImageClassification

前進

多模態

OVModelForVision2Seq

class optimum.intel.OVModelForVision2Seq

前進

OVModelForPix2Struct

class optimum.intel.OVModelForPix2Struct

前進

自定義任務

OVModelForCustomTasks

class optimum.intel.OVModelForCustomTasks

前進

OVModelForFeatureExtraction

class optimum.intel.OVModelForFeatureExtraction

前進

文字到影像

OVStableDiffusionPipeline

class optimum.intel.OVStableDiffusionPipeline

前進

OVStableDiffusionXLPipeline

class optimum.intel.OVStableDiffusionXLPipeline

前進

OVLatentConsistencyModelPipeline

class optimum.intel.OVLatentConsistencyModelPipeline

前進

影像到影像

OVStableDiffusionImg2ImgPipeline

class optimum.intel.OVStableDiffusionImg2ImgPipeline

前進

OVStableDiffusionXLImg2ImgPipeline

class optimum.intel.OVStableDiffusionXLImg2ImgPipeline

前進

Inpainting

OVStableDiffusionInpaintPipeline

class optimum.intel.OVStableDiffusionInpaintPipeline