引數

• images (ImageInput) — 要預處理的影像。需要單個或一批畫素值範圍為 0 到 255 的影像。如果傳入的影像畫素值在 0 到 1 之間，請設定 `do_rescale=False`。
• videos (VideoInput) — 要預處理的影片。需要單個或一批畫素值範圍為 0 到 255 的影片。如果傳入的影片畫素值在 0 到 1 之間，請設定 `do_rescale=False`。
• do_resize (bool, optional, 預設為 self.do_resize) — 是否調整影像大小。
• size (dict[str, int], optional, 預設為 self.size) — 調整大小後圖像的尺寸。影像的最短邊將被調整為 size[“shortest_edge”]，最長邊則按比例調整以保持輸入影像的寬高比。
• resample (int, optional, 預設為 self.resample) — 如果調整影像大小，使用的重取樣過濾器。可以是列舉 `PILImageResampling` 之一。僅當 `do_resize` 設定為 `True` 時生效。
• do_rescale (bool, optional, 預設為 self.do_rescale) — 是否對影像進行縮放。
• rescale_factor (float, optional, 預設為 self.rescale_factor) — 如果 `do_rescale` 設定為 `True`，用於縮放影像的縮放因子。
• do_normalize (bool, optional, 預設為 self.do_normalize) — 是否對影像進行歸一化。
• image_mean (float or list[float], optional, 預設為 self.image_mean) — 用於歸一化的影像均值。僅當 `do_normalize` 設定為 `True` 時生效。
• image_std (float or list[float], optional, 預設為 self.image_std) — 用於歸一化的影像標準差。僅當 `do_normalize` 設定為 `True` 時生效。
• min_pixels (int, optional, 預設為 self.min_pixels) — 調整影像大小時的最小畫素數。
• max_pixels (int, optional, 預設為 self.max_pixels) — 調整影像大小時的最大畫素數。
• patch_size (int, optional, 預設為 self.patch_size) — 視覺編碼器的空間塊大小。
• temporal_patch_size (int, optional, 預設為 self.temporal_patch_size) — 視覺編碼器的時間塊大小。
• merge_size (int, optional, 預設為 self.merge_size) — 視覺編碼器到大語言模型編碼器的合併大小。
• do_convert_rgb (bool, optional, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB 格式。
• return_tensors (str or TensorType, optional) — 返回的張量型別。可以是以下之一：
  • 未設定：返回一個 `np.ndarray` 列表。
  • `TensorType.TENSORFLOW` 或 `'tf'`：返回一個 `tf.Tensor` 型別的批次。
  • `TensorType.PYTORCH` 或 `'pt'`：返回一個 `torch.Tensor` 型別的批次。
  • `TensorType.NUMPY` 或 `'np'`：返回一個 `np.ndarray` 型別的批次。
  • `TensorType.JAX` 或 `'jax'`：返回一個 `jax.numpy.ndarray` 型別的批次。
• data_format (ChannelDimension or str, optional, 預設為 ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (通道數, 高度, 寬度)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (高度, 寬度, 通道數)。
  • 未設定：使用輸入影像的通道維度格式。
• input_data_format (ChannelDimension or str, optional) — 輸入影像的通道維度格式。如果未設定，則從輸入影像中推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (通道數, 高度, 寬度)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (高度, 寬度, 通道數)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (高度, 寬度)。

引數

• do_resize (bool, 可選, 預設為 self.do_resize) — 是否將影片的（高、寬）維度調整為指定的 size。可在 preprocess 方法中透過 do_resize 引數覆蓋。
• size (dict, 可選, 預設為 self.size) — 調整大小後輸出影片的尺寸。可在 preprocess 方法中透過 size 引數覆蓋。
• size_divisor (int, 可選, 預設為 self.size_divisor) — 確保高度和寬度都能被此數值整除的大小。
• default_to_square (bool, 可選, 預設為 self.default_to_square) — 如果 size 是一個整數，在調整大小時是否預設為方形影片。
• resample (PILImageResampling, 可選, 預設為 self.resample) — 如果調整影片大小，則使用此重取樣濾波器。僅在 do_resize 設定為 True 時生效。可在 preprocess 方法中透過 resample 引數覆蓋。
• do_center_crop (bool, 可選, 預設為 self.do_center_crop) — 是否將影片中心裁剪到指定的 crop_size。可在 preprocess 方法中透過 do_center_crop 引數覆蓋。
• do_pad (bool, 可選) — 是否將影片填充到批次中影片的 (max_height, max_width)。
• crop_size (dict[str, int] 可選, 預設為 self.crop_size) — 應用 center_crop 後輸出影片的尺寸。可在 preprocess 方法中透過 crop_size 引數覆蓋。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否透過指定的縮放因子 rescale_factor 對影片進行縮放。可在 preprocess 方法中透過 do_rescale 引數覆蓋。
• rescale_factor (int 或 float, 可選, 預設為 self.rescale_factor) — 如果對影片進行縮放，則使用此縮放因子。僅在 do_rescale 設定為 True 時生效。可在 preprocess 方法中透過 rescale_factor 引數覆蓋。
• do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否對影片進行歸一化。可在 preprocess 方法中透過 do_normalize 引數覆蓋。可在 preprocess 方法中透過 do_normalize 引數覆蓋。
• image_mean (float 或 list[float], 可選, 預設為 self.image_mean) — 如果對影片進行歸一化，則使用此均值。這是一個浮點數或浮點數列表，其長度與影片中的通道數相同。可在 preprocess 方法中透過 image_mean 引數覆蓋。可在 preprocess 方法中透過 image_mean 引數覆蓋。
• image_std (float 或 list[float], 可選, 預設為 self.image_std) — 如果對影片進行歸一化，則使用此標準差。這是一個浮點數或浮點數列表，其長度與影片中的通道數相同。可在 preprocess 方法中透過 image_std 引數覆蓋。可在 preprocess 方法中透過 image_std 引數覆蓋。
• do_convert_rgb (bool, 可選, 預設為 self.image_std) — 是否將影片轉換為 RGB 格式。
• video_metadata (VideoMetadata, 可選) — 影片的元資料，包含總時長、幀率和總幀數等資訊。
• do_sample_frames (int, 可選, 預設為 self.do_sample_frames) — 是在處理前從影片中取樣幀，還是處理整個影片。
• num_frames (int, 可選, 預設為 self.num_frames) — 當 do_sample_frames=True 時，要取樣的最大幀數。
• fps (int, 可選, 預設為 self.fps) — 當 do_sample_frames=True 時，每秒要取樣的目標幀數。
• return_tensors (str 或 TensorType, 可選) — 如果設定為 `pt`，則返回堆疊的張量，否則返回張量列表。
• data_format (ChannelDimension 或 str, 可選, 預設為 ChannelDimension.FIRST) — 輸出影片的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影片格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影片格式為 (height, width, num_channels)。
  • 未設定：使用輸入影片的通道維度格式。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影片的通道維度格式。如果未設定，將從輸入影片中推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影片格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影片格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE: 影片格式為 (height, width)。
• device (torch.device, 可選) — 處理影片的裝置。如果未設定，將從輸入影片中推斷裝置。

引數

• images (Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]) — 要預處理的影像。期望是單個或一批畫素值在 0 到 255 範圍內的影像。如果傳入的影像畫素值在 0 到 1 之間，請設定 do_rescale=False。
• videos (Union[list['PIL.Image.Image'], np.ndarray, torch.Tensor, list['np.ndarray'], list['torch.Tensor'], list[list['PIL.Image.Image']], list[list['np.ndarrray']], list[list['torch.Tensor']]]) — 要預處理的影片。期望是單個或一批畫素值在 0 到 255 範圍內的影片。如果傳入的影片畫素值在 0 到 1 之間，請設定 do_rescale=False。
• do_resize (bool, 可選) — 是否調整影像大小。
• size (dict[str, int], 可選) — 描述模型的最大輸入維度。
• resample (Union[PILImageResampling, F.InterpolationMode, NoneType]) — 如果調整影像大小，則使用此重取樣濾波器。這可以是 PILImageResampling 列舉之一。僅在 do_resize 設定為 True 時生效。
• do_rescale (bool, 可選) — 是否縮放影像。
• rescale_factor (float, 可選) — 如果 `do_rescale` 設定為 `True`，則用於縮放影像的比例因子。
• do_normalize (bool, 可選) — 是否對影像進行歸一化。
• image_mean (Union[float, list[float], NoneType]) — 用於歸一化的影像均值。僅在 `do_normalize` 設定為 `True` 時生效。
• image_std (Union[float, list[float], NoneType]) — 用於歸一化的影像標準差。僅在 `do_normalize` 設定為 `True` 時生效。
• min_pixels (int, 可選, 預設為 56 * 56) — 調整影像大小時允許的最小畫素數。
• max_pixels (int, 可選, 預設為 28 * 28 * 1280) — 調整影像大小時允許的最大畫素數。
• patch_size (int, 可選, 預設為 14) — 視覺編碼器的空間補丁大小。
• temporal_patch_size (int, 可選, 預設為 2) — 視覺編碼器的時間補丁大小。
• merge_size (int, 可選, 預設為 2) — 視覺編碼器到大語言模型編碼器的合併大小。
• do_convert_rgb (bool, 可選) — 是否將影像轉換為RGB格式。
• return_tensors (Union[str, ~utils.generic.TensorType, NoneType]) — 若設定為 `pt`，則返回堆疊的張量，否則返回一個張量列表。
• data_format (~image_utils.ChannelDimension, 可選, 預設為 ChannelDimension.FIRST) — 僅支援 `ChannelDimension.FIRST`。為與慢速處理器相容而新增。
• input_data_format (Union[str, ~image_utils.ChannelDimension, NoneType]) — 輸入影像的通道維度格式。如果未設定，則從輸入影像中推斷通道維度格式。可以是以下之一：
  • `"channels_first"` 或 `ChannelDimension.FIRST`: 影像格式為 (num_channels, height, width)。
  • `"channels_last"` 或 `ChannelDimension.LAST`: 影像格式為 (height, width, num_channels)。
  • `"none"` 或 `ChannelDimension.NONE`: 影像格式為 (height, width)。
• device (torch.device, 可選) — 處理影像的裝置。如果未設定，則從輸入影像中推斷裝置。
• disable_grouping (bool, 可選, 預設為 False) — 是否停用按尺寸對影像進行分組，以便單獨處理而不是分批處理。如果為 `None`，則在影像位於 CPU 上時設定為 `True`，否則設定為 `False`。這一選擇基於經驗觀察，詳見：https://github.com/huggingface/transformers/pull/38157

引數

• generated_outputs (torch.Tensor 或 np.ndarray) — 模型 `generate` 函式的輸出。輸出應為形狀為 `(batch_size, sequence_length)` 或 `(sequence_length,)` 的張量。
• skip_special_tokens (bool, 可選, 預設為 True) — 是否在輸出中移除特殊標記。該引數會傳遞給分詞器的 `batch_decode` 方法。
• clean_up_tokenization_spaces (bool, 可選, 預設為 False) — 是否清理分詞產生的空格。該引數會傳遞給分詞器的 `batch_decode` 方法。
• **kwargs — 傳遞給分詞器 `batch_decode` 方法的其他引數。

解碼後的文字。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選自 `[0, 1]`：
  • 1 表示**未被掩碼**的標記，
  • 0 表示**被掩碼**的標記。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選自範圍 `[0, config.n_positions - 1]`。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速序列解碼。這通常是模型在先前的解碼階段返回的 `past_key_values`，當 `use_cache=True` 或 `config.use_cache=True` 時。

  支援兩種格式：

  • Cache 例項，請參閱我們的 KV 快取指南；
  • 長度為 `config.n_layers` 的 `tuple(torch.FloatTensor)` 元組，其中每個元組包含兩個形狀為 `(batch_size, num_heads, sequence_length, embed_size_per_head)` 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 `past_key_values`，則將返回舊版快取格式。

  如果使用 `past_key_values`，使用者可以選擇只輸入最後一個 `input_ids`（那些沒有為其提供過去鍵值狀態的標記），形狀為 `(batch_size, 1)`，而不是所有形狀為 `(batch_size, sequence_length)` 的 `input_ids`。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size), 可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 `input_ids`。如果您希望比模型內部的嵌入查詢矩陣更能控制如何將 `input_ids` 索引轉換為相關向量，這將非常有用。
• use_cache (bool, 可選) — 如果設定為 `True`，則返回 `past_key_values` 鍵值狀態，可用於加速解碼（參見 `past_key_values`）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。
• cache_position (torch.LongTensor，形狀為 `(sequence_length)`, 可選) — 表示輸入序列標記在序列中位置的索引。與 `position_ids` 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.modeling_outputs.BaseModelOutputWithPast 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），根據配置 (Qwen2VLConfig) 和輸入包含不同的元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  如果使用了 past_key_values，則只輸出形狀為 (batch_size, 1, hidden_size) 的序列的最後一個隱藏狀態。

• past_key_values (`Cache`, 可選, 當傳遞 `use_cache=True` 或 `config.use_cache=True` 時返回) — 這是一個 Cache 例項。有關更多詳細資訊，請參閱我們的 KV 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值，以及當 `config.is_encoder_decoder=True` 時，在交叉注意力塊中的鍵和值），可用於（參見 `past_key_values` 輸入）加速序列解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（一個用於嵌入層的輸出（如果模型有嵌入層），再加上每個層的輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選自 `[0, 1]`：
  • 1 表示**未被掩碼**的標記，
  • 0 表示**被掩碼**的標記。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選自範圍 `[0, config.n_positions - 1]`。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速序列解碼。這通常是模型在先前的解碼階段返回的 `past_key_values`，當 `use_cache=True` 或 `config.use_cache=True` 時。

  支援兩種格式：

  • Cache 例項，請參閱我們的 KV 快取指南；
  • 長度為 `config.n_layers` 的 `tuple(torch.FloatTensor)` 元組，其中每個元組包含兩個形狀為 `(batch_size, num_heads, sequence_length, embed_size_per_head)` 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 `past_key_values`，則將返回舊版快取格式。

  如果使用 `past_key_values`，使用者可以選擇只輸入最後一個 `input_ids`（那些沒有為其提供過去鍵值狀態的標記），形狀為 `(batch_size, 1)`，而不是所有形狀為 `(batch_size, sequence_length)` 的 `input_ids`。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，可選) — 可選地，你可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果你想比模型內部的嵌入查詢矩陣更好地控制如何將 input_ids 索引轉換為相關向量，這會很有用。
• use_cache (bool，可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool，可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。
• pixel_values (torch.Tensor，形狀為 (batch_size, num_channels, image_size, image_size)，可選) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參見 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (torch.FloatTensor，形狀為 `(seq_length, num_channels * temporal_size * image_size * image_size)`) — 對應於輸入影片的張量。畫素值可以使用 AutoImageProcessor 獲取。有關詳細資訊，請參見 Qwen2VLImageProcessor.call()。Qwen2VLProcessor 使用 Qwen2VLImageProcessor 處理影片。
• image_grid_thw (torch.LongTensor，形狀為 (num_images, 3)，可選) — LLM 中每張影像特徵形狀的時間、高度和寬度。
• video_grid_thw (torch.LongTensor，形狀為 (num_videos, 3)，可選) — LLM 中每個影片特徵形狀的時間、高度和寬度。
• rope_deltas (torch.LongTensor，形狀為 (batch_size, )，可選) — 序列長度和多模態 RoPE 之間的 RoPE 索引差異。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，可選) — 描述輸入序列詞元在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.models.qwen2_vl.modeling_qwen2_vl.Qwen2VLModelOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（Qwen2VLConfig）和輸入，包含各種元素。

• last_hidden_state (<class 'torch.FloatTensor'>.last_hidden_state，形狀為 (batch_size, sequence_length, hidden_size)，預設為 None) — 模型最後一層輸出的隱藏狀態序列。

• past_key_values (tuple(tuple(torch.FloatTensor))，可選，當傳遞 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 的元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor]，可選，當傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（一個用於嵌入層的輸出（如果模型有嵌入層），以及一個用於每個層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor]，可選，當傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度和多模態 RoPE 之間的 RoPE 索引差異。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列詞元的索引。預設情況下將忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，可選) — 用於避免對填充詞元索引執行注意力的掩碼。掩碼值選自 [0, 1]：
  • 1 表示未被掩碼的詞元，
  • 0 表示被掩碼的詞元。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 位置嵌入中每個輸入序列詞元的位置索引。選自範圍 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor]，可選) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括在解碼的先前階段由模型返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 的元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇僅輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有為其提供過去鍵值狀態的詞元），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，可選) — 可選地，你可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果你想比模型內部的嵌入查詢矩陣更好地控制如何將 input_ids 索引轉換為相關向量，這會很有用。
• labels (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（參見 input_ids 文件字串）。索引設定為 -100 的詞元將被忽略（掩碼），損失僅對標籤在 [0, ..., config.vocab_size] 內的詞元計算。
• use_cache (bool，可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• pixel_values (torch.Tensor，形狀為 (batch_size, num_channels, image_size, image_size)，可選) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參見 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (torch.FloatTensor，形狀為 `(seq_length, num_channels * temporal_size * image_size * image_size)`) — 對應於輸入影片的張量。畫素值可以使用 AutoImageProcessor 獲取。有關詳細資訊，請參見 Qwen2VLImageProcessor.call()。Qwen2VLProcessor 使用 Qwen2VLImageProcessor 處理影片。
• image_grid_thw (torch.LongTensor，形狀為 (num_images, 3)，可選) — LLM 中每張影像特徵形狀的時間、高度和寬度。
• video_grid_thw (torch.LongTensor，形狀為 (num_videos, 3)，可選) — LLM 中每個影片特徵形狀的時間、高度和寬度。
• rope_deltas (torch.LongTensor，形狀為 (batch_size, )，可選) — 序列長度和多模態 RoPE 之間的 RoPE 索引差異。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，可選) — 描述輸入序列詞元在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.models.qwen2_vl.modeling_qwen2_vl.Qwen2VLCausalLMOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（Qwen2VLConfig）和輸入，包含各種元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor))，可選，當傳遞 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 的元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor]，可選，當傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（一個用於嵌入層的輸出（如果模型有嵌入層），以及一個用於每個層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor]，可選，當傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度和多模態 RoPE 之間的 RoPE 索引差異。