引數

• images (PIL.Image.Image, np.ndarray, torch.Tensor, list[PIL.Image.Image], list[np.ndarray], list[torch.Tensor]) — 待準備的影像或影像批次。每個影像可以是 PIL 影像、NumPy 陣列或 PyTorch 張量。支援 channels-first 和 channels-last 兩種格式。
• do_resize (bool, 可選, 預設為 self.do_resize) — 是否調整影像大小。
• size (dict[str, int], 可選, 預設為 self.size) — 調整大小後圖像的尺寸。影像的最短邊將調整為 size["shortest_edge"]，最長邊則按比例調整以保持輸入影像的寬高比。
• image_grid_pinpoints (List 可選, 預設為 self.image_grid_pinpoints) — 用於處理高解析度影像的可能解析度列表。最佳解析度根據影像的原始尺寸選擇。
• resample (int, 可選, 預設為 self.resample) — 調整影像大小時使用的重取樣濾波器。可以是 `PILImageResampling` 列舉之一。僅當 `do_resize` 設定為 `True` 時有效。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否重新縮放影像。
• rescale_factor (float, 可選, 預設為 self.rescale_factor) — 如果 `do_rescale` 設定為 `True`，則用於重新縮放影像的縮放因子。
• do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否對影像進行歸一化。
• image_mean (float or list[float], 可選, 預設為 self.image_mean) — 用於歸一化的影像均值。僅當 `do_normalize` 設定為 `True` 時有效。
• image_std (float or list[float], 可選, 預設為 self.image_std) — 用於歸一化的影像標準差。僅當 `do_normalize` 設定為 `True` 時有效。
• do_pad (bool, 可選, 預設為 self.do_pad) — 是否對影像進行填充。如果為 `True`，則將批次中影像的補丁維度填充到批次中最大的補丁數。將使用零在底部和右側進行填充。
• do_convert_rgb (bool, 可選, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB 格式。
• return_tensors (str or TensorType, 可選) — 返回張量的型別。可以是以下之一：
  • 未設定：返回 `np.ndarray` 列表。
  • TensorType.TENSORFLOW 或 'tf'：返回 `tf.Tensor` 型別的批次。
  • TensorType.PYTORCH 或 'pt'：返回 `torch.Tensor` 型別的批次。
  • TensorType.NUMPY 或 'np'：返回 `np.ndarray` 型別的批次。
  • TensorType.JAX 或 'jax'：返回 `jax.numpy.ndarray` 型別的批次。
• data_format (ChannelDimension or str, 可選, 預設為 ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • 未設定：使用輸入影像的通道維度格式。
• input_data_format (ChannelDimension or str, 可選) — 輸入影像的通道維度格式。如果未設定，則從輸入影像中推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (height, width)。

引數

• images (Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]) — 待預處理的影像。需要單個或一批畫素值在 0 到 255 範圍內的影像。如果傳入畫素值在 0 到 1 之間的影像，請設定 `do_rescale=False`。
• do_resize (bool, 可選) — 是否調整影像大小。
• size (dict[str, int], 可選) — 描述模型的最大輸入尺寸。
• default_to_square (bool, 可選) — 當 size 是一個整數時，調整大小時是否預設為方形影像。
• resample (Union[PILImageResampling, F.InterpolationMode, NoneType]) — 調整影像大小時使用的重取樣濾波器。可以是 `PILImageResampling` 列舉之一。僅當 `do_resize` 設定為 `True` 時有效。
• do_center_crop (bool, 可選) — 是否對影像進行中心裁剪。
• crop_size (dict[str, int], 可選) — 應用 `center_crop` 後輸出影像的尺寸。
• do_rescale (bool, 可選) — 是否重新縮放影像。
• rescale_factor (Union[int, float, NoneType]) — 如果 `do_rescale` 設定為 `True`，則用於重新縮放影像的縮放因子。
• do_normalize (bool, 可選) — 是否對影像進行歸一化。
• image_mean (Union[float, list[float], NoneType]) — 用於歸一化的影像均值。僅當 `do_normalize` 設定為 `True` 時有效。
• image_std (Union[float, list[float], NoneType]) — 用於歸一化的影像標準差。僅當 `do_normalize` 設定為 `True` 時有效。
• do_convert_rgb (bool, 可選) — 是否將影像轉換為 RGB 格式。
• return_tensors (Union[str, ~utils.generic.TensorType, NoneType]) — 如果設定為 `pt`，則返回堆疊的張量，否則返回張量列表。
• data_format (~image_utils.ChannelDimension, 可選) — 僅支援 `ChannelDimension.FIRST`。為與慢速處理器相容而新增。
• input_data_format (Union[str, ~image_utils.ChannelDimension, NoneType]) — 輸入影像的通道維度格式。如果未設定，則從輸入影像中推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (height, width)。
• device (torch.device, 可選) — 處理影像的裝置。如果未設定，則從輸入影像中推斷裝置。
• disable_grouping (bool, 可選) — 是否停用按尺寸對影像進行分組，以便單獨處理而不是按批次處理。如果為 None，則如果影像在 CPU 上，則設定為 True，否則設定為 False。此選擇基於經驗觀察，詳見：https://github.com/huggingface/transformers/pull/38157
• image_grid_pinpoints (list[list[int]], 可選) — 用於處理高解析度影像的可能解析度列表。最佳解析度根據影像的原始尺寸選擇。可在 `preprocess` 方法中透過 `image_grid_pinpoints` 引數覆蓋。
• do_pad (bool, 可選) — 是否對影像進行填充。如果為 `True`，則將批次中影像的補丁維度填充到批次中最大的補丁數。將使用零在底部和右側進行填充。

• data (dict) — 由 call 方法返回的列表/陣列/張量字典（“pixel_values”等）。
• tensor_type (Union[None, str, TensorType], 可選) — 您可以在此處提供一個`tensor_type`，以便在初始化時將整數列表轉換為PyTorch/TensorFlow/Numpy張量。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。可以使用 {image_processor_class} 獲取畫素值。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• image_sizes (torch.LongTensor，形狀為 (batch_size, 2)，*可選*) — 批次中影像的大小，每個影像為 (height, width)。
• pixel_values_videos (torch.FloatTensor，形狀為 (batch_size, frames, num_channels, image_size, image_size)) -- 對應於輸入影片的張量。可以使用 [LlavaNextVideoProcessor](/docs/transformers/v4.53.3/en/model_doc/llava_next_video#transformers.LlavaNextVideoProcessor) 獲取畫素值。有關詳細資訊，請參閱 `LlavaNextVideoProcessor.__call__()`。 LlavaProcessor 使用 LlavaNextVideoProcessor 處理影片。
• image_sizes_videos (torch.LongTensor，形狀為 (batch_size, frames, 2)，*可選*) — 批次中影片的大小，表示影片中每幀的 (height, width)。
• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，*可選*) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示標記未被遮蔽，
  • 0 表示標記已被遮蔽。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，*可選*) — 位置嵌入中每個輸入序列標記的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor]，*可選*) — 預計算的隱藏狀態（自注意塊和交叉注意塊中的鍵和值），可用於加速序列解碼。這通常包括在解碼的先前階段，當 use_cache=True 或 config.use_cache=True 時，模型返回的 past_key_values。

  允許兩種格式：

  • 一個 Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有為其提供過去鍵值狀態的標記），形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，*可選*) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 `input_ids`。如果您希望比模型的內部嵌入查詢矩陣更多地控制如何將 `input_ids` 索引轉換為相關向量，這將非常有用。
• vision_feature_layer (Union[int, list[int], NoneType]) — 用於選擇視覺特徵的層的索引。如果提供多個索引，相應索引的視覺特徵將被連線以形成視覺特徵。
• vision_feature_select_strategy (str，*可選*，預設為 "default") — 用於從視覺主幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。如果為 "default"，則從視覺特徵中移除 CLS 標記。如果為 "full"，則使用完整的視覺特徵。
• vision_aspect_ratio (str，*可選*，預設為 "anyres_max_9") — 處理影像特徵時使用的寬高比。預設值為“anyres_max_9”。
• batch_num_images (torch.LongTensor，*可選*) — 每個樣本中的影像數量。
• use_cache (bool，*可選*) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool，*可選*) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參見返回張量下的 `attentions`。
• output_hidden_states (bool，*可選*) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參見返回張量下的 `hidden_states`。
• return_dict (bool，*可選*) — 是否返回 ModelOutput 而不是普通的元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，*可選*) — 描繪輸入序列標記在序列中位置的索引。與 `position_ids` 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.models.llava_onevision.modeling_llava_onevision.LlavaOnevisionModelOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（LlavaOnevisionConfig）和輸入，包含各種元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可選) — 模型最後一層輸出的隱藏狀態序列。

• past_key_values (tuple(tuple(torch.FloatTensor))，*可選*，在傳遞 `use_cache=True` 或 `config.use_cache=True` 時返回) — 長度為 `config.n_layers` 的 `tuple(torch.FloatTensor)` 元組，每個元組包含 2 個形狀為 `(batch_size, num_heads, sequence_length, embed_size_per_head)` 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor, ...]，*可選*，在傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（一個用於嵌入層的輸出，如果模型有嵌入層，+ 一個用於每層的輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor, ...]，*可選*，在傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor，*可選*) — 一個大小為 `(batch_size, num_images, sequence_length, hidden_size)` 的 `torch.FloatTensor`。由視覺編碼器生成並投影最後一個隱藏狀態後得到的模型的 image_hidden_states。

• video_hidden_states (torch.FloatTensor，*可選*) — 一個大小為 `(batch_size * num_frames, num_videos, sequence_length, hidden_size)` 的 `torch.FloatTensor`。由視覺編碼器生成並投影最後一個隱藏狀態後得到的模型的 video_hidden_states。

引數

• pixel_values (torch.FloatTensor]，形狀為 (batch_size, num_patches, channels, height, width)) — 對應於輸入影像的張量。
• image_sizes (torch.Tensor，形狀為 (num_images, 2)) — 每個影像的實際影像大小（H, W）。
• vision_feature_layer (Union[int, list[int]]) — 用於選擇視覺特徵的層的索引。如果提供多個索引，相應索引的視覺特徵將被連線以形成視覺特徵。
• vision_feature_select_strategy (str) — 用於從視覺主幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。
• batch_num_images (torch.LongTensor，*可選*) — 每個樣本中的影像數量。

影像特徵張量列表，每個張量包含所有補丁的所有視覺特徵，形狀為 (num_patches, image_length, embed_dim)。

引數

• pixel_values (torch.FloatTensor]，形狀為 (batch_size, num_frames, channels, height, width)) — 對應於輸入影片的張量。
• vision_feature_layer (Union[int, list[int]]，*可選*，預設為 -2) — 用於選擇視覺特徵的層的索引。如果提供多個索引，相應索引的視覺特徵將被連線以形成視覺特徵。
• vision_feature_select_strategy (str) — 用於從視覺主幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。

影片特徵張量列表，每個張量包含所有補丁的視覺特徵，形狀為 (num_videos, video_length, embed_dim))。

引數

• image_features (長度為 num_images 的 list[torch.Tensor]，每個張量的形狀為 (num_patches, image_length, embed_dim)) — 影像特徵張量列表，每個張量包含所有補丁的視覺特徵。
• image_sizes (torch.Tensor，形狀為 (num_images, 2)) — 每個影像的實際影像大小（H, W）。
• image_newline (torch.Tensor，形狀為 (embed_dim)) — 換行嵌入向量。
• vision_aspect_ratio (str，*可選*，"anyres_max_9") — 處理影像特徵時使用的寬高比。預設值為“anyres_max_9”。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 來處理影像）。
• image_sizes (torch.LongTensor，形狀為 (batch_size, 2)，*可選*) — 批次中影像的尺寸，每個影像為 (height, width)。
• pixel_values_videos (torch.FloatTensor，形狀為 (batch_size, frames, num_channels, image_size, image_size)) -- 對應於輸入影片的張量。畫素值可以使用 [LlavaNextVideoProcessor](/docs/transformers/v4.53.3/zh/model_doc/llava_next_video#transformers.LlavaNextVideoProcessor) 獲取。有關詳細資訊，請參閱 `LlavaNextVideoProcessor.call()`。LlavaProcessor 使用 LlavaNextVideoProcessor 來處理影片。
• image_sizes_videos (torch.LongTensor，形狀為 (batch_size, frames, 2)，*可選*) — 批次中影片的尺寸，影片中每一幀的尺寸為 (height, width)。
• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，*可選*) — 用於避免在填充標記索引上執行注意力機制的掩碼。掩碼值選自 [0, 1]：
  • 1 表示標記未被掩碼，
  • 0 表示標記已被掩碼。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，*可選*) — 位置嵌入中每個輸入序列標記的位置索引。選值範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor]，*可選*) — 預先計算的隱藏狀態（自注意塊和交叉注意塊中的鍵和值），可用於加速順序解碼。這通常包括在解碼的前一階段由模型返回的 past_key_values，此時 use_cache=True 或 config.use_cache=True。

  允許兩種格式：

  • Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 past_key_values，則將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有向該模型提供其過去鍵值狀態的 ID），其形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，*可選*) — 可選地，你可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果你希望比模型內部的嵌入查詢矩陣更能控制如何將 input_ids 索引轉換為相關聯的向量，這會很有用。
• vision_feature_layer (Union[int, list[int], NoneType]) — 用於選擇視覺特徵的層的索引。如果提供了多個索引，則相應索引的視覺特徵將被連線起來以形成視覺特徵。
• vision_feature_select_strategy (str，*可選*，預設為 "default") — 用於從視覺主幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full"。如果為 "default"，則從視覺特徵中移除 CLS 標記。如果為 "full"，則使用完整的視覺特徵。
• vision_aspect_ratio (str，*可選*，預設為 "anyres_max_9") — 處理影像特徵時使用的寬高比。預設值為“anyres_max_9”。
• batch_num_images (torch.LongTensor，*可選*) — 每個樣本中的影像數量。
• labels (torch.LongTensor，形狀為 (batch_size, sequence_length)，*可選*) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（請參閱 input_ids 文件字串）。索引設定為 -100 的標記將被忽略（掩碼），損失僅針對標籤在 [0, ..., config.vocab_size] 範圍內的標記計算。
• use_cache (bool，*可選*) — 如果設定為 True，則返回 past_key_values 鍵值狀態，並可用於加速解碼（請參閱 past_key_values）。
• output_attentions (bool，*可選*) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool，*可選*) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool，*可選*) — 是否返回 ModelOutput 而不是普通元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，*可選*) — 描述輸入序列標記在序列中位置的索引。與 position_ids 相反，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor]，預設為 0) — 如果是 int，則為最後 logits_to_keep 個標記計算 logits。如果為 0，則為所有 input_ids 計算 logits（特殊情況）。生成時只需要最後一個標記的 logits，僅為該標記計算它們可以節省記憶體，這對於長序列或大詞彙表來說非常重要。如果是 torch.Tensor，則必須是一維的，對應於在序列長度維度中要保留的索引。當使用打包張量格式（批次和序列長度使用單一維度）時，這很有用。

一個 transformers.models.llava_onevision.modeling_llava_onevision.LlavaOnevisionCausalLMOutputWithPast 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（LlavaOnevisionConfig）和輸入，包含各種元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor))，*可選*，在傳遞 `use_cache=True` 或 `config.use_cache=True` 時返回) — 長度為 `config.n_layers` 的 `tuple(torch.FloatTensor)` 元組，每個元組包含 2 個形狀為 `(batch_size, num_heads, sequence_length, embed_size_per_head)` 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor]，*可選*，在傳遞 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（一個用於嵌入層的輸出，如果模型有嵌入層，+ 一個用於每層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor]，*可選*，在傳遞 output_attentions=True 或當 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor，*可選*) — 一個大小為 `(batch_size * num_patches, num_images, sequence_length, hidden_size)` 的 `torch.FloatTensor`。模型的 image_hidden_states 由視覺編碼器生成，並在投影最後一個隱藏狀態後得到。

• video_hidden_states (torch.FloatTensor，*可選*) — 一個大小為 `(batch_size * num_frames, num_videos, sequence_length, hidden_size)` 的 `torch.FloatTensor`。由視覺編碼器生成並投影最後一個隱藏狀態後得到的模型的 video_hidden_states。