引數

• images (VideoInput) — 要預處理的影片。期望單個或批處理的影片，畫素值範圍為 0 到 255。如果傳入的影像畫素值在 0 到 1 之間，請設定 do_rescale=False。
• do_resize (bool, optional, defaults to self.do_resize) — 是否調整影片大小。
• 0-11.315-11.315l-28.284 28.284a56 56 0 0 0 79.196 79.197l28.285-28.285a8 8 0 1 0-11.315-11.314zM212.852 43.14a56.002 56.002 0 0 0-79.196 0l-28.284 28.284a8 8 0 1 0 11.314 11.314l28.284-28.284a40 40 0 0 1 56.568 56.567l-28.285 28.285a8 8 0 0 0 11.315 11.314l28.284-28.284a56.065 56.065 0 0 0 0-79.196z" fill="currentColor"> size (dict[str, int], optional, defaults to self.size) — 調整大小後的影片尺寸。影片的最短邊將調整為 size["shortest_edge"]，最長邊將調整為保持輸入寬高比。
• resample (int, optional, defaults to self.resample) — 調整影片大小時使用的重取樣濾鏡。可以是列舉 PILImageResampling 之一。僅當 do_resize 設定為 True 時有效。
• do_center_crop (bool, optional, defaults to self.do_center_crop) — 是否對影片進行中心裁剪。
• crop_size (dict[str, int], optional, defaults to self.crop_size) — 中心裁剪的尺寸。僅當 do_center_crop 設定為 True 時有效。
• do_rescale (bool, optional, defaults to self.do_rescale) — 是否重新縮放影片。
• rescale_factor (float, optional, defaults to self.rescale_factor) — 如果 do_rescale 設定為 True，用於重新縮放影片的比例因子。
• do_normalize (bool, optional, defaults to self.do_normalize) — 是否對影片進行標準化。
• image_mean (float or list[float], optional, defaults to self.image_mean) — 用於標準化的幀均值。僅當 do_normalize 設定為 True 時有效。
• image_std (float or list[float], optional, defaults to self.image_std) — 用於標準化的幀標準差。僅當 do_normalize 設定為 True 時有效。
• do_convert_rgb (bool, optional, defaults to self.do_convert_rgb) — 是否將影片轉換為 RGB。
• return_tensors (str or TensorType, optional) — 要返回的張量型別。可以是以下之一：
  • 未設定：返回 np.ndarray 列表。
  • TensorType.TENSORFLOW 或 'tf'：返回 tf.Tensor 批處理。
  • TensorType.PYTORCH 或 'pt'：返回 torch.Tensor 批處理。
  • TensorType.NUMPY 或 'np'：返回 np.ndarray 批處理。
  • TensorType.JAX 或 'jax'：返回 jax.numpy.ndarray 批處理。
• data_format (ChannelDimension or str, optional, defaults to ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • 未設定：使用輸入影像的通道維度格式。
• input_data_format (ChannelDimension or str, optional) — 輸入影像的通道維度格式。如果未提供，將從輸入影像中推斷。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (height, width)。

引數

• image (np.ndarray) — 要調整大小的影像。
• size (dict[str, int]) — 輸出影像的尺寸。
• resample (PILImageResampling, optional, defaults to PILImageResampling.BICUBIC) — 調整影像大小時使用的重取樣濾鏡。
• data_format (str or ChannelDimension, optional) — 影像的通道維度格式。如果未提供，將與輸入影像的格式相同。
• input_data_format (ChannelDimension or str, optional) — 輸入影像的通道維度格式。如果未提供，將自動推斷。

引數

• input_ids (torch.LongTensor of shape (batch_size, sequence_length)) — 輸入序列詞彙表中令牌的索引。預設情況下會忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor of shape (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參見 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (torch.FloatTensor of shape (batch_size, num_frames, num_channels, image_size, image_size)) -- 對應於輸入影片的張量。畫素值可以使用 [AutoImageProcessor](/docs/transformers/v4.53.3/en/model_doc/auto#transformers.AutoImageProcessor) 獲取。有關詳細資訊，請參見 LlavaNextVideoVideoProcessor.call()`。 LlavaProcessor 使用 LlavaNextVideoVideoProcessor 處理影片。
• image_sizes (torch.LongTensor of shape (batch_size, 2), optional) — 批次中影像的尺寸，每個影像為（高度，寬度）。
• attention_mask (torch.Tensor of shape (batch_size, sequence_length), optional) — 用於避免對填充令牌索引執行注意力的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示 未被掩碼 的令牌，
  • 0 表示 被掩碼 的令牌。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor of shape (batch_size, sequence_length), optional) — 每個輸入序列令牌在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。通常由模型在解碼的先前階段返回，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，參見我們的 kv cache 指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也被稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入 past_key_values，則將返回舊版快取格式。

  如果使用了 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將其過去的鍵值狀態提供給此模型的），而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，可選) — 可選地，您可以選擇直接傳入嵌入表示，而不是傳入 input_ids。如果您想對如何將 input_ids 索引轉換為關聯向量擁有比模型內部嵌入查詢矩陣更多的控制權，這將非常有用。
• vision_feature_layer (Union[int, list[int], NoneType]) — 選擇視覺特徵的層索引。如果提供多個索引，則相應索引的視覺特徵將被連線起來形成視覺特徵。
• vision_feature_select_strategy (str, 可選) — 用於從視覺骨幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。
• use_cache (bool, 可選) — 如果設定為 True，將返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是純元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，可選) — 描述輸入序列令牌在序列中位置的索引。與 position_ids 相反，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個 transformers.models.llava_next_video.modeling_llava_next_video.LlavaNextVideoModelOutputWithPast 或一個 torch.FloatTensor 元組（如果傳入 return_dict=False 或當 config.return_dict=False 時），根據配置（LlavaNextVideoConfig）和輸入包含各種元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可選) — 模型最後一層輸出的隱藏狀態序列。

• past_key_values (tuple(tuple(torch.FloatTensor)), 可選, 當 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor, ...], 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層的輸出，如果模型有嵌入層，+ 每個層的輸出一個）的形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor, ...], 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個）的形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor, 可選) — 一個大小為 (batch_size, num_images, sequence_length, hidden_size) 的 torch.FloatTensor。由視覺編碼器生成並投影最後一個隱藏狀態後的 image_hidden_states。

• video_hidden_states (torch.FloatTensor, 可選) — 一個大小為 (batch_size * num_frames, num_videos, sequence_length, hidden_size) 的 torch.FloatTensor。由視覺編碼器生成並投影最後一個隱藏狀態後的 video_hidden_states。

引數

• pixel_values (torch.FloatTensor]，形狀為 (batch_size, num_patches, channels, height, width)) — 對應於輸入影像的張量。
• image_sizes (torch.Tensor，形狀為 (num_images, 2)) — 每張影像的實際尺寸 (高, 寬)。
• vision_feature_layer (Union[int, list[int]], 可選) — 選擇視覺特徵的層索引。如果提供多個索引，則相應索引的視覺特徵將被連線起來形成視覺特徵。
• vision_feature_select_strategy (str, 可選) — 用於從視覺骨幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full"

影像特徵張量列表，每個張量包含所有補丁的所有視覺特徵，形狀為 (num_patches, image_length, embed_dim)。

引數

• pixel_values (torch.FloatTensor]，形狀為 (batch_size, num_frames, channels, height, width)) — 對應於輸入影片的張量。畫素值可以使用 [AutoImageProcessor](/docs/transformers/v4.53.3/en/model_doc/auto#transformers.AutoImageProcessor) 獲取。有關詳細資訊，請參閱 LlavaNextVideoVideoProcessor.__call__()。LlavaProcessor 使用 LlavaNextVideoVideoProcessor 來處理影片。
• vision_feature_layer (Union[int, list[int]], 可選) — 選擇視覺特徵的層索引。如果提供多個索引，則相應索引的視覺特徵將被連線起來形成視覺特徵。
• vision_feature_select_strategy (str, 可選) — 用於從視覺骨幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full"

影片特徵張量列表，每個張量包含所有補丁的所有視覺特徵，形狀為 (num_videos, video_length, embed_dim)）。

引數

• image_features (list[torch.Tensor]，長度為 num_images，每個形狀為 (num_patches, image_length, embed_dim)) — 影像特徵張量列表，每個張量包含所有補丁的所有視覺特徵。
• image_sizes (torch.Tensor，形狀為 (num_images, 2)) — 每張影像的實際尺寸 (高, 寬)。
• vision_feature_select_strategy (str) — 用於從視覺骨幹中選擇視覺特徵的特徵選擇策略。
• image_newline (torch.Tensor，形狀為 (embed_dim)) — 新行嵌入向量。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列令牌的索引。填充將預設忽略。

  索引可以使用 AutoTokenizer 獲取。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (torch.FloatTensor，形狀為 (batch_size, num_frames, num_channels, image_size, image_size)) — 對應於輸入影片的張量。畫素值可以使用 [AutoImageProcessor](/docs/transformers/v4.53.3/en/model_doc/auto#transformers.AutoImageProcessor) 獲取。有關詳細資訊，請參閱 LlavaNextVideoVideoProcessor.__call__()。LlavaProcessor 使用 LlavaNextVideoVideoProcessor 來處理影片。
• image_sizes (torch.LongTensor，形狀為 (batch_size, 2)，可選) — 批次中影像的大小，每張影像為 (高, 寬)。
• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，可選) — 掩碼，用於避免在填充令牌索引上執行注意力。掩碼值選擇範圍為 [0, 1]：
  • 1 表示未掩碼的令牌，
  • 0 表示已掩碼的令牌。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 每個輸入序列令牌在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。通常由模型在解碼的先前階段返回，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，參見我們的 kv cache 指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也被稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入 past_key_values，則將返回舊版快取格式。

  如果使用了 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將其過去的鍵值狀態提供給此模型的），而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，可選) — 可選地，您可以選擇直接傳入嵌入表示，而不是傳入 input_ids。如果您想對如何將 input_ids 索引轉換為關聯向量擁有比模型內部嵌入查詢矩陣更多的控制權，這將非常有用。
• vision_feature_layer (Union[int, list[int], NoneType]) — 選擇視覺特徵的層索引。如果提供多個索引，則相應索引的視覺特徵將被連線起來形成視覺特徵。
• vision_feature_select_strategy (str, 可選) — 用於從視覺骨幹中選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。
• labels (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（參見 input_ids 文件字串）。索引設定為 -100 的令牌將被忽略（掩碼），損失只針對標籤在 [0, ..., config.vocab_size] 中的令牌計算。
• use_cache (bool, 可選) — 如果設定為 True，將返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是純元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，可選) — 描述輸入序列令牌在序列中位置的索引。與 position_ids 相反，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor], 預設為 0) — 如果是 int，則計算最後 logits_to_keep 個令牌的 logits。如果是 0，則計算所有 input_ids 的 logits（特殊情況）。僅在生成時才需要最後一個令牌的 logits，並且僅對其計算可以節省記憶體，這對於長序列或大詞彙量來說非常重要。如果是 torch.Tensor，則必須是 1D，對應於序列長度維度中要保留的索引。這在使用打包張量格式（批次和序列長度的單個維度）時非常有用。

一個 transformers.models.llava_next_video.modeling_llava_next_video.LlavaNextVideoCausalLMOutputWithPast 或一個 torch.FloatTensor 元組（如果傳入 return_dict=False 或當 config.return_dict=False 時），根據配置（LlavaNextVideoConfig）和輸入包含各種元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor)), 可選, 當 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor], 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層的輸出，如果模型有嵌入層，+ 每個層的輸出一個）的形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor], 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個）的形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor, 可選) — 一個大小為 (batch_size * num_patches, num_images, sequence_length, hidden_size)` 的 torch.FloatTensor。由視覺編碼器生成並投影最後一個隱藏狀態後的 image_hidden_states。

• video_hidden_states (torch.FloatTensor, 可選) — 一個大小為 (batch_size * num_frames, num_videos, sequence_length, hidden_size) 的 torch.FloatTensor。由視覺編碼器生成並投影最後一個隱藏狀態後的 video_hidden_states。