引數

• images (ImageInput) — 要預處理的影像。期望單個或批次影像，畫素值範圍為 0 到 255。如果傳入的影像畫素值在 0 到 1 之間，請設定 do_rescale=False。
• do_resize (bool, optional, 預設為 self.do_resize) — 是否調整影像大小。
• size (dict[str, int], optional, 預設為 self.size) — 調整大小後的影像尺寸。影像的最短邊將調整為 size[“shortest_edge”]，最長邊將保持輸入長寬比。
• image_grid_pinpoints (List 可選, 預設為 self.image_grid_pinpoints) — 用於處理高解析度影像的可能解析度列表。根據影像的原始大小選擇最佳解析度。
• resample (int, optional, 預設為 self.resample) — 如果調整影像大小，則使用的重取樣濾波器。這可以是列舉 PILImageResampling 之一。僅當 do_resize 設定為 True 時有效。
• do_center_crop (bool, optional, 預設為 self.do_center_crop) — 是否中心裁剪影像。
• crop_size (dict[str, int], optional, 預設為 self.crop_size) — 中心裁剪的大小。僅當 do_center_crop 設定為 True 時有效。
• do_rescale (bool, optional, 預設為 self.do_rescale) — 是否縮放影像。
• rescale_factor (float, optional, 預設為 self.rescale_factor) — 如果 do_rescale 設定為 True，則按此縮放因子縮放影像。
• do_normalize (bool, optional, 預設為 self.do_normalize) — 是否歸一化影像。
• image_mean (float 或 list[float], optional, 預設為 self.image_mean) — 用於歸一化的影像平均值。僅在 do_normalize 設定為 True 時有效。
• image_std (float 或 list[float], optional, 預設為 self.image_std) — 用於歸一化的影像標準差。僅在 do_normalize 設定為 True 時有效。
• do_pad (bool, optional, 預設為 self.do_pad) — 是否對影像進行填充。如果為 True，將把批次中影像的補丁維度填充到批次中最大的補丁數量。填充將以零填充到底部和右側。
• do_convert_rgb (bool, optional, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB。
• return_tensors (str 或 TensorType, optional) — 返回張量的型別。可以是以下之一：
  • 未設定：返回 np.ndarray 列表。
  • TensorType.TENSORFLOW 或 'tf'：返回 tf.Tensor 批次。
  • TensorType.PYTORCH 或 'pt'：返回 torch.Tensor 批次。
  • TensorType.NUMPY 或 'np'：返回 np.ndarray 批次。
  • TensorType.JAX 或 'jax'：返回 jax.numpy.ndarray 批次。
• data_format (ChannelDimension 或 str, optional, 預設為 ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • 未設定：使用輸入影像的通道維度格式。
• input_data_format (ChannelDimension 或 str, optional) — 輸入影像的通道維度格式。如果未設定，則從輸入影像推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (height, width)。

引數

• input_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor) — 詞彙表中輸入序列標記的索引。預設情況下會忽略填充。

  索引可以使用 AutoTokenizer 獲取。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (形狀為 (batch_size, num_channels, image_size, image_size) 的 torch.FloatTensor) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• image_sizes (形狀為 (batch_size, 2) 的 torch.LongTensor, optional) — 批次中影像的大小，每個影像為 (高度, 寬度)。
• attention_mask (形狀為 (batch_size, sequence_length) 的 torch.Tensor, optional) — 用於避免在填充標記索引上執行注意力的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示未被掩碼的標記，
  • 0 表示被掩碼的標記。

  什麼是注意力掩碼？

• position_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor, optional) — 每個輸入序列標記在位置嵌入中的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], optional) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼上一階段返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也被稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳遞 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些未將過去的鍵值狀態提供給此模型的）而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, optional) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想對如何將 input_ids 索引轉換為相關向量有比模型內部嵌入查詢矩陣更多的控制，這會很有用。
• vision_feature_layer (Union[int, list[int], NoneType]) — 選擇視覺特徵的層索引。如果提供了多個索引，則相應索引的視覺特徵將連線起來形成視覺特徵。
• vision_feature_select_strategy (str, optional, 預設為 "default") — 用於從視覺骨幹網選擇視覺特徵的特徵選擇策略。可以是 "default" 或 "full" 之一。如果為 "default"，則從視覺特徵中刪除 CLS 標記。如果為 "full"，則使用完整的視覺特徵。
• labels (形狀為 (batch_size, sequence_length) 的 torch.LongTensor, optional) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（參見 input_ids 文件字串）。索引設定為 -100 的標記將被忽略（掩碼），損失僅針對標籤在 [0, ..., config.vocab_size] 中的標記計算。
• use_cache (bool, optional) — 如果設定為 True，將返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, optional) — 是否返回所有注意力層的注意力張量。有關詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, optional) — 是否返回所有層的隱藏狀態。有關詳細資訊，請參閱返回張量下的 hidden_states。
• cache_position (形狀為 (sequence_length) 的 torch.LongTensor, optional) — 表示輸入序列標記在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor], 預設為 0) — 如果是 int，則計算最後 logits_to_keep 個標記的 logits。如果是 0，則計算所有 input_ids 的 logits（特殊情況）。生成時只需要最後一個標記的 logits，並且僅對該標記計算 logits 可以節省記憶體，這對於長序列或大詞彙表大小變得相當重要。如果是 torch.Tensor，則必須是與序列長度維度中要保留的索引相對應的 1D 張量。當使用打包張量格式（批次和序列長度為單一維度）時，這很有用。

一個 transformers.models.llava_next.modeling_llava_next.LlavaNextCausalLMOutputWithPast 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或 config.return_dict=False），包含根據配置 (LlavaNextConfig) 和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor)), optional, 當傳遞 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor], optional, 當傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor], optional, 當傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor, optional) — 大小為 `(batch_size * num_patches, num_images, sequence_length, hidden_size)` 的 torch.FloatTensor。由視覺編碼器生成並投影最後一個隱藏狀態後的模型影像隱藏狀態。