引數

• generated_outputs (torch.Tensor 或 np.ndarray) — 模型 generate 函式的輸出。輸出應為形狀為 (batch_size, sequence_length) 或 (sequence_length,) 的張量。
• skip_special_tokens (bool, 可選, 預設為 True) — 是否在輸出中刪除特殊標記。引數傳遞給標記器的 batch_decode 方法。
• clean_up_tokenization_spaces (bool, 可選, 預設為 False) — 是否清除標記化空間。引數傳遞給標記器的 batch_decode 方法。
• **kwargs — 要傳遞給標記器 batch_decode 方法 的附加引數。

解碼後的文字。

引數

• image (np.ndarray) — 要調整大小的影像。
• size (dict[str, int]) — 輸出影像的大小。
• aspect_ratio (tuple[int, int]) — 影像的縱橫比。
• data_format (str 或 ChannelDimension, 可選) — 影像的通道維度格式。如果未提供，將與輸入影像的格式相同。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影像的通道維度格式。如果未提供，將自動推斷。

填充後的影像。

引數

• images (ImageInput) — 要預處理的影像列表。
• do_convert_rgb (bool, 可選, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB。
• do_resize (bool, 可選, 預設為 self.do_resize) — 是否調整影像大小。
• size (dict[str, int], 可選, 預設為 self.size) — 影像圖塊的大小。應為包含“height”和“width”鍵的字典，兩者均具有整數值。height 和 width 的值應相等。
• resample (int, 可選, 預設為 self.resample) — 如果調整影像大小，要使用的重取樣過濾器。這可以是列舉 PILImageResampling 之一。僅當 do_resize 設定為 True 時才有效。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否重新縮放影像。
• rescale_factor (float, 可選, 預設為 self.rescale_factor) — 如果 do_rescale 設定為 True，則用於重新縮放影像的縮放因子。
• do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否標準化影像。
• image_mean (float 或 list[float], 可選, 預設為 self.image_mean) — 用於標準化的影像均值。僅當 do_normalize 設定為 True 時才有效。
• image_std (float 或 list[float], 可選, 預設為 self.image_std) — 用於標準化的影像標準差。僅當 do_normalize 設定為 True 時才有效。
• do_pad (bool, 可選, 預設為 self.do_pad) — 是否將影像填充到批次中最大的高度和寬度。
• max_image_tiles (int, 可選, 預設為 self.max_image_tiles) — 將影像分割成的最大圖塊數。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影像的通道維度格式。如果未設定，將從輸入影像推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE: 影像格式為 (height, width)。
• return_tensors (str 或 TensorType, 可選) — 要返回的張量型別。可以是以下之一：
  • 未設定：返回 np.ndarray 列表。
  • TensorType.TENSORFLOW 或 'tf': 返回型別為 tf.Tensor 的批處理。
  • TensorType.PYTORCH 或 'pt': 返回型別為 torch.Tensor 的批處理。
  • TensorType.NUMPY 或 'np': 返回型別為 np.ndarray 的批處理。
  • TensorType.JAX 或 'jax': 返回型別為 jax.numpy.ndarray 的批處理。

• pixel_values (TensorType): 預處理後的畫素值。
• aspect_ratio_ids (TensorType): 影像的縱橫比 ID。
• num_tiles (list[list[int]]): 批次中每張影像的圖塊數。

引數

• image (np.ndarray) — 要調整大小的影像。
• size (dict[str, int]) — 輸出影像的大小。
• max_image_tiles (int) — 將影像分割成的最大圖塊數。
• resample (PILImageResampling, 可選, 預設為 PILImageResampling.BICUBIC) — 調整影像大小時使用的重取樣過濾器。
• data_format (str 或 ChannelDimension, 可選) — 影像的通道維度格式。如果未提供，將與輸入影像的格式相同。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影像的通道維度格式。如果未提供，將自動推斷。

調整大小後的影像以及沿高度和寬度維度的圖塊數量元組。

引數

• input_ids (torch.LongTensor 形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列 token 的索引。預設情況下會忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是 input ID？

• pixel_values (torch.FloatTensor 形狀為 (batch_size, num_channels, image_size, image_size), 可選) — 對應輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參見 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• aspect_ratio_mask (torch.Tensor 形狀為 (batch_size, max_num_images, max_num_tiles), 可選) — 用於避免對填充圖塊執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示未被掩碼的圖塊，
  • 0 表示被掩碼的圖塊。
• aspect_ratio_ids (torch.Tensor 形狀為 (batch_size, max_num_images), 可選) — 縱橫比 ID，用於根據每個輸入影像的縱橫比選擇適當的預計算圖塊嵌入。這些 ID 對應於模型支援的縱橫比列表中的索引，偏移量為 1。

  例如，如果模型支援縱橫比 [[1, 1], [1, 2], [2, 1]]：

  • 縱橫比為 [1, 1] 的影像 ID 為 1
  • 縱橫比為 [1, 2] 的影像 ID 為 2
  • 縱橫比為 [2, 1] 的影像 ID 為 3

  ID 0 保留用於填充（即，無影像）。

  如果影像的縱橫比為 [1, 2]，這意味著它被水平分割成 2 個圖塊，其 aspect_ratio_id 將為 2。

• attention_mask (torch.Tensor 形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充 token 索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示未被掩碼的 token，
  • 0 表示被掩碼的 token。

  什麼是注意力掩碼？

• cross_attention_mask (torch.Tensor 形狀為 (batch_size, seq_length, max_num_images, max_num_tiles), 可選) — 交叉注意力掩碼，用於控制文字 token 和影像圖塊之間的互動。此 4D 張量定義了每個文字 token 應關注哪些影像圖塊。

  對於每個文字 token（在 seq_length 中）：

  • 1 表示 token 應關注相應的影像圖塊
  • 0 表示 token 不應關注相應的影像圖塊
• cross_attention_states (torch.FloatTensor, 可選) — 視覺模型的輸出，用於交叉注意力。此張量包含語言模型將關注的已處理影像特徵。
• position_ids (torch.LongTensor 形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列 token 在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (Union[~cache_utils.Cache, list[torch.FloatTensor], NoneType]) — 預計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼上一階段返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也被稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇僅輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將其過去的鍵值狀態提供給此模型的 token），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (torch.FloatTensor 形狀為 (batch_size, sequence_length, hidden_size), 可選) — 可選地，您可以直接傳入嵌入表示，而不是傳入 input_ids。如果您希望對 input_ids 索引如何轉換為相關向量有比模型內部嵌入查詢矩陣更強的控制，這會很有用。
• labels (torch.LongTensor 形狀為 (batch_size, sequence_length), 可選) — 用於計算 masked language modeling 損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（參見 input_ids 文件字串）。索引設定為 -100 的 token 將被忽略（被掩碼），損失僅針對標籤在 [0, ..., config.vocab_size] 中的 token 計算。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
• cache_position (torch.LongTensor 形狀為 (sequence_length), 可選) — 表示輸入序列 token 在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor], 預設為 0) — 如果是 int，則計算最後 logits_to_keep 個 token 的 logits。如果是 0，則計算所有 input_ids 的 logits（特殊情況）。生成時只需要最後一個 token 的 logits，只計算該 token 可以節省記憶體，這對於長序列或大詞彙量來說非常重要。如果是 torch.Tensor，則必須是與序列長度維度中要保留的索引相對應的 1D 張量。當使用打包張量格式（批次和序列長度的單個維度）時，這很有用。

一個 transformers.modeling_outputs.CausalLMOutputWithPast 或 torch.FloatTensor 元組（如果傳入 return_dict=False 或 config.return_dict=False），包含根據配置 (MllamaConfig) 和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關詳細資訊，請參閱我們的 kv 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 詞彙表中輸入序列標記的索引。預設情況下會忽略填充。

  可以使用AutoTokenizer獲取索引。有關詳細資訊，請參閱PreTrainedTokenizer.encode()和PreTrainedTokenizer.call()。

  什麼是輸入ID？

• attention_mask (形狀為(batch_size, sequence_length)的torch.Tensor，可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在[0, 1]中選擇：
  • 1表示未被掩碼的標記，
  • 0表示被掩碼的標記。

  什麼是注意力掩碼？

• position_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.n_positions - 1]。

  什麼是位置ID？

• cross_attention_states (torch.FloatTensor, 可選) — 視覺模型的輸出，用於交叉注意力。此張量包含語言模型將關注的已處理影像特徵。
• cross_attention_mask (形狀為(batch_size, seq_length, max_num_images, max_num_tiles)的torch.Tensor，可選) — 交叉注意力掩碼，用於控制文字標記和影像塊之間的互動。此4D張量定義了每個文字標記應關注哪些影像塊。

  對於每個文字標記（在seq_length中）：

  • 1表示標記應關注對應的影像塊
  • 0表示標記不應關注對應的影像塊
• full_text_row_masked_out_mask (tuple[torch.Tensor, torch.Tensor]，可選) — 包含兩個張量的元組，用於掩蓋交叉注意力機制中的行：
  • 第一個張量的形狀為(batch_size, 1, seq_length, 1)，包含0或1的值。值為0表示對應的文字標記在交叉注意力矩陣中的整行應被掩蓋（所有影像標記被忽略）。
  • 第二個張量具有相同的形狀，並在交叉注意力層的正向傳播期間內部用於應用掩碼。此掩碼派生自cross_attention_mask，用於處理文字標記不應關注任何影像標記的情況。
• past_key_values (Union[~cache_utils.Cache, list[torch.FloatTensor], NoneType]) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的past_key_values，當use_cache=True或config.use_cache=True時。

  允許兩種格式：

  • 一個Cache例項，請參閱我們的kv快取指南；
  • 長度為config.n_layers的tuple(torch.FloatTensor)元組，每個元組包含2個形狀為(batch_size, num_heads, sequence_length, embed_size_per_head)的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入past_key_values，將返回舊版快取格式。

  如果使用past_key_values，使用者可以選擇僅輸入最後一個input_ids（那些沒有將其過去的鍵值狀態提供給此模型的）形狀為(batch_size, 1)，而不是所有形狀為(batch_size, sequence_length)的input_ids。

• inputs_embeds (形狀為(batch_size, sequence_length, hidden_size)的torch.FloatTensor，可選) — 可選地，您可以選擇直接傳入嵌入表示而不是傳入input_ids。如果您希望對如何將input_ids索引轉換為關聯向量有比模型內部嵌入查詢矩陣更多的控制，這將非常有用。
• labels (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 用於計算掩碼語言建模損失的標籤。索引應在[0, ..., config.vocab_size]或-100（請參閱input_ids文件字串）中。索引設定為-100的標記將被忽略（掩碼），損失僅針對標籤在[0, ..., config.vocab_size]中的標記計算。
• use_cache (bool, 可選) — 如果設定為True，則返回past_key_values鍵值狀態，可用於加速解碼（請參閱past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的hidden_states。
• return_dict (bool, 可選) — 是否返回ModelOutput而不是普通元組。
• cache_position (形狀為(sequence_length)的torch.LongTensor，可選) — 描述輸入序列標記在序列中位置的索引。與position_ids不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor]，預設為0) — 如果是int，則計算最後logits_to_keep個標記的logits。如果是0，則計算所有input_ids的logits（特殊情況）。生成時只需要最後一個標記的logits，僅為該標記計算可以節省記憶體，這對於長序列或大詞彙量來說非常顯著。如果是torch.Tensor，必須是與序列長度維度中要保留的索引相對應的1D張量。這在使用打包張量格式（批處理和序列長度的單一維度）時非常有用。

一個 transformers.modeling_outputs.CausalLMOutputWithPast 或 torch.FloatTensor 元組（如果傳入 return_dict=False 或 config.return_dict=False），包含根據配置 (MllamaConfig) 和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關詳細資訊，請參閱我們的 kv 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 詞彙表中輸入序列標記的索引。預設情況下會忽略填充。

  可以使用AutoTokenizer獲取索引。有關詳細資訊，請參閱PreTrainedTokenizer.encode()和PreTrainedTokenizer.call()。

  什麼是輸入ID？

• attention_mask (形狀為(batch_size, sequence_length)的torch.Tensor，可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在[0, 1]中選擇：
  • 1表示未被掩碼的標記，
  • 0表示被掩碼的標記。

  什麼是注意力掩碼？

• position_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.n_positions - 1]。

  什麼是位置ID？

• cross_attention_states (torch.FloatTensor，可選) — 視覺模型的輸出，用於交叉注意力。此張量包含語言模型將關注的已處理影像特徵。
• cross_attention_mask (形狀為(batch_size, seq_length, max_num_images, max_num_tiles)的torch.Tensor，可選) — 交叉注意力掩碼，用於控制文字標記和影像塊之間的互動。此4D張量定義了每個文字標記應關注哪些影像塊。

  對於每個文字標記（在seq_length中）：

  • 1表示標記應關注對應的影像塊
  • 0表示標記不應關注對應的影像塊
• full_text_row_masked_out_mask (tuple[torch.Tensor, torch.Tensor]，可選) — 包含兩個張量的元組，用於掩蓋交叉注意力機制中的行：
  • 第一個張量的形狀為(batch_size, 1, seq_length, 1)，包含0或1的值。值為0表示對應的文字標記在交叉注意力矩陣中的整行應被掩蓋（所有影像標記被忽略）。
  • 第二個張量具有相同的形狀，並在交叉注意力層的正向傳播期間內部用於應用掩碼。此掩碼派生自cross_attention_mask，用於處理文字標記不應關注任何影像標記的情況。
• past_key_values (Union[~cache_utils.Cache, list[torch.FloatTensor], NoneType]) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的past_key_values，當use_cache=True或config.use_cache=True時。

  允許兩種格式：

  • 一個Cache例項，請參閱我們的kv快取指南；
  • 長度為config.n_layers的tuple(torch.FloatTensor)元組，每個元組包含2個形狀為(batch_size, num_heads, sequence_length, embed_size_per_head)的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入past_key_values，將返回舊版快取格式。

  如果使用past_key_values，使用者可以選擇僅輸入最後一個input_ids（那些沒有將其過去的鍵值狀態提供給此模型的）形狀為(batch_size, 1)，而不是所有形狀為(batch_size, sequence_length)的input_ids。

• inputs_embeds (形狀為(batch_size, sequence_length, hidden_size)的torch.FloatTensor，可選) — 可選地，您可以選擇直接傳入嵌入表示而不是傳入input_ids。如果您希望對如何將input_ids索引轉換為關聯向量有比模型內部嵌入查詢矩陣更多的控制，這將非常有用。
• use_cache (bool, 可選) — 如果設定為True，則返回past_key_values鍵值狀態，可用於加速解碼（請參閱past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的hidden_states。
• return_dict (bool, 可選) — 是否返回ModelOutput而不是普通元組。
• cache_position (形狀為(sequence_length)的torch.LongTensor，可選) — 描述輸入序列標記在序列中位置的索引。與position_ids不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個transformers.modeling_outputs.BaseModelOutputWithPast或一個torch.FloatTensor元組（如果傳入return_dict=False或config.return_dict=False），包含根據配置（MllamaConfig）和輸入的不同元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  如果使用了 past_key_values，則只輸出形狀為 (batch_size, 1, hidden_size) 的序列的最後一個隱藏狀態。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關詳細資訊，請參閱我們的 kv 快取指南。

  包含預先計算的隱藏狀態（自注意力塊中的鍵和值，如果config.is_encoder_decoder=True則可選地包含交叉注意力塊中的鍵和值），可用於（請參閱past_key_values輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 詞彙表中輸入序列標記的索引。預設情況下會忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)，可選) — 與輸入影像對應的張量。可以使用 {image_processor_class} 獲取畫素值。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• aspect_ratio_mask (torch.Tensor，形狀為 (batch_size, max_num_images, max_num_tiles)，可選) — 用於避免對填充瓦片執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示**未被掩碼**的瓦片，
  • 0 表示**被掩碼**的瓦片。
• aspect_ratio_ids (torch.Tensor，形狀為 (batch_size, max_num_images)，可選) — 寬高比 ID，用於根據每個輸入影像的寬高比選擇適當的預計算瓦片嵌入。這些 ID 對應於模型支援的寬高比列表中的索引，偏移量為 1。

  例如，如果模型支援的寬高比為 [[1, 1], [1, 2], [2, 1]]：

  • 寬高比為 [1, 1] 的影像 ID 為 1
  • 寬高比為 [1, 2] 的影像 ID 為 2
  • 寬高比為 [2, 1] 的影像 ID 為 3

  ID 0 保留用於填充（即無影像）。

  如果影像的寬高比為 [1, 2]，則表示它被水平分割成 2 個瓦片，其 aspect_ratio_id 為 2。

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示**未被掩碼**的標記，
  • 0 表示**被掩碼**的標記。

  什麼是注意力掩碼？

• cross_attention_mask (torch.Tensor，形狀為 (batch_size, seq_length, max_num_images, max_num_tiles)，可選) — 交叉注意力掩碼，用於控制文字標記和影像瓦片之間的互動。這個 4D 張量定義了每個文字標記應該關注哪些影像瓦片。

  對於每個文字標記（在 seq_length 中）：

  • 1 表示標記**應該關注**相應的影像瓦片
  • 0 表示標記**不應該關注**相應的影像瓦片
• cross_attention_states (torch.FloatTensor，可選) — 視覺模型的輸出，用於交叉注意力。此張量包含語言模型將關注的處理後的影像特徵。
• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor]，可選) — 預計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前一階段返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也被稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入 past_key_values，將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇僅輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將其過去的鍵值狀態提供給此模型的），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您希望對 input_ids 索引如何轉換為關聯向量擁有比模型內部嵌入查詢矩陣更多的控制權，這將很有用。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（請參閱 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是純元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，可選) — 描述輸入序列標記在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個 transformers.modeling_outputs.CausalLMOutputWithPast 或 torch.FloatTensor 元組（如果傳入 return_dict=False 或 config.return_dict=False），包含根據配置 (MllamaConfig) 和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關詳細資訊，請參閱我們的 kv 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 詞彙表中輸入序列標記的索引。預設情況下會忽略填充。

  可以使用AutoTokenizer獲取索引。有關詳細資訊，請參閱PreTrainedTokenizer.encode()和PreTrainedTokenizer.call()。

  什麼是輸入ID？

• attention_mask (形狀為(batch_size, sequence_length)的torch.Tensor，可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在[0, 1]中選擇：
  • 1表示未被掩碼的標記，
  • 0表示被掩碼的標記。

  什麼是注意力掩碼？

• position_ids (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.n_positions - 1]。

  什麼是位置ID？

• cross_attention_states (torch.FloatTensor, 可選) — 視覺模型的輸出，用於交叉注意力。此張量包含語言模型將關注的已處理影像特徵。
• cross_attention_mask (形狀為(batch_size, seq_length, max_num_images, max_num_tiles)的torch.Tensor，可選) — 交叉注意力掩碼，用於控制文字標記和影像塊之間的互動。此4D張量定義了每個文字標記應關注哪些影像塊。

  對於每個文字標記（在seq_length中）：

  • 1表示標記應關注對應的影像塊
  • 0表示標記不應關注對應的影像塊
• full_text_row_masked_out_mask (tuple[torch.Tensor, torch.Tensor]，可選) — 包含兩個張量的元組，用於掩蓋交叉注意力機制中的行：
  • 第一個張量的形狀為(batch_size, 1, seq_length, 1)，包含0或1的值。值為0表示對應的文字標記在交叉注意力矩陣中的整行應被掩蓋（所有影像標記被忽略）。
  • 第二個張量具有相同的形狀，並在交叉注意力層的正向傳播期間內部用於應用掩碼。此掩碼派生自cross_attention_mask，用於處理文字標記不應關注任何影像標記的情況。
• past_key_values (Union[~cache_utils.Cache, list[torch.FloatTensor], NoneType]) — 預先計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的past_key_values，當use_cache=True或config.use_cache=True時。

  允許兩種格式：

  • 一個Cache例項，請參閱我們的kv快取指南；
  • 長度為config.n_layers的tuple(torch.FloatTensor)元組，每個元組包含2個形狀為(batch_size, num_heads, sequence_length, embed_size_per_head)的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳入past_key_values，將返回舊版快取格式。

  如果使用past_key_values，使用者可以選擇僅輸入最後一個input_ids（那些沒有將其過去的鍵值狀態提供給此模型的）形狀為(batch_size, 1)，而不是所有形狀為(batch_size, sequence_length)的input_ids。

• inputs_embeds (形狀為(batch_size, sequence_length, hidden_size)的torch.FloatTensor，可選) — 可選地，您可以選擇直接傳入嵌入表示而不是傳入input_ids。如果您希望對如何將input_ids索引轉換為關聯向量有比模型內部嵌入查詢矩陣更多的控制，這將非常有用。
• labels (形狀為(batch_size, sequence_length)的torch.LongTensor，可選) — 用於計算掩碼語言建模損失的標籤。索引應在[0, ..., config.vocab_size]或-100（請參閱input_ids文件字串）中。索引設定為-100的標記將被忽略（掩碼），損失僅針對標籤在[0, ..., config.vocab_size]中的標記計算。
• use_cache (bool, 可選) — 如果設定為True，則返回past_key_values鍵值狀態，可用於加速解碼（請參閱past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的hidden_states。
• return_dict (bool, 可選) — 是否返回ModelOutput而不是普通元組。
• cache_position (形狀為(sequence_length)的torch.LongTensor，可選) — 描述輸入序列標記在序列中位置的索引。與position_ids不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor]，預設為0) — 如果是int，則計算最後logits_to_keep個標記的logits。如果是0，則計算所有input_ids的logits（特殊情況）。生成時只需要最後一個標記的logits，僅為該標記計算可以節省記憶體，這對於長序列或大詞彙量來說非常顯著。如果是torch.Tensor，必須是與序列長度維度中要保留的索引相對應的1D張量。這在使用打包張量格式（批處理和序列長度的單一維度）時非常有用。

一個 transformers.modeling_outputs.CausalLMOutputWithPast 或 torch.FloatTensor 元組（如果傳入 return_dict=False 或 config.return_dict=False），包含根據配置 (MllamaConfig) 和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關詳細資訊，請參閱我們的 kv 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (torch.Tensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 與輸入影像對應的張量。可以使用 {image_processor_class} 獲取畫素值。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• aspect_ratio_ids (torch.Tensor，形狀為 (batch_size, max_num_images)，可選) — 寬高比 ID，用於根據每個輸入影像的寬高比選擇適當的預計算瓦片嵌入。這些 ID 對應於模型支援的寬高比列表中的索引，偏移量為 1。

  例如，如果模型支援的寬高比為 [[1, 1], [1, 2], [2, 1]]：

  • 寬高比為 [1, 1] 的影像 ID 為 1
  • 寬高比為 [1, 2] 的影像 ID 為 2
  • 寬高比為 [2, 1] 的影像 ID 為 3

  ID 0 保留用於填充（即無影像）。

  如果影像的寬高比為 [1, 2]，則表示它被水平分割成 2 個瓦片，其 aspect_ratio_id 為 2。

• aspect_ratio_mask (torch.Tensor，形狀為 (batch_size, max_num_images, max_num_tiles)，可選) — 用於避免對填充瓦片執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]：
  • 1 表示**未被掩碼**的瓦片，
  • 0 表示**被掩碼**的瓦片。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是純元組。

一個 transformers.modeling_outputs.BaseModelOutput 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或 config.return_dict=False），包含根據配置 (MllamaConfig) 和輸入而變化的各種元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 元組（一個用於嵌入層輸出，如果模型有嵌入層，+ 每個層輸出一個），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。