引數

• image (np.array) — 要處理的輸入影像。
• grid_pinpoints (list[tuple[int, int]]) — 一系列可能的解析度，以元組形式表示。
• patch_size (int) — 用於將影像分割成塊的大小。
• resample (PILImageResampling) — 如果調整影像大小，使用的重取樣濾波器。
• data_format (ChannelDimension 或 str) — 輸出影像的通道維度格式。
• input_data_format (ChannelDimension 或 str) — 輸入影像的通道維度格式。

包含處理後圖像塊的 NumPy 陣列列表。

引數

• height (int) — 輸入影像的高度。
• width (int) — 輸入影像的寬度。
• images_kwargs (dict, 可選) — 用於覆蓋影像處理器預設值的任何關鍵字引數。

每張影像的塊數。

引數

• image (np.ndarray) — 要填充的影像。
• padding (int 或 tuple[int, int] 或 Iterable[tuple[int, int]]) — 應用於高度、寬度軸邊緣的填充。可以是以下三種格式之一：
  • ((before_height, after_height), (before_width, after_width)) 每個軸的唯一填充寬度。
  • ((before, after),) 為高度和寬度產生相同的 before 和 after 填充。
  • (pad,) 或 int 是所有軸 before = after = pad 寬度的快捷方式。
• mode (PaddingMode) — 要使用的填充模式。可以是以下之一：
  • "constant": 使用常量值填充。
  • "reflect": 使用向量在每個軸的第一個和最後一個值上映象的反射進行填充。
  • "replicate": 使用陣列邊緣的最後一個值沿每個軸進行復制填充。
  • "symmetric": 使用向量沿陣列邊緣映象的反射進行填充。
• constant_values (float 或 Iterable[float], 可選) — 如果 mode 為 "constant"，用於填充的值。
• data_format (str 或 ChannelDimension, 可選) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (height, width, num_channels)。如果未設定，將使用與輸入影像相同的格式。
• input_data_format (str 或 ChannelDimension, 可選) — 輸入影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (height, width, num_channels)。如果未設定，將使用輸入影像的推斷格式。

填充後的影像。

引數

• images (ImageInput 或 ImageInput 列表) — 輸入的影像或影像列表。
• image_mean (list, 可選, 預設為 [0.5, 0.5, 0.5]) — 用於歸一化的均值。
• image_std (list, 可選, 預設為 [0.5, 0.5, 0.5]) — 用於歸一化的標準差值。
• max_image_size (int, 可選, 預設為 self.max_image_size (980)) — 最大影像尺寸。
• min_image_size (int, 可選, 預設為 self.min_image_size (336)) — 最小影像尺寸。
• split_image (bool, 可選, 預設為 self.split_image (False)) — 是否分割影像。
• do_convert_rgb (bool, 可選, 預設為 self.do_convert_rgb (True)) — 是否將影像轉換為RGB格式。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否對影像進行縮放。
• rescale_factor (float, 可選, 預設為 self.rescale_factor) — 如果 do_rescale 設定為 True，用於縮放影像的縮放因子。
• do_normalize (bool, 可選, 預設為 self.do_normalize (True)) — 是否對影像進行歸一化。
• resample (PILImageResampling, 可選, 預設為 self.resample (BICUBIC)) — 如果需要調整影像大小，使用的重取樣濾波器。
• return_tensors (str 或 TensorType, 可選, 預設為 “pt”) — 返回的張量型別。
• data_format (str 或 ChannelDimension, 可選) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (height, width, num_channels)。如果未設定，將使用與輸入影像相同的格式。
• input_data_format (str 或 ChannelDimension, 可選) — 輸入影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (height, width, num_channels)。如果未設定，將使用推斷出的輸入影像格式。

包含以下內容的 BatchFeature 物件：

• ‘pixel_values’: 處理後圖像畫素值的張量。
• ‘pixel_mask’: 布林畫素掩碼。此掩碼是一個形狀為 (max_image_size, max_image_size) 的二維張量，其中
  • True (1) 值表示屬於原始調整大小後圖像的畫素。
  • False (0) 值表示屬於填充部分的畫素。此掩碼有助於在後續處理步驟中區分實際影像內容和填充區域。
• ‘num_crops’: 所有影像中的最大裁切數量。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，optional) — 詞彙表中輸入序列詞元（token）的索引。預設情況下將忽略填充。

  索引可以使用 AutoTokenizer 獲取。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，optional) — 用於避免對填充詞元索引執行注意力計算的掩碼。掩碼值選自 [0, 1]：
  • 1 表示詞元未被掩碼，
  • 0 表示詞元已被掩碼。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，optional) — 每個輸入序列詞元在位置嵌入中的位置索引。選自範圍 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (~cache_utils.Cache, optional) — 預先計算的隱藏狀態（自注意力和交叉注意力塊中的鍵和值），可用於加速序列解碼。這通常包括在解碼的先前階段，當 use_cache=True 或 config.use_cache=True 時由模型返回的 past_key_values。

  允許兩種格式：

  • 一個 Cache 例項，請參閱我們的 KV 快取指南；
  • 長度為 config.n_layers 的 tuple(tuple(torch.FloatTensor))，其中每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳遞 past_key_values，則將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有提供給該模型的過去鍵值狀態的詞元），其形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，optional) — 可選地，你可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果你希望比模型內部的嵌入查詢矩陣更能控制如何將 input_ids 索引轉換為相關向量，這將非常有用。
• use_cache (bool, optional) — 如果設定為 True，將返回 past_key_values 鍵值狀態，並可用於加速解碼（請參閱 past_key_values）。
• output_attentions (bool, optional) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, optional) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，optional) — 描述輸入序列詞元在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.modeling_outputs.BaseModelOutputWithPast 或一個 `torch.FloatTensor` 元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），根據配置（AriaConfig）和輸入包含各種元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  如果使用了 past_key_values，則只輸出形狀為 (batch_size, 1, hidden_size) 的序列的最後一個隱藏狀態。

• past_key_values (Cache, optional, 在傳遞 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關更多詳細資訊，請參閱我們的 KV 快取指南。

  包含預先計算的隱藏狀態（自注意力塊中的鍵和值，如果 `config.is_encoder_decoder=True`，則還包括交叉注意力塊中的鍵和值），可用於（參見 `past_key_values` 輸入）加速序列解碼。

• hidden_states (tuple(torch.FloatTensor), optional, 在傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，一個是嵌入層的輸出，+ 每個層一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), optional, 在傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列詞元（token）的索引。預設情況下將忽略填充。

  索引可以使用 AutoTokenizer 獲取。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_mask (torch.LongTensor，形狀為 (batch_size, height, width)) — 用於避免對填充畫素值執行注意力計算的掩碼。掩碼值選自 [0, 1]：
  • 1 表示畫素是真實的（即未被掩碼），
  • 0 表示畫素是填充的（即已被掩碼）。

  什麼是注意力掩碼？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length)，optional) — 用於避免對填充詞元索引執行注意力計算的掩碼。掩碼值選自 [0, 1]：
  • 1 表示詞元未被掩碼，
  • 0 表示詞元已被掩碼。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)，optional) — 每個輸入序列詞元在位置嵌入中的位置索引。選自範圍 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], optional) — 預先計算的隱藏狀態（自注意力和交叉注意力塊中的鍵和值），可用於加速序列解碼。這通常包括在解碼的先前階段，當 use_cache=True 或 config.use_cache=True 時由模型返回的 past_key_values。

  允許兩種格式：

  • 一個 Cache 例項，請參閱我們的 KV 快取指南；
  • 長度為 config.n_layers 的 tuple(tuple(torch.FloatTensor))，其中每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳遞 past_key_values，則將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有提供給該模型的過去鍵值狀態的詞元），其形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size)，optional) — 可選地，你可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果你希望比模型內部的嵌入查詢矩陣更能控制如何將 input_ids 索引轉換為相關向量，這將非常有用。
• use_cache (bool, optional) — 如果設定為 True，將返回 past_key_values 鍵值狀態，並可用於加速解碼（請參閱 past_key_values）。
• output_attentions (bool, optional) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, optional) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, optional) — 是否返回 ModelOutput 而不是普通的元組。
• cache_position (torch.LongTensor，形狀為 (sequence_length)，optional) — 描述輸入序列詞元在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.models.aria.modeling_aria.AriaModelOutputWithPast 或一個 `torch.FloatTensor` 元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），根據配置（AriaConfig）和輸入包含各種元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可選) — 模型最後一層輸出的隱藏狀態序列。

• past_key_values (tuple(tuple(torch.FloatTensor)), optional, 在傳遞 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(tuple(torch.FloatTensor))，其中每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor, ...], optional, 在傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，一個是嵌入層的輸出，+ 每個層一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor, ...], optional, 在傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor, optional) — 大小為 (batch_size, num_images, sequence_length, hidden_size) 的 torch.FloatTensor。由視覺編碼器生成並在投影最後一個隱藏狀態後得到的模型的 image_hidden_states。

引數

• pixel_values (torch.FloatTensor]，形狀為 (batch_size, channels, height, width)) — 對應於輸入影像的張量。
• pixel_mask (torch.FloatTensor], 可選) — 對應於輸入影像掩碼的張量。
• vision_feature_layer (Union[int, list[int]], 可選) — 用於選擇視覺特徵的層的索引。如果提供了多個索引，則相應索引的視覺特徵將被連線起來形成視覺特徵。

形狀為 (num_images, image_length, embed_dim) 的影像特徵張量。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力計算的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示標記未被掩碼，
  • 0 表示標記被掩碼。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• past_key_values (~cache_utils.Cache, 可選) — 預先計算的隱藏狀態（自注意力和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括在解碼的前一階段，當 use_cache=True 或 config.use_cache=True 時，模型返回的 past_key_values。

  允許兩種格式：

  • Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳遞 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有為其提供過去鍵值狀態的標記），形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size), 可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想比模型內部的嵌入查詢矩陣更好地控制如何將 input_ids 索引轉換為相關向量，這將非常有用。
• labels (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 (參見 input_ids 文件字串) 中。索引設定為 -100 的標記將被忽略 (掩碼)，損失僅對標籤在 [0, ..., config.vocab_size] 中的標記計算。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• cache_position (torch.LongTensor，形狀為 (sequence_length), 可選) — 描繪輸入序列標記在序列中位置的索引。與 position_ids 相反，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。
• logits_to_keep (Union[int, torch.Tensor], 預設為 0) — 如果是 int，則計算最後 logits_to_keep 個標記的 logits。如果為 0，則計算所有 input_ids 的 logits（特殊情況）。生成時只需要最後一個標記的 logits，僅為此標記計算可以節省記憶體，這對於長序列或大詞彙表大小來說非常重要。如果是一個 torch.Tensor，必須是 1D 的，對應於在序列長度維度中要保留的索引。這在使用打包張量格式（批處理和序列長度的單個維度）時很有用。

一個 transformers.modeling_outputs.CausalLMOutputWithPast 或一個 `torch.FloatTensor` 元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（AriaConfig）和輸入，包含各種元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (Cache, optional, 在傳遞 use_cache=True 或 config.use_cache=True 時返回) — 這是一個 Cache 例項。有關更多詳細資訊，請參閱我們的 KV 快取指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), optional, 在傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，一個是嵌入層的輸出，+ 每個層一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), optional, 在傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size)) — 對應於輸入影像的張量。可以使用 {image_processor_class} 獲取畫素值。有關詳細資訊，請參閱 {image_processor_class}.__call__ ({processor_class} 使用 {image_processor_class} 處理影像)。
• pixel_mask (torch.LongTensor，形狀為 (batch_size, height, width)) — 用於避免對填充畫素值執行注意力計算的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示畫素是真實的 (即 未被掩碼)，
  • 0 表示畫素是填充的 (即 被掩碼)。

  什麼是注意力掩碼？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力計算的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示標記未被掩碼，
  • 0 表示標記被掩碼。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預先計算的隱藏狀態（自注意力和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括在解碼的前一階段，當 use_cache=True 或 config.use_cache=True 時，模型返回的 past_key_values。

  允許兩種格式：

  • Cache 例項，請參閱我們的 kv 快取指南；
  • 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。這也稱為舊版快取格式。

  模型將輸出與輸入相同的快取格式。如果沒有傳遞 past_key_values，將返回舊版快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入最後一個 input_ids（那些沒有為其提供過去鍵值狀態的標記），形狀為 (batch_size, 1)，而不是所有形狀為 (batch_size, sequence_length) 的 input_ids。

• inputs_embeds (torch.FloatTensor，形狀為 (batch_size, sequence_length, hidden_size), 可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想比模型內部的嵌入查詢矩陣更好地控制如何將 input_ids 索引轉換為相關向量，這將非常有用。
• labels (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 model.image_token_id 中（其中 model 是您的 AriaForConditionalGeneration 例項）。索引設定為 model.image_token_id 的標記將被忽略（掩碼），損失僅對標籤在 [0, ..., config.vocab_size] 中的標記計算。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。
• logits_to_keep (Union[int, torch.Tensor], 預設為 0) — 如果是 int，則計算最後 logits_to_keep 個標記的 logits。如果為 0，則計算所有 input_ids 的 logits（特殊情況）。生成時只需要最後一個標記的 logits，僅為此標記計算可以節省記憶體，這對於長序列或大詞彙表大小來說非常重要。如果是一個 torch.Tensor，必須是 1D 的，對應於在序列長度維度中要保留的索引。這在使用打包張量格式（批處理和序列長度的單個維度）時很有用。
• cache_position (torch.LongTensor，形狀為 (sequence_length), 可選) — 描繪輸入序列標記在序列中位置的索引。與 position_ids 相反，此張量不受填充影響。它用於在正確的位置更新快取並推斷完整的序列長度。

一個 transformers.models.aria.modeling_aria.AriaCausalLMOutputWithPast 或一個 `torch.FloatTensor` 元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（AriaConfig）和輸入，包含各種元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor)), optional, 在傳遞 use_cache=True 或 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(tuple(torch.FloatTensor))，其中每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor], 可選, 當傳遞 output_hidden_states=True 或 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組 (如果模型有嵌入層，則一個用於嵌入層的輸出，+ 一個用於每個層的輸出)，形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor], 可選, 當傳遞 output_attentions=True 或 config.output_attentions=True 時返回) — torch.FloatTensor 的元組 (每層一個)，形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• image_hidden_states (torch.FloatTensor, optional) — 大小為 (batch_size, num_images, sequence_length, hidden_size) 的 torch.FloatTensor。由視覺編碼器生成並在投影最後一個隱藏狀態後得到的模型的 image_hidden_states。