引數

• images (ImageInput) — 待預處理的影像。期望畫素值範圍為 0 到 255 的單張或批處理影像。如果傳入畫素值範圍在 0 到 1 之間的影像，請設定 do_rescale=False。
• videos (VideoInput) — 待預處理的影片。期望畫素值範圍為 0 到 255 的單個或批處理影片。如果傳入畫素值範圍在 0 到 1 之間的影片，請設定 do_rescale=False。
• do_resize (bool, 可選, 預設為 self.do_resize) — 是否調整影像大小。
• size (Dict[str, int], 可選, 預設為 self.size) — 調整大小後的影像大小。影像的最短邊將調整為 size["shortest_edge"]，最長邊將保持輸入寬高比進行調整。
• resample (int, 可選, 預設為 self.resample) — 如果調整影像大小，要使用的重取樣濾鏡。可以是列舉 PILImageResampling 之一。僅當 do_resize 設定為 True 時有效。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否重新縮放影像。
• rescale_factor (float, 可選, 預設為 self.rescale_factor) — 如果 do_rescale 設定為 True，則用於重新縮放影像的縮放因子。
• do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否歸一化影像。
• image_mean (float 或 List[float], 可選, 預設為 self.image_mean) — 用於歸一化的影像均值。僅當 do_normalize 設定為 True 時有效。
• image_std (float 或 List[float], 可選, 預設為 self.image_std) — 用於歸一化的影像標準差。僅當 do_normalize 設定為 True 時有效。要調整影像大小的最大畫素數。
• patch_size (int, 可選, 預設為 self.patch_size) — 視覺編碼器的空間補丁大小。
• temporal_patch_size (int, 可選, 預設為 self.temporal_patch_size) — 視覺編碼器的時間補丁大小。
• merge_size (int, 可選, 預設為 self.merge_size) — 視覺編碼器到 LLM 編碼器的合併大小。
• do_convert_rgb (bool, 可選, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB 格式。
• return_tensors (str 或 TensorType, 可選) — 要返回的張量型別。可以是以下之一：
  • 未設定：返回 np.ndarray 列表。
  • TensorType.TENSORFLOW 或 'tf'：返回 tf.Tensor 型別的批處理。
  • TensorType.PYTORCH 或 'pt'：返回 torch.Tensor 型別的批處理。
  • TensorType.NUMPY 或 'np'：返回 np.ndarray 型別的批處理。
  • TensorType.JAX 或 'jax'：返回 jax.numpy.ndarray 型別的批處理。
• data_format (ChannelDimension 或 str, 可選, 預設為 ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • 未設定：使用輸入影像的通道維度格式。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影像的通道維度格式。如果未設定，則從輸入影像推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST：影像格式為 (num_channels, height, width)。
  • "channels_last" 或 ChannelDimension.LAST：影像格式為 (height, width, num_channels)。
  • "none" 或 ChannelDimension.NONE：影像格式為 (height, width)。

引數

• do_resize (bool, 可選, 預設為 self.do_resize) — 是否將影片的 (height, width) 維度調整到指定的 size。可在 preprocess 方法中的 do_resize 引數覆蓋。
• size (dict, 可選, 預設為 self.size) — 調整大小後的輸出影片的大小。可在 preprocess 方法中的 size 引數覆蓋。
• size_divisor (int, 可選, 預設為 self.size_divisor) — 確保高度和寬度都可以被其整除的大小。
• default_to_square (bool, 可選, 預設為 self.default_to_square) — 如果大小為整數，是否在調整影片大小時預設為方形影片。
• resample (PILImageResampling, 可選, 預設為 self.resample) — 如果調整影片大小，要使用的重取樣濾鏡。僅當 do_resize 設定為 True 時有效。可在 preprocess 方法中的 resample 引數覆蓋。
• do_center_crop (bool, 可選, 預設為 self.do_center_crop) — 是否將影片中心裁剪到指定的 crop_size。可在 preprocess 方法中的 do_center_crop 覆蓋。
• do_pad (bool, 可選) — 是否將影片填充到批處理中影片的 (max_height, max_width)。
• crop_size (dict[str, int] 可選, 預設為 self.crop_size) — 應用 center_crop 後的輸出影片大小。可在 preprocess 方法中的 crop_size 覆蓋。
• do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否按指定的比例 rescale_factor 重新縮放影片。可在 preprocess 方法中的 do_rescale 引數覆蓋。
• rescale_factor (int 或 float, 可選, 預設為 self.rescale_factor) — 如果對影片進行重新縮放，則使用的縮放因子。僅當 do_rescale 設定為 True 時才有效。可以透過 preprocess 方法中的 rescale_factor 引數覆蓋。
• do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否對影片進行歸一化。可以透過 preprocess 方法中的 do_normalize 引數覆蓋。可以透過 preprocess 方法中的 do_normalize 引數覆蓋。
• image_mean (float 或 list[float], 可選, 預設為 self.image_mean) — 如果對影片進行歸一化，則使用的均值。這是一個浮點數或浮點數列表，其長度與影片中的通道數相同。可以透過 preprocess 方法中的 image_mean 引數覆蓋。可以透過 preprocess 方法中的 image_mean 引數覆蓋。
• image_std (float 或 list[float], 可選, 預設為 self.image_std) — 如果對影片進行歸一化，則使用的標準差。這是一個浮點數或浮點數列表，其長度與影片中的通道數相同。可以透過 preprocess 方法中的 image_std 引數覆蓋。可以透過 preprocess 方法中的 image_std 引數覆蓋。
• do_convert_rgb (bool, 可選, 預設為 self.image_std) — 是否將影片轉換為 RGB。
• video_metadata (VideoMetadata, 可選) — 影片的元資料，包含總時長、每秒幀數和總幀數資訊。
• do_sample_frames (int, 可選, 預設為 self.do_sample_frames) — 是在處理前從影片中取樣幀，還是處理整個影片。
• num_frames (int, 可選, 預設為 self.num_frames) — 當 do_sample_frames=True 時，要取樣的最大幀數。
• fps (int, 可選, 預設為 self.fps) — 當 do_sample_frames=True 時，每秒取樣的目標幀數。
• return_tensors (str 或 TensorType, 可選) — 如果設定為 `pt`，則返回堆疊的張量，否則返回張量列表。
• data_format (ChannelDimension 或 str, 可選, 預設為 ChannelDimension.FIRST) — 輸出影片的通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影片格式為 (通道數, 高度, 寬度)。
  • "channels_last" 或 ChannelDimension.LAST: 影片格式為 (高度, 寬度, 通道數)。
  • 未設定: 使用輸入影片的通道維度格式。
• input_data_format (ChannelDimension 或 str, 可選) — 輸入影片的通道維度格式。如果未設定，則從輸入影片推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影片格式為 (通道數, 高度, 寬度)。
  • "channels_last" 或 ChannelDimension.LAST: 影片格式為 (高度, 寬度, 通道數)。
  • "none" 或 ChannelDimension.NONE: 影片格式為 (高度, 寬度)。
• device (torch.device, 可選) — 處理影片的裝置。如果未設定，則從輸入影片推斷裝置。

引數

• images (Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]) — 要預處理的影像。期望單個或批次影像，畫素值範圍為 0 到 255。如果傳入的影像畫素值在 0 到 1 之間，請將 do_rescale=False。
• videos (Union[list['PIL.Image.Image'], np.ndarray, torch.Tensor, list['np.ndarray'], list['torch.Tensor'], list[list['PIL.Image.Image']], list[list['np.ndarrray']], list[list['torch.Tensor']]]) — 要預處理的影片。期望單個或批次影片，畫素值範圍為 0 到 255。如果傳入的影片畫素值在 0 到 1 之間，請將 do_rescale=False。
• do_resize (bool, 可選) — 是否調整影像大小。
• size (dict[str, int], 可選) — 描述模型最大輸入尺寸。
• resample (Union[PILImageResampling, F.InterpolationMode, NoneType]) — 如果調整影像大小，則使用的重取樣濾波器。這可以是列舉 PILImageResampling 之一。僅當 do_resize 設定為 True 時才有效。
• do_rescale (bool, 可選) — 是否重新縮放影像。
• rescale_factor (float, 可選) — 如果 do_rescale 設定為 True，則按此縮放因子對影像進行重新縮放。
• do_normalize (bool, 可選) — 是否對影像進行歸一化。
• image_mean (Union[float, list[float], NoneType]) — 用於歸一化的影像均值。僅當 do_normalize 設定為 True 時才有效。
• image_std (Union[float, list[float], NoneType]) — 用於歸一化的影像標準差。僅當 do_normalize 設定為 True 時才有效。
• patch_size (int, 可選, 預設為 14) — 視覺編碼器的空間補丁大小。
• temporal_patch_size (int, 可選, 預設為 2) — 視覺編碼器的時間補丁大小。
• merge_size (int, 可選, 預設為 2) — 視覺編碼器到 LLM 編碼器的合併大小。
• do_convert_rgb (bool, 可選) — 是否將影像轉換為 RGB。
• return_tensors (Union[str, ~utils.generic.TensorType, NoneType]) — 如果設定為 `pt`，則返回堆疊的張量，否則返回張量列表。
• data_format (~image_utils.ChannelDimension, 可選, 預設為 ChannelDimension.FIRST) — 僅支援 ChannelDimension.FIRST。為相容慢速處理器而新增。
• input_data_format (Union[str, ~image_utils.ChannelDimension, NoneType]) — 輸入影像的通道維度格式。如果未設定，則從輸入影像推斷通道維度格式。可以是以下之一：
  • "channels_first" 或 ChannelDimension.FIRST: 影像格式為 (通道數, 高度, 寬度)。
  • "channels_last" 或 ChannelDimension.LAST: 影像格式為 (高度, 寬度, 通道數)。
  • "none" 或 ChannelDimension.NONE: 影像格式為 (高度, 寬度)。
• device (torch.device, 可選) — 處理影像的裝置。如果未設定，則從輸入影像推斷裝置。
• disable_grouping (bool, 可選, 預設為 False) — 是否停用按大小對影像進行分組，以單獨處理而非批次處理。如果為 None，則如果影像在 CPU 上，則設定為 True，否則設定為 False。此選擇基於經驗觀察，詳情請參閱：https://github.com/huggingface/transformers/pull/38157

引數

• generated_outputs (torch.Tensor 或 np.ndarray) — 模型 generate 函式的輸出。輸出應為形狀為 (batch_size, sequence_length) 或 (sequence_length,) 的張量。
• skip_special_tokens (bool, 可選, 預設為 True) — 是否在輸出中移除特殊 token。引數傳遞給分詞器的 batch_decode 方法。
• clean_up_tokenization_spaces (bool, 可選, 預設為 False) — 是否清理分詞空間。引數傳遞給分詞器的 batch_decode 方法。
• **kwargs — 要傳遞給分詞器 batch_decode 方法的其他引數。

解碼後的文字。

引數

• input_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor, 可選) — 詞彙表中輸入序列 token 的索引。填充預設將被忽略。

  索引可以使用 AutoTokenizer 獲取。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (形狀為 (batch_size, sequence_length) 的 torch.Tensor, 可選) — 掩碼，用於避免在填充 token 索引上執行注意力。掩碼值選擇在 [0, 1] 之間：
  • 1 表示**未被掩碼**的 token，
  • 0 表示**被掩碼**的 token。

  什麼是注意力掩碼？

• position_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor, 可選) — 位置嵌入中每個輸入序列 token 位置的索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，詳見我們的 kv cache 指南；
  • 一個長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含兩個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳入 past_key_values，則將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將過去鍵值狀態提供給此模型的），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor，可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想對如何將 input_ids 索引轉換為關聯向量進行比模型內部嵌入查詢矩陣更精細的控制，這會很有用。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參閱返回張量中的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參閱返回張量中的 hidden_states。
• cache_position (形狀為 (sequence_length) 的 torch.LongTensor，可選) — 描述輸入序列令牌在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個 transformers.modeling_outputs.BaseModelOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳入 return_dict=False 或當 config.return_dict=False 時），包含根據配置（None）和輸入的不同元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  如果使用了 past_key_values，則只輸出形狀為 (batch_size, 1, hidden_size) 的序列的最後一個隱藏狀態。

• past_key_values (Cache, 可選, 當傳入 use_cache=True 或當 config.use_cache=True 時返回) — 這是一個 Cache 例項。更多詳情，請參閱我們的 kv cache 指南。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值，如果 config.is_encoder_decoder=True 則可選地包含交叉注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，加上每個層的一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple(torch.FloatTensor), 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor) — 詞彙表中輸入序列令牌的索引。預設情況下將忽略填充。

  索引可以使用 AutoTokenizer 獲取。有關詳情，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (形狀為 (batch_size, sequence_length) 的 torch.Tensor，可選) — 避免對填充令牌索引執行注意力的掩碼。掩碼值選擇在 [0, 1] 之間：
  • 1 表示未被掩蓋的令牌，
  • 0 表示被掩蓋的令牌。

  什麼是注意力掩碼？

• position_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor，可選) — 每個輸入序列令牌在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，詳見我們的 kv cache 指南；
  • 一個長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含兩個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳入 past_key_values，則將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將過去鍵值狀態提供給此模型的），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor，可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想對如何將 input_ids 索引轉換為關聯向量進行比模型內部嵌入查詢矩陣更精細的控制，這會很有用。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參閱返回張量中的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參閱返回張量中的 hidden_states。
• pixel_values (形狀為 (batch_size, num_channels, image_size, image_size) 的 torch.Tensor，可選) — 對應輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳情，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (形狀為 `(seq_length, num_channels * temporal_size * image_size * image_size)` 的 torch.FloatTensor，可選) — 對應輸入影片的張量。畫素值可以使用 AutoImageProcessor 獲取。有關詳情，請參閱 Glm4vImageProcessor.call()。Glm4vProcessor 使用 Glm4vImageProcessor 處理影片。
• image_grid_thw (形狀為 (num_images, 3) 的 torch.LongTensor，可選) — LLM 中每張影像的特徵形狀的時間、高度和寬度。
• video_grid_thw (形狀為 (num_videos, 3) 的 torch.LongTensor，可選) — LLM 中每個影片的特徵形狀的時間、高度和寬度。
• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度與多模態旋轉位置編碼之間的旋轉位置編碼索引差。
• cache_position (形狀為 (sequence_length) 的 torch.LongTensor，可選) — 描述輸入序列令牌在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個 transformers.models.glm4v.modeling_glm4v.Glm4vModelOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳入 return_dict=False 或當 config.return_dict=False 時），包含根據配置（None）和輸入的不同元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 <class 'torch.FloatTensor'>.last_hidden_state，預設為 None) — 模型最後一層的隱藏狀態序列。

• past_key_values (tuple(tuple(torch.FloatTensor)), 可選, 當傳入 use_cache=True 或當 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor], 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，加上每個層的一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor], 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度與多模態旋轉位置編碼之間的旋轉位置編碼索引差。

引數

• input_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor) — 詞彙表中輸入序列令牌的索引。預設情況下將忽略填充。

  索引可以使用 AutoTokenizer 獲取。有關詳情，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (形狀為 (batch_size, sequence_length) 的 torch.Tensor，可選) — 避免對填充令牌索引執行注意力的掩碼。掩碼值選擇在 [0, 1] 之間：
  • 1 表示未被掩蓋的令牌，
  • 0 表示被掩蓋的令牌。

  什麼是注意力掩碼？

• position_ids (形狀為 (batch_size, sequence_length) 的 torch.LongTensor，可選) — 每個輸入序列令牌在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]。

  什麼是位置 ID？

• past_key_values (list[torch.FloatTensor], 可選) — 預計算的隱藏狀態（自注意力塊和交叉注意力塊中的鍵和值），可用於加速順序解碼。這通常包括模型在解碼前期返回的 past_key_values，當 use_cache=True 或 config.use_cache=True 時。

  允許兩種格式：

  • 一個 Cache 例項，詳見我們的 kv cache 指南；
  • 一個長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含兩個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量）。這也稱為傳統快取格式。

  模型將輸出與輸入相同的快取格式。如果未傳入 past_key_values，則將返回傳統快取格式。

  如果使用 past_key_values，使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 input_ids（那些沒有將過去鍵值狀態提供給此模型的），而不是形狀為 (batch_size, sequence_length) 的所有 input_ids。

• inputs_embeds (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor，可選) — 可選地，您可以選擇直接傳遞嵌入表示，而不是傳遞 input_ids。如果您想對如何將 input_ids 索引轉換為關聯向量進行比模型內部嵌入查詢矩陣更精細的控制，這會很有用。
• labels (形狀為 (batch_size, sequence_length) 的 torch.LongTensor，可選) — 用於計算掩碼語言模型損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間（參見 input_ids 文件字串）。索引設定為 -100 的令牌將被忽略（掩碼），損失僅針對標籤在 [0, ..., config.vocab_size] 中的令牌計算。
• use_cache (bool, 可選) — 如果設定為 True，則返回 past_key_values 鍵值狀態，可用於加速解碼（參見 past_key_values）。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參閱返回張量中的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參閱返回張量中的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通的元組。
• pixel_values (形狀為 (batch_size, num_channels, image_size, image_size) 的 torch.Tensor，可選) — 對應輸入影像的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳情，請參閱 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• pixel_values_videos (形狀為 `(seq_length, num_channels * temporal_size * image_size * image_size)` 的 torch.FloatTensor，可選) — 對應輸入影片的張量。畫素值可以使用 AutoImageProcessor 獲取。有關詳情，請參閱 Glm4vImageProcessor.call()。Glm4vProcessor 使用 Glm4vImageProcessor 處理影片。
• image_grid_thw (形狀為 (num_images, 3) 的 torch.LongTensor，可選) — LLM 中每張影像的特徵形狀的時間、高度和寬度。
• video_grid_thw (形狀為 (num_videos, 3) 的 torch.LongTensor，可選) — LLM 中每個影片的特徵形狀的時間、高度和寬度。
• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度與多模態旋轉位置編碼之間的旋轉位置編碼索引差。
• cache_position (形狀為 (sequence_length) 的 torch.LongTensor，可選) — 描述輸入序列令牌在序列中位置的索引。與 position_ids 不同，此張量不受填充影響。它用於在正確位置更新快取並推斷完整的序列長度。

一個 transformers.models.glm4v.modeling_glm4v.Glm4vCausalLMOutputWithPast 或一個 torch.FloatTensor 的元組（如果傳入 return_dict=False 或當 config.return_dict=False 時），包含根據配置（Glm4vConfig）和輸入的不同元素。

• loss (torch.FloatTensor 形狀為 (1,)，可選，當提供 labels 時返回) — 語言建模損失（用於下一個 token 預測）。

• logits (形狀為 (batch_size, sequence_length, config.vocab_size) 的 torch.FloatTensor) — 語言建模頭部的預測分數（SoftMax 之前的每個詞彙標記的分數）。

• past_key_values (tuple(tuple(torch.FloatTensor)), 可選, 當傳入 use_cache=True 或當 config.use_cache=True 時返回) — 長度為 config.n_layers 的 tuple(torch.FloatTensor) 元組，每個元組包含 2 個形狀為 (batch_size, num_heads, sequence_length, embed_size_per_head) 的張量。

  包含預計算的隱藏狀態（自注意力塊中的鍵和值），可用於（參見 past_key_values 輸入）加速順序解碼。

• hidden_states (tuple[torch.FloatTensor], 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — torch.FloatTensor 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，加上每個層的一個輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (tuple[torch.FloatTensor], 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — torch.FloatTensor 的元組（每個層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

• rope_deltas (形狀為 (batch_size, ) 的 torch.LongTensor，可選) — 序列長度與多模態旋轉位置編碼之間的旋轉位置編碼索引差。