引數

• input_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• pixel_values (torch.FloatTensor，形狀為 (batch_size, num_channels, image_size, image_size), 可選) — 對應於輸入影像的張量。可以使用 {image_processor_class} 獲取畫素值。有關詳細資訊，請參見 {image_processor_class}.__call__（{processor_class} 使用 {image_processor_class} 處理影像）。
• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示**未被掩碼**的標記，
  • 0 表示**被掩碼**的標記。

  什麼是注意力掩碼？

• position_ids (torch.LongTensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• return_loss (bool, 可選) — 是否返回對比損失。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參見返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參見返回張量下的 hidden_states。
• interpolate_pos_encoding (bool, 預設為 False) — 是否對預訓練的位置編碼進行插值。

一個 transformers.models.clip.modeling_clip.CLIPOutput 或一個 `torch.FloatTensor` 元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置 (CLIPConfig) 和輸入包含各種元素。

• loss (torch.FloatTensor，形狀為 (1,), 可選, 當 return_loss 為 True 時返回) — 影像-文字相似度的對比損失。
• logits_per_image (torch.FloatTensor，形狀為 (image_batch_size, text_batch_size)) — image_embeds 和 text_embeds 之間的縮放點積得分。這表示影像-文字相似度分數。
• logits_per_text (torch.FloatTensor，形狀為 (text_batch_size, image_batch_size)) — text_embeds 和 image_embeds 之間的縮放點積得分。這表示文字-影像相似度分數。
• text_embeds (torch.FloatTensor，形狀為 (batch_size, output_dim)) — 將投影層應用於 CLIPTextModel 的池化輸出所獲得的文字嵌入。
• image_embeds (torch.FloatTensor，形狀為 (batch_size, output_dim)) — 將投影層應用於 CLIPVisionModel 的池化輸出所獲得的影像嵌入。
• text_model_output (<class '~modeling_outputs.BaseModelOutputWithPooling'>.text_model_output, 預設為 None) — CLIPTextModel 的輸出。
• vision_model_output (<class '~modeling_outputs.BaseModelOutputWithPooling'>.vision_model_output, 預設為 None) — CLIPVisionModel 的輸出。

引數

• input_ids (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。預設情況下，填充將被忽略。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在 [0, 1] 中選擇：
  • 1 表示**未被掩碼**的標記，
  • 0 表示**被掩碼**的標記。

  什麼是注意力掩碼？

• position_ids (torch.Tensor，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 [0, config.n_positions - 1] 範圍內選擇。

  什麼是位置 ID？

• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參見返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參見返回張量下的 hidden_states。

將投影層應用於 CLIPTextModel 的池化輸出所獲得的文字嵌入。

引數

• pixel_values (形狀為 `(batch_size, num_channels, image_size, image_size)` 的 `torch.FloatTensor`，可選) — 對應於輸入影像的張量。畫素值可以使用 `{image_processor_class}` 獲取。有關詳細資訊，請參閱 `{image_processor_class}.__call__`（`{processor_class}` 使用 `{image_processor_class}` 處理影像）。
• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。
• interpolate_pos_encoding (`bool` 型別，預設為 `False`) — 是否對預訓練的位置編碼進行插值。

將投影層應用於 CLIPVisionModel 的池化輸出所獲得的影像嵌入。

引數

• input_ids (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 詞彙表中輸入序列標記的索引。預設情況下將忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.__call__()。

  什麼是輸入 ID？

• attention_mask (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在 `[0, 1]` 中選擇：
  • 1 表示標記未被遮蓋，
  • 0 表示標記被遮蓋。

  什麼是注意力掩碼？

• position_ids (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 `[0, config.n_positions - 1]` 範圍內選擇。

  什麼是位置 ID？

• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。

一個 transformers.modeling_outputs.BaseModelOutputWithPooling 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（CLIPConfig）和輸入，包含各種元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (形狀為 `(batch_size, hidden_size)` 的 `torch.FloatTensor`) — 序列的第一個標記（分類標記）的最後一層隱藏狀態，經過用於輔助預訓練任務的層進一步處理。例如，對於 BERT 家族模型，這返回經過線性層和 tanh 啟用函式處理後的分類標記。線性層權重是在預訓練期間從下一句預測（分類）目標中訓練的。

• hidden_states (`tuple(torch.FloatTensor)` 型別，可選，當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，+ 每個層一個用於輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (`tuple(torch.FloatTensor)` 型別，可選，當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 詞彙表中輸入序列標記的索引。預設情況下將忽略填充。

  可以使用 AutoTokenizer 獲取索引。有關詳細資訊，請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.__call__()。

  什麼是輸入 ID？

• attention_mask (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 用於避免對填充標記索引執行注意力的掩碼。掩碼值在 `[0, 1]` 中選擇：
  • 1 表示標記未被遮蓋，
  • 0 表示標記被遮蓋。

  什麼是注意力掩碼？

• position_ids (形狀為 `(batch_size, sequence_length)` 的 `torch.Tensor`，可選) — 每個輸入序列標記在位置嵌入中的位置索引。在 `[0, config.n_positions - 1]` 範圍內選擇。

  什麼是位置 ID？

• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。

一個 `transformers.models.clip.modeling_clip.CLIPTextModelOutput` 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（CLIPConfig）和輸入，包含各種元素。

• text_embeds (形狀為 `(batch_size, output_dim)` 的 `torch.FloatTensor`，可選，當模型以 `with_projection=True` 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的文字嵌入。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可選，預設為 None) — 模型最後一層輸出的隱藏狀態序列。

• hidden_states (`tuple[torch.FloatTensor, ...]` 型別，可選，當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，+ 每個層一個用於輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (`tuple[torch.FloatTensor, ...]` 型別，可選，當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (形狀為 `(batch_size, num_channels, image_size, image_size)` 的 `torch.FloatTensor`，可選) — 對應於輸入影像的張量。畫素值可以使用 `{image_processor_class}` 獲取。有關詳細資訊，請參閱 `{image_processor_class}.__call__`（`{processor_class}` 使用 `{image_processor_class}` 處理影像）。
• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。
• interpolate_pos_encoding (`bool` 型別，預設為 `False`) — 是否對預訓練的位置編碼進行插值。

一個 `transformers.models.clip.modeling_clip.CLIPVisionModelOutput` 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（CLIPConfig）和輸入，包含各種元素。

• image_embeds (形狀為 `(batch_size, output_dim)` 的 `torch.FloatTensor`，可選，當模型以 `with_projection=True` 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 torch.FloatTensor, 可選，預設為 None) — 模型最後一層輸出的隱藏狀態序列。

• hidden_states (`tuple[torch.FloatTensor, ...]` 型別，可選，當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，+ 每個層一個用於輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (`tuple[torch.FloatTensor, ...]` 型別，可選，當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (形狀為 `(batch_size, num_channels, image_size, image_size)` 的 `torch.FloatTensor`，可選) — 對應於輸入影像的張量。畫素值可以使用 `{image_processor_class}` 獲取。有關詳細資訊，請參閱 `{image_processor_class}.__call__`（`{processor_class}` 使用 `{image_processor_class}` 處理影像）。
• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。
• interpolate_pos_encoding (`bool` 型別，預設為 `False`) — 是否對預訓練的位置編碼進行插值。

一個 transformers.modeling_outputs.BaseModelOutputWithPooling 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或當 `config.return_dict=False` 時），根據配置（CLIPConfig）和輸入，包含各種元素。

• last_hidden_state (torch.FloatTensor, 形狀為 (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (形狀為 `(batch_size, hidden_size)` 的 `torch.FloatTensor`) — 序列的第一個標記（分類標記）的最後一層隱藏狀態，經過用於輔助預訓練任務的層進一步處理。例如，對於 BERT 家族模型，這返回經過線性層和 tanh 啟用函式處理後的分類標記。線性層權重是在預訓練期間從下一句預測（分類）目標中訓練的。

• hidden_states (`tuple(torch.FloatTensor)` 型別，可選，當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，+ 每個層一個用於輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

• attentions (`tuple(torch.FloatTensor)` 型別，可選，當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (形狀為 `(batch_size, num_channels, image_size, image_size)` 的 `torch.Tensor`，可選) — 對應於輸入影像的張量。畫素值可以使用 `{image_processor_class}` 獲取。有關詳細資訊，請參閱 `{image_processor_class}.__call__`（`{processor_class}` 使用 `{image_processor_class}` 處理影像）。
• labels (形狀為 `(batch_size,)` 的 `torch.LongTensor`，可選) — 用於計算影像分類/迴歸損失的標籤。索引應在 `[0, ..., config.num_labels - 1]` 範圍內。如果 `config.num_labels == 1`，則計算迴歸損失（均方損失），如果 `config.num_labels > 1`，則計算分類損失（交叉熵）。
• output_attentions (`bool` 型別，可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 `attentions`。
• output_hidden_states (`bool` 型別，可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 `hidden_states`。

一個 transformers.modeling_outputs.ImageClassifierOutput 或一個 `torch.FloatTensor` 的元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），包含的各種元素取決於配置（CLIPConfig）和輸入。

• loss (形狀為 (1,) 的 torch.FloatTensor，可選，當提供 labels 時返回) — 分類損失（如果 config.num_labels==1，則為迴歸損失）。

• logits (形狀為 (batch_size, config.num_labels) 的 torch.FloatTensor) — 分類（如果 config.num_labels==1，則為迴歸）分數（SoftMax 之前）。

• hidden_states (tuple(torch.FloatTensor), 可選, 當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `torch.FloatTensor` 的元組（如果模型有嵌入層，則一個用於嵌入層的輸出，外加每個階段的輸出一個），形狀為 `(batch_size, sequence_length, hidden_size)`。模型在每個階段輸出的隱藏狀態（也稱為特徵圖）。

• attentions (tuple(torch.FloatTensor), 可選, 當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `torch.FloatTensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, patch_size, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (np.ndarray、tf.Tensor、list[tf.Tensor]、`dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, sequence_length)`) — 詞彙表中輸入序列標記的索引。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.call() 和 PreTrainedTokenizer.encode()。

  什麼是輸入 ID？

• pixel_values (np.ndarray、tf.Tensor、list[tf.Tensor]、dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, num_channels, height, width)`) — 畫素值。畫素值可以使用 AutoImageProcessor 獲得。詳情請參閱 CLIPImageProcessor.call()。
• attention_mask (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 用於避免對填充標記索引執行注意力計算的掩碼。掩碼值選自 `[0, 1]`：
  • 1 表示標記未被掩碼，
  • 0 表示標記已被掩碼。

  什麼是注意力掩碼？

• position_ids (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 位置嵌入中每個輸入序列標記的位置索引。取值範圍為 `[0, config.max_position_embeddings - 1]`。

  什麼是位置 ID？

• return_loss (bool, 可選) — 是否返回對比損失。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。該引數可以在 Eager 模式下使用，在圖模式下該值將始終設定為 True。
• training (bool, 可選, 預設為 `False`) — 是否將模型用於訓練模式（一些模組如 dropout 模組在訓練和評估之間有不同的行為）。

一個 `transformers.models.clip.modeling_tf_clip.TFCLIPOutput` 或 `tf.Tensor` 的元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），包含的各種元素取決於配置（`<class 'transformers.models.clip.configuration_clip.CLIPConfig'>`）和輸入。

• loss (tf.Tensor，形狀為 (1,)，可選，當 return_loss 為 True 時返回) — 影像-文字相似度的對比損失。
• logits_per_image:(tf.Tensor，形狀為 `(image_batch_size, text_batch_size)`) — `image_embeds` 和 `text_embeds` 之間的縮放點積得分。這表示影像-文字相似度得分。
• logits_per_text:(tf.Tensor，形狀為 `(text_batch_size, image_batch_size)`) — `text_embeds` 和 `image_embeds` 之間的縮放點積得分。這表示文字-影像相似度得分。
• text_embeds(tf.Tensor，形狀為 `(batch_size, output_dim`) — 將投影層應用於 TFCLIPTextModel 的池化輸出所獲得的文字嵌入。
• image_embeds(tf.Tensor，形狀為 `(batch_size, output_dim`) — 將投影層應用於 TFCLIPVisionModel 的池化輸出所獲得的影像嵌入。
• text_model_output(~modeling_tf_utils.TFBaseModelOutputWithPooling): TFCLIPTextModel 的輸出。
• vision_model_output(~modeling_tf_utils.TFBaseModelOutputWithPooling): TFCLIPVisionModel 的輸出。

引數

• input_ids (np.ndarray、tf.Tensor、list[tf.Tensor]、`dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, sequence_length)`) — 詞彙表中輸入序列標記的索引。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.call() 和 PreTrainedTokenizer.encode()。

  什麼是輸入 ID？

• attention_mask (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 用於避免對填充標記索引執行注意力計算的掩碼。掩碼值選自 `[0, 1]`：
  • 1 表示標記未被掩碼，
  • 0 表示標記已被掩碼。

  什麼是注意力掩碼？

• position_ids (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 位置嵌入中每個輸入序列標記的位置索引。取值範圍為 `[0, config.max_position_embeddings - 1]`。

  什麼是位置 ID？

• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。該引數可以在 Eager 模式下使用，在圖模式下該值將始終設定為 True。
• training (bool, 可選, 預設為 `False`) — 是否將模型用於訓練模式（一些模組如 dropout 模組在訓練和評估之間有不同的行為）。

將投影層應用於 TFCLIPTextModel 的池化輸出所獲得的文字嵌入。

引數

• pixel_values (np.ndarray、tf.Tensor、list[tf.Tensor]、`dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, num_channels, height, width)`) — 畫素值。畫素值可以使用 AutoImageProcessor 獲得。詳情請參閱 CLIPImageProcessor.call()。 output_attentions (bool, 可選): 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。該引數可以在 Eager 模式下使用，在圖模式下該值將始終設定為 True。
• training (bool, 可選, 預設為 `False`) — 是否將模型用於訓練模式（一些模組如 dropout 模組在訓練和評估之間有不同的行為）。

將投影層應用於 TFCLIPVisionModel 的池化輸出所獲得的影像嵌入。

引數

• input_ids (np.ndarray、tf.Tensor、list[tf.Tensor]、`dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, sequence_length)`) — 詞彙表中輸入序列標記的索引。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.call() 和 PreTrainedTokenizer.encode()。

  什麼是輸入 ID？

• attention_mask (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 用於避免對填充標記索引執行注意力計算的掩碼。掩碼值選自 `[0, 1]`：
  • 1 表示標記未被掩碼，
  • 0 表示標記已被掩碼。

  什麼是注意力掩碼？

• position_ids (np.ndarray 或 tf.Tensor，形狀為 `(batch_size, sequence_length)`，可選) — 位置嵌入中每個輸入序列標記的位置索引。取值範圍為 `[0, config.max_position_embeddings - 1]`。

  什麼是位置 ID？

• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。該引數可以在 Eager 模式下使用，在圖模式下該值將始終設定為 True。
• training (bool, 可選, 預設為 `False`) — 是否將模型用於訓練模式（一些模組如 dropout 模組在訓練和評估之間有不同的行為）。

一個 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或一個 `tf.Tensor` 的元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），包含的各種元素取決於配置（`<class 'transformers.models.clip.configuration_clip.CLIPTextConfig'>`）和輸入。

• last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (tf.Tensor，形狀為 `(batch_size, hidden_size)`) — 序列第一個標記（分類標記）的最後一層隱藏狀態，經過一個線性層和 Tanh 啟用函式進一步處理。線性層的權重是在預訓練期間根據下一句預測（分類）目標進行訓練的。

  此輸出通常不是輸入語義內容的良好摘要，通常最好對整個輸入序列的隱藏狀態進行平均或池化。

• hidden_states (tuple(tf.Tensor), 可選, 當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `tf.Tensor` 的元組（一個用於嵌入層的輸出 + 一個用於每層的輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

• attentions (tuple(tf.Tensor), 可選, 當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `tf.Tensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (np.ndarray、tf.Tensor、list[tf.Tensor]、`dict[str, tf.Tensor] 或 dict[str, np.ndarray]，每個樣本形狀必須為 `(batch_size, num_channels, height, width)`) — 畫素值。畫素值可以使用 AutoImageProcessor 獲得。詳情請參閱 CLIPImageProcessor.call()。 output_attentions (bool, 可選): 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。該引數只能在 Eager 模式下使用，在圖模式下將使用配置中的值。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。該引數可以在 Eager 模式下使用，在圖模式下該值將始終設定為 True。
• training (bool, 可選, 預設為 `False`) — 是否將模型用於訓練模式（一些模組如 dropout 模組在訓練和評估之間有不同的行為）。

一個 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或一個 `tf.Tensor` 的元組（如果傳遞了 `return_dict=False` 或 `config.return_dict=False`），包含的各種元素取決於配置（`<class 'transformers.models.clip.configuration_clip.CLIPVisionConfig'>`）和輸入。

• last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (tf.Tensor，形狀為 `(batch_size, hidden_size)`) — 序列第一個標記（分類標記）的最後一層隱藏狀態，經過一個線性層和 Tanh 啟用函式進一步處理。線性層的權重是在預訓練期間根據下一句預測（分類）目標進行訓練的。

  此輸出通常不是輸入語義內容的良好摘要，通常最好對整個輸入序列的隱藏狀態進行平均或池化。

• hidden_states (tuple(tf.Tensor), 可選, 當傳遞 `output_hidden_states=True` 或 `config.output_hidden_states=True` 時返回) — `tf.Tensor` 的元組（一個用於嵌入層的輸出 + 一個用於每層的輸出），形狀為 `(batch_size, sequence_length, hidden_size)`。

  模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

• attentions (tuple(tf.Tensor), 可選, 當傳遞 `output_attentions=True` 或 `config.output_attentions=True` 時返回) — `tf.Tensor` 的元組（每層一個），形狀為 `(batch_size, num_heads, sequence_length, sequence_length)`。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (numpy.ndarray，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充，預設將被忽略。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選自 [0, 1]：
  • 1 表示標記未被遮蓋，
  • 0 表示標記已被遮蓋。

  什麼是注意力掩碼？

• position_ids (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選值範圍為 [0, config.max_position_embeddings - 1]。

  什麼是位置 ID？

• pixel_values (numpy.ndarray，形狀為 (batch_size, num_channels, height, width)) — 畫素值。如果提供填充，預設將被忽略。畫素值可以使用 AutoImageProcessor 獲得。詳情請參閱 CLIPImageProcessor.call()。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

一個 transformers.models.clip.modeling_flax_clip.FlaxCLIPOutput 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（<class 'transformers.models.clip.configuration_clip.CLIPConfig'>）和輸入，包含各種元素。

• logits_per_image:(jnp.ndarray，形狀為 (image_batch_size, text_batch_size)) — image_embeds 和 text_embeds 之間的縮放點積得分。這表示圖文相似性得分。
• logits_per_text:(jnp.ndarray，形狀為 (text_batch_size, image_batch_size)) — text_embeds 和 image_embeds 之間的縮放點積得分。這表示文圖相似性得分。
• text_embeds(jnp.ndarray，形狀為 (batch_size, output_dim)) — 透過將投影層應用於 FlaxCLIPTextModel 的池化輸出而獲得的文字嵌入。
• image_embeds(jnp.ndarray，形狀為 (batch_size, output_dim)) — 透過將投影層應用於 FlaxCLIPVisionModel 的池化輸出而獲得的影像嵌入。
• text_model_output(FlaxBaseModelOutputWithPooling): FlaxCLIPTextModel 的輸出。
• vision_model_output(FlaxBaseModelOutputWithPooling): FlaxCLIPVisionModel 的輸出。

引數

• input_ids (numpy.ndarray，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充，預設將被忽略。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

透過將投影層應用於 FlaxCLIPTextModel 的池化輸出而獲得的文字嵌入。

引數

• pixel_values (numpy.ndarray，形狀為 (batch_size, num_channels, height, width)) — 畫素值。如果提供填充，預設將被忽略。畫素值可以使用 AutoImageProcessor 獲得。詳情請參閱 CLIPImageProcessor.call()。

透過將投影層應用於 FlaxCLIPVisionModel 的池化輸出而獲得的影像嵌入

引數

• input_ids (numpy.ndarray，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充，預設將被忽略。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選自 [0, 1]：
  • 1 表示標記未被遮蓋，
  • 0 表示標記已被遮蓋。

  什麼是注意力掩碼？

• position_ids (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選值範圍為 [0, config.max_position_embeddings - 1]。

  什麼是位置 ID？

• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

一個 transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（<class 'transformers.models.clip.configuration_clip.CLIPTextConfig'>）和輸入，包含各種元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 jnp.ndarray) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (jnp.ndarray，形狀為 (batch_size, hidden_size)) — 序列第一個標記（分類標記）的最後一層隱藏狀態，經過線性層和 Tanh 啟用函式進一步處理。線性層的權重在預訓練期間透過下一句預測（分類）目標進行訓練。

• hidden_states (tuple(jnp.ndarray), 可選, 當傳遞 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — jnp.ndarray 的元組（一個用於嵌入層的輸出，一個用於每個層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

• attentions (tuple(jnp.ndarray), 可選, 當傳遞 output_attentions=True 或當 config.output_attentions=True 時返回) — jnp.ndarray 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• input_ids (numpy.ndarray，形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充，預設將被忽略。

  索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。

  什麼是輸入 ID？

• attention_mask (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選自 [0, 1]：
  • 1 表示標記未被遮蓋，
  • 0 表示標記已被遮蓋。

  什麼是注意力掩碼？

• position_ids (numpy.ndarray，形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選值範圍為 [0, config.max_position_embeddings - 1]。

  什麼是位置 ID？

• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

一個 transformers.models.clip.modeling_flax_clip.FlaxCLIPTextModelOutput 或一個 torch.FloatTensor 元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（<class 'transformers.models.clip.configuration_clip.CLIPTextConfig'>）和輸入，包含各種元素。

• text_embeds (jnp.ndarray，形狀為 (batch_size, output_dim)) — 透過將投影層應用於 FlaxCLIPTextModel 的池化輸出而獲得的文字嵌入。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 jnp.ndarray) — 模型最後一層輸出的隱藏狀態序列。

• hidden_states (tuple(jnp.ndarray), 可選, 當傳遞 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — jnp.ndarray 的元組（一個用於嵌入層的輸出，一個用於每個層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

• attentions (tuple(jnp.ndarray), 可選, 當傳遞 output_attentions=True 或當 config.output_attentions=True 時返回) — jnp.ndarray 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。

引數

• pixel_values (numpy.ndarray，形狀為 (batch_size, num_channels, height, width)) — 畫素值。如果您提供填充（Padding），預設情況下它將被忽略。畫素值可以使用 AutoImageProcessor 獲取。有關詳細資訊，請參閱 CLIPImageProcessor.call()。
• output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊，請參閱返回張量下的 attentions。
• output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊，請參閱返回張量下的 hidden_states。
• return_dict (bool, 可選) — 是否返回一個 ModelOutput 而不是一個普通的元組。

transformers.modeling_flax_outputs.FlaxBaseModelOutputWithPooling 或一個 torch.FloatTensor 的元組（如果傳遞了 return_dict=False 或當 config.return_dict=False 時），根據配置（<class 'transformers.models.clip.configuration_clip.CLIPVisionConfig'>）和輸入包含各種元素。

• last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size) 的 jnp.ndarray) — 模型最後一層輸出的隱藏狀態序列。

• pooler_output (jnp.ndarray，形狀為 (batch_size, hidden_size)) — 序列第一個標記（分類標記）的最後一層隱藏狀態，經過線性層和 Tanh 啟用函式進一步處理。線性層的權重在預訓練期間透過下一句預測（分類）目標進行訓練。

• hidden_states (tuple(jnp.ndarray), 可選, 當傳遞 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — jnp.ndarray 的元組（一個用於嵌入層的輸出，一個用於每個層的輸出），形狀為 (batch_size, sequence_length, hidden_size)。

  模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

• attentions (tuple(jnp.ndarray), 可選, 當傳遞 output_attentions=True 或當 config.output_attentions=True 時返回) — jnp.ndarray 的元組（每層一個），形狀為 (batch_size, num_heads, sequence_length, sequence_length)。

  注意力 softmax 後的注意力權重，用於計算自注意力頭中的加權平均值。