Transformers 文件
Chinese-CLIP
並獲得增強的文件體驗
開始使用
Chinese-CLIP
概述
Chinese-CLIP 模型由 An Yang、Junshu Pan、Junyang Lin、Rui Men、Yichang Zhang、Jingren Zhou、Chang Zhou 在論文 Chinese CLIP: Contrastive Vision-Language Pretraining in Chinese 中提出。Chinese-CLIP 是 CLIP(Radford et al., 2021)在大型中文圖文對資料集上的實現。它能夠執行跨模態檢索,並可作為視覺骨幹網路用於零樣本影像分類、開放域目標檢測等視覺任務。原始的 Chinese-CLIP 程式碼釋出在此連結。
論文摘要如下:
CLIP(Radford et al., 2021)的巨大成功推動了視覺-語言預訓練對比學習的研究和應用。在這項工作中,我們構建了一個大規模的中文圖文對資料集,其中大部分資料來自公開可用的資料集,然後我們在這個新資料集上預訓練了 Chinese CLIP 模型。我們開發了 5 個不同大小的 Chinese CLIP 模型,引數量從 7,700 萬到 9.58 億不等。此外,我們提出了一種兩階段預訓練方法,即先凍結影像編碼器進行訓練,然後對所有引數進行最佳化訓練,以提升模型效能。我們全面的實驗表明,在零樣本學習和微調的設定下,Chinese CLIP 在 MUGE、Flickr30K-CN 和 COCO-CN 資料集上均能達到最先進的效能,並且在 ELEVATER 基準(Li et al., 2022)的評估中,它能夠在零樣本影像分類方面取得有競爭力的表現。我們的程式碼、預訓練模型和演示均已釋出。
Chinese-CLIP 模型由 OFA-Sys 貢獻。
使用示例
下面的程式碼片段展示瞭如何計算影像和文字特徵及其相似度。
>>> from PIL import Image
>>> import requests
>>> from transformers import ChineseCLIPProcessor, ChineseCLIPModel
>>> model = ChineseCLIPModel.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> processor = ChineseCLIPProcessor.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> url = "https://clip-cn-beijing.oss-cn-beijing.aliyuncs.com/pokemon.jpeg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> # Squirtle, Bulbasaur, Charmander, Pikachu in English
>>> texts = ["傑尼龜", "妙蛙種子", "小火龍", "皮卡丘"]
>>> # compute image feature
>>> inputs = processor(images=image, return_tensors="pt")
>>> image_features = model.get_image_features(**inputs)
>>> image_features = image_features / image_features.norm(p=2, dim=-1, keepdim=True) # normalize
>>> # compute text features
>>> inputs = processor(text=texts, padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)
>>> text_features = text_features / text_features.norm(p=2, dim=-1, keepdim=True) # normalize
>>> # compute image-text similarity scores
>>> inputs = processor(text=texts, images=image, return_tensors="pt", padding=True)
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1) # probs: [[1.2686e-03, 5.4499e-02, 6.7968e-04, 9.4355e-01]]
目前,以下規模的預訓練 Chinese-CLIP 模型可在 🤗 Hub 上獲取:
- OFA-Sys/chinese-clip-vit-base-patch16
- OFA-Sys/chinese-clip-vit-large-patch14
- OFA-Sys/chinese-clip-vit-large-patch14-336px
- OFA-Sys/chinese-clip-vit-huge-patch14
ChineseCLIPConfig
class transformers.ChineseCLIPConfig
< source >( text_config = None vision_config = None projection_dim = 512 logit_scale_init_value = 2.6592 **kwargs )
引數
- text_config (
dict
, 可選) — 用於初始化 ChineseCLIPTextConfig 的配置選項字典。 - vision_config (
dict
, 可選) — 用於初始化 ChineseCLIPVisionConfig 的配置選項字典。 - projection_dim (
int
, 可選, 預設為 512) — 文字和視覺投影層的維度。 - logit_scale_init_value (
float
, 可選, 預設為 2.6592) — logit_scale 引數的初始值。預設值根據原始 ChineseCLIP 實現使用。 - kwargs (可選) — 關鍵字引數字典。
ChineseCLIPConfig 是用於儲存 ChineseCLIPModel 配置的配置類。它用於根據指定的引數例項化 Chinese-CLIP 模型,定義文字模型和視覺模型的配置。使用預設值例項化配置將產生與 Chinese-CLIP OFA-Sys/chinese-clip-vit-base-patch16 架構相似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import ChineseCLIPConfig, ChineseCLIPModel
>>> # Initializing a ChineseCLIPConfig with OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> configuration = ChineseCLIPConfig()
>>> # Initializing a ChineseCLIPModel (with random weights) from the OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> model = ChineseCLIPModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
>>> # We can also initialize a ChineseCLIPConfig from a ChineseCLIPTextConfig and a ChineseCLIPVisionConfig
>>> # Initializing a ChineseCLIPTextConfig and ChineseCLIPVisionConfig configuration
>>> config_text = ChineseCLIPTextConfig()
>>> config_vision = ChineseCLIPVisionConfig()
>>> config = ChineseCLIPConfig.from_text_vision_configs(config_text, config_vision)
from_text_vision_configs
< source >( text_config: ChineseCLIPTextConfig vision_config: ChineseCLIPVisionConfig **kwargs )
從 Chinese-CLIP 文字模型配置和 Chinese-CLIP 視覺模型配置例項化一個 ChineseCLIPConfig(或其派生類)。返回:ChineseCLIPConfig:一個配置物件的例項
ChineseCLIPTextConfig
class transformers.ChineseCLIPTextConfig
< source >( vocab_size = 30522 hidden_size = 768 num_hidden_layers = 12 num_attention_heads = 12 intermediate_size = 3072 hidden_act = 'gelu' hidden_dropout_prob = 0.1 attention_probs_dropout_prob = 0.1 max_position_embeddings = 512 type_vocab_size = 2 initializer_range = 0.02 initializer_factor = 1.0 layer_norm_eps = 1e-12 pad_token_id = 0 position_embedding_type = 'absolute' use_cache = True **kwargs )
引數
- vocab_size (
int
, 可選, 預設為 30522) — CHINESE_CLIP 模型的詞彙表大小。定義了呼叫 ChineseCLIPModel 時傳入的inputs_ids
可以表示的不同標記的數量。 - hidden_size (
int
, 可選, 預設為 768) — 編碼器層和池化層的維度。 - num_hidden_layers (
int
, 可選, 預設為 12) — Transformer 編碼器中的隱藏層數。 - num_attention_heads (
int
, 可選, 預設為 12) — Transformer 編碼器中每個注意力層的注意力頭數。 - intermediate_size (
int
, 可選, 預設為 3072) — Transformer 編碼器中“中間”層(通常稱為前饋層)的維度。 - hidden_act (
str
或Callable
, 可選, 預設為"gelu"
) — 編碼器和池化器中的非線性啟用函式(函式或字串)。如果為字串,支援"gelu"
、"relu"
、"silu"
和"gelu_new"
。 - hidden_dropout_prob (
float
, 可選, 預設為 0.1) — 嵌入層、編碼器和池化器中所有全連線層的丟棄機率。 - attention_probs_dropout_prob (
float
, 可選, 預設為 0.1) — 注意力機率的丟棄率。 - max_position_embeddings (
int
, 可選, 預設為 512) — 此模型可能使用的最大序列長度。通常將其設定為一個較大的值以備不時之需(例如,512、1024 或 2048)。 - type_vocab_size (
int
, 可選, 預設為 2) — 呼叫 ChineseCLIPModel 時傳入的token_type_ids
的詞彙表大小。 - initializer_range (
float
, 可選, 預設為 0.02) — 用於初始化所有權重矩陣的 truncated_normal_initializer 的標準差。 - initializer_factor (
float
, 可選, 預設為 1.0) — 用於初始化所有權重矩陣的因子(應保持為 1,內部用於初始化測試)。 - layer_norm_eps (
float
, 可選, 預設為 1e-12) — 層歸一化層使用的 epsilon 值。 - pad_token_id (
int
, 可選, 預設為 0) — 填充標記 ID。 - position_embedding_type (
str
, 可選, 預設為"absolute"
) — 位置嵌入的型別。從"absolute"
、"relative_key"
、"relative_key_query"
中選擇一個。對於位置嵌入,請使用"absolute"
。有關"relative_key"
的更多資訊,請參閱 Self-Attention with Relative Position Representations (Shaw et al.)。有關"relative_key_query"
的更多資訊,請參閱 Improve Transformer Models with Better Relative Position Embeddings (Huang et al.) 中的 方法 4。 - use_cache (
bool
, 可選, 預設為True
) — 模型是否應返回最後一個鍵/值注意力(並非所有模型都使用)。僅當config.is_decoder=True
時相關。
這是用於儲存 ChineseCLIPModel 配置的配置類。它用於根據指定的引數例項化 Chinese CLIP 模型,定義模型架構。使用預設值例項化配置將產生與 Chinese CLIP [OFA-Sys/chinese-clip-vit-base-patch16](https://huggingface.co/OFA-Sys/chinese-clip-vit-base-patch16) 架構相似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import ChineseCLIPTextConfig, ChineseCLIPTextModel
>>> # Initializing a ChineseCLIPTextConfig with OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> configuration = ChineseCLIPTextConfig()
>>> # Initializing a ChineseCLIPTextModel (with random weights) from the OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> model = ChineseCLIPTextModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
ChineseCLIPVisionConfig
class transformers.ChineseCLIPVisionConfig
< source >( hidden_size = 768 intermediate_size = 3072 projection_dim = 512 num_hidden_layers = 12 num_attention_heads = 12 num_channels = 3 image_size = 224 patch_size = 32 hidden_act = 'quick_gelu' layer_norm_eps = 1e-05 attention_dropout = 0.0 initializer_range = 0.02 initializer_factor = 1.0 **kwargs )
引數
- hidden_size (
int
, 可選, 預設為 768) — 編碼器層和池化層的維度。 - intermediate_size (
int
, 可選, 預設為 3072) — Transformer 編碼器中“中間”層(即前饋層)的維度。 - projection_dim (
int
, 可選, 預設為 512) — 文字和視覺投影層的維度。 - num_hidden_layers (
int
, 可選, 預設為 12) — Transformer 編碼器中的隱藏層數。 - num_attention_heads (
int
, 可選, 預設為 12) — Transformer 編碼器中每個注意力層的注意力頭數。 - num_channels (
int
, 可選, 預設為 3) — 輸入通道的數量。 - image_size (
int
, 可選, 預設為 224) — 每張影像的大小(解析度)。 - patch_size (
int
, 可選, 預設為 32) — 每個圖塊的大小(解析度)。 - hidden_act (
str
orfunction
, 可選, 預設為"quick_gelu"
) — 編碼器和池化層中的非線性啟用函式(函式或字串)。如果為字串,支援"gelu"
、"relu"
、"selu"
、"gelu_new"
和"quick_gelu"
。 - layer_norm_eps (
float
, 可選, 預設為 1e-05) — 層歸一化層使用的 epsilon 值。 - attention_dropout (
float
, 可選, 預設為 0.0) — 注意力機率的 dropout 比率。 - initializer_range (
float
, 可選, 預設為 0.02) — 用於初始化所有權重矩陣的 truncated_normal_initializer 的標準差。 - initializer_factor (
float
, 可選, 預設為 1.0) — 用於初始化所有權重矩陣的因子(應保持為 1,內部用於初始化測試)。
這是用於儲存 ChineseCLIPModel 配置的配置類。它用於根據指定的引數例項化一個 ChineseCLIP 模型,定義模型架構。使用預設值例項化配置將產生與 ChineseCLIP OFA-Sys/chinese-clip-vit-base-patch16 架構類似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import ChineseCLIPVisionConfig, ChineseCLIPVisionModel
>>> # Initializing a ChineseCLIPVisionConfig with OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> configuration = ChineseCLIPVisionConfig()
>>> # Initializing a ChineseCLIPVisionModel (with random weights) from the OFA-Sys/chinese-clip-vit-base-patch16 style configuration
>>> model = ChineseCLIPVisionModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
ChineseCLIPImageProcessor
class transformers.ChineseCLIPImageProcessor
< source >( do_resize: bool = True size: typing.Optional[dict[str, int]] = None resample: Resampling = <Resampling.BICUBIC: 3> do_center_crop: bool = True crop_size: typing.Optional[dict[str, int]] = None do_rescale: bool = True rescale_factor: typing.Union[int, float] = 0.00392156862745098 do_normalize: bool = True image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_convert_rgb: bool = True **kwargs )
引數
- do_resize (
bool
, 可選, 預設為True
) — 是否將影像的(高度,寬度)尺寸調整為指定的size
。可在preprocess
方法中透過do_resize
引數覆蓋。 - size (
dict[str, int]
可選, 預設為{"shortest_edge" -- 224}
): 調整大小後圖像的尺寸。影像的最短邊被調整為 size[“shortest_edge”],最長邊則按比例調整以保持輸入影像的寬高比。可在preprocess
方法中透過size
引數覆蓋。 - resample (
PILImageResampling
, 可選, 預設為Resampling.BICUBIC
) — 調整影像大小時使用的重取樣濾波器。可在preprocess
方法中透過resample
引數覆蓋。 - do_center_crop (
bool
, 可選, 預設為True
) — 是否對影像進行中心裁剪至指定的crop_size
。可在preprocess
方法中透過do_center_crop
引數覆蓋。 - crop_size (
dict[str, int]
可選, 預設為 224) — 應用center_crop
後輸出影像的大小。可在preprocess
方法中透過crop_size
引數覆蓋。 - do_rescale (
bool
, 可選, 預設為True
) — 是否使用指定的縮放因子rescale_factor
對影像進行縮放。可在preprocess
方法中透過do_rescale
引數覆蓋。 - rescale_factor (
int
orfloat
, 可選, 預設為1/255
) — 縮放影像時使用的縮放因子。可在preprocess
方法中透過rescale_factor
引數覆蓋。 - do_normalize (
bool
, 可選, 預設為True
) — 是否對影像進行歸一化。可在preprocess
方法中透過do_normalize
引數覆蓋。 - image_mean (
float
orlist[float]
, 可選, 預設為IMAGENET_STANDARD_MEAN
) — 歸一化影像時使用的均值。這是一個浮點數或浮點數列表,其長度等於影像中的通道數。可在preprocess
方法中透過image_mean
引數覆蓋。 - image_std (
float
orlist[float]
, 可選, 預設為IMAGENET_STANDARD_STD
) — 歸一化影像時使用的標準差。這是一個浮點數或浮點數列表,其長度等於影像中的通道數。可在preprocess
方法中透過image_std
引數覆蓋。可在preprocess
方法中透過image_std
引數覆蓋。 - do_convert_rgb (
bool
, 可選, 預設為True
) — 是否將影像轉換為 RGB。
構建一個 Chinese-CLIP 影像處理器。
preprocess
< source >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] do_resize: typing.Optional[bool] = None size: typing.Optional[dict[str, int]] = None resample: Resampling = None do_center_crop: typing.Optional[bool] = None crop_size: typing.Optional[int] = None do_rescale: typing.Optional[bool] = None rescale_factor: typing.Optional[float] = None do_normalize: typing.Optional[bool] = None image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_convert_rgb: typing.Optional[bool] = None return_tensors: typing.Union[str, transformers.utils.generic.TensorType, NoneType] = None data_format: typing.Optional[transformers.image_utils.ChannelDimension] = <ChannelDimension.FIRST: 'channels_first'> input_data_format: typing.Union[str, transformers.image_utils.ChannelDimension, NoneType] = None )
引數
- images (
ImageInput
) — 待預處理的影像。需要單個或一批畫素值在 0 到 255 範圍內的影像。如果傳入畫素值在 0 到 1 之間的影像,請設定do_rescale=False
。 - do_resize (
bool
, 可選, 預設為self.do_resize
) — 是否調整影像大小。 - size (
dict[str, int]
, 可選, 預設為self.size
) — 調整大小後圖像的尺寸。影像的最短邊被調整為 size[“shortest_edge”],最長邊則按比例調整以保持輸入影像的寬高比。 - resample (
int
, 可選, 預設為self.resample
) — 調整影像大小時使用的重取樣濾波器。這可以是PILImageResampling
列舉之一。僅在do_resize
設定為True
時生效。 - do_center_crop (
bool
, 可選, 預設為self.do_center_crop
) — 是否對影像進行中心裁剪。 - crop_size (
dict[str, int]
, 可選, 預設為self.crop_size
) — 中心裁剪的大小。僅在do_center_crop
設定為True
時生效。 - do_rescale (
bool
, 可選, 預設為self.do_rescale
) — 是否對影像進行縮放。 - rescale_factor (
float
, 可選, 預設為self.rescale_factor
) — 如果do_rescale
設定為True
,則用於縮放影像的縮放因子。 - do_normalize (
bool
, 可選, 預設為self.do_normalize
) — 是否對影像進行歸一化。 - image_mean (
float
orlist[float]
, 可選, 預設為self.image_mean
) — 用於歸一化的影像均值。僅在do_normalize
設定為True
時生效。 - image_std (
float
orlist[float]
, 可選, 預設為self.image_std
) — 用於歸一化的影像標準差。僅在do_normalize
設定為True
時生效。 - do_convert_rgb (
bool
, 可選, 預設為self.do_convert_rgb
) — 是否將影像轉換為 RGB。 - return_tensors (
str
orTensorType
, 可選) — 返回的張量型別。可以是以下之一:- 未設定:返回一個
np.ndarray
列表。 TensorType.TENSORFLOW
或'tf'
:返回一個tf.Tensor
型別的批次。TensorType.PYTORCH
或'pt'
:返回一個torch.Tensor
型別的批次。TensorType.NUMPY
或'np'
:返回一個np.ndarray
型別的批次。TensorType.JAX
或'jax'
:返回一個jax.numpy.ndarray
型別的批次。
- 未設定:返回一個
- data_format (
ChannelDimension
orstr
, 可選, 預設為ChannelDimension.FIRST
) — 輸出影像的通道維度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:影像格式為 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:影像格式為 (height, width, num_channels)。- 未設定:使用輸入影像的通道維度格式。
- input_data_format (
ChannelDimension
orstr
, 可選) — 輸入影像的通道維度格式。如果未設定,則從輸入影像中推斷通道維度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:影像格式為 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:影像格式為 (height, width, num_channels)。"none"
或ChannelDimension.NONE
:影像格式為 (height, width)。
預處理一張或一批影像。
ChineseCLIPImageProcessorFast
class transformers.ChineseCLIPImageProcessorFast
< source >( **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] )
構建一個快速的 Chinese Clip 影像處理器。
preprocess
< source >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] *args **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] ) → <class 'transformers.image_processing_base.BatchFeature'>
引數
- images (
Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]
) — 待預處理的影像。需要單個或一批畫素值在 0 到 255 範圍內的影像。如果傳入畫素值在 0 到 1 之間的影像,請設定do_rescale=False
。 - do_resize (
bool
, 可選) — 是否調整影像大小。 - size (
dict[str, int]
, 可選) — 描述模型的最大輸入尺寸。 - default_to_square (
bool
, 可選) — 當 size 是一個整數時,在調整大小時是否預設為方形影像。 - resample (
Union[PILImageResampling, F.InterpolationMode, NoneType]
) — 調整影像大小時使用的重取樣濾波器。這可以是PILImageResampling
列舉之一。僅在do_resize
設定為True
時生效。 - do_center_crop (
bool
, 可選) — 是否對影像進行中心裁剪。 - crop_size (
dict[str, int]
, 可選) — 應用center_crop
後輸出影像的大小。 - do_rescale (
bool
, 可選) — 是否對影像進行縮放。 - rescale_factor (
Union[int, float, NoneType]
) — 如果do_rescale
設定為True
,則用於縮放影像的縮放因子。 - do_normalize (
bool
, 可選) — 是否對影像進行歸一化。 - image_mean (
Union[float, list[float], NoneType]
) — 用於歸一化的影像均值。僅在do_normalize
設定為True
時生效。 - image_std (
Union[float, list[float], NoneType]
) — 用於歸一化的影像標準差。僅在do_normalize
設定為True
時生效。 - do_convert_rgb (
bool
, 可選) — 是否將影像轉換為 RGB。 - return_tensors (
Union[str, ~utils.generic.TensorType, NoneType]
) — 如果設定為 `pt`,則返回堆疊的張量,否則返回張量列表。 - data_format (
~image_utils.ChannelDimension
, 可選) — 僅支援ChannelDimension.FIRST
。為與慢速處理器相容而新增。 - input_data_format (
Union[str, ~image_utils.ChannelDimension, NoneType]
) — 輸入影像的通道維度格式。如果未設定,將從輸入影像中推斷通道維度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:影像格式為 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:影像格式為 (height, width, num_channels)。"none"
或ChannelDimension.NONE
:影像格式為 (height, width)。
- device (
torch.device
, 可選) — 處理影像的裝置。如果未設定,將從輸入影像中推斷裝置。 - disable_grouping (
bool
, 可選) — 是否停用按尺寸對影像進行分組,以便單獨處理而非批次處理。如果為 None,則在影像位於 CPU 上時設定為 True,否則設定為 False。此選擇基於經驗觀察,詳情請見:https://github.com/huggingface/transformers/pull/38157
返回
<class 'transformers.image_processing_base.BatchFeature'>
- data (
dict
) — 由 call 方法返回的列表/陣列/張量字典(“pixel_values”等)。 - tensor_type (
Union[None, str, TensorType]
, 可選) — 您可以在此處提供一個`tensor_type`,以便在初始化時將整數列表轉換為PyTorch/TensorFlow/Numpy張量。
ChineseCLIPFeatureExtractor
ChineseCLIPProcessor
class transformers.ChineseCLIPProcessor
< 原始碼 >( image_processor = None tokenizer = None **kwargs )
引數
- image_processor (ChineseCLIPImageProcessor, 可選) — 影像處理器是必需的輸入。
- tokenizer (BertTokenizerFast, 可選) — 分詞器是必需的輸入。
構建一個 Chinese-CLIP 處理器,它將 Chinese-CLIP 影像處理器和 Chinese-CLIP 分詞器包裝成一個單獨的處理器。
ChineseCLIPProcessor 提供了 ChineseCLIPImageProcessor 和 BertTokenizerFast 的所有功能。更多資訊請參閱 __call__()
和 decode()。
此方法將其所有引數轉發給 BertTokenizerFast 的 batch_decode()。請參閱該方法的文件字串以獲取更多資訊。
ChineseCLIPModel
class transformers.ChineseCLIPModel
< 原始碼 >( config: ChineseCLIPConfig )
引數
- config (ChineseCLIPConfig) — 包含模型所有引數的模型配置類。使用配置檔案進行初始化不會載入與模型相關的權重,只會載入配置。請檢視 from_pretrained() 方法以載入模型權重。
基礎的 Chinese Clip 模型,輸出原始的隱藏狀態,頂部沒有任何特定的頭部。
該模型繼承自 PreTrainedModel。請查閱超類文件以瞭解該庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
該模型也是 PyTorch torch.nn.Module 的子類。可以像常規 PyTorch 模組一樣使用它,並參考 PyTorch 文件瞭解所有與通用用法和行為相關的事項。
forward
< 原始碼 >( input_ids: typing.Optional[torch.LongTensor] = None pixel_values: typing.Optional[torch.FloatTensor] = None attention_mask: typing.Optional[torch.Tensor] = None token_type_ids: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.LongTensor] = None return_loss: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None interpolate_pos_encoding: bool = False return_dict: typing.Optional[bool] = None ) → transformers.models.chinese_clip.modeling_chinese_clip.ChineseCLIPOutput
或 tuple(torch.FloatTensor)
引數
- input_ids (形狀為
(batch_size, sequence_length)
的torch.LongTensor
, 可選) — 詞彙表中輸入序列標記的索引。預設情況下,填充將被忽略。索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
, 可選) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。詳情請參閱{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - attention_mask (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 用於避免在填充標記索引上執行注意力操作的掩碼。掩碼值在[0, 1]
中選擇:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- token_type_ids (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 段標記索引,用於指示輸入的第一部分和第二部分。索引在[0, 1]
中選擇:- 0 對應於*句子 A* 的標記,
- 1 對應於*句子 B* 的標記。
- position_ids (形狀為
(batch_size, sequence_length)
的torch.LongTensor
, 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在[0, config.n_positions - 1]
範圍內選擇。 - return_loss (
bool
, 可選) — 是否返回對比損失。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否對預訓練的位置編碼進行插值。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通的元組。
返回
transformers.models.chinese_clip.modeling_chinese_clip.ChineseCLIPOutput
或 tuple(torch.FloatTensor)
一個 transformers.models.chinese_clip.modeling_chinese_clip.ChineseCLIPOutput
或一個 `torch.FloatTensor` 元組(如果傳遞了 `return_dict=False` 或 `config.return_dict=False`),根據配置(ChineseCLIPConfig)和輸入包含不同的元素。
- loss (
torch.FloatTensor
,形狀為(1,)
, 可選, 當return_loss
為True
時返回) — 影像-文字相似度的對比損失。 - logits_per_image (形狀為
(image_batch_size, text_batch_size)
的torch.FloatTensor
) —image_embeds
和text_embeds
之間的縮放點積得分。這表示影像-文字相似性得分。 - logits_per_text (形狀為
(text_batch_size, image_batch_size)
的torch.FloatTensor
) —text_embeds
和image_embeds
之間的縮放點積得分。這表示文字-影像相似性得分。 - text_embeds (形狀為
(batch_size, output_dim
的torch.FloatTensor
) — 透過將投影層應用於 ChineseCLIPTextModel 的池化輸出而獲得的文字嵌入。 - image_embeds (形狀為
(batch_size, output_dim
的torch.FloatTensor
) — 透過將投影層應用於 ChineseCLIPVisionModel 的池化輸出而獲得的影像嵌入。 - text_model_output (
<class '~modeling_outputs.BaseModelOutputWithPoolingAndCrossAttentions'>.text_model_output
, 預設為None
) — ChineseCLIPTextModel 的輸出。 - vision_model_output (
<class '~modeling_outputs.BaseModelOutputWithPoolingAndCrossAttentions'>.vision_model_output
, 預設為None
) — ChineseCLIPVisionModel 的輸出。
ChineseCLIPModel 的 forward 方法重寫了 `__call__` 特殊方法。
儘管前向傳播的流程需要在此函式中定義,但之後應呼叫 `Module` 例項而不是此函式,因為前者會處理預處理和後處理步驟,而後者會靜默忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, ChineseCLIPModel
>>> model = ChineseCLIPModel.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> processor = AutoProcessor.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> url = "https://clip-cn-beijing.oss-cn-beijing.aliyuncs.com/pokemon.jpeg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(text=["傑尼龜", "妙蛙種子", "小火龍", "皮卡丘"], images=image, return_tensors="pt", padding=True)
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1) # we can take the softmax to get the label probabilities
get_text_features
< 原始碼 >( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None token_type_ids: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → text_features (形狀為 (batch_size, output_dim
) 的 torch.FloatTensor
)
引數
- input_ids (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 詞彙表中輸入序列標記的索引。預設情況下,填充將被忽略。索引可以使用 AutoTokenizer 獲得。詳情請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- attention_mask (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 用於避免在填充標記索引上執行注意力操作的掩碼。掩碼值在[0, 1]
中選擇:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- token_type_ids (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 段標記索引,用於指示輸入的第一部分和第二部分。索引在[0, 1]
中選擇:- 0 對應於*句子 A* 的標記,
- 1 對應於*句子 B* 的標記。
- position_ids (形狀為
(batch_size, sequence_length)
的torch.Tensor
, 可選) — 每個輸入序列標記在位置嵌入中的位置索引。在[0, config.n_positions - 1]
範圍內選擇。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通的元組。
返回
text_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
透過將投影層應用於 Text-Transformer 的最終 [CLS] 隱藏狀態而獲得的文字嵌入。
示例
>>> from transformers import AutoTokenizer, ChineseCLIPModel
>>> model = ChineseCLIPModel.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> tokenizer = AutoTokenizer.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> inputs = tokenizer(["傑尼龜", "妙蛙種子", "小火龍", "皮卡丘"], padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)
>>> text_features = text_features / text_features.norm(p=2, dim=-1, keepdim=True)
get_image_features
< 原始碼 >( pixel_values: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None interpolate_pos_encoding: bool = False return_dict: typing.Optional[bool] = None ) → image_features (形狀為 (batch_size, output_dim
) 的 torch.FloatTensor
)
引數
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
, 可選) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。詳情請參閱{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多細節請參閱返回張量下的 `attentions`。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多細節請參閱返回張量下的 `hidden_states`。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否對預訓練的位置編碼進行插值。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通的元組。
返回
image_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
透過將投影層應用於 Vision-Transformer 的最終 [CLS] 隱藏狀態而獲得的影像嵌入。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, ChineseCLIPModel
>>> model = ChineseCLIPModel.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> processor = AutoProcessor.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> url = "https://clip-cn-beijing.oss-cn-beijing.aliyuncs.com/pokemon.jpeg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="pt")
>>> image_features = model.get_image_features(**inputs)
>>> image_features = image_features / image_features.norm(p=2, dim=-1, keepdim=True)
ChineseCLIPTextModel
class transformers.ChineseCLIPTextModel
< 原始碼 >( config add_pooling_layer = True )
引數
- config (ChineseCLIPTextModel) — 包含模型所有引數的模型配置類。使用配置檔案進行初始化不會載入與模型關聯的權重,只會載入配置。請檢視 from_pretrained() 方法以載入模型權重。
- add_pooling_layer (
bool
, optional, 預設為True
) — 是否新增池化層
來自 CHINESE_CLIP 的文字模型,頂部沒有任何 head 或 projection。
該模型繼承自 PreTrainedModel。請查閱超類文件以瞭解該庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
該模型也是 PyTorch torch.nn.Module 的子類。可以像常規 PyTorch 模組一樣使用它,並參考 PyTorch 文件瞭解所有與通用用法和行為相關的事項。
forward
< 源 >( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None token_type_ids: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None head_mask: typing.Optional[torch.Tensor] = None inputs_embeds: typing.Optional[torch.Tensor] = None encoder_hidden_states: typing.Optional[torch.Tensor] = None encoder_attention_mask: typing.Optional[torch.Tensor] = None past_key_values: typing.Optional[list[torch.FloatTensor]] = None use_cache: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.BaseModelOutputWithPoolingAndCrossAttentions 或 tuple(torch.FloatTensor)
引數
- input_ids (
torch.Tensor
,形狀為(batch_size, sequence_length)
,optional) — 詞彙表中輸入序列詞元的索引。預設情況下,填充將被忽略。可以使用 AutoTokenizer 獲取索引。有關詳細資訊,請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- attention_mask (
torch.Tensor
,形狀為(batch_size, sequence_length)
,optional) — 用於避免對填充詞元索引執行注意力計算的掩碼。掩碼值在[0, 1]
中選擇:- 1 表示詞元未被遮蔽,
- 0 表示詞元被遮蔽。
- token_type_ids (
torch.Tensor
,形狀為(batch_size, sequence_length)
,optional) — 分段詞元索引,用於指示輸入的第一部分和第二部分。索引在[0, 1]
中選擇:- 0 對應於 *句子 A* 的詞元,
- 1 對應於 *句子 B* 的詞元。
- position_ids (
torch.Tensor
,形狀為(batch_size, sequence_length)
,optional) — 位置嵌入中每個輸入序列詞元的位置索引。在[0, config.n_positions - 1]
範圍內選擇。 - head_mask (
torch.Tensor
,形狀為(num_heads,)
或(num_layers, num_heads)
,optional) — 用於使自注意力模組中選定的頭無效的掩碼。掩碼值在[0, 1]
中選擇:- 1 表示頭未被遮蔽,
- 0 表示頭被遮蔽。
- inputs_embeds (
torch.Tensor
,形狀為(batch_size, sequence_length, hidden_size)
,optional) — 可選地,你可以直接傳遞嵌入表示,而不是傳遞input_ids
。如果你想比模型內部的嵌入查詢矩陣更好地控制如何將input_ids
索引轉換為關聯向量,這會很有用。 - encoder_hidden_states (
torch.Tensor
,形狀為(batch_size, sequence_length, hidden_size)
,optional) — 編碼器最後一層輸出的隱藏狀態序列。如果模型被配置為解碼器,則在交叉注意力中使用。 - encoder_attention_mask (
torch.Tensor
,形狀為(batch_size, sequence_length)
,optional) — 用於避免對編碼器輸入的填充詞元索引執行注意力計算的掩碼。如果模型被配置為解碼器,此掩碼將在交叉注意力中使用。掩碼值在[0, 1]
中選擇:- 1 表示詞元未被遮蔽,
- 0 表示詞元被遮蔽。
- past_key_values (
list[torch.FloatTensor]
,optional) — 預先計算的隱藏狀態(自注意力塊和交叉注意力塊中的鍵和值),可用於加速順序解碼。這通常包括在解碼的前一個階段由模型返回的past_key_values
,此時use_cache=True
或config.use_cache=True
。允許兩種格式:
- 一個 Cache 例項,請參閱我們的 kv cache 指南;
- 長度為
config.n_layers
的tuple(torch.FloatTensor)
元組,每個元組有兩個形狀為(batch_size, num_heads, sequence_length, embed_size_per_head)
的張量。這也稱為舊版快取格式。
模型將輸出與輸入相同的快取格式。如果未傳遞
past_key_values
,將返回舊版快取格式。如果使用了
past_key_values
,使用者可以選擇只輸入最後一個input_ids
(那些沒有為其提供過去鍵值狀態的詞元),形狀為(batch_size, 1)
,而不是所有形狀為(batch_size, sequence_length)
的input_ids
。 - use_cache (
bool
,optional) — 如果設定為True
,則返回past_key_values
鍵值狀態,可用於加速解碼(請參閱past_key_values
)。 - output_attentions (
bool
,optional) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,optional) — 是否返回所有層的隱藏狀態。有關更多詳細資訊,請參閱返回張量下的hidden_states
。 - return_dict (
bool
,optional) — 是否返回一個 ModelOutput 而不是一個普通的元組。
返回
transformers.modeling_outputs.BaseModelOutputWithPoolingAndCrossAttentions 或 tuple(torch.FloatTensor)
一個 transformers.modeling_outputs.BaseModelOutputWithPoolingAndCrossAttentions 或一個 torch.FloatTensor
的元組(如果傳遞了 return_dict=False
或當 config.return_dict=False
時),根據配置(ChineseCLIPConfig)和輸入,包含各種元素。
-
last_hidden_state (
torch.FloatTensor
, 形狀為(batch_size, sequence_length, hidden_size)
) — 模型最後一層輸出的隱藏狀態序列。 -
pooler_output (
torch.FloatTensor
,形狀為(batch_size, hidden_size)
) — 序列的第一個詞元(分類詞元)的最後一層隱藏狀態,經過用於輔助預訓練任務的層的進一步處理。例如,對於 BERT 家族的模型,這返回經過線性層和 tanh 啟用函式處理後的分類詞元。線性層權重是在預訓練期間從下一句預測(分類)目標中訓練的。 -
hidden_states (
tuple(torch.FloatTensor)
,optional,在傳遞output_hidden_states=True
或當config.output_hidden_states=True
時返回) —torch.FloatTensor
的元組(一個用於嵌入的輸出,如果模型有嵌入層,+ 一個用於每層輸出),形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(torch.FloatTensor)
,optional,在傳遞output_attentions=True
或當config.output_attentions=True
時返回) —torch.FloatTensor
的元組(每層一個),形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
-
cross_attentions (
tuple(torch.FloatTensor)
,optional,在傳遞output_attentions=True
和config.add_cross_attention=True
或當config.output_attentions=True
時返回) —torch.FloatTensor
的元組(每層一個),形狀為(batch_size, num_heads, sequence_length, sequence_length)
。解碼器交叉注意力層的注意力權重,在注意力 softmax 之後,用於計算交叉注意力頭中的加權平均。
-
past_key_values (
Cache
,optional,在傳遞use_cache=True
或當config.use_cache=True
時返回) — 這是一個 Cache 例項。有關更多詳細資訊,請參閱我們的 kv cache 指南。包含預先計算的隱藏狀態(自注意力塊中的鍵和值,如果
config.is_encoder_decoder=True
,則可選地在交叉注意力塊中),可用於(參見past_key_values
輸入)加速順序解碼。
ChineseCLIPTextModel 的 forward 方法重寫了 __call__
特殊方法。
儘管前向傳播的流程需要在此函式中定義,但之後應呼叫 `Module` 例項而不是此函式,因為前者會處理預處理和後處理步驟,而後者會靜默忽略它們。
ChineseCLIPVisionModel
class transformers.ChineseCLIPVisionModel
< 源 >( config: ChineseCLIPVisionConfig )
引數
- config (ChineseCLIPVisionConfig) — 包含模型所有引數的模型配置類。使用配置檔案進行初始化不會載入與模型關聯的權重,只會載入配置。請檢視 from_pretrained() 方法以載入模型權重。
來自 CHINESE_CLIP 的視覺模型,頂部沒有任何 head 或 projection。
該模型繼承自 PreTrainedModel。請查閱超類文件以瞭解該庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
該模型也是 PyTorch torch.nn.Module 的子類。可以像常規 PyTorch 模組一樣使用它,並參考 PyTorch 文件瞭解所有與通用用法和行為相關的事項。
forward
< 源 >( pixel_values: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None interpolate_pos_encoding: bool = False return_dict: typing.Optional[bool] = None ) → transformers.modeling_outputs.BaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
引數
- pixel_values (
torch.FloatTensor
,形狀為(batch_size, num_channels, image_size, image_size)
,optional) — 對應於輸入影像的張量。可以使用{image_processor_class}
獲取畫素值。有關詳細資訊,請參閱{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - output_attentions (
bool
,optional) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,optional) — 是否返回所有層的隱藏狀態。有關更多詳細資訊,請參閱返回張量下的hidden_states
。 - interpolate_pos_encoding (
bool
,預設為False
) — 是否對預訓練的位置編碼進行插值。 - return_dict (
bool
,optional) — 是否返回一個 ModelOutput 而不是一個普通的元組。
返回
transformers.modeling_outputs.BaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
一個 transformers.modeling_outputs.BaseModelOutputWithPooling 或一個 torch.FloatTensor
的元組(如果傳遞了 return_dict=False
或當 config.return_dict=False
時),根據配置(ChineseCLIPConfig)和輸入,包含各種元素。
-
last_hidden_state (
torch.FloatTensor
, 形狀為(batch_size, sequence_length, hidden_size)
) — 模型最後一層輸出的隱藏狀態序列。 -
pooler_output (
torch.FloatTensor
,形狀為(batch_size, hidden_size)
) — 序列的第一個詞元(分類詞元)的最後一層隱藏狀態,經過用於輔助預訓練任務的層的進一步處理。例如,對於 BERT 家族的模型,這返回經過線性層和 tanh 啟用函式處理後的分類詞元。線性層權重是在預訓練期間從下一句預測(分類)目標中訓練的。 -
hidden_states (
tuple(torch.FloatTensor)
,optional,在傳遞output_hidden_states=True
或當config.output_hidden_states=True
時返回) —torch.FloatTensor
的元組(一個用於嵌入的輸出,如果模型有嵌入層,+ 一個用於每層輸出),形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(torch.FloatTensor)
,optional,在傳遞output_attentions=True
或當config.output_attentions=True
時返回) —torch.FloatTensor
的元組(每層一個),形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
ChineseCLIPVisionModel 的 forward 方法重寫了 __call__
特殊方法。
儘管前向傳播的流程需要在此函式中定義,但之後應呼叫 `Module` 例項而不是此函式,因為前者會處理預處理和後處理步驟,而後者會靜默忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import CLIPProcessor, ChineseCLIPVisionModel
>>> model = ChineseCLIPVisionModel.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> processor = CLIPProcessor.from_pretrained("OFA-Sys/chinese-clip-vit-base-patch16")
>>> url = "https://clip-cn-beijing.oss-cn-beijing.aliyuncs.com/pokemon.jpeg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="pt")
>>> outputs = model(**inputs)
>>> last_hidden_state = outputs.last_hidden_state
>>> pooled_output = outputs.pooler_output # pooled CLS states