Transformers 文件
BLIP
並獲得增強的文件體驗
開始使用
BLIP
BLIP (Bootstrapped Language-Image Pretraining) 是一個視覺語言預訓練 (VLP) 框架,專為理解和生成任務而設計。現有的大多數預訓練模型在這兩方面都表現平平。它使用一個字幕生成器生成字幕,並使用一個過濾器去除嘈雜的字幕。這提高了訓練資料的質量,並更有效地利用了雜亂的網路資料。
你可以在 BLIP 集合中找到所有原始的 BLIP 檢查點。
此模型由 ybelkada 貢獻。
點選右側邊欄中的 BLIP 模型,瞭解更多如何將 BLIP 應用於不同視覺語言任務的示例。
以下示例演示瞭如何使用 Pipeline 或 AutoModel 類進行視覺問答。
import torch
from transformers import pipeline
pipeline = pipeline(
task="visual-question-answering",
model="Salesforce/blip-vqa-base",
torch_dtype=torch.float16,
device=0
)
url = "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"
pipeline(question="What is the weather in this image?", image=url)
資源
請參閱此 筆記本,瞭解如何在自定義資料集上微調 BLIP 進行影像字幕生成。
BlipConfig
class transformers.BlipConfig
< 來源 >( text_config = None vision_config = None projection_dim = 512 logit_scale_init_value = 2.6592 image_text_hidden_size = 256 label_smoothing = 0.0 **kwargs )
引數
- text_config (
dict
, 可選) — 用於初始化 BlipTextConfig 的配置選項字典。 - vision_config (
dict
, 可選) — 用於初始化 BlipVisionConfig 的配置選項字典。 - projection_dim (
int
, 可選, 預設為 512) — 文字和視覺投影層的維度。 - logit_scale_init_value (
float
, 可選, 預設為 2.6592) — logit_scale 引數的初始值。預設值按照原始 BLIP 實現使用。 - image_text_hidden_size (
int
, 可選, 預設為 256) — 影像-文字融合層隱藏狀態的維度。 - label_smoothing (float, 可選, 預設為 0.0) — [0.0, 1.0] 範圍內的浮點數。指定計算損失時的平滑量,其中 0.0 表示不平滑。目標將成為原始真實值和均勻分佈的混合,如
重新思考計算機視覺的 Inception 架構 <https://huggingface.co/papers/1512.00567>
__ 中所述。預設值::math:0.0
。 - kwargs (可選) — 關鍵字引數字典。
BlipConfig 是用於儲存 BlipModel 配置的配置類。它用於根據指定的引數例項化 BLIP 模型,定義文字模型和視覺模型配置。使用預設值例項化配置將生成與 BLIP-base Salesforce/blip-vqa-base 架構類似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import BlipConfig, BlipModel
>>> # Initializing a BlipConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipConfig()
>>> # Initializing a BlipPModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
>>> # We can also initialize a BlipConfig from a BlipTextConfig and a BlipVisionConfig
>>> # Initializing a BLIPText and BLIPVision configuration
>>> config_text = BlipTextConfig()
>>> config_vision = BlipVisionConfig()
>>> config = BlipConfig.from_text_vision_configs(config_text, config_vision)
from_text_vision_configs
< 來源 >( text_config: BlipTextConfig vision_config: BlipVisionConfig **kwargs ) → BlipConfig
從 blip 文字模型配置和 blip 視覺模型配置例項化 BlipConfig(或派生類)。
BlipTextConfig
class transformers.BlipTextConfig
< 來源 >( vocab_size = 30524 hidden_size = 768 encoder_hidden_size = 768 intermediate_size = 3072 projection_dim = 768 num_hidden_layers = 12 num_attention_heads = 8 max_position_embeddings = 512 hidden_act = 'gelu' layer_norm_eps = 1e-12 hidden_dropout_prob = 0.0 attention_probs_dropout_prob = 0.0 initializer_range = 0.02 bos_token_id = 30522 eos_token_id = 2 pad_token_id = 0 sep_token_id = 102 is_decoder = True use_cache = True label_smoothing = 0.0 **kwargs )
引數
- vocab_size (
int
, 可選, 預設為 30524) —Blip
文字模型的詞彙表大小。定義了呼叫 BlipModel 時傳入的inputs_ids
可以表示的不同標記的數量。 - hidden_size (
int
, 可選, 預設為 768) — 編碼器層和池化層的維度。 - encoder_hidden_size (
int
, 可選, 預設為 768) — 視覺模型中編碼器層的維度。 - intermediate_size (
int
, 可選, 預設為 3072) — Transformer 編碼器中“中間”(即前饋)層的維度。 - num_hidden_layers (
int
, 可選, 預設為 12) — Transformer 編碼器中隱藏層的數量。 - num_attention_heads (
int
, 可選, 預設為 8) — Transformer 編碼器中每個注意力層的注意力頭數量。 - max_position_embeddings (
int
, 可選, 預設為 512) — 該模型可能使用的最大序列長度。通常設定為一個較大的值以防萬一(例如,512、1024 或 2048)。 - hidden_act (
str
或function
, 可選, 預設為"gelu"
) — 編碼器和池化器中的非線性啟用函式(函式或字串)。如果是字串,支援"gelu"
、"relu"
、"selu"
和"gelu_new"
"gelu"
。 - layer_norm_eps (
float
, 可選, 預設為 1e-12) — 層歸一化層使用的 epsilon。 - hidden_dropout_prob (
float
, 可選, 預設為 0.0) — 嵌入、編碼器和池化器中所有全連線層的 dropout 機率。 - attention_dropout (
float
, 可選, 預設為 0.0) — 注意力機率的 dropout 比率。 - initializer_range (
float
, 可選, 預設為 0.02) — 用於初始化所有權重矩陣的截斷正態分佈初始化器的標準差。 - bos_token_id (
int
, 可選, 預設為 30522) —序列開始
標記的 ID。 - eos_token_id (
int
, 可選, 預設為 2) —序列結束
標記的 ID。 - pad_token_id (
int
, 可選, 預設為 0) —填充
標記的 ID。 - sep_token_id (
int
, 可選, 預設為 102) —分隔符
標記的 ID。 - is_decoder (
bool
, 可選, 預設為True
) — 模型是否用作解碼器。 - use_cache (
bool
, 可選, 預設為True
) — 模型是否應返回最後一個 key/values 注意力(並非所有模型都使用)。 - label_smoothing (float, 可選) — [0.0, 1.0] 範圍內的浮點數。指定計算損失時的平滑量,其中 0.0 表示不平滑。目標將成為原始真實值和均勻分佈的混合,如
重新思考計算機視覺的 Inception 架構 <https://huggingface.co/papers/1512.00567>
__ 中所述。預設值::math:0.0
。
這是用於儲存 BlipTextModel 配置的配置類。它用於根據指定的引數例項化 BLIP 文字模型,定義模型架構。使用預設值例項化配置將生成與 基本架構 使用的 BlipText
類似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import BlipTextConfig, BlipTextModel
>>> # Initializing a BlipTextConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipTextConfig()
>>> # Initializing a BlipTextModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipTextModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
BlipVisionConfig
class transformers.BlipVisionConfig
< 來源 >( hidden_size = 768 intermediate_size = 3072 projection_dim = 512 num_hidden_layers = 12 num_attention_heads = 12 image_size = 384 patch_size = 16 hidden_act = 'gelu' layer_norm_eps = 1e-05 attention_dropout = 0.0 initializer_range = 1e-10 **kwargs )
引數
- hidden_size (
int
, 可選, 預設為 768) — 編碼器層和池化層的維度。 - intermediate_size (
int
, 可選, 預設為 3072) — Transformer 編碼器中“中間”(即前饋)層的維度。 - num_hidden_layers (
int
, 可選, 預設為 12) — Transformer 編碼器中隱藏層的數量。 - num_attention_heads (
int
, 可選, 預設為 12) — Transformer 編碼器中每個注意力層的注意力頭數量。 - image_size (
int
, 可選, 預設為 384) — 每張圖片的大小(解析度)。 - patch_size (
int
, 可選, 預設為 16) — 每個補丁的大小(解析度)。 - hidden_act (
str
或function
, 可選, 預設為"gelu"
) — 編碼器和池化器中的非線性啟用函式(函式或字串)。如果為字串,支援"gelu"
,"relu"
,"selu"
和"gelu_new"
"gelu"
。 - layer_norm_eps (
float
, 可選, 預設為 1e-5) — 層歸一化層使用的 epsilon 值。 - attention_dropout (
float
, 可選, 預設為 0.0) — 注意力機率的 dropout 比率。 - initializer_range (
float
, 可選, 預設為 1e-10) — 用於初始化所有權重矩陣的 truncated_normal_initializer 的標準差。
這是用於儲存 BlipVisionModel 配置的配置類。它用於根據指定引數例項化 BLIP 視覺模型,定義模型架構。例項化預設配置將生成與 Blip-base Salesforce/blip-vqa-base 架構相似的配置。
配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。
示例
>>> from transformers import BlipVisionConfig, BlipVisionModel
>>> # Initializing a BlipVisionConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipVisionConfig()
>>> # Initializing a BlipVisionModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipVisionModel(configuration)
>>> # Accessing the model configuration
>>> configuration = model.config
BlipProcessor
class transformers.BlipProcessor
< 源 >( image_processor tokenizer **kwargs )
引數
- image_processor (
BlipImageProcessor
) — BlipImageProcessor 的例項。影像處理器是必需輸入。 - tokenizer (
BertTokenizerFast
) — [‘BertTokenizerFast`] 的例項。分詞器是必需輸入。
構建一個 BLIP 處理器,它將 BERT 分詞器和 BLIP 影像處理器封裝到一個單一的處理器中。
BlipProcessor 提供了 BlipImageProcessor 和 BertTokenizerFast 的所有功能。有關更多資訊,請參閱 __call__()
和 decode() 的文件字串。
此方法將其所有引數轉發給 BertTokenizerFast 的 batch_decode()。請參閱此方法的文件字串以獲取更多資訊。
BlipImageProcessor
class transformers.BlipImageProcessor
< 源 >( do_resize: bool = True size: typing.Optional[dict[str, int]] = None resample: Resampling = <Resampling.BICUBIC: 3> do_rescale: bool = True rescale_factor: typing.Union[int, float] = 0.00392156862745098 do_normalize: bool = True image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_convert_rgb: bool = True **kwargs )
引數
- do_resize (
bool
, 可選, 預設為True
) — 是否將影像的(高度,寬度)尺寸調整為指定的size
。可以透過preprocess
方法中的do_resize
引數覆蓋。 - size (
dict
, 可選, 預設為{"height" -- 384, "width": 384}
): 調整大小後輸出影像的大小。可以透過preprocess
方法中的size
引數覆蓋。 - resample (
PILImageResampling
, 可選, 預設為Resampling.BICUBIC
) — 如果調整影像大小,使用的重取樣過濾器。僅當do_resize
設定為True
時有效。可以透過preprocess
方法中的resample
引數覆蓋。 - do_rescale (
bool
, 可選, 預設為True
) — 是否透過指定的比例rescale_factor
重新縮放影像。可以透過preprocess
方法中的do_rescale
引數覆蓋。 - rescale_factor (
int
或float
, 可選, 預設為1/255
) — 如果重新縮放影像,則使用的縮放因子。僅當do_rescale
設定為True
時有效。可以透過preprocess
方法中的rescale_factor
引數覆蓋。 - do_normalize (
bool
, 可選, 預設為True
) — 是否歸一化影像。可以透過preprocess
方法中的do_normalize
引數覆蓋。 - image_mean (
float
或list[float]
, 可選, 預設為IMAGENET_STANDARD_MEAN
) — 如果歸一化影像,則使用的均值。這是一個浮點數或浮點數列表,其長度與影像中的通道數相同。可以透過preprocess
方法中的image_mean
引數覆蓋。 - image_std (
float
或list[float]
, 可選, 預設為IMAGENET_STANDARD_STD
) — 如果歸一化影像,則使用的標準差。這是一個浮點數或浮點數列表,其長度與影像中的通道數相同。可以透過preprocess
方法中的image_std
引數覆蓋。 - do_convert_rgb (
bool
, 可選, 預設為True
) — 是否將影像轉換為 RGB。
構建 BLIP 影像處理器。
preprocess
< 源 >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] do_resize: typing.Optional[bool] = None size: typing.Optional[dict[str, int]] = None resample: Resampling = None do_rescale: typing.Optional[bool] = None rescale_factor: typing.Optional[float] = None do_normalize: typing.Optional[bool] = None image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None return_tensors: typing.Union[str, transformers.utils.generic.TensorType, NoneType] = None do_convert_rgb: typing.Optional[bool] = None data_format: ChannelDimension = <ChannelDimension.FIRST: 'channels_first'> input_data_format: typing.Union[str, transformers.image_utils.ChannelDimension, NoneType] = None )
引數
- images (
ImageInput
) — 要預處理的影像。期望畫素值範圍為 0 到 255 的單個或批次影像。如果傳入畫素值在 0 到 1 之間的影像,請設定do_rescale=False
。 - do_resize (
bool
, 可選, 預設為self.do_resize
) — 是否調整影像大小。 - size (
dict[str, int]
, 可選, 預設為self.size
) — 控制resize
後圖像的大小。影像的最短邊被調整到size["shortest_edge"]
,同時保持寬高比。如果此調整大小後的影像的最長邊大於int(size["shortest_edge"] * (1333 / 800))
,則再次調整影像大小,使最長邊等於int(size["shortest_edge"] * (1333 / 800))
。 - resample (
PILImageResampling
, 可選, 預設為self.resample
) — 如果調整影像大小,使用的重取樣過濾器。僅當do_resize
設定為True
時有效。 - do_rescale (
bool
, 可選, 預設為self.do_rescale
) — 是否將影像值重新縮放到 [0 - 1] 之間。 - rescale_factor (
float
, 可選, 預設為self.rescale_factor
) — 如果do_rescale
設定為True
,則用於重新縮放影像的縮放因子。 - do_normalize (
bool
, 可選, 預設為self.do_normalize
) — 是否歸一化影像。 - image_mean (
float
或list[float]
, 可選, 預設為self.image_mean
) — 如果do_normalize
設定為True
,則用於歸一化影像的均值。 - image_std (
float
或list[float]
, 可選, 預設為self.image_std
) — 如果do_normalize
設定為True
,則用於歸一化影像的標準差。 - do_convert_rgb (
bool
, 可選, 預設為self.do_convert_rgb
) — 是否將影像轉換為 RGB。 - return_tensors (
str
或TensorType
, 可選) — 要返回的張量型別。可以是以下之一:- 未設定:返回
np.ndarray
列表。 TensorType.TENSORFLOW
或'tf'
:返回tf.Tensor
批次。TensorType.PYTORCH
或'pt'
:返回torch.Tensor
批次。TensorType.NUMPY
或'np'
:返回np.ndarray
批次。TensorType.JAX
或'jax'
:返回jax.numpy.ndarray
批次。
- 未設定:返回
- data_format (
ChannelDimension
或str
, 可選, 預設為ChannelDimension.FIRST
) — 輸出影像的通道維度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:影像格式為 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:影像格式為 (height, width, num_channels)。- 未設定:使用輸入影像的通道維度格式。
- input_data_format (
ChannelDimension
或str
, 可選) — 輸入影像的通道維度格式。如果未設定,則從輸入影像推斷通道維度格式。可以是以下之一:"channels_first"
或ChannelDimension.FIRST
:影像格式為 (num_channels, height, width)。"channels_last"
或ChannelDimension.LAST
:影像格式為 (height, width, num_channels)。"none"
或ChannelDimension.NONE
:影像格式為 (height, width)。
預處理一張或一批影像。
BlipImageProcessorFast
class transformers.BlipImageProcessorFast
< 源 >( **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] )
構建一個快速的 Blip 影像處理器。
preprocess
< 源 >( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] *args **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] ) → <class 'transformers.image_processing_base.BatchFeature'>
引數
- images (
Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]
) — 要預處理的影像。期望畫素值範圍為 0 到 255 的單個或批次影像。如果傳入畫素值在 0 到 1 之間的影像,請設定do_rescale=False
。 - do_resize (
bool
, 可選) — 是否調整影像大小。 - size (
dict[str, int]
, 可選) — 描述模型的最大輸入維度。 - default_to_square (
bool
, 可選) — 當調整大小(如果`size`是整數)時是否預設使用方形影像。 - resample (
Union[PILImageResampling, F.InterpolationMode, NoneType]
) — 如果影像需要調整大小,則使用的重取樣濾波器。這可以是列舉型別`PILImageResampling`中的一個。僅當`do_resize`設定為`True`時才有效。 - do_center_crop (
bool
, 可選) — 是否對影像進行中心裁剪。 - crop_size (
dict[str, int]
, 可選) — 應用`center_crop`後輸出影像的大小。 - do_rescale (
bool
, 可選) — 是否對影像進行縮放。 - rescale_factor (
Union[int, float, NoneType]
) — 如果`do_rescale`設定為`True`,則用於縮放影像的縮放因子。 - do_normalize (
bool
, 可選) — 是否對影像進行歸一化。 - image_mean (
Union[float, list[float], NoneType]
) — 用於歸一化的影像平均值。僅當`do_normalize`設定為`True`時才有效。 - image_std (
Union[float, list[float], NoneType]
) — 用於歸一化的影像標準差。僅當`do_normalize`設定為`True`時才有效。 - do_convert_rgb (
bool
, 可選) — 是否將影像轉換為RGB格式。 - return_tensors (
Union[str, ~utils.generic.TensorType, NoneType]
) — 如果設定為`pt`,則返回堆疊的張量,否則返回張量列表。 - data_format (
~image_utils.ChannelDimension
, 可選) — 僅支援`ChannelDimension.FIRST`。為了與慢速處理器相容而新增。 - input_data_format (
Union[str, ~image_utils.ChannelDimension, NoneType]
) — 輸入影像的通道維度格式。如果未設定,則從輸入影像推斷通道維度格式。可以是以下之一:- `"channels_first"` 或 `ChannelDimension.FIRST`:影像格式為 (通道數, 高度, 寬度)。
- `"channels_last"` 或 `ChannelDimension.LAST`:影像格式為 (高度, 寬度, 通道數)。
- `"none"` 或 `ChannelDimension.NONE`:影像格式為 (高度, 寬度)。
- device (
torch.device
, 可選) — 處理影像的裝置。如果未設定,則從輸入影像推斷裝置。 - disable_grouping (
bool
, 可選) — 是否停用按大小對影像進行分組,以單獨而不是批次處理它們。如果為None,則如果影像在CPU上,則設定為True,否則設定為False。此選擇基於經驗觀察,詳情請見: https://github.com/huggingface/transformers/pull/38157
返回
<class 'transformers.image_processing_base.BatchFeature'>
- data (
dict
) — 由 call 方法返回的列表/陣列/張量字典(“pixel_values”等)。 - tensor_type (
Union[None, str, TensorType]
, 可選) — 您可以在此處提供一個`tensor_type`,以便在初始化時將整數列表轉換為PyTorch/TensorFlow/Numpy張量。
BlipModel
BlipModel將在未來版本中被棄用,請根據您的用例使用BlipForConditionalGeneration、BlipForImageTextRetrieval或BlipForQuestionAnswering。
class transformers.BlipModel
< 源 >( config: BlipConfig )
引數
- config (BlipConfig) — 包含模型所有引數的模型配置類。用配置檔案初始化不會載入與模型相關的權重,只加載配置。請查閱 from_pretrained() 方法來載入模型權重。
此模型將在未來版本中被棄用。請根據您的用例使用`BlipForConditionalGeneration`、`BlipForQuestionAnswering`或`BlipForImageTextRetrieval`。
此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。
此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。
forward
< 源 >( input_ids: typing.Optional[torch.LongTensor] = None pixel_values: typing.Optional[torch.FloatTensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.LongTensor] = None return_loss: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipOutput
or tuple(torch.FloatTensor)
引數
- input_ids (
torch.LongTensor
, 形狀為(batch_size, sequence_length)
, 可選) — 詞彙表中輸入序列標記的索引。填充預設會被忽略。可以使用 AutoTokenizer 獲取索引。有關詳細資訊,請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- pixel_values (
torch.FloatTensor
, 形狀為(batch_size, num_channels, image_size, image_size)
, 可選) — 與輸入影像對應的張量。畫素值可以使用{image_processor_class}
獲取。有關詳細資訊,請參閱{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - attention_mask (
torch.Tensor
, 形狀為(batch_size, sequence_length)
, 可選) — 避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示 未被掩蓋 的標記,
- 0 表示 被掩蓋 的標記。
- position_ids (
torch.LongTensor
, 形狀為(batch_size, sequence_length)
, 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.n_positions - 1]
。 - return_loss (
bool
, 可選) — 是否返回對比損失。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量中的`attentions`。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量中的`hidden_states`。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否對預訓練的位置編碼進行插值。
返回
transformers.models.blip.modeling_blip.BlipOutput
或 tuple(torch.FloatTensor)
一個`transformers.models.blip.modeling_blip.BlipOutput`或一個`torch.FloatTensor`元組(如果傳入`return_dict=False`或`config.return_dict=False`),其中包含根據配置(BlipConfig)和輸入的不同元素。
- loss (
torch.FloatTensor
,形狀為(1,)
, 可選, 當return_loss
為True
時返回) — 影像-文字相似度的對比損失。 - logits_per_image (
torch.FloatTensor
, 形狀為(image_batch_size, text_batch_size)
) — `image_embeds`和`text_embeds`之間的縮放點積分數。這表示影像-文字相似度分數。 - logits_per_text (
torch.FloatTensor
, 形狀為(text_batch_size, image_batch_size)
) — `text_embeds`和`image_embeds`之間的縮放點積分數。這表示文字-影像相似度分數。 - text_embeds (
torch.FloatTensor
, 形狀為(batch_size, output_dim
) — 透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。 - image_embeds (
torch.FloatTensor
, 形狀為(batch_size, output_dim
) — 透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。 - text_model_output (
<class '~modeling_outputs.BaseModelOutputWithPooling'>.text_model_output
, 預設為None
) — BlipTextModel 的輸出。 - vision_model_output (
<class '~modeling_outputs.BaseModelOutputWithPooling'>.vision_model_output
, 預設為None
) — BlipVisionModel 的輸出。
BlipModel 的前向傳播方法,覆蓋了 `__call__` 特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(
... text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="pt", padding=True
... )
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1) # we can take the softmax to get the label probabilities
get_text_features
< 源 >( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None return_dict: typing.Optional[bool] = None ) → text_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
引數
- input_ids (
torch.Tensor
, 形狀為(batch_size, sequence_length)
, 可選) — 詞彙表中輸入序列標記的索引。填充預設會被忽略。可以使用 AutoTokenizer 獲取索引。有關詳細資訊,請參閱 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- attention_mask (
torch.Tensor
, 形狀為(batch_size, sequence_length)
, 可選) — 避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示 未被掩蓋 的標記,
- 0 表示 被掩蓋 的標記。
- position_ids (
torch.Tensor
, 形狀為(batch_size, sequence_length)
, 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.n_positions - 1]
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。
返回
text_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。
示例
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)
get_image_features
< 源 >( pixel_values: typing.Optional[torch.FloatTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → image_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
引數
- pixel_values (
torch.FloatTensor
, 形狀為(batch_size, num_channels, image_size, image_size)
, 可選) — 與輸入影像對應的張量。畫素值可以使用{image_processor_class}
獲取。有關詳細資訊,請參閱{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否對預訓練的位置編碼進行插值。
返回
image_features (torch.FloatTensor
, 形狀為 (batch_size, output_dim
)
透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel
>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="pt")
>>> image_features = model.get_image_features(**inputs)
BlipTextModel
該模型可以作為編碼器(僅具有自注意力)以及解碼器,在這種情況下,在自注意力層之間新增一個交叉注意力層,遵循 Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez 和 Illia Polosukhin 的《Attention is all you need》中描述的架構。引數和`is_decoder`設定為`True`;然後期望`encoder_hidden_states`作為前向傳播的輸入。
forward
< 源 >( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None head_mask: typing.Optional[torch.Tensor] = None inputs_embeds: typing.Optional[torch.Tensor] = None encoder_embeds: typing.Optional[torch.Tensor] = None encoder_hidden_states: typing.Optional[torch.Tensor] = None encoder_attention_mask: typing.Optional[torch.Tensor] = None past_key_values: typing.Optional[list[torch.FloatTensor]] = None use_cache: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None is_decoder: typing.Optional[bool] = False )
encoder_hidden_states (torch.FloatTensor
, 可選): 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則在交叉注意力中使用。encoder_attention_mask (torch.FloatTensor
, 可選): 避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇範圍為 [0, 1]
- 1 表示 未被掩蓋 的標記,
- 0 表示 被掩蓋 的標記。past_key_values (
tuple(tuple(torch.FloatTensor))
, 可選): 包含注意力塊的預計算鍵和值隱藏狀態。可用於加速解碼。如果使用`past_key_values`,使用者可以選擇只輸入最後`decoder_input_ids`(那些沒有將過去的鍵值狀態提供給此模型的)形狀為`(batch_size, 1)`,而不是所有形狀為`(batch_size, sequence_length)`的`decoder_input_ids`。use_cache (bool
, 可選): 如果設定為`True`,則返回`past_key_values`的鍵值狀態,可用於加速解碼(參見`past_key_values`)。
BlipTextLMHeadModel
forward
< 源 >( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None head_mask: typing.Optional[torch.Tensor] = None inputs_embeds: typing.Optional[torch.Tensor] = None encoder_hidden_states: typing.Optional[torch.Tensor] = None encoder_attention_mask: typing.Optional[torch.Tensor] = None labels: typing.Optional[torch.Tensor] = None past_key_values: typing.Optional[list[torch.Tensor]] = None use_cache: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None return_logits: typing.Optional[bool] = False is_decoder: typing.Optional[bool] = True reduction: typing.Optional[str] = 'mean' )
encoder_hidden_states (torch.FloatTensor
, 可選): 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則在交叉注意力中使用。encoder_attention_mask (torch.FloatTensor
, 可選): 避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇範圍為 [0, 1]
- 1 表示 未被掩蓋 的標記,
- 0 表示被 遮蓋 的標記。labels (
torch.LongTensor
, 可選):用於計算從左到右語言建模損失(下一個詞預測)的標籤。索引應在[-100, 0, ..., config.vocab_size]
之間(參見input_ids
文件字串)。索引設定為-100
的標記將被忽略(遮蓋),損失僅針對標籤為[0, ..., config.vocab_size]
的標記計算。past_key_values (tuple(tuple(torch.FloatTensor))
, 可選):包含注意力塊預先計算好的鍵和值隱藏狀態。可用於加速解碼。如果使用了past_key_values
,使用者可以選擇僅輸入形狀為(batch_size, 1)
的最後一個decoder_input_ids
(那些沒有將過去的鍵值狀態提供給此模型的)而不是形狀為(batch_size, sequence_length)
的所有decoder_input_ids
。use_cache (bool
, 可選):如果設定為True
,將返回past_key_values
鍵值狀態,可用於加速解碼(參見past_key_values
)。
- forward
BlipVisionModel
forward
< source >( pixel_values: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → transformers.modeling_outputs.BaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
引數
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
,可選) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。有關詳細資訊,請參見{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否插值預訓練的位置編碼。
返回
transformers.modeling_outputs.BaseModelOutputWithPooling 或 tuple(torch.FloatTensor)
一個 transformers.modeling_outputs.BaseModelOutputWithPooling 或一個 torch.FloatTensor
元組(如果傳入 return_dict=False
或 config.return_dict=False
時),包含根據配置 (BlipConfig) 和輸入的不同元素。
-
last_hidden_state (形狀為
(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
) — 模型最後一層輸出的隱藏狀態序列。 -
pooler_output (形狀為
(batch_size, hidden_size)
的torch.FloatTensor
) — 序列中第一個標記(分類標記)的最後一層隱藏狀態,經過用於輔助預訓練任務的層進一步處理。例如,對於 BERT 家族模型,這會返回經過線性層和 tanh 啟用函式處理後的分類標記。線性層權重在預訓練期間透過下一個句子預測(分類)目標進行訓練。 -
hidden_states (
tuple(torch.FloatTensor)
, 可選,當傳入output_hidden_states=True
或config.output_hidden_states=True
時返回) — 形狀為(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(torch.FloatTensor)
, 可選,當傳入output_attentions=True
或config.output_attentions=True
時返回) — 形狀為(batch_size, num_heads, sequence_length, sequence_length)
的torch.FloatTensor
元組(每個層一個)。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
BlipVisionModel 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
BlipForConditionalGeneration
class transformers.BlipForConditionalGeneration
< source >( config: BlipConfig )
引數
- config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
用於影像字幕生成的 BLIP 模型。該模型由視覺編碼器和文字解碼器組成。可以選擇將 input_ids
傳遞給模型作為文字提示,使文字解碼器繼續該提示。否則,解碼器將從 [BOS] (序列開始) 標記開始生成文字。如果沒有提供文字輸入,解碼器將只從 [BOS] 標記開始。
此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。
此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。
forward
< source >( pixel_values: FloatTensor input_ids: typing.Optional[torch.LongTensor] = None attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None labels: typing.Optional[torch.LongTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
或 tuple(torch.FloatTensor)
引數
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。有關詳細資訊,請參見{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - input_ids (形狀為
(batch_size, sequence_length)
的torch.LongTensor
,可選) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- attention_mask (形狀為
(batch_size, sequence_length)
的torch.LongTensor
,可選) — 掩碼,用於避免在填充標記索引上執行注意力。掩碼值在[0, 1]
中選擇:- 1 表示 未被掩碼 的標記,
- 0 表示 被掩碼 的標記。
- output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的hidden_states
。 - labels (形狀為
(batch_size, sequence_length)
的torch.LongTensor
,可選) — 用於計算掩碼語言建模損失的標籤。索引應在[0, ..., config.vocab_size]
或 -100 之間(參見input_ids
文件字串)。索引設定為-100
的標記將被忽略(掩碼),損失僅針對標籤在[0, ..., config.vocab_size]
中的標記計算。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否插值預訓練的位置編碼。
返回
transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
或 tuple(torch.FloatTensor)
一個 transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput
或一個 torch.FloatTensor
元組(如果傳入 return_dict=False
或 config.return_dict=False
時),包含根據配置 (BlipConfig) 和輸入的不同元素。
-
loss (
torch.FloatTensor
, 可選,當提供labels
時返回,形狀為(1,)
的torch.FloatTensor
) — 來自文字解碼器的語言建模損失。 -
logits (形狀為
(batch_size, sequence_length, config.vocab_size)
的torch.FloatTensor
, 可選) — 文字解碼器模型語言建模頭的預測分數。 -
image_embeds (形狀為
(batch_size, output_dim)
的torch.FloatTensor
, 可選) — 在對輸入影像應用 Vision Transformer 模型後獲得的影像嵌入。 -
last_hidden_state (形狀為
(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
, 可選,預設為None
) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple(torch.FloatTensor)
, 可選,當output_hidden_states=True
被傳入時返回) — 形狀為(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(torch.FloatTensor)
, 可選,當傳入output_attentions=True
時返回) — 形狀為(batch_size, num_heads, sequence_length, sequence_length)
的torch.FloatTensor
元組(每個層一個)。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
BlipForConditionalGeneration 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForConditionalGeneration
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = BlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)
BlipForImageTextRetrieval
class transformers.BlipForImageTextRetrieval
< source >( config: BlipConfig )
引數
- config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
帶視覺和文字投影器以及頂部分類頭的 BLIP 模型。該模型用於影像-文字檢索。給定影像和文字,模型返回文字與影像相關的機率。
此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。
此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。
forward
< source >( input_ids: LongTensor pixel_values: FloatTensor use_itm_head: typing.Optional[bool] = True attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
引數
- input_ids (形狀為
(batch_size, sequence_length)
的torch.LongTensor
) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。有關詳細資訊,請參見{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - use_itm_head (
bool
, 可選,預設為True
) — 是否使用影像-文字匹配頭。 - attention_mask (形狀為
(batch_size, sequence_length)
的torch.LongTensor
,可選) — 掩碼,用於避免在填充標記索引上執行注意力。掩碼值在[0, 1]
中選擇:- 1 表示 未被掩碼 的標記,
- 0 表示 被掩碼 的標記。
- output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - interpolate_pos_encoding (
bool
, 預設為False
) — 是否插值預訓練的位置編碼。
返回
transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
一個 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或一個 torch.FloatTensor
元組(如果傳入 return_dict=False
或 config.return_dict=False
時),包含根據配置 (BlipConfig) 和輸入的不同元素。
-
loss (形狀為
(1,)
的torch.FloatTensor
,可選,當提供labels
時返回) — 來自文字解碼器的語言建模損失。 -
image_embeds (形狀為
(batch_size, output_dim)
的torch.FloatTensor
,可選,當模型以with_projection=True
初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。 -
last_hidden_state (形狀為
(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
, 可選,預設為None
) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple[torch.FloatTensor, ...]
, 可選,當傳入output_hidden_states=True
或config.output_hidden_states=True
時返回) — 形狀為(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple[torch.FloatTensor, ...]
, 可選,當傳入output_attentions=True
時返回) — 形狀為(batch_size, num_heads, sequence_length, sequence_length)
的torch.FloatTensor
元組(每個層一個)。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
BlipForImageTextRetrieval 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForImageTextRetrieval
>>> model = BlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)
BlipForQuestionAnswering
class transformers.BlipForQuestionAnswering
< source >( config: BlipConfig )
引數
- config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
用於視覺問答的 BLIP 模型。該模型由視覺編碼器、文字編碼器和文字解碼器組成。視覺編碼器將對輸入影像進行編碼,文字編碼器將與影像編碼一起對輸入問題進行編碼,文字解碼器將輸出問題的答案。
此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。
此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。
forward
< source >( input_ids: LongTensor pixel_values: FloatTensor decoder_input_ids: typing.Optional[torch.LongTensor] = None decoder_attention_mask: typing.Optional[torch.LongTensor] = None attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None labels: typing.Optional[torch.LongTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) → transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
引數
- input_ids (形狀為
(batch_size, sequence_length)
的torch.LongTensor
) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- pixel_values (形狀為
(batch_size, num_channels, image_size, image_size)
的torch.FloatTensor
) — 對應於輸入影像的張量。畫素值可以使用{image_processor_class}
獲得。有關詳細資訊,請參見{image_processor_class}.__call__
({processor_class}
使用{image_processor_class}
處理影像)。 - decoder_input_ids (形狀為
(batch_size, target_sequence_length)
的torch.LongTensor
,可選) — 詞彙表中解碼器輸入序列標記的索引。索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode() 和 PreTrainedTokenizer.call()。
- decoder_attention_mask (形狀為
(batch_size, target_sequence_length)
的torch.LongTensor
,可選) — 掩碼,用於避免在某些標記索引上執行注意力。預設情況下,將使用因果掩碼,以確保模型只能檢視先前的輸入以預測未來。 - attention_mask (
torch.LongTensor
,形狀為(batch_size, sequence_length)
,可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- output_attentions (
bool
,可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的hidden_states
。 - labels (
torch.LongTensor
,形狀為(batch_size, sequence_length)
,可選) — 用於計算掩碼語言建模損失的標籤。索引應在[0, ..., config.vocab_size]
或 -100 之間(請參閱input_ids
文件字串)。索引設定為-100
的標記將被忽略(掩碼),損失僅針對標籤在[0, ..., config.vocab_size]
範圍內的標記計算。 - return_dict (
bool
,可選) — 是否返回 ModelOutput 物件而不是普通元組。 - interpolate_pos_encoding (
bool
,預設為False
) — 是否插值預訓練的位置編碼。
返回
transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或 tuple(torch.FloatTensor)
一個 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput
或一個 torch.FloatTensor
元組(如果傳入 return_dict=False
或 config.return_dict=False
時),包含根據配置 (BlipConfig) 和輸入的不同元素。
-
loss (形狀為
(1,)
的torch.FloatTensor
,可選,當提供labels
時返回) — 來自文字解碼器的語言建模損失。 -
image_embeds (形狀為
(batch_size, output_dim)
的torch.FloatTensor
,可選,當模型以with_projection=True
初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。 -
last_hidden_state (形狀為
(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
, 可選,預設為None
) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple[torch.FloatTensor, ...]
, 可選,當傳入output_hidden_states=True
或config.output_hidden_states=True
時返回) — 形狀為(batch_size, sequence_length, hidden_size)
的torch.FloatTensor
元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple[torch.FloatTensor, ...]
, 可選,當傳入output_attentions=True
時返回) — 形狀為(batch_size, num_heads, sequence_length, sequence_length)
的torch.FloatTensor
元組(每個層一個)。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
BlipForQuestionAnswering 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForQuestionAnswering
>>> model = BlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> labels = processor(text=label, return_tensors="pt").input_ids
>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> loss.backward()
>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
TFBlipModel
呼叫
< source >( input_ids: tf.Tensor | None = None pixel_values: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_loss: Optional[bool] = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipOutput
或 tuple(tf.Tensor)
引數
- input_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。索引可以使用 AutoProcessor 獲取。詳細資訊請參閱
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- position_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.max_position_embeddings - 1]
。 - pixel_values (
tf.Tensor
,形狀為(batch_size, num_channels, height, width)
) — 畫素值。如果提供填充,預設情況下將忽略它。畫素值可以使用 BlipImageProcessor 獲取。詳細資訊請參閱 BlipImageProcessor.call()。 - return_loss (
bool
,可選) — 是否返回對比損失。 - output_attentions (
bool
,可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的hidden_states
。 - return_dict (
bool
,可選) — 是否返回 ModelOutput 物件而不是普通元組。
返回
transformers.models.blip.modeling_tf_blip.TFBlipOutput
或 tuple(tf.Tensor)
一個 transformers.models.blip.modeling_tf_blip.TFBlipOutput
物件或一個 tf.Tensor
元組(如果 return_dict=False
或 config.return_dict=False
),包含根據配置(<class 'transformers.models.blip.configuration_blip.BlipConfig'>
)和輸入的不同元素。
- loss (
tf.Tensor
,形狀為(1,)
,可選,當return_loss
為True
時返回) — 影像-文字相似度的對比損失。 - logits_per_image:(
tf.Tensor
,形狀為(image_batch_size, text_batch_size)
) —image_embeds
和text_embeds
之間的縮放點積分數。這表示影像-文字相似度分數。 - logits_per_text:(
tf.Tensor
,形狀為(text_batch_size, image_batch_size)
) —text_embeds
和image_embeds
之間的縮放點積分數。這表示文字-影像相似度分數。 - text_embeds(
tf.Tensor
,形狀為(batch_size, output_dim
) — 透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。 - image_embeds(
tf.Tensor
,形狀為(batch_size, output_dim
) — 透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。 - text_model_output(
BaseModelOutputWithPooling
): BlipTextModel 的輸出。 - vision_model_output(
BaseModelOutputWithPooling
): BlipVisionModel 的輸出。
TFBlipModel 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(
... text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="tf", padding=True
... )
>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image # this is the image-text similarity score
>>> probs = tf.nn.softmax(logits_per_image, axis=1) # we can take the softmax to get the label probabilities
get_text_features
< source >( input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_dict: Optional[bool] = None ) → text_features (tf.Tensor
,形狀為 (batch_size, output_dim
)
引數
- input_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。索引可以使用 AutoProcessor 獲取。詳細資訊請參閱
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- position_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.max_position_embeddings - 1]
。 - output_attentions (
bool
,可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的hidden_states
。 - return_dict (
bool
,可選) — 是否返回 ModelOutput 物件而不是普通元組。
返回
text_features (tf.Tensor
,形狀為 (batch_size, output_dim
)
透過對 TFBlipTextModel 的池化輸出應用投影層獲得的文字嵌入。
TFBlipModel 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="tf")
>>> text_features = model.get_text_features(**inputs)
get_image_features
< source >( pixel_values: tf.Tensor | None = None return_dict: Optional[bool] = None ) → image_features (tf.Tensor
,形狀為 (batch_size, output_dim
)
引數
- pixel_values (
tf.Tensor
,形狀為(batch_size, num_channels, height, width)
) — 畫素值。如果提供填充,預設情況下將忽略它。畫素值可以使用 BlipImageProcessor 獲取。詳細資訊請參閱 BlipImageProcessor.call()。 - output_attentions (
bool
,可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的hidden_states
。 - return_dict (
bool
,可選) — 是否返回 ModelOutput 物件而不是普通元組。
返回
image_features (tf.Tensor
,形狀為 (batch_size, output_dim
)
透過對 TFBlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。
TFBlipModel 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel
>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> inputs = processor(images=image, return_tensors="tf")
>>> image_features = model.get_image_features(**inputs)
TFBlipTextModel
class transformers.TFBlipTextModel
< source >( config add_pooling_layer = True name = None **kwargs )
該模型可以作為編碼器(僅具有自注意力)以及解碼器,在這種情況下,在自注意力層之間新增一個交叉注意力層,遵循 Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez 和 Illia Polosukhin 的《Attention is all you need》中描述的架構。引數和`is_decoder`設定為`True`;然後期望`encoder_hidden_states`作為前向傳播的輸入。
呼叫
< source >( input_ids: TFModelInputType | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None head_mask: tf.Tensor | None = None inputs_embeds: tf.Tensor | None = None encoder_embeds: tf.Tensor | None = None encoder_hidden_states: tf.Tensor | None = None encoder_attention_mask: tf.Tensor | None = None past_key_values: tuple[tuple[tf.Tensor]] | None = None use_cache: bool | None = None output_attentions: bool | None = None output_hidden_states: bool | None = None return_dict: bool | None = None is_decoder: bool = False training: bool = False )
引數
- input_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。索引可以使用 AutoProcessor 獲取。詳細資訊請參閱
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為[0, 1]
:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- position_ids (
tf.Tensor
,形狀為(batch_size, sequence_length)
,可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.max_position_embeddings - 1]
。 - output_attentions (
bool
,可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的attentions
。 - output_hidden_states (
bool
,可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的hidden_states
。 - return_dict (
bool
,可選) — 是否返回 ModelOutput 物件而不是普通元組。 - encoder_hidden_states (
tf.Tensor
,可選) — 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則用於交叉注意力。 - encoder_attention_mask (
tf.Tensor
,可選) — 用於避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則此掩碼用於交叉注意力。掩碼值選擇範圍為[0, 1]
:- 1 表示**未被掩碼**的標記,
- 0 表示**被掩碼**的標記。
- past_key_values (
tuple(tuple(tf.Tensor))
,可選) — 包含注意力塊的預計算鍵值隱藏狀態。可用於加速解碼。如果使用past_key_values
,使用者可以選擇只輸入形狀為(batch_size, 1)
的最後一個decoder_input_ids
(那些未向模型提供其過去的鍵值狀態的 ID),而不是形狀為(batch_size, sequence_length)
的所有decoder_input_ids
。 - use_cache (
bool
,可選) — 如果設定為True
,將返回past_key_values
鍵值狀態,可用於加速解碼(請參閱past_key_values
)。
TFBlipTextModel 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
TFBlipTextLMHeadModel
呼叫
< source >( input_ids = None attention_mask = None position_ids = None head_mask = None inputs_embeds = None encoder_hidden_states = None encoder_attention_mask = None labels = None past_key_values = None use_cache = None output_attentions = None output_hidden_states = None return_dict = None return_logits = False is_decoder = True training = None )
引數
- input_ids (
tf.Tensor
of shape(batch_size, sequence_length)
) — 輸入序列標記在詞彙表中的索引。如果提供填充,將預設忽略。索引可以使用 AutoProcessor 獲得。詳情請參閱
BlipProcessor.__call__()
。 - attention_mask (
tf.Tensor
of shape(batch_size, sequence_length)
, 可選) — 掩碼,用於避免對填充標記索引執行注意力操作。掩碼值選擇在[0, 1]
之間:- 1 表示未被掩碼的標記,
- 0 表示被掩碼的標記。
- position_ids (
tf.Tensor
of shape(batch_size, sequence_length)
, 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為[0, config.max_position_embeddings - 1]
。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。 - encoder_hidden_states (
tf.Tensor
, 可選) — 編碼器最後一層輸出的隱藏狀態序列。如果模型被配置為解碼器,則在交叉注意力中使用。 - encoder_attention_mask (
tf.Tensor
, 可選) — 掩碼,用於避免對編碼器輸入的填充標記索引執行注意力操作。如果模型被配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇在[0, 1]
之間:- 1 表示未被掩碼的標記,
- 0 表示被掩碼的標記。
- labels (
tf.Tensor
, 可選) — 用於計算從左到右語言建模損失(下一個詞預測)的標籤。索引應在[-100, 0, ..., config.vocab_size]
之間(參見input_ids
文件字串)。索引設定為-100
的標記將被忽略(掩碼),損失僅針對標籤為[0, ..., config.vocab_size]
的標記計算。 - past_key_values (
tuple(tuple(tf.Tensor))
, 可選) — 包含注意力塊預計算的鍵和值隱藏狀態。可用於加速解碼。如果使用past_key_values
,使用者可以選擇只輸入最後一個decoder_input_ids
(未向此模型提供過去鍵值狀態的那些)形狀為(batch_size, 1)
,而不是所有decoder_input_ids
形狀為(batch_size, sequence_length)
。 - use_cache (
bool
, 可選) — 如果設定為True
,將返回past_key_values
鍵值狀態,可用於加速解碼(參見past_key_values
)。
TFBlipTextLMHeadModel 的 forward 方法,重寫了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
- forward
TFBlipVisionModel
呼叫
< 源 >( pixel_values: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或 tuple(tf.Tensor)
引數
- pixel_values (
tf.Tensor
of shape(batch_size, num_channels, height, width)
) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。
返回
transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或 tuple(tf.Tensor)
一個 transformers.modeling_tf_outputs.TFBaseModelOutputWithPooling 或 tf.Tensor
的元組(如果傳入 return_dict=False
或當 config.return_dict=False
時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和輸入而變化的各種元素。
-
last_hidden_state (
tf.Tensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最後一層輸出的隱藏狀態序列。 -
pooler_output (
tf.Tensor
of shape(batch_size, hidden_size)
) — 序列中第一個標記(分類標記)的最後一層隱藏狀態,經過線性層和 Tanh 啟用函式進一步處理。線性層權重在預訓練期間透過下一句預測(分類)目標進行訓練。此輸出通常不是輸入語義內容的良好摘要,通常最好對整個輸入序列的隱藏狀態進行平均或池化。
-
hidden_states (
tuple(tf.Tensor)
, 可選, 當傳入output_hidden_states=True
或當config.output_hidden_states=True
時返回) —tf.Tensor
的元組(一個用於嵌入層的輸出 + 每個層的輸出)形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態加上初始嵌入輸出。
-
attentions (
tuple(tf.Tensor)
, 可選, 當傳入output_attentions=True
或當config.output_attentions=True
時返回) —tf.Tensor
的元組(每個層一個)形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
TFBlipVisionModel 的 forward 方法,重寫了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
TFBlipForConditionalGeneration
class transformers.TFBlipForConditionalGeneration
< 源 >( config: BlipConfig *args **kwargs )
引數
- config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
用於影像字幕生成的 BLIP 模型。該模型由視覺編碼器和文字解碼器組成。可以選擇將 input_ids
傳遞給模型作為文字提示,使文字解碼器繼續該提示。否則,解碼器將從 [BOS] (序列開始) 標記開始生成文字。如果沒有提供文字輸入,解碼器將只從 [BOS] 標記開始。
此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。
呼叫
< 源 >( pixel_values: tf.Tensor input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
或 tuple(tf.Tensor)
引數
- pixel_values (
tf.Tensor
of shape(batch_size, num_channels, height, width)
) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。
返回
transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
或 tuple(tf.Tensor)
一個 transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutput
或 tf.Tensor
的元組(如果傳入 return_dict=False
或當 config.return_dict=False
時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>
) 和輸入而變化的各種元素。
-
loss (
tf.Tensor
, 可選, 當提供labels
時返回,tf.Tensor
of shape(1,)
) — 來自文字解碼器的語言建模損失。 -
logits (
tf.Tensor
of shape(batch_size, sequence_length, config.vocab_size)
, 可選) — 文字解碼器模型語言建模頭部的預測分數。 -
image_embeds (
tf.Tensor
of shape(batch_size, output_dim)
, 可選) — 應用視覺 Transformer 模型到輸入影像後獲得的影像嵌入。 -
last_hidden_state (
tf.Tensor
of shape(batch_size, sequence_length, hidden_size)
, 可選) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple(tf.Tensor)
, 可選, 當傳入output_hidden_states=True
時返回) —tf.Tensor
的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(tf.Tensor)
, 可選, 當傳入output_attentions=True
時返回) —tf.Tensor
的元組(每個層一個)形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
TFBlipForConditionalGeneration 的 forward 方法,重寫了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForConditionalGeneration
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = TFBlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)
TFBlipForImageTextRetrieval
class transformers.TFBlipForImageTextRetrieval
< 源 >( config: BlipConfig *args **kwargs )
引數
- config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
帶視覺和文字投影器以及頂部分類頭的 BLIP 模型。該模型用於影像-文字檢索。給定影像和文字,模型返回文字與影像相關的機率。
此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。
呼叫
< 源 >( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None use_itm_head: Optional[bool] = True attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
或 tuple(tf.Tensor)
引數
- pixel_values (
tf.Tensor
of shape(batch_size, num_channels, height, width)
) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是普通元組。
返回
transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
或 tuple(tf.Tensor)
一個 transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutput
或 tf.Tensor
的元組(如果傳入 return_dict=False
或當 config.return_dict=False
時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和輸入而變化的各種元素。
-
itm_score (
tf.Tensor
) — 影像-文字相似度得分。 -
loss (
tf.Tensor
of shape(1,)
, 可選, 當提供labels
時返回) — 來自文字解碼器的語言建模損失。 -
image_embeds (
tf.Tensor
of shape(batch_size, output_dim)
可選 當模型使用with_projection=True
初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。 -
last_hidden_state (
tf.Tensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple(tf.Tensor)
, 可選, 當傳入output_hidden_states=True
或當config.output_hidden_states=True
時返回) —tf.Tensor
的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
vision_pooler_output (
tf.Tensor
of shape(batch_size, hidden_size)
, 可選) — 模型視覺分支中最後一層的隱藏狀態。 -
attentions (
tuple(tf.Tensor)
, 可選, 當傳入output_attentions=True
或當config.output_attentions=True
時返回) —tf.Tensor
的元組(每個層一個)形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
-
question_embeds (
tf.Tensor
) — 透過文字投影層獲得的問句嵌入。
TFBlipForImageTextRetrieval 的 forward 方法,重寫了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForImageTextRetrieval
>>> model = TFBlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)
TFBlipForQuestionAnswering
class transformers.TFBlipForQuestionAnswering
< 源 >( config: BlipConfig *args **kwargs )
引數
- config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。
用於視覺問答的 BLIP 模型。該模型由視覺編碼器、文字編碼器和文字解碼器組成。視覺編碼器將對輸入影像進行編碼,文字編碼器將與影像編碼一起對輸入問題進行編碼,文字解碼器將輸出問題的答案。
此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。
此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。
呼叫
< 源 >( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None decoder_input_ids: tf.Tensor | None = None decoder_attention_mask: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) → transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
或 tuple(tf.Tensor)
引數
- pixel_values (形狀為
(batch_size, num_channels, height, width)
的tf.Tensor
) — 畫素值。如果提供填充,預設情況下將被忽略。畫素值可以使用 BlipImageProcessor 獲取。有關詳細資訊,請參閱 BlipImageProcessor.call()。 - output_attentions (
bool
, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊,請參閱返回張量下的attentions
。 - output_hidden_states (
bool
, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊,請參閱返回張量下的hidden_states
。 - return_dict (
bool
, 可選) — 是否返回 ModelOutput 而不是純元組。
返回
transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
或 tuple(tf.Tensor)
一個 transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput
或一個 tf.Tensor
元組(如果傳遞 return_dict=False
或當 config.return_dict=False
時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>
) 和輸入而定的各種元素。
-
loss (
tf.Tensor
of shape(1,)
, 可選, 當提供labels
時返回) — 來自文字解碼器的語言建模損失。 -
image_embeds (
tf.Tensor
of shape(batch_size, output_dim)
可選 當模型使用with_projection=True
初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。 -
last_hidden_state (
tf.Tensor
of shape(batch_size, sequence_length, hidden_size)
) — 模型最後一層輸出的隱藏狀態序列。 -
hidden_states (
tuple(tf.Tensor)
, 可選, 當傳入output_hidden_states=True
或當config.output_hidden_states=True
時返回) —tf.Tensor
的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為(batch_size, sequence_length, hidden_size)
。模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。
-
attentions (
tuple(tf.Tensor)
, 可選, 當傳入output_attentions=True
或當config.output_attentions=True
時返回) —tf.Tensor
的元組(每個層一個)形狀為(batch_size, num_heads, sequence_length, sequence_length)
。注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。
TFBlipForQuestionAnswering 的 forward 方法,覆蓋了 __call__
特殊方法。
儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。
示例
>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForQuestionAnswering
>>> model = TFBlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")
>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> labels = processor(text=label, return_tensors="tf").input_ids
>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2