Transformers 文件

BLIP

Hugging Face's logo
加入 Hugging Face 社群

並獲得增強的文件體驗

開始使用

PyTorch TensorFlow

BLIP

BLIP (Bootstrapped Language-Image Pretraining) 是一個視覺語言預訓練 (VLP) 框架,專為理解和生成任務而設計。現有的大多數預訓練模型在這兩方面都表現平平。它使用一個字幕生成器生成字幕,並使用一個過濾器去除嘈雜的字幕。這提高了訓練資料的質量,並更有效地利用了雜亂的網路資料。

你可以在 BLIP 集合中找到所有原始的 BLIP 檢查點。

此模型由 ybelkada 貢獻。

點選右側邊欄中的 BLIP 模型,瞭解更多如何將 BLIP 應用於不同視覺語言任務的示例。

以下示例演示瞭如何使用 PipelineAutoModel 類進行視覺問答。

流水線
自動模型
import torch
from transformers import pipeline

pipeline = pipeline(
    task="visual-question-answering",
    model="Salesforce/blip-vqa-base",
    torch_dtype=torch.float16,
    device=0
)
url = "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/pipeline-cat-chonk.jpeg"
pipeline(question="What is the weather in this image?", image=url)

資源

請參閱此 筆記本,瞭解如何在自定義資料集上微調 BLIP 進行影像字幕生成。

BlipConfig

class transformers.BlipConfig

< >

( text_config = None vision_config = None projection_dim = 512 logit_scale_init_value = 2.6592 image_text_hidden_size = 256 label_smoothing = 0.0 **kwargs )

引數

  • text_config (dict, 可選) — 用於初始化 BlipTextConfig 的配置選項字典。
  • vision_config (dict, 可選) — 用於初始化 BlipVisionConfig 的配置選項字典。
  • projection_dim (int, 可選, 預設為 512) — 文字和視覺投影層的維度。
  • logit_scale_init_value (float, 可選, 預設為 2.6592) — logit_scale 引數的初始值。預設值按照原始 BLIP 實現使用。
  • image_text_hidden_size (int, 可選, 預設為 256) — 影像-文字融合層隱藏狀態的維度。
  • label_smoothing (float, 可選, 預設為 0.0) — [0.0, 1.0] 範圍內的浮點數。指定計算損失時的平滑量,其中 0.0 表示不平滑。目標將成為原始真實值和均勻分佈的混合,如 重新思考計算機視覺的 Inception 架構 <https://huggingface.co/papers/1512.00567>__ 中所述。預設值::math:0.0
  • kwargs (可選) — 關鍵字引數字典。

BlipConfig 是用於儲存 BlipModel 配置的配置類。它用於根據指定的引數例項化 BLIP 模型,定義文字模型和視覺模型配置。使用預設值例項化配置將生成與 BLIP-base Salesforce/blip-vqa-base 架構類似的配置。

配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。

示例

>>> from transformers import BlipConfig, BlipModel

>>> # Initializing a BlipConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipConfig()

>>> # Initializing a BlipPModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

>>> # We can also initialize a BlipConfig from a BlipTextConfig and a BlipVisionConfig

>>> # Initializing a BLIPText and BLIPVision configuration
>>> config_text = BlipTextConfig()
>>> config_vision = BlipVisionConfig()

>>> config = BlipConfig.from_text_vision_configs(config_text, config_vision)

from_text_vision_configs

< >

( text_config: BlipTextConfig vision_config: BlipVisionConfig **kwargs ) BlipConfig

返回

BlipConfig

一個配置物件的例項

從 blip 文字模型配置和 blip 視覺模型配置例項化 BlipConfig(或派生類)。

BlipTextConfig

class transformers.BlipTextConfig

< >

( vocab_size = 30524 hidden_size = 768 encoder_hidden_size = 768 intermediate_size = 3072 projection_dim = 768 num_hidden_layers = 12 num_attention_heads = 8 max_position_embeddings = 512 hidden_act = 'gelu' layer_norm_eps = 1e-12 hidden_dropout_prob = 0.0 attention_probs_dropout_prob = 0.0 initializer_range = 0.02 bos_token_id = 30522 eos_token_id = 2 pad_token_id = 0 sep_token_id = 102 is_decoder = True use_cache = True label_smoothing = 0.0 **kwargs )

引數

  • vocab_size (int, 可選, 預設為 30524) — Blip 文字模型的詞彙表大小。定義了呼叫 BlipModel 時傳入的 inputs_ids 可以表示的不同標記的數量。
  • hidden_size (int, 可選, 預設為 768) — 編碼器層和池化層的維度。
  • encoder_hidden_size (int, 可選, 預設為 768) — 視覺模型中編碼器層的維度。
  • intermediate_size (int, 可選, 預設為 3072) — Transformer 編碼器中“中間”(即前饋)層的維度。
  • num_hidden_layers (int, 可選, 預設為 12) — Transformer 編碼器中隱藏層的數量。
  • num_attention_heads (int, 可選, 預設為 8) — Transformer 編碼器中每個注意力層的注意力頭數量。
  • max_position_embeddings (int, 可選, 預設為 512) — 該模型可能使用的最大序列長度。通常設定為一個較大的值以防萬一(例如,512、1024 或 2048)。
  • hidden_act (strfunction, 可選, 預設為 "gelu") — 編碼器和池化器中的非線性啟用函式(函式或字串)。如果是字串,支援 "gelu""relu""selu""gelu_new" "gelu"
  • layer_norm_eps (float, 可選, 預設為 1e-12) — 層歸一化層使用的 epsilon。
  • hidden_dropout_prob (float, 可選, 預設為 0.0) — 嵌入、編碼器和池化器中所有全連線層的 dropout 機率。
  • attention_dropout (float, 可選, 預設為 0.0) — 注意力機率的 dropout 比率。
  • initializer_range (float, 可選, 預設為 0.02) — 用於初始化所有權重矩陣的截斷正態分佈初始化器的標準差。
  • bos_token_id (int, 可選, 預設為 30522) — 序列開始 標記的 ID。
  • eos_token_id (int, 可選, 預設為 2) — 序列結束 標記的 ID。
  • pad_token_id (int, 可選, 預設為 0) — 填充 標記的 ID。
  • sep_token_id (int, 可選, 預設為 102) — 分隔符 標記的 ID。
  • is_decoder (bool, 可選, 預設為 True) — 模型是否用作解碼器。
  • use_cache (bool, 可選, 預設為 True) — 模型是否應返回最後一個 key/values 注意力(並非所有模型都使用)。
  • label_smoothing (float, 可選) — [0.0, 1.0] 範圍內的浮點數。指定計算損失時的平滑量,其中 0.0 表示不平滑。目標將成為原始真實值和均勻分佈的混合,如 重新思考計算機視覺的 Inception 架構 <https://huggingface.co/papers/1512.00567>__ 中所述。預設值::math:0.0

這是用於儲存 BlipTextModel 配置的配置類。它用於根據指定的引數例項化 BLIP 文字模型,定義模型架構。使用預設值例項化配置將生成與 基本架構 使用的 BlipText 類似的配置。

配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。

示例

>>> from transformers import BlipTextConfig, BlipTextModel

>>> # Initializing a BlipTextConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipTextConfig()

>>> # Initializing a BlipTextModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipTextModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

BlipVisionConfig

class transformers.BlipVisionConfig

< >

( hidden_size = 768 intermediate_size = 3072 projection_dim = 512 num_hidden_layers = 12 num_attention_heads = 12 image_size = 384 patch_size = 16 hidden_act = 'gelu' layer_norm_eps = 1e-05 attention_dropout = 0.0 initializer_range = 1e-10 **kwargs )

引數

  • hidden_size (int, 可選, 預設為 768) — 編碼器層和池化層的維度。
  • intermediate_size (int, 可選, 預設為 3072) — Transformer 編碼器中“中間”(即前饋)層的維度。
  • num_hidden_layers (int, 可選, 預設為 12) — Transformer 編碼器中隱藏層的數量。
  • num_attention_heads (int, 可選, 預設為 12) — Transformer 編碼器中每個注意力層的注意力頭數量。
  • image_size (int, 可選, 預設為 384) — 每張圖片的大小(解析度)。
  • patch_size (int, 可選, 預設為 16) — 每個補丁的大小(解析度)。
  • hidden_act (strfunction, 可選, 預設為 "gelu") — 編碼器和池化器中的非線性啟用函式(函式或字串)。如果為字串,支援 "gelu", "relu", "selu""gelu_new" "gelu"
  • layer_norm_eps (float, 可選, 預設為 1e-5) — 層歸一化層使用的 epsilon 值。
  • attention_dropout (float, 可選, 預設為 0.0) — 注意力機率的 dropout 比率。
  • initializer_range (float, 可選, 預設為 1e-10) — 用於初始化所有權重矩陣的 truncated_normal_initializer 的標準差。

這是用於儲存 BlipVisionModel 配置的配置類。它用於根據指定引數例項化 BLIP 視覺模型,定義模型架構。例項化預設配置將生成與 Blip-base Salesforce/blip-vqa-base 架構相似的配置。

配置物件繼承自 PretrainedConfig,可用於控制模型輸出。有關更多資訊,請閱讀 PretrainedConfig 的文件。

示例

>>> from transformers import BlipVisionConfig, BlipVisionModel

>>> # Initializing a BlipVisionConfig with Salesforce/blip-vqa-base style configuration
>>> configuration = BlipVisionConfig()

>>> # Initializing a BlipVisionModel (with random weights) from the Salesforce/blip-vqa-base style configuration
>>> model = BlipVisionModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

BlipProcessor

class transformers.BlipProcessor

< >

( image_processor tokenizer **kwargs )

引數

  • image_processor (BlipImageProcessor) — BlipImageProcessor 的例項。影像處理器是必需輸入。
  • tokenizer (BertTokenizerFast) — [‘BertTokenizerFast`] 的例項。分詞器是必需輸入。

構建一個 BLIP 處理器,它將 BERT 分詞器和 BLIP 影像處理器封裝到一個單一的處理器中。

BlipProcessor 提供了 BlipImageProcessorBertTokenizerFast 的所有功能。有關更多資訊,請參閱 __call__()decode() 的文件字串。

batch_decode

< >

( *args **kwargs )

此方法將其所有引數轉發給 BertTokenizerFast 的 batch_decode()。請參閱此方法的文件字串以獲取更多資訊。

decode

< >

( *args **kwargs )

此方法將其所有引數轉發給 BertTokenizerFast 的 decode()。請參閱此方法的文件字串以獲取更多資訊。

BlipImageProcessor

class transformers.BlipImageProcessor

< >

( do_resize: bool = True size: typing.Optional[dict[str, int]] = None resample: Resampling = <Resampling.BICUBIC: 3> do_rescale: bool = True rescale_factor: typing.Union[int, float] = 0.00392156862745098 do_normalize: bool = True image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None do_convert_rgb: bool = True **kwargs )

引數

  • do_resize (bool, 可選, 預設為 True) — 是否將影像的(高度,寬度)尺寸調整為指定的 size。可以透過 preprocess 方法中的 do_resize 引數覆蓋。
  • size (dict, 可選, 預設為 {"height" -- 384, "width": 384}): 調整大小後輸出影像的大小。可以透過 preprocess 方法中的 size 引數覆蓋。
  • resample (PILImageResampling, 可選, 預設為 Resampling.BICUBIC) — 如果調整影像大小,使用的重取樣過濾器。僅當 do_resize 設定為 True 時有效。可以透過 preprocess 方法中的 resample 引數覆蓋。
  • do_rescale (bool, 可選, 預設為 True) — 是否透過指定的比例 rescale_factor 重新縮放影像。可以透過 preprocess 方法中的 do_rescale 引數覆蓋。
  • rescale_factor (intfloat, 可選, 預設為 1/255) — 如果重新縮放影像,則使用的縮放因子。僅當 do_rescale 設定為 True 時有效。可以透過 preprocess 方法中的 rescale_factor 引數覆蓋。
  • do_normalize (bool, 可選, 預設為 True) — 是否歸一化影像。可以透過 preprocess 方法中的 do_normalize 引數覆蓋。
  • image_mean (floatlist[float], 可選, 預設為 IMAGENET_STANDARD_MEAN) — 如果歸一化影像,則使用的均值。這是一個浮點數或浮點數列表,其長度與影像中的通道數相同。可以透過 preprocess 方法中的 image_mean 引數覆蓋。
  • image_std (floatlist[float], 可選, 預設為 IMAGENET_STANDARD_STD) — 如果歸一化影像,則使用的標準差。這是一個浮點數或浮點數列表,其長度與影像中的通道數相同。可以透過 preprocess 方法中的 image_std 引數覆蓋。
  • do_convert_rgb (bool, 可選, 預設為 True) — 是否將影像轉換為 RGB。

構建 BLIP 影像處理器。

preprocess

< >

( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] do_resize: typing.Optional[bool] = None size: typing.Optional[dict[str, int]] = None resample: Resampling = None do_rescale: typing.Optional[bool] = None rescale_factor: typing.Optional[float] = None do_normalize: typing.Optional[bool] = None image_mean: typing.Union[float, list[float], NoneType] = None image_std: typing.Union[float, list[float], NoneType] = None return_tensors: typing.Union[str, transformers.utils.generic.TensorType, NoneType] = None do_convert_rgb: typing.Optional[bool] = None data_format: ChannelDimension = <ChannelDimension.FIRST: 'channels_first'> input_data_format: typing.Union[str, transformers.image_utils.ChannelDimension, NoneType] = None )

引數

  • images (ImageInput) — 要預處理的影像。期望畫素值範圍為 0 到 255 的單個或批次影像。如果傳入畫素值在 0 到 1 之間的影像,請設定 do_rescale=False
  • do_resize (bool, 可選, 預設為 self.do_resize) — 是否調整影像大小。
  • size (dict[str, int], 可選, 預設為 self.size) — 控制 resize 後圖像的大小。影像的最短邊被調整到 size["shortest_edge"],同時保持寬高比。如果此調整大小後的影像的最長邊大於 int(size["shortest_edge"] * (1333 / 800)),則再次調整影像大小,使最長邊等於 int(size["shortest_edge"] * (1333 / 800))
  • resample (PILImageResampling, 可選, 預設為 self.resample) — 如果調整影像大小,使用的重取樣過濾器。僅當 do_resize 設定為 True 時有效。
  • do_rescale (bool, 可選, 預設為 self.do_rescale) — 是否將影像值重新縮放到 [0 - 1] 之間。
  • rescale_factor (float, 可選, 預設為 self.rescale_factor) — 如果 do_rescale 設定為 True,則用於重新縮放影像的縮放因子。
  • do_normalize (bool, 可選, 預設為 self.do_normalize) — 是否歸一化影像。
  • image_mean (floatlist[float], 可選, 預設為 self.image_mean) — 如果 do_normalize 設定為 True,則用於歸一化影像的均值。
  • image_std (floatlist[float], 可選, 預設為 self.image_std) — 如果 do_normalize 設定為 True,則用於歸一化影像的標準差。
  • do_convert_rgb (bool, 可選, 預設為 self.do_convert_rgb) — 是否將影像轉換為 RGB。
  • return_tensors (strTensorType, 可選) — 要返回的張量型別。可以是以下之一:
    • 未設定:返回 np.ndarray 列表。
    • TensorType.TENSORFLOW'tf':返回 tf.Tensor 批次。
    • TensorType.PYTORCH'pt':返回 torch.Tensor 批次。
    • TensorType.NUMPY'np':返回 np.ndarray 批次。
    • TensorType.JAX'jax':返回 jax.numpy.ndarray 批次。
  • data_format (ChannelDimensionstr, 可選, 預設為 ChannelDimension.FIRST) — 輸出影像的通道維度格式。可以是以下之一:
    • "channels_first"ChannelDimension.FIRST:影像格式為 (num_channels, height, width)。
    • "channels_last"ChannelDimension.LAST:影像格式為 (height, width, num_channels)。
    • 未設定:使用輸入影像的通道維度格式。
  • input_data_format (ChannelDimensionstr, 可選) — 輸入影像的通道維度格式。如果未設定,則從輸入影像推斷通道維度格式。可以是以下之一:
    • "channels_first"ChannelDimension.FIRST:影像格式為 (num_channels, height, width)。
    • "channels_last"ChannelDimension.LAST:影像格式為 (height, width, num_channels)。
    • "none"ChannelDimension.NONE:影像格式為 (height, width)。

預處理一張或一批影像。

BlipImageProcessorFast

class transformers.BlipImageProcessorFast

< >

( **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] )

構建一個快速的 Blip 影像處理器。

preprocess

< >

( images: typing.Union[ForwardRef('PIL.Image.Image'), numpy.ndarray, ForwardRef('torch.Tensor'), list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']] *args **kwargs: typing_extensions.Unpack[transformers.image_processing_utils_fast.DefaultFastImageProcessorKwargs] ) <class 'transformers.image_processing_base.BatchFeature'>

引數

  • images (Union[PIL.Image.Image, numpy.ndarray, torch.Tensor, list['PIL.Image.Image'], list[numpy.ndarray], list['torch.Tensor']]) — 要預處理的影像。期望畫素值範圍為 0 到 255 的單個或批次影像。如果傳入畫素值在 0 到 1 之間的影像,請設定 do_rescale=False
  • do_resize (bool, 可選) — 是否調整影像大小。
  • size (dict[str, int], 可選) — 描述模型的最大輸入維度。
  • default_to_square (bool, 可選) — 當調整大小(如果`size`是整數)時是否預設使用方形影像。
  • resample (Union[PILImageResampling, F.InterpolationMode, NoneType]) — 如果影像需要調整大小,則使用的重取樣濾波器。這可以是列舉型別`PILImageResampling`中的一個。僅當`do_resize`設定為`True`時才有效。
  • do_center_crop (bool, 可選) — 是否對影像進行中心裁剪。
  • crop_size (dict[str, int], 可選) — 應用`center_crop`後輸出影像的大小。
  • do_rescale (bool, 可選) — 是否對影像進行縮放。
  • rescale_factor (Union[int, float, NoneType]) — 如果`do_rescale`設定為`True`,則用於縮放影像的縮放因子。
  • do_normalize (bool, 可選) — 是否對影像進行歸一化。
  • image_mean (Union[float, list[float], NoneType]) — 用於歸一化的影像平均值。僅當`do_normalize`設定為`True`時才有效。
  • image_std (Union[float, list[float], NoneType]) — 用於歸一化的影像標準差。僅當`do_normalize`設定為`True`時才有效。
  • do_convert_rgb (bool, 可選) — 是否將影像轉換為RGB格式。
  • return_tensors (Union[str, ~utils.generic.TensorType, NoneType]) — 如果設定為`pt`,則返回堆疊的張量,否則返回張量列表。
  • data_format (~image_utils.ChannelDimension, 可選) — 僅支援`ChannelDimension.FIRST`。為了與慢速處理器相容而新增。
  • input_data_format (Union[str, ~image_utils.ChannelDimension, NoneType]) — 輸入影像的通道維度格式。如果未設定,則從輸入影像推斷通道維度格式。可以是以下之一:
    • `"channels_first"` 或 `ChannelDimension.FIRST`:影像格式為 (通道數, 高度, 寬度)。
    • `"channels_last"` 或 `ChannelDimension.LAST`:影像格式為 (高度, 寬度, 通道數)。
    • `"none"` 或 `ChannelDimension.NONE`:影像格式為 (高度, 寬度)。
  • device (torch.device, 可選) — 處理影像的裝置。如果未設定,則從輸入影像推斷裝置。
  • disable_grouping (bool, 可選) — 是否停用按大小對影像進行分組,以單獨而不是批次處理它們。如果為None,則如果影像在CPU上,則設定為True,否則設定為False。此選擇基於經驗觀察,詳情請見: https://github.com/huggingface/transformers/pull/38157

返回

<class 'transformers.image_processing_base.BatchFeature'>

  • data (dict) — 由 call 方法返回的列表/陣列/張量字典(“pixel_values”等)。
  • tensor_type (Union[None, str, TensorType], 可選) — 您可以在此處提供一個`tensor_type`,以便在初始化時將整數列表轉換為PyTorch/TensorFlow/Numpy張量。

Pytorch
隱藏 Pytorch 內容

BlipModel

BlipModel將在未來版本中被棄用,請根據您的用例使用BlipForConditionalGeneration、BlipForImageTextRetrieval或BlipForQuestionAnswering。

class transformers.BlipModel

< >

( config: BlipConfig )

引數

  • config (BlipConfig) — 包含模型所有引數的模型配置類。用配置檔案初始化不會載入與模型相關的權重,只加載配置。請查閱 from_pretrained() 方法來載入模型權重。

此模型將在未來版本中被棄用。請根據您的用例使用`BlipForConditionalGeneration`、`BlipForQuestionAnswering`或`BlipForImageTextRetrieval`。

此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。

此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。

forward

< >

( input_ids: typing.Optional[torch.LongTensor] = None pixel_values: typing.Optional[torch.FloatTensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.LongTensor] = None return_loss: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipOutput or tuple(torch.FloatTensor)

引數

  • input_ids (torch.LongTensor, 形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。填充預設會被忽略。

    可以使用 AutoTokenizer 獲取索引。有關詳細資訊,請參閱 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是輸入 ID?

  • pixel_values (torch.FloatTensor, 形狀為 (batch_size, num_channels, image_size, image_size), 可選) — 與輸入影像對應的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊,請參閱 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • attention_mask (torch.Tensor, 形狀為 (batch_size, sequence_length), 可選) — 避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示 未被掩蓋 的標記,
    • 0 表示 被掩蓋 的標記。

    什麼是注意力掩碼?

  • position_ids (torch.LongTensor, 形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]

    什麼是位置 ID?

  • return_loss (bool, 可選) — 是否返回對比損失。
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量中的`attentions`。
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量中的`hidden_states`。
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • interpolate_pos_encoding (bool, 預設為 False) — 是否對預訓練的位置編碼進行插值。

返回

transformers.models.blip.modeling_blip.BlipOutputtuple(torch.FloatTensor)

一個`transformers.models.blip.modeling_blip.BlipOutput`或一個`torch.FloatTensor`元組(如果傳入`return_dict=False`或`config.return_dict=False`),其中包含根據配置(BlipConfig)和輸入的不同元素。

  • loss (torch.FloatTensor,形狀為 (1,), 可選, 當 return_lossTrue 時返回) — 影像-文字相似度的對比損失。
  • logits_per_image (torch.FloatTensor, 形狀為 (image_batch_size, text_batch_size)) — `image_embeds`和`text_embeds`之間的縮放點積分數。這表示影像-文字相似度分數。
  • logits_per_text (torch.FloatTensor, 形狀為 (text_batch_size, image_batch_size)) — `text_embeds`和`image_embeds`之間的縮放點積分數。這表示文字-影像相似度分數。
  • text_embeds (torch.FloatTensor, 形狀為 (batch_size, output_dim) — 透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。
  • image_embeds (torch.FloatTensor, 形狀為 (batch_size, output_dim) — 透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。
  • text_model_output (<class '~modeling_outputs.BaseModelOutputWithPooling'>.text_model_output, 預設為 None) — BlipTextModel 的輸出。
  • vision_model_output (<class '~modeling_outputs.BaseModelOutputWithPooling'>.vision_model_output, 預設為 None) — BlipVisionModel 的輸出。

BlipModel 的前向傳播方法,覆蓋了 `__call__` 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(
...     text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="pt", padding=True
... )

>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
>>> probs = logits_per_image.softmax(dim=1)  # we can take the softmax to get the label probabilities

get_text_features

< >

( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None return_dict: typing.Optional[bool] = None ) text_features (torch.FloatTensor, 形狀為 (batch_size, output_dim)

引數

  • input_ids (torch.Tensor, 形狀為 (batch_size, sequence_length), 可選) — 詞彙表中輸入序列標記的索引。填充預設會被忽略。

    可以使用 AutoTokenizer 獲取索引。有關詳細資訊,請參閱 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是輸入 ID?

  • attention_mask (torch.Tensor, 形狀為 (batch_size, sequence_length), 可選) — 避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示 未被掩蓋 的標記,
    • 0 表示 被掩蓋 的標記。

    什麼是注意力掩碼?

  • position_ids (torch.Tensor, 形狀為 (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.n_positions - 1]

    什麼是位置 ID?

  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

返回

text_features (torch.FloatTensor, 形狀為 (batch_size, output_dim)

透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。

示例

>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="pt")
>>> text_features = model.get_text_features(**inputs)

get_image_features

< >

( pixel_values: typing.Optional[torch.FloatTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) image_features (torch.FloatTensor, 形狀為 (batch_size, output_dim)

引數

  • pixel_values (torch.FloatTensor, 形狀為 (batch_size, num_channels, image_size, image_size), 可選) — 與輸入影像對應的張量。畫素值可以使用 {image_processor_class} 獲取。有關詳細資訊,請參閱 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • interpolate_pos_encoding (bool, 預設為 False) — 是否對預訓練的位置編碼進行插值。

返回

image_features (torch.FloatTensor, 形狀為 (batch_size, output_dim)

透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipModel

>>> model = BlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(images=image, return_tensors="pt")

>>> image_features = model.get_image_features(**inputs)

BlipTextModel

class transformers.BlipTextModel

< >

( config add_pooling_layer = True )

該模型可以作為編碼器(僅具有自注意力)以及解碼器,在這種情況下,在自注意力層之間新增一個交叉注意力層,遵循 Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez 和 Illia Polosukhin 的《Attention is all you need》中描述的架構。引數和`is_decoder`設定為`True`;然後期望`encoder_hidden_states`作為前向傳播的輸入。

forward

< >

( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None head_mask: typing.Optional[torch.Tensor] = None inputs_embeds: typing.Optional[torch.Tensor] = None encoder_embeds: typing.Optional[torch.Tensor] = None encoder_hidden_states: typing.Optional[torch.Tensor] = None encoder_attention_mask: typing.Optional[torch.Tensor] = None past_key_values: typing.Optional[list[torch.FloatTensor]] = None use_cache: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None is_decoder: typing.Optional[bool] = False )

encoder_hidden_states (torch.FloatTensor, 可選): 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則在交叉注意力中使用。encoder_attention_mask (torch.FloatTensor, 可選): 避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇範圍為 [0, 1]

  • 1 表示 未被掩蓋 的標記,
  • 0 表示 被掩蓋 的標記。past_key_values (tuple(tuple(torch.FloatTensor)), 可選): 包含注意力塊的預計算鍵和值隱藏狀態。可用於加速解碼。如果使用`past_key_values`,使用者可以選擇只輸入最後`decoder_input_ids`(那些沒有將過去的鍵值狀態提供給此模型的)形狀為`(batch_size, 1)`,而不是所有形狀為`(batch_size, sequence_length)`的`decoder_input_ids`。use_cache (bool, 可選): 如果設定為`True`,則返回`past_key_values`的鍵值狀態,可用於加速解碼(參見`past_key_values`)。

BlipTextLMHeadModel

class transformers.BlipTextLMHeadModel

< >

( config )

forward

< >

( input_ids: typing.Optional[torch.Tensor] = None attention_mask: typing.Optional[torch.Tensor] = None position_ids: typing.Optional[torch.Tensor] = None head_mask: typing.Optional[torch.Tensor] = None inputs_embeds: typing.Optional[torch.Tensor] = None encoder_hidden_states: typing.Optional[torch.Tensor] = None encoder_attention_mask: typing.Optional[torch.Tensor] = None labels: typing.Optional[torch.Tensor] = None past_key_values: typing.Optional[list[torch.Tensor]] = None use_cache: typing.Optional[bool] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None return_logits: typing.Optional[bool] = False is_decoder: typing.Optional[bool] = True reduction: typing.Optional[str] = 'mean' )

encoder_hidden_states (torch.FloatTensor, 可選): 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則在交叉注意力中使用。encoder_attention_mask (torch.FloatTensor, 可選): 避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇範圍為 [0, 1]

  • 1 表示 未被掩蓋 的標記,
  • 0 表示被 遮蓋 的標記。labels (torch.LongTensor, 可選):用於計算從左到右語言建模損失(下一個詞預測)的標籤。索引應在 [-100, 0, ..., config.vocab_size] 之間(參見 input_ids 文件字串)。索引設定為 -100 的標記將被忽略(遮蓋),損失僅針對標籤為 [0, ..., config.vocab_size] 的標記計算。past_key_values (tuple(tuple(torch.FloatTensor)), 可選):包含注意力塊預先計算好的鍵和值隱藏狀態。可用於加速解碼。如果使用了 past_key_values,使用者可以選擇僅輸入形狀為 (batch_size, 1) 的最後一個 decoder_input_ids(那些沒有將過去的鍵值狀態提供給此模型的)而不是形狀為 (batch_size, sequence_length) 的所有 decoder_input_ids。use_cache (bool, 可選):如果設定為 True,將返回 past_key_values 鍵值狀態,可用於加速解碼(參見 past_key_values)。
  • forward

BlipVisionModel

class transformers.BlipVisionModel

< >

( config: BlipVisionConfig )

forward

< >

( pixel_values: typing.Optional[torch.FloatTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) transformers.modeling_outputs.BaseModelOutputWithPoolingtuple(torch.FloatTensor)

引數

  • pixel_values (形狀為 (batch_size, num_channels, image_size, image_size)torch.FloatTensor可選) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲得。有關詳細資訊,請參見 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • interpolate_pos_encoding (bool, 預設為 False) — 是否插值預訓練的位置編碼。

返回

transformers.modeling_outputs.BaseModelOutputWithPoolingtuple(torch.FloatTensor)

一個 transformers.modeling_outputs.BaseModelOutputWithPooling 或一個 torch.FloatTensor 元組(如果傳入 return_dict=Falseconfig.return_dict=False 時),包含根據配置 (BlipConfig) 和輸入的不同元素。

  • last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor) — 模型最後一層輸出的隱藏狀態序列。

  • pooler_output (形狀為 (batch_size, hidden_size)torch.FloatTensor) — 序列中第一個標記(分類標記)的最後一層隱藏狀態,經過用於輔助預訓練任務的層進一步處理。例如,對於 BERT 家族模型,這會返回經過線性層和 tanh 啟用函式處理後的分類標記。線性層權重在預訓練期間透過下一個句子預測(分類)目標進行訓練。

  • hidden_states (tuple(torch.FloatTensor), 可選,當傳入 output_hidden_states=Trueconfig.output_hidden_states=True 時返回) — 形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor 元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple(torch.FloatTensor), 可選,當傳入 output_attentions=Trueconfig.output_attentions=True 時返回) — 形狀為 (batch_size, num_heads, sequence_length, sequence_length)torch.FloatTensor 元組(每個層一個)。

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

BlipVisionModel 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

BlipForConditionalGeneration

class transformers.BlipForConditionalGeneration

< >

( config: BlipConfig )

引數

  • config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

用於影像字幕生成的 BLIP 模型。該模型由視覺編碼器和文字解碼器組成。可以選擇將 input_ids 傳遞給模型作為文字提示,使文字解碼器繼續該提示。否則,解碼器將從 [BOS] (序列開始) 標記開始生成文字。如果沒有提供文字輸入,解碼器將只從 [BOS] 標記開始。

此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。

此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。

forward

< >

( pixel_values: FloatTensor input_ids: typing.Optional[torch.LongTensor] = None attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None labels: typing.Optional[torch.LongTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutputtuple(torch.FloatTensor)

引數

  • pixel_values (形狀為 (batch_size, num_channels, image_size, image_size)torch.FloatTensor) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲得。有關詳細資訊,請參見 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • input_ids (形狀為 (batch_size, sequence_length)torch.LongTensor可選) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。

    索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是 input IDs?

  • attention_mask (形狀為 (batch_size, sequence_length)torch.LongTensor可選) — 掩碼,用於避免在填充標記索引上執行注意力。掩碼值在 [0, 1] 中選擇:

    • 1 表示 未被掩碼 的標記,
    • 0 表示 被掩碼 的標記。

    什麼是注意力掩碼?

  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的 hidden_states
  • labels (形狀為 (batch_size, sequence_length)torch.LongTensor可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間(參見 input_ids 文件字串)。索引設定為 -100 的標記將被忽略(掩碼),損失僅針對標籤在 [0, ..., config.vocab_size] 中的標記計算。
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • interpolate_pos_encoding (bool, 預設為 False) — 是否插值預訓練的位置編碼。

返回

transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutputtuple(torch.FloatTensor)

一個 transformers.models.blip.modeling_blip.BlipForConditionalGenerationModelOutput 或一個 torch.FloatTensor 元組(如果傳入 return_dict=Falseconfig.return_dict=False 時),包含根據配置 (BlipConfig) 和輸入的不同元素。

  • loss (torch.FloatTensor, 可選,當提供 labels 時返回,形狀為 (1,)torch.FloatTensor) — 來自文字解碼器的語言建模損失。

  • logits (形狀為 (batch_size, sequence_length, config.vocab_size)torch.FloatTensor, 可選) — 文字解碼器模型語言建模頭的預測分數。

  • image_embeds (形狀為 (batch_size, output_dim)torch.FloatTensor, 可選) — 在對輸入影像應用 Vision Transformer 模型後獲得的影像嵌入。

  • last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor, 可選,預設為 None) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple(torch.FloatTensor), 可選,當 output_hidden_states=True 被傳入時返回) — 形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor 元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple(torch.FloatTensor), 可選,當傳入 output_attentions=True 時返回) — 形狀為 (batch_size, num_heads, sequence_length, sequence_length)torch.FloatTensor 元組(每個層一個)。

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

BlipForConditionalGeneration 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForConditionalGeneration

>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = BlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"

>>> inputs = processor(images=image, text=text, return_tensors="pt")

>>> outputs = model(**inputs)

BlipForImageTextRetrieval

class transformers.BlipForImageTextRetrieval

< >

( config: BlipConfig )

引數

  • config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

帶視覺和文字投影器以及頂部分類頭的 BLIP 模型。該模型用於影像-文字檢索。給定影像和文字,模型返回文字與影像相關的機率。

此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。

此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。

forward

< >

( input_ids: LongTensor pixel_values: FloatTensor use_itm_head: typing.Optional[bool] = True attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

引數

  • input_ids (形狀為 (batch_size, sequence_length)torch.LongTensor) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。

    索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是 input IDs?

  • pixel_values (形狀為 (batch_size, num_channels, image_size, image_size)torch.FloatTensor) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲得。有關詳細資訊,請參見 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • use_itm_head (bool, 可選,預設為 True) — 是否使用影像-文字匹配頭。
  • attention_mask (形狀為 (batch_size, sequence_length)torch.LongTensor可選) — 掩碼,用於避免在填充標記索引上執行注意力。掩碼值在 [0, 1] 中選擇:

    • 1 表示 未被掩碼 的標記,
    • 0 表示 被掩碼 的標記。

    什麼是注意力掩碼?

  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關詳細資訊,請參閱返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關詳細資訊,請參閱返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • interpolate_pos_encoding (bool, 預設為 False) — 是否插值預訓練的位置編碼。

返回

transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

一個 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput 或一個 torch.FloatTensor 元組(如果傳入 return_dict=Falseconfig.return_dict=False 時),包含根據配置 (BlipConfig) 和輸入的不同元素。

  • loss (形狀為 (1,)torch.FloatTensor可選,當提供 labels 時返回) — 來自文字解碼器的語言建模損失。

  • image_embeds (形狀為 (batch_size, output_dim)torch.FloatTensor可選,當模型以 with_projection=True 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。

  • last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor, 可選,預設為 None) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple[torch.FloatTensor, ...], 可選,當傳入 output_hidden_states=Trueconfig.output_hidden_states=True 時返回) — 形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor 元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple[torch.FloatTensor, ...], 可選,當傳入 output_attentions=True 時返回) — 形狀為 (batch_size, num_heads, sequence_length, sequence_length)torch.FloatTensor 元組(每個層一個)。

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

BlipForImageTextRetrieval 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForImageTextRetrieval

>>> model = BlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"

>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model(**inputs)

BlipForQuestionAnswering

class transformers.BlipForQuestionAnswering

< >

( config: BlipConfig )

引數

  • config (BlipConfig) — 模型配置類,包含模型的所有引數。使用配置檔案初始化不載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

用於視覺問答的 BLIP 模型。該模型由視覺編碼器、文字編碼器和文字解碼器組成。視覺編碼器將對輸入影像進行編碼,文字編碼器將與影像編碼一起對輸入問題進行編碼,文字解碼器將輸出問題的答案。

此模型繼承自 PreTrainedModel。請查閱超類文件以瞭解庫為其所有模型實現的一般方法(例如下載或儲存、調整輸入嵌入大小、修剪頭等)。

此模型也是 PyTorch torch.nn.Module 子類。請將其作為常規 PyTorch 模組使用,並參閱 PyTorch 文件以瞭解所有與一般用法和行為相關的事項。

forward

< >

( input_ids: LongTensor pixel_values: FloatTensor decoder_input_ids: typing.Optional[torch.LongTensor] = None decoder_attention_mask: typing.Optional[torch.LongTensor] = None attention_mask: typing.Optional[torch.LongTensor] = None output_attentions: typing.Optional[bool] = None output_hidden_states: typing.Optional[bool] = None labels: typing.Optional[torch.LongTensor] = None return_dict: typing.Optional[bool] = None interpolate_pos_encoding: bool = False ) transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

引數

  • input_ids (形狀為 (batch_size, sequence_length)torch.LongTensor) — 詞彙表中輸入序列標記的索引。填充將預設被忽略。

    索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是 input IDs?

  • pixel_values (形狀為 (batch_size, num_channels, image_size, image_size)torch.FloatTensor) — 對應於輸入影像的張量。畫素值可以使用 {image_processor_class} 獲得。有關詳細資訊,請參見 {image_processor_class}.__call__{processor_class} 使用 {image_processor_class} 處理影像)。
  • decoder_input_ids (形狀為 (batch_size, target_sequence_length)torch.LongTensor可選) — 詞彙表中解碼器輸入序列標記的索引。

    索引可以使用 AutoTokenizer 獲取。有關詳細資訊,請參見 PreTrainedTokenizer.encode()PreTrainedTokenizer.call()

    什麼是解碼器 input ID?

  • decoder_attention_mask (形狀為 (batch_size, target_sequence_length)torch.LongTensor可選) — 掩碼,用於避免在某些標記索引上執行注意力。預設情況下,將使用因果掩碼,以確保模型只能檢視先前的輸入以預測未來。
  • attention_mask (torch.LongTensor,形狀為 (batch_size, sequence_length)可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示**未被掩碼**的標記,
    • 0 表示**被掩碼**的標記。

    什麼是注意力掩碼?

  • output_attentions (bool可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions
  • output_hidden_states (bool可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states
  • labels (torch.LongTensor,形狀為 (batch_size, sequence_length)可選) — 用於計算掩碼語言建模損失的標籤。索引應在 [0, ..., config.vocab_size] 或 -100 之間(請參閱 input_ids 文件字串)。索引設定為 -100 的標記將被忽略(掩碼),損失僅針對標籤在 [0, ..., config.vocab_size] 範圍內的標記計算。
  • return_dict (bool可選) — 是否返回 ModelOutput 物件而不是普通元組。
  • interpolate_pos_encoding (bool,預設為 False) — 是否插值預訓練的位置編碼。

返回

transformers.models.blip.modeling_blip.BlipTextVisionModelOutputtuple(torch.FloatTensor)

一個 transformers.models.blip.modeling_blip.BlipTextVisionModelOutput 或一個 torch.FloatTensor 元組(如果傳入 return_dict=Falseconfig.return_dict=False 時),包含根據配置 (BlipConfig) 和輸入的不同元素。

  • loss (形狀為 (1,)torch.FloatTensor可選,當提供 labels 時返回) — 來自文字解碼器的語言建模損失。

  • image_embeds (形狀為 (batch_size, output_dim)torch.FloatTensor可選,當模型以 with_projection=True 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。

  • last_hidden_state (形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor, 可選,預設為 None) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple[torch.FloatTensor, ...], 可選,當傳入 output_hidden_states=Trueconfig.output_hidden_states=True 時返回) — 形狀為 (batch_size, sequence_length, hidden_size)torch.FloatTensor 元組(如果模型有嵌入層,則為嵌入層輸出 + 每個層的輸出)。

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple[torch.FloatTensor, ...], 可選,當傳入 output_attentions=True 時返回) — 形狀為 (batch_size, num_heads, sequence_length, sequence_length)torch.FloatTensor 元組(每個層一個)。

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

BlipForQuestionAnswering 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, BlipForQuestionAnswering

>>> model = BlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> labels = processor(text=label, return_tensors="pt").input_ids

>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss
>>> loss.backward()

>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="pt")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
TensorFlow
隱藏 TensorFlow 內容

TFBlipModel

class transformers.TFBlipModel

< >

( config: BlipConfig *inputs **kwargs )

呼叫

< >

( input_ids: tf.Tensor | None = None pixel_values: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_loss: Optional[bool] = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipOutputtuple(tf.Tensor)

引數

  • input_ids (tf.Tensor,形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。

    索引可以使用 AutoProcessor 獲取。詳細資訊請參閱 BlipProcessor.__call__()

    什麼是輸入 ID?

  • attention_mask (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示**未被掩碼**的標記,
    • 0 表示**被掩碼**的標記。

    什麼是注意力掩碼?

  • position_ids (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.max_position_embeddings - 1]

    什麼是位置 ID?

  • pixel_values (tf.Tensor,形狀為 (batch_size, num_channels, height, width)) — 畫素值。如果提供填充,預設情況下將忽略它。畫素值可以使用 BlipImageProcessor 獲取。詳細資訊請參閱 BlipImageProcessor.call()
  • return_loss (bool可選) — 是否返回對比損失。
  • output_attentions (bool可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions
  • output_hidden_states (bool可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states
  • return_dict (bool可選) — 是否返回 ModelOutput 物件而不是普通元組。

返回

transformers.models.blip.modeling_tf_blip.TFBlipOutputtuple(tf.Tensor)

一個 transformers.models.blip.modeling_tf_blip.TFBlipOutput 物件或一個 tf.Tensor 元組(如果 return_dict=Falseconfig.return_dict=False),包含根據配置(<class 'transformers.models.blip.configuration_blip.BlipConfig'>)和輸入的不同元素。

  • loss (tf.Tensor,形狀為 (1,)可選,當 return_lossTrue 時返回) — 影像-文字相似度的對比損失。
  • logits_per_image:(tf.Tensor,形狀為 (image_batch_size, text_batch_size)) — image_embedstext_embeds 之間的縮放點積分數。這表示影像-文字相似度分數。
  • logits_per_text:(tf.Tensor,形狀為 (text_batch_size, image_batch_size)) — text_embedsimage_embeds 之間的縮放點積分數。這表示文字-影像相似度分數。
  • text_embeds(tf.Tensor,形狀為 (batch_size, output_dim) — 透過對 BlipTextModel 的池化輸出應用投影層獲得的文字嵌入。
  • image_embeds(tf.Tensor,形狀為 (batch_size, output_dim) — 透過對 BlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。
  • text_model_output(BaseModelOutputWithPooling): BlipTextModel 的輸出。
  • vision_model_output(BaseModelOutputWithPooling): BlipVisionModel 的輸出。

TFBlipModel 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(
...     text=["a photo of a cat", "a photo of a dog"], images=image, return_tensors="tf", padding=True
... )

>>> outputs = model(**inputs)
>>> logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
>>> probs = tf.nn.softmax(logits_per_image, axis=1)  # we can take the softmax to get the label probabilities

get_text_features

< >

( input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None return_dict: Optional[bool] = None ) text_features (tf.Tensor,形狀為 (batch_size, output_dim)

引數

  • input_ids (tf.Tensor,形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。

    索引可以使用 AutoProcessor 獲取。詳細資訊請參閱 BlipProcessor.__call__()

    什麼是輸入 ID?

  • attention_mask (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示**未被掩碼**的標記,
    • 0 表示**被掩碼**的標記。

    什麼是注意力掩碼?

  • position_ids (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.max_position_embeddings - 1]

    什麼是位置 ID?

  • output_attentions (bool可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions
  • output_hidden_states (bool可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states
  • return_dict (bool可選) — 是否返回 ModelOutput 物件而不是普通元組。

返回

text_features (tf.Tensor,形狀為 (batch_size, output_dim)

透過對 TFBlipTextModel 的池化輸出應用投影層獲得的文字嵌入。

TFBlipModel 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> inputs = processor(text=["a photo of a cat", "a photo of a dog"], padding=True, return_tensors="tf")
>>> text_features = model.get_text_features(**inputs)

get_image_features

< >

( pixel_values: tf.Tensor | None = None return_dict: Optional[bool] = None ) image_features (tf.Tensor,形狀為 (batch_size, output_dim)

引數

  • pixel_values (tf.Tensor,形狀為 (batch_size, num_channels, height, width)) — 畫素值。如果提供填充,預設情況下將忽略它。畫素值可以使用 BlipImageProcessor 獲取。詳細資訊請參閱 BlipImageProcessor.call()
  • output_attentions (bool可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions
  • output_hidden_states (bool可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states
  • return_dict (bool可選) — 是否返回 ModelOutput 物件而不是普通元組。

返回

image_features (tf.Tensor,形狀為 (batch_size, output_dim)

透過對 TFBlipVisionModel 的池化輸出應用投影層獲得的影像嵌入。

TFBlipModel 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipModel

>>> model = TFBlipModel.from_pretrained("Salesforce/blip-image-captioning-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> inputs = processor(images=image, return_tensors="tf")

>>> image_features = model.get_image_features(**inputs)

TFBlipTextModel

class transformers.TFBlipTextModel

< >

( config add_pooling_layer = True name = None **kwargs )

該模型可以作為編碼器(僅具有自注意力)以及解碼器,在這種情況下,在自注意力層之間新增一個交叉注意力層,遵循 Ashish Vaswani、Noam Shazeer、Niki Parmar、Jakob Uszkoreit、Llion Jones、Aidan N. Gomez 和 Illia Polosukhin 的《Attention is all you need》中描述的架構。引數和`is_decoder`設定為`True`;然後期望`encoder_hidden_states`作為前向傳播的輸入。

呼叫

< >

( input_ids: TFModelInputType | None = None attention_mask: tf.Tensor | None = None position_ids: tf.Tensor | None = None head_mask: tf.Tensor | None = None inputs_embeds: tf.Tensor | None = None encoder_embeds: tf.Tensor | None = None encoder_hidden_states: tf.Tensor | None = None encoder_attention_mask: tf.Tensor | None = None past_key_values: tuple[tuple[tf.Tensor]] | None = None use_cache: bool | None = None output_attentions: bool | None = None output_hidden_states: bool | None = None return_dict: bool | None = None is_decoder: bool = False training: bool = False )

引數

  • input_ids (tf.Tensor,形狀為 (batch_size, sequence_length)) — 詞彙表中輸入序列標記的索引。如果提供填充,預設情況下將忽略它。

    索引可以使用 AutoProcessor 獲取。詳細資訊請參閱 BlipProcessor.__call__()

    什麼是輸入 ID?

  • attention_mask (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 用於避免對填充標記索引執行注意力操作的掩碼。掩碼值選擇範圍為 [0, 1]

    • 1 表示**未被掩碼**的標記,
    • 0 表示**被掩碼**的標記。

    什麼是注意力掩碼?

  • position_ids (tf.Tensor,形狀為 (batch_size, sequence_length)可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.max_position_embeddings - 1]

    什麼是位置 ID?

  • output_attentions (bool可選) — 是否返回所有注意力層的注意力張量。更多詳細資訊請參閱返回張量下的 attentions
  • output_hidden_states (bool可選) — 是否返回所有層的隱藏狀態。更多詳細資訊請參閱返回張量下的 hidden_states
  • return_dict (bool可選) — 是否返回 ModelOutput 物件而不是普通元組。
  • encoder_hidden_states (tf.Tensor可選) — 編碼器最後一層輸出的隱藏狀態序列。如果模型配置為解碼器,則用於交叉注意力。
  • encoder_attention_mask (tf.Tensor可選) — 用於避免對編碼器輸入中的填充標記索引執行注意力操作的掩碼。如果模型配置為解碼器,則此掩碼用於交叉注意力。掩碼值選擇範圍為 [0, 1]

    • 1 表示**未被掩碼**的標記,
    • 0 表示**被掩碼**的標記。
  • past_key_values (tuple(tuple(tf.Tensor))可選) — 包含注意力塊的預計算鍵值隱藏狀態。可用於加速解碼。如果使用 past_key_values,使用者可以選擇只輸入形狀為 (batch_size, 1) 的最後一個 decoder_input_ids(那些未向模型提供其過去的鍵值狀態的 ID),而不是形狀為 (batch_size, sequence_length) 的所有 decoder_input_ids
  • use_cache (bool可選) — 如果設定為 True,將返回 past_key_values 鍵值狀態,可用於加速解碼(請參閱 past_key_values)。

TFBlipTextModel 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

TFBlipTextLMHeadModel

class transformers.TFBlipTextLMHeadModel

< >

( config **kwargs )

呼叫

< >

( input_ids = None attention_mask = None position_ids = None head_mask = None inputs_embeds = None encoder_hidden_states = None encoder_attention_mask = None labels = None past_key_values = None use_cache = None output_attentions = None output_hidden_states = None return_dict = None return_logits = False is_decoder = True training = None )

引數

  • input_ids (tf.Tensor of shape (batch_size, sequence_length)) — 輸入序列標記在詞彙表中的索引。如果提供填充,將預設忽略。

    索引可以使用 AutoProcessor 獲得。詳情請參閱 BlipProcessor.__call__()

    什麼是輸入 ID?

  • attention_mask (tf.Tensor of shape (batch_size, sequence_length), 可選) — 掩碼,用於避免對填充標記索引執行注意力操作。掩碼值選擇在 [0, 1] 之間:

    • 1 表示未被掩碼的標記,
    • 0 表示被掩碼的標記。

    什麼是注意力掩碼?

  • position_ids (tf.Tensor of shape (batch_size, sequence_length), 可選) — 每個輸入序列標記在位置嵌入中的位置索引。選擇範圍為 [0, config.max_position_embeddings - 1]

    什麼是位置 ID?

  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。
  • encoder_hidden_states (tf.Tensor, 可選) — 編碼器最後一層輸出的隱藏狀態序列。如果模型被配置為解碼器,則在交叉注意力中使用。
  • encoder_attention_mask (tf.Tensor, 可選) — 掩碼,用於避免對編碼器輸入的填充標記索引執行注意力操作。如果模型被配置為解碼器,則在交叉注意力中使用此掩碼。掩碼值選擇在 [0, 1] 之間:

    • 1 表示未被掩碼的標記,
    • 0 表示被掩碼的標記。
  • labels (tf.Tensor, 可選) — 用於計算從左到右語言建模損失(下一個詞預測)的標籤。索引應在 [-100, 0, ..., config.vocab_size] 之間(參見 input_ids 文件字串)。索引設定為 -100 的標記將被忽略(掩碼),損失僅針對標籤為 [0, ..., config.vocab_size] 的標記計算。
  • past_key_values (tuple(tuple(tf.Tensor)), 可選) — 包含注意力塊預計算的鍵和值隱藏狀態。可用於加速解碼。如果使用 past_key_values,使用者可以選擇只輸入最後一個 decoder_input_ids(未向此模型提供過去鍵值狀態的那些)形狀為 (batch_size, 1),而不是所有 decoder_input_ids 形狀為 (batch_size, sequence_length)
  • use_cache (bool, 可選) — 如果設定為 True,將返回 past_key_values 鍵值狀態,可用於加速解碼(參見 past_key_values)。

TFBlipTextLMHeadModel 的 forward 方法,重寫了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

  • forward

TFBlipVisionModel

class transformers.TFBlipVisionModel

< >

( config: BlipVisionConfig *args **kwargs )

呼叫

< >

( pixel_values: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingtuple(tf.Tensor)

引數

  • pixel_values (tf.Tensor of shape (batch_size, num_channels, height, width)) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

返回

transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingtuple(tf.Tensor)

一個 transformers.modeling_tf_outputs.TFBaseModelOutputWithPoolingtf.Tensor 的元組(如果傳入 return_dict=False 或當 config.return_dict=False 時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和輸入而變化的各種元素。

  • last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  • pooler_output (tf.Tensor of shape (batch_size, hidden_size)) — 序列中第一個標記(分類標記)的最後一層隱藏狀態,經過線性層和 Tanh 啟用函式進一步處理。線性層權重在預訓練期間透過下一句預測(分類)目標進行訓練。

    此輸出通常不是輸入語義內容的良好摘要,通常最好對整個輸入序列的隱藏狀態進行平均或池化。

  • hidden_states (tuple(tf.Tensor), 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — tf.Tensor 的元組(一個用於嵌入層的輸出 + 每個層的輸出)形狀為 (batch_size, sequence_length, hidden_size)

    模型在每個層輸出的隱藏狀態加上初始嵌入輸出。

  • attentions (tuple(tf.Tensor), 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — tf.Tensor 的元組(每個層一個)形狀為 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

TFBlipVisionModel 的 forward 方法,重寫了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

TFBlipForConditionalGeneration

class transformers.TFBlipForConditionalGeneration

< >

( config: BlipConfig *args **kwargs )

引數

  • config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

用於影像字幕生成的 BLIP 模型。該模型由視覺編碼器和文字解碼器組成。可以選擇將 input_ids 傳遞給模型作為文字提示,使文字解碼器繼續該提示。否則,解碼器將從 [BOS] (序列開始) 標記開始生成文字。如果沒有提供文字輸入,解碼器將只從 [BOS] 標記開始。

此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。

此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。

呼叫

< >

( pixel_values: tf.Tensor input_ids: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutputtuple(tf.Tensor)

引數

  • pixel_values (tf.Tensor of shape (batch_size, num_channels, height, width)) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

返回

transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutputtuple(tf.Tensor)

一個 transformers.models.blip.modeling_tf_blip.TFBlipForConditionalGenerationModelOutputtf.Tensor 的元組(如果傳入 return_dict=False 或當 config.return_dict=False 時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipConfig'>) 和輸入而變化的各種元素。

  • loss (tf.Tensor, 可選, 當提供 labels 時返回, tf.Tensor of shape (1,)) — 來自文字解碼器的語言建模損失。

  • logits (tf.Tensor of shape (batch_size, sequence_length, config.vocab_size), 可選) — 文字解碼器模型語言建模頭部的預測分數。

  • image_embeds (tf.Tensor of shape (batch_size, output_dim), 可選) — 應用視覺 Transformer 模型到輸入影像後獲得的影像嵌入。

  • last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size), 可選) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple(tf.Tensor), 可選, 當傳入 output_hidden_states=True 時返回) — tf.Tensor 的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為 (batch_size, sequence_length, hidden_size)

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple(tf.Tensor), 可選, 當傳入 output_attentions=True 時返回) — tf.Tensor 的元組(每個層一個)形狀為 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

TFBlipForConditionalGeneration 的 forward 方法,重寫了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForConditionalGeneration

>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-image-captioning-base")
>>> model = TFBlipForConditionalGeneration.from_pretrained("Salesforce/blip-image-captioning-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "A picture of"

>>> inputs = processor(images=image, text=text, return_tensors="tf")

>>> outputs = model(**inputs)

TFBlipForImageTextRetrieval

class transformers.TFBlipForImageTextRetrieval

< >

( config: BlipConfig *args **kwargs )

引數

  • config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

帶視覺和文字投影器以及頂部分類頭的 BLIP 模型。該模型用於影像-文字檢索。給定影像和文字,模型返回文字與影像相關的機率。

此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。

此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。

呼叫

< >

( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None use_itm_head: Optional[bool] = True attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutputtuple(tf.Tensor)

引數

  • pixel_values (tf.Tensor of shape (batch_size, num_channels, height, width)) — 畫素值。如果提供填充,將預設忽略。畫素值可以使用 BlipImageProcessor 獲取。詳情請參閱 BlipImageProcessor.call()
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。更多詳情請參見返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。更多詳情請參見返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是普通元組。

返回

transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutputtuple(tf.Tensor)

一個 transformers.models.blip.modeling_tf_blip.TFBlipImageTextMatchingModelOutputtf.Tensor 的元組(如果傳入 return_dict=False 或當 config.return_dict=False 時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和輸入而變化的各種元素。

  • itm_score (tf.Tensor) — 影像-文字相似度得分。

  • loss (tf.Tensor of shape (1,), 可選, 當提供 labels 時返回) — 來自文字解碼器的語言建模損失。

  • image_embeds (tf.Tensor of shape (batch_size, output_dim) 可選 當模型使用 with_projection=True 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。

  • last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple(tf.Tensor), 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — tf.Tensor 的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為 (batch_size, sequence_length, hidden_size)

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • vision_pooler_output (tf.Tensor of shape (batch_size, hidden_size), 可選) — 模型視覺分支中最後一層的隱藏狀態。

  • attentions (tuple(tf.Tensor), 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — tf.Tensor 的元組(每個層一個)形狀為 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

  • question_embeds (tf.Tensor) — 透過文字投影層獲得的問句嵌入。

TFBlipForImageTextRetrieval 的 forward 方法,重寫了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForImageTextRetrieval

>>> model = TFBlipForImageTextRetrieval.from_pretrained("Salesforce/blip-itm-base-coco")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-itm-base-coco")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)
>>> text = "an image of a cat"

>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model(**inputs)

TFBlipForQuestionAnswering

class transformers.TFBlipForQuestionAnswering

< >

( config: BlipConfig *args **kwargs )

引數

  • config (BlipConfig) — 包含模型所有引數的模型配置類。使用配置檔案初始化不會載入與模型關聯的權重,只加載配置。請檢視 from_pretrained() 方法載入模型權重。

用於視覺問答的 BLIP 模型。該模型由視覺編碼器、文字編碼器和文字解碼器組成。視覺編碼器將對輸入影像進行編碼,文字編碼器將與影像編碼一起對輸入問題進行編碼,文字解碼器將輸出問題的答案。

此模型繼承自 TFPreTrainedModel。請檢視超類文件,瞭解庫為其所有模型實現的通用方法(例如下載或儲存、調整輸入嵌入大小、修剪頭部等)。

此模型也是 keras.Model 子類。將其作為常規 TF 2.0 Keras 模型使用,並參考 TF 2.0 文件瞭解所有與通用用法和行為相關的事項。

呼叫

< >

( input_ids: tf.Tensor pixel_values: tf.Tensor | None = None decoder_input_ids: tf.Tensor | None = None decoder_attention_mask: tf.Tensor | None = None attention_mask: tf.Tensor | None = None output_attentions: Optional[bool] = None output_hidden_states: Optional[bool] = None labels: tf.Tensor | None = None return_dict: Optional[bool] = None training: Optional[bool] = None ) transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutputtuple(tf.Tensor)

引數

  • pixel_values (形狀為 (batch_size, num_channels, height, width)tf.Tensor) — 畫素值。如果提供填充,預設情況下將被忽略。畫素值可以使用 BlipImageProcessor 獲取。有關詳細資訊,請參閱 BlipImageProcessor.call()
  • output_attentions (bool, 可選) — 是否返回所有注意力層的注意力張量。有關更多詳細資訊,請參閱返回張量下的 attentions
  • output_hidden_states (bool, 可選) — 是否返回所有層的隱藏狀態。有關更多詳細資訊,請參閱返回張量下的 hidden_states
  • return_dict (bool, 可選) — 是否返回 ModelOutput 而不是純元組。

返回

transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutputtuple(tf.Tensor)

一個 transformers.models.blip.modeling_tf_blip.TFBlipTextVisionModelOutput 或一個 tf.Tensor 元組(如果傳遞 return_dict=False 或當 config.return_dict=False 時),包含根據配置 (<class 'transformers.models.blip.configuration_blip.BlipVisionConfig'>) 和輸入而定的各種元素。

  • loss (tf.Tensor of shape (1,), 可選, 當提供 labels 時返回) — 來自文字解碼器的語言建模損失。

  • image_embeds (tf.Tensor of shape (batch_size, output_dim) 可選 當模型使用 with_projection=True 初始化時返回) — 透過將投影層應用於 pooler_output 獲得的影像嵌入。

  • last_hidden_state (tf.Tensor of shape (batch_size, sequence_length, hidden_size)) — 模型最後一層輸出的隱藏狀態序列。

  • hidden_states (tuple(tf.Tensor), 可選, 當傳入 output_hidden_states=True 或當 config.output_hidden_states=True 時返回) — tf.Tensor 的元組(一個用於嵌入層的輸出,如果模型有嵌入層,+ 每個層的輸出)形狀為 (batch_size, sequence_length, hidden_size)

    模型在每個層輸出的隱藏狀態以及可選的初始嵌入輸出。

  • attentions (tuple(tf.Tensor), 可選, 當傳入 output_attentions=True 或當 config.output_attentions=True 時返回) — tf.Tensor 的元組(每個層一個)形狀為 (batch_size, num_heads, sequence_length, sequence_length)

    注意力 softmax 後的注意力權重,用於計算自注意力頭中的加權平均值。

TFBlipForQuestionAnswering 的 forward 方法,覆蓋了 __call__ 特殊方法。

儘管前向傳播的實現需要在該函式中定義,但隨後應該呼叫`Module`例項而不是此函式,因為前者負責執行預處理和後處理步驟,而後者會默默地忽略它們。

示例

>>> from PIL import Image
>>> import requests
>>> from transformers import AutoProcessor, TFBlipForQuestionAnswering

>>> model = TFBlipForQuestionAnswering.from_pretrained("Salesforce/blip-vqa-base")
>>> processor = AutoProcessor.from_pretrained("Salesforce/blip-vqa-base")

>>> url = "http://images.cocodataset.org/val2017/000000039769.jpg"
>>> image = Image.open(requests.get(url, stream=True).raw)

>>> # training
>>> text = "How many cats are in the picture?"
>>> label = "2"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> labels = processor(text=label, return_tensors="tf").input_ids

>>> inputs["labels"] = labels
>>> outputs = model(**inputs)
>>> loss = outputs.loss

>>> # inference
>>> text = "How many cats are in the picture?"
>>> inputs = processor(images=image, text=text, return_tensors="tf")
>>> outputs = model.generate(**inputs)
>>> print(processor.decode(outputs[0], skip_special_tokens=True))
2
< > 在 GitHub 上更新

© . This site is unofficial and not affiliated with Hugging Face, Inc.