配置

PeftConfigMixin 是用於儲存 PeftModel 介面卡配置的基礎配置類，而 PromptLearningConfig 是用於軟提示方法（p-tuning、prefix tuning 和 prompt tuning）的基礎配置類。這些基礎類包含從 Hub 儲存和載入模型配置、指定要使用的 PEFT 方法、要執行的任務型別以及模型配置（如層數和注意力頭數）的方法。

PeftConfigMixin

class peft.config.PeftConfigMixin

< 原始碼 >

( task_type: typing.Optional[peft.utils.peft_types.TaskType] = None peft_type: typing.Optional[peft.utils.peft_types.PeftType] = None auto_mapping: typing.Optional[dict] = None )

引數

peft_type (Union[~peft.utils.config.PeftType, str]) — 要使用的 Peft 方法型別。

這是 PEFT 介面卡模型的基礎配置類。它包含了所有 PEFT 介面卡模型通用的方法。該類繼承自 PushToHubMixin，其中包含將模型推送到 Hub 的方法。save_pretrained 方法會將介面卡模型的配置儲存在一個目錄中。from_pretrained 方法會從一個目錄載入介面卡模型的配置。

check_kwargs

< 原始碼 >

( **kwargs )

在初始化配置例項前檢查 kwargs。

子類可以重寫此方法以新增特定的檢查。

from_json_file

< 原始碼 >

( path_json_file: str **kwargs )

引數

path_json_file (str) — json 檔案的路徑。

從 json 檔案載入配置檔案。

from_peft_type

< 原始碼 >

( **kwargs )

引數

kwargs (配置關鍵字引數) — 傳遞給配置初始化的關鍵字引數。

此方法從一組 kwargs 載入介面卡模型的配置。

適當的配置型別由 peft_type 引數確定。如果未提供 peft_type，則例項化呼叫類的型別。

from_pretrained

< 原始碼 >

( pretrained_model_name_or_path: str subfolder: typing.Optional[str] = None **kwargs )

引數

pretrained_model_name_or_path (str) — 配置儲存的目錄或 Hub 儲存庫 ID。
kwargs (附加關鍵字引數, 可選) — 傳遞給子類初始化的附加關鍵字引數。

此方法從目錄載入介面卡模型的配置。

save_pretrained

< 原始碼 >

( save_directory: str **kwargs )

引數

save_directory (str) — 配置將被儲存的目錄。
kwargs (附加關鍵字引數, 可選) — 傳遞給 push_to_hub 方法的附加關鍵字引數。

此方法將介面卡模型的配置儲存在一個目錄中。

to_dict

< 原始碼 >

( )

以字典形式返回介面卡模型的配置。

PeftConfig

class peft.PeftConfig

< 原始碼 >

引數

peft_type (Union[~peft.utils.config.PeftType, str]) — 要使用的 Peft 方法型別。
task_type (Union[~peft.utils.config.TaskType, str]) — 要執行的任務型別。
inference_mode (bool, 預設為 False) — 是否在推理模式下使用 Peft 模型。

這是用於儲存 PeftModel 配置的基礎配置類。

PromptLearningConfig

class peft.PromptLearningConfig

< 原始碼 >

( task_type: typing.Union[str, peft.utils.peft_types.TaskType, NoneType] = None peft_type: typing.Union[str, peft.utils.peft_types.PeftType, NoneType] = None auto_mapping: typing.Optional[dict] = None base_model_name_or_path: typing.Optional[str] = None revision: typing.Optional[str] = None inference_mode: bool = False num_virtual_tokens: int = None token_dim: int = None num_transformer_submodules: typing.Optional[int] = None num_attention_heads: typing.Optional[int] = None num_layers: typing.Optional[int] = None modules_to_save: typing.Optional[list[str]] = None )

引數

num_virtual_tokens (int) — 要使用的虛擬詞元數。
token_dim (int) — 基礎 Transformer 模型的隱藏嵌入維度。
num_transformer_submodules (int) — 基礎 Transformer 模型中的 Transformer 子模組數量。
num_attention_heads (int) — 基礎 Transformer 模型中的注意力頭數。
num_layers (int) — 基礎 Transformer 模型中的層數。

這是用於儲存 PrefixTuning、PromptEncoder 或 PromptTuning 配置的基礎配置類。

< > 在 GitHub 上更新