噪聲學生 (EfficientNet)

噪聲學生訓練是一種半監督學習方法。它透過使用同等或更大規模的學生模型，並在學習過程中向學生新增噪聲，擴充套件了自訓練和蒸餾的思想。它包含三個主要步驟：

在標註影像上訓練教師模型
使用教師模型對未標註影像生成偽標籤
在標註影像和偽標註影像的組合上訓練學生模型。

該演算法透過將學生視為教師來重新標記未標註資料並訓練新學生，從而迭代數次。

噪聲學生訓練旨在透過兩種方式改進自訓練和蒸餾。首先，它使學生模型比教師模型更大或至少相等，以便學生可以更好地從更大的資料集中學習。其次，它向學生新增噪聲，迫使加噪學生從偽標籤中更努力地學習。為了對學生進行加噪，它在訓練過程中使用輸入噪聲（如RandAugment資料增強）和模型噪聲（如dropout和隨機深度）。

如何在影像上使用此模型？

載入預訓練模型

>>> import timm
>>> model = timm.create_model('tf_efficientnet_b0_ns', pretrained=True)
>>> model.eval()

載入並預處理影像

>>> import urllib
>>> from PIL import Image
>>> from timm.data import resolve_data_config
>>> from timm.data.transforms_factory import create_transform

>>> config = resolve_data_config({}, model=model)
>>> transform = create_transform(**config)

>>> url, filename = ("https://github.com/pytorch/hub/raw/master/images/dog.jpg", "dog.jpg")
>>> urllib.request.urlretrieve(url, filename)
>>> img = Image.open(filename).convert('RGB')
>>> tensor = transform(img).unsqueeze(0) # transform and add batch dimension

獲取模型預測結果

>>> import torch
>>> with torch.inference_mode():
...     out = model(tensor)
>>> probabilities = torch.nn.functional.softmax(out[0], dim=0)
>>> print(probabilities.shape)
>>> # prints: torch.Size([1000])

獲取排名前 5 的預測類別名稱

>>> # Get imagenet class mappings
>>> url, filename = ("https://raw.githubusercontent.com/pytorch/hub/master/imagenet_classes.txt", "imagenet_classes.txt")
>>> urllib.request.urlretrieve(url, filename) 
>>> with open("imagenet_classes.txt", "r") as f:
...     categories = [s.strip() for s in f.readlines()]

>>> # Print top categories per image
>>> top5_prob, top5_catid = torch.topk(probabilities, 5)
>>> for i in range(top5_prob.size(0)):
...     print(categories[top5_catid[i]], top5_prob[i].item())
>>> # prints class names and probabilities like:
>>> # [('Samoyed', 0.6425196528434753), ('Pomeranian', 0.04062102362513542), ('keeshond', 0.03186424449086189), ('white wolf', 0.01739676296710968), ('Eskimo dog', 0.011717947199940681)]

將模型名稱替換為您要使用的變體，例如 tf_efficientnet_b0_ns。您可以在本頁頂部的模型摘要中找到 ID。

要使用此模型提取影像特徵，請遵循 timm 特徵提取示例，只需更改你想使用的模型名稱。

如何微調此模型？

你可以透過更改分類器（最後一層）來微調任何預訓練模型。

>>> model = timm.create_model('tf_efficientnet_b0_ns', pretrained=True, num_classes=NUM_FINETUNE_CLASSES)

要在自己的資料集上進行微調，你需要編寫一個訓練迴圈或修改 timm 的訓練指令碼以使用你的資料集。

如何訓練此模型？

你可以按照 timm 食譜指令碼來重新訓練一個新模型。

引用

@misc{xie2020selftraining,
      title={Self-training with Noisy Student improves ImageNet classification}, 
      author={Qizhe Xie and Minh-Thang Luong and Eduard Hovy and Quoc V. Le},
      year={2020},
      eprint={1911.04252},
      archivePrefix={arXiv},
      primaryClass={cs.LG}
}

< > 在 GitHub 上更新