Hugging Face 與 Protect AI 合作：為社群增強模型安全性

我們很高興地宣佈與 Protect AI 建立合作伙伴關係，這是我們為機器學習社群提供安全可靠平臺的長期承諾的一部分。

Protect AI 是一家以建立更安全的 AI 驅動世界為使命而成立的公司。他們正在開發強大的工具，即 Guardian，以確保 AI 創新的快速發展不會損害安全性。

我們決定與 Protect AI 合作，是因為他們以社群驅動的安全方法、對開源的積極支援以及在安全與 AI 交叉領域的所有專業知識。

有興趣加入我們的安全合作伙伴關係/在 Hub 上提供掃描資訊？請透過 security@huggingface.co 聯絡我們。

模型安全回顧

為了共享模型，我們將權重、配置和其他用於與模型互動的資料結構序列化，以方便儲存和傳輸。某些序列化格式容易受到惡意攻擊，例如任意程式碼執行（例如 pickle），這使得使用這些格式的共享模型具有潛在危險。

由於 Hugging Face 已成為模型共享的流行平臺，我們希望幫助社群免受此類攻擊，因此我們開發了諸如 picklescan 等工具，並正在將 Guardian 整合到我們的掃描器套件中。

Pickle 並不是唯一可利用的格式，請參閱此處，瞭解如何利用 Keras Lambda 層實現任意程式碼執行。好訊息是 Guardian 可以捕獲所有這些漏洞以及更多其他檔案格式的漏洞——請參閱他們的知識庫以獲取最新的掃描器資訊。

在此處閱讀我們所有關於安全的文件：https://huggingface.co/docs/hub/security 🔥

整合

在將 Guardian 作為第三方掃描器整合時，我們藉此機會改造了前端以顯示掃描結果。現在它看起來是這樣的：

如您所見，當發生 pickle 匯入掃描時，會顯示一個額外的 Pickle 按鈕

從截圖中可以看出，您無需執行任何操作即可從中受益！所有公共模型倉庫都會在您將檔案推送到 Hub 後自動由 Guardian 掃描。這是一個您可以檢視以瞭解此功能實際執行的示例倉庫：mcpotato/42-eicar-street。

請注意，由於我們有超過 100 萬個模型倉庫，您今天可能看不到您的模型的掃描結果。我們可能需要一些時間才能趕上 😅。

我們總共已經掃描了數億個檔案，因為我們相信，賦能社群以安全、無摩擦的方式共享模型將促進整個領域的發展。