Hugging Face 和 JFrog 合作使 AI 安全更加透明

我們很高興地宣佈，我們與 JFrog 軟體供應鏈平臺的建立者 JFrog 達成合作。這是我們為機器學習社群提供一個安全可靠的平臺所做的長期承諾的一部分。

我們決定將 JFrog 的掃描器新增到我們的平臺，以持續增強 Hugging Face Hub 的安全性。JFrog 的掃描器為掃描功能帶來了新特性，旨在減少 Hub 上的誤報。事實上，我們目前觀察到，模型權重可能包含在反序列化時執行的程式碼，有時甚至在推理時執行（取決於格式）。這種程式碼通常對開發者來說是無害的實用功能。由於我們的 picklescan 掃描器僅對模組名稱進行模式匹配，我們無法總是確認某個函式或模組的使用是否是惡意的。JFrog 更進一步，它會解析和分析在模型權重中發現的程式碼，以檢查潛在的惡意使用。

有興趣加入我們的安全合作伙伴計劃或在 Hub 上提供掃描資訊嗎？請透過 security@huggingface.co 與我們聯絡。

模型安全性更新

為了共享模型，我們序列化權重、配置和其它用於與模型互動的資料結構，以便於儲存和傳輸。一些序列化格式容易受到惡意攻擊，例如任意程式碼執行（說的就是你，pickle），這使得使用這些格式共享的模型存在潛在危險。

由於 Hugging Face 已成為一個流行的模型共享平臺，我們希望幫助社群免受此類威脅，因此我們開發了像 picklescan 這樣的工具，並將 JFrog 整合到我們的掃描器套件中。

Pickle 並不是唯一可被利用的格式，可以參考這裡瞭解如何利用 Keras Lambda 層來實現任意程式碼執行。好訊息是，JFrog 能夠捕獲這兩種以及更多其它檔案格式中的漏洞——請檢視他們的模型威脅頁面以獲取最新的掃描器資訊。

在此處閱讀我們所有關於安全性的文件：https://huggingface.co/docs/hub/security 🔥

整合

你無需做任何事情即可受益！只要你將檔案推送到 Hub，所有公開的模型倉庫都將自動被 JFrog 掃描。這裡有一個示例倉庫，你可以檢視此功能的實際效果：mcpotato/42-eicar-street。

`mcpotato/42-eicar-street` 的 `danger.dat` 掃描結果

請注意，你可能今天還看不到你的模型的掃描結果，因為我們有數百萬個模型倉庫。我們可能需要一些時間來完成掃描 😅。

我們總共已經掃描了數億個檔案，因為我們相信，賦能社群以安全、順暢的方式共享模型，將促進整個領域的成長。