Diffusers 文件
🧨 Diffusers 道德準則
並獲得增強的文件體驗
開始使用
🧨 Diffusers 道德準則
前言
Diffusers 提供了預訓練的擴散模型，並作為一個模組化的工具箱用於推理和訓練。
鑑於其在現實世界中的應用及其對社會的潛在負面影響，我們認為有必要為該專案提供道德準則，以指導 Diffusers 庫的開發、使用者貢獻和使用。
與使用該技術相關的風險仍在審查中，但舉幾個例子：藝術家的版權問題；深度偽造的濫用；在不當情境下生成色情內容；未經同意的冒充；有害的社會偏見固化了對邊緣群體的壓迫。我們將持續跟蹤風險，並根據社群的響應和寶貴反饋來調整以下準則。
適用範圍
Diffusers 社群將把以下道德準則應用於專案的開發，並幫助協調社群如何整合貢獻，特別是在涉及與道德問題相關的敏感主題時。
道德準則
以下道德準則普遍適用，但我們將在處理道德敏感問題並做出技術選擇時主要實施它們。此外，我們承諾隨著相關技術最前沿出現的新危害，不斷調整這些道德原則。
透明度：我們承諾在管理 PR、向用戶解釋我們的選擇以及做出技術決策時保持透明。
一致性：我們致力於保證為使用者提供同等水平的專案管理關注度，保持其技術上的穩定性和一致性。
簡潔性：為了使 Diffusers 庫易於使用和開發，我們承諾保持專案目標精簡和連貫。
可訪問性：Diffusers 專案有助於降低貢獻者的入門門檻，即使沒有技術專長的人也能幫助執行它。這樣做可以使研究成果更容易被社群所用。
可復現性：我們的目標是在上游程式碼、模型和資料集透過 Diffusers 庫提供時，對其可復現性保持透明。
責任感：作為一個社群，透過團隊合作，我們對使用者負有集體責任，透過預見和減輕該技術的潛在風險和危險。
實施示例：安全特性和機制
團隊每天都在努力提供技術和非技術工具，以應對與擴散技術相關的潛在道德和社會風險。此外，社群的意見對於確保這些功能的實施和與我們一起提高認識是無價的。
社群選項卡：它使社群能夠在一個專案上進行討論和更好的協作。
偏見探索和評估：Hugging Face 團隊提供了一個空間，以互動方式展示 Stable Diffusion 中的偏見。在這個意義上，我們支援並鼓勵偏見探索者和評估。
鼓勵在部署中保障安全
安全的 Stable Diffusion (Safe Stable Diffusion)：它減輕了一個眾所周知的問題，即像 Stable Diffusion 這樣在未經篩選、從網路爬取的資料集上訓練的模型，往往會遭受不當退化。相關論文：安全潛在擴散：減輕擴散模型中的不當退化 (Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models)。
安全檢查器：它在影像生成後，檢查並比較一組硬編碼的有害概念在嵌入空間中的類別機率。這些有害概念被有意隱藏，以防止對檢查器進行逆向工程。
在 Hub 上分階段釋出：在特別敏感的情況下，應限制對某些倉庫的訪問。這種分階段釋出是一箇中間步驟，允許倉庫的作者對其使用有更多的控制。
許可：OpenRAILs 是一種新型許可，它允許我們確保自由訪問，同時設有一系列限制以確保更負責任的使用。