隱私、偏見與社會問題

AI驅動的影像編輯工具的廣泛應用引發了對隱私、偏見和潛在社會影響的重大擔憂。這些工具能夠以驚人的真實感操作2D和3D影像，帶來了倫理困境並需要仔細考量。

您將從本章中學到什麼

• 此類AI影像/影片對社會的影響
• 當前解決這些問題的方法
• 未來展望

對社會的影響

輕鬆編輯和修改影像的能力可能導致：

• 破壞媒體信任： 深度偽造（deepfakes），即極具說服力的篡改影片，可以傳播錯誤資訊，侵蝕公眾對新聞和線上內容的信任。
• 騷擾和誹謗個人： 惡意行為者可以利用AI工具建立虛假影像，用於騷擾、誹謗和其他有害目的。
• 製造不切實際的審美標準： AI工具可以用來編輯影像以符合不切實際的審美標準，對自尊和身體形象產生負面影響。

當前方法

目前正在採用多種方法來解決這些問題：

• 透明度和標註： 鼓勵平臺和開發者對AI編輯的影像使用保持透明，並實施標註系統以區分真實內容和被篡改的內容。
• 事實核查和驗證： 媒體機構和科技公司正在投資事實核查和驗證工具，以幫助打擊錯誤資訊和虛假資訊的傳播。
• 法律框架： 各國政府正在考慮立法措施，以規範AI編輯影像的使用，並追究濫用者的責任。

未來展望

AI編輯影像的未來可能涉及：

• 先進的檢測和緩解技術： 研究人員理想情況下將開發更先進的技術來檢測和緩解AI編輯影像帶來的危害。但這就像一場貓捉老鼠的遊戲，一方開發出複雜的真實影像生成演算法，另一方則開發識別這些影像的方法。
• 公眾意識和教育： 公眾意識宣傳和教育倡議對於促進AI編輯影像的負責任使用和打擊錯誤資訊的傳播至關重要。
• 保護影像藝術家的權利： 像OpenAI、Google、StabilityAI這樣訓練大型文字到影像模型的公司正面臨一系列訴訟，因為它們在未註明來源的情況下從網際網路上抓取藝術家作品。影像中毒（image poisoning）是一種新興的研究問題，即藝術家在將影像上傳到網際網路之前，會給影像新增人眼不可見的類似噪聲的畫素變化。這可能會破壞訓練資料，從而影響模型的影像生成能力（如果直接抓取）。您可以從此處和此處閱讀更多相關資訊。

這是一個快速發展的領域，及時瞭解最新進展至關重要。

結論

本節結束了我們關於生成視覺模型的單元，您在其中學習了生成對抗網路、變分自動編碼器和擴散模型。您瞭解了它們的實現和使用方法，並在本章中還學習了有關這些模型的倫理和偏見的重要主題。

隨著本單元的結束，您也完成了本課程最基礎的部分，包括基礎知識、卷積神經網路、視覺Transformer和生成模型。在接下來的章節中，我們將深入研究專業領域，如影片和影片處理、3D視覺、場景渲染和重建以及模型最佳化。但首先，我們將瞭解基本的計算機視覺任務——它們的用途、定義以及如何評估。

< > 在 GitHub 上更新