AI換臉全球女性夢魘 法律跟不上深偽荼毒
美國陽光計畫執行長楊科維茨說：「女性議員正以驚人速度淪為AI生成深偽色情影像受害者……這不只是技術問題，而是直接侵害領導階層中的女性和民主本身。」
文／陳亦偉 （中央社編譯組長）
深偽（Deepfake）技術問世以來，從好萊塢明星、政治人物到普通學生，從美國、義大利、英國到巴基斯坦女性政治人物，都發生深偽影像受害事件，儼然成為網路世界的「新冠疫情」。
如同「數位疫情」蔓延 女性從政者成重災區
Deepfake是由「深度學習」（deep learning）和「偽造」（fake）兩個詞組合而成的技術名詞。《華爾街日報》指出，深偽出現於2014年，一種開源演算法能生成極度逼真的影像，讓不存在的人、事、物看起來就跟真的一樣。這項發明引發強大影像合成軟體的研究熱潮，卻也因濫用衍生新問題，例如在未經同意下，將女性臉部嫁接到色情影片內。
由人工智慧（AI）驅動的合成技術持續進步，這些都被廣泛歸類為生成式AI（Generative AI），快速發展部分來自在商業與娛樂領域中的實用性日漸提升。
像Reface這類換臉應用程式，或TikTok、Snapchat這類社群平台上為自拍加上狗耳朵等特效，都是使用生成式演算法的變體來達成效果。2021年一部關於已故名廚安東尼波登（Anthony Bourdain）的紀錄片，使用深偽技術重建他的聲音，「說出」他曾寫過但未曾親口講出的文字。2024年AI變臉工具Deep-Live-Cam爆紅，因為僅用一張照片能「一鍵」讓即時直播中的主人翁「換臉」。
然而，生成式AI技術被濫用來製造深偽內容的擔憂與日俱增。例如可空前容易製造出政治人物「似乎講過任何話」的影片，這類內容會造成混亂，尤其是在選舉或戰爭期間；此外，為訓練ChatGPT、Lensa等新一代AI軟體使用的海量資料與圖片，也牽扯著作權與隱私等問題。
美國近兩成女議員受害 義大利女總理提告求償
法新社指出，有些照片應用程式（App）可褪去影像中的女性衣物，隨著廉價AI工具激增，網路上出現大量未經同意的深偽影像，管不勝管。研究人員指出，私密影像常被用來玷汙女性在公共領域的名聲、破壞她們的職業生涯和大眾信任，並製造勒索或騷擾的契機，這已威脅女性參與公眾，嚴重者恐進一步威脅國家安全。
專門研究假資訊的「美國陽光計畫」（American Sunlight Project）在色情網站發現逾3萬5,000個涉及26名國會議員的深偽事例，其中25人是女性。2024年12月公布的研究結果顯示，美國國會有近六分之一女議員曾因這類AI生成影像而受害。
計畫執行長楊科維茨（Nina Jankowicz）說：「女性議員正以驚人速度淪為AI生成深偽色情影像受害者……這不只是技術問題，而是直接侵害領導階層中的女性和民主本身。」
在義大利，女性總理梅洛尼（Giorgia Meloni）就向兩名男子索賠10萬歐元（約新台幣366萬元），他們被控製造梅洛尼的深偽影片，並上傳到美國色情網站；在巴基斯坦，法新社事實查核人員發現一支深偽影片，內容是女議員瑪吉德（Meena Majeed）公開擁抱一位男性部長，這在保守的穆斯林國家會被視為不道德行為。
各國監管規範才剛起步 辨識深偽技術正在開發
目前，全球對深偽色情影像的法規明顯不足。已出現受害者的巴基斯坦尚未針對此類內容制定法律；英國雖禁止散布深偽色情，但對創作的禁令仍無明確時間表；在美國，僅加州和佛州等少數州立法規範。
歐盟2024年生效的《AI法案》（AI Act）要求高度寫實的AI生成內容須註明為AI生成等警語。但在美國，相關法律複雜且零散，主要是即使合法使用生成式AI，也會牽扯著作權與揭露義務等棘手問題。
在中國，中共中央網絡安全和信息化委員會辦公室自2023年針對包括AI生成影像、聲音及文字生成軟體等「深度合成」技術執行管理。相關規範包括禁止使用AI生成內容散布「假新聞」或被認定屬破壞經濟或國家安全的資訊，定義相當廣泛，使當局在詮釋上擁有高度裁量權。規範要求深度合成技術提供者――企業、研究機構與個人，必須在可能被誤認為真實的圖片、影片與文字上明確標示是AI生成或編輯內容。
新創公司Reality Defender在2024年宣布，開發出能辨別由Deepfake生成的高度偽造影像，幫助受害者。業者使用一些Github代碼、外掛軟體和照片合成富豪馬斯克（Elon Musk）的偽造圖像，並假冒通話。通話期間一些靜態影像被傳輸到Reality Defender開發的自定義模型加以分析後，螢幕上跳出通知提醒用戶，對方是「深偽」而非真人。目前這套軟體還在測試。
＊看單篇不過癮？《全球中央》紙本雜誌、電子雜誌全面特價中。
＊訂閱紙本雜誌《全球中央訂購單》
＊實體雜誌銷售：誠品書店
＊電子雜誌銷售平台：中央社電子書城、亞馬遜書城、Google Play圖書、凌網電子書、華藝電子書、Hami書城、KOBO、博客來電子書、讀墨電子書、讀冊生活電子書城、BOOK☆WALKER、聯合讀書吧、Kono電子雜誌、momo購物網等
本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。
