本網站使用相關技術提供更好的閱讀體驗,同時尊重使用者隱私,點這裡瞭解中央社隱私聲明當您關閉此視窗,代表您同意上述規範。
Your browser does not appear to support Traditional Chinese. Would you like to go to CNA’s English website, “Focus Taiwan" ?
こちらのページは繁体字版です。日本語版「フォーカス台湾」に移動しますか。

Deepfake色情片不只名人受害 普通女性也有危險【書摘】

2021/11/5 08:35(11/14 12:28 更新)
請同意我們的隱私權規範,才能啟用聽新聞的功能。
Deepfake技術日新月異,涉及的犯罪領域不斷擴大。研究科技與AI如何重塑政治的作家妮娜.敘克,深入淺出地描繪世界置身「資訊末日」的危險現實。(示意圖/圖取自Pixabay圖庫)
Deepfake技術日新月異,涉及的犯罪領域不斷擴大。研究科技與AI如何重塑政治的作家妮娜.敘克,深入淺出地描繪世界置身「資訊末日」的危險現實。(示意圖/圖取自Pixabay圖庫)
請同意我們的隱私權規範,才能啟用聽新聞的功能。

(中央社網站)網紅小玉利用AI(人工智慧) Deepfake技術,把女性藝人、公眾人物的頭像移花接木後製成色情片牟利,受害者至少上百人。這種犯罪模式比想像中更快來到台灣,操作也比想像中更容易,幾乎不需要技術門檻。Netflix拍攝「愛爾蘭人」影集時,導演馬丁史柯西斯(Martin Scorsese)砸大錢透過後製特效讓演員「減齡」,但成效並不理想, 隔沒幾年,AI Deepfake是怎麼走到這麼容易就能上手的地步?

研究科技與AI如何重塑政治的作家妮娜.敘克(Nina Schick),曾參與法國總統馬克宏競選團隊、分析外國勢力如何介入兩次美國總統大選,2020年她利用COVID-19疫情隔離期間寫完規劃多時的專書《深度造假》,深入淺出地描繪世界置身「資訊末日」的危險現實,追溯從俄羅斯到中國近年如何利用與操縱不實資訊。Deepfake的引爆點,就來自色情片。中央社取得授權與您分享相關內容,看看敘克如何追查起源與示警。

深度造假的引爆點

2017年11月2日,代號Deepfakes的Reddit匿名使用者建立了子論壇,用於張貼使用AI技術偽造的好萊塢女星色情片。影片使用開放原始碼製作,只要具備深度學習演算法知識,任何人都能效法。2017年12月11日,珊曼莎.科爾(Samanha Cole)在Vice Media集團旗下專責報導科學與科技發展的媒體《主機板》發稿,向世界揭發色情片的深度造假。

2020年初,我(即作者敘克)致電珊曼莎,和她談談2017年的那篇獨家新聞。她向我描述自己在Reddit網站「閒逛」時,發現deepfakes登上了熱門看板。

珊曼莎說:「事情就發生在我們眼前。」和我一樣,珊曼莎立刻對這項科技被濫用的可能性感到震驚。「假如連一個Reddit使用者都做得到,又要如何阻止人們做出同樣的事?」她開始思考這個問題,並傳訊息給影片製作者Deepfakes;對方同意在匿名的前提下和她談談。

Deepfakes表示,他自認不是工程師或專家,只是「對機器學習感興趣的人」。珊曼莎在電話上沉默了一下:「我們仍然不知道他的真實身分,也不知道他從事什麼工作。」Deepfakes描述自己發現了一種「聰明的方法」,利用開源AI工具,將名人的臉「置換」到色情片明星的身體上。

站在AI研究領域的巨人肩膀上,Deepfakes創造了自己的科學怪物:好萊塢女演員蓋兒.加朵(Gal Gadot)的亂倫色情片。一如珊曼莎當時於文中所述:

網路上有蓋兒.加朵與繼兄發生性關係的影片,但影片裡不是蓋兒.加朵本人的身體,也不是她的臉,只是用了演算法「換臉」,讓早已流傳於網路上的亂倫色情片,看起來就像由加朵本人演出。

他是怎麼做到的?透過Google圖片搜尋、圖庫和YouTube,Deepfakes建立了加朵的數據集,以此訓練AI演算法,讓它學會如何「置換」加朵的臉——以影格(frame)為單位,置入既有的色情片。只要你仔細檢視Deepfakes的作品,不出幾秒就能察覺事有蹊蹺。影片中會出現雜訊,加朵的嘴型有時並未與她說的話同步。但如果沒有細看,的確會相信片中女主角是加朵本人。

科爾撰文揭露後,這些Reddit用戶的行徑引起公憤。幾週內,Reddit以「包含未經同意製作的成人影片」為由,關閉了討論板。始作俑者Deepfakes就此消聲匿跡,但他早已公開分享了最主要的「深度造假」程式碼。

2017年,代號Deepfakes的Reddit匿名使用者建立子論壇,用於張貼使用AI技術偽造的好萊塢女星色情片,好萊塢女演員蓋兒.加朵深受其害。(圖取自facebook.com/GalGadot)
2017年,代號Deepfakes的Reddit匿名使用者建立子論壇,用於張貼使用AI技術偽造的好萊塢女星色情片,好萊塢女演員蓋兒.加朵深受其害。(圖取自facebook.com/GalGadot)

早期換臉只是為了製造笑料

熱衷此道者掌握了他開發的「換臉」技術。網路上很快開始流傳新的工具和免費軟體,協助他人製作自己的深度造假影片。使用者雖然需要具備一定程度的技術知識,但憑藉耐心和技巧,成品的水準也相當可期。這類平台讓多位YouTuber聲名大噪,為了製造笑料,他們使用免費軟體置換好萊塢大片中的演員。舉例來說,Ctrl Shift Face以席維斯.史特龍(Sylvester Stallone)的臉取代電影《小鬼當家》的麥考利.克金(Macaulay Culkin),再將片名改為《史特龍當家》。這些影片非常有趣,YouTube瀏覽次數更是突破百萬。

網路上也能找到許多好萊塢巨星尼可拉斯.凱吉的片段,這些是屬於早期的深度造假影片。由於凱吉偶有過於誇張的演技,讓他成為網路迷因的主角,甚至帶起一股風潮「把尼可拉斯.凱吉的臉放進所有電影」。名為DerpFakes的YouTuber推出了「尼可拉斯.凱吉終極合輯」,無論《真善美》或《鬥陣俱樂部》,都能看到凱吉的換臉片段。

早期的深度造假影片並無惡意,往往充滿趣味,但這類影片只占了少數。時至今日,換臉技術廣泛用於製造色情片,而且是在影片當事人毫不知情的情況下。

迎合(男性)最狂野的幻想

深度造假色情片在Reddit現蹤後,已發展成獨立的生態系統。與DeepTrace公司談過之後,我對此有了更深入的了解。DeepTrace總部設於荷蘭阿姆斯特丹,2018年創立,致力於研究深度造假持續進化的可能與威脅;這間私人公司專門保護組織和個人免於受到AI合成媒體傷害,也是這個產業的先驅,一舉一動都受到業界關注。

2019下半年,DeepTrace公司發表一份報告,公開深度造假的現況。調查結果發現,深度造假影片的數量快速增加,部分原因是「相關工具和服務持續商品化,降低非專業人士製作深度造假影片的門檻。」據統計,至2019年9月為止,網路上已有將近1萬5000部深度造假影片。

DeepTrace公司創辦人喬奇歐.派翠尼(Giorgio Patrini)向我證實,深度造假影片(色情片及其他類型)的數量在2020年後仍會大幅成長;但截至目前為止,深度造假影片中高達96%都是色情片,當事人卻對此一無所知。這意味著這類影片有著極大的市場。第一個深度造假色情片網站於2018年2月註冊。現在,全球前四大深度造假色情片網站的瀏覽次數已超過1億3400萬次。我曾看過一個自稱是「最佳深度造假色情片源」的網站。只要按幾個鍵,就能觀看所有影片,而且完全免費。該網站首頁的歡迎訊息如下:

色情片任君挑選。性虐支配、戀物癖、戀足癖……你想得到的,這裡都看得到!想像一下——以上色情片都使用換臉技術,將明星的臉置入影片,看起來就像她或他...

網站接著吹噓深度造假色情影片的逼真程度,因為影片能夠「細膩捕捉明星臉部的情緒和表情」,任何妄想都能得到滿足。深度造假科技甚至能滿足最狂野、「過去無法實現的幻想」 ,也就是觀眾對窺視公眾人物的「渴望」。

DeepTrace公司創辦人喬奇歐.派翠尼表示,深度造假影片的數量在2020年後仍會大幅成長;但截至目前為止,深度造假影片中高達96%都是色情片。(示意圖/圖取自Pixabay圖庫)
DeepTrace公司創辦人喬奇歐.派翠尼表示,深度造假影片的數量在2020年後仍會大幅成長;但截至目前為止,深度造假影片中高達96%都是色情片。(示意圖/圖取自Pixabay圖庫)

國際巨星也無計可施

深度造假色情片無疑也是一種性別化現象(gendered phenomenon)。每次造訪新的深度造假色情網站,我都會瀏覽上頭不下數百部影片,卻從來沒見過任何一位男性名人——沒有布萊德.彼特(Brad Pitt)、喬治.克隆尼(George Clooney),也看不到強尼.戴普(Johnny Depp)。我詢問珊曼莎.科爾在調查取材期間,是否看過任何以男性為對象的深度造假色情片,她直率地回答:「這並不常見,答案是沒有。」但在同樣的網站上,以女性名人為對象的深度造假色情片卻動輒數百部,你想得到的女性公眾人物應有盡有。

正如最初的蓋兒.加朵假A片,許多深度造假色情網站的影片依然看得出破綻,但技術已愈臻成熟。無論如何,影片的品質並非重點。所有未經當事人同意製作的色情片,無論是否使用深度造假技術、擬真程度是好是壞,對受害者而言,都是駭人聽聞、難堪且踐踏尊嚴的行為。

我們不知道受害者該如何保護自己,即使是擁有資源的富人亦是如此,例如好萊塢片酬最高的女星史嘉蕾.喬韓森。在2018年的一次採訪中,喬韓森告訴《華盛頓郵報》,她和自己的團隊沒有任何實質對策,畢竟從網路上移除這類影片是不可能的。「很遺憾,這種情況我經歷了太多次,」她說:「關於肖像權,每個國家都有自己的法律規範。即使能在美國境內採取法律行動,關閉侵權的網站,同樣的法規卻可能不適用於德國。」喬韓森相當沮喪,認為那是「徒勞無功的行為」,也提出警告:她認為很快人人都會成為目標,因為網路「是一個巨大的黑暗蟲洞,終將吞噬自己。」

好萊塢女星史嘉蕾.喬韓森曾遭受造假色情片所害。她說和自己和團隊沒有任何實質對策,畢竟從網路上移除這類影片是不可能的。(圖取自維基共享資源;作者GabboT,CC BY-SA 2.0)
好萊塢女星史嘉蕾.喬韓森曾遭受造假色情片所害。她說和自己和團隊沒有任何實質對策,畢竟從網路上移除這類影片是不可能的。(圖取自維基共享資源;作者GabboT,CC BY-SA 2.0)

所有女性都是目標

深度造假色情片的目標是所有女性,包括我們的妻子、女兒、姊妹和母親。深度造假由未經同意製作的造假色情片演變而來,將平凡的女性捲入其中。即使在人工智慧問世之前,造假色情片就足以毀掉一個人的人生。不論如何包裝,受害者隨之面臨的曝光、羞辱和恐懼,都將毀掉她們。她們無法再上網,難以找到或保住工作、甚至不再感到安全。這侵犯了她們最私人的領域及人身安全。

澳洲年輕女子諾莉.馬丁(Noelle Martin)的親身經歷,讓我們得以了解未經同意製作的造假色情片將帶來何等災難。當時她年僅17歲,在青少年時期就被迫經歷這樣的折磨。某天,和大多數人一樣,她決定用一張放上社群網站的照片在Google上以圖搜圖,結果卻讓她瞠目結舌。事後,她描述了那可怕的一刻:

我的螢幕上瞬間滿滿都是那張照片,還有從我的社群網站盜用的數十張照片,網址連結到色情影片網站。在那些網站上,沒有名字、也看不到臉的人就像對待獵物一樣,對我大開黃腔,發表自己的妄想。他們貼出的資訊足以辨認我是誰:包括我住的地方、我的主修,以及我的身分。

諾莉是在深度造假技術出現之前就成為目標,當時技術還不發達,只將她的臉移植到色情片演員身體上。諾莉的故事並非個案,她是網路上數以千計的受害女性之一。更糟的是,諾莉發現自己孤立無援。她曾向警方求助,警方卻表示幫不上忙。色情網站的主機通常設在國外,加害者也都匿名。諾莉只能絕望地一一聯絡各個網站,通知網站管理員刪除所有內容。但想移除造假色情片就像打地鼠一樣沒完沒了。她順利讓一部分內容下架,新的影片卻不斷出現。其中一個網站的管理員甚至勒索諾莉,要求她在24小時之內提供自己的裸照,才願意移除造假色情片。

對抗網路霸凌多年後,諾莉決定在2016年公開自己的經歷。她的故事也促使澳洲於2019年制訂新法,規定在未經當事人同意的情況,散播私密照片是一種犯罪行為。

很不幸的,對策仍跟不上問題的惡化速度。深度造假色情片的生態系統已經商業化,市面上也出現各種客製服務及應用程式。隨著合成媒體技術持續發展,預期將會出現更新、更高明的方式。

全球資訊網(World Wide Web)的發明人提姆.伯納斯.李(Tim Berners Lee)爵士曾經語帶擔憂地指出,女人和女孩正面臨網路傷害「與日俱增的威脅」。性騷擾、威脅訊息及歧視,讓網路對她們而言不再是安全的場所。如他所述,「網路環境不適合女人和女孩。」但事實上,在資訊末日下,不只女人和女孩正面臨網路傷害與日俱增的威脅,男人和男孩也無法倖免。目前,深度造假色情片的目標幾乎只針對女性,但以深度造假同志色情片為例,這類型的影片也會在世界某處對某個人的生命或自由造成傷害。在不久的將來,這可能就是深度造假的另一個目標。(書摘由拾青文化提供、中央社節錄)(編輯:趙敏雅)1101105

(拾青文化提供)
(拾青文化提供)

書名:深度造假:比真實還真的AI合成技術,如何奪走人類的判斷力,釀成資訊末日危機?
作者:妮娜.敘克
譯者:林曉欽
出版社:拾青文化
出版日期:2020/10/14

請同意我們的隱私權規範,才能啟用聽新聞的功能。

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

下載中央社「一手新聞」 app,每日新聞不漏接!
iOS App下載Android App下載
地機族