本網站使用相關技術提供更好的閱讀體驗,同時尊重使用者隱私,點這裡瞭解中央社隱私聲明當您關閉此視窗,代表您同意上述規範。
Your browser does not appear to support Traditional Chinese. Would you like to go to CNA’s English website, “Focus Taiwan" ?
こちらのページは繁体字版です。日本語版「フォーカス台湾」に移動しますか。
中央社一手新聞APP Icon中央社一手新聞APP
下載

AI音訊工具淪deepfake幫凶 網友借名人聲音罵髒話

2023/1/31 21:53(2/1 07:54 更新)
請同意我們的隱私權規範,才能啟用聽新聞的功能。
英國人工智慧(AI)公司Eleven Labs的音訊工具遭人濫用,公司表示,正在檢討自身「防護措施」。(圖取自Eleven Labs網頁elevenlabs.io)
英國人工智慧(AI)公司Eleven Labs的音訊工具遭人濫用,公司表示,正在檢討自身「防護措施」。(圖取自Eleven Labs網頁elevenlabs.io)
請同意我們的隱私權規範,才能啟用聽新聞的功能。

(中央社巴黎30日綜合外電報導)英國人工智慧(AI)公司Eleven Labs的音訊工具被人用來仿製名人的聲音、讓他們說一些種族歧視和恐同字眼後,公司今天表示,正在檢討自身「防護措施」。

法新社報導,Eleven Labs推文稱,公司度過一個「瘋狂週末」,並坦承在公布這款工具的試用版幾天後,就發現「愈來愈多仿製聲音的濫用案例」。

Eleven Labs未提供這些案例的細節,但它表示,網路論壇4chan湧入假借名人聲音來罵種族、性別歧視和恐同字眼的深度偽造(deepfake)之作。

許多貼文都提到Eleven Labs,一些用戶宣稱已被這家公司禁絕,另一些人則提供這款工具的試用版連結。

4chan論壇充斥冒犯他人的笑話而惡名昭彰。被論壇用戶盜用聲音的名人包括「哈利波特」(Harry Potter) 電影的影星們,以及電影導演昆汀塔倫提諾(Quentin Tarantino)、喬治盧卡斯(George Lucas)等人。

Eleven Labs號稱自家聲音仿製技術具備潛力,「可革新多種產業的內容製造、表達和互動方式」。

Eleven Labs曾製作一段宣傳影片,內容仿製其他名人的聲音來替影星李奧納多狄卡皮歐(Leonardo DiCaprio)配音。

Eleven Labs今天推文稱自家技術「絕大多數被用於正向用途」,但仍需要「額外防護措施」,考量中的選項包括手動核對每個仿製要求,或是讓帳戶認證措施變得更嚴格。(譯者:楊昭彥/核稿:陳正健)1120131

影片來源:ElevenLabs
中央社「一手新聞」 app
iOS App下載Android App下載

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

地機族
請繼續下滑閱讀
172.30.142.92