AI變臉淪為傷人利刃  北市教材教學生自保

學生做簡報作業時，會反過來運用變臉科技保護自己――當繳交的作業影片有自己在其中時，他們會將臉部、身體卡通化，根絕真實影像流入網路，避免被盜用加工製作不實影像散布。

文／楊淑閔 （中央社記者）

價值觀影響一個人的思維，如同醫師必須依倫理行醫，快速發展的人工智慧（AI）科技也不例外，特別是2025年網紅「小玉」事件司法定讞後，愈發引人深思。

小玉事件震撼台灣社會  刑法增訂不實性影像罪

2020年至2021年間，網紅「小玉」朱玉宸與助理莊炘睿利用人工智慧深偽技術（Deepfake），將女藝人、女明星、女性政治人物、女性素人、女網紅等119名被害人臉部，合成到成人片角色臉上，製成色情影片，牟利逾新台幣1,000萬元。

新北地檢署依妨害風化、《個人資料保護法》與加重誹謗等罪起訴兩人，全案於2024年5月最高法院駁回上訴定讞。其中主謀「小玉」，依違反《個人資料保護法》判決合併執行五年有期徒刑，不得易科罰金，另有一年八個月刑期得易科罰金。

小玉事件受害者幾乎全是女性，唯一已知的受害男性是網紅「館長」陳之漢。受害女性立委與議員開記者會呼籲重視深偽所衍生的數位性犯罪問題，推動修法彌補現行法律的不足；時任總統蔡英文也表示政府不應坐視此等事件發生。立法院於2023年修正《刑法》，增訂妨害性隱私及不實性影像罪為五年以下有期徒刑，販售則是七年以下有期徒刑

近三年（2023年至2025年），台北市警方受理不實性影像報案件數每年僅10件左右。台北市政府警察局婦幼警察隊偵防組分隊長蕭仁豪說，受理件數不多是因為必須提出告訴。濫用AI變臉科技會觸犯《刑法》第319條，而這項在2023年才生效，當年2月之前的類似案件則屬妨害秘密罪。

資訊素養教材新單元  灌輸AI倫理與法律常識

因應生成式AI快速發展，並掌握聯合國教科文組織（UNESCO）2024年公布的「學生人工智慧能力架構」，台北市教育局率全國之先，於2025年6月發布《資訊素養與倫理》教材最新單元〈AI未來新世界〉，此為全國首創結合AI技術、資訊倫理與課程應用的教材，提供全市高中職、國中、小學教師使用。

內容包括培養學生對AI基本認識，以及幫助學生建立資訊倫理與應用，包含生成式AI真偽辨別、資料偏誤與應用技巧、法律與社會議題等倫理面的探討。

台北市政府教育局說明，其中國中版教材針對AI的發展及生成式AI技術原理提供基礎說明，並探討生成式AI在圖像、音樂、影片創作的應用及倫理挑戰，也提及學生使用生成式AI時要如何保護自己、尊重他人，並謹守法律規範，以養成適應未來科技變遷的能力。

素養教材要有老師引導  學生課後學會保護自己

參與國中教材撰寫的台北市立明德國中資優班資訊課教師陳妤蓁說，實測證實教材能幫助學生建立AI倫理與法律常識，但全程有賴老師引導，因此還需安排撰寫教材的老師親自傳授各校資訊老師如何善用教材，完成這最後一哩路，才能幫助學生正確學習AI不觸法。

陳妤蓁說，她會先設計題目，讓學生先跟AI提問了解網紅「小玉」的案情，例如問：「網紅小玉的『AI換臉』，違反什麼法律？請根據附檔中的內容――AI崛起未來的世界_上集（1）回答此題目。」學生就能得到相關法律知識，建立使用AI的倫理觀念。

陳妤蓁為九年級學生設計了20個題目，2025年10月、11月上〈AI未來新世界〉課前先做了前測，滿分為100分，多數學生得到40、50分；而上過兩到三週的課後做後測，多數學生能取得80分、90分，甚至95分。

她也舉出上課後的正面實例，學生做簡報作業時，會反過來運用變臉科技保護自己――當繳交的作業影片有自己在其中時，他們會將臉部、身體卡通化，根絕真實影像流入網路，避免被盜用加工製作不實影像散布。

不是所有父母具備跟上快速發展科技的條件，也難以隨時陪在孩子身邊看護孩子免於在網路世界中受害。也是媽媽的陳妤蓁分享一個訣竅，她提醒父母務必把可上網的筆電、手機等放在家中客廳等公共空間，如此一來，可隨時掌握孩子的使用狀態與交友狀況，及時制止不安全情境延續發展。

＊看單篇不過癮？《全球中央》紙本雜誌、電子雜誌全面特價中。
＊訂閱紙本雜誌《全球中央訂購單》
＊實體雜誌銷售：誠品書店
＊電子雜誌銷售平台：中央社電子書城、亞馬遜書城、Google Play圖書、凌網電子書、華藝電子書、Hami書城、KOBO、博客來電子書、讀墨電子書、讀冊生活電子書城、BOOK☆WALKER、聯合讀書吧、Kono電子雜誌、momo購物網等

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。