數位平臺導入AI內容審核已是進行式
(中央社訊息服務20250904 10:23:21)為了維護安全和互相尊重的網路環境，數位平臺業者訂有言論管理規則，如社群守則、自律公約等，並據以移除非法與不當言論。過往，數位平臺必須僱用大量的內容審核員，以迅速處理違規內容之舉發，但在人工智慧（AI）工具成熟後，AI內容審核將可以取代人類內容審核員，並以高效率、低成本方式達成平臺訊息管理。
TikTok在全球大規模裁撤人工內容審核員
TikTok今（2025）年7月於德國裁撤近 40% 審核團隊（約150人），改以 AI 工具與外包人力替代，此舉引發德國員工不滿並採取罷工行動。事實上，TikTok過去一年已在全球解僱大量的內容審核團隊，包括去（2024）年9月解僱了300名荷蘭內容審核員，以及去年10月解僱了500名馬來西亞內容審核員等。
其他數位平臺業者也有人力精簡的趨勢，例如Meta於今年1月宣布改採「使用者註解」（Community Notes）系統，取代原有的事實查核流程，並減少內容審查的外包人力，未來將仰賴AI處理例行審查，僅將較敏感的內容交由人工審查。X（原為Twitter）也終止人工事實查核，轉而採用其他使用者的註解。
採用AI工具效果是否比較好
在監管數位平臺和內容管理方面，歐盟《數位服務法》（Digital Services Act）設下全球最嚴格的標準。在《數位服務法》架構下，歐盟還提出「不實資訊行為準則」（Code of Conduct on Disinformation）作為補充工具，完善不實資訊管理的保護網。惟該行為準則的事實查核人員規定似乎與AI趨勢扞格，引發Meta、Google和X等業者之挑戰。
對於數位平臺採用AI內容審核工具，資策會科法所吳采薇法律研究員表示，AI工具能即時處理大量內容，速度和範圍遠超過人工審核，並且能避免審核員因頻繁暴露於有害內容而產生心理創傷，因此我們應以開放態度擁抱AI科技。
但AI內容審核仍有潛在風險，其誤刪、漏判或系統性偏見，可能對言論自由或使用者權益造成重大影響。吳采薇法律研究員認為現階段AI無法完全取代人工審核，尤其在把握文化脈絡與敏感性方面，仍需依賴人類審核員來判斷。由於仍屬於測試階段，不妨將AI視為審核內容的輔助工具，建議數位平臺業者能從學術研究角度公開必要的數據和報告，幫助各國利害關係人瞭解AI應用的成效，共同集思廣益提高內容審核的效能。