本網站使用相關技術提供更好的閱讀體驗,同時尊重使用者隱私,點這裡瞭解中央社隱私聲明當您關閉此視窗,代表您同意上述規範。
Your browser does not appear to support Traditional Chinese. Would you like to go to CNA’s English website, “Focus Taiwan" ?
こちらのページは繁体字版です。日本語版「フォーカス台湾」に移動しますか。
中央社一手新聞APP Icon中央社一手新聞APP
下載

研究:對話機器人錯誤資訊77%成使用者記憶 人類應適度懷疑AI內容

2023/11/23 10:02(11/27 17:12 更新)
請同意我們的隱私權規範,才能啟用聽新聞的功能。
示意圖。(圖取自Pixabay圖庫)
示意圖。(圖取自Pixabay圖庫)
請同意我們的隱私權規範,才能啟用聽新聞的功能。

(中央社記者許秩維台北23日電)生成式AI(人工智慧)逐漸普及,台大團隊研究發現,對話機器人的訊息中有77%的錯誤詞彙會成為參與者的記憶,加註警語也難以避免,提醒人類應對AI輸出內容保持適度懷疑。

台灣科技媒體中心發布新聞訊息指出,隨著生成式AI普及,大家對使用AI越來越熟悉,但不可避免AI系統與使用者互動時,會產生錯誤資訊來回答使用者;若生成式AI帶有錯誤資訊,是否會在人機互動時,潛移默化的影響使用者,是大家必須重視的事。

根據台灣大學心理學系副教授黃從仁的團隊於11月20日在「美國心理學家」期刊發表最新研究指出,對話機器人的訊息中有77%的錯誤詞彙會成為參與者記憶,即使加註一次性警語,也無法減少錯誤的記憶,就算相對頻繁、針對特定項目的預先警告參與者,也無法阻止特定項目錯誤資訊被參與者記憶。

黃從仁表示,團隊使用人工可編輯程式的人形機器人RoBoHoN與台灣大學生對話,檢查機器人提供情感及價值中立但內容錯誤的訊息中,是否有預告的警語,並檢查這些訊息中有多少比例會在之後的認知測驗中,變成一個人記憶的錯誤資訊。

研究結果顯示,機器人提供的錯誤資訊中,有77%會變成人們的記憶,即便機器人在提供錯誤資訊前已抱持自我懷疑並提出警告,但這些警告只能增加人們的戒心,並無法真正避免錯誤資訊成為記憶。

黃從仁認為,無論有無形體的聊天機器人,都應盡量不要輸出錯誤的資訊,可透過人工檢核剔除學習資料中的錯誤資訊,或讓聊天機器人透過網路搜尋,先對答案進行事實查核,人類也應對聊天機器人的輸出內容保持適度懷疑,不要照單全收。

受台灣科技媒體中心邀請分析此研究的台灣大學資訊工程學系副教授陳縕儂提到,生成式AI系統在與使用者互動時,不可避免的會產生錯誤的腦補資訊來回答使用者,這種錯誤資訊的內容,是否會在人機互動中潛移默化地影響使用者,是規範當代AI產品非常重要的考量。(編輯:戴光育)1121123

中央社「一手新聞」 app
iOS App下載Android App下載

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

地機族
172.30.142.58