員工公開信 警告OpenAI缺透明度無法因應AI風險
2024/6/5 16:30
(中央社舊金山4日綜合外電報導)ChatGPT開發商OpenAI的現任和前任員工發表公開信警告,世界領先的人工智慧(AI)公司缺乏必要的透明度和問責制,無法因應AI潛在風險。
法新社報導,這封公開信提出對AI安全風險的擔憂,「從進一步加深現有的不平等,到操縱和假消息,再到自主AI系統失控可能造成的人類滅絕」。
16位連署人包含Google DeepMind的員工,他們警告,AI公司「有強烈的財務動機來避免有效的監督」,而公司的自我監管其實沒有太大幫助。
信中指出:「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。」
「但他們目前沒什麼義務與政府分享其中一些資訊,也完全沒有和民間社會分享這些訊息,我們認為不能完全指望他們自願分享這些訊息。」
公開信還說,這一事實意味公司內部員工是唯一可以通知大眾的人,連署者呼籲制定更廣泛的吹哨者法律來保護他們。
根據「紐約時報」報導,OpenAI的4名現任員工匿名連署,因為擔心遭到公司報復。
連署人還包括AI研究先驅班吉歐(Yoshua Bengio)、辛頓(Geoffrey Hinton)、羅素(Stuart Russell),他們常被稱為AI「教父」,也曾批評大家對AI風險缺乏準備。(譯者:鄭詩韻/核稿:陳政一)1130605
本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。