AI龍頭員工警告 人類恐失控AI系統

by | 6 月 7, 2024 | 品觀點-消費

正當輝達創辦人兼執行長黃仁勳訪台,引發全台AI熱潮之際,AI的潛在風險也受到各界關注。由OpenAI、Google DeepMind以及Anthropic等AI龍頭公司的十多位現任及前任員工,日前連署公開信揭露AI產業內部的隱憂。他們表示,員工受制於保密協議、缺乏舉報人保護以及擔心遭到報復,導致無法公開表達對AI威脅人類的擔憂。

OpenAI在2022年向公眾推出聊天機器人ChatGPT後,引發全球轟動,目前約有1.805億用戶。然而,該公司的前員工桑德斯指出,了解最先進AI系統運作及風險的工程師,卻不能暢所欲言。除了桑德斯,OpenAI另外6名前員工、DeepMind的1名前員工和1名現任員工,以及部分匿名人士也連署這封信函。

這些AI專家在信中表示,相信AI對人類帶來好處的潛力,但也理解AI可能帶來嚴重風險,包括強化現有的不平等、操縱、不實資訊,甚至失去對AI系統的控制而造成人類滅絕等。他們認為AI公司有很強的財務動機來避免有效的監督。著名AI科學家羅素、班吉奧和辛頓也簽署這封信。辛頓離開Google後,便持續對AI危害人類的潛在方式發出警訊。有AI研究人員認為,AI技術可能會失控,變得像流行病和核戰一樣危險。

連署人要求AI公司允許員工匿名舉報問題,不要對舉報人進行報復,也不要讓他們簽署可能讓他們閉嘴的協議。他們希望AI公司更加透明並且更加重視保障措施。對此,OpenAI回應表示同意政府應該對AI科技進行監管,並為自己在建立最強大、最安全AI系統方面的優良記錄感到自豪。OpenAI強調會持續與各界合作,共同應對AI發展帶來的風險與挑戰。

[臉書留言]

-