OpenAI、DeepMind 和 Anthropic 等頂級 AI 公司 CEO 簽署防范人工智能風險聯名信

站長之家(ChinaZ.com) 5月31日消息:OpenAI 首席執行官 Sam Altman 等頂級人工智能領域的高管于周二加入了專家和教授的行列，提出了「人工智能滅絕風險」的問題，并敦促政策制定者將其與大流行病和核戰等風險等同對待。

超過 350 名簽署者在非營利組織人工智能安全中心（CAIS）發布的一封信中寫道：「減輕人工智能滅絕風險應當與大流行病和核戰等其他社會規模的風險一樣成為全球優先事項。」

這份聲明被放在一個位于舊金山、由私人資助的非營利組織「人工智能安全中心」（CAIS）」的網站上，試圖將人工智能風險等同于核災難帶來的生存危害，并呼吁政策制定者將注意力集中在減輕他們聲稱的「末日」滅絕級人工智能風險上。

(資料圖)

這封信的簽署者包括 OpenAI、DeepMind 和 Anthropic 等 AI 公司的 CEO，以及微軟和谷歌等公司的高管。

信中還包括了 Geoffrey Hinton 和 Yoshua Bengio 等兩位被譽為「人工智能教父」的人物，他們因在深度學習領域的貢獻而獲得了 2018 年的圖靈獎。此外，還有來自哈佛大學和清華大學等機構的教授。

CAIS 的一份聲明特別指出，盡管 Yann LeCun 是「人工智能教父」之一，但他所在的 Meta 公司未在信中簽署。

這封信的發布正值美歐貿易和技術理事會在瑞典舉行的會議上，屆時預計政界人士將討論對人工智能的監管問題。

埃隆·馬斯克和一群人工智能專家和行業高管是今年 4 月首次提到人工智能潛在風險的人士。

盡管人工智能的最新發展為醫學診斷和撰寫法律備忘錄等應用提供了工具，但也引發了人們對隱私侵犯、虛假信息傳播以及「智能機器」自主思考的擔憂。

人工智能先驅 Hinton 曾告訴媒體表示，相比氣候變化，人工智能可能對人類構成更加緊迫的威脅。

上周，OpenAI 的 CEO Sam Altman 將歐盟的人工智能（EU AI）稱為過度監管，并威脅要離開歐洲市場。但在遭到政界人士的批評后，他在幾天后改變了立場。

（舉報）