世界熱點！OpenAI Altman：十年內可能就有非常強大的AI系統，我們要立刻做好準備

作為全球AI大佬齊聚的人工智能巔峰盛會，由北京智源人工智能研究院主辦的2023北京智源大會于6月9-10日在北京召開。

Sam Altman：更多開源沒有時間表，不會很快有GPT-5

OpenAI聯合創始人Sam Altman在演講中表示，需要國際合作，在安全部署人工智能（AI）方面建立全球信任。他提出三種方式：

(相關資料圖)

問答環節：

智源研究院院長張宏江提問：我們距離通用人工智能（AGI）還有多遠？

Sam Altman：這很難評估具體時間。很可能未來十年我們會有非常強大的AI系統，新技術從根本上改變世界的速度比我們想象的快。

張宏江：您剛才在前期的介紹中也提到了幾次，正在進行全球合作。我們知道，在過去世界面臨著相當多的危機。不知何故，對他們中的許多人來說，我們設法建立了共識，建立全球合作。你也在進行一次全球巡演，你正在努力推動怎樣的全球合作？

Sam Altman：是的，我對到目前為止大家的反應和回答都非常滿意。我認為人們非常認真地對待AgI的風險和機遇。

我認為在過去的6個月里，對于安全的討論已經取得了相當大的進展。人們似乎真的致力于找出一種結構，讓我們能夠享受這些好處，同時在全球范圍內共同努力降低風險。我認為我們非常適合做這件事。全球合作總是困難的，但我認為這是一種將世界團結在一起的機會和威脅。我們可以為這些系統提出一個框架和安全標準，這將非常有幫助。

張宏江：關于GPT-4和AI安全的后續問題。我們是否有可能需要更改AGI模型的整個基礎架構或整個體系結構。為了讓它更安全，更容易被檢查.

Sam Altman：無論是從功能角度還是從安全角度來看，我們確實需要一些非常不同的架構，這是完全可能的。

我認為我們將能夠取得一些進展，在解釋我們目前各種模型的能力方面取得良好進展，并讓他們更好地向我們解釋他們在做什么以及為什么。但是，是的，如果在Transformer之后有另一個巨大的飛躍，我不會感到驚訝。自從最初的Transformer以來，我們已經改變了很多架構。

張宏江：OpenAI會開源大模型嗎？

Sam Altman：我們未來會有更多開源大模型，但沒有具體模型和時間表。

張宏江：AGI和大模型的下一步是什么？會很快看到GPT-5嗎？

Sam Altman：我也很好奇，我們沒有答案。我們不會很快有GPT-5。

Stuart Russell：我們還沒達到AGI，ChatGPT和GPT-4沒有在“回答”問題

在2023北京智源大會上，加州伯克利分校教授Stuart Russell表示，通用人工智能（AGI）還沒達到，大語言模型只是其中一塊拼圖，我們連拼圖最終會是什么樣子，缺哪些還不確定。他表示，ChatGPT和GPT-4沒有在“回答”問題，它們不理解世界。

（文章來源：華爾街見聞）