人工智能最大的威脅是讓人變得懶于思考而智慧退化

郝景芳

新浪科技訊 11月5日下午消息，今日“2017騰訊WE大會”在京舉辦，中國科幻作家、第74屆雨果獎獲得者郝景芳出席并發表演講。

郝景芳介紹說，人工智能只能處理特定邊界的問題，目前，人工智能頭上還有三朵小烏云，分別是綜合認知的能力、理解他人的能力和自我決定的能力。“人工智能無法回答跨界問題、常識問題;無法回答需要因人而異、體察人情的問題;它不會做這樣的決定，因為它并沒有對于自我的了解、自我的認知。這種能夠從自己出發做決定的能力，也能夠看得出來人工智能和人的區別。”

郝景芳解釋說，綜合認知的難度在于，現在的深度學習網絡，一個網絡只能夠學習一件事情，這在科學界被稱為遺忘的災難，一個這樣的人工智能只能干一件事情，不可能像我們人一樣有通識的能力，這是人類和人工智能很大的不同，人是觸類旁通的。

對于理解他人的能力，郝景芳分析說，現在是有一些人工智能和人的語言對話，但自然語言處理仍然還是一個難題，只有在特定領域的專業問答，可以有比較好的答案匹配，就是因為人工智能實際上還仍然不能理解大量的情景，就是因為它的頭腦里面沒有對人類世界、物理世界、人情世界的通識知識體系，所以他理解很多的自然情景都會很困難。此外人工智能由于沒有內心豐富的情感世界，并不能夠推己及人。

第三點自我決定的能力，它得需要兩個方面的突破，一是自我表征的能力，人工智能需要能夠自己說出來，我做這個事情是為什么;此外，人工智能沒有自我意識。

對于這些能力是否能夠突破和解決，郝景芳認為，有可能，但是不是現在，不僅僅靠算力提高，需要有更好的、更強的綜合性算法以及更多技術突破。

“人工智能下一步發展，不管它往哪個方向發展，它要處理的接下來就是綜合的、多功能的、多能力的、多目標的任務的相互協調，多種價值觀、多種任務的相互協調，這是我們需要更多地去理解人類的大腦、理解我們人類的心智系統。”

提到人工智能最大的威脅，郝景芳表示并不是取代工作，它們會取代一部分工作，但是他們會制造出更多更多的就業崗位。“人工智能對我們最大的威脅就在于，當我們過于依賴很多的數據系統以后，我們自己如果變得懶于思考、懶于自我反思，而讓我們自己的智慧退化的話，這是對人類最大的威脅。”(譚宵寒)

以下為郝景芳演講全文：

我要講什么故事?是講的有關人工智能的故事，人工智能這兩年真是太火了，從去年開始就有很多人一直在談論，人工智能現在已經戰勝了圍棋世界第一的高手，人工智能什么時候全面地戰勝人類?他們會不會超越人類?會不會全面的取代人類，甚至會不有一天毀滅人類呢?

我們前些日子都看過一個電影叫《機械姬》，里面有一個很有錢的老板請了一個科學家去幫他測試他的人工智能能不能通過圖靈測試。

我今天要講的故事是前一段時間又有一個老板請我過去，說你作為一個科幻作家幫我測一測我剛剛花了大價錢買的人工智能機器，你幫我測一測它能不能通過圖靈測試。我說好，你這個機器是什么算法，什么原理?他說就是現在最流行深度學習、強化學習、大數據學習。我說好，我用三個小測試就能幫你測出來，我猜它是通不過圖靈測試的。這三個小測試很簡單，他說什么三個小測試?我說就是我們人都會的，但是機器現在都不會的測試。

第一個測試題，如果哥倫布沒有發現新大陸對中國哪個菜系影響最大?這對我們人類實在是太簡單了，我們都知道哥倫布從美國帶回來了南瓜、玉米、紅薯、花生、辣椒，還有很多別的食物。那么哪個食物影響最大?對于我們吃貨界來講，也不難回答，當然是辣椒。如果沒有辣椒，當然沒有川菜，所以肯定是對川菜影響最大。

而這個涉及到我們的日常生活的常識，盡管所有的其他食物也很重要，但是只有像現在這樣一個靈魂式的味覺食物，它能夠調味，才對菜系影響最大。

所以對于人工智能來講這是一個跨界問題，它涉及到歷史，也涉及到日常生活的常識，也涉及到飲食對這種跨界問題、常識問題，人工智能是答不出來的。我跟老板說你就測試它這第一問題。

第二個測試題，她說沒想到今天這么冷，她希望你如何回復它?人工智能如果回復給她一個天氣預報，肯定不是他心里希望的，如果一個女孩子說了這樣的話，她希望你怎么回復她?抱抱?這也不是唯一的答案，答案要看你和她的關系，要看這個女孩子她是一個什么樣的個性，也要看當時在一個什么樣的場合下。如果真的是一個跟你關系很不錯，有一點曖昧的可愛的姑娘、萌妹子，也許說這個話，是想讓你把衣服給她，然后順便抱抱。

但是如果這個時候不是這樣的場合，是一個女老板，剛正不阿的女上司，她說沒想到今天這么冷，那你再說我抱抱您吧，她肯定一個耳刮子就扇上來了。這個時候她可能是跟你說，你的工作是失職的，為什么沒有給我把房間弄得更暖和一點，你這個時候趕緊得說對不起老板，我下次給您提前安排。

所以這是什么問題，就是對方當他說一句話的時候，他心里的意思，他的含義，他希望我們的回應，這是完全因人而異的，這是需要我們能夠察言觀色，能夠體察對方、理解他人的心思才能夠給出正確答案。我說這種問題人工智能它是不會做的，您放心我幫您測這個它肯定不行。

第三個測試題，明年可以學英語，也可以學編程，你會選擇學什么?為什么?這種問題對于我們人來講也很容易的，我們每天都在看大量形形色色的廣告，每天都被各種各樣的信息充斥，我們在其中能夠根據我們自身選出我們自己想要的，這也是沒有正確答案的問題，因為實際上該學什么，要從你自身找答案，你要知道你是一個什么性格的人，你的夢想是什么，你未來的目標是什么，你想要達到目標要怎么做，根據你自己的自身情況來決定學什么。

人工智能它們不理解自己，它們沒有這種元認知能力，他們并不能夠為自己做決定，當你跟AlphaGo說下圍棋，它不會說我不要下圍棋，我今天想去看場電影，它不會做這樣的決定，因為它并沒有對于自我的了解、自我的認知。

所以我說這種能夠從自己出發做決定的能力，也能夠看得出來人工智能和人的區別。

然后老板就問我說，可是你說的這幾個東西在我聽起來實在是太簡單了，AlphaGo都這么厲害了，AlphaGo Zero在已經戰勝了原本的AlphaGo，它不能很快就學會嗎?我說那我們要來看看AlphaGo它會什么、不會什么。AlphaGo厲害的地方在于深度學習、強化學習，它有很強的算力、它有大數據。深度學習是一種神經網絡，是一種基于大數據的統計的算法，模仿了我們大腦皮層的神經網絡，能夠從很多的數據里面找到規律，自己學到最好的算法。它和過去上一代的人工智能最大的不一樣就是上一代的人工智能經常是專家系統，就是專家告訴你怎么下棋你就怎樣下棋，但是這一代的人工智能用了這樣深度學習的辦法，可以自己學會下棋的套路。但是它是非常有局限性的，因為這樣的深度學習算法它只能夠處理數據透明規則明確的一個特定領域的問題。

也就是說，在一個特定的邊界里面，處理這個邊界里面的數據，然后找到最好的結果。它并不知道它自己在下圍棋，它也不知道它是AlphaGo，它不知道它戰勝了世界上所有的高手，它下了圍棋也不會高興，它只是在處理一些數據，但是它并沒有我們剛才說過的一些高層次認知能力，自我認知能力，自我意識能力。

然后老板說，我知道現在算力是進展很快的，過幾天我們計算能力又上了一個新臺階，你說的這些高級能力是不是就能夠學會了呢?我說，其實我相信未來總有一天人工智能會克服這些難關，學到我剛才說的這些能力。但是，這是一個階梯狀，并不是拿現在的算法增強算力，就一定能夠解決所有的問題，而是要跨過一個又一個檻，上一個又一個臺階。這就像是當時發明了蒸汽機、電，人們就覺得自己能夠解決世界上所有的問題了，物理大廈就剩下了三朵小烏云，后來就是這三朵小烏云提出了相對論、量子力學，把人類帶入了新的世界。

我說，未來可能會實現，但是它需要有很大的鴻溝、很大的跨越，才能夠實現。

現在人工智能頭上三朵小烏云的就是綜合認知能力、理解他人的能力、自我決定的能力。

綜合認知的能力困難在哪?現在的深度學習的網絡，一個網絡只能夠學習一件事情，當它學習了下圍棋，它把圍棋領域的數據都學會了之后，它整個網絡記住了這一件事情，一旦這個網絡再去學另外一件事情，這個網絡就把前一件事情忘記了，因為它是用整個網絡所有的參數來學習了這一件事情，一旦學習另外一件事情，它就已經不會記得前一件事情所有的參數。

這個在科學界被稱為遺忘的災難，一個網絡，一個這樣的人工智能只能干一件事情，只能在一個特定領域里面做一件狹窄的事情，不可能像我們人一樣有通識的能力，我們人和人工智能很大的不同，就是我們人是觸類旁通的，當我們學習了政治、經濟、歷史、社會文化、家庭日常生活的做飯、交通出行，我們不會認為這些都是不同領域的事情，我們是把它融會貫通，融在一起的。

人類在我們的頭腦當中有一個世界模型，很多時候我們并沒有意識到這個世界模型的存在，它就是我們對物理世界，對于人情世故這個世界常識的來源，但是這個世界模型非常重要。

當我們有了這樣的世界模型，我們在看眼前的一幅畫面，明明是一個二維畫面，我們會用自己頭腦當中的知識，把這個畫面在我們眼前構建成一個三維的，栩栩如生的畫面。

我們現在看到面前的禮堂、舞臺、座位，我們會覺得這是一個有縱深的，三維的舞臺。可是人工智能沒有這樣一個世界模型在自己的頭腦當中，它分辨圖象要用很多很多真的圖象，非常非常多的計算來做。

現在有一些實驗室做這樣的視覺，已經開始試圖用這樣一個模型來構造這樣的視覺。而我們的頭腦當中都有這樣的模型，我們有關于世界的理解、關于他人的理解，關于整個社會的理解，我們的常識系統，這種通識知識體系，是我們理解事情的基礎，也是我們超越人工智能的地方。

第二理解他人的能力，理解他人的能力，現在是有一些人工智能和人的語言對話，自然語言處理仍然還是一個難題，只有在特定領域的專業問答，可以有比較好的答案匹配，為什么自然語言處理會難呢?就是因為人工智能實際上還仍然不能理解大量的情景，就是因為它的頭腦里面沒有對人類世界、物理世界、人情世界的通識知識體系，所以他理解很多的自然情景都會很困難。

現在的語言很多時候是用的這樣一個優化算法的搜索，你出了一個問題，它去搜索一個答案匹配給你，但是很多時候并不能夠真正理解對方的意思。

此外人工智能由于沒有內心豐富的情感世界，并不能夠推己及人。我們人類是怎樣相互了解彼此的呢?有幾個方法，第一個我們用目光接觸。研究共情的學者會發現，最先進的靈長類的大猩猩可以通過這樣的目光交流，人類絕對可以通過目光來理解對方，小孩子大概從9個月的時候就開始有這種能力。我們頭腦當中有鏡像神經元，鏡像神經元可以直接反映出對方的一些意圖和對方的感受，我們能夠直接感受到對方。

另外，我們有推己及人的能力，在這個時候，當我們生病的時候，希望對方噓寒問暖，我們就能夠推導出對方生病的時候，一定希望我們噓寒問暖，而人工智能由于沒有這樣的自己內部的情感，它自然也很難推己及人。

人工智能在理解他人的能力方面，目前還是有很多的困難。我也知道有很多實驗室，現在已經開始試圖把整個的認知框架、認知模型帶到自然語言處理上面，但是可能是很久很久以后的事情。

第三個自我決定的能力，它得需要兩個方面的突破，一個是自我表征的能力，人工智能需要能夠自己說出來，我自己做這個事情是為什么。現在我們的智能網絡，當它學會了一件事情，你給到它很多數據，它直接給你說出一個結果，我們人并不知道它為什么這么做，它自己也說不出來為什么這么做。這種真正提取出對于自己來說有意義的因果表達能力，它使得我們做很多事情可以舉一反三，可以泛化，我們可以從一件事情學到的東西，可以帶著這樣的因果關系用到另外的事情。但是，人工智能在很多時候缺少這樣的語言認知能力。

此外，人工智能并沒有一個說，原來這就是一個我，這樣的一種自我意識，可能未來要到很久之后才會產生，不知道要到什么時候，其實人工智能目前并不是一個獨立體系，不像我們人與人，我們每個人所有的思想、靈魂都封閉在我們同一個身體里面，我們并不能隨時聯通到互聯網，但是人工智能不一樣，很多時候是要與其他的網絡去連接、聯通。

所以，這樣的孤立自我意識，很可能跟我們人完全不一樣。

現在這幾朵小小的烏云是人工智能目前不能做到和我們人類一樣的地方，未來有沒什么可能突破呢?有可能，但是不是現在，不僅僅靠算力提高，需要有更好的、更強的綜合性算法，以及更多技術突破。

這個老板就問我說，你覺得人工智能未來怎么達到一個更高水平的智慧呢?我說其實最好的方法就是更多地了解我們人自身，去理解我們人類自身的心智系統是怎么樣的。人工智能能夠在一個領域里面做到極致，但是我們人是一個自我綜合協調的系統，我們人并不是一個單一心智的，我曾經最喜歡的人工智能學家馬文·明斯，1985寫過一本書叫《心智社會》，其實是把人比作一個社會，人的心智里面每一部分，其實都像一個小人一樣，小人在一起組成了一個完整的、復雜的社會，人并不是有單一心智的。

馬文·明斯在《情感機器》中說，我認為人類的尊嚴來自于人類自身的構造，處理多種情況和困難的不計其數的方法，多樣性正是人和動物，與過去所知道的機器的主要區別。這是什么意思呢?現在很多時候，當我們制造機器的時候，我們總想尋找一種通用智能，就是用這一個智能解決所有的問題，但是人其實不是這樣的，人是一種綜合智能，在人的頭腦里面有不一樣的智能處理問題。當我們在街上看到一個車過來的時候，杏仁核發出警報，告訴我們危險要躲開，當我們看到一個老人摔倒在街上，一種同情憐憫讓我們想把他扶起來，但是另一個批判的聲音說，他有可能是騙子要躲開，但是另一個正義的聲音說，即使他是騙子，這樣可憐的老人我是不是應該幫助他。但是還會有一個綜合的，從一個全景的視野的角度會去分析這個時候的形勢、分析這個時候個人的情況、分析這個時候社會的狀況，可能會報警，也可能會介入處理當時的狀況。

所以在任何一個情形下，我們其實并不是用統一一個單一的智能來進行處理，我們的頭腦中其實有很多很多個聲音，我們是要處理這樣的新式社會。

人工智能目前只是一個絕頂的武林高手，但對于我們任何一個人來說，我們的頭腦里都是一個武林門派，我們學的更多是一種綜合處理，統一協調的系統性方法。

所以我是覺得在未來，其實人工智能它的下一步發展，不管它往哪個方向發展，它要處理的接下來就是綜合的、多功能的、多能力的、多目標的任務的相互協調，多種價值觀、多種任務的相互協調，這是我們需要更多地去理解人類的大腦、理解我們人類的心智系統。

結果，我跟老板說了這些以后，老板就說好吧，那我干脆就不要測了，既然人工智能肯定答不出這些問題，我就干脆把這個機器退貨吧。我說不行，耳聽為虛，眼見為實，我說了這么多都很理論，我們現在要來真實的測一測，看看人工智能是不是答出這些問題。

結果測了一下，大家都知道圖靈測試怎么測，人工智能和人他們在一個幕布以后問他們同樣的問題。第一個問題問了人工智能，人工智能說不知道，可是人也說我不知道。第二個問題問了人工智能，人工智能說不知道，人也說我怎么知道他心里怎么想的。第三個問題問了人工智能，人工智能說不知道，而人也說，其實我也不知道我接下來想干什么。

當我們這么反復地測來測去以后發現，原來我們認為人工智能不能回答的問題，其實這些人也不能回答。這個時候，不是人工智能無法通過圖靈測試，而是人無法通過圖靈測試，我們如果這些問題我們也不知道如何回答，那么其實我們是看不出我們和人工智能的區別，這其實不是人工智能的問題，而是我們的問題，如果我們沒有了這些綜合認知能力，如果我們也不能理解他人，如果我們也沒有了自我表征和自我決斷能力，那么其實我們就無法和人工智能做出區別。

所以，我自己會覺得人工智能最大的威脅是什么?是誤傷人類嗎?不是，汽車也會誤傷人類。是故意毀滅人類?也不是，因為實際上人工智能離故意毀滅我們還有很遠。是取代工作嗎?仍然不是，它們會取代一部分工作，但是他們會制造出更多更多的就業崗位。

人工智能對我們最大的威脅就在于，當我們過于依賴很多的數據系統以后，我們自己如果變得懶于思考、懶于自我反思，而讓我們自己的智慧退化的話，這是對人類最大的威脅。

我們所有的人天生與生俱來，帶著我們億萬年生物進化所具有的大腦先天的功能，大腦有很多神奇之處，我們自己都沒有完全的發掘，而我們人所具有的這種心智系統，實際上是有很強的綜合能力，是一個智慧系統，我們只有更多的認識到這點，認識到我們和人工智能的不同，理解它有哪些地方是超強的，是強于我們的，但是理解到我們有哪些地方和它們不一樣，能夠把我們自己真正不一樣的地方發揮出來，我們才不會讓我們自己的智能退化，才不會讓我們的文明退化。

所以未來在我看來人工智能和人會走兩條非常不一樣的路，人工智能會做到許許多多我們人類做不到的事兒，會是我們的輔助、是我們的工具，而我們人如果我們讓我們的智能在一直不斷地向前進，我們的人可以一直和人工智能攜手同行，就不存在威脅不威脅的事情，我們一起能攜手同行。

所以我覺得人工智能最大的意義就是它讓我們更多地理解我們自身，對人工智能思考越多，我們會發現我們自己的心智系統是越神奇的。所以我們越了解人工智能，我希望我們也能越了解我們自己，人工智能在彼岸，我們在此岸。通過對彼岸的遙望，我希望我們能更多地理解我們此岸的人類，希望我們能夠有更全景、更宏觀的視角看待我們的地球、看待我們的世界，我們都能有一個綜合全面的世界的模型，希望我們每個人都能更多的去理解他人的心思、理解我們自己的心思，能夠為自己做出決斷。所有這些都是人類智慧的最精髓的部分。

今天我講的故事純屬杜撰，但是我對于人工智能的思考，我凝結成六個故事和兩篇文章，在我下周要出版的新書里面，新書的名字就叫做《人之彼岸》，都是關于人工智能。我希望我們能夠通過對人工智能的思考更多地了解我們此岸的人類。

這就是我今天所要講的，謝謝大家!