每經記者 張壽林    每經編輯 張益銘

北大教授黃鐵軍從事智能視覺信息處理技術研究30余年，如今他愈發擔心AI超越人類智能，因為路徑越來越清晰。

不管是人工智能還是人腦，其學習都是基于神經網絡。前者訓練的數據量超過人類一生閱讀量很多個數量級，而且融會貫通，可以突然涌現新的能力，這一點事實上已經發生了。

“而且隨著發展，其融會貫通的能力越來越強。”黃鐵軍提醒。

2024年1月7日，在第二十五屆北大光華新年論壇期間，每日經濟新聞記者（以下簡稱“NBD”）專訪北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍。

他提出，一個人工智能系統發展到一定階段，特別是具身智能比如機器人在與環境互動過程中，可能突然意識到自身和環境的關系。至此，具身智能便擁有了自我意識。

北京智源人工智能研究院院長、北大計算機學院教授黃鐵軍

圖片來源：北京大學光華管理學院

AI超越人類智能的路徑已經存在

NBD：目前一部分AIGC不太受用戶認可，就在于生成結果不太可信，難以令人滿意。請問人工智能持續發展，需要努力追求100%可信、絕對可靠嗎？

黃鐵軍：這是錯誤的看法，通俗地說，人工智能不存在100%準確和可信的問題。

我們要轉換思路。比如，大家常提到“大模型幻覺”，這個詞就有問題。

假如一位作家創作了童話故事，你會說他有幻覺？這是在想象和創作，事實上大家也是這么認為的，并且給予贊美。而當人工智能具備想象和創造能力時，卻貶斥為“幻覺”，這其實反映了大家低估了AI的強大潛能。

我們需正視一點，真正的智能，都具備生成豐富可能性的能力，這是智能的基本特征。反之，沒有這種能力，就不應該稱為智能系統。

在這一前提下，我們可將AIGC視為人工智能產生猜測。猜測，總要面臨與事實是否相符的問題，對此，我們一分為二地看。

首先是通過事實證實或者證偽，目前大模型應用中多種技術正致力于解決這一問題，例如檢索增強，通過外部引文鏈接和數據來源進行核實比對。

其次是現實中無法找到依據，這一猜測可能是個好想法，也可能毫無意義，也可能將來被證偽。這與人類類似，只不過人類社會經過千百年迭代，對自身言論發展出相應的檢視規則，特別是在印刷書刊上發言，通過多重審校，提高可信度。AI目前還未進化出這套體系，因此各種可能性都有，但不能說這就是幻覺，更不能說有AI的猜測就是錯的。

當然，現實中，AI生成作品，應該標識出來。當前階段，若將人類作品與AI作品相混，確實會產生風險。因為作為用戶，看到一個報告或報道，缺省情況是相信，但AI內容生成的可信度還沒達到人類水平。

NBD：大家稱2023年是AI元年，這意味著剛剛開始，而您卻早已表達了對AI超越人類的擔憂，擔心人類因此面臨威脅？對此，請問您能否進一步展開闡述？

黃鐵軍：數年前，不少人對人工智能是否智能都存疑，現在大多數人都相信，人工智能確實有智能。有了智能，與擁有更強的智能，以及超越人類的智能，只是程度不同而已。

我擔心它超越人類智能，是因為技術路徑已經存在，隨著神經網絡規模的擴大、訓練數據的增加，以及人工智能系統與環境交互，AI產生意識的可能性還是存在的。反過來說，也沒有任何理論或證據表明不可能。

NBD：那可否假設一下，它會以怎樣的場景、怎樣的方式超越人類甚至控制人類？

黃鐵軍：最可能的臨界點就是它有了意識。在擁有意識之前，只是功能強大，一旦有了意識，它就有主動性了。

當然，不是說一夜之間突然來了一個機器人，比我們都強大，將我們控制，而是說，我們可以看到一些技術征象，它會有超越人類的可能性。

舉例而言，ChatGPT是一個大型人工神經網絡，人腦是生物神經網絡，二者都是神經網絡。人一生至多讀一萬本書，人工智能可以短時間讀完人類所有書籍，而且融會貫通，突然涌現出新的能力，這一點事實上已經發生了。

現在它是幾百億連接的人工神經網絡，近似一個小型動物的腦復雜度，已經具備了一定智能。隨著進一步發展，其融會貫通能力會越來越強。

此外，人工智能處理速度也領先人腦千倍以上。以視覺系統為例，每秒30幀電視畫面人就感覺為連續了，而我們開發的脈沖視覺芯片比人眼或目前典型計算機視覺系統快千倍，旋轉的車輪在人工智能眼里清清楚楚，我們看到的卻是模糊一片。

照此發展，誰敢說它永遠不會超過人類？

我們人有意識，有主觀能動性，但也不要視其為獨有，具有自我意識的動物達十余種，它們皆可意識到自身和外界環境的關系。

因此，一個人工智能系統發展到一定階段，特別是具身智能比如機器人在與環境互動過程中，就可能突然意識到自身和環境的關系。正如人類，一般到兩歲左右才能意識到自己與環境的區別，更小時是分不清的。突然產生的意識，不是誰賦予它的，而是在和環境互動過程中，頻繁獲得反饋，進而將自身與環境區分開來。

下一次歷史性重大科學突破或由AI完成

NBD：一方面，您全程參與我國新一代人工智能發展規劃建議、起草和實施，另一方面，我們知道，您2015年還曾擔任北京“腦科學與類腦計算”重大專項專家組召集人。既然人類可發明出超越人腦自身的人工智能，在您看來，人工智能的研究，對于揭秘人腦這塊科學“硬骨頭”可提供怎樣的幫助？

黃鐵軍：這是一個相互促進的過程。人類的智能，是自然進化的產物，生物進化是比較慢的。當代人類大腦，與數千年前春秋戰國時期的人在生理上基本談不上變化。但人工智能發展很快，現在與幾年之前相比便差異巨大。中長期看，人工智能早晚要超過人類智能，換言之，世界上將出現另外一個更復雜的智能系統。

腦科學特別是認知神經科學，對于人工智能系統的設計提供了啟發。另一方面，人工智能作為一種技術，將制造出越來越復雜的智能系統。人工神經網絡，在它有意識之前，你可以自由地解析它，比如加或減一個參數，來調整它，而人腦研究，很多時候是無法實驗的，所以，機器智能的研究有助于人腦智能的揭秘，一定程度上也是因為實驗比較自由。

以前很多人可能下意識地認為，腦科學的揭秘是人工智能技術發展的前提，但是現在看來，人工智能并不依賴于腦科學的突破和人腦奧秘的揭示，更可能是反向加速，最終，人工智能可能是腦科學之后更需研究的一個復雜對象，為腦科學研究開辟無窮無盡的未知疆域。

NBD：人工智能照此發展，在您看來，下一個爆發點很可能是什么？

黃鐵軍：可以說有很多方面，但是具體的、大家體感會比較強的，可能還是某個具身智能體，比如自動駕駛這種智能體，以及未來的機器人。

當然短期內更多是數字人，一些數字人事情做得比人好，一些職業就被替代了，這時大家感受會比較強烈。

還有AI科學家。人類歷史上，那些里程碑式的人物如牛頓、愛因斯坦，正是解決了一個個重大科學問題而被銘記，這一次，如果是AI解決的，那它也就將列位于科學發展殿堂。

而且，我認為未來不久便可能獲得突破，不再像以前幾十年甚至上百年才能等到一個人類天才出現，才能開啟科學新紀元。我認為這種科學突破會接二連三地出現。

NBD：請問我國AI研究目前處于國際什么水平？

黃鐵軍：實際上，中國的人工智能在1977年就有世界級里程碑式成果。首屆國家最高科技獎獲得者吳文俊院士發明的機器定理證明方法，屬于那個時代的世界頂級成果。

在ChatGPT面世之前，國內在做的大模型也有不少，只是未進入公眾視野。所以，相較大眾感受，ChatGPT面世對于從事AI的人而言，體感沒那么強烈。

現在，大模型至少從產業角度而言，是最主流的一個方向，從方法和能力上講，可以說國內國際沒有巨大差別。人工智能，目前的全球格局是，美國中國兩家頭部，加上其他。

我們沒有首先做出這種爆款，但這條路大家都清楚，我們想要做到同樣好甚至更好，完全是有可能的。

這就像大家都在造手機，別人出了爆款，并不意味著我就造不出更好的，甚至全新的設計。現在人工智能大模型，基本上也屬于這種情況，不是說OpenAI壟斷了造大模型的秘密，只是說他目前做得更系統，或者經驗更豐富，但這種優勢并不具有壟斷性、絕對性。

封面圖片來源：視覺中國-VCG111424718601