每經記者 文巧    每經編輯 蘭素英    

伴隨著ChatGPT的崛起，AI的風險之說也不絕于耳。當地時間5月30日，非營利組織“人工智能安全中心”（Center for AI Safety）在其官網發布一封聯名公開信，稱減輕AI（給人類）帶來的滅絕風險應成為全球性的優先事項，與大流行病及核戰爭等其他影響社會的大規模風險處于同等級別。

在此背景下，越來越多的人呼吁對AI行業進行監管。“現在是一個開始思考超級智能（superintelligence）監管的良好時機——未來的AI系統將比AGI都要強大。”Altman等如此說道。

在這場轟轟烈烈的技術浪潮中，人類應該如何應對？全球政府又該如何防范AI失控？

《每日經濟新聞》記者采訪了在國際AI領域享譽盛名的“深度學習之父”Jürgen Schmidhuber、IBM AI倫理全球負責人Francesca Rossi，以及加州理工學院電氣工程和計算機科學教授Yaser S.Abu-Mostafa，探討人類應當如何建立一個人機共存的世界。

2023年6月1日，人們正在觀看一臺帶有Grace hopper超級芯片CPU的服務器，該CPU用于生成式人工智能 視覺中國圖

“這不僅是場工業革命”

自ChatGPT誕生以來，人類無不嘆服于AI的強大，甚至許多人認為，《終結者》和《黑客帝國》中上演的場景或將在未來成為現實——硅基生物將主宰碳基生物。

《人類簡史》作者Yuval Noah Harari近期也發表了一場演講，暗示了這樣的可能性，“AI可能會改變生態系統的含義，因為在地球存在的40億年里，生態系統只包含有機生命形式。而現在，或者說不久的將來，我們可能會看到第一種無機生命形式出現，或者至少是無機代理的出現。”

他表示，在科幻場景中，AI要構成對人類的重大威脅有兩個前提，即AI必須變得有感知力，發展出意識、感情和情緒，并且必須擅長在物理世界中導航。然而，當下的情況是，AI不需要意識就能威脅到人類文明的生存。

在Harari看來，當前我們身處的AI革命進程最重要的一個方面是，AI正在以超越普通人平均能力的水平掌握語言。通過掌握語言，人工智能正在獲得通往所有機構之門的主鑰匙，可以說，AI破解了人類文明的操作系統。“通過掌握語言，AI還能與人建立深入而親密的關系，利用親密的力量影響我們的觀點和世界觀。”他說道。

“從長遠來看，AI將改變我們文明的方方面面。一切都會改變，這不僅僅是另一場工業革命。”被譽為“深度學習之父”、瑞士AI實驗室IDSIA的科學事務主管Jürgen Schmidhuber告訴《每日經濟新聞》記者。

“每5年，計算成本就會降低10倍。照這種指數趨勢，可以初步預測，21世紀將出現‘廉價’計算機，其原始計算能力是所有人類大腦總和的一千倍。很快，數百萬、數十億和數萬億這樣的設備也會涌現，幾乎所有的智能體都能超越人腦。這是一種新事物，最終將超越人類，甚至超越生物學。”他進一步說道。

Schmidhuber于1997年提出的LSTM（長短期記憶網絡）現廣泛應用于谷歌翻譯、蘋果Siri、亞馬遜Alex等應用，是深度學習領域商業化最強的技術之一；而他提出的具有線性化自注意力的Transformers架構也是后來ChatGPT誕生的基礎。

對于AI在人類社會中扮演的角色，國際機器學習權威學者、現加州理工學院電氣工程和計算機科學教授Yaser S. Abu-Mostafa表示，“AI可以且應該繼續從屬于人類，從長遠來看將對我們大有裨益。例如，在醫學領域，AI正在取得革命性的進步，這將對我們的生活和我們的生活質量產生深遠的積極影響。”Abu-Mostafa也是神經信息處理系統大會的創始項目主席，該會議在機器學習領域獨具權威性。

這一點，Schmidhuber同樣深信不疑，“在AI的快速發展中，個人和組織將以多種方式獲益匪淺。”

AI在未來扮演哪些角色？

在更廣泛的討論中，大部分人對AI的恐懼更多來源于洶涌的“AI替代人工”之說。

3月，OpenAI和非營利性研究實驗機構OpenResearch，以及賓夕法尼亞大學合作發表的一篇論文稱，約八成的美國勞動力可能至少有10%的工作任務受到大型語言模型引入的影響，而約19%的工人可能會看到至少50%的工作任務受到影響。高盛此前也曾在一篇報告表示，AI革命可以取代3億歐美白領崗位，受影響最大的是法律和行政工作，而建筑師、工程師也有被淘汰的危險。

值得注意的是，同樣受益于AI的發展，各行各業的效率得以大幅提升。以跨境電商為例，有受訪者告訴《每日經濟新聞》記者記者，借助ChatGPT等AI工具能在10分鐘內完成以前需要花數萬元成本做的事情，在今年3~4月，其公司業績額相比去年同期的增幅超過200%。

科研人員的數據也說明了這一點。據斯坦福大學和麻省理工大學對一家世界500強軟件公司客服人員長達一年的研究，生成式AI對工作效率的提高平均為14%，而技能生疏的新員工獲益最大，效率提升了35%。

關于AI是否能夠替代人工，也逐漸有了更多不同的聲音。德銀最近發布的報告中表示，歷史證明AI最終會創造而不是破壞工作，AI浪潮下新增就業機會多于被它取代的崗位。

“我在上世紀80年代曾說過，預測哪些工作會消失很容易，但難預測哪些新工作會被創造出來。人均機器人數量較高的國家，失業率反而相對較低，因為（借助新技術）創造了許多新工作。”Schmidhuber告訴記者，“30年前，誰又能預料到現在這么多人做視頻博主呢？”

《經濟學人》近期發表的名為《你的工作可能將不受AI的影響》一文中的觀點與此不謀而合。報道中提到，2013年，牛津大學曾發表過一篇被廣泛引用的論文，指出自動化可能會在接下來的十年左右消滅47%的美國工作崗位。但實際發生的事情讓人們大吃一驚，在過去十年中，發達國家的平均失業率大約減半，工作年齡人口的就業比例處于歷史最高水平，日本、新加坡和韓國等自動化和機器人技術普及率最高的國家失業率反而最低。

在談到AI未來將在人類社會中扮演的角色時，IBM院士、AI倫理全球負責人Francesca Rossi對《每日經濟新聞》記者表示，“AI應該旨在增強而非取代人類。”

“的確，AI會對很多工作產生暫時的負面影響，而且影響會發生得比較快，所以我們需要有一個安全網來盡量減少過渡期的痛苦。”Abu-Mostafa說道。

未來如何實現人機共存？

那么，在這個過渡期內，世界應該如何搭建這個安全網？

在Francesca Rossi看來，對AI的擔憂往往源于對“黑匣子”內部發生的事情缺乏理解，“AI系統的開發和應用必須根植于倫理，這意味著要優先考慮負責任的培訓、合作和監督。隨著AI技術不斷被普及和使用，人們對這項技術仍然存在戒心是正常的，但現實情況是，AI的優勢是顯而易見的。只有將倫理置于AI開發的核心，社會才能學會信任它。”

“在部署AI時，首先應該考慮目前適用于各種產品的產品安全和質量預防措施是否也可以適用于AI產品。此外，還需要一個類似于FDA的機構來批準AI產品，并確保它們是安全的、沒有偏見的，并且其帶來的‘副作用’（例如隱私泄露等）在可接受的標準內。”Abu-Mostafa向《每日經濟新聞》記者說道。

隱私風險的確是AI部署中被廣泛質疑的一個問題。4月，三星被曝在引入ChatGPT不到20天就出現了3起公司機密外泄的事故。

對此，Schmidhuber向記者坦言，“隱私監視和丟失可能是日益復雜的社會不可避免的后果。城市、國家和公司等超級有機體的結構越復雜，它收集到的信息就越全面。新冠時期為了減少病毒傳播而進行的人員追蹤就是最近的例子。”

而在AI引領的革命浪潮里，全球化、快速發展的數據則是最有價值的，甚至被視為“AI時代的石油”。那怎樣才能更有效地進行數據管理，保障數據安全呢？

Schmidhuber認為，數據所有權有助于解決這個問題。“如果數據真的是‘新石油’，那么它應該有價格。然而目前，主要的監控平臺不會為用戶的數據和隱私的損失進行賠償。但在未來，我們可能會看到嘗試創建高效的數據市場，通過供需之間的相互作用，可以看到隱私數據的真實價值。”他告訴《每日經濟新聞》記者。

而對于普通消費者來說，Abu-Mostafa認為，AI產品在經過安全性、有效性、公平性等標準的嚴格測試后，消費者的信任也將逐漸建立。

隨著AI在人類世界廣泛運用，如何實現人機共存的平衡？

Schmidhuber告訴《每日經濟新聞》記者，“無論我們在某個時候達到什么樣的平衡，不久之后它就必須改變，因為AI會不斷學習做以前只有人類才能做的新事情。因此，在自動化和人類參與之間，平衡點會不斷變化，人類也應該隨時準備學習新事物。就像200年前，在許多國家，60%的人從事農業工作。而在今天，這個數據只剩下1%~2%。”

封面圖片來源：視覺中國