每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

伴隨著ChatGPT的崛起，AI的風(fēng)險(xiǎn)之說(shuō)也不絕于耳。

當(dāng)?shù)貢r(shí)間5月30日，非營(yíng)利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開(kāi)信，稱(chēng)減輕AI（給人類(lèi)）帶來(lái)的滅絕風(fēng)險(xiǎn)應(yīng)成為全球性的優(yōu)先事項(xiàng)，與大流行病及核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)處于同等級(jí)別。目前已有350位AI大佬簽署了這封聯(lián)名公開(kāi)信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門(mén)人以及圖靈獎(jiǎng)獲得者、被譽(yù)為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio。

在此之前，Sam Altman等人也發(fā)表文章稱(chēng)，超級(jí)智能技術(shù)帶來(lái)的潛在利益和風(fēng)險(xiǎn)將比過(guò)去任何其他技術(shù)更加巨大。“在未來(lái)幾年內(nèi)，AI系統(tǒng)將在大多數(shù)領(lǐng)域超越專(zhuān)家技能水平，并開(kāi)展盡可能多的生產(chǎn)活動(dòng)。”

《每日經(jīng)濟(jì)新聞》記者近期對(duì)一系列行業(yè)開(kāi)展調(diào)查后發(fā)現(xiàn)，AI已經(jīng)廣泛應(yīng)用于電商、游戲、留學(xué)等行業(yè)，并給部分職業(yè)造成了巨大沖擊。

在此背景下，越來(lái)越多的人呼吁對(duì)AI行業(yè)進(jìn)行監(jiān)管。“現(xiàn)在是一個(gè)開(kāi)始思考超級(jí)智能（superintelligence）監(jiān)管的良好時(shí)機(jī)——未來(lái)的 AI 系統(tǒng)將比 AGI 都要強(qiáng)大。”Altman等如此說(shuō)道。

在這場(chǎng)轟轟烈烈的技術(shù)浪潮中，人類(lèi)應(yīng)該如何應(yīng)對(duì)？全球政府又該如何防范AI失控？每經(jīng)獨(dú)家采訪(fǎng)了在國(guó)際AI領(lǐng)域享譽(yù)盛名的“深度學(xué)習(xí)之父”Jürgen Schmidhuber、IBM AI倫理全球負(fù)責(zé)人Francesca Rossi，以及加州理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授Yaser S. Abu-Mostafa，探討人類(lèi)應(yīng)當(dāng)如何建立一個(gè)人機(jī)共存的世界。

圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1408722861

“這不僅僅是一場(chǎng)工業(yè)革命”

自ChatGPT誕生以來(lái)，人類(lèi)無(wú)不嘆服于A(yíng)I的強(qiáng)大，甚至許多人認(rèn)為，《終結(jié)者》和《黑客帝國(guó)》中上演的場(chǎng)景或?qū)⒃谖磥?lái)成為現(xiàn)實(shí)——硅基生物將主宰碳基生物。

《人類(lèi)簡(jiǎn)史》作者Yuval Noah Harari近期也發(fā)表了一場(chǎng)演講，暗示了這樣的可能性，“AI可能會(huì)改變生態(tài)系統(tǒng)的含義，因?yàn)樵诘厍虼嬖诘?0億年里，生態(tài)系統(tǒng)只包含有機(jī)生命形式。而現(xiàn)在，或者說(shuō)不久的將來(lái)，我們可能會(huì)看到第一種無(wú)機(jī)生命形式出現(xiàn)，或者至少是無(wú)機(jī)代理的出現(xiàn)。”

他表示，在科幻場(chǎng)景中，AI要構(gòu)成對(duì)人類(lèi)的重大威脅有兩個(gè)前提，即AI必須變得有感知力，發(fā)展出意識(shí)、感情和情緒，并且必須擅長(zhǎng)在物理世界中導(dǎo)航。然而，當(dāng)下的情況是，AI不需要意識(shí)就能威脅到人類(lèi)文明的生存。

在Harari看來(lái)，當(dāng)前我們身處的AI革命進(jìn)程最重要的一個(gè)方面是，AI正在以超越普通人平均能力的水平掌握語(yǔ)言。通過(guò)掌握語(yǔ)言，人工智能正在獲得通往所有機(jī)構(gòu)之門(mén)的主鑰匙，可以說(shuō)，AI破解了人類(lèi)文明的操作系統(tǒng)。“通過(guò)掌握語(yǔ)言，AI還能與人建立深入而親密的關(guān)系，利用親密的力量影響我們的觀(guān)點(diǎn)和世界觀(guān)。”他說(shuō)道。

“從長(zhǎng)遠(yuǎn)來(lái)看，AI將改變我們文明的方方面面。一切都會(huì)改變，這不僅僅是另一場(chǎng)工業(yè)革命。”被譽(yù)為“深度學(xué)習(xí)之父”、瑞士AI實(shí)驗(yàn)室IDSIA的科學(xué)事務(wù)主管Jürgen Schmidhuber告訴《每日經(jīng)濟(jì)新聞》記者。

“每5年，計(jì)算成本就會(huì)降低10倍。照這種指數(shù)趨勢(shì)，可以初步預(yù)測(cè)，21世紀(jì)將出現(xiàn)‘廉價(jià)’計(jì)算機(jī)，其原始計(jì)算能力是所有人類(lèi)大腦總和的一千倍。很快，數(shù)百萬(wàn)、數(shù)十億和數(shù)萬(wàn)億這樣的設(shè)備也會(huì)涌現(xiàn)，幾乎所有的智能體都能超越人腦。這是一種新事物，最終將超越人類(lèi)，甚至超越生物學(xué)。”他進(jìn)一步說(shuō)道。

Schmidhuber于1997年提出的LSTM（長(zhǎng)短期記憶網(wǎng)絡(luò)）現(xiàn)廣泛應(yīng)用于谷歌翻譯、蘋(píng)果Siri、亞馬遜Alex等應(yīng)用，是深度學(xué)習(xí)領(lǐng)域商業(yè)化最強(qiáng)的技術(shù)之一；而他提出的具有線(xiàn)性化自注意力的 Transformers架構(gòu)也是后來(lái)ChatGPT誕生的基礎(chǔ)。

對(duì)于A(yíng)I在人類(lèi)社會(huì)中扮演的角色，國(guó)際機(jī)器學(xué)習(xí)權(quán)威學(xué)者、現(xiàn)加州理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授Yaser S. Abu-Mostafa表示，“AI可以且應(yīng)該繼續(xù)從屬于人類(lèi)，從長(zhǎng)遠(yuǎn)來(lái)看將對(duì)我們大有裨益。例如，在醫(yī)學(xué)領(lǐng)域，AI正在取得革命性的進(jìn)步，這將對(duì)我們的生活和我們的生活質(zhì)量產(chǎn)生深遠(yuǎn)的積極影響。”Abu-Mostafa也是神經(jīng)信息處理系統(tǒng)大會(huì)的創(chuàng)始項(xiàng)目主席，該會(huì)議在機(jī)器學(xué)習(xí)領(lǐng)域獨(dú)具權(quán)威性。

這一點(diǎn)，Schmidhuber同樣深信不疑，“在A(yíng)I的快速發(fā)展中，個(gè)人和組織將以多種方式獲益匪淺。”

“搶飯碗”？陣痛之下也有機(jī)會(huì)

在更廣泛的討論中，大部分人對(duì)AI的恐懼更多來(lái)源于洶涌的“AI替代人工”之說(shuō)。

3月份，OpenAI和非營(yíng)利性研究實(shí)驗(yàn)機(jī)構(gòu)OpenResearch，以及賓夕法尼亞大學(xué)合作發(fā)表的一篇論文稱(chēng)，約八成的美國(guó)勞動(dòng)力可能至少有10%的工作任務(wù)受到大型語(yǔ)言模型引入的影響，而約19%的工人可能會(huì)看到至少50%的工作任務(wù)受到影響。高盛此前也曾在一篇報(bào)告表示，AI革命可以取代3億歐美白領(lǐng)崗位，受影響最大的是法律和行政工作，而建筑師、工程師也有被淘汰的危險(xiǎn)。

實(shí)際上，在《每日經(jīng)濟(jì)新聞》的系列調(diào)查報(bào)道中，我們發(fā)現(xiàn)，AI的出現(xiàn)擠壓了許多打工人的空間，例如跨境電商領(lǐng)域的文案、翻譯、模特，游戲行業(yè)的原畫(huà)師，留學(xué)教育機(jī)構(gòu)的文書(shū)工作者等。

但值得注意的是，同樣受益于A(yíng)I的發(fā)展，各行各業(yè)的效率得以大幅提升。以跨境電商為例，有受訪(fǎng)者告訴每經(jīng)記者，借助ChatGPT等AI工具能在10分鐘內(nèi)完成以前需要花數(shù)萬(wàn)元成本做的事情，在今年3~4月，其公司業(yè)績(jī)額相比去年同期的增幅超過(guò)200%。

科研人員的數(shù)據(jù)也說(shuō)明了這一點(diǎn)。據(jù)斯坦福大學(xué)和麻省理工大學(xué)對(duì)一家世界500強(qiáng)軟件公司客服人員長(zhǎng)達(dá)一年的研究，生成式AI對(duì)工作效率的提高平均為14%，而技能生疏的新員工獲益最大，效率提升了35%。

關(guān)于A(yíng)I是否能夠替代人工，也逐漸有了更多不同的聲音。德銀最近發(fā)布的報(bào)告中表示，歷史證明AI最終會(huì)創(chuàng)造而不是破壞工作，AI浪潮下新增就業(yè)機(jī)會(huì)多于被它取代的崗位。

“我在80年代曾經(jīng)說(shuō)過(guò)，預(yù)測(cè)哪些工作會(huì)消失很容易，但很難預(yù)測(cè)哪些新工作會(huì)被創(chuàng)造出來(lái)。值得注意的是，人均機(jī)器人數(shù)量較高的國(guó)家，失業(yè)率反而相對(duì)較低，因?yàn)椋ń柚录夹g(shù)）創(chuàng)造了許多新工作。”Schmidhuber告訴記者，“30年前，誰(shuí)又能預(yù)料到現(xiàn)在這么多人做視頻博主賺錢(qián)呢？”

《經(jīng)濟(jì)學(xué)人》近期發(fā)表的名為《你的工作可能將不受AI的影響》一文中的觀(guān)點(diǎn)與此不謀而合。報(bào)道中提到， 2013年，牛津大學(xué)曾發(fā)表過(guò)一篇被廣泛引用的論文，指出自動(dòng)化可能會(huì)在接下來(lái)的十年左右消滅47%的美國(guó)工作崗位。但實(shí)際發(fā)生的事情讓人們大吃一驚，在過(guò)去十年中，發(fā)達(dá)國(guó)家的平均失業(yè)率大約減半，工作年齡人口的就業(yè)比例處于歷史最高水平，日本、新加坡和韓國(guó)等自動(dòng)化和機(jī)器人技術(shù)普及率最高的國(guó)家失業(yè)率反而最低。

1991年-2023年G7國(guó)家的失業(yè)率趨勢(shì) 圖片來(lái)源：經(jīng)濟(jì)學(xué)人

在談到AI未來(lái)將在人類(lèi)社會(huì)中扮演的角色時(shí)，IBM院士、AI倫理全球負(fù)責(zé)人Francesca Rossi對(duì)每經(jīng)記者表示，“AI應(yīng)該旨在增強(qiáng)而非取代人類(lèi)。”

“的確，AI會(huì)對(duì)很多工作產(chǎn)生暫時(shí)的負(fù)面影響，而且影響會(huì)發(fā)生得比較快，所以我們需要有一個(gè)安全網(wǎng)來(lái)盡量減少過(guò)渡期的痛苦。”Abu-Mostafa說(shuō)道。

如何實(shí)現(xiàn)“人機(jī)共存”的世界？

那么，在這個(gè)過(guò)渡期內(nèi)，世界應(yīng)該如何搭建這個(gè)安全網(wǎng)？

在Francesca Rossi看來(lái)，對(duì)AI的擔(dān)憂(yōu)往往源于對(duì)“黑匣子”內(nèi)部發(fā)生的事情缺乏理解，“AI系統(tǒng)的開(kāi)發(fā)和應(yīng)用必須根植于倫理，這意味著要優(yōu)先考慮負(fù)責(zé)任的培訓(xùn)、合作和監(jiān)督。隨著AI技術(shù)不斷被普及和使用，人們對(duì)這項(xiàng)技術(shù)仍然存在戒心是正常的，但現(xiàn)實(shí)情況是，AI的優(yōu)勢(shì)是顯而易見(jiàn)的。只有將倫理置于A(yíng)I開(kāi)發(fā)的核心，社會(huì)才能學(xué)會(huì)信任它。”

“在部署AI時(shí)，首先應(yīng)該考慮目前適用于各種產(chǎn)品的產(chǎn)品安全和質(zhì)量預(yù)防措施是否也可以適用于A(yíng)I產(chǎn)品。此外，還需要一個(gè)類(lèi)似于FDA的機(jī)構(gòu)來(lái)批準(zhǔn)AI產(chǎn)品，并確保它們是安全的、沒(méi)有偏見(jiàn)的，并且其帶來(lái)的‘副作用’（例如隱私泄露等）在可接受的標(biāo)準(zhǔn)內(nèi)。”Abu-Mostafa向《每日經(jīng)濟(jì)新聞》記者說(shuō)道。

OpenAI創(chuàng)始人Altman近日在出席美國(guó)國(guó)會(huì)聽(tīng)證會(huì)時(shí)也建議美國(guó)國(guó)會(huì)成立一個(gè)新機(jī)構(gòu)進(jìn)行監(jiān)管。他說(shuō)，“因?yàn)槿斯ぶ悄苁遣粫?huì)自己管理自己的，所以我們需要類(lèi)似于IAEA（國(guó)際原子能機(jī)構(gòu)）的國(guó)際組織來(lái)進(jìn)行超級(jí)智能方面的監(jiān)管。”微軟總裁Brad Smith也支持美國(guó)政府成立新的機(jī)構(gòu)來(lái)為主要AI系統(tǒng)發(fā)放許可。

圖片來(lái)源：BBC視頻截圖

隱私風(fēng)險(xiǎn)的確是AI部署中被廣泛質(zhì)疑的一個(gè)問(wèn)題。4月，三星被曝在引入ChatGPT不到20天就出現(xiàn)了3起公司機(jī)密外泄的事故。

對(duì)此，Schmidhuber向記者坦言，“隱私監(jiān)視和丟失可能是日益復(fù)雜的社會(huì)不可避免的后果。城市、國(guó)家和公司等超級(jí)有機(jī)體的結(jié)構(gòu)越復(fù)雜，它收集到的信息就越全面。新冠時(shí)期為了減少病毒傳播而進(jìn)行的人員追蹤就是最近的例子。”

而在A(yíng)I引領(lǐng)的革命浪潮里，全球化、快速發(fā)展的數(shù)據(jù)則是最有價(jià)值的，甚至被視為“AI時(shí)代的石油”。那怎樣才能更有效地進(jìn)行數(shù)據(jù)管理，保障數(shù)據(jù)安全呢？

Schmidhuber認(rèn)為，數(shù)據(jù)所有權(quán)有助于解決這個(gè)問(wèn)題。“如果數(shù)據(jù)真的是‘新石油’，那么它應(yīng)該有價(jià)格。然而目前，主要的監(jiān)控平臺(tái)不會(huì)為用戶(hù)的數(shù)據(jù)和隱私的損失進(jìn)行賠償。但在未來(lái)，我們可能會(huì)看到嘗試創(chuàng)建高效的數(shù)據(jù)市場(chǎng)，通過(guò)供需之間的相互作用，可以看到隱私數(shù)據(jù)的真實(shí)價(jià)值。”他告訴《每日經(jīng)濟(jì)新聞》記者。

而對(duì)于普通消費(fèi)者來(lái)說(shuō)，Abu-Mostafa認(rèn)為，AI產(chǎn)品在經(jīng)過(guò)安全性、有效性、公平性等標(biāo)準(zhǔn)的嚴(yán)格測(cè)試后，消費(fèi)者的信任也將逐漸建立。

當(dāng)前，各國(guó)政府和機(jī)構(gòu)已經(jīng)開(kāi)始探索如何加強(qiáng)AI監(jiān)管。

日本高官近日表示，G7政府官員將舉行首次工作級(jí)AI會(huì)議，討論知識(shí)產(chǎn)權(quán)保護(hù)、虛假信息以及應(yīng)如何管理AI技術(shù)等問(wèn)題。美國(guó)白宮已經(jīng)宣布首個(gè)AI監(jiān)管計(jì)劃，美國(guó)國(guó)家科學(xué)基金會(huì)計(jì)劃撥款1.4億美元，用于啟動(dòng)7所新的國(guó)家AI研究院；歐洲議會(huì)下屬委員會(huì)也已通過(guò)關(guān)于《AI法案》的談判授權(quán)草案，該法案有望成為世界上第一個(gè)監(jiān)管AI的全面立法。

隨著AI在人類(lèi)世界的廣泛運(yùn)用，如何實(shí)現(xiàn)人機(jī)共存的平衡呢？Schmidhuber告訴《每日經(jīng)濟(jì)新聞》記者，“無(wú)論我們?cè)谀硞€(gè)時(shí)候達(dá)到什么樣的平衡，不久之后它就必須改變，因?yàn)锳I會(huì)不斷學(xué)習(xí)做以前只有人類(lèi)才能做的新事情。因此，在自動(dòng)化和人類(lèi)參與之間，平衡點(diǎn)會(huì)不斷變化，人類(lèi)也應(yīng)該隨時(shí)準(zhǔn)備學(xué)習(xí)新事物。就像200年前，在許多國(guó)家，60%的人從事農(nóng)業(yè)工作。而在今天，這個(gè)數(shù)據(jù)只剩下1%~2%。”

在A(yíng)I被廣泛應(yīng)用的同時(shí)，人類(lèi)也需警惕過(guò)度依賴(lài)AI。Abu-Mostafa表示，“所有自動(dòng)化都有相同的風(fēng)險(xiǎn)。如果出現(xiàn)問(wèn)題，就沒(méi)有后備方案，因?yàn)檫^(guò)去執(zhí)行任務(wù)的人類(lèi)團(tuán)隊(duì)已經(jīng)解散，無(wú)法輕易重新組合以挽救局面。”

對(duì)此，Schmidhuber稱(chēng)，擁抱并掌握新技術(shù)有助于避免這種情況的發(fā)生。“回顧歷史，當(dāng)計(jì)算器首次推出時(shí)，教師禁止學(xué)生在學(xué)校使用它，以防止過(guò)度依賴(lài)機(jī)器。但現(xiàn)在，孩子們既學(xué)習(xí)算術(shù)的基本方法也學(xué)習(xí)使用計(jì)算器。”他對(duì)記者解釋說(shuō)，“今天的共識(shí)是，我們應(yīng)確保孩子學(xué)會(huì)自己寫(xiě)論文，也要確保他們學(xué)習(xí)如何在A(yíng)I的幫助下寫(xiě)論文。”

封面圖片來(lái)源：視覺(jué)中國(guó)-VCG41N1188747468