每經編輯 杜宇    每經實習編輯 宋欣悅    

近日，在斯坦福大學“以人為本”人工智能研究院（簡稱HAI）五周年慶典上，馬克·安德森（Marc Andreessen）與HAI研究所所長“AI教母”李飛飛展開了一場深入的爐邊對話，探討了人工智能的未來發展、創新生態系統的構建，以及開源在技術進步中的重要性。

馬克·安德森是第一代瀏覽器的締造者。1993年，安德森受到硅谷著名風險投資家吉姆·克拉克的邀請，合作開發互聯網瀏覽器。二人合伙成立了Mosaic通訊公司，后更名為網景通訊公司。很快，安德森帶領他的團隊成功開發出新版本的osaic瀏覽器。

圖片來源：截圖于Youtube

核心內容

1、關于開源受限的后果

如果開源被禁止或受到某種程度的限制，影響將非常重大。禁止開源的話，創業公司會紛紛倒閉。所有的發展基本上都被大公司壟斷，這些公司將永遠掌握權力。

2、關于開源的重要性

現代技術，現代計算機科學和現代軟件基本上是一個三角關系：開源、創業公司和學術界。

3、關于AI的安全問題

我有一個九歲的孩子，我希望他能夠注冊使用互聯網服務，并且希望他能有像迪士尼樂園那樣的體驗。但我希望他能有一些控制。我認為公司在這方面有很大的自主權。

4、人工智能“一夜成名”

人工智能領域實際上已經有80年的歷史了。現在一夜成名，這真的是一件非常了不起的事情。

圖片來源：截圖于Youtube

對話中，安德森分享了他對技術監管的看法，特別是關于預防原則的討論。他警告說，過度監管可能會阻礙技術的發展，以德國綠黨對核能的回應和美國尼克松時期的“獨立計劃”為例，指出了監管過度可能帶來長遠影響。

李飛飛詢問了開源在現代技術發展中的角色。安德森認為，開源不僅是軟件代碼的自由，更是創新生態系統的關鍵：“如果開源以某種方式被禁止或限制，那將是影響非常巨大的。”他警告說，過度的限制可能會導致初創公司倒閉，創新受限，最終導致技術發展被少數大公司壟斷。

在討論人工智能的信任與安全時，安德森指出，這些概念已經被預防原則所“劫持”，并可能導致過度的自我監管：“信任和安全是一個術語，基本上在現代科技公司內部，它相當于內部事務。”

圖片來源：截圖于Youtube

在討論斯坦福大學在人工智能領域的歷史和未來時，安德森表達了他的期望：“我希望斯坦福大學能夠捍衛知識自由、學術自由、實驗自由、創新自由、開發自由和部署自由。”同時，他也強調了政府在資助人工智能研究中的作用，并對未來持樂觀態度。

作為HAI研究所的所長，李飛飛對人工智能的未來發展充滿期待：“我們正處于人工智能的黎明時期。”她認為，HAI將繼續在技術創新和跨學科研究中發揮重要作用。

以下為李飛飛與馬克·安德森對話節選：

李飛飛：

我非常興奮能主持與馬克的爐邊談話，馬克是我多年的好友和同事。我不知道你們對馬克的背景了解多少，雖然馬克無需過多介紹，但真正讓我印象深刻的是，他在互聯網初期就已經參與其中，是推動互聯網發展的重要人物之一。而現在，我們正處于人工智能的初期階段，作為硅谷有影響力的風險投資家，馬克所在的公司正處于推動人工智能發展的核心位置。另外，我還想提到的是，馬克在去年寫了一篇非常有影響力的《技術樂觀主義者宣言》，這篇宣言因其堅定地認為由自由市場驅動的技術進步對人類進步至關重要而廣受關注。

馬克，你一直是振興這個生態系統方面的非常積極的倡導者。你相信AI，讓AI發生，創造AI。今天，我們在這里慶祝HAI五周年。我們正處于最新一代人工智能革命的中心。進一步闡述。請與我們分享您的想法。

馬克：

首先，很高興能來到這里，看到HAI在過去五年里所做的所有工作，真的非常棒。首先，我認為這次對話的進行非常好。你知道，在硅谷的前20年，我們基本上只是在開發工具。而實際上，在過去十年里，我才開始描述硅谷在政治和倫理以及這些更大的社會問題上的角色，我們開發出所有這些工具后，發現它們對社會和政治系統確實非常重要，但卻有點措手不及，不知道該如何應對。

為了說明我的觀點，我先講一個故事，這個故事可以幫助你了解我的思考方式。如今圍繞社交媒體進行的討論已經持續很久了，而現在這種討論也開始出現在互聯網和人工智能領域。故事大致是這樣的：出現了一個新事物，我們需要討論它是否會帶來危害。如果它有害，就需要進行控制、監管或者停止。這種討論的隱含基礎在科技倫理學中被稱為預防原則。

預防原則是一個基本的、似乎非常合理的主張，即技術的發明者應該能夠預測它是否會產生負面影響。如果會產生負面影響，他們有責任阻止它。

預防原則有一個非常有趣的起源。它來自20世紀70年代德國綠黨對民用核電工業崛起的回應。核技術顯然在20世紀40年代和50年代作為一種軍事技術出現。然后到了50年代和60年代，民用核能出現了大發展，人們開始期待從原子能中獲得無限的能量。

到了70年代，德國綠黨站出來決定停止核能，并制定了預防原則，提出只要民用核能開發商不能證明核能在任何情況下都是完全無害的，就應該停止部署。基本上這個方法奏效了，核能停止了。

在美國，這個想法被采納了。1971年，我出生那年，時任總統尼克松提出了一個他稱之為“獨立計劃”的計劃，即到1980年在美國國內建造一千座核電站。電網改用核電，將使我們完全脫離中東。這將使美國基本上可以實現完全清潔、零排放、零碳排放的能源。這將推動向電動汽車的轉變。

然后，他成立了核管理委員會，阻止了這種情況的發生。而今天，美國正在開發的新核電站為零。如果你看看過去40年民用核電的部署圖表，它基本上完全停止了。對于任何關心碳排放氣候的人來說，這無疑是一個巨大的錯失良機。

回顧過去，我們基本上感到震驚，我們只是覺得，天哪，他們怎么會犯下如此可怕的錯誤。順便說一句，在過去70年對民用核能的全面核算中，現在非常清楚，它是最安全的能源形式，與任何其他能源相比，它造成的人員死亡人數基本上極少。

李飛飛：

你在人工智能中看到了這種危險？

馬克：

是的。這基本上是相同的討論。

李飛飛：

能再詳細說說嗎？

馬克：

討論中的假設是，如果存在潛在危害，那么就應該有監管、控制、限制、暫停、停止、凍結，還有各種不同的提議。但這是一種壓倒性的負面框架，這種風險規避框架，與預防原則非常一致，但它是討論的框架。

李飛飛：

讓我們深入討論一下其中一個，因為這兩個主題都集中在一個辯論上，那就是對開源的激烈辯論。現在，它正在全國范圍內發生。在加利福尼亞州，州參議院正在審議關于監管和控制潛在開源的令人不安的法案。你對此有何看法？

馬克：

關于開源的討論非常有趣，因為它被描述為，有一維版本，或者一步版本，還有兩步版本。一步版本與預防原則非常一致。我認為當前的加州法案反映了這一點。歐盟的《人工智能法案》也反映了這一點。我認為加州的法案在某種程度上是基于歐盟的《人工智能法案》，該法案是在立法中實施的預防原則，也就是說，人工智能被認為是潛在的有害的，因此必須加以控制以防止危害。

無論如何，這就是預防原則的全部內容，這聽起來總是很合理，因為你怎么可能反對它呢？但是，重要的是要考慮第二步，特別是關于開源。

開源，最初這個術語的含義是“自由軟件”，意思是我可以下載它，可以查看它。它是一個白盒子，而不是黑盒子。我可以看到它里面的東西。我可以修改它并且可以從中學習。

所以，我認為必須問的第二個問題是，你需要設計什么樣的社會來擁有執行機制，以執行任何形式的開源禁令或限制。你會探尋人們對這個問題的看法，建議的范圍通常是這樣的：我們只需要在每個芯片上安裝一個軟件代理，檢查人們是否在運行經過批準的開源軟件。在這一點上，我會說，《1984》并不是一本操作手冊，我們不應該在所有計算機上都運行軟件代理。這只是第一步，接下來的政策建議會越來越令人恐懼。我認為，這些建議最終在《時代》雜志上達到了一個非常坦誠的表達，大約一年前，艾里澤·尤德科夫斯基在《時代》雜志上寫了一篇文章，表達了他的想法。他基本上說，要實施對強人工智能和開源的禁令，不僅需要達到讓奧威爾都臉紅的全面監控程度，還需要在全球范圍內執行，因為僅在美國禁止是不夠的。

所以你需要有一個全球禁令，當然你需要有執行全球禁令的機制。所以你真的要問自己，究竟想要生活在一個怎樣的社會，才能執行這樣的事情。順便說一下，我站在反對這一點的那一邊。

李飛飛：

你能談談我們為什么需要開源嗎？為什么你要和硅谷這么多的創業公司合作？為什么開源如此重要？

馬克：

是的，這就是另一種看待這個問題的方式，即開源在其中扮演什么角色。撇開人類自由的問題不談，這很重要，還有避免引發第三次世界大戰，這也很重要。另一個問題是，開源在創新生態系統中扮演什么角色？我可以告訴你，我的看法是，現代技術，現代計算機科學和現代軟件基本上是一個三角關系：開源、創業公司（這是我的日常工作）和學術界。我坦率地認為，如果開源被禁止或受到某種程度的限制，那將是影響非常重大的。

首先，我認為創業公司將會滅亡，因為我們資助的每一家創業公司基本上都是建立在開源基礎上的。大家都理所當然地認為可以使用開源來構建新軟件項目。因此，創業公司就會倒閉。接下來的一步、兩步，創業公司紛紛倒閉。因此，所有的發展基本上都被委托給那些大公司的壟斷集團，這些公司將永遠掌握權力。

再次問問自己，這真的是你想要的結果嗎？然后第三點是，學術界基本上會消亡，尤其是計算機科學領域的學術研究會消亡，任何相關機構都會消亡。我不知道如果沒有開源，學術界還能做什么工作，因為我們也是開源軟件的最大提供者之一。

李飛飛：

如果沒有開源，我不知道這里的工作會發生什么，因為我們也是一些最大的開源軟件提供商。

在您的宣言中，您實際上使用了“敵人”這個詞。與這個詞相關的是，您談到了技術倫理、信任和安全等想法，在某種程度上，它也與象牙塔有關。您剛才提到您關心學術界和生態系統，我知道您確實關心。那么，您如何調和您在文章中寫的內容？您的真正意思是什么？您如何看待學術界的這一歷史性時刻？

馬克：

是的，我先從我使用“敵人”這個詞開始說起。我在文章中非常明確地提到，我談論的是思想，而不是人。因此，我認為參與這些事情的任何人都不會將他們視為敵人。但我確實認為有些想法很糟糕。我認為我們生活在一個有些糟糕想法已經變得非常普遍的時代，這些想法需要受到挑戰，我已經闡述過了。

李飛飛：

那么，為什么人工智能中存在信任和安全問題？

馬克：因為它被“劫持”了。這是在公司內部實施的一種預防原則。對于那些不了解的人來說，信任和安全基本上是現代科技公司內部的一個術語。它基本上是一個內部事務的等價物，負責實施內部限制。這一概念最早開始于互聯網公司。

我認為第一個設立信任和安全部門的公司是eBay，用來監管互聯網拍賣。當然，如果你要運營一個互聯網拍賣網站，就需要有一個監管功能。我還記得eBay剛開始的時候，大家都覺得這個想法不可思議，因為怎么可能有人會信任別人呢？

eBay之所以成功有兩個原因。首先，Pierre Omidyar相信大多數人都是善良的，所以大多數人都會列出合法產品并參與交易。但他也認為，擁有一種稱為信任和安全的職能也很重要。

李飛飛：

這是一種很好的、沒有被“劫持”的信任。

馬克：

是的，這是絕對必要的。

然后，第二階段是社交媒體公司。如果你要為人們提供一個平臺來交換信息，你需要有一個團隊來維護、監控和管理它。但問題總是，你在哪里劃清界限，那些價值觀是什么？當你問這個問題時，你馬上就進入了政治哲學的領域，你處于設計和治理的領域。

李飛飛：

那么你的底線是什么？比如，你認為哪些地方信任和安全最重要，哪些地方超出了你的界限？

馬克：

我認為它很復雜，這些都是非常宏觀的問題。這些是政治結構的核心問題。這些是社會結構的大問題。這些都是重大的倫理和道德問題。所以這非常復雜。

具體到公司方面，情況就變得更加復雜，因為公司至少在理論上是私人行為者。而私人行為者可以擁有比公共行為者更受限制的領域。

我有一個九歲的孩子，我希望他能夠注冊使用互聯網服務，并且希望他能有像迪士尼樂園那樣的體驗。我喜歡互聯網的自由世界，有一天他也會喜歡這種自由，但我希望他能有一些控制。我認為公司在這方面有很大的自主權。迪士尼的例子就是一個很好的例子。迪士尼對樂園內的行為準則有不同的規定，與奧蘭多街頭的情況不同。我認為這些都是好的和合理的。

李飛飛：

那么你認為治理從何而來？

馬克：

從根本上講它必須來自領導層，這始終是一個領導層的問題，它必須在各個機構中。

李飛飛：

那社會呢？

馬克：

是的。所以它必須通過（社會）。這些都是非常活躍的辯論，從社會層面一直到最高法院。而且還會有更多這樣的辯論。然后看看公司內部。我會把它描述為我們在這個行業中是趕上公共汽車的狗。我對這些平臺上發生的事情負有部分責任，這確實很重要。這些系統中發生的事情真的很重要。這些公司中發生的事情真的很重要。

我想說，如果這個行業被精簡為兩三四家大公司，這些公司會獲得監管俘獲，我認為這是他們正在嘗試做的事情。如果他們基本上與政府聯合起來，那么我認為我們必須處理一系列非常有力的社會層面問題。

如果在未來幾年存在競爭格局，有大公司，有很多初創公司，有開源，有學術界，這些領域之間存在某種活力和競爭，那么我認為，就會有更多的靈活性，更多不同的方法，我希望看到更多。我希望看到更多，我認為這實際上是一個非常健康的結果。

李飛飛：

這就是你我完全同意的地方。

最后，您對斯坦福高中和斯坦福大學有什么希望和夢想？尤其是我們是世界領先的人工智能跨學科研究所。您對我們和我們的角色有什么希望和夢想？

馬克：

所以首先說，就像您提到的那樣，我感覺到了人工智能時代的曙光。因為眾所周知，人工智能領域實際上已經有80年的歷史了。

李飛飛：

是的，但我們已經經歷了這么多困難與挑戰，我們走過了一條漫長而曲折的道路，才到達今天的位置。在座的各位可能都知道這一點。

馬克：

Thomas Ridd寫了一本很棒的書，名為《機器的崛起》，他在書中回顧并真正追溯了機器的起源。20世紀30年代，人們實際上曾爭論過計算機是否應該是馮·諾依曼機器，還是應該模仿人腦。這是一個有80、90年歷史的領域。上世紀80年代人工智能蓬勃發展。之后出現了一次大蕭條，即專家系統浪潮。所以，我覺得，我甚至不知道歷史上有先例可以孵化這么長時間。然后，砰的一聲，結果證明它成功了。我不知道有多大的驚喜，也許你一直有信心。

李飛飛：

我不知道，就像化學和物理學在現代科學出現之前就已經醞釀了幾百年一樣，但你是對的。你說得有道理。

馬克：

是的。這是發展80年來的一次一夜成名，這真的是一件非常了不起的事情。我之所以提起這件事，只是因為斯坦福大學在每一步都發揮了作用。斯坦福大學人工智能小組、斯坦福大學、麻省理工學院和其他幾所機構有著悠久而豐富的歷史，它們為實現這一點做出了很大貢獻。所以這里的遺產是巨大的。我完全希望在技術方面繼續這樣做。