每經(jīng)編輯 黃勝    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

2024年6月20日，美國達(dá)特茅斯工程學(xué)院公布了對OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）的采訪視頻。米拉在采訪中透露，GPT-5將在一年半后發(fā)布，在某些領(lǐng)域?qū)⑦_(dá)到博士的智能。與此同時，Claude 3.5 Sonnet，已經(jīng)成為了第一個測試分?jǐn)?shù)高于最聰明的人類博士的模型。

圖片來源：截圖于Youtube

近日，OpenAI CTO米拉·穆拉蒂在達(dá)特茅斯工程學(xué)院發(fā)表了關(guān)于AI在各行業(yè)中的變革潛力及其對工作的影響的重要言論。

米拉表示，大約一年半年后，OpenAI將發(fā)布“博士生水平”的人工智能。相較之下，GPT-3相當(dāng)于幼兒的智能水平，GPT-4更像高中生的智能水平。但她強(qiáng)調(diào)，博士等級的AI僅適用于某些特定任務(wù)，“這些系統(tǒng)在某些特定的任務(wù)中已經(jīng)達(dá)到了人類水平，當(dāng)然在許多其他任務(wù)中，它們還達(dá)不到。”

圖片來源：截圖于Youtube

與此同時，Anthropic于6月20日官宣發(fā)布了全新大模型 Claude 3.5 Sonnet，號稱是迄今為止最智能的模型。

圖片來源：X

Claude 3.5 Sonnet不僅將AGI的倒計時推至75%，更是成為了第一個測試分?jǐn)?shù)高于最聰明的人類博士分?jǐn)?shù)的模型。

圖片來源：Life Architect

據(jù)Life Architect數(shù)據(jù)顯示，Claude 3.5 Sonnet在研究生級推理（GPQA）、本科級知識（MMLU）和編碼能力（HumanEval）上都刷新了SOTA。其中，在MMLU上，它得分90.4；在GPQA上，得分為67.2。這也是首次，LLM突破了GPQA 65%的分?jǐn)?shù)，達(dá)到了最聰明的人類博士的水平。普通博士在GPQA上的得分為34%，領(lǐng)域內(nèi)專業(yè)博士的得分為65%，而Claude 3.5 Sonnet，顯然已經(jīng)超越了他們。

圖片來源：Life Architect

在達(dá)特茅斯學(xué)院的采訪中，主持人提出了一個假設(shè)性的問題，他問：“假設(shè)在三年后GPT變得極其智能，它是否可能自行連接到互聯(lián)網(wǎng)并開始行動？”

對此，米拉回答說：“確實(shí)，我們對此進(jìn)行了很多思考。具備AI智能體能力的系統(tǒng)確實(shí)存在，它們會連接到互聯(lián)網(wǎng)，進(jìn)行相互之間的交流，共同完成任務(wù)，或者與人類無縫合作。因此，我們在未來與AI的合作可能會像我們現(xiàn)在彼此之間的合作一樣。”

圖片來源：Metaculus

人工智能的進(jìn)步速度令人驚嘆。

在2022年，專家們預(yù)測，人類水平的人工智能有可能在本世紀(jì)的60年代興起，可能性為50%。然而，Metaculus預(yù)測員社區(qū)的預(yù)測時間更早，他們預(yù)測的是40年代。隨著GPT-4的發(fā)布，社區(qū)的預(yù)測時間開始提前，預(yù)計在2032年，甚至最早在2027年，我們就有可能實(shí)現(xiàn)AGI。

圖片來源：Metaculus

6月20日凌晨，前 OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家伊爾亞·蘇茨克（Ilya Sutskever）在社交媒體上官宣成立新公司 SSI，專注于安全超級智能。

網(wǎng)友稱：“好家伙！這是直接越過AGI，一步邁向Super Intelligence（超級智能）了。”

圖片來源：X

伊爾亞在SSI官方賬號中官宣的“開場詞”里表示：“超級智能已經(jīng)觸手可及。構(gòu)建安全超級智能（SSI）是我們這個時代最重要的技術(shù)問題。”

他還補(bǔ)充道：“我們將以一個焦點(diǎn)、一個目標(biāo)、一個產(chǎn)品，直接追求安全的超級智能。我們將通過一個小而高效的團(tuán)隊所創(chuàng)造的革命性突破來實(shí)現(xiàn)它。”

圖片來源：X

總而言之，伊爾亞團(tuán)隊要搞的事情，用網(wǎng)友一個經(jīng)典的表情包式的總結(jié)來看就是：

圖片來源：X

然而，人工超級智能的發(fā)展也引發(fā)了一些擔(dān)憂。

近日，一篇預(yù)印本論文提出觀點(diǎn)：隨著人工超級智能（ASI）的實(shí)現(xiàn)，人工智能無與倫比的能力可能會讓人們尊其為神，從而產(chǎn)生一種認(rèn)知偏差，不加質(zhì)疑地接受它的決定。

圖片來源：arxiv.org 

作者特飛科·歐亞爾（Tevfik Uyar）警告說，這種現(xiàn)象可能導(dǎo)致我們混淆技術(shù)進(jìn)步與道德倫理的優(yōu)越性。“我們不能因為ASI的能力強(qiáng)大，就認(rèn)為它在道德和倫理上也同樣表現(xiàn)優(yōu)越。”

更令人擔(dān)憂的是，這種動態(tài)可能導(dǎo)致一種“技術(shù)官僚神權(quán)統(tǒng)治”，在這種統(tǒng)治下，決策權(quán)被移交給ASI，從而破壞了人類的主動性和批判性思維。作者強(qiáng)調(diào)：“如果我們將決策權(quán)交給ASI，那么人類的主動性和批判性思維可能會受到破壞。”

每日經(jīng)濟(jì)新聞綜合公開消息

封面圖片來源：每日經(jīng)濟(jì)新聞 資料圖