每經(jīng)記者 梁宏亮    每經(jīng)實習(xí)記者 溫雅蘭    每經(jīng)編輯 張凌霄    

ChatGPT的火爆引發(fā)了近幾年來一次全球性的技術(shù)狂歡。兩個月時間內(nèi)，其月活用戶突破1億，成為史上用戶增長最快的應(yīng)用之一。

社交媒體推特首席執(zhí)行官埃隆·馬斯克在使用ChatGPT后直呼其“好得嚇人”，甚至斷言“人工智能越發(fā)強大，離對人類產(chǎn)生威脅不遠(yuǎn)了”。

對大熱的ChatGPT，復(fù)旦大學(xué)計算機學(xué)院教授黃萱菁團隊也進(jìn)行了測試，“我們測了幾十萬次，比如讓它做中國的高考題，看看它到底有多么強。” 但結(jié)果很出人意料——雖然政史地科目結(jié)果很好，但是物理學(xué)科一道都沒做對。黃萱菁打趣道：“學(xué)物理的人最安全”。

3月11日，在“我們︱WOMEN”2023復(fù)旦科創(chuàng)先鋒論壇上，深耕人工智能與自然語言處理領(lǐng)域三十載的黃萱菁教授以《邁向大規(guī)模語言模型》為題，為我們講述了ChatGPT的“前世今生”和最新發(fā)展趨勢。

邁向大規(guī)模語言模型

 “托ChatGPT的福，大規(guī)模語言模型的概念已經(jīng)深入人心。”黃萱菁教授在演講中說到。ChatGPT由 GPT-3.5 模型提供支持，是一種人工智能技術(shù)驅(qū)動的自然語言處理工具。它不僅能夠自動回答問題、生成文本、翻譯文章、對信息分類、撰寫腳本文案、代碼等，也會承認(rèn)錯誤、質(zhì)疑不正確的前提并拒絕不恰當(dāng)?shù)恼埱蟆？梢哉fChatGPT是AIGC（人工智能生成內(nèi)容）最新進(jìn)展的代表。

“語言模型就是語言的規(guī)律，首先是語法，我們無論學(xué)習(xí)漢語還是英語等語言，都是從語法開始學(xué)起，但是只有語法，我們依然很難捕捉客觀世界紛繁復(fù)雜的語言現(xiàn)象，因為語言并不會嚴(yán)格按照語法去表達(dá)。這個時候，我們就需要使用到數(shù)學(xué)工具——概率，在各種語言現(xiàn)象中間去尋找規(guī)律。”黃萱菁對語言模型的基本概念做出簡單介紹。

以Transformer為架構(gòu)的大型語言模型機器學(xué)習(xí)系統(tǒng)，采用的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力和模型的參數(shù)規(guī)模成正相關(guān)。GPT-2大約由15億個參數(shù)組成，而GPT-3是一個由 1750 億個參數(shù)組成的最先進(jìn)的語言模型。黃萱菁介紹，近年來，學(xué)術(shù)界和工業(yè)界開始嘗試在自然語言處理領(lǐng)域應(yīng)用神經(jīng)網(wǎng)絡(luò)方法，預(yù)先訓(xùn)練出大規(guī)模的語言模型，并針對具體場景構(gòu)建特定數(shù)據(jù)集，供這些大模型在下游任務(wù)中通過參數(shù)微調(diào)以適配具體任務(wù)。

“但是當(dāng)語言模型變得更強大的時候，就會有一些問題”，黃萱菁說，“一方面廠商出于商業(yè)原因逐漸舍棄開源，OPenAI沒有開放過GPT3模型，只開放API接口，你可以調(diào)用，但是拿不到內(nèi)部細(xì)節(jié)，今年新出來的ChatGPT連論文都沒有，只能靠大家去猜測。另一方面用戶也缺乏足夠的計算資源使用大模型，所以我們非常期待國產(chǎn)芯片，能夠讓我們擁有更多的算力去運行大規(guī)模語言模型。”

打開“AI情感計算”之門

2022年12月，埃隆·馬斯克發(fā)了一條推文，他說：“ChatGPT is scary good. We are not far from dangerously strong AI.（ChatGPT厲害得讓人害怕，強大到有危險的人工智能的出現(xiàn)已經(jīng)離我們不遠(yuǎn)了。）”

自從ChatGPT 出現(xiàn)，越來越多的人開始討論人工智能是否會顛覆他們的生活、他們的工作是否會被人工智能取代。但是到目前為止，還沒有任何人工智能通過了圖靈測試，ChatGPT也不例外。

在黃萱菁看來，未來一段時間內(nèi)，ChatGPT還不足以完全替代某一個崗位，但將大大促進(jìn)各個領(lǐng)域的生產(chǎn)效率：“在肉眼可見的未來，善用AI的人將和不用AI的人在工作效率上會產(chǎn)生巨大差距，因此我鼓勵大家多去使用和熟悉與AI進(jìn)行溝通。”

“ChatGPT將拉近我們與通用人工智能之間的距離。”黃萱菁感慨，“我們從來沒有覺得自己與通用人工智能如此接近，這是過去我做人工智能這么多年以來最興奮的一個時期，我以前一直覺得它在我可以預(yù)見的將來是看不到的，但是現(xiàn)在我覺得可能不是那么遙遠(yuǎn)了。”

“正如微軟CEO薩提亞·納德拉（Satya Nadella）接受媒體采訪時所說的那樣，內(nèi)燃機帶來了廉價的動力，互聯(lián)網(wǎng)技術(shù)減少了信息傳遞的成本，而ChatGPT會讓信息的整合、轉(zhuǎn)譯、流通變得更加廉價。AI可能會像工業(yè)革命和信息革命一樣，引領(lǐng)我們走向下一個時代。”黃萱菁說。