每經(jīng)記者 楊昕怡    每經(jīng)編輯 劉雪梅    

“通往AGI（通用人工智能）的話，長上下文會是一個很重要的點，從某種程度上看，所有問題都是上下文長度問題。”在今年2月末接受《每日經(jīng)濟(jì)新聞》記者采訪時，AI創(chuàng)業(yè)公司月之暗面方面曾指出了突破長文本處理技術(shù)的重要意義。

3月18日，月之暗面宣布在大模型長上下文窗口技術(shù)上取得新的突破，其自研的Kimi智能助手已支持200萬字超長無損上下文，并于今日開啟產(chǎn)品內(nèi)測。

在去年10月首次亮相時，Kimi智能助手可支持的無損上下文長度最多為20萬漢字，是彼時大模型產(chǎn)品里所能支持的最長上下文輸入長度。時隔五個月，月之暗面已將該產(chǎn)品的這一能力提升到了全新的數(shù)量級。

據(jù)了解，按OpenAI的計算標(biāo)準(zhǔn)，Kimi智能助手最初支持的20萬漢字約為40萬token（語言模型中用來表示最小文本單元），同期大模型Claude支持的最大長文本為10萬token。今年2月27日，零一萬物發(fā)布Yi大模型API，其中Yi-34B-Chat-200K支持處理約20萬～30萬個中英文字符。

同時，在國內(nèi)AI產(chǎn)品中，Kimi智能助手的用戶增速顯著。“AI產(chǎn)品榜（aicpb.com）”統(tǒng)計的數(shù)據(jù)顯示，Kimi智能助手在2024年2月的訪問量達(dá)305萬，1月的訪問量達(dá)142萬，連續(xù)兩個月均僅次于文心一言和通義千問，在大模型創(chuàng)業(yè)公司產(chǎn)品中居于首位。

當(dāng)大模型的無損上下文長度得以數(shù)量級提升，用戶會有哪些全新的應(yīng)用體驗?zāi)兀?/p>

月之暗面介紹，上下文長度的提升也會進(jìn)一步幫助用戶打開對AI應(yīng)用場景的想象力，包括完整代碼庫的分析理解、可以自主幫人類完成多步驟復(fù)雜任務(wù)的Agent（智能體）、不會遺忘關(guān)鍵信息的終身助理、真正統(tǒng)一架構(gòu)的多模態(tài)模型等。

對于新升級后的模型能力，月之暗面用了一個可以量化的簡單例子說明：過去要10000小時才能成為專家的領(lǐng)域，現(xiàn)在只需要10分鐘，Kimi智能助手就能接近任何一個新領(lǐng)域的初級專家水平。

與此同時，指令遵循能力也是大模型的一大代表性涌現(xiàn)能力，和上下文學(xué)習(xí)能力有著密切的關(guān)系。

月之暗面方面此前對《每日經(jīng)濟(jì)新聞》記者表示，在投資機構(gòu)和大廠的內(nèi)部綜合評測中，Kimi智能助手在理解和生成中文內(nèi)容方面表現(xiàn)出色，“中文實力直追OpenAI”。

月之暗面方面表示，從產(chǎn)品推出以來的用戶反饋來看，Kimi智能助手的多輪交互和超長指令遵循能力也是產(chǎn)品的一項核心優(yōu)勢。

《每日經(jīng)濟(jì)新聞》記者了解到，目前月之暗面團(tuán)隊超過80人，其中大部分是技術(shù)人員，團(tuán)隊規(guī)模還在持續(xù)擴(kuò)大。

“正在造一架火箭，每天討論往火箭里加什么燃料跑得更快。”在今年3月上旬的最新一輪招聘中，月之暗面在官方公眾號這樣寫道。從20萬漢字到200萬漢字的模型能力提升，足可見，月之暗面正在向著大模型應(yīng)用的“長文本時代”一路狂奔。