每日經(jīng)濟(jì)新聞 2024-07-05 11:54:43
每經(jīng)記者 張韻 每經(jīng)編輯 梁梟
大模型時(shí)代,如何構(gòu)建更好的基礎(chǔ)設(shè)施?
7月4日下午,在2024世界人工智能大會期間,無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪在“智啟新章·算引未來”AI基礎(chǔ)設(shè)施論壇上表示,算力是AI發(fā)展的前哨和基石,GPT-4之后,支撐算法所需要的算力遇到了瓶頸,“Scaling Law”一詞被頻繁討論。在此背景下,國內(nèi)外巨頭都在加大對算力資源的投入。
活動(dòng)現(xiàn)場 圖片來源:每經(jīng)記者 張韻 攝
所謂Scaling Law是指模型的性能與計(jì)算量、模型參數(shù)量和數(shù)據(jù)大小三者之間存在的關(guān)系。當(dāng)前,谷歌、OpenAI以及國內(nèi)的大廠和三大云商都在構(gòu)建萬卡規(guī)模的大集群。夏立雪認(rèn)為,如今Scaling Law思潮的底層邏輯和能力法思想不謀而合,因此萬卡集群是大模型的兵家必爭之地。
“未來人工智能推演和訓(xùn)練的算力需求仍然是高速發(fā)展的狀態(tài),不僅推理場景會隨著大模型的落地快速爆發(fā),訓(xùn)練場景也會支撐模型迭代與模型與應(yīng)用的結(jié)合。”夏立雪進(jìn)一步表示,與國際上模型層與芯片層“相對集中”的格局相比,中國的模型層與芯片層更加“百花齊放”。
然而,大量的異構(gòu)芯片也形成了“生態(tài)豎井”,不同硬件生態(tài)系統(tǒng)封閉且互不兼容,給算力的使用方帶來一系列技術(shù)挑戰(zhàn)。
對此,夏立雪認(rèn)為,為適配中國獨(dú)特的多模型、多芯片的生態(tài)格局,要找到一個(gè)好的合力方式,打破異構(gòu)生態(tài)豎井,讓異構(gòu)芯片真正轉(zhuǎn)化為大算力,幫助大模型進(jìn)一步發(fā)展。
在夏立雪看來,當(dāng)前人工智能的發(fā)展?fàn)顟B(tài),不僅需要有將多元異構(gòu)的芯片統(tǒng)一納入的底層系統(tǒng)能力,又要在異構(gòu)算力和多種算法之間做輕易使用的中間層,讓用戶通過統(tǒng)一的編程框架,把不同算力調(diào)度起來,整合算力推高了大模型生態(tài)的完整度,其核心任務(wù)是持續(xù)降低大模型應(yīng)用落地成本。
如需轉(zhuǎn)載請與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟(jì)新聞APP