亚洲永久免费/亚洲大片在线观看/91综合网/国产精品长腿丝袜第一页

每日經(jīng)濟新聞
今日報紙

每經(jīng)網(wǎng)首頁 > 今日報紙 > 正文

云從科技擬募資36億元投大模型

每日經(jīng)濟新聞 2023-04-17 22:43:31

每經(jīng)記者 朱成祥    每經(jīng)編輯 楊夏    

ChatGPT的火熱,讓國內(nèi)不少互聯(lián)網(wǎng)、AI企業(yè)紛紛加碼大模型。比如云從科技(SH688327,股價42.60元,市值315.5億元)近期就擬募集36億元投向“大模型”。

曾經(jīng)的AI,是CV(計算機視覺)的天下。就國內(nèi)而言,最受矚目的AI公司當屬“CV四小龍”商湯科技(HK00020,股價2.81港元,市值940.5億港元)、曠視科技、云從科技和依圖科技。ChatGPT的橫空出世,令A(yù)I產(chǎn)業(yè)的焦點迅速從視覺轉(zhuǎn)為語言,從CV轉(zhuǎn)為NLP(自然語言處理)。

數(shù)據(jù)來源:IDC、中商產(chǎn)業(yè)研究院整理視覺中國圖劉紅梅制圖

在語言大模型時代,CV“四小龍”之一的云從科技又將何去何從?特別是大模型追求“強者恒強”,可能將是少數(shù)巨頭的游戲。在算力“軍備競賽”中,云從科技能否跟上巨頭的腳步?

值得注意的是,云從科技已被列入實體清單。這意味著公司采購海外廠商生產(chǎn)的高端AI芯片存在限制,比如目前最火熱的AI芯片當屬英偉達A100和H100。對此,《每日經(jīng)濟新聞》記者4月13日致電云從科技。其工作人員表示,(上述芯片)此前有一點庫存,公司也在與國內(nèi)廠商合作。

4月17日,云從科技股價報收42.60元/股,漲幅為1.55%。

少數(shù)玩家的游戲

互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)的興盛,使得各行各業(yè)崛起了一大批細分領(lǐng)域的巨頭。AI的興起,同樣在各細分領(lǐng)域百花齊放。比如CV(計算機視覺)領(lǐng)域的“四小龍”;語音領(lǐng)域的科大訊飛(SZ002230,股價58.23元,市值1353億元)、思必馳。

而大模型時代,游戲規(guī)則驟然改變。算力的“軍備競賽”,導致大模型成本高企,可能僅有少數(shù)巨頭能夠負擔。

據(jù)國盛證券計算機團隊測算,以英偉達A100芯片、DGX A100服務(wù)器、現(xiàn)階段每日2500萬訪問量等假設(shè)為基礎(chǔ),估算得出:在初始算力投入上,為滿足ChatGPT當前千萬級用戶的咨詢量,投入成本約為8億美元,對應(yīng)約4000臺服務(wù)器;在單日運行電費上,參考美國平均0.08美元/kwh工業(yè)電價,每日電費約為5萬美元,成本相對高昂。

此次云從科技欲募集資金36.35億元,用于云從“行業(yè)精靈”大模型研發(fā)項目。其中,場地購置及裝修費5.54億元,研發(fā)設(shè)備購置費20.94億元,人力資源成本7.60億元,其他費用2.27元。

算力投入應(yīng)屬于研發(fā)設(shè)備購置費。照此計算,云從科技欲投入不超過20.94億元用于算力投入。

截至2022年三季度末,云從科技貨幣資金12.47億元。2022年第三季度,上市公司營收6479.03萬元,同比下降80.07%;歸母凈利潤-2.64億元。2022年前三季度,上市公司營收4.55億元,同比下降41.53%;歸母凈利潤-5.89億元,經(jīng)營性現(xiàn)金流凈額-5.29億元。

從云從科技財務(wù)數(shù)據(jù)看,初始投入之后的訓練費用、運行電費對其也是較沉重的負擔。據(jù)國盛證券計算機團隊,基于參數(shù)數(shù)量和token數(shù)量估算,GPT-3訓練一次的成本約為140萬美元;對于一些更大的LLM模型(如擁有2800億參數(shù)的Gopher和擁有5400億參數(shù)的PaLM),采用同樣的計算公式,可得出,訓練成本介于200萬美元至1200萬美元之間。

據(jù)天風計算機團隊,參考GPT-3的發(fā)展歷程,OpenAI從45TB的文件中過濾出570GB的數(shù)據(jù)集,僅訓練費用就高達1200萬美金,隨后OpenAI經(jīng)過約3年時間不斷探索,中途有InstructGPT、davinci不同版本的嘗試,最終在2023年發(fā)布了GPT-4,打造一個有競爭力的大模型需要數(shù)據(jù)、算法等資源的持續(xù)投入。

行業(yè)“強者恒強”

那么,云從科技是否可以與巨頭進行差異化競爭,做一個“小而美”的垂直行業(yè)領(lǐng)軍者?

在信達證券看來,參數(shù)量超級龐大的模型在任何垂直領(lǐng)域都具備優(yōu)勢,垂直細分的小模型難有生產(chǎn)空間。因此,信達證券認為在大模型格局未完全形成之前,參數(shù)量的無上限堆砌是各家企業(yè)發(fā)力的焦點,故算力的“軍備競賽”無可避免。

據(jù)天風計算機團隊統(tǒng)計,百度Ernie大模型參數(shù)量約為2600億,京東言犀、商湯商量SenseChat參數(shù)量為千億級別,騰訊混元AI大模型參數(shù)量為萬億級別。華為盤古α參數(shù)量為2000億。

據(jù)云從科技公告,2020年,OpenAI發(fā)布的NLP大模型GPT-3,實現(xiàn)了千億級數(shù)據(jù)參數(shù),大模型也成為了超大規(guī)模預(yù)訓練模型的代名詞。2022年,ChatGPT的出現(xiàn)更進一步確定了大模型作為人工智能主流技術(shù)路線的趨勢。

可以看出,各大巨頭的參數(shù)級別為千億級乃至萬億級。

為何各家都在比拼參數(shù)量?信達證券認為,從論文研究來看,參數(shù)量的提升有助于構(gòu)建語言預(yù)測模型的精確度,同時提高泛化能力。泛化能力的提升意味著一個參數(shù)量超級龐大的大模型,其在垂直細分領(lǐng)域的預(yù)測能力可超過針對垂直領(lǐng)域開發(fā)的中等參數(shù)量模型。

這意味著,做大模型似乎只有成為巨頭,才能避免被邊緣化。

天風計算機團隊也認為,擁有一個大模型并不難,但是持續(xù)打造一個有競爭力的大模型難度很大。雖然國內(nèi)有眾多廠商推出了大模型,但從終局的角度看,大模型終將收斂并稀缺。參考OpenAI在海外的發(fā)展歷程,大模型需要連同生態(tài)一起進化,形成強者恒強的格局。

芯片從何而來?

中航證券研究所認為,在ScalingLaw的框架下,只要追加數(shù)據(jù)與算力,大模型的能力就能持續(xù)增強。對OpenAI而言,目前大模型的最大限制是數(shù)據(jù)和算力的總量。

或許,大模型之間的競爭,已經(jīng)轉(zhuǎn)為對數(shù)據(jù)與算力資源的爭奪。

對于云從科技而言,由于公司被納入美國“實體清單”,購買模型訓練用的高端芯片面臨限制。即使資金充足,能否成功獲取龐大算力所需芯片呢?

云從科技定增預(yù)案顯示,2020年5月至今,美國商務(wù)部宣布將包括公司在內(nèi)的多家中國公司及機構(gòu)列入“實體清單”,該行為不會對公司日常對外銷售、客戶拓展等產(chǎn)生重大不利影響,但可能對公司研發(fā)和項目交付過程中采購境外廠商的芯片、服務(wù)器等器件產(chǎn)生一定限制,盡管公司已制定國產(chǎn)器件替代的產(chǎn)品方案,但由于方案落地需要一定驗證時間、客戶對使用替代器件的產(chǎn)品認可具有不確定性等因素,可能會對公司的生產(chǎn)經(jīng)營產(chǎn)生一定影響。

簡而言之,對銷售影響不大,影響主要是采購境外廠商芯片、服務(wù)器。

對于芯片問題,《每日經(jīng)濟新聞》記者4月13日致電云從科技,其工作人員表示:“首先有一部分庫存,然后我們和國產(chǎn)芯片供應(yīng)商之前也完成深度適配。”

該工作人員也表示,具體芯片問題公司在2月份投資者活動記錄表有回復(fù)。記者查詢后了解到,云從科技芯片的采購分兩類。第一類:公司過去向英偉達采購部分芯片用以訓練側(cè)方面,公司具有一定量的庫存儲備且國產(chǎn)化的訓練芯片水平也已經(jīng)在快速提升中。第二類:過去兩年中,公司在國產(chǎn)化硬件適配方面穩(wěn)扎穩(wěn)打,已與華為、寒武紀(SH688256,股價196.80元,市值816億元)、曙光等提供芯片和服務(wù)器的廠商完成了深度適配。

值得一提的是,云從科技一度研發(fā)過AI芯片,如承擔工信部“基于自研SoC芯片的高準確度人臉識別產(chǎn)業(yè)化應(yīng)用”等國家級重大項目建設(shè)任務(wù)。

而根據(jù)云從科技招股書,其表示公司所處的人工智能行業(yè)尚處于發(fā)展初期,未來發(fā)展趨勢存在較大不確定性,相關(guān)技術(shù)及各應(yīng)用場景的定制化解決方案迭代速度快,技術(shù)的產(chǎn)品化和市場化亦具有一定的不確定性。2020年,由于芯片設(shè)計成果未達預(yù)期,且EDA軟件和生產(chǎn)流片遭遇限制,公司終止了“人工智能SOC芯片研制及結(jié)合高準確度人臉識別技術(shù)的產(chǎn)業(yè)化應(yīng)用”項目。

也就是說,云從科技終止了自研人工智能SOC芯片。

封面圖片來源:數(shù)據(jù)來源:IDC、中商產(chǎn)業(yè)研究院整理視覺中國圖劉紅梅制圖

如需轉(zhuǎn)載請與《每日經(jīng)濟新聞》報社聯(lián)系。
未經(jīng)《每日經(jīng)濟新聞》報社授權(quán),嚴禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

ChatGPT的火熱,讓國內(nèi)不少互聯(lián)網(wǎng)、AI企業(yè)紛紛加碼大模型。比如云從科技(SH688327,股價42.60元,市值315.5億元)近期就擬募集36億元投向“大模型”。 曾經(jīng)的AI,是CV(計算機視覺)的天下。就國內(nèi)而言,最受矚目的AI公司當屬“CV四小龍”商湯科技(HK00020,股價2.81港元,市值940.5億港元)、曠視科技、云從科技和依圖科技。ChatGPT的橫空出世,令A(yù)I產(chǎn)業(yè)的焦點迅速從視覺轉(zhuǎn)為語言,從CV轉(zhuǎn)為NLP(自然語言處理)。 數(shù)據(jù)來源:IDC、中商產(chǎn)業(yè)研究院整理視覺中國圖劉紅梅制圖 在語言大模型時代,CV“四小龍”之一的云從科技又將何去何從?特別是大模型追求“強者恒強”,可能將是少數(shù)巨頭的游戲。在算力“軍備競賽”中,云從科技能否跟上巨頭的腳步? 值得注意的是,云從科技已被列入實體清單。這意味著公司采購海外廠商生產(chǎn)的高端AI芯片存在限制,比如目前最火熱的AI芯片當屬英偉達A100和H100。對此,《每日經(jīng)濟新聞》記者4月13日致電云從科技。其工作人員表示,(上述芯片)此前有一點庫存,公司也在與國內(nèi)廠商合作。 4月17日,云從科技股價報收42.60元/股,漲幅為1.55%。 少數(shù)玩家的游戲 互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)的興盛,使得各行各業(yè)崛起了一大批細分領(lǐng)域的巨頭。AI的興起,同樣在各細分領(lǐng)域百花齊放。比如CV(計算機視覺)領(lǐng)域的“四小龍”;語音領(lǐng)域的科大訊飛(SZ002230,股價58.23元,市值1353億元)、思必馳。 而大模型時代,游戲規(guī)則驟然改變。算力的“軍備競賽”,導致大模型成本高企,可能僅有少數(shù)巨頭能夠負擔。 據(jù)國盛證券計算機團隊測算,以英偉達A100芯片、DGXA100服務(wù)器、現(xiàn)階段每日2500萬訪問量等假設(shè)為基礎(chǔ),估算得出:在初始算力投入上,為滿足ChatGPT當前千萬級用戶的咨詢量,投入成本約為8億美元,對應(yīng)約4000臺服務(wù)器;在單日運行電費上,參考美國平均0.08美元/kwh工業(yè)電價,每日電費約為5萬美元,成本相對高昂。 此次云從科技欲募集資金36.35億元,用于云從“行業(yè)精靈”大模型研發(fā)項目。其中,場地購置及裝修費5.54億元,研發(fā)設(shè)備購置費20.94億元,人力資源成本7.60億元,其他費用2.27元。 算力投入應(yīng)屬于研發(fā)設(shè)備購置費。照此計算,云從科技欲投入不超過20.94億元用于算力投入。 截至2022年三季度末,云從科技貨幣資金12.47億元。2022年第三季度,上市公司營收6479.03萬元,同比下降80.07%;歸母凈利潤-2.64億元。2022年前三季度,上市公司營收4.55億元,同比下降41.53%;歸母凈利潤-5.89億元,經(jīng)營性現(xiàn)金流凈額-5.29億元。 從云從科技財務(wù)數(shù)據(jù)看,初始投入之后的訓練費用、運行電費對其也是較沉重的負擔。據(jù)國盛證券計算機團隊,基于參數(shù)數(shù)量和token數(shù)量估算,GPT-3訓練一次的成本約為140萬美元;對于一些更大的LLM模型(如擁有2800億參數(shù)的Gopher和擁有5400億參數(shù)的PaLM),采用同樣的計算公式,可得出,訓練成本介于200萬美元至1200萬美元之間。 據(jù)天風計算機團隊,參考GPT-3的發(fā)展歷程,OpenAI從45TB的文件中過濾出570GB的數(shù)據(jù)集,僅訓練費用就高達1200萬美金,隨后OpenAI經(jīng)過約3年時間不斷探索,中途有InstructGPT、davinci不同版本的嘗試,最終在2023年發(fā)布了GPT-4,打造一個有競爭力的大模型需要數(shù)據(jù)、算法等資源的持續(xù)投入。 行業(yè)“強者恒強” 那么,云從科技是否可以與巨頭進行差異化競爭,做一個“小而美”的垂直行業(yè)領(lǐng)軍者? 在信達證券看來,參數(shù)量超級龐大的模型在任何垂直領(lǐng)域都具備優(yōu)勢,垂直細分的小模型難有生產(chǎn)空間。因此,信達證券認為在大模型格局未完全形成之前,參數(shù)量的無上限堆砌是各家企業(yè)發(fā)力的焦點,故算力的“軍備競賽”無可避免。 據(jù)天風計算機團隊統(tǒng)計,百度Ernie大模型參數(shù)量約為2600億,京東言犀、商湯商量SenseChat參數(shù)量為千億級別,騰訊混元AI大模型參數(shù)量為萬億級別。華為盤古α參數(shù)量為2000億。 據(jù)云從科技公告,2020年,OpenAI發(fā)布的NLP大模型GPT-3,實現(xiàn)了千億級數(shù)據(jù)參數(shù),大模型也成為了超大規(guī)模預(yù)訓練模型的代名詞。2022年,ChatGPT的出現(xiàn)更進一步確定了大模型作為人工智能主流技術(shù)路線的趨勢。 可以看出,各大巨頭的參數(shù)級別為千億級乃至萬億級。 為何各家都在比拼參數(shù)量?信達證券認為,從論文研究來看,參數(shù)量的提升有助于構(gòu)建語言預(yù)測模型的精確度,同時提高泛化能力。泛化能力的提升意味著一個參數(shù)量超級龐大的大模型,其在垂直細分領(lǐng)域的預(yù)測能力可超過針對垂直領(lǐng)域開發(fā)的中等參數(shù)量模型。 這意味著,做大模型似乎只有成為巨頭,才能避免被邊緣化。 天風計算機團隊也認為,擁有一個大模型并不難,但是持續(xù)打造一個有競爭力的大模型難度很大。雖然國內(nèi)有眾多廠商推出了大模型,但從終局的角度看,大模型終將收斂并稀缺。參考OpenAI在海外的發(fā)展歷程,大模型需要連同生態(tài)一起進化,形成強者恒強的格局。 芯片從何而來? 中航證券研究所認為,在ScalingLaw的框架下,只要追加數(shù)據(jù)與算力,大模型的能力就能持續(xù)增強。對OpenAI而言,目前大模型的最大限制是數(shù)據(jù)和算力的總量。 或許,大模型之間的競爭,已經(jīng)轉(zhuǎn)為對數(shù)據(jù)與算力資源的爭奪。 對于云從科技而言,由于公司被納入美國“實體清單”,購買模型訓練用的高端芯片面臨限制。即使資金充足,能否成功獲取龐大算力所需芯片呢? 云從科技定增預(yù)案顯示,2020年5月至今,美國商務(wù)部宣布將包括公司在內(nèi)的多家中國公司及機構(gòu)列入“實體清單”,該行為不會對公司日常對外銷售、客戶拓展等產(chǎn)生重大不利影響,但可能對公司研發(fā)和項目交付過程中采購境外廠商的芯片、服務(wù)器等器件產(chǎn)生一定限制,盡管公司已制定國產(chǎn)器件替代的產(chǎn)品方案,但由于方案落地需要一定驗證時間、客戶對使用替代器件的產(chǎn)品認可具有不確定性等因素,可能會對公司的生產(chǎn)經(jīng)營產(chǎn)生一定影響。 簡而言之,對銷售影響不大,影響主要是采購境外廠商芯片、服務(wù)器。 對于芯片問題,《每日經(jīng)濟新聞》記者4月13日致電云從科技,其工作人員表示:“首先有一部分庫存,然后我們和國產(chǎn)芯片供應(yīng)商之前也完成深度適配。” 該工作人員也表示,具體芯片問題公司在2月份投資者活動記錄表有回復(fù)。記者查詢后了解到,云從科技芯片的采購分兩類。第一類:公司過去向英偉達采購部分芯片用以訓練側(cè)方面,公司具有一定量的庫存儲備且國產(chǎn)化的訓練芯片水平也已經(jīng)在快速提升中。第二類:過去兩年中,公司在國產(chǎn)化硬件適配方面穩(wěn)扎穩(wěn)打,已與華為、寒武紀(SH688256,股價196.80元,市值816億元)、曙光等提供芯片和服務(wù)器的廠商完成了深度適配。 值得一提的是,云從科技一度研發(fā)過AI芯片,如承擔工信部“基于自研SoC芯片的高準確度人臉識別產(chǎn)業(yè)化應(yīng)用”等國家級重大項目建設(shè)任務(wù)。 而根據(jù)云從科技招股書,其表示公司所處的人工智能行業(yè)尚處于發(fā)展初期,未來發(fā)展趨勢存在較大不確定性,相關(guān)技術(shù)及各應(yīng)用場景的定制化解決方案迭代速度快,技術(shù)的產(chǎn)品化和市場化亦具有一定的不確定性。2020年,由于芯片設(shè)計成果未達預(yù)期,且EDA軟件和生產(chǎn)流片遭遇限制,公司終止了“人工智能SOC芯片研制及結(jié)合高準確度人臉識別技術(shù)的產(chǎn)業(yè)化應(yīng)用”項目。 也就是說,云從科技終止了自研人工智能SOC芯片。
云從科技 半導體芯片 算力

歡迎關(guān)注每日經(jīng)濟新聞APP

每經(jīng)經(jīng)濟新聞官方APP

0

0