亚洲永久免费/亚洲大片在线观看/91综合网/国产精品长腿丝袜第一页

每日經(jīng)濟(jì)新聞
要聞

每經(jīng)網(wǎng)首頁 > 要聞 > 正文

大模型已進(jìn)入應(yīng)用階段 專家:算法脆弱性、算法漏洞等問題仍待解

每日經(jīng)濟(jì)新聞 2024-12-07 21:45:59

12月6日,2024 AI+數(shù)字筆跡創(chuàng)新應(yīng)用發(fā)展論壇在重慶召開。阿里云副總裁張磊指出,大模型產(chǎn)業(yè)將經(jīng)歷三個(gè)階段,逐步深入生產(chǎn)生活,重塑業(yè)務(wù)流程。電子科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長張小松強(qiáng)調(diào),大模型背后的機(jī)器學(xué)習(xí)存在脆弱性和安全隱患,需加強(qiáng)防護(hù)。

每經(jīng)記者 王琳    每經(jīng)編輯 梁梟    

“百模大戰(zhàn)”告一階段,國內(nèi)大模型領(lǐng)域開始進(jìn)入到各行各業(yè)的應(yīng)用探索階段。

12月6日,2024 AI+數(shù)字筆跡創(chuàng)新應(yīng)用發(fā)展論壇在重慶舉行。《每日經(jīng)濟(jì)新聞》記者在現(xiàn)場(chǎng)注意到,阿里云副總裁、產(chǎn)業(yè)智能首席科學(xué)家張磊表示,大模型真正變成生產(chǎn)力可能會(huì)經(jīng)歷三個(gè)階段,最終將打破固有的生產(chǎn)關(guān)系,越往深層走,大模型作為一個(gè)新質(zhì)生產(chǎn)力產(chǎn)生的業(yè)務(wù)價(jià)值、社會(huì)價(jià)值將會(huì)越來越大。

圖片來源:每經(jīng)記者 王琳 攝

隨著大模型的應(yīng)用進(jìn)入到日常生活以及生產(chǎn)經(jīng)營領(lǐng)域,其安全短板也亟待解決。電子科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長、俄羅斯工程院外籍院士張小松認(rèn)為,大模型的背后是機(jī)器學(xué)習(xí),而機(jī)器學(xué)習(xí)存在脆弱性,需通過多種措施加以應(yīng)對(duì)。

專家:大模型變成生產(chǎn)力有三個(gè)階段

過去的一年時(shí)間,國內(nèi)的大模型領(lǐng)域經(jīng)歷了“百模大戰(zhàn)”,各行各業(yè)的開源、閉源大模型層出不窮。

在張磊看來,大模型產(chǎn)業(yè)中長期可能有兩個(gè)比較重要的發(fā)展趨勢(shì),一是從大模型利用或者需求的角度來說,肯定會(huì)呈現(xiàn)大模型越來越多、百花齊放的普惠效應(yīng)趨勢(shì);二是在整個(gè)大模型技術(shù)、基礎(chǔ)設(shè)施的供給上,全球范圍內(nèi)又將是一個(gè)比較極化的效應(yīng)趨勢(shì),即寡頭格局、強(qiáng)者愈強(qiáng)。

因此,張磊認(rèn)為,在大模型的供給方面,需要生態(tài)圈里最頭部的廠商進(jìn)行抱團(tuán),包括云計(jì)算廠商、運(yùn)營商、硬件廠商等,從而形成一個(gè)完整的產(chǎn)業(yè)鏈。

與此同時(shí),值得注意的是,隨著“百模大戰(zhàn)”帶來的投入越來越大,行業(yè)發(fā)展的重點(diǎn)也逐漸向應(yīng)用層遷移。

張磊表示,大模型真正變成生產(chǎn)力可能有三個(gè)階段,第一個(gè)階段是沒有行業(yè)屬性的大模型應(yīng)用,包括客服、問答、數(shù)據(jù)分析、報(bào)表總結(jié),文本、圖片生成,會(huì)議紀(jì)要生成,招聘輔助等,各行各業(yè)都可以用;第二個(gè)階段是大模型通過智能體、私域數(shù)據(jù)庫、小助手的方式進(jìn)入有行業(yè)屬性的實(shí)際場(chǎng)景的業(yè)務(wù)流程中,開始為現(xiàn)有的業(yè)務(wù)流程進(jìn)行降本提效;第三個(gè)階段是大模型將產(chǎn)生新的能力,開始去重構(gòu)業(yè)務(wù)流程,打破固有的生產(chǎn)關(guān)系。

而對(duì)于推動(dòng)大模型產(chǎn)業(yè)的發(fā)展,張磊也給出了自己的建議,包括統(tǒng)籌算力、構(gòu)建高質(zhì)量的數(shù)據(jù)集、大力推動(dòng)人才培養(yǎng)以及加速示范應(yīng)用。

存算法脆弱性、算法漏洞等問題,專家支招

在大模型逐漸進(jìn)入應(yīng)用階段之際,大模型的數(shù)據(jù)安全和算法漏洞等問題也愈發(fā)受到各方關(guān)注。

張小松指出,大模型的實(shí)踐手段是機(jī)器學(xué)習(xí)。在機(jī)器學(xué)習(xí)的早期,存在幾個(gè)威脅:一是機(jī)器學(xué)習(xí)的算法非常脆弱,脆弱到甚至還不如幾歲的小孩,稍微把圖形圖像的內(nèi)容進(jìn)行篡改就會(huì)發(fā)生識(shí)別錯(cuò)誤;二是經(jīng)常有利用機(jī)器學(xué)習(xí)的錯(cuò)誤,用來操縱大模型,例如有意喂錯(cuò)誤樣本進(jìn)行投毒攻擊或?qū)构簦ㄟ^有選擇性地學(xué)習(xí)進(jìn)行逃逸攻擊。

“所以一是要對(duì)學(xué)習(xí)過程進(jìn)行完整性的檢測(cè),二是要對(duì)推理過程進(jìn)行防錯(cuò)性的檢測(cè),三是要對(duì)機(jī)器學(xué)習(xí)內(nèi)容樣本進(jìn)行隱私保護(hù)的處理。”張小松補(bǔ)充道。

值得一提的是,在人工智能時(shí)代,由深度偽造等帶來的挑戰(zhàn)也愈發(fā)顯現(xiàn),網(wǎng)絡(luò)安全中的身份認(rèn)證問題也亟待解決。

《2024人工智能數(shù)字筆跡技術(shù)白皮書》在論壇現(xiàn)場(chǎng)發(fā)布。根據(jù)白皮書內(nèi)容,AI數(shù)字筆跡將成為多模態(tài)生物特征識(shí)別的重要手段之一,并作為數(shù)字交易中確權(quán)和授權(quán)的底層基礎(chǔ)技術(shù),在數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展中發(fā)揮非常重要的作用。

“AI在提高數(shù)字筆跡識(shí)別準(zhǔn)確率方面可發(fā)揮關(guān)鍵作用,通過卷積神經(jīng)網(wǎng)絡(luò)(CNN)等深度學(xué)習(xí)模型,未來本人數(shù)字筆跡識(shí)別的識(shí)別通過率將提高到99.99%。”白皮書顯示。

如需轉(zhuǎn)載請(qǐng)與《每日經(jīng)濟(jì)新聞》報(bào)社聯(lián)系。
未經(jīng)《每日經(jīng)濟(jì)新聞》報(bào)社授權(quán),嚴(yán)禁轉(zhuǎn)載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請(qǐng)作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。

大模型 張小松

歡迎關(guān)注每日經(jīng)濟(jì)新聞APP

每經(jīng)經(jīng)濟(jì)新聞官方APP

0

0