每經(jīng)記者 楊卉    每經(jīng)編輯 楊夏    

4月29日，第八屆數(shù)字中國建設(shè)峰會在福州舉行。會議期間，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東接受了《每日經(jīng)濟新聞》等媒體的采訪。

在齊向東看來，隨著人工智能，尤其是大模型在垂直領(lǐng)域落地應(yīng)用的加速，數(shù)據(jù)安全面臨著新的三重挑戰(zhàn)：數(shù)據(jù)密度變高，失去珍貴“小數(shù)據(jù)”的企業(yè)將承擔(dān)巨大損失；大部分大模型還在“裸奔”上線，極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C；用戶對AI（人工智能）過度依賴，一旦大模型決策失準(zhǔn)會引發(fā)“蝴蝶效應(yīng)”。

除了挑戰(zhàn)，齊向東還看到了人工智能時代下數(shù)據(jù)安全市場的重大機遇。根據(jù)他的預(yù)測，數(shù)據(jù)安全市場“引爆在即”，雖然增速尚難估計，但至少會高于其他行業(yè)。從細分領(lǐng)域和利好產(chǎn)業(yè)來看，數(shù)據(jù)基礎(chǔ)設(shè)施底座、算力網(wǎng)平臺、數(shù)據(jù)應(yīng)用動態(tài)管控、數(shù)據(jù)流通利用安全等方面將成為企業(yè)在打造自身數(shù)據(jù)安全“護城河”時關(guān)注的重點；“車路云一體化”趨勢下的智能網(wǎng)聯(lián)車產(chǎn)業(yè)對數(shù)據(jù)安全的需求將大大增加，萬億級市場呼之欲出。

齊向東接受《每日經(jīng)濟新聞》等媒體采訪 圖片來源：受訪者供圖

大模型“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C

峰會現(xiàn)場，從人形機器人到智能眼鏡再到各類AI解決方案，2025年，大模型終于在垂直領(lǐng)域迎來了應(yīng)用和落地的爆發(fā)。作為經(jīng)歷過上一輪互聯(lián)網(wǎng)“狂歡”的老兵，齊向東在看到新生產(chǎn)力的同時，也看到了隨之而來的安全風(fēng)險。

首先是“小數(shù)據(jù)”的重要性遠超從前，成為數(shù)字經(jīng)濟時代的核心關(guān)切。至于這個“小”的范圍，齊向東解釋稱，“小數(shù)據(jù)”其實是指企業(yè)在多年競爭中積累下來的核心資產(chǎn)。“這個小指的是規(guī)模小，用硬盤就能拷走。在大模型垂直應(yīng)用場景中，大數(shù)據(jù)經(jīng)過標(biāo)注、清洗、學(xué)習(xí)，就變成了‘小數(shù)據(jù)’，這些精華數(shù)據(jù)的價值更高，集中度也強。”

需要注意的是，據(jù)齊向東介紹，在相關(guān)產(chǎn)業(yè)，接觸上述數(shù)據(jù)的大模型開發(fā)工程師、訓(xùn)練微調(diào)工程師、模型運維工程師、數(shù)據(jù)管理員、數(shù)據(jù)標(biāo)注員等都擁有很高的數(shù)據(jù)訪問權(quán)限，因此權(quán)限濫用、身份盜取等情況更難防范，安全風(fēng)險更為嚴(yán)峻。齊向東直言，對企業(yè)來說，一旦精華小數(shù)據(jù)被竊取、泄露、篡改，企業(yè)常年積累的核心競爭力會瞬間崩塌。

第二重挑戰(zhàn)是，在企業(yè)積極部署落地的同時，大部分大模型都在“裸奔”。據(jù)他介紹，大模型在深度融入智慧城市、工控系統(tǒng)、智慧政務(wù)等領(lǐng)域時會將風(fēng)險串聯(lián)成網(wǎng)，一旦被攻擊就是“牽一發(fā)動全身”。然而，通過奇安信資產(chǎn)測繪鷹圖平臺的監(jiān)測數(shù)據(jù)，在8971個Ollama大模型服務(wù)器中有6449個活躍服務(wù)器，其中近九成都在“裸奔”。

“這就導(dǎo)致任何人，不需要任何認(rèn)證就可隨意調(diào)用，或是在未經(jīng)授權(quán)的情況下訪問服務(wù)，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件，進而導(dǎo)致與大模型關(guān)聯(lián)的應(yīng)用業(yè)務(wù)中斷。”齊向東稱。

第三重挑戰(zhàn)是用戶對AI的過度依賴。“隨著人工智能在各行業(yè)深入應(yīng)用，大模型的本領(lǐng)會越來越強，（用戶）會對人工智能的輔助決策和判斷（能力）過度依賴。從外部攻擊視角看，黑客可以通過利用漏洞、數(shù)據(jù)‘投毒’等方式干擾大模型的決策，披著大模型的外衣作惡。從內(nèi)部運營視角看，一旦內(nèi)部員工在更新知識庫時引入錯誤信息，就會污染模型學(xué)習(xí)環(huán)境，使其輸出錯誤結(jié)論。”齊向東稱。

不過，即便明知大模型有幻覺、長期使用會有依賴，大模型也已經(jīng)勢不可當(dāng)?shù)剡M入了千行百業(yè)，用戶該如何應(yīng)對這些風(fēng)險，安全領(lǐng)域的玩家們又該如何“接招”？

《每日經(jīng)濟新聞》記者注意到，與前一輪互聯(lián)網(wǎng)浪潮時的安全產(chǎn)品略有不同，此次不少公司選擇了加碼硬件來抵抗風(fēng)險。以奇安信為例，據(jù)齊向東介紹，奇安信推出了大模型安全空間以及奇安天界大模型安全一體機等解決方案。其中，一體機產(chǎn)品可通過一體化交付、一體化運維和一體化管理來滿足大模型的安全和合規(guī)需求，已在超千家政企客戶中成功部署。

數(shù)據(jù)安全市場“引爆在即”

人工智能浪潮來襲已有一年多的時間，我國的數(shù)據(jù)資源增長情況究竟如何？

4月29日，《全國數(shù)據(jù)資源調(diào)查報告（2024年）》正式發(fā)布（下稱《報告》）在第八屆數(shù)字中國建設(shè)峰會期間正式發(fā)布。《報告》顯示，我國數(shù)據(jù)資源規(guī)模優(yōu)勢持續(xù)擴大，數(shù)據(jù)資源開發(fā)利用活躍度穩(wěn)步提升，2024年全國年度數(shù)據(jù)生產(chǎn)總量達41.06澤字節(jié)（ZB），同比增長25%；智能家居、智能網(wǎng)聯(lián)汽車、無人機等智能設(shè)備數(shù)據(jù)增速位居前列。

然而，與高速增長的數(shù)據(jù)池對應(yīng)的卻是近年來增速并不理想的數(shù)據(jù)安全市場。齊向東告訴《每日經(jīng)濟新聞》記者，在他看來，主要原因是此前數(shù)據(jù)都是以大數(shù)據(jù)形式存在，一個單位內(nèi)會有成百上千，甚至上萬臺服務(wù)器用于存儲數(shù)據(jù)。加上彼時數(shù)據(jù)單位的體系和數(shù)據(jù)的價值密度并不高，因此哪怕有數(shù)據(jù)丟失，企業(yè)也并不太“痛”。

齊向東直言，眼下這一情況已經(jīng)有了明顯改變，隨著DeepSeek降低大模型部署成本，垂直領(lǐng)域應(yīng)用開始爆發(fā)，企業(yè)在數(shù)據(jù)安全上的“痛感”會越來越明顯。畢竟企業(yè)要部署大模型，就需要將質(zhì)量稀疏的大數(shù)據(jù)變成密度極高的“小數(shù)據(jù)”，否則將會消耗大量的算力和顯卡，燒掉大量資金。在此模式下，密度極高的數(shù)據(jù)一旦丟失，帶來的影響將遠超從前。

“我預(yù)計數(shù)據(jù)安全市場‘引爆在即’，至于增速是多少很難估計，因為它和宏觀經(jīng)濟環(huán)境有關(guān)聯(lián)性，至少會遠高于其他的行業(yè)，因為它（數(shù)據(jù)安全需求）處于‘爆炸增長’的狀態(tài)。”齊向東稱。

值得關(guān)注的是，除了預(yù)測總量的增長，齊向東還嗅到了更多機遇的“味道”。他告訴記者，其實過去幾年，網(wǎng)絡(luò)安全行業(yè)一直是在挑戰(zhàn)中創(chuàng)造“歷史”，如“脫鉤斷鏈”“小院高墻”等情況，其實客觀上加速了我國的信創(chuàng)替代進程，極大釋放了信創(chuàng)安全需求。

再看回這波AI浪潮，齊向東認(rèn)為，隨著各類利好政策的密集發(fā)布，國家數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)將全面提速，全流程動態(tài)防護必將成重點。對企業(yè)來說，圍繞數(shù)據(jù)基礎(chǔ)設(shè)施底座、算力網(wǎng)平臺、數(shù)據(jù)應(yīng)用動態(tài)管控、數(shù)據(jù)流通利用安全等四個方面開展的數(shù)據(jù)安全建設(shè)將成為主流趨勢。

此外，產(chǎn)業(yè)方面，齊向東重點談到了“車路云一體化”行業(yè)的潛在機遇。在他看來，“車路云一體化”是智能網(wǎng)聯(lián)車領(lǐng)域落實和發(fā)展新質(zhì)生產(chǎn)力的重要實踐，也是未來新型的交通關(guān)鍵基礎(chǔ)設(shè)施。一旦遭受網(wǎng)絡(luò)攻擊或數(shù)據(jù)泄露，將造成嚴(yán)重的交通秩序問題及公共安全事件。因此，保障數(shù)據(jù)安全合規(guī)將是智能網(wǎng)聯(lián)車產(chǎn)業(yè)穩(wěn)健發(fā)展的前提。齊向東預(yù)測，隨著相關(guān)政策的密集推出，國家將以超長期國債等方式支持地方投入車路云一體化項目，萬億級市場呼之欲出。