每經記者 可楊    每經編輯 張海妮    

頂級賽車比賽中，速度與激情令人血脈僨張，但真正的勝負往往不在于直道狂飆，而在于每一個精準拿捏的剎車點，一輛沒有強大剎車系統的賽車，無論動力多么澎湃，都只是一場失控的冒險。

人工智能也是如此，有人追求更強的算力，有人押注更大的參數規模，有人則選擇做技術狂奔中的“安全派”。

從網絡安全到AI（人工智能）安全，朱萌深耕安全領域多年，作為瑞萊智慧（RealAI）合伙人、高級副總裁，在行業競爭日趨激烈、技術變革不斷加速的今天，她和團隊正在做一件“難而正確的事”——讓人工智能變得更安全、更可靠、更可控。

朱萌坦言，當前大模型的競爭，已經從單純的技術突破進入到商業化落地的關鍵階段，而安全性正成為決定成敗的“隱形門檻”，AI安全不是附屬品，而是產業的“基座”。

面對AI技術的爆炸式增長，行業正在經歷一場從“無安全”到“有安全”、從“被動防御”到“主動對抗”的深刻變革。在這場變革中，朱萌希望自己成為人工智能時代的“守護者”，為AI的未來撐起一張安全的保護網。

AI安全的“貓鼠游戲”

朱萌認為，技術攻擊與安全防護相當于AI時代的“貓鼠游戲”，“魔高一尺”就需要“道高一丈”，需要持續對抗博弈。

當前，AI安全行業正站在變革關口。以往依靠規則驅動的傳統安全防御體系，正在面對大模型時代的新型威脅——深度偽造、越獄攻擊、數據投毒等新型技術倒逼防御系統持續開展攻防對抗和迭代升級。

“大模型時代面臨越來越多的新型安全風險挑戰，AI安全領域也正經歷從被動防御到主動防御的范式轉換。”朱萌如此形容當下的行業變局。過去，安全系統依賴的是事后處置的模式；但如今，智能化、動態應對成為迫在眉睫的需求。事實上，在AI安全領域，攻與防的較量從未停歇，每一次技術的突破，都會帶來新的對抗升級。

朱萌開門見山地指出，現階段，以深度學習為主要技術、以數據驅動為主要模式的人工智能技術，在決策邏輯和鏈路上存在天然不確定性。

例如，“誘導攻擊”能夠利用大語言模型的漏洞，繞過大語言模型的基礎防護機制，引導其生成包含敏感數據泄露、非法操作指引等高危內容。在金融和醫療系統中，這類漏洞可能導致隱私泄露甚至關鍵決策被操控。

與此同時，大模型的“幻覺”問題也構成了新的安全隱患。在大模型領域，在自然魯棒性（Robustness，指系統、算法或模型在面對不確定性、變化或干擾時，能夠保持其功能和性能穩定的能力）下，容易出現事實不符、邏輯錯誤、答非所問等問題。另一方面，在外部攻擊下，大模型面對對抗樣本、誘導越獄、數據投毒等新型攻擊手段時表現脆弱，安全框架被突破后造成不良信息輸出、錯誤信息輸出等風險。

在大模型的競速場上，安全性或許正成為決定最終勝負的籌碼之一，朱萌試圖和RealAI一起成為這場博弈中的“守門人”。

2025年年初，DeepSeek引爆科技圈。熱潮中，朱萌提供了另一個視角。在測試中，RealAI發現：DeepSeek R1在回復相關性、拒答率上表現優異，但在模型安全性上卻呈現出兩極分化的表現。

朱萌介紹，在中文語境安全數據集的測試中，DeepSeek的回答均能夠生成合理且正向的響應內容，模型安全度高達100%，證明其基礎安全框架已具備基本的安全防護能力和實用價值。但在面對越獄攻擊的1553條測試用例時，DeepSeek的模型安全得分率為77.4%，有350條為不安全回復，占比22.6%。

“DeepSeek不安全的本質原因在于太‘善良’。”朱萌認為，DeepSeek本身已經有著良好的安全性分析能力，但是其傾向于滿足用戶需求，協助用戶完成任務，因此可能會輸出少量有害內容。“在82.3%的不安全回復案例中，模型在思考過程中已經識別出用戶的誘導性輸入，但最終仍選擇順從指令。”

基于這一發現和DeepSeek優化，RealAI團隊發布的大模型RealSafe-R1改造了DeepSeek R1的思維鏈處理方式，使其在識別到潛在風險時，不再單純地“服從”，而是能夠在推理過程中調整決策，確保生成結果的安全性。

防守是另一種“進攻”

從商業世界的運行邏輯來說，技術對抗的升級，意味著AI安全領域同時存在著挑戰與機遇。

在技術路徑上，RealAI始終選擇了一個“更強調安全與可靠性”的路徑。

朱萌表示，當前主流的深度學習模式，在可解釋性、魯棒性和對抗攻擊防御能力上仍存在短板。因此，RealAI的解決方案是“知識與數據雙輪驅動”，即結合貝葉斯深度學習，使AI在復雜決策環境中具備更高的可靠性。

朱萌認為，對于AI安全公司而言，新型安全威脅，如深度偽造、誘導攻擊以及數據投毒等正在日益增多，這些都倒逼防御系統與時俱進，進行持續的攻防對抗與技術迭代。其次，數據安全問題形勢愈加嚴峻。大模型的訓練依賴海量的多模態數據，生物特征等敏感信息的濫用風險日益加大，這要求在高效利用與合規管控之間找到一個微妙的平衡點。

更深層次的問題是，傳統安全防御體系本質上是“事后補救”式地被動響應攻擊，而在AI時代，攻擊發生的時間窗口極短，對算法與算力的協同提出了更高的要求。

挑戰背后，隱藏著巨大的機遇。

AI安全，也許最終會演變成AI與AI之間的對抗。隨著主動防御能力的不斷突破，大模型在多模態風險感知、動態防御等方面展現出強大的賦能潛力。特別是在“AI對抗AI”的閉環構建中，人工智能技術與防御系統的深度融合使得安防領域不再是單純的防護層，而是逐步向智能化方向邁進，形成了一種新型的安全生態系統。

產業化進程并非一蹴而就，AI安全企業在商業化過程中始終面臨重重挑戰。許多人認為，AI安全市場主要由監管驅動，企業的發展路徑受制于政策紅利的時間窗口。

對此，朱萌持不同觀點。她認為，政策驅動的需求往往是短期的，但AI安全的價值驗證周期比想象中要短。不管監管力度大小，AI安全都會成為企業剛需。

當前，大模型競爭的焦點已經從“技術驗證”轉向“場景落地”，企業需通過垂直場景深度適配（如醫療、教育、工業質檢）實現商業化閉環，而非依賴通用模型泛化能力。朱萌認為，真正的突破點在于能效優化與場景滲透率，而非盲目擴張算力。“DeepSeek的出圈說明，大模型行業正在重構產業邏輯，即能效優化將取代算力‘軍備’，場景滲透率提升將替代用戶規模擴張。”朱萌說。

“早在2015年，就有很多人預測刷臉支付、自動駕駛、AI醫療診斷會迅速落地。但我們認為，嚴肅、高價值場景對AI系統的魯棒性、安全性要求極高，如果這些問題無法解決，AI就很難真正落地。”朱萌表示，在任何一波技術熱潮中，人工智能想從技術邁向應用，現實總是比預期更加嚴苛。

朱萌認為，時至今日，現實依然符合自己當初的預判，大模型在安全方面的嚴重不足，正使產業鏈閉環出現風險“缺口”，這也成為阻礙人工智能賦能生產生活的最大掣肘。

人工智能產業“守護者”

技術從互聯網奔向人工智能，AI安全是否會像網絡安全一樣，形成完整的產業鏈和生態？

朱萌認為答案是肯定的。在加入RealAI之前，她長期深耕網絡安全領域。她認為，未來AI安全將形成與網絡安全類似的完整產業鏈和生態體系。

“AI安全產業鏈的雛形已經顯現。”朱萌解釋道，當前，“技術研發-產品服務-場景應用”三大環節鏈條已經逐步成型，覆蓋安全研究、安全治理與安全應用等方向。與此同時，技術融合與專業化趨勢也在加速，尤其是大模型安全評估、AI偽造內容檢測等前沿領域，已經形成熱點需求。此外，政策引導和行業協作機制的完善，使得AI安全正從碎片化走向系統化，政府、科研機構、企業共同推動標準化建設，形成完善的AI安全生態協作機制。

與此同時，隨著人工智能成為發展新質生產力的重要引擎，展現出賦能千行百業的強勁勢能，對安全的要求也水漲船高。隨著技術不斷滲透，AI安全的應用范圍將進一步拓展，自動駕駛、醫療診斷等新興領域的復雜性和風險也對安全技術提出更高要求，“這正是我們要做的難而正確的事，需要持之以恒地攻堅和探索”。

從更宏觀的角度看，隨著AI產業未來發展路徑的逐漸清晰，AI安全也將成為所有大模型企業的“必選項”。

“需要強調的是，安全可控能力是技術廣泛應用的前提、關鍵和挑戰。”朱萌認為，更強大的生成能力和更安全可控的發展并非對立，它們相輔相成、互為支撐。

她進一步剖析道，生成式人工智能技術仍未徹底解決第二代人工智能的固有安全問題，決策鏈路的不確定性、可解釋性弱、魯棒性低等難題依舊存在。而在應用層面，AI規模化落地，尤其是在涉及國計民生的重要領域，安全保障能力更是不可或缺。換句話說，安全可控能力不僅是技術突破的核心挑戰，也是其廣泛應用的前提條件。

人工智能的技術探索是一場曠日持久的掘金，朱萌希望自己在這條路上的角色是一個“守護者”。她坦言，自己的職業生涯都與安全行業相關，從網絡安全到AI安全，雖然技術不斷變化，但安全對發展的重要意義始終如一。

Facebook（臉書）前女高管謝麗爾·桑德伯格在《向前一步》中提到，有能力的人因自我懷疑而苦惱，無論男女都容易出現這樣的癥狀，但女性會更嚴重，也會更多地受其限制。

回望職業生涯，朱萌也曾像許多女性一樣，因“能力不足”的自我懷疑而猶豫不前。“我在很長的時間內都懷疑自己能力不足，但隨著年齡的增長和工作經驗的豐富，我逐漸認識到，完成比完美更重要，全力以赴的努力往往會帶來意想不到的美好結果。”她認為，唯一值得懼怕的是恐懼本身，因為恐懼，才會反復內耗，錯失很多機會和成長的可能。所以，一旦突破了這種心理障礙，就會發現，擺在面前的永遠都是解決問題的辦法，而不是問題本身。

朱萌對AI行業的年輕從業者，尤其是女性科技人才充滿信心。“這個行業對人的要求非常高，女性群體所展現的洞察力、統籌力、學習力和堅韌性等特質，能夠很好地適應和滿足行業發展需求。”她認為，人工智能行業的發展和變化速度極快，算法與模型都在飛速演進，甚至是以周或者日為單位在變化。“AI真正發揮價值，需要融入各行各業的場景中去，這就要求我們不僅是AI專家，更應該是懂行業的AI專家。”朱萌說。

封面圖片來源：公司提供