自年初以來，DeepSeek人工智能大模型在全球范圍內(nèi)掀起熱潮，引發(fā)廣泛關注與應用。DeepSeek的廣泛應用為網(wǎng)絡安全帶來哪些挑戰(zhàn)？網(wǎng)絡安全行業(yè)如何利用好DeepSeek工具，共贏發(fā)展新機遇？

2025年3月14日，由《網(wǎng)絡安全與數(shù)據(jù)治理》期刊理事會組織成員單位發(fā)起的技術沙龍活動在北京舉行，圍繞“網(wǎng)絡安全+DeepSeek”主題，與會的期刊理事會成員及行業(yè)內(nèi)相關專家、學者、科研市場人員40余人展開熱烈討論。

北京交通大學教授盧云龍、中央民族大學副教授于靜、深圳云天勵飛技術股份有限公司技術負責人余曉填、深圳昂楷科技有限公司董事長劉永波、杭州安恒信息技術股份有限公司技術總監(jiān)徐立松、北京山石網(wǎng)科信息技術有限公司副總裁賈宇分別帶來精彩的主題報告。本次活動由著名網(wǎng)絡安全專家郭守祥主持。

活動現(xiàn)場

北京交通大學盧云龍教授作了題為“AI Agent智能體：從云端智能到邊緣泛在”的主題報告，從AI Agent智能體的發(fā)展背景、核心框架與范式、關鍵技術、行業(yè)應用、挑戰(zhàn)與展望等方面詳細解讀了AI Agent技術。他指出，在國家層面，“十四五”規(guī)劃明確將人工智能作為核心驅動力，推動智能經(jīng)濟與實體經(jīng)濟的深度融合，AI Agent作為新一代生產(chǎn)力工具被納入重點發(fā)展領域。DeepSeek的廣泛應用，將加速通用人工智能（AGI）時代到來，AI Agent將成為通往AGI的基石。在強化學習的推動下，DeepSeek展現(xiàn)出了此前未曾預見的推理能力，同時通過工程與算法等深度耦合，大幅降低成本。DeepSeek開源其模型預示著開源社區(qū)正以全新的方式推進人工智能技術的發(fā)展，加速通用人工智能時代到來并推動AI Agent技術更加成熟。

AI Agent在車聯(lián)網(wǎng)、移動通信、智慧交通、智慧醫(yī)療、新興大模型、通用Agent、工作服務、安全服務等方面有廣泛應用。盧云龍表示，目前大模型在網(wǎng)絡安全領域的應用，主要是以智能體為表現(xiàn)形式，結合安全的場景、數(shù)據(jù)、知識、工具、流程等構建完整的應用服務。安全智能體的應用場景包括供應鏈安全、流量檢測、郵件分析、數(shù)據(jù)安全、樣本分析、安全運營等，全面賦能網(wǎng)絡安全。

北京交通大學教授 盧云龍

中央民族大學于靜副教授帶來“生成式人工智能大模型確權技術與挑戰(zhàn)”的主題報告。當前，人工智能包括大模型技術得到突飛猛進的發(fā)展，伴生而來的是，如何發(fā)揮數(shù)據(jù)在其中的核心價值。在數(shù)據(jù)流通共享的過程中，一個基礎的問題就是如何確定數(shù)據(jù)的所有權。如果沒有確權作為基礎保障，整個流通交易包括權益分配很難進行。

于靜指出，生成式模型面臨的確權問題可總結為兩個方面：第一，模型確權，涉及到模型盜用，包括模型微調(diào)、壓縮等；模型濫用，即用戶使用模型生成惡意內(nèi)容。第二，數(shù)據(jù)確權，包括模型訓練階段，訓練數(shù)據(jù)未授權使用，以及模型使用階段，提示數(shù)據(jù)未授權使用。

在模型確權關鍵技術方面，對于模型身份，可使用白盒水印、黑盒水印、灰盒水印、無盒水印等方法，直接在模型中嵌入水印，當模型被盜取時，通過驗證水印來驗證模型身份。對于模型用戶身份，可使用模型水印和模型指紋方法，在已知分發(fā)用戶的情況下，在分發(fā)前向模型中嵌入用戶水?。ㄖ讣y），通過身份驗證判斷模型的使用者/操作者。

在數(shù)據(jù)確權方面，關鍵技術包括數(shù)據(jù)水印、數(shù)據(jù)歸因和對抗攻擊，分別對應任務數(shù)據(jù)身份認證、訓練數(shù)據(jù)溯源和數(shù)據(jù)訪問控制。

于靜表示，在生成式人工智能模型面臨知識產(chǎn)權保護或惡意信息溯源時，模型水印可以被視為一種重要監(jiān)管手段。生成式模型水印技術方興未艾，相關技術仍面臨嚴峻挑戰(zhàn)，如模型水印面對多維度攻擊的魯棒性，模型水印分配、存儲、驗證的安全性，開放環(huán)境下的訓練數(shù)據(jù)歸因，提示圖像的有效歸因等。這些有待行業(yè)內(nèi)專家學者的進一步探索。

中央民族大學副教授 于靜

深圳云天勵飛技術股份有限公司技術負責人余曉填作了題為“DeepSeek大模型訓練策略和算法優(yōu)化技術演進”的主題報告。報告詳細介紹了DeepSeek的發(fā)展路徑以及核心技術，結合云天勵飛的落地場景，分享了DeepSeek在政務場景中的賦能應用。余曉填指出，DeepSeek的能力仍存在局限性，AI是助手而非對手。因為DeepSeek大模型落地應用面臨諸多挑戰(zhàn)，這包括性能挑戰(zhàn)：國產(chǎn)化的性能仍有瓶頸，表現(xiàn)為顯存與帶寬不足，并發(fā)效率待提升，長文本處理能力有限；性價比挑戰(zhàn)：最佳硬件成本需要優(yōu)化，R1-671B雖是目前最好的大模型，但具體場景可能通過多尺寸模型協(xié)同才經(jīng)濟；安全挑戰(zhàn)：部署應用安全系統(tǒng)缺失，場景大模型應用目前模型層與應用層之間存在架構脫節(jié)，需要基于統(tǒng)一系統(tǒng)接口，實現(xiàn)內(nèi)容安全審核、分級權限管理和接口對接等；數(shù)據(jù)安全治理挑戰(zhàn)：閉環(huán)數(shù)據(jù)治理難度大，DeepSeek通用能力無法直接落地應用，需要大量的現(xiàn)有業(yè)務流程梳理、本地知識庫治理等工作。所以在應用場景落地中，即使是領先的DeepSeek-R1也會犯常識性錯誤，未來一段時間AI仍是輔助角色，并非取代人的對手。

活動現(xiàn)場

深圳昂楷科技有限公司董事長劉永波作了題為“大模型數(shù)據(jù)安全防護方案探討”的主題報告。他指出，大模型系統(tǒng)更容易存在嚴重的數(shù)據(jù)安全問題。不管是公有模型還是私域模型，都面臨數(shù)據(jù)泄露、竊取、篡改等諸多風險，數(shù)據(jù)安全治理迫在眉睫。

劉永波指出，為應對大模型系統(tǒng)數(shù)據(jù)安全挑戰(zhàn)，必須采用數(shù)據(jù)安全運營理念進行數(shù)據(jù)安全建設。大模型系統(tǒng)數(shù)據(jù)安全保護對象、參與主體、訪問方式等眾多，在數(shù)據(jù)安全防護過程中，需要從頂層規(guī)劃開始，明確安全策略方案、規(guī)范流程等；再利用安全防護技術對安全風險進行有效控制；同時，還需要持續(xù)運營，以保證持續(xù)防護效果。

另一方面，大模型也可賦能數(shù)據(jù)安全。利用大模型的內(nèi)容生成、自然語言處理、上下文理解、特征深度挖掘等能力，在數(shù)據(jù)安全產(chǎn)品研發(fā)、產(chǎn)品能力、產(chǎn)品交付等方面進行賦能，可顯著提升研發(fā)效率、優(yōu)化用戶體驗、推動產(chǎn)品創(chuàng)新。在進行敏感數(shù)據(jù)識別過程中調(diào)用大模型能力，可大幅提升識別準確率。利用大模型強大的分析與決策能力，基于數(shù)據(jù)、身份、權限、行為、策略五要素，可對數(shù)據(jù)安全風險進行智能識別、智能挖掘，以及預判深層次未知風險。

深圳昂楷科技有限公司董事長 劉永波

杭州安恒信息技術股份有限公司技術總監(jiān)徐立松介紹了DeepSeek安全垂域解決方案——恒腦智能體。安全垂域大模型與滿血R1協(xié)同工作，實現(xiàn)安全與擴展性的兼顧。恒腦智能體框架在安全性方面，借助容器隔離技術達成代碼執(zhí)行隔離，針對租戶的知識庫訪問及服務調(diào)用實施嚴格的權限管控，結合內(nèi)容安全過濾、熔斷回復機制以及價值觀對齊機制，全方位保障系統(tǒng)安全。在功能性方面，通過深度應用推理加速、KV壓縮及上下文緩存等技術，借助任務調(diào)度機制，實現(xiàn)復雜邏輯編排、多邊并發(fā)執(zhí)行及長期記憶管理和使用；基于泛節(jié)點架構，提供高度自定義體驗。在靈活性方面，支持接入不同廠商、遵循不同規(guī)則的大模型，借助網(wǎng)關實現(xiàn)靈活調(diào)度，同時能夠實現(xiàn)結構化、非結構化、半結構化知識的靈活接入。在適配性方面，具備廣泛的兼容性，可與英偉達 A、H、L及 4090D全系列算力無縫適配，同時兼容華為昇騰、海光K100_AI系列，并能夠在麒麟、飛騰等國產(chǎn)化操作系統(tǒng)環(huán)境下完成部署與應用。

杭州安恒信息技術股份有限公司技術總監(jiān) 徐立松

北京山石網(wǎng)科信息技術有限公司副總裁賈宇分享了“智領未來，山石網(wǎng)科DeepSeek之路”的主題報告。他指出，大模型雖然具有強大的功能，但也存在巨大的安全風險，包括提示詞攻擊、供應鏈安全、模型無界濫用、數(shù)據(jù)泄露、模型攻擊、內(nèi)容合規(guī)等。山石網(wǎng)科秉承“開放融合、AI賦能、智慧運維”理念，踐行可持續(xù)安全，實現(xiàn)多產(chǎn)品，多業(yè)務，多伙伴之間的深度、智能協(xié)同防護，其自主研發(fā)的大模型應用防火墻輕松開啟大模型安全防護，讓AI更安全。

經(jīng)過十多年AI能力積累，山石網(wǎng)科已將AI全面賦能產(chǎn)品和公司發(fā)展，其DeepSeek大模型一體化安全解決方案具有開箱即用、多部署形態(tài)、安全加固、算力開放的特點，實現(xiàn)了提升業(yè)務安全性，優(yōu)化安全運營效率，滿足數(shù)據(jù)隱私與合規(guī)，助力業(yè)務創(chuàng)新，全面開啟網(wǎng)安新紀元。

北京山石網(wǎng)科信息技術有限公司副總裁 賈宇

此次沙龍活動為網(wǎng)絡安全發(fā)展與DeepSeek大模型搭建了一個融合互通的平臺，與會者普遍認為，在大模型時代下，攻擊形式和網(wǎng)安需求的改變將刺激網(wǎng)絡安全市場，對行業(yè)發(fā)展有一定積極作用。在自由交流環(huán)節(jié)，大家暢所欲言、熱烈討論，紛紛表示收獲頗多。

未來，《網(wǎng)絡安全與數(shù)據(jù)治理》期刊理事會將組織更多主題的沙龍活動，服務于網(wǎng)絡安全與數(shù)據(jù)治理領域的技術交流、科技創(chuàng)新、產(chǎn)業(yè)發(fā)展。

《網(wǎng)絡安全與數(shù)據(jù)治理》期刊理事會于2023年底正式成立，旨在服務于網(wǎng)絡強國和數(shù)字中國建設，匯聚“政、產(chǎn)、學、研、用”各領域智庫資源，開展網(wǎng)絡安全和數(shù)據(jù)治理領域重大問題研究、學術交流，促進優(yōu)秀工程方案和解決方案的推廣應用。