自年初以來(lái)，DeepSeek人工智能大模型在全球范圍內(nèi)掀起熱潮，引發(fā)廣泛關(guān)注與應(yīng)用。DeepSeek的廣泛應(yīng)用為網(wǎng)絡(luò)安全帶來(lái)哪些挑戰(zhàn)？網(wǎng)絡(luò)安全行業(yè)如何利用好DeepSeek工具，共贏發(fā)展新機(jī)遇？

2025年3月14日，由《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)組織成員單位發(fā)起的技術(shù)沙龍活動(dòng)在北京舉行，圍繞“網(wǎng)絡(luò)安全+DeepSeek”主題，與會(huì)的期刊理事會(huì)成員及行業(yè)內(nèi)相關(guān)專家、學(xué)者、科研市場(chǎng)人員40余人展開熱烈討論。

北京交通大學(xué)教授盧云龍、中央民族大學(xué)副教授于靜、深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填、深圳昂楷科技有限公司董事長(zhǎng)劉永波、杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松、北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分別帶來(lái)精彩的主題報(bào)告。本次活動(dòng)由著名網(wǎng)絡(luò)安全專家郭守祥主持。

活動(dòng)現(xiàn)場(chǎng)

北京交通大學(xué)盧云龍教授作了題為“AI Agent智能體：從云端智能到邊緣泛在”的主題報(bào)告，從AI Agent智能體的發(fā)展背景、核心框架與范式、關(guān)鍵技術(shù)、行業(yè)應(yīng)用、挑戰(zhàn)與展望等方面詳細(xì)解讀了AI Agent技術(shù)。他指出，在國(guó)家層面，“十四五”規(guī)劃明確將人工智能作為核心驅(qū)動(dòng)力，推動(dòng)智能經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)的深度融合，AI Agent作為新一代生產(chǎn)力工具被納入重點(diǎn)發(fā)展領(lǐng)域。DeepSeek的廣泛應(yīng)用，將加速通用人工智能（AGI）時(shí)代到來(lái)，AI Agent將成為通往AGI的基石。在強(qiáng)化學(xué)習(xí)的推動(dòng)下，DeepSeek展現(xiàn)出了此前未曾預(yù)見(jiàn)的推理能力，同時(shí)通過(guò)工程與算法等深度耦合，大幅降低成本。DeepSeek開源其模型預(yù)示著開源社區(qū)正以全新的方式推進(jìn)人工智能技術(shù)的發(fā)展，加速通用人工智能時(shí)代到來(lái)并推動(dòng)AI Agent技術(shù)更加成熟。

AI Agent在車聯(lián)網(wǎng)、移動(dòng)通信、智慧交通、智慧醫(yī)療、新興大模型、通用Agent、工作服務(wù)、安全服務(wù)等方面有廣泛應(yīng)用。盧云龍表示，目前大模型在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用，主要是以智能體為表現(xiàn)形式，結(jié)合安全的場(chǎng)景、數(shù)據(jù)、知識(shí)、工具、流程等構(gòu)建完整的應(yīng)用服務(wù)。安全智能體的應(yīng)用場(chǎng)景包括供應(yīng)鏈安全、流量檢測(cè)、郵件分析、數(shù)據(jù)安全、樣本分析、安全運(yùn)營(yíng)等，全面賦能網(wǎng)絡(luò)安全。

北京交通大學(xué)教授 盧云龍

中央民族大學(xué)于靜副教授帶來(lái)“生成式人工智能大模型確權(quán)技術(shù)與挑戰(zhàn)”的主題報(bào)告。當(dāng)前，人工智能包括大模型技術(shù)得到突飛猛進(jìn)的發(fā)展，伴生而來(lái)的是，如何發(fā)揮數(shù)據(jù)在其中的核心價(jià)值。在數(shù)據(jù)流通共享的過(guò)程中，一個(gè)基礎(chǔ)的問(wèn)題就是如何確定數(shù)據(jù)的所有權(quán)。如果沒(méi)有確權(quán)作為基礎(chǔ)保障，整個(gè)流通交易包括權(quán)益分配很難進(jìn)行。

于靜指出，生成式模型面臨的確權(quán)問(wèn)題可總結(jié)為兩個(gè)方面：第一，模型確權(quán)，涉及到模型盜用，包括模型微調(diào)、壓縮等；模型濫用，即用戶使用模型生成惡意內(nèi)容。第二，數(shù)據(jù)確權(quán)，包括模型訓(xùn)練階段，訓(xùn)練數(shù)據(jù)未授權(quán)使用，以及模型使用階段，提示數(shù)據(jù)未授權(quán)使用。

在模型確權(quán)關(guān)鍵技術(shù)方面，對(duì)于模型身份，可使用白盒水印、黑盒水印、灰盒水印、無(wú)盒水印等方法，直接在模型中嵌入水印，當(dāng)模型被盜取時(shí)，通過(guò)驗(yàn)證水印來(lái)驗(yàn)證模型身份。對(duì)于模型用戶身份，可使用模型水印和模型指紋方法，在已知分發(fā)用戶的情況下，在分發(fā)前向模型中嵌入用戶水印（指紋），通過(guò)身份驗(yàn)證判斷模型的使用者/操作者。

在數(shù)據(jù)確權(quán)方面，關(guān)鍵技術(shù)包括數(shù)據(jù)水印、數(shù)據(jù)歸因和對(duì)抗攻擊，分別對(duì)應(yīng)任務(wù)數(shù)據(jù)身份認(rèn)證、訓(xùn)練數(shù)據(jù)溯源和數(shù)據(jù)訪問(wèn)控制。

于靜表示，在生成式人工智能模型面臨知識(shí)產(chǎn)權(quán)保護(hù)或惡意信息溯源時(shí)，模型水印可以被視為一種重要監(jiān)管手段。生成式模型水印技術(shù)方興未艾，相關(guān)技術(shù)仍面臨嚴(yán)峻挑戰(zhàn)，如模型水印面對(duì)多維度攻擊的魯棒性，模型水印分配、存儲(chǔ)、驗(yàn)證的安全性，開放環(huán)境下的訓(xùn)練數(shù)據(jù)歸因，提示圖像的有效歸因等。這些有待行業(yè)內(nèi)專家學(xué)者的進(jìn)一步探索。

中央民族大學(xué)副教授 于靜

深圳云天勵(lì)飛技術(shù)股份有限公司技術(shù)負(fù)責(zé)人余曉填作了題為“DeepSeek大模型訓(xùn)練策略和算法優(yōu)化技術(shù)演進(jìn)”的主題報(bào)告。報(bào)告詳細(xì)介紹了DeepSeek的發(fā)展路徑以及核心技術(shù)，結(jié)合云天勵(lì)飛的落地場(chǎng)景，分享了DeepSeek在政務(wù)場(chǎng)景中的賦能應(yīng)用。余曉填指出，DeepSeek的能力仍存在局限性，AI是助手而非對(duì)手。因?yàn)镈eepSeek大模型落地應(yīng)用面臨諸多挑戰(zhàn)，這包括性能挑戰(zhàn)：國(guó)產(chǎn)化的性能仍有瓶頸，表現(xiàn)為顯存與帶寬不足，并發(fā)效率待提升，長(zhǎng)文本處理能力有限；性價(jià)比挑戰(zhàn)：最佳硬件成本需要優(yōu)化，R1-671B雖是目前最好的大模型，但具體場(chǎng)景可能通過(guò)多尺寸模型協(xié)同才經(jīng)濟(jì)；安全挑戰(zhàn)：部署應(yīng)用安全系統(tǒng)缺失，場(chǎng)景大模型應(yīng)用目前模型層與應(yīng)用層之間存在架構(gòu)脫節(jié)，需要基于統(tǒng)一系統(tǒng)接口，實(shí)現(xiàn)內(nèi)容安全審核、分級(jí)權(quán)限管理和接口對(duì)接等；數(shù)據(jù)安全治理挑戰(zhàn)：閉環(huán)數(shù)據(jù)治理難度大，DeepSeek通用能力無(wú)法直接落地應(yīng)用，需要大量的現(xiàn)有業(yè)務(wù)流程梳理、本地知識(shí)庫(kù)治理等工作。所以在應(yīng)用場(chǎng)景落地中，即使是領(lǐng)先的DeepSeek-R1也會(huì)犯常識(shí)性錯(cuò)誤，未來(lái)一段時(shí)間AI仍是輔助角色，并非取代人的對(duì)手。

活動(dòng)現(xiàn)場(chǎng)

深圳昂楷科技有限公司董事長(zhǎng)劉永波作了題為“大模型數(shù)據(jù)安全防護(hù)方案探討”的主題報(bào)告。他指出，大模型系統(tǒng)更容易存在嚴(yán)重的數(shù)據(jù)安全問(wèn)題。不管是公有模型還是私域模型，都面臨數(shù)據(jù)泄露、竊取、篡改等諸多風(fēng)險(xiǎn)，數(shù)據(jù)安全治理迫在眉睫。

劉永波指出，為應(yīng)對(duì)大模型系統(tǒng)數(shù)據(jù)安全挑戰(zhàn)，必須采用數(shù)據(jù)安全運(yùn)營(yíng)理念進(jìn)行數(shù)據(jù)安全建設(shè)。大模型系統(tǒng)數(shù)據(jù)安全保護(hù)對(duì)象、參與主體、訪問(wèn)方式等眾多，在數(shù)據(jù)安全防護(hù)過(guò)程中，需要從頂層規(guī)劃開始，明確安全策略方案、規(guī)范流程等；再利用安全防護(hù)技術(shù)對(duì)安全風(fēng)險(xiǎn)進(jìn)行有效控制；同時(shí)，還需要持續(xù)運(yùn)營(yíng)，以保證持續(xù)防護(hù)效果。

另一方面，大模型也可賦能數(shù)據(jù)安全。利用大模型的內(nèi)容生成、自然語(yǔ)言處理、上下文理解、特征深度挖掘等能力，在數(shù)據(jù)安全產(chǎn)品研發(fā)、產(chǎn)品能力、產(chǎn)品交付等方面進(jìn)行賦能，可顯著提升研發(fā)效率、優(yōu)化用戶體驗(yàn)、推動(dòng)產(chǎn)品創(chuàng)新。在進(jìn)行敏感數(shù)據(jù)識(shí)別過(guò)程中調(diào)用大模型能力，可大幅提升識(shí)別準(zhǔn)確率。利用大模型強(qiáng)大的分析與決策能力，基于數(shù)據(jù)、身份、權(quán)限、行為、策略五要素，可對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行智能識(shí)別、智能挖掘，以及預(yù)判深層次未知風(fēng)險(xiǎn)。

深圳昂楷科技有限公司董事長(zhǎng) 劉永波

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān)徐立松介紹了DeepSeek安全垂域解決方案——恒腦智能體。安全垂域大模型與滿血R1協(xié)同工作，實(shí)現(xiàn)安全與擴(kuò)展性的兼顧。恒腦智能體框架在安全性方面，借助容器隔離技術(shù)達(dá)成代碼執(zhí)行隔離，針對(duì)租戶的知識(shí)庫(kù)訪問(wèn)及服務(wù)調(diào)用實(shí)施嚴(yán)格的權(quán)限管控，結(jié)合內(nèi)容安全過(guò)濾、熔斷回復(fù)機(jī)制以及價(jià)值觀對(duì)齊機(jī)制，全方位保障系統(tǒng)安全。在功能性方面，通過(guò)深度應(yīng)用推理加速、KV壓縮及上下文緩存等技術(shù)，借助任務(wù)調(diào)度機(jī)制，實(shí)現(xiàn)復(fù)雜邏輯編排、多邊并發(fā)執(zhí)行及長(zhǎng)期記憶管理和使用；基于泛節(jié)點(diǎn)架構(gòu)，提供高度自定義體驗(yàn)。在靈活性方面，支持接入不同廠商、遵循不同規(guī)則的大模型，借助網(wǎng)關(guān)實(shí)現(xiàn)靈活調(diào)度，同時(shí)能夠?qū)崿F(xiàn)結(jié)構(gòu)化、非結(jié)構(gòu)化、半結(jié)構(gòu)化知識(shí)的靈活接入。在適配性方面，具備廣泛的兼容性，可與英偉達(dá) A、H、L及 4090D全系列算力無(wú)縫適配，同時(shí)兼容華為昇騰、海光K100_AI系列，并能夠在麒麟、飛騰等國(guó)產(chǎn)化操作系統(tǒng)環(huán)境下完成部署與應(yīng)用。

杭州安恒信息技術(shù)股份有限公司技術(shù)總監(jiān) 徐立松

北京山石網(wǎng)科信息技術(shù)有限公司副總裁賈宇分享了“智領(lǐng)未來(lái)，山石網(wǎng)科DeepSeek之路”的主題報(bào)告。他指出，大模型雖然具有強(qiáng)大的功能，但也存在巨大的安全風(fēng)險(xiǎn)，包括提示詞攻擊、供應(yīng)鏈安全、模型無(wú)界濫用、數(shù)據(jù)泄露、模型攻擊、內(nèi)容合規(guī)等。山石網(wǎng)科秉承“開放融合、AI賦能、智慧運(yùn)維”理念，踐行可持續(xù)安全，實(shí)現(xiàn)多產(chǎn)品，多業(yè)務(wù)，多伙伴之間的深度、智能協(xié)同防護(hù)，其自主研發(fā)的大模型應(yīng)用防火墻輕松開啟大模型安全防護(hù)，讓AI更安全。

經(jīng)過(guò)十多年AI能力積累，山石網(wǎng)科已將AI全面賦能產(chǎn)品和公司發(fā)展，其DeepSeek大模型一體化安全解決方案具有開箱即用、多部署形態(tài)、安全加固、算力開放的特點(diǎn)，實(shí)現(xiàn)了提升業(yè)務(wù)安全性，優(yōu)化安全運(yùn)營(yíng)效率，滿足數(shù)據(jù)隱私與合規(guī)，助力業(yè)務(wù)創(chuàng)新，全面開啟網(wǎng)安新紀(jì)元。

北京山石網(wǎng)科信息技術(shù)有限公司副總裁 賈宇

此次沙龍活動(dòng)為網(wǎng)絡(luò)安全發(fā)展與DeepSeek大模型搭建了一個(gè)融合互通的平臺(tái)，與會(huì)者普遍認(rèn)為，在大模型時(shí)代下，攻擊形式和網(wǎng)安需求的改變將刺激網(wǎng)絡(luò)安全市場(chǎng)，對(duì)行業(yè)發(fā)展有一定積極作用。在自由交流環(huán)節(jié)，大家暢所欲言、熱烈討論，紛紛表示收獲頗多。

未來(lái)，《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)將組織更多主題的沙龍活動(dòng)，服務(wù)于網(wǎng)絡(luò)安全與數(shù)據(jù)治理領(lǐng)域的技術(shù)交流、科技創(chuàng)新、產(chǎn)業(yè)發(fā)展。

《網(wǎng)絡(luò)安全與數(shù)據(jù)治理》期刊理事會(huì)于2023年底正式成立，旨在服務(wù)于網(wǎng)絡(luò)強(qiáng)國(guó)和數(shù)字中國(guó)建設(shè)，匯聚“政、產(chǎn)、學(xué)、研、用”各領(lǐng)域智庫(kù)資源，開展網(wǎng)絡(luò)安全和數(shù)據(jù)治理領(lǐng)域重大問(wèn)題研究、學(xué)術(shù)交流，促進(jìn)優(yōu)秀工程方案和解決方案的推廣應(yīng)用。