7月26日，首屆中關(guān)村網(wǎng)絡(luò)空間安全學(xué)術(shù)年會(huì)在北京舉行。大會(huì)以“AI+網(wǎng)絡(luò)空間安全：新挑戰(zhàn)、新機(jī)遇”為主題，聚焦人工智能（885728）時(shí)代網(wǎng)絡(luò)空間安全的前沿趨勢(shì)與戰(zhàn)略方向。紫光股份（000938）旗下新華三集團(tuán)應(yīng)邀參會(huì)，與來(lái)自產(chǎn)學(xué)研各界的專家學(xué)者共聚一堂，深入探討AI時(shí)代網(wǎng)絡(luò)空間安全的技術(shù)變革與演進(jìn)路徑。

AI重塑安全格局

傳統(tǒng)防御面臨范式轉(zhuǎn)移新挑戰(zhàn)

新華三集團(tuán)攻防實(shí)驗(yàn)室主任梁力文發(fā)表題為《從經(jīng)驗(yàn)防御到結(jié)構(gòu)化韌性范式躍遷》的主題演講，她指出，當(dāng)下全球科技巨頭紛紛加速Agent商業(yè)化布局，互聯(lián)網(wǎng)基礎(chǔ)設(shè)施的邊界已從傳統(tǒng)網(wǎng)絡(luò)底座，擴(kuò)張到承載模型與智能體自主協(xié)作、實(shí)現(xiàn)意圖交互與算力調(diào)度的可信智能基座。在這一變革中，安全風(fēng)險(xiǎn)并非簡(jiǎn)單轉(zhuǎn)移，而是呈現(xiàn)出“多戰(zhàn)場(chǎng)、多疆域”的疊加態(tài)勢(shì)。

一方面，勒索、數(shù)據(jù)泄露、挖礦、DDoS等成熟攻擊手段仍然是傳統(tǒng)基礎(chǔ)設(shè)施的核心威脅；另一方面，以大模型和智能體為核心、面向意圖交互的AI原生基礎(chǔ)設(shè)施安全已成為全新的增量命題。梁力文將這一變化概括為從“確定性威脅模型”到“概率性威脅模型”再到“非確定性意圖威脅模型”的演進(jìn)——攻擊本質(zhì)已從代碼路徑的非法偏移，升級(jí)為語(yǔ)義層的概率操縱，乃至決策邏輯的劫持。

更值得警惕的是，AI正在激化全域降維攻擊。從“精英化”到“工業(yè)化”，AI攻擊已實(shí)現(xiàn)“主體、效率、規(guī)?！钡牧考?jí)躍遷；攻擊手段突破代碼邊界，從認(rèn)知操縱延伸到人身安全，呈現(xiàn)全域貫通、跨域傳導(dǎo)的特征。

范式躍遷

構(gòu)建時(shí)空分層演化的結(jié)構(gòu)化韌性防護(hù)體系

針對(duì)AI時(shí)代的安全新挑戰(zhàn)，梁力文系統(tǒng)闡述了新華三的結(jié)構(gòu)化韌性防護(hù)理念——在空間層面，構(gòu)建覆蓋傳統(tǒng)基建、大模型、智能體及應(yīng)用生態(tài)的多層縱深防護(hù)域；在時(shí)間層面，貫通AI全生命周期（883436）安全管控。這一體系具備“攻擊半徑約束、局部受損存續(xù)、故障降級(jí)生存、實(shí)時(shí)感知自愈”四大韌性能力，并在持續(xù)對(duì)抗中完成策略演化迭代，實(shí)現(xiàn)對(duì)代碼層風(fēng)險(xiǎn)、內(nèi)容安全到意圖性風(fēng)險(xiǎn)的全面防御與治理。

圍繞這一框架，具體實(shí)施路徑涵蓋事前防御、事中監(jiān)測(cè)與事后響應(yīng)三個(gè)階段：

事前，基于先驗(yàn)可信的準(zhǔn)入是韌性的基本前提。針對(duì)AI基建邊界高度開(kāi)放、開(kāi)源組件和第三方智能體來(lái)源復(fù)雜等難題，新華三提出“Sec for AI + AI for Sec”雙輪驅(qū)動(dòng)的治理范式——一方面構(gòu)建覆蓋基礎(chǔ)設(shè)施、模型、智能體的立體準(zhǔn)入測(cè)評(píng)體系，將安全校驗(yàn)剛性前置；另一方面通過(guò)自動(dòng)化紅隊(duì)與對(duì)抗生成技術(shù)，用高強(qiáng)度對(duì)抗測(cè)試倒逼模型安全邊界收斂。

事中，動(dòng)態(tài)內(nèi)生安全是韌性的核心戰(zhàn)場(chǎng)。針對(duì)LLM和Agent輸出的概率性與上下文依賴性，新華三引入基于零信任思想的“決策+校驗(yàn)”分層防護(hù)體系，實(shí)現(xiàn)最小化動(dòng)態(tài)授權(quán)與行為攔截。梁力文特別介紹了新華三在“神經(jīng)-符號(hào)AI”方向的探索——以神經(jīng)網(wǎng)絡(luò)（N）在高維連續(xù)空間感知語(yǔ)義偏離與攻擊變化，以符號(hào)引擎（S）對(duì)神經(jīng)網(wǎng)絡(luò)輸出進(jìn)行錨定映射后做邏輯匹配，用硬邏輯守住安全底線。這一“思圓行方”的智能體治理哲學(xué)，為平衡檢測(cè)靈活性與安全確定性提供了全新的技術(shù)范式。

事后，博弈演化驅(qū)動(dòng)的持續(xù)運(yùn)營(yíng)是韌性的閉環(huán)體現(xiàn)。梁力文指出，準(zhǔn)入并非終點(diǎn)，攻擊持續(xù)變形、模型與業(yè)務(wù)動(dòng)態(tài)更新，要求防御體系必須具備持續(xù)作戰(zhàn)能力。新華三通過(guò)AI蜜罐全球部署、AI威脅狩獵、AI漏洞管理等手段感知對(duì)手；同時(shí)提出基于貝葉斯博弈的因果推演與主動(dòng)防御，提前推演對(duì)手身份、預(yù)判風(fēng)險(xiǎn)傳導(dǎo)路徑，實(shí)現(xiàn)從被動(dòng)處置向主動(dòng)布防的轉(zhuǎn)型。

在演講最后，梁力文指出：“以往是同類相持，認(rèn)知對(duì)等；如今是異維博弈，認(rèn)知斷層。從經(jīng)驗(yàn)防御到結(jié)構(gòu)化韌性，不僅是技術(shù)升級(jí)和思想重構(gòu)，更需要產(chǎn)學(xué)研凝聚共識(shí)、深度聯(lián)動(dòng)、協(xié)同共筑?！?/p>

面對(duì)一日千里的AI技術(shù)演進(jìn)和不斷升級(jí)的AI安全剛需，新華三將繼續(xù)以開(kāi)放姿態(tài)深化協(xié)同創(chuàng)新，推動(dòng)安全范式從被動(dòng)防御向主動(dòng)韌性躍遷，與產(chǎn)業(yè)界共同筑牢數(shù)字時(shí)代的可信基石，守護(hù)網(wǎng)絡(luò)空間的安全與繁榮。