近兩年，各行業(yè)大模型如雨后春筍般快速發(fā)展，人工智能技術(shù)、產(chǎn)業(yè)、應(yīng)用各環(huán)節(jié)迎來(lái)快速迭代和探索突破時(shí)期。在日前舉行的2024第十二屆西湖論劍·數(shù)字安全大會(huì)上，各界人士就如何應(yīng)用人工智能技術(shù)賦能數(shù)字網(wǎng)絡(luò)安全進(jìn)行討論和交流。與會(huì)人士認(rèn)為，網(wǎng)絡(luò)安全已進(jìn)入人工智能階段，“AI+安全”是網(wǎng)安行業(yè)未來(lái)發(fā)展的方向，同時(shí)AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境需多方共同破解完善。

網(wǎng)安進(jìn)入人工智能階段

隨著人工智能技術(shù)的快速發(fā)展，數(shù)據(jù)安全復(fù)雜性和傳統(tǒng)網(wǎng)絡(luò)安全治理局限性之間的矛盾日益凸顯，數(shù)字安全面臨前所未有的挑戰(zhàn)，通過(guò)AI賦能安全運(yùn)營(yíng)被視為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。

國(guó)家行政學(xué)院電子政務(wù)專(zhuān)家委員會(huì)原副主任、全國(guó)數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱提出，數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義，數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。

中國(guó)科學(xué)院院士吳世忠表示，近30年來(lái)，網(wǎng)絡(luò)安全大致可分為三個(gè)階段，前20年左右是IT驅(qū)動(dòng)階段，是一個(gè)萬(wàn)物互聯(lián)時(shí)代；后10年是DT，即數(shù)據(jù)驅(qū)動(dòng)階段，以大數(shù)據(jù)、云計(jì)算為特征，追求數(shù)據(jù)流動(dòng)；如今則已進(jìn)入AI驅(qū)動(dòng)時(shí)代，人工智能的巨浪極大地改變了安全問(wèn)題的內(nèi)涵和外延。

國(guó)家信息技術(shù)安全研究中心金融安全處處長(zhǎng)曹岳認(rèn)為，未來(lái)的攻擊，也就是智能化的攻擊，將加強(qiáng)攻擊的頻度，AI的擴(kuò)展會(huì)提升攻防的對(duì)抗維度，AI還將升級(jí)網(wǎng)絡(luò)攻防對(duì)抗的強(qiáng)度。

參加過(guò)多次重大項(xiàng)目網(wǎng)絡(luò)安全工作的安恒信息，將2008年以來(lái)重大活動(dòng)網(wǎng)絡(luò)安全分為單兵戰(zhàn)、綜合戰(zhàn)、立體戰(zhàn)和AI戰(zhàn)四個(gè)發(fā)展階段。單兵戰(zhàn)大致在2008-2015年間，早期的網(wǎng)絡(luò)安全防護(hù)中，用單一的網(wǎng)絡(luò)安全產(chǎn)品與安全服務(wù)相配合，就能為重大活動(dòng)的網(wǎng)絡(luò)和信息系統(tǒng)提供基本保護(hù)；綜合戰(zhàn)大致在2016-2020年間，此時(shí)的賽會(huì)網(wǎng)絡(luò)環(huán)境變得復(fù)雜，需要借助強(qiáng)大的網(wǎng)絡(luò)安全態(tài)勢(shì)感知等平臺(tái)類(lèi)產(chǎn)品，結(jié)合多區(qū)域、線上線下的安全服務(wù)，才能保證大型賽會(huì)安全無(wú)虞；立體戰(zhàn)大致在2021-2023年間，隨著重大活動(dòng)網(wǎng)絡(luò)環(huán)境風(fēng)險(xiǎn)的增加，需根據(jù)不同的網(wǎng)絡(luò)安全威脅分別制定針對(duì)性策略，在防御、監(jiān)控、響應(yīng)、預(yù)測(cè)等方面部署相應(yīng)的安全產(chǎn)品服務(wù)，才能保證重大活動(dòng)的順利舉行；而從2023年9月至今，重大活動(dòng)網(wǎng)絡(luò)安全工作已經(jīng)進(jìn)入了AI戰(zhàn)階段。

安恒信息董事長(zhǎng)范淵對(duì)《經(jīng)濟(jì)參考報(bào)》記者表示，現(xiàn)階段的網(wǎng)絡(luò)安保工作中，AI已經(jīng)開(kāi)始扮演多元化且至關(guān)重要的角色，它不僅會(huì)改變網(wǎng)絡(luò)安全戰(zhàn)的方式和態(tài)勢(shì)，還將對(duì)勝敗產(chǎn)生深遠(yuǎn)影響。在這一階段，首先是網(wǎng)絡(luò)安保場(chǎng)景數(shù)字化程度高。人工智能、數(shù)字孿生、物聯(lián)網(wǎng)等數(shù)字技術(shù)應(yīng)用廣泛，傳統(tǒng)安全保障手段無(wú)法有效應(yīng)對(duì)；其次是攻擊的自動(dòng)化和防御的自動(dòng)化。AI可以被用來(lái)進(jìn)行自動(dòng)化網(wǎng)絡(luò)攻擊，使得攻擊更加隱蔽、快速和難以防御。安全垂域大模型基于機(jī)器學(xué)習(xí)和大數(shù)據(jù)分析等技術(shù)，能自動(dòng)學(xué)習(xí)網(wǎng)絡(luò)攻擊行為模式，并快速響應(yīng)和應(yīng)對(duì)各種新型網(wǎng)絡(luò)威脅，因此以AI對(duì)AI、以AI管AI成為必選項(xiàng)。

相關(guān)探索應(yīng)用取得突破

在使用AI助力網(wǎng)絡(luò)防御方面，國(guó)內(nèi)外都已經(jīng)進(jìn)行了很多探索，并已經(jīng)取得成果。

美國(guó)微軟公司推出的網(wǎng)絡(luò)安全助手給用戶(hù)提供生成式、自動(dòng)化網(wǎng)絡(luò)安全人工智能服務(wù)。經(jīng)過(guò)去年一年的運(yùn)行，可以將安全事件響應(yīng)、評(píng)估和防御時(shí)間從過(guò)去的數(shù)小時(shí)到數(shù)天壓縮到幾分鐘。

AI賦能極大地提升了國(guó)內(nèi)網(wǎng)絡(luò)安全防御能力與處置效率。安恒信息去年8月發(fā)布的“恒腦·安全垂域大模型”，實(shí)現(xiàn)了國(guó)內(nèi)AI安全垂域大模型在國(guó)際大型賽事的首次應(yīng)用。在杭州亞運(yùn)會(huì)期間，基于這一模型和MSS安全運(yùn)營(yíng)平臺(tái)的輔助支撐，有效解決了安全運(yùn)營(yíng)過(guò)程中復(fù)雜重復(fù)的工作。

據(jù)了解，安恒信息已將AI技術(shù)應(yīng)用作為一級(jí)戰(zhàn)略。范淵介紹，過(guò)去8個(gè)月，安恒信息在人工智能應(yīng)用于數(shù)字安全方面進(jìn)行了大量嘗試和實(shí)戰(zhàn)探索，公司的數(shù)字安全產(chǎn)品和服務(wù)正在發(fā)生翻天覆地的變化。以數(shù)據(jù)分類(lèi)分級(jí)+AI為例，AI技術(shù)應(yīng)用使數(shù)據(jù)分類(lèi)分級(jí)的效率提升了30倍?！斑@不僅僅是一次簡(jiǎn)單的效率提升，更是一次深刻的行業(yè)變革，讓我們看到了AI在數(shù)字安全領(lǐng)域的巨大潛力和廣闊前景?！?/p>

今年4月，安恒信息剛剛發(fā)布了數(shù)據(jù)分類(lèi)分級(jí)解決方案、AI防火墻、天穹人工智能安全運(yùn)營(yíng)平臺(tái)等八大AI產(chǎn)品。此次大會(huì)期間，安恒信息攜手華為發(fā)布昇騰-恒腦推理一體機(jī)，利用昇騰AI集群為恒腦提供底座，全流程加速大模型的創(chuàng)新與落地。

海亮集團(tuán)積極探索“AI+安全”的建設(shè)思路。集團(tuán)數(shù)字創(chuàng)新部部長(zhǎng)孫雯介紹，用AI來(lái)代替人工使安全告警的分析更加智能，效率大幅提升。海亮集團(tuán)發(fā)現(xiàn)，在AI與數(shù)據(jù)安全結(jié)合的過(guò)程中，AI表現(xiàn)超乎預(yù)期，試點(diǎn)場(chǎng)景的4000多個(gè)字段自動(dòng)化梳理可達(dá)到90%以上，識(shí)別準(zhǔn)確率從50%提高到85.8%。

AI應(yīng)用于網(wǎng)絡(luò)安全的前景如何？

安永（中國(guó)）企業(yè)咨詢(xún)有限公司合伙人王堅(jiān)表示，威脅監(jiān)測(cè)與相應(yīng)的工作、惡意軟件的檢測(cè)、用戶(hù)的行為分析、身份驗(yàn)證訪問(wèn)控制、網(wǎng)絡(luò)釣魚(yú)監(jiān)測(cè)、自動(dòng)化情報(bào)威脅、欺詐檢測(cè)以及數(shù)據(jù)的泄密保護(hù)等方面，都是大模型應(yīng)用的潛力領(lǐng)域。

杭州人工智能學(xué)會(huì)副秘書(shū)長(zhǎng)、安恒信息研究院院長(zhǎng)王欣認(rèn)為，AI之于安全，現(xiàn)在真正的能力只發(fā)揮了不足5%。過(guò)去一年多時(shí)間，AI與安全之間的探索，是從原來(lái)的智能問(wèn)答發(fā)展到輔助駕駛，在不久的將來(lái)將進(jìn)入半自動(dòng)駕駛，未來(lái)會(huì)進(jìn)入全自動(dòng)駕駛。

推動(dòng)“AI+安全”縱深發(fā)展

此次大會(huì)上，業(yè)界人士的一個(gè)共識(shí)是，“AI+安全”一定是網(wǎng)安行業(yè)未來(lái)發(fā)展的方向。同時(shí)，專(zhuān)業(yè)人士對(duì)于AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境也給予廣泛關(guān)注，對(duì)“AI+安全”的發(fā)展提出了很多積極的建議。

教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、杭州市人工智能協(xié)會(huì)副理事長(zhǎng)、俄羅斯國(guó)家工程院外籍院士胡瑞敏認(rèn)為，從短期與中期來(lái)講，大模型技術(shù)還存在著很多不足，必然需要通過(guò)人機(jī)協(xié)同才能真正發(fā)揮作用。從長(zhǎng)期來(lái)看，要在做好安全準(zhǔn)備的前提下，謹(jǐn)慎推動(dòng)機(jī)器的自主性。

多位專(zhuān)家建議，面對(duì)復(fù)雜多變的國(guó)際形勢(shì)和日益增長(zhǎng)的網(wǎng)絡(luò)安全威脅，亟需加強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)工作。

“現(xiàn)有的漏洞補(bǔ)上了，新的漏洞會(huì)被發(fā)現(xiàn)?，F(xiàn)有的技術(shù)出現(xiàn)了攻防相對(duì)平衡穩(wěn)定，新的技術(shù)創(chuàng)新會(huì)把戰(zhàn)場(chǎng)轉(zhuǎn)移到新領(lǐng)域。”國(guó)際電信聯(lián)盟前秘書(shū)長(zhǎng)趙厚麟表示，“在安全領(lǐng)域的攻防、互斗會(huì)長(zhǎng)期存在。”

對(duì)此，中國(guó)工程院院士鄔江興認(rèn)為，無(wú)論是數(shù)字產(chǎn)業(yè)化還是產(chǎn)業(yè)數(shù)字化，第一要?jiǎng)?wù)都是網(wǎng)絡(luò)安全。但是，網(wǎng)絡(luò)安全防御卻呈現(xiàn)出像“打鼴鼠”游戲一樣的情況，即按下葫蘆浮起瓢，冒出一個(gè)鼴鼠就打一下。他指出，針對(duì)傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性，要從數(shù)字產(chǎn)業(yè)的源頭技術(shù)抓起，從數(shù)字產(chǎn)品的設(shè)計(jì)安全抓起。推動(dòng)數(shù)字生態(tài)系統(tǒng)底層驅(qū)動(dòng)范式轉(zhuǎn)型，以?xún)?nèi)生安全賦能，才能筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。

從與會(huì)專(zhuān)家的討論中，記者發(fā)現(xiàn)，“AI+安全”行業(yè)既要滿足市場(chǎng)對(duì)網(wǎng)安技術(shù)和產(chǎn)品安全可靠、簡(jiǎn)便易行的要求，還要在用戶(hù)愿負(fù)擔(dān)成本和企業(yè)研發(fā)成本激增之間找出最佳平衡點(diǎn)，因此挑戰(zhàn)不小。

鄔江興針對(duì)網(wǎng)安人才短缺問(wèn)題表示，按照中央網(wǎng)信辦的預(yù)測(cè)，到2027年，中國(guó)需要235萬(wàn)網(wǎng)絡(luò)安全人才，但目前全國(guó)100多所網(wǎng)安相關(guān)學(xué)院每年的畢業(yè)生不足3萬(wàn)人。網(wǎng)安人才與制造漏洞或無(wú)意制造漏洞的人數(shù)相比，存在巨大的“剪刀差”。

在國(guó)際領(lǐng)域，吳世忠表示，人工智能的安全治理已經(jīng)成為大國(guó)博弈的一個(gè)協(xié)調(diào)議題。70多個(gè)國(guó)家在五年內(nèi)已經(jīng)出臺(tái)安全治理方面的戰(zhàn)略對(duì)策和法律文件接近100件。

趙厚麟表示，數(shù)字安全全球關(guān)注，要加強(qiáng)全球協(xié)作，鼓勵(lì)和加強(qiáng)國(guó)際合作。