在當(dāng)今數(shù)字化轉(zhuǎn)型的浪潮中，大數(shù)據(jù)、云計算、人工智能等技術(shù)的飛速發(fā)展正深刻改變著各行各業(yè)。而網(wǎng)絡(luò)安全作為數(shù)字經(jīng)濟的基石，其重要性日益凸顯。隨著大模型技術(shù)的不斷突破和應(yīng)用，網(wǎng)絡(luò)安全領(lǐng)域正迎來一場由AI賦能的新革命。
7月31日，在ISC.AI 2024數(shù)字安全峰會上，360集團創(chuàng)始人兼CEO周鴻祎表示，2024年網(wǎng)絡(luò)安全行業(yè)將迎來新革命，作為大模型重要場景，要“以模制�！敝厮馨踩蛟彀踩竽Ｐ褪前踩~向“自動駕駛”的必由之路。
大模型持續(xù)賦能網(wǎng)絡(luò)安全
據(jù)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)顯示，2023年我國網(wǎng)絡(luò)安全產(chǎn)業(yè)規(guī)模已達約2200億元，上市企業(yè)達28家，產(chǎn)業(yè)綜合實力顯著增強。
另據(jù)業(yè)內(nèi)人士分析，AI將全面賦能網(wǎng)絡(luò)安全行業(yè)。以360集團為例，其推出的360安全大模型由攻擊檢測、運營處置、追蹤溯源、知識管理、數(shù)據(jù)保護、代碼安全等六大專家子模型組成，幫助某國有大型企業(yè)用戶實現(xiàn)告警降噪效率提升900%，事件研判時間縮短96%。
騰訊發(fā)布的《2024大模型十大趨勢》報告顯示，大型語言模型（LLM）為人工智能帶來了前所未有的推理能力，能夠提供深入的分析和復(fù)雜的決策支持，為威脅檢測與響應(yīng)提供了更強大的智力支持。
“目前，我國網(wǎng)絡(luò)安全人才缺口達150萬人，隨著大模型成本的下降，一方面可以解決安全人才的缺口問題；另一方面，可以讓更多企業(yè)享受大模型和人工智能帶來的科技普惠�！敝茗櫟t向《證券日報》記者表示。
一位不愿具名的行業(yè)分析師向《證券日報》記者表示，AI大模型通過持續(xù)對網(wǎng)絡(luò)環(huán)境進行掃描，能夠及時發(fā)現(xiàn)和修復(fù)安全漏洞，提供具體的修復(fù)建議，甚至可以自動化的進行修補。
“隨著技術(shù)的不斷進步和應(yīng)用場景的不斷拓展，AI大模型將持續(xù)提升威脅檢測、欺詐預(yù)防、漏洞管理、安全運營優(yōu)化等方面的能力。并且將推動網(wǎng)絡(luò)安全產(chǎn)業(yè)的轉(zhuǎn)型升級，催生出新的技術(shù)、產(chǎn)品和模式�！鄙鲜龇治鰩熣f。
網(wǎng)絡(luò)安全再遇挑戰(zhàn)
事實上，隨著人工智能的深入發(fā)展，大模型在賦能網(wǎng)絡(luò)安全防護的同時，網(wǎng)絡(luò)攻擊的方式和手段也在不斷演變，傳統(tǒng)的安全防護手段已難以有效應(yīng)對日益復(fù)雜的網(wǎng)絡(luò)威脅。相關(guān)數(shù)據(jù)顯示，2023年受供應(yīng)鏈安全威脅和風(fēng)險攻擊的比例高達所有網(wǎng)絡(luò)攻擊的一半，同比增長78%。
有業(yè)內(nèi)人士表示，AI大模型可以更快速地篡改企業(yè)數(shù)據(jù)、攻擊企業(yè)核心系統(tǒng)。
“AI時代是標(biāo)志人類數(shù)字化更充分的時代，網(wǎng)絡(luò)安全攻擊對人身安全、對社會都有更大影響，而微軟此次藍(lán)屏事件提醒公眾，數(shù)字化、智能化導(dǎo)致互聯(lián)網(wǎng)世界變得特別脆弱，網(wǎng)絡(luò)攻擊已從點上升到面。”周鴻祎說。
“當(dāng)前，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險嚴(yán)重失衡。”中國工程院院士，國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心（NDSC）主任鄔江興表示，基于內(nèi)生安全架構(gòu)可發(fā)現(xiàn)或糾正AI應(yīng)用系統(tǒng)安全問題，AI應(yīng)用系統(tǒng)中必須包含必要多樣性和相對正確公理的內(nèi)生安全構(gòu)造，在不可信的過程中找到相對可信的結(jié)果。智能時代需要選擇正確的技術(shù)路徑，實現(xiàn)更安全的AI應(yīng)用系統(tǒng)。
艾媒咨詢CEO張毅對《證券日報》記者表示，目前AI大模型的可靠性、可解釋性、安全性等問題亟待解決，且AI技術(shù)的濫用和誤用也可能帶來問題。
“因此，未來在推動AI與網(wǎng)絡(luò)安全深度融合的過程中，需要不斷加強技術(shù)研發(fā)、標(biāo)準(zhǔn)制定、法律法規(guī)建設(shè)等方面的工作，確保AI技術(shù)的健康有序發(fā)展�！睆堃阏f。
