文 | 饒少陽

新一輪科技革命與產(chǎn)業(yè)變革的浪潮洶涌澎湃，信息化、數(shù)字化的巨輪正以前所未有的速度重新繪制世界藍圖，而網(wǎng)絡(luò)安全作為這一進程中的隱形盾牌，已悄然成為大國博弈的關(guān)鍵戰(zhàn)場。在這場沒有硝煙的較量中，人工智能（AI）正以不可阻擋之勢重塑網(wǎng)絡(luò)安全的格局，它既是挑戰(zhàn)者，也是守護者。

一方面，以Sora、GPT-4o為代表的生成式人工智能（AI Generated Content，AIGC）引發(fā)公眾對個人隱私、AI惡意使用等問題的廣泛關(guān)注。一些不法分子利用開源的大語言模型（Large Language Model，LLM），結(jié)合有害語料庫，訓練出專門用于漏洞發(fā)現(xiàn)、社交操縱、欺詐勒索等非法活動的惡意應(yīng)用，對國家社會經(jīng)濟和人民生活等造成嚴重危害。

另一方面，AI也為網(wǎng)絡(luò)安全行業(yè)插上了智慧的翅膀，開啟了全新的防御篇章。在2024年網(wǎng)絡(luò)安全頂級盛會——RSA大會（RSA Conference，RSAC）上，谷歌、思科、CrowdStrike等業(yè)界領(lǐng)軍企業(yè)紛紛推出由AI驅(qū)動的網(wǎng)絡(luò)安全產(chǎn)品和服務(wù)。與會行業(yè)專家普遍認為，AI是推動網(wǎng)絡(luò)安全產(chǎn)業(yè)革命性發(fā)展的核心技術(shù)，AI將重塑網(wǎng)絡(luò)安全產(chǎn)業(yè)。

展望未來，AI與網(wǎng)絡(luò)安全的結(jié)合將引領(lǐng)產(chǎn)業(yè)步入新的發(fā)展階段，實現(xiàn)從被動防御到主動出擊的跨越。在這一進程中，我國企業(yè)應(yīng)重視這一趨勢，積極推動AI技術(shù)與網(wǎng)絡(luò)安全技術(shù)的深度融合，為構(gòu)建更加堅固、智能的網(wǎng)絡(luò)安全防線貢獻力量。

“用AI保護AI”

過去30年來，攻擊和防御技術(shù)在相互對抗過程中不斷變化和升級。我國網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展從最初的防病毒、防火墻等單一傳統(tǒng)產(chǎn)品發(fā)展成目前較為成熟的網(wǎng)絡(luò)安全產(chǎn)品體系，已經(jīng)能夠滿足多場景、多維度的安全防護需求。

然而，隨著AI技術(shù)的廣泛應(yīng)用，不法分子升級了攻擊手段，針對和利用AI技術(shù)的網(wǎng)絡(luò)攻擊顯著增加，包括“深度偽造”詐騙、釣魚郵件、漏洞攻擊以及數(shù)據(jù)泄露等問題日益突出，網(wǎng)絡(luò)安全防護變得更加復(fù)雜和緊迫。根據(jù)MIT Technology Review對300名網(wǎng)絡(luò)安全專業(yè)人員的調(diào)查，2021年，60%的受訪者表示難以有效抵御自動化網(wǎng)絡(luò)攻擊，96%的受訪者曾經(jīng)歷過由AI驅(qū)動的網(wǎng)絡(luò)攻擊。

“用AI保護AI”已經(jīng)成為應(yīng)對當前網(wǎng)絡(luò)安全威脅的必選項。越來越多的國家和機構(gòu)正在加速布局網(wǎng)絡(luò)安全與AI技術(shù)的融合，以促進攻防技術(shù)升級。從現(xiàn)有的行業(yè)實踐來看，以安全大模型為代表的“AI+安全”范式在惡意代碼檢測、安全策略管理、安全運營、數(shù)據(jù)分類分級、數(shù)據(jù)脫敏等領(lǐng)域涌現(xiàn)出超越人類的潛質(zhì)。

安全產(chǎn)業(yè)格局迎來三大新變化

放眼全球，網(wǎng)絡(luò)安全人工智能市場處于高速增長階段。專業(yè)研究機構(gòu)數(shù)據(jù)分析，2023年的市場規(guī)模超過200億美元，預(yù)計到2030年年復(fù)合增長率將保持在20%以上。

筆者認為，隨著“AI+安全”范式的廣泛實踐應(yīng)用，網(wǎng)絡(luò)安全產(chǎn)業(yè)將迎來三大變化：

一是智能化。網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)的智能化能夠極大解放人力負擔，過去需要大量人工操作的流程，如今可通過安全大模型來解決。微軟、Palo Alto Networks、深信服、奇安信等數(shù)十家網(wǎng)絡(luò)安全企業(yè)已將安全大模型應(yīng)用于自身產(chǎn)品及服務(wù)中，取得明顯效果。以安全運營服務(wù)為例，傳統(tǒng)安全運營中心的人工處置流程占比高達93%，在安全大模型的賦能下，安全運營中心的數(shù)據(jù)處理量提升了6倍，誤報率減少70%，響應(yīng)速度從2～3天縮短到16分鐘～5小時。

二是平臺化。網(wǎng)絡(luò)安全產(chǎn)品及服務(wù)的平臺化升級類似于智能家居系統(tǒng)，用戶通過一個平臺控制所有家電設(shè)備，實現(xiàn)統(tǒng)一管理、統(tǒng)一監(jiān)控。早在2021年，網(wǎng)絡(luò)安全行業(yè)就已從分散化解決方案向集約化平臺轉(zhuǎn)型，并朝著“以安全大腦為核心，各類檢測與響應(yīng)工具為觸手”的防御體系趨勢演進。進入2023年，平臺化的趨勢進一步加速。頭部網(wǎng)絡(luò)安全企業(yè)開始將安全大模型應(yīng)用于安全平臺，推動平臺能力從管理不同安全子系統(tǒng)擴展到管理IT、云和網(wǎng)絡(luò)架構(gòu)。

三是服務(wù)化。網(wǎng)絡(luò)安全企業(yè)正從傳統(tǒng)的“產(chǎn)品銷售”向“服務(wù)提供”模式轉(zhuǎn)變。這一轉(zhuǎn)變恰如電影消費模式的演進，從曾經(jīng)需要購買DVD光盤到如今只需一鍵訂閱，即可暢享海量、高清的最新影片。在這一轉(zhuǎn)型過程中，安全大模型逐漸成為網(wǎng)絡(luò)安全企業(yè)構(gòu)建競爭優(yōu)勢的核心要素。自2023年起，頭部網(wǎng)絡(luò)安全企業(yè)如思科、IBM、Palo Alto Networks等通過資本并購的方式，積極整合威脅情報、態(tài)勢感知、攻擊面管理等關(guān)鍵能力和數(shù)據(jù)，不僅極大地豐富了安全大模型訓練數(shù)據(jù)來源，也顯著提升了其分析預(yù)測、智能響應(yīng)的能力，從而可為用戶提供更精準、高效的安全服務(wù)體驗。

“AI+安全”高質(zhì)量發(fā)展的挑戰(zhàn)與機會

“AI”是一個不斷突破和創(chuàng)新的激進型領(lǐng)域，“安全”是一個強調(diào)穩(wěn)妥和保障的保守型領(lǐng)域。因此，要實現(xiàn)“AI+安全”范式的高質(zhì)量發(fā)展，仍需克服多方面的挑戰(zhàn)。

一是AI技術(shù)方面，安全大模型通用底座能力有待提升。目前國內(nèi)外網(wǎng)絡(luò)安全企業(yè)大多通過在通用大模型的基礎(chǔ)上進行垂直訓練，以開發(fā)出針對特定領(lǐng)域需求的安全大模型，盡管我國的通用大模型技術(shù)發(fā)展迅速，但與OpenAI的GPT-4.0相比仍存在差距，將在一定程度上制約國產(chǎn)安全大模型的性能，底座能力亟待提升。

二是安全技術(shù)方面，安全產(chǎn)品接口標準化程度有待提升。目前，我國不同廠商的網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通尚處于起步階段。安全企業(yè)提供的產(chǎn)品類型繁多，不同企業(yè)甚至同一企業(yè)產(chǎn)品之間的集成和交互存在困難，且實現(xiàn)方式各異。用戶在推動網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通改造過程中，需承擔高昂的成本，且實際成效并不理想，這在一定程度上制約了我國網(wǎng)絡(luò)安全產(chǎn)業(yè)向平臺化轉(zhuǎn)型的進程，同時制約安全大模型的賦能效果。

鑒于此，筆者認為可從以下幾方面著力把握機遇，推動“AI+安全”的高質(zhì)量發(fā)展。

一是完善“AI+安全”的頂層設(shè)計。人才資源方面，整合產(chǎn)、學、研領(lǐng)域?qū)＜屹Y源，組建“AI+安全”復(fù)合型專家團隊；行業(yè)標準方面，針對安全大模型的數(shù)據(jù)集標注、系統(tǒng)安全測評、倫理和法律合規(guī)性等方面，制定一系列行業(yè)標準，指導(dǎo)并規(guī)范我國企業(yè)的安全大模型建設(shè)。

具體到實踐層面：在數(shù)據(jù)標注階段，針對數(shù)據(jù)格式、標簽定義、注釋方法等方面形成統(tǒng)一指導(dǎo)標準，去解決無效返工與一致性的問題，從而提高數(shù)據(jù)集的質(zhì)量；在成效評估階段，形成業(yè)界公認、權(quán)威的評價方式來評估安全大模型的性能和可靠性，去解決模型在實際應(yīng)用中產(chǎn)生誤導(dǎo)性結(jié)果的問題，從而提高網(wǎng)絡(luò)安全性。

二是促進“AI+安全”的跨行業(yè)協(xié)同創(chuàng)新。國內(nèi)安全廠商正積極探索大模型技術(shù)在安全領(lǐng)域的應(yīng)用，并已取得初步成果。積極有效的跨行業(yè)協(xié)同機制和引導(dǎo)，是促進創(chuàng)新的保障。比如，提高“AI+安全”領(lǐng)域的國家級重點項目數(shù)量、設(shè)立創(chuàng)新保障資金；充分發(fā)揮央企的主力軍作用，調(diào)動中小企業(yè)的創(chuàng)新動力；引導(dǎo)企業(yè)在行業(yè)定制化訓練、數(shù)據(jù)資源共享、商業(yè)模式創(chuàng)新等方面建立深度合作機制，共同推動“AI+安全”范式的高質(zhì)量發(fā)展。

三是推動網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通。推動我國網(wǎng)絡(luò)安全企業(yè)貫徹落實網(wǎng)絡(luò)安全產(chǎn)品互聯(lián)互通相關(guān)標準要求，嚴格遵循接口規(guī)范、數(shù)據(jù)格式、通信協(xié)議和操作流程等方面要求,增強產(chǎn)品的兼容性和互操作性，共同構(gòu)建協(xié)同高效的網(wǎng)絡(luò)安全防護體系，推進產(chǎn)業(yè)向平臺化和智能化轉(zhuǎn)型。

四是共同培育“AI+安全”服務(wù)生態(tài)。建議我國網(wǎng)絡(luò)安全企業(yè)拓展市場應(yīng)用范圍和深度，加強服務(wù)支撐體系建設(shè)，明確服務(wù)水平基線指標，通過市場宣傳提升用戶對安全服務(wù)的認知和滿意度。建議科研機構(gòu)加強在聯(lián)邦學習、隱私計算和區(qū)塊鏈技術(shù)方面的研究開發(fā)力度，以支持網(wǎng)絡(luò)安全企業(yè)在確保用戶數(shù)據(jù)隱私安全的同時，實現(xiàn)對用戶信息的精確分析，進而提高在全網(wǎng)范圍內(nèi)的威脅感知能力。

五是樹立全球化視野，加快國際化步伐。目前，中國網(wǎng)絡(luò)安全企業(yè)已具備滿足國內(nèi)市場需求的堅實基礎(chǔ)，但在海外市場的拓展仍處于起步階段。近年來，中國一些網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)，如奇安信、綠盟科技、深信服等，均加快國際化步伐，積極拓展海外市場，海外業(yè)務(wù)收入取得顯著增長。但從整體來看，當下中國網(wǎng)絡(luò)安全企業(yè)海外總收入遠不及國內(nèi)的市場規(guī)模。若僅局限于本土市場，發(fā)展?jié)摿⑹芟?。因此，建議中國網(wǎng)絡(luò)安全企業(yè)將視野范圍擴大至海外，加快國際化步伐。

綜上所述，“AI+安全”新范式將為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來深刻變革，我國網(wǎng)絡(luò)安全企業(yè)應(yīng)抓住機遇，推動產(chǎn)品服務(wù)體系向智能化、平臺化、服務(wù)化轉(zhuǎn)型，提升全球影響力，成為全球網(wǎng)絡(luò)安全市場的領(lǐng)導(dǎo)者。

（本文作者系中國電信研究院戰(zhàn)略發(fā)展研究所所長）

（本文刊發(fā)于《中國經(jīng)濟周刊》2024年第14期）