本刊記者 謝瑋

出差是全國政協(xié)委員、奇安信集團董事長齊向東生活的常態(tài)。他記得，過去坐火車是一件繁瑣的事——排長隊買票、檢票、驗票，但現(xiàn)在“刷臉”“刷身份證”就可以讓出行一路暢通，城市正變得越來越“智慧”了。

“這種變化，正是智慧城市的一個縮影，它為人們帶來了便捷，但背后也隱藏著巨大的安全風險?！饼R向東向《中國經(jīng)濟周刊》記者直言。

作為網(wǎng)絡(luò)安全專家，齊向東深知，隨著人工智能等創(chuàng)新科技融入千行百業(yè)，平衡技術(shù)創(chuàng)新與安全風險必會成為重要課題。今年全國兩會，他圍繞人工智能安全和軟件產(chǎn)業(yè)健康發(fā)展等議題建言獻策。

本刊記者 馬銘悅 | 攝

人工智能安全隱患引關(guān)注，三大風險需警惕

近年來，我國人工智能創(chuàng)新成果不斷涌現(xiàn)，能力邊界不斷擴展，加速賦能千行百業(yè)。

“人工智能是引領(lǐng)未來發(fā)展的顛覆性技術(shù)和前沿技術(shù)，也是注定要走進千家萬戶的關(guān)鍵共性技術(shù)?！饼R向東說，在傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型進程中，人工智能已在研發(fā)、生產(chǎn)、管理全環(huán)節(jié)廣泛應(yīng)用，涌現(xiàn)出上百種場景和模式。但人工智能也大幅提升了網(wǎng)絡(luò)攻擊的烈度和廣度，網(wǎng)絡(luò)攻擊窗口擴大、網(wǎng)絡(luò)攻擊手段革新、網(wǎng)絡(luò)犯罪門檻降低等問題，給傳統(tǒng)產(chǎn)業(yè)發(fā)展帶來新風險、新挑戰(zhàn)。

在他看來，人工智能快速發(fā)展的同時也暴露出諸多安全隱患，主要集中在三大類風險。

齊向東說，第一類是人工智能大模型自身的安全問題，“其中開發(fā)風險、數(shù)據(jù)風險、應(yīng)用風險和基礎(chǔ)環(huán)境風險尤為突出”。

他舉例稱，如在開發(fā)方面，開源大模型需重點防范代碼缺陷和預(yù)留后門等問題；在應(yīng)用方面要警惕“內(nèi)鬼”對訓(xùn)練數(shù)據(jù)“投毒”、模型篡改以及配置篡改的風險；在數(shù)據(jù)方面，需小心因內(nèi)部配置錯誤和弱口令等造成的數(shù)據(jù)庫暴露；在基礎(chǔ)環(huán)境方面，則要重點關(guān)注云、API、傳統(tǒng)設(shè)備漏洞等。

同時，利用人工智能開展網(wǎng)絡(luò)攻擊的問題也不容忽視。齊向東直言，人工智能促進了網(wǎng)絡(luò)攻擊手段更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認知戰(zhàn)、“釣魚”等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙，或輸出背離主流價值觀的內(nèi)容危害認知安全。

“創(chuàng)新是第一動力，安全是底線要求。只有筑牢安全防線、守住合規(guī)底線，創(chuàng)新才有可能行穩(wěn)致遠?！饼R向東提出，在人工智能技術(shù)快速普及的當下，平衡好創(chuàng)新與安全至關(guān)重要。

DeepSeek出圈激發(fā)科技界創(chuàng)新熱情

春節(jié)期間，國產(chǎn)大模型Deep-Seek一躍成為全球矚目的焦點。

“這次DeepSeek橫空出世，彰顯了我國在科技創(chuàng)新上的巨大潛力，有力回應(yīng)了‘脫鉤斷鏈’‘小院高墻’等帶來的沖擊，讓我們創(chuàng)新創(chuàng)業(yè)企業(yè)倍感振奮、干勁十足?！饼R向東表示，DeepSeek打破了美西方長期以來在人工智能行業(yè)近乎壟斷的市場格局，憑借先進的技術(shù)架構(gòu)達到世界領(lǐng)先水平，且較低的成本為大模型垂直應(yīng)用的爆發(fā)創(chuàng)造了條件。這極大提振了中國科技界的信心，激發(fā)了中國科技工作者的創(chuàng)新熱情。

DeepSeek公布的開源策略同樣影響深遠。齊向東認為：“它推動人工智能行業(yè)走向更加開放、合作的嶄新階段?！边^去，技術(shù)封鎖與商業(yè)壁壘阻礙了人工智能領(lǐng)域資源的高效共享與協(xié)同發(fā)展，大模型訓(xùn)練的大資金、大數(shù)據(jù)、大周期等高門檻將中小創(chuàng)新公司拒之門外，“甚至有言論說只有大公司才有資格玩大模型”。而DeepSeek的開源策略，讓人工智能行業(yè)開始擺脫“大公司大模型俱樂部”，讓中小公司能與大公司在大模型技術(shù)上平等競爭，實現(xiàn)技術(shù)平權(quán)，促使人工智能應(yīng)用邁向資源共享、攜手共進的階段。

隨著DeepSeek的全球爆火，網(wǎng)絡(luò)攻擊也接踵而至。

“DeepSeek一問世，針對性的高強度網(wǎng)絡(luò)攻擊就爆發(fā)了，這給人工智能行業(yè)敲響了堅守安全底線的警鐘?！饼R向東說，當前，眾多企業(yè)、個人搭建DeepSeek大模型私有化部署，而近90%的服務(wù)器未采取安全措施，服務(wù)運行和數(shù)據(jù)安全受到嚴重威脅。未來，隨著人工智能大模型的基礎(chǔ)設(shè)施地位日益凸顯，針對性惡意手段及風險場景增加，數(shù)據(jù)隱私、認知安全、基礎(chǔ)設(shè)施等方面的安全風險難以預(yù)估。對人工智能行業(yè)來說，平衡技術(shù)創(chuàng)新與安全風險必會成為重要課題。

他還提到，中國AI創(chuàng)新呈現(xiàn)出“草根化”趨勢，這與國家的前瞻性布局、政策扶持以及全方位的資源投入密不可分。以“杭州六小龍”為代表的民營企業(yè)在AI領(lǐng)域取得成功，很好地印證了這一點。但必須清楚，沒有國家作為堅實后盾，這些“草根”力量也是難以茁壯成長的。

在他看來，繼續(xù)守護并延續(xù)AI創(chuàng)新的“草根化”趨勢，保持“自下而上”的創(chuàng)新張力，對我國AI產(chǎn)業(yè)發(fā)展乃至整個科技創(chuàng)新生態(tài)意義重大。當然這也離不開國家在政策、資金等方面的大力支持。他建議，國家從政策引導(dǎo)、優(yōu)化營商環(huán)境、生態(tài)協(xié)同等維度入手，進一步激發(fā)民間創(chuàng)新創(chuàng)業(yè)熱情。