人工智能作為新一輪科技革命的核心技術(shù)，正成為大國博弈的重要陣地。那么人工智能將為傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級帶來哪些影響？當(dāng)前人工智能發(fā)展面臨哪些嚴(yán)峻安全問題，如何解決？針對這些問題，在全國兩會召開之際，記者采訪了全國政協(xié)委員、奇安信集團(tuán)董事長齊向東。
“人工智能是引領(lǐng)未來發(fā)展的顛覆性技術(shù)和前沿技術(shù)，也是注定要走進(jìn)千家萬戶的關(guān)鍵共性技術(shù)。”齊向東表示，大力發(fā)展人工智能，能切實增強我國在數(shù)字經(jīng)濟(jì)、高水平人才引育和產(chǎn)業(yè)鏈供應(yīng)鏈完整性等方面的優(yōu)勢，提升我國在國際技術(shù)標(biāo)準(zhǔn)與安全治理等領(lǐng)域的話語權(quán)。
齊向東表示，在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)。作為傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型中最重要的變革驅(qū)動力量，人工智能已在研發(fā)、生產(chǎn)、管理全環(huán)節(jié)廣泛應(yīng)用，涌現(xiàn)出上百種場景和模式。但是，人工智能也大幅提升了網(wǎng)絡(luò)攻擊的烈度和廣度，網(wǎng)絡(luò)攻擊窗口不斷擴(kuò)大、網(wǎng)絡(luò)攻擊手段不斷革新、網(wǎng)絡(luò)犯罪門檻持續(xù)降低，給傳統(tǒng)產(chǎn)業(yè)發(fā)展帶來了新風(fēng)險、新挑戰(zhàn)，引發(fā)了社會高度關(guān)注。
在齊向東看來，人工智能發(fā)展面臨的安全問題大致可以分為三類：第一類是人工智能大模型自身的安全問題。開發(fā)方面，開源大模型要重點防范代碼缺陷和預(yù)留后門等問題；應(yīng)用方面，要防范“內(nèi)鬼”對訓(xùn)練數(shù)據(jù)投毒，進(jìn)行模型篡改、配置篡改；數(shù)據(jù)方面，要小心內(nèi)部配置錯誤和弱口令等造成的數(shù)據(jù)庫暴露；基礎(chǔ)環(huán)境方面，要重點關(guān)注云、API、傳統(tǒng)設(shè)備漏洞。
第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題。人工智能促進(jìn)了網(wǎng)絡(luò)攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認(rèn)知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙，或輸出背離主流價值觀的內(nèi)容危害認(rèn)知安全。
第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會成為社會的基礎(chǔ)設(shè)施，當(dāng)大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時，會放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身，引發(fā)社會服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。
針對這些安全問題，齊向東表示，要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。
要建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。最近，奇安信提出“大模型安全紅域”概念，通過構(gòu)筑覆蓋終端、應(yīng)用、數(shù)據(jù)、模型、紅域的多維度核心防護(hù)能力，打造適用于人工智能的立體縱深防御體系，實現(xiàn)“對外防攻擊、對內(nèi)防內(nèi)鬼”，為人工智能大模型安全穩(wěn)定運行保駕護(hù)航。
要制定大模型安全強制合規(guī)要求，夯實人工智能安全發(fā)展的制度保障。要明確大模型安全的組織架構(gòu)，界定安全主體責(zé)任，對基礎(chǔ)安全、數(shù)據(jù)安全、應(yīng)用系統(tǒng)開發(fā)安全、運行安全等方面提出清晰的技術(shù)保障要求。同時，做好大模型運行安全監(jiān)測和內(nèi)容風(fēng)控，定期開展安全評估測試，完善應(yīng)急響應(yīng)機(jī)制，一旦發(fā)現(xiàn)異常行為或潛在的安全事件，第一時間進(jìn)行處置，將安全威脅消除在萌芽狀態(tài)。
要推廣“AI+安全”創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。隨著人工智能應(yīng)用的進(jìn)一步鋪開，要鼓勵更多產(chǎn)業(yè)用上、用好“AI+安全”創(chuàng)新成果，提高千行百業(yè)的網(wǎng)絡(luò)安全防護(hù)效能。