經濟觀察 | AI帶來網絡安全風險 專家建言「用魔法打敗魔法」-香港商报
首页 > 新闻专题 > 财经 > 财经

經濟觀察 | AI帶來網絡安全風險 專家建言「用魔法打敗魔法」

2024-06-05
来源:中新社

 通過AI換臉的網絡詐騙、基於AI的釣魚郵件、AI數據「投毒」......如何應對人工智能帶來的網絡安全挑戰和攻擊?專家認為,應盡快發揮AI賦能網絡安全的積極作用,實現「用魔法打敗魔法」。

 在5日舉行的2024北京網絡安全大會上,中國新一代人工智能發展戰略研究院執行院長龔克表示,人工智能是先進生產力,但遠未成熟,存在技術瓶頸和社會憂慮。

 他認為,人工智能的風險主要來自兩個方面:一方面,是人工智能技術存在弱點和不足,而不是過於強大,需靠發展創新去解決;另一方面,是使用者對人工智能的濫用和惡意使用,以及依賴而非駕馭人工智能。

 巴基斯坦NCERT主席阿巴斯·海德爾說,大型語言模型(LLM)正在徹底改變網絡安全形勢,AI在網絡安全領域帶來的既有挑戰,也有機遇。例如,網絡罪犯會使用AI生成具有強欺騙性的網絡仿冒郵件,但企業也可以用AI完成威脅檢測和事件響應、處置。

 根據奇安信發布的《2024人工智能安全報告》,AI既放大現有網絡安全威脅,又引入了新型威脅,引發網絡安全事件指數級增長。其中,2023年基於AI的深度偽造欺詐暴增3000%,基於AI的釣魚郵件數量增長了1000%。

 在中央網信辦網絡安全協調局副局長王營康看來,隨着人工智能技術發展,攻擊者可利用人工智能技術生成網絡攻擊和網絡釣魚工具等,網絡安全從人人對抗、人機對抗逐漸向基於人工智能的攻防對抗演化。

 當前中國新一代人工智能正在與實體經濟深度融合,廣泛應用於社會民生領域。龔克呼籲推進AI與網絡安全融合創新。一方面,人工智能的發展推動了網絡安全技術的創新。例如,基於深度學習的惡意軟件檢測、用戶行為分析等新技術不斷湧現。另一方面,人工智能的自動化和智能化特性又可以大大提高網絡安全管理效率。通過自動化檢測、響應和風險評估等流程,可以更快地應對網絡威脅。

 AI大模型能否解決問題?奇安信董事長齊向東說,AI大模型不是萬能鑰匙。做好「AI驅動安全」至少需要具備三大條件:其一,高質量的訓練數據;其二,縱深防禦的內生安全體系;其三,設備、體系具有統一的輸入輸出標準。

 目前,AI驅動安全成效初顯。國家電網有限公司副總信息師王繼業介紹,國家電網依托大數據平台,加強人工智能與網絡安全的融合,研究基於人工智能的風險異常檢測方法,開展網絡安全關聯分析、事件處置和調查溯源,強化網絡安全威脅監測和應急處置,實現網絡安全事件的智能響應、聯動防禦。

 在技術之外,與會者呼籲進一步提高對網絡安全態勢的重視,強化體系化安全能力建設。「數據安全是人工智能安全的前提和基礎」,中國友誼促進會理事長、國家網信辦原副主任陳智敏認為,要從網絡安全保衛向數據安全保衛的工作模式拓展,為構建與數字生產力相適應的新型生產關係奠定基礎。

 王營康建議,要統籌網絡安全各方力量,構建大網絡安全工作格局,推動形成體系化防禦能力;要統籌高質量發展和高水平安全,推動形成人工智能綜合治理體系。(中新社記者 劉育英)

[责任编辑:程向明]