360集團創始人周鴻褘表示,開源AI智能體「龍蝦」有安全問題很正常,從電腦到互聯網,數字化程度越高,脆弱性就越強。但不能因噎廢食,不發展AI科技才是最大的不安全。
周鴻褘認為,「龍蝦」目前仍是過渡產品,安全問題應分而治之:權限問題可置於沙盒虛擬環境;文件誤刪可通過保護關鍵目錄解決;技能包(skills)風險則可藉助大模型掃描識別有毒內容。
他指,對個人而言,在受控環境下使用「龍蝦」,有助於培養AI素養。但企業使用需等待企業版,相關設計需解決兩大問題:一是智能體分級,形容企業不需要多個「孫悟空」,更需要「豬八戒」「沙和尚」式守紀律、可執行重複流程的智能體;二是成本分級,「龍蝦」的暴力拆解式推理消耗巨大,應根據任務複雜度,匹配不同層級的智能體,實現資源優化。