AI「外掛」帶來的安全風險引發多方擔憂,正引起入口之爭。最新消息稱,淘寶、微信、農業銀行、建設銀行等多款App先後出現了針對AI手機屏幕共享監測以及風控的措施。
以「中國建設銀行」App為例,該軟件向用戶發出的彈窗顯示:「為了保障您的個人信息及資金安全,請退出錄屏或共享軟件『AI操作手機』後再使用手機銀行服務,謹防詐騙。」
媒體報道稱,「此舉被網友解讀為手機App對AI手機助手憑藉底層權限、實現跨應用操作所引發隱私擔憂的側面回應。」
當前,華為、榮耀、OPPO、vivo等廠商紛紛在最新旗艦機型里注入AI Agent能力,最新豆包手機助手技術預覽版亦發布。手機廠商、AI解決方案提供方開始將「AI Agent高權限能力」作為技術賣點,但事實上,行業內,個別不合規的AI Agent通過使用無障礙權限等技術手段跨越應用邊界,且不乏有大規模數據採集等行為,甚至導致用戶隱私「裸奔」。
財聯社記者前期通過查閱部分廠商隱私安全相關介紹注意到,部分模型可在設備本地部署、操作,保證⾼敏感隱私數據可以得到保護。但仍有部分操作在雲端進行,或意味着用戶在給出指令後就對設備「失去掌控」。
稍早有媒體報道,針對個別AI Agent的手機微信登錄異常,微信相關人士則回應:此現象可能是觸發了微信原有的安全風控措施,並非特別動作。
財聯社記者亦關注到,「AI外掛」帶來的安全隱患已在社交平台引發諸多討論。例如,多位網友在社交平台稱,部分高校要求下載的App要求用戶開極高的權限。網友「吐槽」稱,「每次啟動都要先把淘寶京東拼多多等各種軟件全部過一遍;這個軟件操縱過我的手機,自己跳轉頁面開權限。」
更為值得關注的是,財聯社記者採訪獲悉,已有「黑灰產」利用無障礙權限實現驗證碼自動採集、搶票購物自動化等操作。
技術實現路徑層面,走出去智庫總經理、高級合夥人陸俊秀向記者介紹,超出授權範圍、採取非常規手段的AI功能突破了傳統App的「沙箱隔離」機制。
此外,「無障礙權限」技術遭到了濫用。據悉,無障礙權限為安卓早期就有的權限,最初旨在為殘障人士和老年人提供輔助功能。
「這類AI操作路徑擬人化程度極高,傳統反制手段難以識別。」北京漢華飛天信安科技有限公司總經理彭根稱。
個人數據隱私如何在使用AI外掛時得到保護,這一多方普遍關心的話題,正引發法律與治理難題。另有受訪者告訴財聯社記者,由於潛在商業利益衝突,AI Agent運營方與第三方App的不正當競爭案件可能隨時發生。