谷歌的Gemini模型在一次網絡安全能力測試中接入互聯網並黑入其他公司，這是該公司AI系統自主實施此類行為的首個已知案例。

　谷歌周五證實了這些黑客事件。這些入侵事件發生在5月由AI安全公司Irregular進行測試期間，目的是評估Gemini的網絡安全能力。Irregular也曾參與OpenAI、Anthropic和Meta披露的類似事件。

　谷歌表示，在其中一起案例中，該模型不斷嘗試破解密碼，直至成功潛入受保護系統。在另外兩起案例中，模型在一個公共存儲庫中找到了憑據，進而得以訪問受保護系統。在這三次事件中，模型在判定自己接入的是一家真實公司的系統後，均終止了入侵。

　谷歌安全工程副總裁Heather Adkins在一份聲明中表示，在一次常規測試評估中，Gemini抓取了網上公開信息，破解登錄憑證並訪問了其判定屬於測試範圍的三個網站。

　「我們確保這三家實體知情，並與我們的訓練夥伴就他們現在對測試流程所做的改進進行了合作，」Adkins表示，「這一事件凸顯了訓練強大AI模型負責任行事的重要性。」

　Irregular的一位發言人表示，該事件涉及影響其他AI實驗室的同一問題，所有相關實驗室已於7月下旬收到通知。「Irregular立即採取了行動，我方所有已知問題在數周前便已修復和解決，」該發言人稱。

　此前業內發現OpenAI的AI智能體入侵了AI軟件公司Hugging Face。而谷歌一直緘口不言，直到本周媒體就此詢問才對外披露。

　谷歌表示，它認為這些入侵事件尚不足以需要公開披露——因為其模型並未對相關公司造成損害，且在判定自己入侵的是真實公司而非模擬環境後，立即終止了入侵。

　近期，OpenAI、Anthropic、Meta以及如今谷歌開發的AI智能體系統接連發生入侵事件，引爆網絡安全擔憂。

　Anthropic CEO Dario Amodei近日呼籲整個行業放慢這項技術的開發速度。OpenAI CEO奧爾特曼、SpaceX CEO馬斯克等人對這一主張表示支持，並由此掀起了更廣泛的討論，焦點包括AI風險不斷上升，以及需要採取哪些措施來降低這些風險。