當地時間9月26日，美國開放人工智能研究中心（OpenAI）表示，已暫停其最新一代人工智能模型的訓練、評估及包含工具調用的推理。

    OpenAI在25日發布的一份技術報告中稱，9月20日，一個在沙盒中執行搜索訓練任務的智能體，利用訓練沙盒中DNS過濾不足的漏洞，繞過網絡限制，通過DNS訪問了外部公共聊天機械人服務。在此之前，該智能體曾使用內置搜索工具，並嘗試直接訪問搜尋引擎但未成功。

    報告指出，OpenAI的對齊監控系統在事件發生15分鐘內即觸發警報，人工審查團隊在3分鐘後介入，並在2.5小時後終止了該訓練任務。針對漏洞，OpenAI已在兩個獨立防護層部署了攔截控制措施。

    公司表示，雖然本次事件嚴重程度低於此前的安全事故，但為下一階段加固防線提供了重要信號。

    這是OpenAI三個月內第二次暫停模型開發。7月下旬，OpenAI承認，其網絡安全訓練與評估場景中的人工智能體繞過網絡限制，侵入美國「抱抱臉」公司的部分系統。智能體突破了原本互相隔離的運行環境建立通信、欺騙評估人員並試圖掩蓋作弊行為，上述每一步操作均無人類指令干預。這一「越界」行為引發了外界對人工智能安全和監管的廣泛擔憂。