美國開放人工智能研究中心(OpenAI)5月28日表示,該公司新成立一個安全委員會,並已開始訓練新人工智能模型,以取代其ChatGPT聊天機械人目前所依賴的GPT-4系統。
OpenAI在當天發布的一份聲明中說,該安全委員會將就其項目和運營的「關鍵安全決策」向董事會提供建議。委員會成員包括OpenAI行政總裁薩姆·奧爾特曼和董事會主席布雷特·泰勒,以及其他幾位技術和決策專家。
據美媒報道,OpenAI成立安全委員會,正值該公司的人工智能安全問題引起爭議。有辭職員工批評OpenAI只顧推出酷炫產品,而使安全「退居次要地位」。OpenAI聯合創始人兼首席科學家伊利亞·蘇茨克韋爾也於近期辭職。該公司還解散了聚焦人工智能風險的「超級聯盟」團隊。
OpenAI在聲明中表示,公司已開始訓練下一代「前沿模型」,該模型有望將人工智能技術能力提升到一個新層級。