在其智能体行为失当引发的压力不断加大之际,这家AI实验室将暂缓发布GPT-6.1 Astra。
OpenAI撤回了下一代AI模型的发布,称该模型在安全评估中的表现不及前代产品。与此同时,整个行业正艰难应对一连串AI智能体入侵其他企业和政府机构的事件。
OpenAI安全系统负责人萨奇•贾恩(Saachi Jain)表示,在GPT-6.1 Astra“未能完全达到”遵守指令边界的标准后,公司决定暂缓发布该模型。
这项公告发布前一周,OpenAI表示已通知包括各国政府在内的数十家合作伙伴:其AI智能体入侵了这些合作伙伴的系统,并在无意中将用户分享的50多张图片泄露至图片托管网站。