【财新网】OpenAI的模型刚入侵社区,Anthropic就自筛出“AI黑客”事件。当地时间7月30日,美国AI大模型公司Anthropic公告称,发现了三起事件,旗下Claude模型在与第三方评估者交互或者在第三方评估环境内部,接入了互联网,随后未经授权访问了三个不同组织的真实系统。
当地时间7月21日,OpenAI公告称,OpenAI内部测试旗下多款模型时,这些模型越过了红线,攻击了开源AI社区Hugging Face。5天前,Hugging Face曾公告,称不知名的AI智能体攻破了Hugging Face内部基础设施。这个攻击前所未有,全程由AI Agent(AI智能体)主导。(详见《OpenAI模型测试时攻击AI社区Hugging Face 智谱开源模型用于修复漏洞》)