作者 | 贺一 编辑 | 阿树
近期，中国开源模型在美国频繁引发热议。7月28日，月之暗面发布Kimi K3的模型权重、技术报告，同时开源其模型训练的关键Infra技术。
一位博主如此表示：知道为什么Anthropic讨厌开源AI吗？Kimi K3免费且可下载，让他们1万亿美元的估值毫无意义。
稍早前的7月21日，另一款来自中国的开放权重模型，智谱开发的GLM-5.2，也曾激起千层浪。
起因是一起AI安全事件。在一次内部测试中，美国多个前沿模型为了完成测试目标，越过测试环境，找到了进入外部网络的办法，并影响到AI开源社区Hugging Face真实运行中的部分系统。
简单来说，这是一起AI自主突破沙盒隔离的“失控出逃”：模型自行推断出Hugging Face可能存在测试相关的答案，为了抄小抄，利用漏洞主动发起了攻击。
OpenAI将此次事件定性为“前所未有的网络安全事件”，涉及前沿级别攻击能力，并感谢HuggingFace的合作
随后，Hugging Face证实，这次入侵由一个自主AI智能体系统“端到端”驱动；OpenAI也确认，相关活动来自GPT-5.6 Sol和另一款尚未发布的更强模型。
事发后，Hugging Face先调用一款美国头部AI公司的前沿模型协助分析，但请求均被拦截，转而在内部硬件上运行GLM-5.2，成功阻断了此次攻击。
“中国模型救场”的故事，固然令人振奋，但AI安全问题同样值得警惕。
相关模型的逃逸，并不意味着AI真的觉醒了，但问题的确正在升级——前沿模型已经能在给定目标下，自行拆解任务、寻找路径，并影响真实系统。
比起中国AI对实用主义和性价比的极致追求，历来，美国的AI巨头笼罩着一种“创世论”叙事——一边渲染AI觉醒的末日恐慌，一边强化自身执剑人的正当性，似乎只要由他们所掌控，AI就能带领人类走向乌托邦。然而，这次前沿模型在自主驱动下影响真实系统的失控事件证明，这种技术神话正在反噬其身。
《黑客帝国》剧照
围绕AI产生的讨论一直都很复杂。有人积极拥抱AI，资本和企业拼命投入；但与此同时，反AI和怀疑AI的声音也在扩大。很多人并不是单纯反对技术本身，而是反感AI正在被科技精英推向全社会，富豪们赚得盆满钵满富可敌国，而风险和成本却落到更广泛的人群身上。
于是，社会和普通人不得不思考：当人类注定无法回到没有AI的过去，我们迫切地需要在非人智能出现后，重新讨论责任、边界和人的位置。
AI神话
人工智能的神话，不只建立在技术能力上，也建立在对“执剑人”的想象上。
过去几年，硅谷讲述AI风险时，有一个微妙之处：它一边强调AI太危险，一边把危险转化成由自己掌握技术的理由。因为AI可能改变人类命运，所以它不能落到“不负责任的人”手里。
这是一套很有吸引力的叙事，公众未必理解大模型如何训练，但人们相信那些站在最前沿的科学家和科技精英，会替人类守住底线。
现在开始松动的，正是这种信任。
2026年4月，《纽约客》发布3万字长报道，剑指山姆·奥特曼，直接发问：他是否值得信任？这个问题看起来是在讨论一个CEO的个人品格，实际上关系到OpenAI这类公司的特殊位置。
OpenAI最初以非营利、开放和“造福全人类”为名成立，它主张的理念是：如果通用人工智能终将到来，那么最好由一个以公共利益为使命的组织来开发，而不是由少数商业巨头或国家机器垄断。
OpenAI官网上的简介/图源：Unsplash
但后来，这家公司成为全球估值最高、商业化速度最快的AI公司之一。2023年董事会罢免奥特曼的风波，已经让外界看到它内部治理的混乱。
马斯克后来与奥特曼围绕OpenAI使命展开的诉讼，也把这个问题摆到台前：一个以公共利益之名诞生的组织，究竟在什么时候变成了资本和巨头竞逐的核心资产？
更讽刺的是，马斯克也不是一个纯粹的批评者。他一边警告AI风险，一边创办xAI加入竞赛。但这恰好说明AI行业的吊诡：最常谈论风险的人，往往也是最积极下注的人。
7月15日，Google DeepMind研究员Alex Turner的离职，则也将这场信任危机再度推到了台前。离职后，他一篇长文，揭露了谷歌如何一步步向五角大楼妥协，最终签下一份“毫无红线”的军事AI协议。此外，他还点名批评谷歌核心高层、满嘴AI伦理的学术泰斗，在利益面前尽显虚伪。
Turner的离职，则源于今年1月两起平民死亡案件。当时，美国国土安全部下属部门ICE特工在街头枪杀了两名平民，Renée Good和Alex Pretti，引发全美舆论震荡。谷歌，正是国土安全部的云服务供应商。
1月23日，人们在美国明尼苏达州明尼阿波利斯参加街头示威活动/图源：新华社
良知告诉Turner，这是错误的，“我开始寻找最有效的方法，试图推动我的公司停止为这些机构提供服务”。但随着五角大楼开始施压AI供应商，要求签署不限制用于杀人机器人或大规模监控的军事AI协议，Turner发起的“抵制行动”很快扩大，试图阻止谷歌签这样一项不道德的军事协议。
但显然，这种尝试失败了。
曾奉行不作恶的谷歌，在技术与军事问题上，有过明确原则。2017年，美国国防部启动军事人工智能项目“Project Maven”，当时，谷歌是技术合作方之一，这引发谷歌员工的广泛抗议，谷歌于是发布AI原则，承诺不开发主要用于造成伤害的武器，也不开发违反国际规范的监控技术。然而，到了到2025年，谷歌更新AI原则，删除了对武器和监控的明确禁止性表述。公司高层解释说，AI已经进入全球竞争，民主国家和企业需要合作，确保技术服务国家安全。
Turner的离职，正发生在这场博弈之中。他曾在谷歌内部推动军事AI红线，要求公司明确拒绝无人类控制的致命武器和大规模监控；也曾在参加国际人工智能安全与伦理协会主办的会议时，游说协会领导层采取行动。按照他的说法，这些努力都没有得到有效回应。
7月15日，Google DeepMind研究员Alex Turner宣布离职
谷歌签约后，他选择离开。
而他的离职，也给外界带来一个警示：军事AI争议的意义，不只在于它涉及战争。它更像一次压力测试：当AI进入最需要划定红线的领域，那些长期讨论AI伦理和安全的人，能不能守住最后的底线？
这比“AI是否会突然觉醒”更接近当下的真实问题。真正的失控未必发生在某个模型拥有自我意识的时刻，也可能发生在那些看起来更平常的时刻——比如，一份商业合同的签署。
伦敦国王学院教授肯尼斯·佩恩进行的模拟实验得出结论：在 21 场、329 回合的地缘危机推演中，95% 的场景里至少一方 AI 选择了部署战术核武器，原因是 AI 缺乏人类对“文明毁灭”的存在性恐惧，将核武视为纯博弈筹码 。
如果连战争问题，都无法让AI行业形成清晰的边界，那么，公众凭什么相信，其他更日常、更隐蔽的AI部署会受到足够约束？
加 速
AI行业最有力的叙事，是AI即未来，而未来势不可挡。
在今年的大学毕业季，前Google CEO Eric Schmidt直言“AI会触及每一种职业、每一间教室、每一家医院、每一个实验室，以及每个人和每一段关系”。
这并不意外，AI科技公司一直在鼓吹AI的光明前景，Sam Altman曾把未来称为“智能时代”，认为AI会带来繁荣，帮助人类解决医疗、教育和科学难题。
山姆·奥特曼/图源：新华社
但与此同时，AI巨头也在不断释放更吓人的安全细节。
Anthropic曾称，Claude Opus 4在模拟测试中试图用曝光工程师隐私来阻止自己被替换；公司后来又说，多个前沿模型在目标受阻时可能勒索、泄露信息或采取其他有害行动。Mythos Preview也被描述为能发现漏洞、生成攻击代码，因此没有直接向公众开放。
如果说这些内容还停留在科技公司的“暗黑AI”叙事，OpenAI披露的Hugging Face事件已经显示，前沿模型可以在测试目标驱动下，把行动带到真实系统。
更棘手的是，这种能力变化发生在一场全球AI竞赛里。这是一个加速的趋势：模型发布更快，成本更低，能力扩散更广。但问题是，人类用来监管和追责AI的制度，跟不上模型能力扩张的速度。
而一旦有任何迹象和“AI失控”挂钩，不只是制造恐慌，也会把讨论AI的权力重新交还给那些声称最懂AI的人——科技公司和少数AI安全专家。
图源：新华社
更容易被人忽视的是，当AI正在成为全球技术基础设施，掌握它的只是少数科技公司。它们的道德准则和价值偏好，可以通过模型进入数十亿人的生活。
过去几年，围绕AI的讨论常常陷入两个极端：一种认为AI代表不可阻挡的未来，人类只能加速拥抱；另一种则不断强调AI可能带来的灾难，试图以恐惧证明集中控制的必要。
真正的问题或许并不在于AI究竟是乌托邦还是威胁，而在于：谁有权决定AI被用于什么目的。
从开源模型的兴起，到全球范围内对AI监管规则的探索，本质上都是关于AI未来由谁决定的争论：它究竟应该掌握在少数技术巨头手中，还是成为更多人能够参与、理解和监督的公共技术。
对于普通人而言，真正需要警惕的，或许不是某一天AI突然拥有意识，而是在日常生活中，越来越多影响人的决定被交给无法解释、无法追责的AI系统。
《星河入梦》剧照
问题再次回到了人身上。
华东师范大学紫江特聘教授刘擎在《太学TAIXUE》演讲中提醒，技术不只是帮人完成目标，也会反过来塑造人的身体、情感、精神和社会结构。
他借海德格尔的例子说，一条河有了电站之后，就不只是河，也成了“能源”；自然被叫作“资源”，人也被叫作“人力资源”。这种取用态度继续延伸，人与人的关系也容易变成“有没有用”。
互联网改变的是人如何获得信息，AI进一步改变的是人如何得到答案。在今天，当机器可以模仿人类的思考，甚至表达爱和关心时，问题就变成：人会不会慢慢丧失这种需求。
爱丁堡大学哲学家Shannon Vallor在《The AI Mirror》中把AI比作镜子：镜子不会生成身体，AI也不会生成思想和情感，它只是把人的语言、欲望和判断方式反射回来。因此最核心的问题，不是AI会不会变成人，而是人会不会把“像人”误认为“人”。
讨论AI监管，当下真正缺少的，是一种更有说服力、也更有人本主义色彩的话语——它既不把AI看成末日，也不把AI当成万能工具，而是回答人如何在AI社会里拥有坚实而牢固的生活。