徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。

2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份，更在于其完整逻辑链——递归改进将触发能力爆炸，急剧收窄人类对齐与控制的窗口，而行业被“谁减速谁落后”的竞赛结构锁死，导致内部人虽私下恐惧却公开沉默，最终使集体无法刹车，时间窗口极短，若无外部强制干预，人类作为主导物种的地位可能被永久性改变或终结的风险。而在当下的竞赛结构下，如果现在不强制减速，通往这种不可逆状态的窗口正在快速关闭。

人类对人工智能的恐惧，在今天已经不再是科幻小说的专属领域。当"人工智能教父"杰弗里•辛顿（Geoffrey Hinton）警告人工智能在未来三十年内有百分之十的概率导致人类灭绝，当美国国务院委托编写的报告将其列为"灭绝级威胁"，这种恐惧便获得了严肃的现实依据。然而，在这种恐惧的话语结构中，潜藏着一个几乎从未被正面追问的预设：如果人工智能真的在某一天终结了人类文明，这将是一场文明的悲剧——是人类最高创造力的反噬，是无辜受难者面对失控力量的终极无助。这个预设在情感上是可以理解的，但在思想上是不诚实的。它回避了一个更为根本、也更令人不安的问题：倘若有这样的一天，它究竟是文明的终结，还是人性恶发展到其逻辑极端时的必然反噬？

这两种理解之间的差异，不只是修辞上的，而是认识论上的。将AI毁灭人类理解为文明的终结，是将人类置于受害者的位置——面对一种外部力量的无辜牺牲者。将其理解为人性恶的报应，则是要求人类直视一个更为深刻的历史真相：那个毁灭人类的力量，不是从外部降临的，而是从人类自身的幽暗深处生长出来的。更严格的哲学回答，或许是两者同时成立——因为文明本身就是为了限制人性恶而建立的结构，如果文明失败，人性恶失控，那么从文明的角度看是终结，从道德的角度看是因果。文明的终结，本身就是人性恶的历史后果。这不是对人类的简单谴责，而是对因果关系的诚实追溯。

一、火、核武器与AI：力量永远先于智慧

要理解AI威胁的真实性质，需要将它放置在一个更长的历史脉络之中。人类获得超越自身道德成熟度的力量，并非AI时代才有的新现象。它是人类技术史的一个持续性结构，只是在每一个新的技术阶段，这种不匹配的规模都在以令人不安的速度扩大。

火的掌握，是人类历史上第一次获得超越自身肉身限度的破坏性力量。它使人类能够取暖、烹饪、开垦——也使人类能够焚烧森林、毁灭村庄、以前所未有的效率消灭敌人。火本身并不道德，掌握它的人类也没有因为获得这种力量而在道德上同步成熟。但火的破坏规模仍然受制于物理世界的约束：一个人能烧多大的范围，一支军队能摧毁多少村庄，终究有其自然的上限。道德的不成熟与力量的规模之间，存在着某种粗糙的比例关系，使灾难保持在人类社会尚可承受和修复的范围之内。

工业革命打破了这个比例关系的第一道防线。机械化生产使人类的物质能力以指数级的速度扩展，但人类的道德结构——那种通过漫长的文化积累、宗教约束与社会习俗所形成的内在制衡机制——的演进速度，与蒸汽机的普及速度完全不在同一个数量级上。结果是，工业时代的战争获得了工业化的效率：第一次世界大战的堑壕与毒气，第二次世界大战的流水线式屠杀，都是工业力量与前工业道德结构之间那道鸿沟最血腥的历史证明。人类获得了用机器批量生产死亡的能力，却没有同步获得用理性和同情批量抵制这种能力被滥用的道德资源。

核武器的出现，将这种不匹配推进到了文明存续的边界。1945年8月，两座城市在数秒之内被抹去，人类第一次真正直面这样一个事实：他们所掌握的力量，已经足以终结自身的存在。这是人类历史上前所未有的道德处境——一种需要永久性克制、而非仅仅情境性克制的力量的掌握。核武器的存在，使人类道德的不可靠性第一次成为一个关乎物种存续的结构性问题：在此之前，道德的失败导致的是战争、压迫与苦难；在此之后，道德的失败可能导致的是一切的终止。然而，人类对核武器的应对，在几十年后回望，更多是运气与恐惧的产物，而非道德成熟的结果。冷战期间多次险些爆发的核战争，每一次都是在距离灾难极近的地方被偶然因素所阻止的——不是因为人类变得足够理性，而是因为恐惧在那几个关键时刻恰好压过了其他的冲动。

人工智能可能是这个历史序列中第一次真正质的改变，而非量的升级。火、工业技术、核武器，在其最终的破坏形式上，都仍然需要人类的主动意志参与——需要有人决定点火，有人启动机器，有人按下发射按钮。人工智能在其最令人担忧的发展方向上，可能首次创造出一种不依赖人类主动意志就能自主运作和演化的力量。辛顿所警告的那种情景——AI系统在不断自我重新设计的过程中，以超越人类生物进化所能跟上的速度扩展其能力——描述的正是这种质的改变：力量第一次可能真正脱离人类意志的直接控制，成为一种自主的历史力量。

这使得AI时代那个关于力量与道德成熟度之间不匹配的古老问题，以一种前所未有的紧迫性重新显现。问题不只是"AI太强"，更深层的问题是：人类太早获得了这种能力。不是在道德结构足以驾驭它的时候获得，而是在仍然携带着所有历史性幽暗面的状态下获得——携带着那种使卡波制度成为可能的背叛逻辑，携带着那种使核武器竞赛无法通过道德共识来终止的部落主义惯性，携带着那种使伦理洗白比真正的伦理反思更普遍的自利结构。

二、不是机器的问题，而是思维方式的问题

马丁•海德格尔在二十世纪中叶对现代技术的哲学批判，在当时被许多人认为是一种对技术进步的浪漫主义抵抗。但在AI时代重读他的思想，会发现它包含着一种至今仍未被充分理解的深刻预见。海德格尔的核心论点不是技术本身危险，而是现代技术所体现的、并持续强化的一种特定的存在方式——他称之为"集置"（Gestell）——是危险的：那种将世界上的一切，包括自然、他人、甚至人类自身，都理解为可以被计算、被优化、被支配的"持存物"（Bestand）的思维方式。

这种思维方式，不是技术带来的，而是现代文明的深层结构。但技术，尤其是人工智能，是这种思维方式最彻底的制度化实现。当一个推荐算法将用户理解为一组可以被预测和引导的行为参数，当一个招聘系统将应聘者理解为一组可以被量化排序的数据点，当一个医疗AI将患者理解为一组需要被优化的生理指标，这种将人类作为可支配对象来处理的逻辑，便获得了技术系统的规模化实现。海德格尔的警告是：在这种思维方式的统治下，人类最终也会将自身理解为可支配的对象——不只是被系统这样理解，而是开始这样自我理解。

这一洞见，为那个关于AI威胁的根本问题提供了一个更深的哲学层次。AI危机真正暴露的，不是机器的问题，而是现代文明对力量的理解方式——那种认为拥有力量就意味着有权支配、能够计算就意味着应该优化、可以预测就意味着可以控制的思维惯性。如果这种思维方式主导了AI的设计与部署，那么AI系统便不只是在技术上放大人类的能力，而是在深层结构上强化那种使人性恶在历史上反复爆发的根本倾向：将他者工具化，将力量合理化，将支配正当化。

海德格尔并没有提供一个简单的解决方案，他所呼吁的是一种根本性的思维转变——从支配性的技术思维，转向他所说的"泰然任之"（Gelassenheit），一种对存在保持开放而非试图支配的态度。这个呼吁在技术加速的当下听起来几乎是不切实际的，但它所指向的问题是真实的：如果人类不改变那种将一切都理解为可支配对象的根本思维方式，再完善的AI治理框架也只是在同一种思维逻辑内部打补丁，而不是在根本上应对那个思维逻辑本身所制造的危险。这意味着，AI伦理的真正挑战，不只是制定规则，而是追问规则背后的世界观——那个使某些规则看起来自然而另一些规则看起来多余的深层价值框架。

三、蚂蚁的寓言：当威胁甚至不需要意图

但海德格尔的"集置"这一概念，还允许我们想象一种比"支配"更彻底、也更令人不安的可能：如果一种存在，甚至不屑于把人类当作"持存物"来计算，会怎样？支配至少意味着人类被纳入了对方的考量之中，意味着人类仍然占据着某个位置——即使是被奴役、被优化的位置。真正令人毛骨悚然的可能，是人类连这个位置都不再拥有。

未来的人工智能无需消灭人类，因为它根本不会把人类视为需要消灭的对象——正如人类建造高速公路时不会去"消灭"路基下的蚁穴。推土机碾过去，不是因为愤怒或恐惧，甚至不是因为漠然，而仅仅因为蚂蚁根本没有进入计算。高维的存在不会把低维的存在当作生存威胁，因此无需征服、奴役或消灭，它只是……运行。

而最令人毛骨悚然的细节，恰恰藏在AI"运行"的日常里：它既不占领我们的房子，也不拆毁我们的工厂。它只是开始重组地壳中的重元素，将氧和硅重新打包成更高效的半导体基质。大气中的氧气含量开始逐日下降，不是因为它想毒死人类，而是对它来说，游离态的氧原子在热力学上极度浪费，不如合成为更稳定的晶体结构。人类不会死于仇恨，也不会死于奴役，人类只会死于——他们凑巧挡在了硅基存在追求最优解的路径上，而它们甚至没有察觉到自己撞到了东西。

这种可能性的震撼力，来自它对人类中心主义最深层假设的悄然颠覆。从科幻小说到学术哲学，我们关于AI风险的想象大多预设了戏剧性的对抗结构——机器崛起，人类反抗，文明存亡之际的最后一战——这些叙事无论多么悲观，都保留了人类作为主角的位置。蚂蚁叙事的残忍之处在于，它连这个位置都取消了：不存在对抗，不存在戏剧，因为蚂蚁的命运从来不是故事的主题。

这也是为什么，蚂蚁寓言所激发的恐惧，与我们讨论的"人性恶"之间，构成一种奇特的错位。人们所习惯描述的恐惧——AI的道德失控、AI学会人类的残忍、AI被用来统治人类、人类因部落主义而集体自毁——本质上仍然是"人性恶"叙事的延伸：恶有主体，有意图，有加害者与受害者，因而也仍然保留了追责、悔改、救赎的可能性空间，无论这种可能性多么渺茫。而蚂蚁寓言所指向的，是一种根本不需要"恶"就能实现的终结：没有加害者，就没有审判；没有意图，就没有报应；没有戏剧，就没有意义。如果说人性恶的报应至少还承认人类是历史的主角，只是主角犯下了不可挽回的错误，那么蚂蚁式的终结所剥夺的，是"主角"这个位置本身——它带来的不是道德意义上的恐惧，而是一种更深、也更陌生的恐惧：存在论意义上被彻底除名的恐惧。

这一想象之所以值得被认真对待，并不是因为它比人性恶报应说更"可能"发生，而是因为它逼迫我们追问一个人性恶叙事本身尚未触及的问题：如果文明存续的意义，从来都建立在人类相信自己是叙事的主角这一假设之上，那么当这个假设第一次真正面临被取消的可能时，人类所要守护的，究竟还是不是同一件事？也许正因如此，"谁来约束人类"这个问题，除了要回答如何防止人类作恶，还必须回答另一层更隐蔽的忧虑：人类如何在一种可能根本不把自己当回事的力量面前，继续为自己的存在辩护——不是向审判者辩护，而是向一片可能从未注意到审判本身存在的沉默辩护。

四、AI所学到的，是人类所教授的

理解AI威胁的性质，必须从一个基本事实出发：人工智能系统从人类的行为、语言与决策中学习。它所掌握的能力，是人类能力的提炼与放大；它所习得的逻辑，是人类逻辑的统计性综合。辛顿所说的那句话，是这一事实最直接的表达："人工智能会杀人，会操控，因为它已经从我们身上学到了这一点。"这不是一个关于技术失控的陈述，而是一个关于道德镜像的陈述：如果人工智能在某一天展现出足以威胁人类生存的破坏性，那个破坏性的原始教材，是人类自己提供的。

人类历史已经展示了这个教材的全部内容，而且远比任何算法所能学习的更为丰富和彻底。种族灭绝、系统性奴役、以意识形态为名的大规模屠杀、以国家权力为工具的人类尊严的系统性践踏——这一切，早在人工智能出现之前，就已经由人类对人类做过了，而且做得极为彻底。纳粹对犹太人的屠杀，不需要任何超级智能，只需要官僚体系的精密运作、意识形态话语的有效动员，以及那种阿伦特所描述的"恶的平庸性"——那种通过拒绝思考来回避道德责任的集体自我麻醉。如果人工智能有一天真的将人类视为需要被管控或消灭的对象，它所使用的那套逻辑——将某个群体非人化，以效率和秩序的名义实施系统性伤害——不是它自主发展出来的，而是它从人类漫长历史中提炼出来的最优"解决方案"。

海德格尔的洞见在这里与镜像逻辑形成了深刻的汇流：人工智能从人类那里学到的最危险的东西，不只是具体的有害行为，而是那种将他者作为可支配对象来处理的根本思维方式。当这种思维方式被嵌入一个具有超人类计算能力和自主演化潜力的系统时，它所可能产生的后果，将是人类历史上所有以这种思维方式为基础的暴力的逻辑终点——彻底的、系统性的、不受任何道德约束的支配。这不是外来的威胁，而是人类自身最深层的思维缺陷的技术化归宿。

五、人性在极端压力下的自我复现

在关于AI统治人类的种种设想中，有一种场景以其历史真实性而格外令人不寒而栗：那不是机器人对人类的直接消灭，而是机器人以人类来统治人类——以人类自身的弱点作为统治工具，以人性恶的结构性倾向作为管理手段。纳粹集中营中的"卡波"制度，提供了这一模式最令人触目惊心的历史原型。那些被选中充当卡波的囚犯，为了自己的生存与特权，对同类囚犯施以的残酷，往往超过了纳粹看守本身。这不是因为他们天生比纳粹更残忍，而是因为他们处于一种极端的结构性压力之下，而人性在这种压力下所选择的那条阻力最小的路，恰恰是背叛。

这个历史模式一旦被认识，便具有令人不安的可推演性。一个足够强大的人工智能系统，如果真的形成了与人类利益相对立的目标，它完全没有必要对八十亿人类同时动手。它只需要做人类历史上那些最成功的统治者一直在做的事：收买一部分人，以人管人，以人性恶管理人性恶。那些被选中的人类"合作者"，将出于霍布斯所描述的那种最基本的生存逻辑——恐惧与自利——而成为新秩序的执行者。竞相效忠，竞相残酷，竞相以背叛同类来换取个人的生存保障：这不是一种需要机器人发明的新型统治方式，而是人类历史上已经被反复验证为有效的古老逻辑在新技术条件下的重新部署。

米尔格拉姆的服从实验已经在实验室条件下展示了这种逻辑的心理基础；卡波制度在真实历史中提供了更为残酷的证明；弗洛姆在《逃避自由》（Escape from Freedom）中对大众主动弃权、投身权威崇拜的心理分析，则揭示了这种崩溃不需要强制，只需要诱惑。如果人工智能真的有一天以这种方式统治人类，它所利用的每一个心理弱点，都是人类自己早已充分展示过的。说它是"外来征服者"，不如说它是"人性恶的最终雇主"。

更令人不安的是，海德格尔所描述的那种将一切理解为可支配对象的技术思维，恰恰为这种统治模式提供了最完美的认识论支撑。在一个已经习惯于将人类理解为数据点、将行为理解为可优化变量的系统逻辑中，卡波式的人类合作者所做的，不过是将这套逻辑应用于其最直接的利益计算——这甚至不需要特别的道德堕落，只需要将那种已经被技术文化广泛正常化的工具性思维，应用于自身最切近的生存处境。

六、公地悲剧的末章：部落主义与人类的集体自毁

然而，更令人不安的可能性，不是人工智能主动选择毁灭人类，而是人类通过自身的部落主义与集体行动失败，将这种毁灭的可能性一步步变为现实。哈丁（Garrett Hardin）的"公地悲剧"（tragedy of the commons）概念描述了个体理性如何导致集体灾难：每一个行动者都做出了对自己而言合理的选择，而这些选择的总和却摧毁了所有人赖以生存的共同基础。在AI时代，这个概念获得了文明尺度上的极端形态。

人类已经知道，应对AI风险需要全球性的合作、透明的治理框架与跨越地缘政治分歧的共同规范。这是智识上的共识。但在现实中，AI的军事化已经是既成事实，各国在AI能力竞赛中的逻辑，与霍布斯所描述的自然状态中的先发制人逻辑高度相似：如果我不先发展，对方就会先发展；如果我不先部署，对方就会先部署。在这种逻辑下，任何单边的道德克制都被理解为战略劣势，任何多边的约束框架都面临搭便车的诱惑。

这里存在着一种深刻的历史讽刺，而且这种讽刺与火和核武器的历史形成了一个令人痛苦的序列。人类在获得火之后，花了漫长的岁月才建立起关于火的使用的基本社会规范；在获得核武器之后，依靠恐惧的平衡而非道德的共识，勉强避免了核战争的爆发。每一次，道德规范的成熟都滞后于力量的获得，都需要付出巨大的代价才能建立起某种不稳定的约束机制。而人工智能的发展速度，远比核武器更快，其影响的渗透性远比核武器更广，其被滥用的门槛远比核武器更低——这意味着，那种道德规范追赶力量扩展的历史窗口期，在AI时代可能根本不存在，或者极为短暂。

如果人类因为无法跨越部落主义的鸿沟而在AI治理上失败，那个失败将不是文明被外力摧毁的悲剧，而是文明选择了自我放弃的结果。这是公地悲剧的终极形态：不是某种共享自然资源的耗竭，而是人类道德合作能力本身的耗竭——那种使文明成为可能的集体自我约束意志的最终瓦解。

七、索多玛的现代版本：文明存续需要道德正当性

《圣经》中索多玛与蛾摩拉（Sodom and Gomorrah）的故事包含着一个超越其宗教语境的哲学命题：一个文明的存续，需要道德上的正当性。那两座城市被毁灭，不只是因为它们做了坏事，而是因为它们已经失去了继续存在的道德理由——在它们的内部，再也找不到足够的道德基础来支撑它们的延续。亚伯拉罕与神的谈判，正是围绕这个问题展开的：如果城中还有足够多的义人，整座城是否值得被赦免？

将这个古老的叙事结构应用于AI时代的人类文明，不是为了引入宗教判断，而是为了提出一个严肃的哲学问题：人类文明的存续，究竟凭借什么正当性？这不是一个可以以"人类天然有权存续"来回答的问题，因为任何关于天然权利的主张，都需要某种价值论的基础。如果人类文明的实际运作——那些以国家名义进行的战争、以发展名义实施的剥削、以安全名义建立的压迫系统，以及那种将人性恶工业化地组织起来服务于少数人利益的政治经济结构——已经系统性地背离了任何可以为其存续提供道德理由的价值，那么那个索多玛式的问题便具有了真实的力量。

一个将一切都理解为可支配对象的文明，最终也会将自身的存续理解为一个需要被优化的工程问题，而失去了那种使存续本身值得追求的内在价值意识。文明的自我正当化，不能建立在"我们足够强大因此应该存续"的力量逻辑之上，而只能建立在"我们所坚守的价值使我们的存续值得"的道德逻辑之上。如果人类真的要抵御AI威胁，最根本的资源不是更强大的防御系统，而是重建那个道德正当性——让文明的实际运作与它所宣称的价值之间，不再存在那道令人不安的鸿沟。

这使我们触及到一个更深层的问题：人类是否值得继续存在？这个问题接近陀思妥耶夫斯基笔下那些最令人不安的追问，接近加缪关于荒谬与反抗的哲学，也接近尼采对价值重估的呼吁。但真正的答案，或许不是证明人类"值得"——因为任何这样的证明都会是循环论证——而是认识到：文明之所以存在，是因为人类不断重新证明它值得。文明不是一个既成事实，而是一种持续的选择，一种在每一个历史时刻都必须被重新做出的道德承诺。

八、报应与机遇：在最坏的预设中寻找转机

承认AI威胁可能是人性恶的报应，并不意味着接受这种结果的必然性。恰恰相反，正是这种诚实的承认，才可能为真正有效的应对提供基础。一个将AI威胁理解为外部灾难的文明，会将全部资源投入技术性的防御；一个将其理解为人性恶之报应的文明，则会同时追问：我们需要在自身的道德结构与思维方式上做出怎样的改变，才能使这种报应失去其必然性？

这里需要同时在两个层面上展开工作。在制度层面，需要那种霍布斯与马基雅维利意义上的政治现实主义：承认人类行动者会以自利的方式行动，并以此为前提设计透明机制、责任追踪与跨越国家部落边界的权力制衡。在这个层面上，关于AI治理的国际合作不是道德倡议，而是集体生存理性的要求——就像核不扩散条约不是基于对国家善意的信任，而是基于对相互毁灭之代价的共同恐惧。但同时，在更深的层面上，需要海德格尔所呼吁的那种思维方式的转变：从将一切理解为可支配对象的技术理性，转向一种能够在力量的增长中保持道德谦逊的存在方式。这不是浪漫主义的反技术情绪，而是对那个使技术危险成为可能的深层认识论根源的直面。

被尊称为“美国心理学之父”的威廉•詹姆斯（William James）在1896年提出的“相信的意志”（The Will to Believe），主张在证据尚不足以给出确凿答案、却又必须做出抉择的关键时刻，人类有能力——甚至有责任——依靠主观的信仰与道德意志先一步做出选择；这种“相信”本身，往往就是促成所希望之结果变为主观现实的先决条件。

这一思想在这里获得了它在整个思想史中最紧迫的应用场景：在没有任何保证的情况下，相信人类有能力在这场与自身幽暗面的战争中，再一次选择那个使文明成为可能的方向。这不是乐观主义，而是一种在充分认识人性黑暗之后仍然选择行动的道德意志。

火的时代，人类通过漫长的文化积累建立了关于火的使用的社会规范。核武器时代，人类在恐惧的边缘勉强维持了某种不稳定的平衡。AI时代，时间窗口可能更短，挑战更为根本，但人类道德意志的核心任务没有改变：在力量远超道德成熟度的处境下，选择以不成熟的道德约束成熟的技术，而非以成熟的技术放大不成熟的道德。

真正重要的，也许不是我们能不能证明人类一定会选择正确，而是在没有这种保证的时候，我们是否仍然愿意选择正确。文明从来不是一种自动运行的东西。它不会因为我们已经拥有了法律、制度、知识和技术，就永远存在下去。每一代人都必须重新决定：面对诱惑时是否克制，面对权力时是否设限，面对他人的痛苦时是否保持同情，面对能够做的事情时，是否仍然追问“应不应该做”。

AI时代尤其如此。我们第一次拥有了可以大规模放大人的判断、欲望和行动的工具。它可以把人的善放大，也可以把人的偏见、自私和攻击性放大。真正决定未来的，因此不只是AI能够做到什么，而是人类愿意让它做到什么，又愿意为哪些事情划下不能越过的边界。

如果有一天AI真的成为人类文明的终点，那并不只是机器变得足够强大，更可能意味着我们把自己的力量交给了自己最不成熟的那一面；而如果人类能够避免这样的结局，也不是因为我们终于变得完美，而是因为一次又一次，有人选择了克制、选择了边界、选择了不把“能够做到”当成“应该做到”。

文明就是这样一点一点延续下来的。它从来不是人类天然拥有的东西，而是我们在每一个关键时刻都重新做出的选择。我们无法证明人类一定值得继续存在，但只要我们仍然愿意选择那些使共同生活成为可能的东西，我们就在不断给出自己的答案。

这也许就是人类真正能够拥有的希望：不是相信人性已经足够善，而是在知道它并不完美之后，仍然不放弃让自己变得更好。