这家人工智能公司在加速将迄今最强大、也最令人生畏的工具推向市场之际,能否坚守其最初确立的道德原则?
2月下旬的一个星期五,达里奥•阿莫代伊(Dario Amodei)坐在那里,思索着这家成立五年的公司的命运。对Anthropic而言,这是超现实一周的尾声,即便放在这家人工智能初创企业过去几个月的非凡表现中来看也是如此——Anthropic正加速超越竞争对手,研发最前沿的系统。它与美国国防部(US Department of Defense)之间爆发了一场激烈的公开冲突,争议焦点是公司创立之初确立的一项核心原则:如何安全部署强大的人工智能技术。
美国国防部曾要求Anthropic允许其人工智能系统Claude可用于“所有合法用途”。Anthropic则提出两个例外:不得用于对美国人的大规模监视,也不得用于致命的自主武器作战。此后,双方的谈判陷入了相互攻讦。
到那天为止,美国总统唐纳德•特朗普(Donald Trump)已经在社交媒体上发文,要求其政府内所有联邦机构立即停止与Anthropic合作,并将阿莫代伊及其同事形容为“觉醒的……左翼疯子”。随后,国防部长皮特•赫格塞思(Pete Hegseth)又发帖称,Anthropic将被列为危及国家安全的“供应链风险”,这是首家被如此定性的美国公司。从理论上说,这意味着今后所有与美国军方有业务往来的组织都不能再与Anthropic合作。更雪上加霜的是,阿莫代伊的宿敌、前雇主萨姆•奥尔特曼(Sam Altman)突然出手,宣布其公司OpenAI已与五角大楼(Pentagon)达成协议,将在涉密行动中提供OpenAI的人工智能系统,以取代Anthropic的产品。