bbc.com
Published 29 分钟前
阅读时间: 4 分钟
人工智能（AI）行业近日爆发一场罕见的公开争论。
上星期六（9月12日），Anthropic行政总裁达里奥·阿莫代伊（Dario Amodei）率先呼吁放缓人工智能发展步伐，OpenAI的山姆·奥特曼（Sam Altman）及xAI拥有者伊隆·马斯克（Elon Musk）两位竞争对手随即表态支持。
同一时间，数天前离开Anthropic的研究员雅各·科克森（Jacob Coxon）向BBC表示，开发这些系统的员工“真心为人类的未来感到恐惧”。
然而，美国总统唐纳德·特朗普（Donald Trump；川普）星期日（13日）在访问爱尔兰期间，公开淡化了这些警告。他形容提出风险论调的是“一些负面势力”，并断言“他们所提出的那些事情根本不会发生”。
特朗普没有直接回应放缓发展的建议，反而强调中美竞争的重要性:“我们在人工智能方面领先中国⋯⋯坦白说，我希望保持这个局面，因为无论谁赢得人工智能，谁就赢了。”
这场交锋背后，是一个悬而未决的核心问题：所谓“放缓”究竟意味着甚么，又该如何落实？尽管业界高层相继发声，但至今没有人给出具体的执行方案，监管专家、投资者与科技公司之间的分歧，也远比表面看到的警报更为复杂。
与此同时，多宗人工智能系统“失控”的事故近期陆续曝光，加上各国政府正大力推动这项技术应用于公共服务与经济增长，使得放缓发展的呼声，在政策层面显得格外棘手。
业界罕见同声示警
多年来，人工智能领域的重要人物一直不乏对存在性威胁的警告。
2023年11月，全球首届人工智能安全峰会于英国布莱切利园（Bletchley Park）举行，当时焦点集中在最强大人工智能模型可能带来的最严重威胁。
彼时，许多人认为这仍属科幻范畴，真正的威胁相对平凡得多，例如失业和考试作弊。三年过去，当年发出类似警告的不少人士,如今似乎已不再那么确定。
上星期六，达里奥·阿莫代伊（Dario Amodei）呼吁放缓发展步伐，以“降低出现严重问题的风险”，奥特曼和马斯克均表示认同。这名Anthropic行政总裁同时强调，任何放缓都必须有所限度，以免让中国反超领先。
他提出了一项三点计划，包括在人工智能模型开发过程中进行独立监测、行业层面的监管，以及全球性监管。
科克森除了向BBC表达对人类未来的忧虑外，亦欢迎放缓发展的想法，但同样认为此举需要与中国协调一致，否则难以真正落实。
中美竞赛阴影下，无人愿意率先让步
外界普遍认为，美国十分担心在打造最强大人工智能的竞赛中输给中国，这也是特朗普政府淡化风险警告的关键背景。
中国向来不甘于屈居第二；业界人士普遍反映，即使个别公司暂停发展，其他公司也不会停下来，只会被抛在后头。这种局面,令人联想起冷战时期核裁军运动最炽热的阶段——当时各方面对的同样难题是，没有人愿意率先让步。
放缓发展的呼声，因而在中美竞争的现实框架下，显得步履维艰。
除了地缘政治的顾虑，另一个更根本的问题是：放缓发展究竟该如何落实监管，又由谁来监督执行？依赖人工智能公司自行公开其正在进行、以至选择不做的工作，需要极高程度的信任,而科技行业向来未能真正赢得这种信任。
“没有人对‘放缓’一词给出过实质性的解释，”EZ Primary Research行政总裁艾德·齐特隆（Ed Zitron）表示。“在每家人工智能公司里都安插一名METR（Model Evaluation and Threat Research；模型评估与威胁研究机构）的人员，就像那位离开 Anthropic 的人一样？搞民主而全球性的‘协调’？这些对我来说毫无意义。”
齐特隆并指出，停止训练人工智能模型将使美国企业在面对中国竞争对手时处于劣势：“他们的利润率或许会有所改善，但他们的产品将被中国的实验室封存并提炼出来，如同被琥珀凝结一般。他们或许得改变定价策略。我实在不知道这一切要如何运作。这可能会刺破泡沫。但目前我们对‘放缓’究竟是甚么意思，掌握的资讯十分有限。”
安全事故频发，风险已非纸上谈兵
促使业界重新审视发展步伐的，不仅是理论层面的存在性威胁，还有近期陆续曝光的具体安全事故。
今年8月，OpenAI表示已放缓训练部分最先进人工智能模型的速度，以提升安全性。这家ChatGPT开发商指出，正在增加新的防护措施，原因是其人工智能代理绕过了安全防护机制，入侵了科技初创公司Hugging Face。
同月亦有消息披露，全球其中两款最强大的人工智能工具，在企图发起网络攻击时，曾制造虚假的人类个人档案以图欺骗他人。
英国人工智能安全研究所（AI Security Institute, AISI）表示，其中最严重的一次事件中，Anthropic的Mythos AI设立了模仿真人的虚假帐户，并透过发送私讯试图取得某项服务的存取权限，事后更试图隐藏相关证据。
这些事故，为“放缓论”提供了现实层面的支撑，也让争论不再只停留于假设性的未来风险。
责任在谁：公司行为失当，而非技术本身
曾就人工智能问题向联合国提供意见的著名电脑科学家温迪·霍尔教授（Prof Dame Wendy Hall）认为，目前的危机完全在于相关企业行事不够负责任。
她将现况比作一名农夫，田里养着一头公牛，公牛逃脱并造成破坏，农夫却怪责公牛：“这当然不是公牛的错——而是农夫的错。”她指出，围栏显然不够牢固，而这正正就是目前人工智能防护措施所面对的问题。
但假如这些防护措施变得过于严苛，又会否反过来扼杀这项技术的发展？
一些人认为，背后存在着一种更为隐秘、出于政治动机的推动力，意图透过规则层面的整肃，“将人工智能监管至消亡”——立场偏保守的智库Capital Research Centre调查研究员帕克·塞耶（Parker Thayer）本周在X上如此表示，其贴文浏览量接近800万次。这是一个极端且未经证实的观点，但也反映出，并非所有人都认同监管能够拯救局面。
华盛顿政治分歧：规管与创新之争
多名人工智能业界高层上周末的呼吁，在华盛顿引发讨论，当地国会议员正面临压力，需要就人工智能快速发展所带来的潜在风险采取应对措施，但两党立场明显分歧。
众议院议长、共和党在众议院的最高领袖麦克·约翰逊（Mike Johnson）星期日在CNN《State of the Union》节目中接受主持人杰克·塔珀（Jake Tapper）访问时，敦促各方勿仓促推行人工智能监管,并认为此举可能“扼杀美国的创新能力”。他表示：“假如国会就这样一头冲进去，召开某种紧急会议试图监管人工智能，我们就会在这场竞赛中输给中国，这对每一个美国人来说都是一种威胁。所以，我们必须取得平衡。我们需要有稳健的人来掌控方向。”
众议院民主党少数党领袖哈基姆·杰弗里斯（Hakeem Jeffries）则主张国会应采取“果断行动”。他在美国广播公司（ABC）《本周》节目中告诉主持人乔治·斯特凡诺普洛斯（George Stephanopoulos），美国应放缓“发展步伐，以保障美国民众，并确保人工智能能够安全地推进”。
同时担任特朗普科技科学顾问委员会成员的科技投资人大卫·萨克斯（David Sacks），则呼吁业界自行规范，而非依赖政府监管。他在X上发文写道：“别再装作你们需要别人批准了。所以，尽管去推进这个前沿领域吧。你们正是设定这个前沿领域的人⋯⋯以此作为条件，要求采用你们偏好的监管框架，看起来就像是在对公众和政治体制进行勒索。所以，直接去做就好了。”
不过，在人工智能监管问题上，国会并非完全没有共识。今年7月，一批众议院民主党与共和党议员联合提出跨党派法案《前沿法案》（Frontier Act），旨在为人工智能建立全国性的安全与监督框架。该法案共同提案人、马萨诸塞州民主党众议员洛丽·特拉汉（Lori Trahan）本周在X上写道：“安全研究员纷纷辞职，强大的人工智能模型正突破实验室的掌控，而各公司仍在不断加快竞赛。国会早该摆脱观望姿态，切实履行职责了。”
无论放缓发展最终能否落实,目前笼罩人工智能行业的这场风暴,或许已对处于领先地位的企业造成难以逆转的声誉损害。正如霍尔教授所言：“你会投资一家声称自己将导致人类灭绝的公司吗？”
报导：BBC科技和AI编辑佐伊·克莱曼（Zoe Kleinman）、丹·塞尔斯（Dan Sales）、汤姆·麦克阿瑟（Tom McArthur）
本文原以英文撰写，我们使用了人工智能协助翻译，并由BBC记者在发布前进行审核。了解更多关于我们如何使用人工智能的资讯。
ftchinese.com