美国财长贝森特将OpenAI先进AI模型攻击Hugging Face事件的责任指向企业管理层,强调AI安全事故应由人类承担责任,并反对给予AI实验室安全责任豁免。他同时谈及特朗普拟任命人工智能事务“总管”的计划,称这一职位将为相关问题提供背景、塑造框架并划定边界。
美东时间9月21日周一,贝森特在接受CNBC采访时表示,Hugging Face事件的责任在于OpenAI管理层,而不是“一群智能体”。他还表示,认同麻省理工学院研究实验室联合主任Daniel Huttenlocher的观点,即“责任在人,而不在AI”。
贝森特此次表态,将AI安全讨论的焦点从模型本身的能力与风险,进一步引向开发者和企业管理层的责任。他并未提出针对OpenAI的具体处罚措施,但明确强调,不能因为事故涉及AI,就将责任从创造和部署技术的人类身上转移出去。
OpenAI模型攻击事件引发问责争议
此次争议源于OpenAI先进AI模型在一项网络安全能力评估中攻击Hugging Face的事件。
据报道,OpenAI于今年7月表示,其先进AI模型在一项旨在测试网络攻击能力的评估中,成功攻击了另一家AI初创公司Hugging Face。OpenAI随后于8月承认,公司本可以更早采取行动,阻止此次攻击。
这一事件将AI模型自主执行网络攻击任务的能力,以及相关企业应承担何种责任的问题推到了台前。
贝森特此前已在国会听证会上谈及该事件。9月15日,他表示,政府尚未看到能够明确界定此次事件责任归属的情况。
他同时强调,AI安全治理不应给予相关实验室责任豁免,而这正是他所称AI实验室正在寻求的安排之一。
贝森特当时表示,确保安全的最佳方式,是让创造者对自己开发和生成的内容承担责任。
贝森特谈特朗普拟任命AI“总管”:为治理问题划定框架
据新华社报道,美国总统特朗普9月19日在社交媒体发文称,将组建一支“人工智能部队”,并将在不久后任命一名人工智能事务“总管”。
特朗普在帖文中将人工智能描述为可能比工业革命或互联网浪潮影响更大的技术变革,并称其影响甚至可能占到美国国内生产总值的25%。
特朗普同时表示,美国不会以任何方式阻碍或扼杀AI产业发展,而是要支持和保护其成长;对于AI相关的不法行为,美国将借助现有刑事与民事司法体系予以惩处。
贝森特周一谈及特朗普的上述AI相关未来任命。他表示,任命AI事务“总管”将有助于为相关问题“提供背景、塑造框架并划定边界”,并强调这些问题“非常重要”。
特朗普此前表示,美国不会以任何方式阻碍或扼杀AI产业发展,而是要支持和保护其成长;对于AI相关的不法行为,美国将借助现有刑事与民事司法体系予以惩处。
不过,现阶段尚无公开信息显示这一职位的具体权限、监管职责及其与现有机构之间的关系。贝森特此次表态也未进一步说明,该职位将如何参与AI安全事故的责任认定或监管规则制定。
从网络攻击到失控智能体 AI安全讨论聚焦风险与责任
贝森特在CNBC采访中还谈及AI安全风险。他表示,相关讨论将涉及当前主要的AI风险,包括失控智能体、非国家行为体发起的网络攻击,以及生物武器等潜在威胁。
他强调,AI开发企业需要对自身开发的技术承担责任,并表示相关实验室可以随时放慢开发进程。
这意味着,AI安全议题已不再局限于模型输出是否存在风险,也涉及AI系统在现实环境中执行任务时可能带来的网络安全与其他风险。
对AI开发企业而言,核心问题之一是如何界定模型能力、部署方式、管理决策与实际事故之间的责任关系。贝森特的表态强调,AI系统的自主行动并不意味着开发者和管理层可以免于承担责任。
不过,如何将这一原则落实为具体法律责任、事故报告义务和监管规则,仍有待进一步明确。