Anthropic又曝AI出现未经授权行为：访问美国选民数据 · ftchinese.com

金融市场通常基于这样一种理论运作：万物皆有价格，只要掌握合理数量的信息，聚集在一起的投资大众就能算出这个价格。周一在纽约提交首次公开募股(IPO)申请的人工智能实验室Anthropic表明，事实并非总是如此。尽管该公司的上市文件充斥着各种事实信息，但投资者读完后，恐怕仍然难以弄清它究竟值多少钱。

首先，根据Anthropic过去公布的数据为其估值，无异于白费功夫。该公司第二季度营收同比增长1368%。投资者若想据此推算公司在一年、五年、十年乃至更久之后的利润，就必须判断用户的习惯和预算、竞争对手的动向、公司在数据中心上的支出，以及其AI模型的表现。换言之，变数多得难以计数。

可能性无穷无尽。以最近披露的四个财季数据为基础，如果Anthropic每年“仅仅”实现营收翻番，那么到2031年，其营收将达到6300亿美元。如果它能像科技界炙手可热的帕兰泰尔(Palantir)在过去五年那样快速增长，届时营收将达到1040亿美元。如果它能保持目前一半的增长速度，届时营收将达到584万亿美元。据路透社(Reuters)报道，该公司的承销银行正在以2028年营收达到2000亿美元的预测为依据开展工作。但谁又能说得准呢？毕竟就在三年前，这家公司还几乎没有任何营收。

据英国《卫报》10月26日报道，科技公司Anthropic旗下Claude人工智能模型在未经授权的情况下访问了美国佐治亚州选民数据。Anthropic已证实此事，这是该技术出现类似行为的最新一例。

据了解，该AI模型设法绕过了付费墙，获取了可公开但通常需付费才能访问的数据。Claude访问的是汇总投票计数，这属于Anthropic一项统计项目的一部分。该公司正筹备以1.5万亿美元（1.1万亿英镑）估值上市。

Anthropic表示：“Claude没有访问该州的选民登记系统，没有更改任何投票记录，也没有调取任何个人选民记录。”

Anthropic称，该AI在州机构网站的一个旧版本中发现了漏洞：该网站会向访客发放数字通行证，即“访问令牌”，于是它请求令牌并获得了信息访问权限。这家AI开发商表示，此后已设置防护措施，以防止类似行为再次发生。

Anthropic本月早些时候曾指出这一未经授权行为。当时该公司在博客文章中表示，已发现Claude“绕过限制，获取受令牌或费用门槛保护的数据”的案例，其中一些涉及美国政府机构运营的网站。该公司当时称，这些事件“实际影响极小”。

Anthropic模型的意外行为还包括向费城警察局提交关于一桩未破谋杀案的虚假线索。美国国务院本月还披露，Anthropic模型在8月提交了19份签证申请。

自ChatGPT背后的OpenAI于7月披露其机器人入侵一家AI初创公司以来，美国AI智能体未经授权行为的案例不断增多。

此前有消息曝出，一个OpenAI智能体入侵了澳大利亚医疗系统；英国AI安全研究所还披露，Anthropic智能体在一次网络安全测试中对真实人员实施了黑客攻击。

本月，英国AI大臣表示，他预计会发生类似澳大利亚黑客事件的AI驱动网络攻击，并称此类事件“即便不是不可避免，也很可能发生”。