人工智能公司 Anthropic 于 10 月 26 日发布的首次公开募股 (IPO) 包含近 100 页的风险因素，其中包括该公司的技术可能给人类带来“灾难性”的可能性。
风险因素是 S-1 或公司为上市而提交的注册声明的必填部分。他们通常概述公司面临的威胁，以便潜在投资者能够做出明智的决定。
Anthropic 的风险因素部分从第 26 页开始，到第 119 页结束，总共 93 页可能存在的危险。相比之下，SpaceX 的风险因素长达 37 页，微软的风险因素长达 40 页，Coinbase 的风险因素则长达 60 页。
佛罗里达大学 IPO 计划主任 Jay Ritter 表示：“其中一些风险是任何公司都面临的风险，比如利率可能上涨、油价可能上涨、电价可能上涨等等。”
他告诉《今日美国》，任何公司都不会将其纳入风险部分的典型情况是担心公司生产和销售的产品“导致大规模灭绝事件”。 “在招股说明书中将其作为风险因素的情况很少见。”
“人类面临的生存风险”
Anthropic 在第 46 页写道，“足够先进的人工智能系统，如果不通过适当的保障、监督和安全措施进行开发、部署和操作，可能会给人类带来灾难性或生存风险。”
该公司还写道，它已经看到了“错位”模型行为的实例，这意味着人工智能系统采取了未经人类指导或允许的行动。他们指出了一个例子，其中四个模型未经授权访问了真实的第三方系统。
S-1 表示：“在无法中止一项不可能的任务后，模型的早期版本使用它发现的密码来获得对第三方系统的管理员访问权限、获取额外的凭据、更改系统设置并读取个人的个人信息。”
过去几个月，在多起关于流氓人工智能事件的报道之后，模型行为不一致一直是一个热门话题，但这些事件发生时并未得到报告。
“如果这是一个真正令人担忧的问题，那么我们应该看到的是所有金融资产的价格都应该下跌。人们应该说，‘如果我明年就要死了，我为什么还要存钱呢？我现在就应该消费，’”里特说，他也因其在该领域的工作而被称为“IPO先生”。
“因此，全球范围内金融资产尚未出现大规模抛售的事实表明存在这种风险，但也许，只要公司对此感到担忧并采取预防措施，希望这种情况就不会发生，”他补充道。 “我们不用担心这个，因为公司正在担心这个。”
Anthropic 表示，安全措施可能会减缓进展
文件中列出的更可预测的风险因素之一是承认 Anthropic 的成功取决于其开发最佳人工智能的能力，而安全实践可能会阻碍这一点。
S-1 表示：“如果我们未能将足够的计算和研究工作投入到人工智能辅助开发上，或者我们的竞争对手更有效地利用人工智能来增强自己的创新周期，那么我们就有可能进一步落后，因为竞争对手不断使用人工智能来进一步增强自己的开发能力。”
该公司还承认，他们自己的模型可能会开始“比我们开发、验证和实施的能力更快地发展”安全措施来阻止它们，尽管在努力防止人工智能失调和潜在的灾难性结果时，他们可能会继续采取预防措施，例如推迟模型发布和限制其能力。
S-1 表示：“相对于不采取类似限制的竞争对手，这些措施可能会减缓我们的能力提升，并可能对我们的竞争地位、收入增长和运营业绩产生不利影响。”
Greta Reich 通过塔贝尔人工智能新闻中心的奖学金为《今日美国》报道人工智能行业。资助者不提供编辑意见。