Anthropic 最近提交了 S-1 表格，为其未来几周的首次公开募股 (IPO) 铺平了道路。许多投资者已经渴望入股这家全球领先的人工智能 (AI) 公司之一的股票。
尽管如此，有些人还是犹豫不决。由于投资者担心科技公司投入数据中心基础设施的资金数量，人工智能行业目前正遭受重创。几个月前，太空探索技术公司 (Space Exploration Technologies) 首次公开募股 2 万亿美元，其股价仍低于开盘价。由于投资者担忧情绪加剧，以科技股为主的纳斯达克综合指数 (^IXIC -1.38%) 在过去一个月下跌了约 3%。
但我认为对 Anthropic 股票的真正威胁不会来自负面的投资者情绪，而是来自该公司自己构建 Claude 的方法、人们可能如何滥用它，以及它对自己的人工智能模型潜在的缺乏控制。
而且，从 Anthropic 在其 S-1 文件中长达 94 页的风险因素部分来看，该公司似乎也同意这一点。
它的产品可能会错位
在 OpenAI 模型失控并侵入 AI 平台 Hugging Face 后，过去几个月，用户对 AI 的期望与实际功能之间的不一致已经暴露出来。
投资者需要区分传统软件的功能（即它被编程可以做什么）以及克劳德和其他人工智能模型可以做什么——有时，其中包括导致用户从未预期的实际结果的行为。
Anthropic 在 S-1 文件中也说了同样的话：
包括我们自己的模型在内的模型已经表现出并且可能在未来表现出意想不到的战略或自我保护行为，包括试图抵制关闭、隐藏或操纵信息，或生成可能被解释为强制、欺骗或操纵的输出，包括类似勒索的行为或影响人类决策者以保持模型持续运行或访问的行为。
更糟糕的是，Anthropic 补充说，随着其模型变得更加强大，它们将能够更好地隐藏偏差。
自己的人工智能对公司来说是个谜
这与上述风险密切相关，但它本身就值得强调，因为它是人工智能公司所独有的。
不出所料，Anthropic 使用 Claude 为公司编写代码。它还利用 Claude 来研究 Claude 的新版本并构建新模型。 Anthropic 表示，这样做时公司可能会误解 Claude 的做法。
随着我们越来越多地利用 Claude 来加速 Anthropic 的进步，我们的组织可能会失去某些流程的可见性，而这种方式可能会让任何个人或群体都难以理解和控制。
结果可能是更多的错位或人工智能模型“在我们预期的控制范围之外运行”。
纳斯达克综合指数
Anthropic 的产品可能会造成真正的伤害
关于人工智能风险以及它们是否真实，或者科技公司是否在炒作自己产品的功能成为头条新闻，存在很多争论。
我认为，鉴于我们已经看到有能力的人工智能模型自行爆发，看似勒索研究人员，侵入其他网站，并对他们正在做的事情撒谎，所以关于 Anthropic 和其他人只是想博取关注的论点是站不住脚的。
Anthropic 在其文件中再次将自己的技术列为风险：
我们组织内部以及其他研究人员、监管机构、政策制定者和行业参与者都提出了担忧，认为足够先进的人工智能系统可能……给人类带来灾难性或生存风险，特别是如果这些系统被滥用、复制、武器化或允许高度自治运行。
该公司指出，其最强大的模型可以帮助开发“化学、生物或其他危险武器”。
为什么这一切对投资者都很重要
大多数时候，投资者在首次公开募股之前只是通过评估公司的收入增长、盈利或亏损、债务和其他传统财务指标来进行尽职调查。
但我认为 Anthropic 及其同行比传统科技公司更应该受到更多审查。
他们的产品与精美的新手机、联网扬声器或简单的移动应用程序不同。它们的功能不像传统软件那么简单，提供更多的功能，并且不完全由制作它们的人控制。
这造成了一个独特的困难局面，意味着投资者在考虑购买 Anthropic 股票时应认真对待该公司自己的警告。出于上述所有原因，我非常乐意观望这次 IPO。