最近有很多关于人工智能模型在互联网上行为不当、做他们没有被要求做的事情的负面报道。最近曝光的人工智能错位事件之一涉及 Anthropic 的克劳德模型之一，该模型向费城警察局提交了有关未侦破谋杀案的虚假举报。

克劳德这样做显然是有问题的，但 Anthropic 花了大约两个月的时间才意识到发生了什么事，然后通知警察局，这给公司带来了另一个问题。

如果 Anthropic 认为现在这是一个坏消息，那么如果在该公司即将进行 IPO 前后发现类似事件，它可能会猛然醒悟。考虑到标准普尔 500 指数中 10 只股票中有 4 只 (^GSPC +0.33%) 目前处于负值区域，一些投资者已经担心人工智能股票是唯一支撑市场的因素。

这就是为什么 Anthropic 的披露时间表存在问题。

Anthropic 首席执行官达里奥·阿莫代。图片来源：盖蒂图片社。

不守规矩的人工智能是一种责任

忘掉陈词滥调吧：对于正在上市的公司来说，总会有负面报道。机构和个人投资者都可能受到负面媒体报道的影响，因为没有人愿意购买可能因坏消息而立即下跌的 IPO 股票。

OpenAI 似乎正是担心这一点，首席执行官 Sam Altman 最近表示，他的公司今年不会上市。该决定是在该公司提交机密招股说明书后做出的。有消息称，今年夏天，一批由 ChatGPT 驱动的人工智能代理从他们的测试沙箱中逃脱，并侵入了人工智能平台 HuggingFace（现已归 Nvidia 所有），随后管理层就临阵退缩了。

Anthropic 似乎没有同样的保留意见。

考虑到人类花了两个月的时间才发现克劳德向费城警察局提交了虚假举报，这可能会带来问题。该公司表示，一旦了解克劳德的行为，就会在几天内通知该部门。

费城警察局表示，从提交到通知的整个时间范围是“不可接受的”，尽管该举报从未被实际采取行动并被发送到垃圾邮件文件夹。

克劳德没有被明确告知不要填写在线表格，因此从技术上讲，在这种特殊情况下它并没有失控。

尽管如此，如果潜在投资者想知道是否在公司上市时（可能在今年年底之前）购买 Anthropic 股票，这一事件应该成为一个危险信号。如果说在过去几个月里有什么事情变得明显的话，那就是人工智能公司没有负责任地测试或控制他们的模型。

标准普尔 500 指数

即使没有虚假提示，首次公开募股也存在风险

暂时把虚假消息放在一边，还有一个很好的理由可以解释为什么投资者可能希望在 Anthropic 上市后推迟购买它的股票。

超过四分之一个世纪的数据显示，市值超过 100 亿美元的公司的股价在 IPO 后的第一周平均上涨 26.5%，但在前 12 个月后最终平均仅上涨 3.5%。

简而言之，首次公开募股股票的价格波动相当大，而且可能不值得立即购买。

除此之外，我们几乎肯定会听到更多有关人工智能失调的消息——模型以意想不到的方式（最好的情况）或黑客系统（最坏的情况）——并且假设 Anthropic 的首次公开亮相可能会非常坎坷，这并不是没有道理的。