Deirdre Bosa 在 Anthropic ( ANTH.PVT ) 期待已久的 IPO 之前概述了有关网络安全风险的一些想法。

人工智能非常擅长发现软件中的漏洞,而且速度很快。现在,这有助于那些试图修复这些漏洞的公司,也有助于试图侵入的黑客。因此,每家银行、每家航空公司、每家科技公司现在都在竞相修补其代码。这可能是我们本周所看到的停电情况的一部分。大通银行、联合航空、微软 Outlook,它们都在几天之内相继倒闭。上周,连苹果的iCloud这个堡垒也宕机了几个小时。

现在,一些人得出结论认为人工智能黑客是幕后黑手,但到目前为止还没有证据表明这一点。如果人工智能确实发挥了作用,那很可能是在防守方面。模型发现缺陷的速度比以往任何时候都快。公司正急于修复这些问题,而仓促的修复可能会破坏事情。据报道,官员们已经向立法者传达了同样的信息,尽管一些工程师认为这些只是普通的故障。

现在,最著名的防御模型是 Anthropic 的 Mythos。四月份,Anthropic 只允许极少数公司使用它,因为它非常擅长发现安全漏洞。该公司的文件称,阻止其发展实际上可能使其损失了一些短期收入。 FedWatch Advisors 的 Ben Eimans 今天早上写道,Mythos 将 Anthropic 置于今年网络热潮的中心。他将所有这些修补称为安全税。

因此,无论公司愿意与否,公司都必须花这笔钱来保护他们已经拥有的东西。现在,这对于包括 Anthropic 在内的任何出售保护的人来说都是个好消息。这也是为什么网络股票一直在上涨,而其他科技股一直在下滑。现在,另一方面是对攻击的焦虑,两者确实是齐头并进的。

周一,谷歌威胁团队表示,一月至八月期间,披露的软件缺陷和针对这些软件的攻击几乎翻了一番。它还首次发现黑客使用人工智能来发现漏洞并在无人参与的情况下进行攻击。我们看到了在微软负责人工智能的苏莱曼。他昨天告诉我微软自己的网络模型正在测试中。

Anthropic 自己的文件将网络安全称为“密切报价”,这是我们近期最重要的机会之一。不管价格如何,我确实认为故事的这一部分从这里开始只会变得更大。这些模型每隔几个月就能更好地发现这些缺陷,而且公司也不能选择不修复这些缺陷。这是他们必须做的事情。