我们看到一场关于人工智能安全和潜在放缓的大辩论，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 最近发布了一项“引领前沿”的计划，而英伟达首席执行官黄仁勋 (Jensen Huang) 公开回应了唐纳德·特朗普总统的说法，即人工智能的强烈反对是一个骗局，监管是不必要的。

在 TechCrunch 股票播客的最新一集中，Kirsten Korosec、Sean O'Kane 和我讨论了 Amodei 和 OpenAI 首席执行官 Sam Altman 等高管是否真的想放慢脚步。

虽然我对有如此多的行业领导者似乎支持阿莫代的计划感到惊讶，但肖恩指出，该计划似乎缺乏细节。

当克里斯汀询问现有监管和自由市场运作的结合是否可以单独提供足够的保障时，肖恩回答说：“目前我们的联邦政府似乎并不急于广泛执行监管，更不用说具体而言了。”

另外，他认为，“似乎并没有大量的消费者选择推动这个市场，从某种意义上说，好吧，如果其中一家公司做了一些非常糟糕的事情，那么他们就会看到有多少取消订单或其他什么的影响。”

继续阅读我们的对话预览，我们的对话经过了长度和清晰度的编辑。

安东尼·哈：肖恩，你觉得怎么样？我们真的要“走在前沿”吗？

Sean O'Kane：出于某种原因，这听起来像是《Point Break》中的内容。这只是一个非常加州的声明，就像，“我们要在边境上踱步，兄弟。”

我不知道。我上周在这个节目中说过，我不认为我们会出现任何形式的放缓，很大程度上是因为我不认为这些公司的结构是有效的。

因此，这与我一周前所说的完全相反，从 Anthropic 的 Dario 和 OpenAI 的 Sam 甚至 Elon Musk 那里听到了这一点，在某种程度上，我们可以讨论我们是否相信这一点。我想说，我不认为我完全错了，因为即使达里奥在博客文章中提出了这些松散的计划，并且其他一些领导人也谈到了这些计划，我觉得我们仍然缺少很多细节，不仅是关于为什么这些人认为存在危险和风险的一些说法，而且还包括他们所说的放慢速度的具体细节。

安东尼，我知道你上周末仔细阅读了这些内容，因为它都是突然出现的，所以我很好奇你是否比我更慷慨，就理解他们在这里想说的内容而言。

安东尼：我的意思是，我也有问题。真正令我印象深刻的是，业内有如此多的人似乎很快就围绕这个问题团结起来。甚至在阿莫迪发表他的博客文章之前，我就看到其他人发布了这个[计划]的一些版本，就在它发布之前的几天。

我的理解是，这些建议来自人工智能安全社区；这些事情已经渗透了一段时间了。它们不仅仅是[Amodei] 自己想出的东西。但似乎很多人已经准备好接受这一点，并且在某些方面，看到达成共识是令人鼓舞的。但这也让我有点怀疑这是否代表着真正的、迈向经济放缓的重大步骤。

Kirsten Korosec：首先，达成共识可能是一件好事。此外，这也可能是形成卡特尔的开始。因此，让我们明确一下我们在这里谈论的是谁。我们谈论的是前沿人工智能实验室。这是具体且重要的。

你在一分钟前确实说过细节还不太清楚，但我们确实知道这里的总体想法是独立的第三方评估人员将介入，在 Anthropic 或 OpenAI 等[公司]内部工作，并监控人工智能安全实践和事件。但这有很多模糊之处。

还有另一项建议是让民主国家的主要人工智能公司在安全标准和限制方面进行协调。然后是这个国际协调件。这些是围绕此的一般想法。

我还要补充一点，来自特定人群的强烈反对。令人惊讶的是，我认为有些人不会反对这一点。我想，最明显的一个就是英伟达首席执行官黄仁勋，他说了一些漂亮的话。我不知道你们中的任何一个人对他的一些评论以及他在舞台上（在全押峰会上）接到特朗普总统的电话有何看法

Sean：我认为 Jensen 明白，在某种程度上，他被视为房间里的成年人。这很有趣，因为我认为这种动态已经改变了。如果你问一年前、大约两年前的人们，当这些人工智能公司真正开始大规模爆发时，谁在扮演这个角色，我想很多人都会指出微软和萨蒂亚·纳德拉，而且我觉得微软已经——由于一些我们现在不需要讨论的原因——失去了作为房间里的成年人的控制力。当然，部分原因是纳德拉说他要让谷歌跳舞，但那件事从未发生过。事实上，在很多方面，情况恰恰相反。

我认为，詹森不仅明白他需要取悦最多的人，所以他想说最有分寸的话，他也是这个领域和本届政府之间最有用的联络人之一，以至于当他在这个出席人数众多、备受瞩目的会议上登台时，他接到了总统的电话，使他们能够对所有这些混乱做出回应。

克尔斯滕：[针对]你关于他是房间里的成年人和联络人的观点，他处于可以做到这一点的位置。但在我看来，我想说的是，[他的出现]确实感觉有点做作，走得太远了，真正突显了这样一个事实：英伟达从人工智能的无节奏发展中受益匪浅。

我不想对此感到愤世嫉俗，但这是我对此的最初反应。

安东尼：特朗普和黄的利益是一致的，而且[黄]也告诉[特朗普]他想听的话。

我确实认为他特别关注的一些事情值得稍微展开一下。首先，他谈到了“我们不会放缓”的想法。有趣的是，“慢下来”这个词已经出现了很多次——但与此同时，奥特曼和阿玛德都[将]使用慢下来的语言，但他们更喜欢使用的词是“步伐”。正确的？

这三个提议——克尔斯滕，你刚才描述的那些——从理论上讲，它们可能会导致事情变慢，但他们并没有明确地说。它说：“嘿，我们正在采取一些基本的安全措施，并让一些人监视我们。”但这些事情本质上都不是说事情必须比现在慢，至少在我看来是这样。

克尔斯滕：我有一个问题要问肖恩。难道你不能说在自由市场社会中，我们有现有的法规，而且在没有保护主义的竞争环境中，如果一家公司发布了不安全的东西，他们将不再能够成为一家有生存能力的公司？如今是否有监管机构可以追查这些公司？或者你拒绝这个想法？

肖恩：在真空中，或者在一个没有被一大堆不同的外部压力扭曲的市场中，是的，我认为有一个因素。但目前我们的联邦政府似乎并不急于广泛执行法规，更不用说具体而言了。

我们也处于这种奇怪的情况，我真的不知道正确的说法，但似乎并没有大量的消费者选择推动这个市场，从某种意义上说，好吧，如果其中一家公司做了一些非常糟糕的事情，那么他们就会看到有多少取消或其他什么的影响。

尤其是现在，随着他们进入企业界，并且通过向公司出售服务赚了更多的钱，自然更难用你的钱在那里投票。企业不会仅仅因为原则上不同意 OpenAI 所做的事情，就从 [OpenAI 的] Codex 迁移到 [Anthropic 的] Claude Code。

然后，他们也被如此多的投资资金所浮动，这使得他们更容易吸收任何这些损失，如果他们真的面临这些损失。所以我认为这在理论上是一个好主意，但我觉得在实践中，这一切都没有真正发生。