“超级智能”和不具约束力的安全协议能否解决人工智能的形象问题？

高管们签署的协议意义重大，特别是正如肖恩指出的那样，它“完全不具有约束力”，至少从法律角度来看是这样。 （相反，特朗普表示他认为它“具有道德约束力”。）

克尔斯滕表示，这次会议的真正意义可能是“围绕人工智能进行的品牌重塑”。 （随着特朗普宣布建立新的超级情报部队，这一努力在本周末继续进行。）对她来说，最重要的信息是，“人工智能会杀死我们，这很可怕，它会夺走工作岗位——但超级智能不会。”

继续阅读我们的对话预览，我们的对话经过了长度和清晰度的编辑。

安东尼·哈：根据美国总统的正式命令，这不再是人工智能，而是超级智能。我们上周讨论过这个问题，因为这是[特朗普]一直在暗示的事情——他没有做任何暗示，他已经这么说了一段时间了。但现在它已签署为行政命令。如果你是美国官方代表，你应该说超级智能，而不是人工智能。

这也是有关人工智能安全的更广泛公告的一部分，我认为这对于这个协议来说很有趣

宣布的，但也包括它确实发生的事实。它似乎很快就走到了一起，因为就在两周前，一周前，特朗普总统说，“我们不需要这些，我们需要引领人工智能，我们不能以任何方式限制它，我们不需要任何监管，任何说人工智能有任何危险的人本质上都是中国或民主党的工厂。”然而，所有这些人工智能首席执行官本周早些时候都与他聚集在一起并签署了这份协议。

克尔斯滕·科罗塞克（Kirsten Korosec）：我们应该说，在此之前，不仅存在监管方面的阻力，而且我们可以讨论这项行政命令是否真的做到了这一点——我想说不，这里面有一点戏剧性——但重要且有趣的是，就在几天前，如果你愿意的话，就特朗普总统幕后发生的事情而言，人类真的陷入了困境。

当 [Anthropic 首席执行官] Dario Amodei 受邀参加晚上 10 点的一场活动时，一切都发生了变化。晚餐。他坐下来，几天后，我们举行了午餐会，在这次午餐会上，我们几乎邀请了来自现有各大科技公司的所有技术权力经纪人。所以马克·扎克伯格在那里，杰夫·贝佐斯在那里，

埃隆·马斯克在那里，达里奥当然在那里，他们都在那里。

我想知道你们中是否有人观看了随后举行的新闻发布会，有很多很多模因，因为当你将一群科技首席执行官聚集在一起时，会出现有趣的行为。

但我想对你们俩来说更大的问题是：这一切意味着什么？这有什么意义吗？

肖恩·奥凯恩：你有多少时间？首先，当然，他们共进晚餐，特朗普和达里奥。如果你读过特朗普刚刚接受的《时代》杂志采访，你的猜测和我的一样好，他是如何得知那顿晚餐甚至将要发生的，这是一个奇怪的现实生活，但这只是我们生活的现实。

我还要说另一件事，让我对政府和 Anthropic 之间的关系如何修复表示怀疑——惊讶，惊讶——是，尽管显然有人试图将这两个群体放在一起，但国防部仍然非常坚定地认为，Anthropic 是可怕的、觉醒的，并且存在国家安全风险。埃米尔·迈克尔 (Emil Michael) 似乎每隔一天就会在《X》节目《人性》(Anthropic) 上表演一次。我认为尽管如此，仍有一段距离

达里奥出现在这件事上。

就协议和所有这一切而言，说实话，他们在签署的协议上拼错了“美国”。它也完全不具有约束力。我的意思是，这完全是自愿的。我认为我最喜欢的方面是特朗普将其描述为“具有道德约束力”，这只是我以前从未听说过的抽象和术语水平。

安东尼：就 Anthropic 及其与特朗普政府的关系而言，有很多报道，特别是在与国防部的大冲突期间，白宫的不同部门与 Anthropic 有着不同的关系。财政部长似乎是一个超级粉丝，而国防部则绝对不是超级粉丝，或者至少对 Anthropic 试图使用其技术提出的一些条件不满意。

从这个意义上说，感觉好像没有什么必然改变。白宫里有些人想要使用 Anthropic 的技术，希望他们参与这些决策，而其他人则真的、真的、真的、真的不想。

就协议而言，似乎意义不大。

有意义的只是他们觉得这是值得做的事情。正如他们拼错了 United States 的事实所表明的那样，他们似乎急于将所有这些放在一起。 [但是]这种姿态的必要性似乎很重要，即使我认为协议本身不会导致任何重大变化。

克尔斯滕：我确实认为发生了一件重要的事情。对我来说，这就是重点，这是围绕人工智能的品牌重塑活动。 “人工智能会杀死我们，这很可怕，它会抢走工作，但超级智能不会。”这不是我个人的信念。对我来说，这就是信息。