雅虎财经技术编辑丹·豪利 (Dan Howley) 探讨了 Anthropic ( ANTH.PVT ) 和 OpenAI ( OPAI.PVT ) 各自对人工智能发展节奏的警告对未来监管意味着什么。

丹，我们收到了人类领袖达里奥·阿莫迪的来信。我们还从 OpenAI 的 Sam Altman 那里听到了这种恐惧、这种连锁反应以及对监管的呼吁。现在我们今天早上从微软那里得知它正在设置一些防护栏。那么，您如何听取所有这些信息以及未来几天实际可能发生的情况？

是的，我的意思是，很难说到底会发生什么。我的意思是，我们已经，这不一定是新的。呃，你知道，我们已经听说这类担忧有一段时间了，无论是社会对呃工作的担忧，呃人工智能是否可以用于开发生物武器，或者呃可以用于呃呃使用无人武器。呃，所以这并不是说这一切都是呃，或者失控或被用于邪恶目的，呃，比如黑客攻击。

所以这并不是什么新鲜事。我认为这更像是我们从 Anthropic 的那位研究员那里看到的担忧，他也曾在 OpenAI 工作过，然后辞职了。然后从呃呃人类的呃一种联盟中看到，呃说，好吧，嘿，呃我实际上同意这个离开的人。嗯，它有超过 10% 的可能性会杀死所有人类，也就是说，你知道，这是一个我认为呃可能会吓坏任何人的声明。呃，那就是这些机会相当高。

嗯，然后我们让达里奥呃出来基本上说，呃在他自己的作品中，嘿，呃我们需要减缓前沿的推进，就像超高端模型一样。呃然后呃我们看到呃 OpenAI 首席执行官 Sam Altman 有点同意这一点。现在我们或多或少有微软的这种行为准则，你知道，这基本上是说，呃，你知道，将这些护栏放在适当的位置，确保人类始终控制人工智能。所以，你知道，当你从整体上看这个问题时，基本上这些公司会说，嘿，我们必须拿出一种坚定的方法来确保这些公司不会失控。

呃，我们已经看到他们有能力进行黑客攻击。呃他们，你知道，呃 Anthropic、OpenAI、Meta，他们的模型呃闯入了其他系统，无论是呃因为他们决定自己，呃错误配置，类似的事情，他们仍然这样做了。因此，令人担心的是，这些人工智能可能会被用来故意进行黑客攻击，或者他们可能会认为自己正在完成一项不必要的任务，而是自己完成。呃，这可能会破坏互联网的大片区域以及与之相关的任何东西。这就是这里更广泛的恐惧。

不管它是否真的会发生。我的意思是，这真的很难说。呃，这也有点像，你知道，好吧，这些是构建它的人。他们也说这很危险，但他们仍然继续建造它，就像，好吧，别再打自己了。你知道，我的意思是，它只是不计算，我认为对于很多人来说，听到这种，你知道，这是世界上最危险的事情。顺便说一句，我们只是让它变得更加智能。嗯，是的，我的意思是，很难判断是否应该对这些持保留态度，如果是的话，我认为它应该成为对话的一部分，并继续成为对话的一部分。

你知道，就业问题显然是我认为最大的担忧，你知道，这些人说这将夺走所有工作。嗯，所以，你知道，我认为这些都是呃呃预测。嗯，我不一定认为它们会随时发生，你知道，立即发生。呃，但这是需要观察的事情。

然后，你知道，街道的反应是，好吧，所以这项技术非常可怕。人们呼吁放慢人工智能的发展速度，但这并不意味着人工智能会被放进一个盒子里，然后留在车库后面。它将继续成长和发展。所以，你知道，这并不是人工智能的消失。

我认为这是一种理解，嘿，也许我们应该，你知道，听听我们实际上在说什么，嗯，来自我们自己嘴里的话，然后采取措施，嗯，以确保，你知道，最可怕的预测不会成真。

正确的。丹，与此同时，这次对话也提交给了国会，似乎是关于是否应该进行监管的来回讨论，立法者应该在人工智能周围实施某种护栏。嗯，与此同时，特朗普总统担心我们可能会落后于中国，因为立法者设置了潜在的防护栏，我们不一定希望落后于这个更大的对话。那么这一切会是什么样子呢？

是的，看，呃，这就是呃，我的意思是，人工智能可能面临着最糟糕的公关问题，对吧？数据中心的讨论非常广泛。呃，人们不希望在他们的社区建造这些东西。他们不希望它们建在他们的房子后面。他们的声音很大。呃你知道，其中一些使用呃这些不同的燃气轮机。嗯，所以，你知道，我们有人工智能数据中心方面的东西，这真的有点爆炸了。我们看到了更多的阻力，在某些州暂停了人工智能建设。

现在我们有这种恐惧，呃，呃，这项技术基本上，你知道，会在我们脸上爆炸。嗯，是的，我们看到华盛顿的人们呼吁进行某种监管。呃，但是，是的，正如你所说，特朗普总统说，看，我们不能让中国领先于我们。嗯，如果我们不这样做，他们就会领导呃。呃，所以我们必须对此采取一些措施。嗯，所以我确实认为问题的一部分是弄清楚如何继续领导呃，而不会在涉及恐惧时遇到此类问题。

嗯，特朗普总统说过，嗯，基本上这或多或少都是废话，嗯，我们应该继续前进。嗯，我认为很难说我们是否会真正看到国会出台任何形式的呃法规。我们还没有看到联邦层面的法规针对安全或隐私或类似的事情。嗯，你知道，各州有不同的法律混杂在一起，还有一些联邦法律，但是对于像这样的简单事情没有全面的整体法律。

呃，那么，好吧，现在我们要继续让华盛顿监管人工智能。我的意思是，我不太相信类似的事情很快就会发生，但至少正在进行讨论。