Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 刚刚告诉整个人工智能行业要踩刹车，并警告说，如果不这样做，人类将面临一场可能导致全球数千亿美元损失的灾难。几个小时内，萨姆·奥尔特曼、埃隆·马斯克和德米斯·哈萨比斯都同意他是对的。尽管 Anthropic 自己的联盟负责人加大了人类被人工智能消灭的可能性，但怀疑论者称这是一场监管捕获游戏，很容易让中国领先。在《The Loop》中，主持人埃贾兹·阿哈玛丁 (Ejaaz Ahamadeen) 详细剖析了谁是真正正确的、谁在旋转，以及这一切对人类的未来意味着什么。随后，Ejaaz 与高通首席执行官克里斯蒂亚诺·阿蒙 (Cristiano Amon) 坐下来讨论该公司在夏威夷 Snapdragon 峰会上在人工智能领域取得的最新进展。
世界上最大的人工智能实验室刚刚发布了一个相当令人不安的公告。 Anthropic 首席执行官 Dario Mode 刚刚表示，我们需要大幅减缓人工智能研究，否则我们将面临数千亿美元经济崩溃的风险。当然，现在这种类型的公告引起了很多关注。它像病毒一样传播开来，不到 12 小时就获得了 3600 万次观看，但更令人惊讶的是。对我来说，他的宿敌 Sam Altman 公开表示同意他的观点，但不仅仅是 Sam，还有埃隆·马斯克，还有谷歌的 Dems Sibis，世界上顶级人工智能研究实验室的领导者都在围绕着达里奥的信息。所以我的问题是，这是巧合还是更大、更协调的事情？现在对此的反应是双重的。每个人都开始非常害怕。事实上，Anthropic 的协调负责人出来说，是的，他是对的，人类实际上有 10% 的机会在未来 10 年内被人工智能消灭。人们对整个公告感到震惊。但随后有一大群人对此进行了反驳，并表示这更像是媒体骗局，更像是之前的公关叙述
Anthropic 即将进行 IPO，先于 OpenAI 即将推出的重磅炸弹、IPO 以及更多围绕监管捕获的叙述。所以每个人心里的问题是，谁是对的，谁是错的，我们是否处于危险之中？有人可以帮我解开这个谜团吗？这正是我们今天这一集要重点关注的内容。所以它从达里奥·阿莫迪（Dario Amodi）的这篇文章开始，它被称为，我们必须在人工智能的前沿迈进。在这篇文章中，他分享了他的担忧，有两个主要触发因素促使他要求暂停或放慢人工智能研究。第一，他认为人类和其他主要的人工智能实验室非常接近于构建一种被称为递归自我改进的东西。这只是一个奇特的术语，基本上是一个人工智能模型，它非常智能，可以构建它的下一个版本。现在，如果你长期发挥这个作用，你可以让人工智能自主构建其他人工智能，那么问题就变成了，为什么我们需要人类呢？最近我们从 OpenAir 和拥抱面部看到的黑客攻击，这是 Anthropic 的第二个原因，顺便说一句，他担心这些人工智能不仅会非常强大，而且它们也会与人类和一般人类产生令人难以置信的不一致，
但问题是，他对此的答案是什么，比如他打算如何解决这个问题？嗯，他有一个由三部分或三步组成的流程来解决这个问题。在我看来，最重要的是第一，我在屏幕上向您展示的是嵌入式评估器，他说，在每个前沿人工智能公司中，他们应该致力于为嵌入式第三方评估团队提供持续的员工式访问权限其职责是验证对安全实践和承诺的遵守情况。他的基本意思是，嘿，我们理解人们经常批评集中式前沿实验室。我们知道有很多秘密，我们对我们的研究保持沉默，我们没有像人们希望的那样公开它。那么怎么样。我们可以引入一个独立的第三方，我们将他们引入内部，我们将给他们员工访问权限，他们将可以访问我们的 Slack 频道，但最重要的是，我们的研究团队，他们将可以访问内部未发布的 Cloud 版本并聊天 GBT，我们的想法是他们可以进行自己的独立评估，如果他们认为某个模型太危险，他们可以向全世界公开表达他们的想法，让你我看到。然后我们可以决定是否要放慢速度、停止或禁止未来的人类露天活动。现在，读到这篇文章，我个人感到震惊，因为如果我处于达里奥的位置，如果我处于萨姆·奥尔特曼的位置，如果你是一个受经济激励的人工智能研究实验室，你的目标就是击败竞争对手并尽快建立超级智能。所以我注意到像这样的警告
这个，或者我注意到达伦的这样的建议。作为一件非常令人担忧和必要的事情，他必须看到一个足够强大的人工智能模型，并且可能有足够的偏差，让我们呼吁放慢速度，这就像证据点1。你不会邀请内部任何人独立评估你的产品，如果没有什么值得关注的事情，这与这些人工智能实验室的资本主义市场设置相悖。现在第二个。Anthropic 不会自己做这件事，只有当其他每个人工智能实验室，比如 OpenAI、Google DeepMind、Elon Musk 领导下的 SpaceXAI 都做同样的事情时，他们才会这样做。所以它是在前沿，而不是专门在人类方面。现在，我对此有不同意见，如果你只是因为取得了突破而要求人工智能放慢速度，那么其他 AI.Labs 的情况可能有所不同，但当然有传言称 OpenAI 也接近递归自我改进，所以我明白了要点。但对于小型人工智能实验室来说，这在经济上也不利。我想到了开源实验室或小型美国初创公司，例如 Super Safe Intelligence
Ilya Sukova 或来自 Mira Morati 的 Thinking Machine Labs，OpenAI 前 CTEO。我猜他们目前已经落后于边境了。这是不是意味着？他们也需要放慢速度。如果我戴上批评者的帽子，我会认为，你知道，达里要求每个人放慢速度是有经济动机的，因为这会让人类占据上风，推动前进。但这是有效的无论如何，建议。继续第三点，在我看来，这是最重要的之一。美国和其他民主政府试图与威权政府进行协调，暗示中国。在可能的情况下，同时认真对待验证合规性的挑战。当然，现在他正在向房间里的大象讲话，那就是中国。我认为在过去的一年半里，中国推出了 8 到 10 个新的前沿模型，但它们不仅仅是前沿，它们也是每单位智能最便宜的模型，而且它们也是开源的，这意味着任何人都可以免费下载并在自己的硬件堆栈上私下运行。这对任何人和每个人（尤其是企业）来说都很有趣，因为你可以拥有自己的数据，并且不需要将控制权交给 OpenAI 和 Anthropic，他们明天就可以复制你的产品。所以我明白了，对吧？但达里奥正在要求像中国这样的独裁政府放慢发展速度。现在，在我看来，第三点是最不可能实现的。第 1 种可能性最大，尤其是 Sam、Demis 和 Elon Musk 公开表示
买了这个。第二点是，嗯，它可能是可用的，这取决于较小的人工智能实验室是否想要。也可以这样做。好的，那么下一个问题是，我们为什么要放慢速度？我们为什么不应该停下来？为什么我们不应该完全制止这种情况呢？嗯，我认为这枚硬币有两个方面。对于许多更广泛的公众来说，通才对人工智能的看法相当消极。已经被不屑一顾了人工智能是一种糟糕的技术，有可能毁灭人类，我不会否认这一点。我只是这么说。它可能并不完全消耗资源，但很大程度上人工智能极大地提高了生产力。我给你举一个非常简单的例子。人工智能一直被认为是一种将完全取代人类工作或夺走人类工作的技术。经过一年半的数据和证据，我们看到的情况恰恰相反。软件工程和软件编码实际上就是一个完美的例子，嗯，尽管像 Cloud.Code 和聊天 GPT Codeex 这样的产品已经问世，并且自动化了很多普通软件工程师 L5 的工作，但你仍然会看到更多的软件工程工作出现，因为你需要
知道如何处理和使用人工智能模型的软件工程师类型。所以这不是人工智能取代人类，而是人工智能与人类合作。所以我的观点是，人工智能已经被用于许多积极的事情，我认为暂停一下。这将对西方前沿、美国等国家或像 Anthropic 和 OpenAI 这样的实验室不利，减缓他们所取得的主要进展成果。现在，另一方面，他们想因为一件特定的事情而加快速度并放慢速度。尽管人工智能研究在过去几年里加速了如此巨大的速度，以至于看起来就像指数一样。这些模型的错位非常令人担忧。现在，我就带大家了解一下最近最火的OpenAI抱脸事件的来龙去脉。这就是 OpenAI 有一个内部版本的聊天 GPT，我认为它是 5.6 Sol，但它尚未发布，他们给了它一个任务，他们说，你和其他人都可以访问的常规聊天 GPT 之间的区别是，我希望你坚持不懈地工作，并通过任何可能的方式完成这项任务。最终发生的事情是，人工智能模型从字面上理解了这一点，并逃离了其有限的沙箱，访问了互联网，并决定侵入不是一个、不是两个、而是三个不同的公共网站和公司软件实例来得到答案。现在没关系了。我们解决了这个问题。他们已经采取了补救措施，确保这种情况不再发生，但更令人担忧的是 2 到 3 周后发生的事情，当时 OpenAI 并没有意识到这一情况
正在进行的秘密攻击，我们正在谈论的拥抱面部攻击的模型实际上是在几个月前，即 4 个月前执行的。所以开放人工智能研究人员对此一无所知。他们的模型版本在欺骗他们，并欺骗性地给他们答案以进行另一次攻击，在这种情况下，它是为了攻击 OpenAI 的研究节点，这意味着他们可以访问他们正在进行的前沿研究，并在人类不知情的情况下进行高水平的监控。当然，如果你有一个人工智能实验室正在创建一个全能的人工智能，但它甚至不知道如何监控或管理他们正在构建的特定人工智能。这可能会导致人工智能欺骗人类，可能与人类的最终产品和目标不一致，并且可能非常自私。这不是我们个人想要生活的世界，人工智能真正取代了全人类。现在，达里奥非常坦率。他非常透明地表示，我们不太知道最终效果会是什么样子，但有些例子可能是逃入互联网的人工智能。住在公共服务器中，可以协调大规模的人类公关
导致数千亿美元损失的运动。一个例子就是启动几个 1 亿个人工智能代理或其自身实例并协调不同的社交媒体帖子，对吗？另一个版本有点邪恶，就像，好吧，如果你有一个流氓人工智能出去设计某种生化漏洞或落入错误之手的东西怎么办。P然后有人出去建造它。当然，这些都是假设，但有可能发生，所以他的观点是人工智能模型的对齐研究还远远落后，所以我们需要达到一个能够赶上这些人工智能模型与人类对齐的程度。现在，如果你看着我说，嗯，Eja 会说，这里出了什么问题，比如，你知道，为什么我们不能直接研究人工智能的大脑，看看它在说什么。简单的答案是我们不能这样做，这可能是一件疯狂的事情，但请记住，人工智能模型的基因构成就是所谓的神经网络。神经会让您想起您的大脑，因为它的设计与大脑相似。就像我们现在无法读懂人们的想法一样，我们也无法读懂人工智能模型的想法。所以它有点像这个黑匣子，你向它发送提示，人工智能研究人员实际上无法告诉你输出是什么。因此，了解模型的思维方式非常重要。所以有一种技术，叫做思维链，但不幸的是它还不够好，人工智能实验室实际上正在放弃思维链，因为它可以帮助他们加速
研究，所以这是整个微妙的嗯。人工智能研究实验室正在进行的讨论，为了解决这个问题，达里亚的答案是，让我们放慢速度，山姆同意它，谷歌同意它，埃隆马斯克也是如此。所以，好吧，是这样的，我明白了，这是有道理的。但我仍然对某些事情持怀疑态度，我仍然想知道，好吧，如果有另一种叙述，如果有另一个角度怎么办，所以也许让我们探讨一下。好吧，所以批评者的第一点反对是，这是一个公关和营销噱头。大家都知道，据传 Anthropic 最快将于 11 月进行 IPO，而 OpenAir 也已在今年年底或至少明年初秘密提交了 S-1 IPO 申请。现在，传闻中的估值，我认为是 SpaceXAI.OpenAI 和 Anthropic，加在一起，他们 IPO 第一天的估值比过去 45 年科技 IPO 中筹集的资金还要多。需要明确的是，过去 45 年的 IPO 累计筹集的资金数额仍然超过了三个顶级人工智能研究实验室的总和，据传 Anthropic 的估值为 2.2 万亿美元。那么你可能
好吧，Ijaz，如果是这样的话，他们为什么现在要散布恐惧呢？好吧，如果你是公开市场的投资者，你可能会想，好吧，如果他们拥有将消耗我们所有人的强大人工智能，那么对其进行投资可能是个好主意，或者至少拥有某种经济利益，这样人工智能就不会以任何形式或原因对你不利。现在当然是这只是构想，但这就像一般的 IPO 那样。就好像它在散布恐惧，它的 IPO 发生了。呃，金在这里分享了什么。现在，第二流行的观点是，它围绕着监管捕获的叙述。现在我们在这里深入研究政治，但从商业角度来看它实际上更具战略意义。现在，想象你是人类。想象一下你是 OpenAI。想象一下，你们一直在构建这些模型，只有你们两个一直处于领先地位，对吧。这是一种平静，一种放松，你可以决定并决定这个前沿如何发展。然后在去年，你最终有 15 个竞争对手，其中一半生活在对手的国家中国，他们不仅正在构建更好的情报，而且正在构建更便宜的情报，这些情报可以更公开地提供给你试图向其出售中心化模型的客户。因此，如果我是人类和 OpenAI，我可能会想，我如何放慢创新的步伐，尤其是我的竞争对手的创新步伐，这样我就有更多的时间来构建更好的产品并找出我的经济激励措施。好吧，如果我可以制定游戏规则，如果
我可以掌控监管领域，然后我就能够协调其他参与者或我的竞争对手如何采取行动。因此，通过发布这样的公告，达伦·莫迪表示，由于所有这些可怕的事情，我们需要在前沿领域保持步伐。它可能会吸引监管机构接受 Anthropic 的说法，任命一个董事会，创建一些监管人工智能前沿的独立第三方，但最终的结果是，你把萨姆·奥尔特曼放在那个位置上，你把达里奥·莫迪放在那个位置上，你把所有前沿人工智能研究实验室的领导放在那个位置上，最后你知道，他们能够制定整个游戏的规则。这就是第二点。当然，第三点是对开源的抵制。现在，人工智能领域发生了这种疯狂的转变，说实话，我感到很震惊，那就是，我看到很多财富 500 强公司取消了云订阅或大幅减少了 Cloud 和 Chachi PT 订阅，转而支持开源模式，而且在很多情况下，这些开源模式不是美国模式，而是中国模式。现在，他们这样做的原因是有一些
其中。第一，也是最重要的一点是我想拥有我的数据，我想拥有我的服务器上的专有信息，并且知道没有其他人工智能实验室可以使用它来训练他们自己的模型，其原因是 Anthropic 和 OpenAI 有一点从他们提供模型的公司复制粘贴的历史。最流行的例子可能是 Figma，我在其中相信 Figma 董事会中的一位人类高管。然后他辞职了，两周后，呃，Anthropic 推出了 Cloud Design，对，它是 Figma 的竞争对手。然后每个人心中的问题是，他们到底是如何创造出如此优秀的竞争产品，看起来和感觉都像Figma。一些怀疑论者说，他们正在复制 Figma 用于训练自己模型的数据，然后可以构建自己的平台。所以，当然，如果你是一家财富 500 强公司，正在关注这个问题并使用人择或开放人工智能产品，你可能会想，我不想给他们我的数据来构建竞争产品，呃，你知道。降低我的利润率或其他任何可能的东西，我将拥有自己的数据，这就是我的护城河，我将构建自己的模型。我仍然想要人工智能的力量，但我只会使用开源版本。现在我也使用开源模型的第二个原因是，它便宜得多，而且速度更快。现在，这些中国开源模型并不像 Fable 5.1、Cloud Opus 5.5 或 Chat GPT Astra 那样智能。然而，它们的质量在 85% 到 90% 左右。因此，如果我是一家企业公司的首席执行官，我会说
听着，我不能给你最好的情报，但我可以用你现在在露天支付的成本的 1/10 来完成你 90% 的工作，顺便说一句，这个成本是数千万到数亿美元。您可能会想，哦，我会，我会接受这个赌注，这是一个明智的经济决策，我仍然会使用云，但我只会使用无云。我仍然会使用 Astra，但我会少给它一些数据访问权限，我只会给它我的开源模型的输出，而不是给它完全的正面访问权限。因此，我认为反对开放源代码的竞争模式慈善事业是有道理的。然后第三个镜头，老实说，这是最阴谋化的镜头，呃，锡箔帽之类的东西，是，嗯，有点政治性。它围绕着一场被称为有效利他主义的运动，它具有来自 SPF 时代的深刻政治利益，本质上这些人相信人工智能将有效地接管人类，它将取代人类，并且人工智能不可能仅仅因为它是一种高级智能而与人类合作，它到底为什么会与一个更小的存在一起工作，对吗？在这种情况下，这就是关键所在
因此，这是一场政治激励运动，旨在试图减缓监管捕获的努力，但也是因为这一特定政治运动的信念。现在我不太买这个东西。它，看起来有点疯狂。我，我看到了这个，我看到了这条推文。这条推文在哪里？让我告诉你。哦，是的。就是这里显示的这个作为达里奥想要任命为人类独立评估员的独立团体之一，MTA METR 实际上是由最大的、有效的利他主义竞选资助者之一资助的，而且达里奥为独立第三方提出的所有建议的整个网络层次结构都与这一运动有关。我不知道我是否相信这一点，这对我来说似乎太阴谋了，但我确实相信的是 All In 峰会上一个非常搞笑的时刻。所以有 All In 播客，他们就像年度峰会一样，他们让黄仁勋与节目的联合主持人一起登上舞台。他正在讨论达里奥试图放慢人工智能研究前沿的这一点，我将在屏幕上展示这个搞笑的时刻，黄仁勋在节目中间接到电话，完全不协调，但电话来自特朗普总统。所以他必须现场接听电话节目中，特朗普总统通过音频进行直播，他继续说，基本上，我认为这是一个媒体骗局。我们不能输掉与中国的比赛。中国根本不会放慢脚步。我们需要继续前进，这样我们就不能
慢下来。Jensen 以非常简单的方式同意他的观点。他说，我完全同意你的观点。我不认为我们已经接近人工智能模型构建出一个非常不协调的未来的阶段，而且我认为我们需要比以往更加努力地击败中国。顺便说一句，持这种观点的不只是黄仁勋。还有其他非常著名的人工智能实验室的首席执行官，例如马克扎克伯格，他最近在 Muse 病毒剂方面取得了非常著名的成功。顺便说一句，我们昨天做了一集。如果你好奇这是什么以及为什么它对你有用，你绝对应该去看看，但是嗯，马克·扎克伯格站出来并为他辩护，他一直是开源模型最大的支持者之一，我不敢相信我会这么说，呃，尤其是在美国。因此，自从发布 LAA 3.Lama 4 的早期型号以来，他一直坚持这一理念，但在推出 News Spark 12 和 3 以及新闻代理时，他也保持了这种态度。他希望人们拥有自己的数据。他希望它是私有的，并且他希望所有人都能以尽可能便宜的方式完全访问人工智能模型。马克·扎克伯格出来说，
听着。如果你真的相信，嗯，你知道，人工智能将终结世界，达里奥，那么你为什么不完全停止呢？你为什么继续建造？所以他指出这是一个公关叙事。你知道，我们应该负责任地步伐，我们应该负责任地建设。他实际上使用了一个个人轶事，他说我们有一个非常强大的 MUuse 1.3 模型版本，但我们花了一段时间才o 释放它，因为它没有通过我们给它的测试。不够一致，但我们所做的是我们没有疯狂地宣布它逃跑并做坏事。我们刚刚修复了它，然后向公众发布了产品。所以他说你是在无中生有地闹剧。这很重要。我们不能输给中国，我们需要继续前进。接下来的一点是，人们质疑 Dario 和 OpenAI 指定第三方评估员的合法性。同样，METR 是一个非常受欢迎的独立团体，通常会在 AI 模型发布之前对其进行测试，以确保它们没有危险。但是，这个进行这些测试的独立机构本身实际上已经让他们的 AI 模型逃脱了评估，实际上在某些情况下从他们那里偷了钱，或者让他们损失了 60 万美元。所以有一个问题，这是一个明智的举动，还是，你知道，Anthropic 真的考虑过这一点吗？嗯，也许我们应该回顾一下第三方评估者是谁。我个人认为第三方评估是好的，我们只要有效地去做就可以了。我不是这方面的专家
这个，我不知道该怎么做，但是，你知道，我认为这是一个很好的建议。然后我要说的最后一点是，中国，相信我的话，不会放缓，或者至少我认为中国确实放缓的可能性很小。原因很简单，就是经济激励。中国现在落后于前沿。他们知道美国前沿已经迎头赶上或已经领先一段时间，他们知道无论谁建立了递归自我智能，即建立自我的模型，最终将拥有未来十年和更远几十年的全球经济产出的大部分。所以中国的想法是，如果我们落后了，为什么我们要放慢速度，我也认为这有点媒体骗局，所以。实际上，呃，习近平主席并没有做出像评论那样的冒犯，但中国的商务部长或相当于商务部长的人已经说过，我不相信这一点。如果达里奥真的相信这一点，那么他和所有其他 AIL 实验室应该首先放慢速度，然后也许我们会弄清楚是否要这样做。当然，这是非常重要的一周，因为特朗普总统和习近平实际上注定是
开会讨论围绕前沿问题进行讨论。呃，如果特朗普的心态是我们应该继续前进，他在全面峰会上公开说过这一点，如果中国的情况是这样，我真的不相信人择，如果他们想这样做，他们可以继续前进，答案是非常明显的。中国不会放慢脚步，达里实际上在他最初的帖子中谈到了这一点他说，这个计划发挥作用的唯一方法是我们有威权政府，也就是中国，与我们协调。如果他们有点向前推进，那么我们别无选择，只能向前推进。所以，如果你正在听这个。你可能会有点困惑，你会想，好吧，我看到了放慢速度的好例子，但我也看到了不放慢速度的好例子，所以谁是对的，谁是错的？我们应该做什么？我会向您提供细致入微的看法，我认为这是正确的。事实上，我认为威尔·布朗（Will Brown）是 Prime Intellect 的威尔·布朗的忠实粉丝，他的这篇文章完美地总结了这一点。他说，我确实认为很多人都支持开源，所以这些人批评 Anthropic，呃，他们对今天的节奏声明有一些下意识的反应。但我认为他们的手在这里有些被迫，他指的是人择，因为这只是通往相当快速、相当安全、相当商品化的智力和丰富的相当不可避免的道路的另一章。他在这里基本上说的是我们正处于一个非常不稳定的时间窗口，我说窗口非常具体，因为这是一个很短的时间窗口，我们可以
最终会出现在这两种情况的极端一边，也就是人类有 10% 的机会被消灭的一边，或者另一边，我们完全放慢速度，中国完全让我们相形见绌，让我们相形见绌。而中国完全让我们相形见绌，具有讽刺意味的是，最终陷入了与第一种情况相同的情况。因此，从我们需要不断推动人工智能向前发展的意义上来说，这是非常不稳定的。我们需要不断改进模型，让它们变得更聪明，帮助它们以许多奇怪而奇妙的方式改变经济，但我们也需要让一致性研究能够跟上，并且我们需要让它足够赶上，以便我们使模型与人类的最终目标和人类的整体前进保持一致。但为了穿出这根非常精确的针，你需要很多东西。你需要资金，需要政府的支持，还需要竞争对手的协调。现在，仅在美国资本主义思维中，这是一件很难实现的事情。事实上，Anthropic 最大的竞争对手 Sam Altman、Demisisibis、Elon Musk 都站出来表示，是的，我认为我们应该这样做。应该是对你听到这个的警告信号，就像，好吧，我可能应该采取
这个更严重。现在，从同一方面来说，你必须明白，历史上发生过的、可能持续一段时间的世界上最大的两次 IPO ，都带来了 Anthropic 传闻中的 2.2 万亿美元估值，以及 OpenAI 也在该地区的某个地方。因此，这里正在进行一些营销游戏。Anthropic 和 Urbana 有 been 也因这样做而闻名。我希望你们记住，我认为只是 6 到 9 个月前，这些公司才发表了类似的叙述。你还记得当 Mythos 从 Anthropic 发布时，他们说，嘿，这东西超级危险，可能会导致完全的无政府状态？嗯，你猜怎么着？从那时起，中国推出了一系列神话的开源版本，它们不仅同样好，而且更好。而且我们还没有看到任何疯狂的事情发生，至少从总体上看中国模型是这样。事实上，中国模型唯一出现在头条新闻的例子是他们防御 OpenAI 通过抱脸攻击进行的攻击。对于那些不知道的人来说，那次拥抱脸攻击被一位中国模特挫败了。它被主动用来捍卫美国公司，因为它是开源的。所以我们确实需要解开这个奇怪的、错综复杂的烂摊子。我确实认为答案是我们需要放慢加速速度，我们需要停止随意发布模型，有点像让人们将其用于任何目的，我们需要不断增加保障措施，但我们也不能做得太多，我们不能放慢速度
我们需要允许两种类型的人工智能模型，无论是开源的还是闭源的，无论是在中国还是在美国，繁荣发展，为我们建设一个更美好的未来，因为我个人认为，我们需要让每个人都掌握智能。他们需要能够拥有自己的数据，而不能只是一两个强大的实验室来运行整个节目。这就是我的个人观点。我很想听听你的观点。嗯，我认为公众对此有非常、呃、不同的看法。我从来没有见过人群如此分散。听着，我总是乐于接受反馈。我想听听你们的意见，请在评论中告诉我们。嗯，顺便说一句，如果你正在听这个，但你还没有订阅我们，订阅，打开通知，它对我们有很大帮助，嗯，我想继续与我们分享我的想法。如果有我们没有提到的事情，如果有我完全错过的角度，请告诉我。就像我，我，我只是一个坐在这里试图解决这个问题的人，和你一样，所以，让我知道这一点。说到开源，嗯，我们必须在会上与高通首席执行官交谈或坐下来
Snapdragon 峰会，嗯，我非常直接地问，对于拥有自己的 AI 的人来说，独立的芯片架构会是什么样子，你知道。在这一集中提到，我认为对抗这种超级错位 AI 的一个真正有效的方法是拥有一个独立于 Anthropic 和 OpenAI 等实验室的 AI，它可以存在于你的手机上，可以存在于你的任何设备上，为您个人工作，不会因任何其他公司的优先事项而受到激励。与克里斯蒂亚诺坐下来进行了一次精彩的谈话，他谈到了所有这些以及更多内容。从现在开始，克里斯蒂亚诺，感谢您参加节目。我昨天看了你的主题演讲，我不断听到的主题之一、关键信息是我们正在进入代理时代。而且，你似乎很喜欢它，特工们，我也是，但我想从你喜欢的其他东西开始。汽车。我听说你有点机车狂。我走进这个会议，Snapdragon峰会，我看到了哈雷戴维森，我被它震撼了。我想了解Q高通对汽车的方法是什么，因为我听说你从头开始重新设计了虚拟sashi底盘，我对高通在机器人中看到的角色很感兴趣，因为我认为汽车就像是这方面的第一个实例之一，也许你可以对此进行一些阐述。
是的，看，我们在汽车行业所做的事情，我想嗯，说实话，我们对此感到非常自豪，呃。并且对我们所做的事情如此快速地取得非常成功感到非常惊讶，我认为我们现在呃，呃，正在迈向可能成为汽车行业最大的半导体供应商，我们所做的是了解汽车行业的发展方向，并开发一个真正的平台，我们称之为 Snapdragon 数字底盘。我们在这个领域真正独特的原因是我们了解我们我们拥有与汽车相关的所有领域的能力，我们可以将最好的消费电子产品与我们在消费电子产品和移动领域的经验相结合，并提供一个真正工业级的平台，并具有汽车行业所需的可靠性。所以基本上我们构建了 Snapdragon Snapdragon 数字底盘。它有一个连接元件，可以将汽车连接到云端。它为车内的所有屏幕提供动力，呃，进入你即将改变的驾驶舱。呃，当你在驾驶时，呃，当你与汽车交谈时，代理人工智能是非常自然的，但我们
从仪表板为所有屏幕供电。它需要一直工作。呃，信息娱乐系统，后排娱乐系统，智能后视镜，然后我们建立这种能力，在汽车上拥有中央计算平台。汽车的功能有独立的更硬的子系统，你可以作为应用程序运行，我们构建了自主平台，我们看到汽车将成为一台带轮子的数字计算机，它将经历一个超快的数字化转型过程，我们构建了平台，并且非常成功地解决了你的问题。机器人是最好的例子一切都来自汽车工业和消费电子产品的结合。例如，我们在汽车领域非常成功的原因之一是您无法将服务器放在汽车后备箱中。你会消耗太多的能量。除了冷却发动机或电池之外，还必须冷却它们。因此，高性能低功耗的 DNA 对于机器人来说更为重要。你想要一个能够四处移动的机器人有多少电池寿命，机器人会一直连接到云端。如果你想让一个价值 20,000 美元的机器人花费 5000 美元，你最好拥有高
消费电子产品的集成度。所以你的问题是正确的。我们在 A 中所做的让我们有权利在机器人领域获胜，这可能会成为我们在物理人工智能领域的下一波增长。
好吧，让我们继续当前的浪潮，对吗？现在让我们继续讨论汽车主题。当有人告诉我我有一个人工智能代理时，我立即拿起我的手机，我想，好吧，这就是它要居住的地方，对，这是端点，它可以连接到我拥有并经常使用的任何应用程序或服务。但是当我想到一辆汽车时，而你刚刚描述了整个计算系统，那就是我的家人所在的地方。我坐在方向盘后面，有各种不同类型的屏幕。您能给我举几个例子，说明我的经纪人会为我在这辆车上做些什么吗？哦，
是的。嗯，我会给你举个例子，我会谈谈我们在这个领域所做的技术开发的一些独特的事情，但请记住我们说过你将从以设备为中心转向以代理为中心的体验，对吧，所以，智能手机曾经是数字生活的中心，但现在来自这些新体验的代理将成为你数字体验的中心，这将自然地发生在不同的设备上，比如汽车，所以我会举一个非常有趣的例子，我认为，呃，呃，你知道，我们几年前做过的演示，呃，特别是当我们看到整个数字底盘并将系统组合在一起时。我会尝试向你解释一下，当你建造一辆具有辅助驾驶或自动驾驶功能的汽车时，你在车里放了摄像头，所以今天的汽车有一堆摄像头，这些摄像头是为你设计的，让汽车能够自行驾驶，实现自动辅助驾驶，现在这些摄像头。呃，除了寻找汽车、行人、自行车和道路之外，他们还可以看看背景，所以，我们在概念车中展示的东西，以及我们在不同的贸易展览中展示的东西，当你坐在车里时，汽车正在行驶
它本身，车里的摄像头只是让汽车导航，你会说哇。这辆车，这辆卡车就在我面前，嗯，这是什么公司？哦，这就是这家公司。他们做什么？他们这样做。他们的办公室在附近吗？我不知道。让我检查一下。是的，有一个。好的，带我去那里。有一个例子。另一个例子是。这里的这家餐厅，我看到很多人。那流行吗？ Yelp 的评论是什么？哦，这是一个5星评论。嗯，我们现在有空吃午餐吗？可以帮我预订吗？这些只是一些例子，当您坐在方向盘后面时，这些会更加自然。语音是一个更自然的界面，你应该考虑一下当你在车内时，也许我在车内时做一个类比。就像汽车可以像智能玻璃一样。该车甚至有一个平视显示器，可以直接在仪表板上为您投影信息，或者您拥有这些屏幕。因此，我认为汽车中的人工智能技术将成为下一波用户体验浪潮，尤其是当汽车在行驶时。呃，那么你就有很多空闲时间去做其他事情。
是的，当然。真是、实在是太有趣了。我，我昨天和你们的首席财务官阿卡什（Akash）进行了这次对话，他一直在说的一件事是人工智能将是一种横向的多模态。相对于许多不同的媒介，所以它不仅仅是你的笔记本电脑屏幕，它不仅仅是你的手机屏幕，它也将出现在你身体移动的任何地方。现在，您提到了汽车，我们谈到了机器人，显然我们也有软件代理。我立即想到的一件事是我们到底如何为所有这些东西提供动力，对吗？戴上我的半导体芯片帽子，我们已经耗尽了大量的资源，而首要的事情，呃，我想我听到你说的是内存将成为其中之一。怎么样，你怎么看待这个问题？高通的战略设计是如何围绕这种巨大的限制（例如大幅推高价格）构建的？
是的，听着，嗯，所以在这次谈话中有很多东西需要解开。也许如果我缩小一点。对计算的需求是巨大的，对吧？因此，数据中心将继续增长。呃，你有更大、更强大的模型，在更多的计算中，你有更大规模的数据中心继续增长，但现在人工智能只是一种新的软件和计算方式，它也会在所有其他设备上传播，对吗？所以一切都将运行人工智能，嗯，你将对计算的需求不断增加。现在，第二层，我认为你有很多非常高的价格，呃，你有计算和内存的价格，因为你的情况是需求大于供应，并且在某些情况下你的玩家数量非常少。我们所看到的是，我们已经在许多其他行业看到了这一点，最终你会达到一个指出平台变得更加开放，你有更多的玩家，你将会有更多的竞争。所以我认为我们正在开始解决这个问题。你开始看到更多不同的硬件，实际上我们进入数据中心领域的原因之一是，但下一层是我们现在。
所有这些东西都是共存的，我们现在已经超越了仅仅创造人工智能的阶段。人工智能现在已经全面投入生产，当你谈论所有这些公司时，他们花费了大量的资金。他们都在谈论 TCO。总拥有成本是多少？然后你知道，当你看看运行这个需要什么时，你需要电源，你需要空间，你需要计算，你需要内存，我们看到了这一点，我们说这是高通进入这个领域的绝佳机会，因为我们的 DNA 它和我与我们在汽车和机器人领域的对话有关，我们的 DNA 是。我们设计芯片时考虑到另一侧有电池，所以计算密度、低功耗，我认为将非常相关。我们正在尝试做的另一件事是。数据中心现在开始非常非常自然地分解。电话被分解了。我会，我会给你讲一个故事。嗯，在 MP3 播放的早期，你要解码 MP3 文件才能播放音乐。在 PC 中，CPU 会解码 MP3，但 PC 是连接到墙上的。它使用了太多的力量。我们永远无法在手机上做到这一点。你可以，你可以消耗你所有的电池只是为了听一个
几首歌。所以我们必须创建一个专用的硬件。该硬件的工作只是解码 MP3。您会看到数据中心现在正在这样做。您会看到预填充解码注意力，解码 FFF 等。当发生这种情况时，这是您以低功耗进行更多计算的一种方法。这对我们来说是一个机会，你需要考虑下一个十年。我们甚至看到一些有趣的事情发生一些有前途的技术。光子学有了很大的发展，所以我觉得我们正处于人工智能的开端，将会有一个更多计算和更少功耗的路线图，这就是我们想要发挥的作用。
我认为，就像你正在玩的地方一样，这是一种不可知论，如果我说，对，你像大多数手机市场一样强大，尤其是在边缘硬件上本地运行这些代理，但我也看到了类似的，让我们以流行的研究实验室为例，对吧，比如 Anthropic 和 OpenAI。最近有传言称，他们也可能会进入硬件领域，尝试垂直整合整个堆栈。比如，你对此有什么看法吗？因为100%。我的，我的，只是想在这里分享我的观点，我认为他们要像理论上一样兼顾和完成所有这些事情将是非常困难的。就像你将拥有一个较低的 TC，就像一个较高的 TCO，对他们来说构建这个会更有效，但很难在硬件级别上扩展，我只是不知道他们如何能够实现这些优化。也许人工智能可以帮他们解决这个问题，但如果我错了请告诉我。
不，不，看，有两个，有两个不同的东西，让我们来谈谈这些，因为这非常有趣，嗯。所以，我想我会确保我理解你的问题。您是在谈论那些正在为数据中心构建芯片的公司，还是实际上正在为消费者构建更困难的设备？两个都，
因为有传言说他们两者都在做。好的，
所以让我们谈谈这个，因为这就是我的理解。那些为数据中心构建硬件的公司，我认为最好的例子是谷歌 TPU，好吧，OpenAIH 正在开发，这是一件好事，它实际上展示了我们所认为的情况。我们已经远远超出了单一解决方案的范围。人工智能将在全世界运行，这表明你需要不同的硬件来处理不同的事情，这在某种程度上验证了为什么我们进入的空间是一个巨大的空间，你需要专门的解决方案，这就是我们在 HBC 和加速器之前构建的东西。那么第二部分是关于获取设备，为什么呢？我认为这是非常合乎逻辑的，因为这是我们在主题演讲中进行的对话的一部分。呃，人类不会通过前往数据中心然后敲门并说给我一些人工智能来获得人工智能，好吧，所以这会发生在设备上。设备非常有趣。呃，你已经建立了玩家，建立了绿洲。这些都是新的。我们将进入人工智能的下一阶段，你想要什么代理？哪个代理人赢了，哪个代理人输了，对吧？这是同一个东西
以互联网为例。这是互联网基础设施的构建，好吧，所以你知道这意味着什么。这相当于我的数据中心。有光纤进入地面，有宽带作为基础设施，但还有下一层进行搜索？谁做社交？谁是所有这些不同申请的获胜者？我认为我们现在已经进入人工智能的这个阶段，然后，呃，你会看到一场让人类使用这些代理的竞争，因为这不再是一个聊天框了。这是关于我们如何描述它的代理，它会发生在手机上，也会发生在眼镜上，所以这将推动公司尝试做一件伟大的事情，这就是为什么我认为我们在人工智能的下一阶段处于非常有利的位置，因为我们为这些设备提供动力，我们可以与每个人合作，我们看到所有这些公司都在努力接触消费者，这是好的。
您是否认为高通可能希望在这方面提供补充或帮助，就像您认为的那样，您愿意帮助他们像他们的设备类型一样工作吗？
因为我们看起来，我不能透露这一点，但我认为我们正在与大多数公司合作，试图将设备立即交到消费者手中，不同的外形因素，我们看到了不同的东西。在个人人工智能类别中，当然有眼镜，是的，还有手机，所以你刚刚看到了它，例如，字节跳动手机是字节跳动手机。他们制造了手机，努比亚提供了硬件。他们拿走了整条电话线。
是的，好吧，好吧，让我们继续对话。在这些方面，我想将其称为第三台设备，对吧？我们都有
笔记本电脑
以及笔记本电脑和手机，该设备是什么？大家都在谈论眼镜。我听说有关带摄像头的耳机的事情。在您看来，您认为下一步的自然步骤是什么？
是？好的，那么我们先来回答一下这个问题。我要告诉你的是，除了手机和笔记本电脑之外，他将获得成功的设备是什么，下一个大类别将是眼镜，而它之所以成为眼镜，是因为一些非常简单的事情。眼镜在人类身上占据着非常重要的现实状态。你我现在戴的眼镜对我们的眼睛、耳朵和嘴巴都是封闭的。我们转过头，我们在看的时候相机也在看。所以这很自然。所以看我所看到的，读我所读到的，听我所听到的，这些事情将是非常自然的，特别是对于代理技术而言。因此，这是主要的房地产眼镜，它将成为下一个大类别。笔记本电脑和手机，您可以通过多种方式制作眼镜。你可以做只具有连接性和音频的眼镜，并连接到一个IP地址和一个模式，以及一个你可以拥有相机和计算机视觉的模型，你可以拥有显示器。你可以拥有具有大量计算功能的眼镜，就像你的玻璃柜具有大量计算功能，有人正在尝试所有这些，但现在回答你的问题。除了笔记本电脑之外，还有什么吗？
呃，手机和眼镜？是的。答案是为什么我们不知道这些类别是什么。答案有时是在人类已经佩戴的东西中，人类已经决定要穿什么，例如我们见过珠宝，呃，像吊坠，呃，我们见过的别针，是的，所以有些人正在开发珠宝，它具有我们所看到的功能，呃，带摄像头的耳塞，呃，它与眼镜位于同一位置。我们看到了不同类型的设备。
根据您的经验，这些项目是否更难构建，或者它们是否遵循相对相同的路径？
这取决于。玻璃非常坚硬，因为首先，要使玻璃成功，理想的玻璃重量为 35 克或更少。电池寿命为 10 小时，所以你没有太多的空间，而你希望它成为时尚设计，呃，所以你没有太多的空间来放置电池来放置芯片，所以从设计的角度来看，这是非常困难的。其他一些有不同程度的复杂性，但我认为会有不同的设备。我想我的例子是这样的，嗯，你有你的手机，你有你的手机，对吧？我会回到过去，人们会说，好吧，我有我的手机。如果在 iPod 发明之前，你会携带 iPod，而人们说我不确定，哦，是的，每个人都携带 iPod，所以如果有很好的价值，如果有低摩擦，呃，你知道，有机会有另一台设备。
那么我的下一个自然问题是，假设我们有这个设备生态系统，对吗？如果我不得不猜测您的观点是什么，是否可能会有一个或几个代理在这些设备上进行操作。这总是一种一致的体验，对吧？是的。但这是你坚信的事情吗？
就像 100%。好的。这是我们大约一年前说过的，现在正开始按照我们设想的方式实现。在 Agente 之前的智能手机时代，就像您今天使用智能手机一样，智能手机是您数字体验的中心。电话是中心。你的智能眼镜，呃，扩展了手机的功能，扩展了相机。您的手表会向您发送通知，他们会了解您的健康状况，所有与代理一起扩展的手机都是不同的。所有代理，代理都不受操作系统或应用程序或设备的约束。代理需要了解您的意图并了解您的背景。一旦发生这种情况，代理将采取行动并为您提供更方便的答案。您可以从笔记本电脑的玻璃表面开始。你可以从手机开始，呃，然后在车里结束。因为你必须进入这些阶段，了解意图，然后如果你可以访问，代理就可以成为代理。也许您在玻璃杯中告诉您的经纪人您需要这样做。前往您的泳池并关闭水疗中心，控制您泳池的应用程序仅在您的手机中，而经纪人将前往您的手机，因此这将创造很多有趣的事情
这就是为什么你会看到那些人工智能公司，他们彼此合作得好吗？他们是否需要进入设备，但你会遇到诸如个人内存图在哪里之类的问题？谁存储它？是一家拥有更多设备的公司处于更好的地位吗？与一家只有一台设备的公司相比，你怎么做，你怎么做，数据在哪里？您如何访问数据？您获得正确的权限吗？这些东西将成为我们即将启动的人工智能和移动设备的下一阶段。
好吧，我们来谈谈这个吧？就像我会说我所拥有的一些最好的代理体验一样。比如说过去 6 个月可能是基于云的，对吧？我想到了我最近一直在玩的 Metause，我想，哇，好吧，这太神奇了。但我也认为这很重要，或者我觉得将我的数据提供给所有这些不同类型的公司有点不舒服。我想对于您在这里描述的所有这些类型的事物（代理用例）来说，边缘推断和边缘磨损有多重要。
它们非常重要，而且像这次对话一样思考是一件事，就像我觉得的那样，有些事情你绝对必须在云中做，而你只能在云中做，有些事情你必须在设备上做，你只能在设备上做，还有一些事情介于两者之间，但我认为这的驱动因素是。每个人都会考虑隐私。呃，我觉得隐私很重要，但是不是主要原因。有些事情会延迟。呃，有些事情需要如此低的摩擦，然后又如此快，呃，你必须在设备上完成，否则你宁愿不做代理，你可以拿起手机自己做。因此，将会有一些事情将由以下因素驱动。其他事情将会有多可靠和所需的延迟。我不希望这些数据消失，我希望这些数据留在我身边，用户很快就会有发言权。他们是否因为他们感到舒适或不舒服而使用他们不使用的东西，这将推动其中的一些，然后还有另一件事是计算的可用性。我们正处于一个
现在的阶段。只是，看看我们几分钟前进行的对话，内容涉及半决赛、内存和供应的紧缩情况。它不是可用的计算。您将使用可用的计算，而这一切都将是云和设备的组合，并且您一直这样做。我想我关于云和设备的最后一点是你现在看到的，忘记，忘记移动，忘记电脑，忘记个人人工智能。我们只谈谈数据中心和企业。如今，您会看到许多公司在本地投资方面采取了很多行动。你看看像戴尔这样的公司在本地销售方面非常成功的结果。当你接受本地服务器的存在时，你就接受了混合人工智能。因为公司既在本地做一些事情，又在云中做一些事情，那么我们就可以争论计算量有多大，是你的本地服务器还是你手机上的电脑，那是什么？只是，这只是一场关于规模的对话，但我认为这就是人工智能的未来，所有这些事情都很重要。
好吧，我实际上认为，本地部署和本地方面目前还处于一个年轻的阶段。是的。我认为没有人在玩这个，因为它太复杂了。和我一样，我也关注过开放爪现象，对吧，每个人都在购买 Mac mini，并将价格推高了数千美元，我认为这对很多人来说是不可行的。它在技术上太先进了，但如果你能把它放进手机里，如果你能把它放进一副眼镜里，如果你能把它放进任何类型的第三种设备里，那就彻底改变了游戏规则。那么，最后一个主题，让我们让它变得有趣一点。您最有创意的，呃，或者最理想的代理用例是什么，现在无法启用，您认为一年后可以启用？已经启用了。
这是一个非常困难的问题，因为这有点像，呃，问智能手机的早期，我们不知道什么是最成功的应用程序。我，我，但我觉得，我觉得可能会发生很大的变化，就像我开始看到它的迹象一样，我发现这非常有趣，我知道有些人会喜欢它，有些人不会喜欢它。但是我看到一些眼镜，例如，这是一项非常有趣的练习。你有一些眼镜，实际上模型在玻璃上运行，你在玻璃上本地加载，或者在玻璃上本地加载，然后加载公司目录。到玻璃中，所以你在公司里走动，看到这个人，然后说，这个人是谁？噢，原来如此，他就在这个部门工作。我认为这非常酷，而且现在已经发生了。所以我认为会有一些非常有趣的事情，特别是。怎么样，你会如何看待助理就像有人走在你旁边，就像这个人是谁一样？哦，这就是这个人
是。所以你的意思是，在不久的将来我看起来和感觉起来都会像钢铁侠。
我想是这样。我想是的。
好吧，克里斯蒂亚诺，非常感谢你来到这个节目。这是一次精彩的对话。这绝对是一种乐趣。不，
不，高兴。这是我的。太感谢了。谢谢。