人工智能的下一个黄金机会可能不是更智能的模型，而是更快的模型。主持人 Ejaaz Ahamadeen 深入剖析了 Nvidia、Cerebras 和华尔街公司之间的竞赛，将毫秒化为数百万秒。

华尔街有一家贸易公司目前支付数亿美元来获得这种非常特殊的人工智能芯片。创造这款 AI 芯片的公司名为 Cerebrous，他们今年早些时候刚刚进行了最大的 AI IPO 之一，单日融资约 60 亿美元。 OpenAI 承诺在未来几年内进行价值 200 亿美元的收购。那么问题是，为什么自 IPO 以来股价下跌了 50%？上周，有传言称 OpenAI 已停止在其新的超高级快速模式中使用 Cerebrous 芯片，而是选择 Nvidia 芯片，股价又下跌了 20%。老实说，看起来公司的事情已经彻底结束了。所以我决定自己深入研究这一切。我意识到更快、更快的人工智能模型的市场机会绝对是巨大的。事实上，Jane Street 本身每年使用的每兆瓦脑芯片计算就能赚取 2 亿美元的收入，这绝对是疯狂的。但这不仅仅是华尔街，这是有充分理由的。贸易公司以及任何其他财富 500 强公司都希望获得能够提供更快推理​​的芯片。

这不是关于 cerebrous 的一集，我自己没有任何 cerebrus，但这是一集关于为什么更快的推理对于人工智能来说是一个非常有利可图的市场，我们将以 Cerebrous 为例。所有这些以及更多内容都在今天由 Qualcomm 为您带来的 In the Loop 节目中。现在，在我们开始讨论之前，先简单介绍一下 Cerebrous 是什么。他们基本上是一家生产餐盘大小的人工智能芯片的公司。我不是在开玩笑，我以前拿过其中一个东西，它就像是。它很大，看起来很荒谬，它由数以百万计的微型晶体管组成，允许人工智能模型运行和发挥作用。现在，最好的对比是 Nvidia GPU。我们都听说过 Nvidia，我们都见过这些大型数据中心。但单个 GPU 的大小相似，可以将它们堆叠在一起。现在，将智能 AI 芯片与标准 Nvidia GPU 进行比较的最佳方法是。Nvidia GPU 可以被视为公共交通巴士。它很大，可以搭载很多人，很便宜，也很可靠，但是在 A 点和目的地 B 之间有很多站点。它的重点是运送尽可能多的人

可以可靠且便宜地从 A 点到 B 点，这很好。不过，当你将它与严肃的 AI 芯片进行比较时，它更像是一辆老式的、非常快的跑车。它很贵，它最多只能容纳 1 或 2 人，但它可以让你很快地从 A 点到 B 点，但它确实相当昂贵。因此，您可能会想，好吧，我会使用哪一项业务或为什么要使用其他业务？她。嗯，Nvidia 通常是可靠的，他们占据了整个芯片市场的 80% 到 85% 左右。Nvidia 和 Jensen Huang 已经在整个市场上牢牢占据了一段时间，早在人工智能出现之前。但是，对更快推理的需求，或者更确切地说，人工智能模型更快地响应您的需求，可以适用于许多非常具体的用例。例如，最明显的一个是金融交易。如果您是 Jane Street 或者如果您是 Jane Street 的竞争对手，那么您希望获得能够为您可能尽快进行的特定交易提供信息的信息。因此，如果您可以在基础设施层面构建一个模型，基本上可以为您提供比竞争对手快几毫秒甚至几秒的响应速度，那么您就可以进行一项交易，使您相对于其他公司具有优势。现在这非常注重财务，但你可以想象将其应用到人工智能触及的任何事物上。好吧，让我们进入上周的戏剧性事件。对于这支头脑清醒的股票来说，最终变成了一场绝对混乱的噩梦。 Semi-analysis 发表了这篇文章。现在 Semi-analysis 是一家非常有信誉的研究公司，他们有这个

一种付费内容集。他们非常深入地研究半导体和芯片分析。他们的一项订阅费用每年高达数千美元。英伟达付给他们很多钱来获取这些信息。他们用这些信息来为他们自己制造的芯片做出决定。所以，非常有信誉的公司。现在，他们在上周的开发日睁开眼睛后发布了您现在在屏幕前看到的内容。现在他们有一个开发日，他们宣布了一系列不同的产品，20 多种产品，我们有一集是关于这个的，一定要去看看。但他们的公告之一是关于这种称为超快或超模式的新模式，我不记得了。记住名字。但这个想法是你每月支付 500 美元，这是一笔敲诈性的钱。并且你可以极快的速度访问GPT的最新模型，这意味着只要你点击进入，结果就在你的面前。现在，如果您只是输入随意的提示并尝试像 Google 搜索一样获得答案，那么您可能对此不感兴趣。但想象一下，如果您是一名软件工程师。想象一下，如果您是一名金融交易员，

想象一下，如果您使用它来建立一个完全不同的业务，旨在在广阔的世界中竞争。您可以点击输入并在几毫秒内完成成品。这使您可以更快地进行迭代和构建，因此这是一个优势。所以人们对此非常兴奋，他们认为 Open Air 在幕后使用了大脑芯片。有一个他们这么认为的原因很少。大约六个月前，他们宣布了他们的第一个版本的 cerebrous 动力模型，我认为它是 GPT 5.6，我不记得了，但它每秒吐出 750 个代币，这对于上下文来说绝对是疯狂的。您可以在不到一秒的时间内创建一个完整的网站，只需按一下 Enter，它就会立即出现在屏幕上，就像魔术一样出现在您面前。因此，在上周的开发日，他们发布了适用于 GPT 6.1 Astra 的新版本，这是他们的全新模型。所以每个人都说，好吧，这太疯狂了，这太棒了。 Cerebrus 显然很强大。这一点，除了这篇文章通过大量分析表明 OpenAir 没有使用 cerebrus 芯片。他们选择了 Nvidia 芯片。现在，你必须明白，如果你是一家人工智能芯片公司，特别是与 Cerebrous 这样的小公司相比，与价值约 5.7 万亿美元的大巨头 Nvidia 相比。01 是当今最大、最有价值的公司。你需要有一个独特的销售主张，而 Cerebrus 的整个愿景是，我们不会制造比 Nvidia 更好的通用芯片，但我们将制造更快的芯片，最快的芯片。可能会很贵，

但这将是您将用于高价值工作的一个。 OpenAI 使用 Nvidia 的事实非常令人担忧，这导致了一场疯狂的股票午餐。让我给你看一下这张图表。好吧，好吧，今天上涨了 10%，稍后我会解释这一点。但如果你看看最近一个月甚至最近 6 个月，就会发现下降了 50%。太痛苦了。因此，上周我们看到了一次巨大的抛售，我认为价格达到了 150 美元左右，这对很多人来说都是沉重的打击。老实说，这是一个相当糟糕的时机，因为他们对那些很早就投资该公司的人的第一次重大解锁也解锁了，而且据透露，不仅首席执行官和首席财务官出售了一堆股票，而且首席运营官在这条消息发布之前也出售了价值 8000 万美元的股票。因此，公众对所有这些消息的反应是可以理解的，他们认为，好吧，Cerebrus 完了。他们没有未来了。请记住，在 IPO 日结束时，该股票的价值为 330 美元，然后我想是上周三或周四，该股票的价值接近 150 美元。但后来 OpenAI 首席执行官 Sam Altman 的一条推文让事情发生了变化。他走了，听着，有一些

关于我们与 Cerebrus 合作关系的猜测。 Cerebrus 是一个紧密的合作伙伴，我们在速度领域有着深入的合作。从那时起，这一切就开始有意义了，因为当你真正阅读半分析的文章时，整个市场的反应是抛售大脑股票，他们实际上没有提到任何其他模型，除了 GPT 6.1。重点是，大多数其他模型在所有 OpenAI 较新和较旧的型号上运行的快速模式仍在使用 cerebrous 芯片，因此显然存在大量需求，但问题是，为什么不将其用于 GPT 6.1？好吧，答案不是由 Sam Ottman 或 OpenAI 或任何其他人工智能实验室揭晓的，而是由华尔街一家名为 Jane Street 的贸易公司揭晓的。您看，Jane Street 是最成功的贸易公司之一。事实上，他们是如此成功，以至于他们甚至不接受外部资本。它由合伙人及其自己的资本运营，因为他们赚了太多的钱。他们活跃于许多不同类型的交易策略，无论是直接针对公开市场的股票还是做市本身，帮助人们买卖特定的公开股票。据透露，OpenAI 之所以不能使用大脑芯片来为其最新、最奇特的模型提供新的超快速模式，是因为 Jane Street 在使用计算之前花费了数亿美元来确保计算安全。现在，重要的是要了解这种相似的拓扑结构是如何实现的

作品。 Cerebrus 承诺向 OpenAI 提供价值 200 亿美元的销售额。这相当于大约 750 兆瓦。现在。Cerebrus 目前实际拥有的容量为 600 兆瓦，他们的目标是在今年年底（2026 年）实现所有这些容量。但他们已将所有这些计算都用于开放 AI。因此，无论好坏，Open AAI 在 Cerebrus 的所有可用芯片容量上都占据了市场主导地位。 那么，为什么这家随机交易公司是随机的，或者不是随机的，但是为什么这家华尔街非常成功的交易公司会耗尽所有计算能力，而 OpenAir 可以将其出售给零售用户呢？嗯，答案很明显。简街支付了极高的溢价。现在，我不太清楚他们付了多少钱，但如果你计算一下 OpenAI 200 亿美元的支出，你会发现他们为每兆瓦支付了大约 2600 万美元，所以每兆瓦 7000.50 兆瓦，他们向 Cerebrus 支付了 2600 万美元。因此，如果他们将其出售给简街，他们可能会赚取某种形式的利润，即高溢价。因此，我们假设 Jane Street 支付了 5000 万美元才能获得 OpenAI 已经可以使用的兆瓦电量。所以

Jane Street 直接从 OpenAI 购买以获得这种超快的推理能力。那么问题就变成了，到底为什么 Jane Street 还要付这么多钱？难道他们还没有赚够钱吗？嗯，答案很简单。就像定量交易公司会花很多钱来接入海底互联网电缆，以便提前几毫秒获取信息一样。欺骗他们的对手，这样他们就可以在他们做之前几秒钟执行交易，这样他们就可以通过套利交易或任何可能的交易赚大钱。这正是 Jane Street 试图用人工智能做的事情，只不过它可以应用于任何事情。一切围绕他们的交易角度。通常，在过去，量化交易看起来非常像，你知道，它是相当二元的，你知道，就像，好吧，我想设置这个程序来执行 A、B 或 C。它非常确定。在人工智能中，它是非常概率性的，这意味着你可以将它应用于任何事物，这意味着竞争范围更广。 Jane Street 希望在这方面处于领先地位。因此，他们付费购买世界上最快的人工智能芯片，这样他们就可以使用人工智能驱动的模型进行最快的交易。现在，大概他们正在使用 GPT 6.1 Astra，但比他们的任何组件都快，而且他们买下了所有可用的供应，这意味着 OpenAI 拥有最少的供应量来服务其公共零售受众，这很有意义，因为他们每月收费 500 美元。我只能想象向你的客户、你的忠实客户收取费用的机会成本

你知道，他们已经有 10 亿美元了。此时，每周的活跃用户引入一个新的级别，并说，听着，这不仅仅是我们以前拥有的最昂贵订阅的两倍，它比我们曾经拥有的最昂贵订阅高出 150%。权衡一定是巨大的。 Jane Street 肯定付给了他们很多钱，据透露，Jane Street 使用 Cerebrus 芯片的每兆瓦计算实际上每年赚取约 2 亿美元。让我再次重新解释一下。在 OpenAI 可用的 750 兆瓦电力中，他们将其中大部分出售给 Jane Street，比如说 100 兆瓦电力。 Jane Street 可能会为每兆瓦支付 5000 万美元，甚至更多，这已经是价值数十亿美元的现金和支出，以获得超高速推理。但对于 Jane Street 支付的每兆瓦计算，他们每年赚取 2 亿美元的交易收入，这意味着他们可能仅仅通过获得脑力计算就赚取了数十亿美元。这就是这里一直存在的错误信息。我看到有人说，听着，我认为简街是

每兆瓦支付 2 亿美元。我认为这不是半分析文章实际暗示的内容，也不是根本暗示的内容。他们通过使用大脑芯片赚取了价值 2 亿美元的交易收入。这让我想到了这种芯片可能有多种不同的用途。这不仅仅是一个严肃的问题，对于我来说，它可能是一家完全不同的公司我关心的是设计这些特定的芯片，但我想到的问题是，这个芯片是如何工作的，为什么它对人工智能公司或一般公司如此有用？好吧，为了理解为什么这些特定芯片有用，你必须了解人工智能模型本身是如何工作的。现在，当你或我与人工智能模型交互时，你输入一个请求或。你点击回车键，你就会得到回应，而且是单词和句子。现在，在人工智能模型能够生成单词来响应您的任何查询之前，它需要运行整个模型权重集。模型权重基本上是它的蓝图，它是 DNA，是赋予它基本知识基础的东西。它基本上就像我们的大脑一样，为了吐出一个单词。相当于，想象一下，在你对伴侣或朋友说出每一个字之前。你需要积极思考大脑中的每一个神经元。我们谈论的是数十亿个神经元。这是不合理的，但这就是计算机或人工智能模型有效工作的方式。现在，通常使用 Nvidia 芯片时，模型权重实际上并不存在于芯片上，也不存在于 GPU 上。他们住在一个单独的地方

数据服务器或组件。里面装有内存，所有高带宽内存和内存芯片的价格也飞涨。所以它是外部的。所以我想说的是，如果你将提示发送到 GPU，那么它需要转到内存文件来检索并运行整个模型权重，这是它的存储位置，然后返回到 GPU，处理，创建单词。给你一个单词，返回并一遍又一遍地运行相同的循环。这就是我之前给你的公共巴士类比，它很慢，有多个站点，但在生成或使用计算时它有点高效。它比 cerebrus 便宜。现在，当您查看大脑芯片时，它们将内存与 GPU 结合在一起，因此您所看到的只是一件事。因此，从向在大脑芯片上运行的模型发送提示所花费的距离或时间要短得多。它更贵，但更短、更快，这意味着您可以立即快速地给出响应。现在，大脑芯片的内存容量约为 44 GB。如果你想一想，今天的现代模型是

价值 TB 的数据，特别是如果你看看它们的模型重量，所以。你仍然需要多个这样的大脑芯片才能使其工作，但如果你愿意支付前期成本，你可以如此快速地为这么多人提供服务，对于 Jane Street 或像 Jane Street 这样的其他公司来说，这对他们来说非常有价值。这就是 Cerebrous 的独特卖点。是的，我们卖更快的推理。但后来我开始思考，好吧，这是否是严肃的还是其他的。公司，快速推理的实际市场机会是什么？比如，只是像 Jane Street 这样的交易算法公司，还是有其他公司可以使用这样的芯片，或者支付溢价来获得这样的芯片，以便他们能够击败竞争对手并赚很多钱？嗯，答案是肯定的，你会想听听这个的。所有这些以及今天 Q Qualcomm 为您带来的 In the Loop 节目中的更多内容。现在，在我解释哪些行业正在使用超快速推理芯片之前，我认为向您展示这些芯片的速度非常重要。我使用 Cloud 生成了这个有趣的小演示，以了解它是如何工作的或者它对您来说如何。那么，您在屏幕上看到的就是在聊天 GPT 或任何 AI 模型中输入平均查询时会得到的标准响应，对吧？所以看起来像这样，这就是它给出答案的速度。速度相当快，对吧？所以对于普通人来说，你知道，这很好。您不需要比这更快的推理速度。但后来你

一种向企业的转变。那么让我们更进一步吧。这是 Nvidia 的超快，如果你眨眼，你可能会错过那个演示，我们再次运行它。超快，对吧？就好像，你眨一下眼睛，你的答案就已经在那里了，对吧？如果你是一个普通人并且你想更快地得到结果，那么它就没那么有用了，当然，好吧，谁在乎呢？我只是想要一个谷歌查询，我只是想弄清楚这个食谱是什么，所以我不需要它太快，你可以给我慢一点，我不想为此每月支付 500 美元。那完全没问题。但如果你是 Jane Street。信息、毫秒、秒、小到 T 的事情都可能导致一笔交易损失数千万到数亿美元。这就是每秒 750 个代币的超快速度。你明白了吗？让我们再试一次。再一次，再一次，从字面上看，我正在看着这个，我眨着眼睛，但我仍然想念它。这太疯狂了，就好像它突然出现或出现在你的屏幕前一样。现在，只用了0.2秒就出现在我们面前。因此，Cerebrous 的目标是每秒 5000 个代币，看起来像这样。你其实

看不到它，因为它是，我不认为这是准确的，但它说的是 0.0 秒，呃，这可能对于普通人来说，你不一定能听懂。这个想法是。他们不为零售客户提供服务。这些芯片的全部目的不是为零售客户提供服务，而是为时间紧迫的企业提供服务，这可能会花费您数百、数百甚至数十亿美元。这不仅仅是这适用于贸易公司。还有更多。好吧，让我们从一般的代理或编码开始。毫无疑问，自去年年底 Cloud Code 推出以来，AI 编码已成为一个庞大的产业。这样想真是疯狂。那是不到一年前的事。它已经出现了绝对的飞速增长，以至于不同能力的软件工程师，从 L4 到 L6 到 L7 的工程师都在日常工作流程中非常积极、直观地使用 AI 编码模型。现在您可能想知道，好吧，他们应该编码很重要，我明白，他们应该更快地构建产品很重要。但是为什么他们需要最快的芯片？好吧，想象一下您是一家财富 500 强公司，并且您处于一个竞争非常激烈的领域，其他公司都在紧追不舍。产品迭代、产品开发、产品测试，假设你有一百万个不同的想法，就会变得极具竞争力。花费 2 个月和数千万美元来测试一个想法，却发现它是错误的，其成本可能会让你在与主要竞争对手的竞争中失败。所以，你需要弄清楚一些事情。我怎样才能减少这个成本

我怎样才能加快我的测试速度？迭代不同的产品，这样我就可以快速找出什么有效，什么无效，并比我的对手或竞争对手更快地构建和加倍努力。这几乎适用于每家正在关注人工智能领域、试图找出答案的财富 500 强公司。我到底如何利用它来发挥自己的优势，而工作最快的人（我非常具体地使用这个形容词）最终将比任何竞争对手获胜或领先得多。因此，编码作为一种通用实践非常适用于大脑芯片或一般更快的推理芯片。事实上，如果你向右看，你会看到合作伙伴或客户已经很严肃了。顺便说一句，他们的积压订单价值约为 250 亿美元。我查看了他们几个月前的第二季度收益报告，我意识到，虽然他们现在每年赚取 50 美元左右，我认为现在每年为 1400 万美元，但他们未来几年的积压订单为 250 亿美元。当然，现在其中很大一部分来自 OpenAI，但他们正在开始建立一个独立客户名册。现在他们中的一些人被指望

我在右侧显示的屏幕，其中包括 IBM、Mistral、Notion、Mayo Clinic，包括 Lovable 和 Cognition。现在Lovable和Cognition真的很有趣，因为他们是人工智能编码平台，他们有自己的人工智能代理，所以有趣的是他们想插入最快的基础设施来击败对方，这是相当讽刺的。然后你有IBM，它更TR额外的企业曝光，然后你有 Mistral，这是另一个人工智能实验室本身，然后是 Notion，它是在工作生产力方面，或者是 Mayo Clinic，它专注于科学研究。所以你开始明白，哦，也许想要使用大脑芯片的不是定量金融研究公司或金融交易公司，而是任何接触计算机的东西。所以我想我想在这里传达的是我们正在进入一个非常奇怪的世界，过去快速信息传递并导致数百万美元产出或结果的时代不仅仅为财务人员或贸易公司保留。现在，它是为任何可以访问需要自动化特定类型工作、需要迭代和构建产品的计算机的人保留的，特别是如果你是一家正在构建软件的公司，并且如果你是一家大型跨国公司。你知道，花费数千万美元算作研发，以尝试制造更好的产品。想象一下，如果您花费了 5000 万美元，最终创建了一款产品，并在接下来的几年内为您赚取了数亿美元到数十亿美元

年。这是一笔值得花费的资本支出。因此，财富 500 强中的每家公司都在退后一步，他们正在研究 Jane Street 每年每兆瓦赚取 2 亿美元的例子，他们在思考。我想知道这对我们自己来说有什么用处。我们怎样才能打败我们的竞争对手？我们的竞争对手正在利用这些芯片做什么？这就是为什么 Cerebrus 现在缺货，也是为什么我认为 OpenAI 向零售销售收取过高的费用。我认为他们没有必要这样做，我认为他们只是帮个忙。现在，如果我们退一步，我要在这里说的最后一点是，如果你正在听这个并且你会想，好吧，酷，我得到了整个论文，但我不明白这如何适用于我个人。我没有一个很好的答案给你，但我鼓励你想到钢铁侠中的托尼·斯塔克与贾维斯互动时的情况。他给这个AI讲了话，没看过电影的你们也去看电影吧。他正在和这个人工智能说话。贾维斯用一种非常人性化的声音回应他，它有情感，有意图。无论托尼·斯塔克要求成为什么

在他面前，在全息图中，在软件包中，在他的钢铁侠套装的软件更新中，在几毫秒内神奇地出现在他面前，它只是神奇地出现在他面前。这就是我们将要进入​​的世界，它将改变我们与周围设备交互的方式类型，无论是手机还是放在面前的笔记本电脑。我。它不会导航到网站地址或下载应用程序并滚动浏览它，它只会在您面前具体化，但它不仅仅是特定的应用程序，它将是专门为您量身定制的应用程序，并且它可能不适合世界上其他任何人。想象一下，这适用于好莱坞或电影或视频，内容仍然相同，但它是专门为您量身定制的，即时实现，适应您的面部表情反应。这是一种非常奇怪的《银翼杀手》式的未来，我希望它不会那么黑暗，但是。探索起来非常有趣，我不太知道这将如何发展，但是，是的，这就是这一集。我只是想谈谈推理，因为这整件事都与严肃的事情有关，我意识到，等等，这里实际上有一个更重要的故事要谈，但就是这样。非常感谢您的聆听。如果您喜欢这个并且您还没有订阅，请订阅。我认为，你知道，我正在尽最大努力尝试分解一些最复杂的主题，并希望在标题下为您提供一些价值

你发现这很有用。如果你没有，也请在评论中告诉我，我，我想听听你们的意见，但如果你喜欢它。并且你想到一个可能想听这个的朋友，请复制链接并与他们分享，这对我们有很大帮助。是的，我想就是这样，明天的节目中见。非常感谢您收听今天由高通为您带来的 In the Loop 节目。