Nvidia、Google 和 Emerald AI 推出了人工智能能源管理联盟 (AEMA),该联盟根据电网状况动态管理数据中心的电力使用。 Emerald AI 创始人兼首席执行官 Varun Sivaram 加入讨论联盟事宜。
我们已经说明了这个问题。我想听听你们是如何解决这个问题的,因为这是一种比我们从华盛顿立法者和监管机构那里听到的更加细致的方法。
确切地。 Emerald AI 是我们两年前创立的,旨在将人工智能数据中心转变为电网的灵活盟友。这样做的原因是,如果人工智能数据中心能够在电网压力很大的时候减少功耗,比如说亚利桑那州凤凰城炎热的夏日,那么该数据中心实际上可以适应现有的电网,而无需建造昂贵的基础设施,从而提高电费。事实上,在其他条件相同的情况下,灵活的人工智能数据中心可以帮助当地社区保持较低的价格和负担得起的费用,并且可以帮助保持电网的可靠性,同时帮助美国在人工智能创新的竞赛中获得技术优势,因为我们有更多的数据中心连接到电网上。因此,由于这种在您需要时提供灵活性的技术,这是一场双赢、双赢、双赢。
那么,如果您必须具有灵活性,那又怎样呢?如果在某些时刻网格出现紧张并且必须将其降低,我想这意味着您不一定要为所有计算提供动力。
有很多方法可以获得灵活性。我给你举一些例子。我们的公司 Emerald AI 与 Nvidia 等巨头合作,使数据中心能够减慢其运行的某些计算速度。您可能有一项可以放慢或暂停的微调工作,或者您可以将一项工作以光速从一个位置移动到另一个位置。因此,当您与 GPT 聊天时,突然您得到的答案不是来自弗吉尼亚州,而是来自芝加哥,正如我们在两个不同的 Oracle 数据中心使用 Nvidia 芯片进行演示的那样。此外,您还可以使用现场配备的电池。有很多方法可以实现这种灵活性,但目标是今天的电网上实际上有很多我们无法利用的电力,因为今天的数据中心可能需要 24/7 不间断地使用电力。如果他们能够灵活行事,成为我们所说的电网好公民,他们就可以使用我们今天无法在电网上使用的 100 吉瓦电力。这有助于解决负担能力问题并提高发电速度。
这听起来确实很聪明,Varun,但是所有现有的数据中心又如何呢?您是否必须对所有这些进行改造才能成为该新模型的一部分,或者这只是关于下一代?
那么,Emerald AI 的工作方式是我们既与现有数据中心合作,又与新数据中心合作。你知道,Nvidia 是 Emerald 的重要合作伙伴和投资者,其他 12 家财富 500 强全球公司也是如此。与他们一起,我们为现有数据中心提供了模型,我们的软件 Emerald Conductor 平台可以帮助现有数据中心改变其能源消耗方式。我们正在与 Nvidia 和 Digital Realty 合作建设一个新的数据中心,这是世界上第一个从头开始为灵活的 AI 数据中心、AI 工厂提供动力的项目。位于弗吉尼亚州马纳萨斯的发电容量为 100 兆瓦,将于今年晚些时候上线。因此,新的数据中心可以更快地连接到电网,想象一下快速通道。现有数据中心可以更快地获得更多电力。
这很有趣,因为我们谈论了很多关于将数据中心脱离电网的问题。正确的。在仪表后面。现在我们需要它们在网格上。
嗯,我实际上已经与 FERC 主席讨论了这一问题以及电网需要适应所有这一切的方式。您正在与监管机构进行对话吗?我只是想知道您在行业方面谈论了与英伟达和其他公司的合作伙伴关系,但您在政府方面的谈话又是什么呢?
是的,绝对是。我们认为,如果数据中心能够与监管机构和能源行业合作,并说,看,你实际上可以拥有这一切,那么这是一笔巨大的交易。你可以拥有更多的数据中心,更多的创新,你可以为社区提供更低的费率,并且你可以拥有更可靠的电网。这里有一笔大买卖。让我们更快地连接这些灵活的数据中心。这就是为什么本周我们非常自豪地推出了人工智能能源管理联盟。 Emerald、Google 和 Nvidia 是 AEMA 这个联盟的创始成员,我们还有 20 个启动合作伙伴、领先的 AI 实验室和模拟设备领先半导体公司 Anthropic,以及领先的能源公司 AES、NRG、Constellation、RWE、National Grid,我们共同打造了一个统一战线。你提到了 FERC,Kaylee。我们正在与 FERC 委员交谈,我们正在与州监管机构交谈,我们正在与政府交谈,告诉他们,这是一项伟大的交易。让我们确保人工智能数据中心能够成为好公民。电网的好公民,社区的好公民。作为回报,他们应该获得更快、更大的电网连接。
您对我们今天醒来看到的一些人工智能故事有何看法?我知道这与数据中心无关,但自从这个行业真正开始兴起以来,您就一直在这个行业中。大约一年前,我在华盛顿特区举行的 Nvidia 会议上见到了您。我们谈论的不是诸如此类有关人类的故事,例如自学。 Claude 自行完成 26% 的研发工作。克劳德还对 Chat GPT 进行了黑客攻击。我们如何控制这项技术?
好吧,乔,如你所知,我开始进入这个行业的原因是因为我认为能源现在已经成为人工智能革命的决定性问题。嗯,比如说你看看中国,中国有充足的能源。到 2030 年,他们将拥有 400 吉瓦的人工智能闲置产能。然而美国却没有。我们希望在从现在到 2028 年的未来两年内连接 70 吉瓦的人工智能数据中心。我们实际上只能插入 30 个。
但是您是否担心人工智能安全会干扰您在能源方面尝试做的工作?当我们进行这次对话时,人们正在改变他们的观点。
嗯,看,如果美国要参与竞争,我们将需要在这个国家建立数据中心,这绝对是至关重要的。对于这些数据中心,我们希望通过这个新联盟和 Emerald AI 的工作确保这些数据中心是好公民。收容他们的社区也应该得到同样的待遇。如果你是一个社区,并且你有一个数据中心进城,你想要确定,嘿,那个数据中心会竭尽全力,这样我就不会出现停电,我不会遇到可靠性问题,而且我的账单可以负担得起,因为如果没有,我们就开始面临权衡。数据中心可能会来到城镇,你可能会说,好吧,我的电网上是否有空间来引入先进的制造、医院或社区能源增长?现在,有了灵活的人工智能数据中心,您就可以拥有这一切。现在不仅仅是 Emerald AI 这么说。现在,20 家领先公司向全国监管机构传达了这一重大交易的统一信息。
我可以问一下吗,乔提到的故事之一是人工智能正在自我改进,而不一定需要人类的指导。这种灵活性在多大程度上是由自动化决策驱动的,在这里放慢速度,然后发送到那里。这些数据中心实际支持的技术是否也影响了它们的灵活性?
这是一个很好的问题。我们如何制造这些新设备、这些大型数据中心?我们如何使它们变得灵活?我首先想说,这不是科幻小说。这一点实际上是被证明的。要知道,谷歌作为这个新联盟的创始成员之一,已经为其数据中心做了千兆瓦的需求响应。 Emerald 和 Nvidia 现在已经在伦敦、呃、凤凰城和弗吉尼亚州在世界各地进行了六次演示。正如我提到的,我们现在已经上线了这个可以灵活使用的 100 兆瓦设施。我给你举一个Flex的例子
但弯曲是人类在指挥吗?
很好的问题。我给你举个例子。在伦敦,事实证明,在足球比赛的中场休息时,每个人都会在英国观看这些足球比赛,他们称之为足球。每个人都兴奋起来,他们在中场休息时打开茶壶,对吗?因此,此时电网上出现了千兆瓦的电力峰值。现在,在那一刻,或者,你知道,雷击击中了电网并摧毁了变电站或线路。在那一刻,没有人能够足够快地采取行动来调节该数据中心的电力。因此,我们在 Emerald 与 Nvidia 和当地公用事业国家电网一起展示了数据中心能够自主降低功耗,但以一种非常特殊的方式进行。以这样的方式进行:计算、人工智能计算将继续运行,关键任务计算继续以正确的性能水平运行。因此,我们保护了人工智能,保护了电网,保持低电价,并且社区拥有有弹性的电力。