新的光子架构将为超过 20 万亿参数的模型提供人工智能推理能力,每用户每秒最多可处理 10,000 个令牌

旧金山,2026 年 10 月 1 日 /美通社/ -- 打造新型人工智能推理系统的半导体公司 Volantis 今天宣布获得 8800 万美元的 A 轮融资,由 Lachy Groom 和 Abstract Ventures 共同领投,John Doerr、VXI Capital、Triatomic 和 Susa Ventures 参与其中。此轮融资还包括天使投资人 Dwarkesh Patel、Naveen Rao 和 Sholto Douglas。

Volantis 正在构建一种新的人工智能推理架构,消除内存容量和带宽之间的权衡。其第一个系统 A-1 旨在以每用户每秒高达 10,000 个令牌的速度运行超过 20 万亿个参数的模型,同时降低每个令牌的推理成本。

该公司的创始团队包括来自 NVIDIA、AMD、Broadcom 和 Ayar Labs 的半导体和光子学资深人士。他们之前的工作包括第一个 CoWoS 产品、第一个大批量可调谐 VCSEL 和早期硅光子共封装光学系统。

Volantis 首席执行官兼联合创始人 Tapa Ghosh 表示:“随着人工智能代理承担更多工作,他们完成工作的速度将越来越多地决定公司运营的速度。” “当今的硬件迫使我们在运行最大、最复杂的模型和快速运行模型之间进行权衡。我们推出 Volantis 来消除这种权衡。”

突破AI记忆墙

高速运行大型人工智能模型需要巨大的内存容量来保存模型,并需要巨大的带宽来不断地将数据输入计算引擎。现有的架构迫使两者之间做出妥协。

片上 SRAM 提供高带宽,但容量有限,限制了模型大小和上下文窗口,同时增加了成本和能耗。 GPU 和其他基于 HBM 的系统提供了更大的容量,但带宽限制了它们服务日益大型模型的速度。即使是 3D DRAM 等较新的方法也仍处于相同的权衡曲线上。

Volantis 正在设计 A-1,以将内存容量和带宽同时增加近两个数量级,从而允许越来越大的模型以更高的推理速度运行。

这种性能可以显着加速人工智能代理的工作流程。在两分钟而不是 30 分钟内完成任务的编码代理为开发人员提供了更多测试想法、交付软件和迭代的机会。随着智能体承担更长、更复杂的工作,推理速度越来越决定他们完成任务的速度。

光子互连的新方法

Volantis 正在构建一种新型光子互连,专门用于将计算芯片连接到内存。

其光学结构将大量内存芯片连接到一个统一的池中,随着内存的添加而聚合它们的带宽。这使得 A-1 能够同时增加存储器容量和带宽,同时使用成本更低的片外存储器。

虽然光子学已经用于在数据中心内部移动数据,但现有技术主要集中在芯片到芯片的连接上。芯片到内存的连接需要 100 多倍的数据才能在更短的距离内传输,从而对能源和成本产生了不同的要求。

Volantis 专门针对这种环境开发了一个光子平台。其架构使用定制微型 VCSEL 而不是外部激光器,利用现有的砷化镓 VCSEL 供应链并避免磷化铟供应限制。微型 VCSEL 体积小、温度稳定且功耗低,可实现端到端链路的每位功耗低于 1 皮焦耳。随着 A-1 走向商业化,Volantis 计划推出该架构背后的更多创新。

投资和商业化

Volantis 计划于 2027 年向客户交付首款集成推理引擎。

此次融资将支持 A-1 及其光子存储架构的开发和商业化,包括扩大公司的工程团队并将系统推向客户部署。

关于飞行

Volantis 是一家为人工智能推理构建新架构的半导体公司。该公司将光子学和半导体设计相结合,以增加内存容量和带宽,使更大的人工智能模型能够以更高的速度运行。

欲了解更多信息,请访问 https://volantissemi.ai/

查看原文:https://www.prnewswire.com/news-releases/volantis-raises-88m-series-a-to-demolish-the-ai-memory-wall-with-photonics-302895940.html