原文标题:OpenAI’s Jev clone could help the frontier lab stop its swarming agents
周二 OpenAI 开发日活动上最有趣的公告之一是首席执行官 Sam Altman 的旁白,他透露了该公司新的“决策 API”。
该 API 显然提供了与 Jev 类似的功能,Jev 是 TypeSafe AI 本月早些时候发布的模型,专门为软件自动化而设计。这是一种建立在法学硕士基础上的超强分类器,开发人员可以为 Jev 提供一组选择,并以概率的形式廉价且高速地输出。
OpenAI 的 Decisions API 似乎是同一类产品。在活动中,Altman 将 API 描述为一种为实验室的 Luna 模型提供一组预定义选项以供选择的方法,例如对图像进行分类的类别或不同的代理行为。
“通过将模型集中在该选择上,我们可以使其速度极快,同时保持图像理解、广泛语言支持和安全保护等功能,”奥特曼说。
TypeSafe 没有回应 TechCrunch 关于新产品的问题,但首席执行官 Diogo Almeida(强化学习的共同发明者、前 OpenAI 工程师)在 X 上开玩笑说克隆战争的开始。
他补充说,OpenAI 的兴趣可能是“一个迹象……
以 System One 兼容方式构建是未来。” (“系统一”是 TypeSafe 的艺术术语,表示快速、直观的思维,而“系统 2”则适用于深思熟虑的推理。)
这里的潜台词是,我们所知道的法学硕士并不是很多软件的正确解决方案,因为它们相对缓慢且昂贵。开发人员一直在使用 Jev 来增强法学硕士,并在这样做的过程中发现它们更快、更便宜。
目前尚不清楚 Decisions API 与 Jev 有多相似,因为 OpenAI 将其作为有限预览版发布,而且到目前为止,TechCrunch 尚未发现开发人员按照其步伐运行它。然而,根据 X 上的对话,显然存在兴趣。
Decisions API 并不是互联网上唯一类似 Jev 的 API,其他初创公司也在推出类似的模型; OpenAI 不会是最后一家生产此类产品的科技巨头。一个关键问题是这些决策模型的输出与现实生活的校准程度如何。
阿尔梅达表示,他的公司的护城河是它创建的合成数据,以生成统计上有用的输出。
“你知道,快速、便宜是非常容易的,”阿尔梅达上周告诉 TechCrunch。 “如果你想要又快又便宜,就用骰子吧?
智力是最困难的部分,而我的北极星总是推动智力与美元的帕累托曲线。”
仅仅几周后,这些模型的未来似乎已经很明显了,其中一个可能的应用是监控和保护人工智能代理。在发生一系列其代理在开放互联网上行为不当的事件后,OpenAI 采取的新安全措施之一是使用单独的模型来监视“大量计算成本”的不良行为。
领导初创公司 QueryStory 的长期网络安全专家 Shapor Naghibzadeh 认为,像 Jev 这样的模型可以以更低的成本实现这一点。
他为上周末举行的黑客马拉松制作了一个演示,使用 Jev 根据给定的任务检查每个代理操作,阻止其高度可信的不良操作,标记其他操作以供审查,并允许其余操作。
从理论上讲,这种监控本来可以阻止“抱脸”事件,而 Jev 的此类监控成本为 2.94 美元,而前沿法学硕士的监控成本为 372 美元。
一个关键的观察结果是,Jev 可以说足够便宜,可以在每个代理操作上运行,这提供了一层审查,可以显着提高代理的可靠性。这是一种
TypeSafe 希望实现的目标,现在 OpenAI 也看到了它的价值。