原文标题:Box taps Nvidia’s Nemotron for new agent-first content retrieval system

在周四的开发者大会上,Box展示了一项新功能,该功能将把英伟达的Nemotron嵌入系统构建到其产品的核心中。

这项名为Box Content Retrieval的新功能允许智能体通过依赖Nemotron创建的嵌入元数据,更有效地回答查询。

Box表示,对用户来说,结果是查询更快、更准确且成本更低。英伟达生成式AI软件副总裁Kari Briski告诉TechCrunch,她预计查询回答速度将提高四倍,错误减少20%,使用的token减少90%。

该系统将向所有Box Enterprise Advance客户提供,并于明年初推出。

“这极大地提升了我们搜索技术对智能体的相关性,”Box CEO Aaron Levie说。“智能体不必再逐一阅读每份文档,我们可以返回文档中最相关于用户查询或智能体正在执行的任何任务的片段。”

该功能是英伟达Nemotron Embed项目的实现,该项目提供开放权重嵌入模型以改进自动化检索系统。主要实验室往往忽视了这类使用LLM的模型

对数据进行预处理,以便智能体能够更好地使用。该领域一直是英伟达开源模型项目的重点,其最近于7月发布的Nemotron在衡量检索质量的RTEB基准测试中位居榜首。

Box表示,该系统在与主动型智能体配合使用时最为有用,并以律师为例,称在新系统下,律师表面上将能够更轻松地找到相关条款和判例。由于Nemotron的嵌入超越了简单的关键词,能够映射底层概念,因此即使使用了不同的措辞或语言,搜索工具也能呈现相关的法律主题。

虽然Nemotron模型可免费获取,但该系统还严重依赖Box已有的元数据和权限控制,这将使得从零开始重建变得颇具挑战。“我们大概是把五种不同的技术打包进了一个简单的API中,”Levie对TechCrunch表示。