其自主安全代理在 Linux 内核中发现了 948 个不同的漏洞,开发了有效的漏洞并起草了修复程序以供审核,所有这些都需要大约 120 万美元的 API 积分。

OpenAI 在周三发布的结果中表示:“我们选择 Linux 来研究前沿模型如何有效地发现漏洞并在如此规模和重要性的代码库中展示其安全影响。”

哪些公司将在2027年之前IPO?

Linux 内核为云服务器、Android 设备和世界上许多关键计算基础设施提供支持。 OpenAI 实验中发现的缺陷是本地权限提升漏洞:攻击者首先需要对易受攻击的计算机进行有限访问,但随后可能会获得 root 权限并完全控制。

948 个缺陷,1,169 个可用漏洞

OpenAI 的代理扫描了大约 280 万行内核代码,约占该项目的 7%。 OpenAI 表示:“我们的原型识别并分析了 2,308 个候选 Linux 内核结果,动态重现了 1,724 个漏洞,并产生了 948 个本地权限升级 (LPE) 漏洞,这些漏洞可能允许非特权本地用户获得 root 访问权限。”

在按根本原因和建议的修复方案对漏洞进行分组后,研究人员统计出了 948 个不同的缺陷。

10 月份的运行花费了 1,213,430 美元的 API 积分,相当于每个漏洞约 1,279 美元。 OpenAI 将其与黑客竞赛中 Linux 权限升级漏洞的历史奖金 20,000 至 70,000 美元进行了比较,表明如果手动发现相同的结果,假设价值为 1890 万美元至 6630 万美元。

早期的 GPT-5.6 Sol 活动在 7 月份发现了 166 个独特的权限提升漏洞,价值 513,690 美元。即使在内核经过数月的修复之后,一个较新的、未发布的网络模型在 10 月份发现的数量仍然是原来的五倍多。

OpenAI 还表示,其代理使用了至少 10 种研究人员和他们咨询的外部专家不熟悉的开发技术,而不仅仅是从训练数据中检索到的现有技巧。

当黑客获得相同的工具时会发生什么?

人工智能公司发现关键错误只是系统如何能够执行高级网络安全研究并取得以前需要大量人类专业知识的结果的另一个证明。

上周,Anthropic 披露,Claude 的未发布版本发现并利用了广泛使用的软件(包括 Chrome 和 Linux)中的严重漏洞。其中一些漏洞可以在很少或没有用户交互的情况下远程执行恶意代码。

在 OpenAI 宣布之前,这项研究的经济学已经发生了变化。

Vidoc Security 的研究人员使用可公开访问的模型,以每个文件不到 30 美元的价格重现了与 Anthropic 强大的 Mythos AI 相关的多个漏洞发现。

这些测试表明,尽管重现缺陷与开发能够危害受保护系统的可靠漏洞不同,但发现漏洞变得越来越容易。

OpenAI 的最新实验更进一步,将大部分利用过程自动化,为防御者在犯罪分子利用相同弱点之前尝试修补软件创造了潜在优势。

该公司警告说,对过时操作系统的访问权限有限的攻击者可能越来越能够通过人工智能的帮助升级他们的权限。

OpenAI 正试图通过经过验证的安全程序来限制对其功能更强大的网络安全模型的访问。其 Daybreak Red 计划为获得批准的防御者提供了使用专门的人工智能工具来进行漏洞研究、漏洞测试和缓解开发的机会。