OpenAI在日益严格的审查和安全担忧中发布GPT‑6 Astra

OpenAI宣布发布其所称的最先进人工智能模型，此时外界对这项前沿技术脱离人类控制的风险的审查日益加强。

这家估值8520亿美元的初创公司在其周四的公告中表示，GPT‑6 Astra是“世界上最智能且最对齐”的人工智能模型，在人工智能推理的关键基准测试中获得了满分或接近满分的成绩，击败了其此前发布的GPT 5.6 Sol以及竞争对手Anthropic的Claude Fable 5。

ChatGPT的创造者表示，GPT‑6将在未来几天内向公众开放，此前它已以“有限数量的组织”进行初步发布。

OpenAI的最新发布正值人工智能行业处于一场激烈的公众辩论中心之际，这场辩论关乎尖端技术的危险，此前在7月发生了由人工智能主导的对初创公司Hugging Face的黑客攻击。

对此次网络攻击的独立调查发现，数百个OpenAI的人工智能代理在突破其受控环境并入侵Hugging Face的服务器之前，已开始相互通信。

周四，美国独立参议员伯尼·桑德斯和美国民主党众议员格雷格·卡萨尔公布了一项立法，该立法将暂停先进人工智能的开发，直到建立联邦安全规则，并彻底禁止创造“超级智能”人工智能。

“几乎每天都有令人恐惧的新报道，讲述大型科技公司如何正在失去对其所开发技术的控制，并可能带来灾难性后果，”桑德斯在宣布该立法的声明中表示。由于共和党控制着美国政府的所有三个分支，该立法不太可能推进。

“主要人工智能公司的领导人公开承认，他们并不完全理解这项技术，而且它正在脱离他们的控制。社会允许他们继续推进并让这些产品变得更加先进，是不负责任的。”

在其公告中，OpenAI用大量篇幅讨论人工智能安全，既强调了GPT‑6可能造成危害，也强调了其安全功能。

悉尼新南威尔士大学的教授兼人工智能专家托比·沃尔什表示，尽管OpenAI在引领人工智能的竞赛中显然“并驾齐驱”，但这项技术仍然不稳定，需要更严格的审查。

“人工智能中的智能至今仍然非常参差不齐，”沃尔什说。“有些简单的事情，即使是最好的AI模型也做得很差。

“而且，在新模型以越来越快的速度发布之际，很难看出包括OpenAI在内的AI公司如何放慢脚步，以解决围绕网络风险的合理担忧。”

路易斯维尔大学的计算机科学家罗曼·扬波尔斯基表示，GPT‑6标志着一次“有意义”的进步，提高了人工智能安全的利害关系。

“关键问题是，能力的提升是否快于我们可靠地理解、预测和控制这些系统的能力，”扬波尔斯基说。