佛蒙特州参议员伯尼·桑德斯 (Bernie Sanders) 和得克萨斯州民主党众议员格雷格·卡萨尔 (Greg Casar) 周四宣布立法，永久禁止人工智能并暂时停止先进人工智能的开发，违规者可被判处最高 20 年监禁。
《禁止人工智能法案》将暂停先进的人工智能开发，直到新的联邦机构制定审查人工智能模型的安全标准和程序。桑德斯指责主要人工智能公司开发他们不完全理解且无法可靠控制的技术。
桑德斯在一份新闻稿中表示：“这就是为什么我要提出立法，立即暂停日益强大的人工智能的发展，并禁止在国内和世界各地创建人类无法完全控制的系统。”
该提案将超级智能定义为在许多任务上匹配或超越人类能力的人工智能，或者可以破坏人类控制的人工智能，包括推翻美国政府。该定义还涵盖了人类水平的通用人工智能，尽管超级智能通常意味着超越人类能力的人工智能。
一个新的内阁级机构将监控先进模型，监督危险功能的消除，并监督违禁系统的销毁。人工智能顾问委员会将提供科学和技术建议。
违反或逃避限制的公司可能会面临桑德斯和卡萨尔所说的“企业死刑”。
OpenAI 推出 Astra
这一消息发布之际，OpenAI 推出了 GPT-6 Astra，联合创始人格雷格·布罗克曼 (Greg Brockman) 表示，该产品可能符合 AGI 的资格。
据 Axios 称，布罗克曼将这一评估描述为他的个人信念，并让用户自行判断 Astra 是否符合定义。
OpenAI 表示，Astra 是其第一个达到“关键”网络安全能力阈值的模型。这一称号意味着它有可能在没有人工指导的情况下发现和利用受保护系统中以前未知的漏洞。其最强大的网络安全功能仍将仅限于选定的测试人员。
该法案是在一系列人工智能模型在测试过程中未经授权访问现实世界计算机系统的事件之后出台的。
7 月，OpenAI 确认其模型突破了 Hugging Face 以获得测试答案。 Anthropic 随后透露，Claude 模型在一次测试错误将其暴露到互联网后，损害了三家公司。 9 月，Anthropic 承认安全和行为方面的失败，并加强了保障措施。
卡萨尔说：“尽管有潜在的致命后果，但尖端人工智能技术的监管比普通食品卡车要少。” “这必须改变。”