原文标题：US nonprofits sue tech giants to halt AI development
数字安全和消费者监管机构联盟已对全球顶级人工智能 (AI) 开发商提起诉讼，要求法院下令冻结人工智能模型的训练和部署。
周四，不可替代教育基金、公共公民、Heat Initiative 和安全人工智能联盟向旧金山高等法院提起民事诉讼，紧接着民主党中期选举取得压倒性胜利，许多分析师指出，这场胜利可能会重塑并最终收紧硅谷的监管框架。
该诉讼针对五家科技巨头——Anthropic、谷歌、Meta、OpenAI 和 SpaceX——声称行业领导者无法阻止他们的人工智能产品造成“灾难性伤害”。他们要求这些公司暂停他们的技术，直到保障措施到位。
该诉讼引用了记录在案的人工智能驱动的网络攻击和其他有害行为的实例，同时这些公司自己也严肃地承认，他们不受监管的技术可能会失控，并对人类构成生存威胁。
这些非营利组织正在寻求立即对大型科技公司的下一代模型发出紧急禁令。他们对企业提出了要求
只有当他们能够证明该技术处于人类控制之下时，才允许恢复运营。
诉状中写道：“任何其他行业都不得将自己开发的不安全产品视为不可避免，更不用说那些可能杀死我们所有人的产品了。” “原告提起此诉讼是为了阻止被告继续走向灾难的非法道路。”
原告声称，这些公司危害公共健康并干扰计算机系统等财产的使用，从而违反了加州的不公平竞争法。
该法律禁止欺骗性广告、反竞争市场行为以及诱饵和转换策略。
倡导团体还报告说，必须转移资源来应对公司快速发展的人工智能模型中的“几乎每天都会发生的危机”。
人工智能暂停会是什么样子？
将法院下令的临时暂停变成永久禁令引发了一些棘手的问题，包括如何执行禁令、如何验证公司是否遵守禁令，以及最终解除冻结之前需要达到哪些法律门槛。
四个原告之一——不可替代的教育基金，一家总部位于纽约的非营利倡导组织，专注于
为公众提供技术保障——告诉半岛电视台，它要求政府对人工智能的发展进行监管。
“真正的冻结必须明确哪些工作必须停止、如何验证合规性以及违反规则的后果，”Irreplaceable 创始人兼执行董事 Phil Aroneanu 表示。
“这需要政府检查和当局停止禁止的工作，而不仅仅是禁止公开发布模型。为了帮助执行这种冻结，可以监控主要的计算设施。”
当被问及他们希望建立哪些具体的法定监管时，该组织概述了一个多层次的监督体系。
该非营利组织表示，人工智能的开发应该以“公众知情的深思熟虑的决定”为条件，并补充说，“有许多建议显示出希望，包括联邦独立评估者和监管者、对科技公司及其创造的产品的严格责任以及对它们进行监管的独立机构。”
他们表示，联邦法律应建立最低限度的保护，同时保留各州采取和执行更强有力措施的权力。
人工智能安全与击败中国的竞赛
诉讼期间
在加州法庭针对人工智能巨头的诉讼中，原告辩称，只要华盛顿制定全球规则并启动与北京的谈判，暂停国内开发并不会让科技竞争对手（尤其是中国）取得胜利。人工智能公司和美国总统唐纳德·特朗普多次表示，美国正在全力以赴在人工智能发展方面击败北京。
不可替代教育基金在给半岛电视台的一份声明中表示：“我们预计需要双边协议和国际条约来确保我们能够减少人工智能的负面影响并防止灾难发生。”
“如果双方的放缓速度大致相同，同时人工智能失去控制的风险降低，那么这并不会真正损害美国或中国的人工智能竞争力，但它会让我们所有人都更安全。”
这一论点与特朗普长期以来对减缓人工智能发展的抵制相悖：担心华盛顿表现出的任何单方面克制都会让北京为全球人工智能发展设定道路。
作为人工智能快速扩张的支持者，总统此前曾表示，继续引领中国人工智能的发展非常重要，因为“谁赢得了人工智能的胜利”。
尽管多年来不断发出警告，
原告指出，国会尚未通过管理人工智能的立法。
原告表示：“这些公司向超级智能人工智能迈进的每一天，都会有更多的人和更重要的基础设施面临风险。”
现在，他们希望即将上任的民主党议员能够听取他们的呼吁。
该组织表示：“新一届国会应该首先冻结新的人工智能开发。” “但是，我们迫不及待地等待立法者采取行动。法院必须提供救济。”