人工智能风险辩论：存在的威胁还是危险的工具？

亚德尼研究公司表示，对人工智能的担忧正在从假设的灭绝场景转向证据表明能力越来越强的模型已经可以用于武器开发和网络行动。

还在猜测要买哪个名字吗？我们的人工智能在每个月初重建其选股。该榜单领先市场 120%。看看上面有什么 »

Anthropic 报道称，也门北部的一个武器小组利用克劳德帮助开发三个武器项目的制导、导航和控制软件，其中包括多级弹道导弹和高超音速滑翔飞行器，此后争论加剧。

Anthropic 没有发现任何证据表明部署了作战武器。一名涉嫌与伊朗有关的行为者单独使用克劳德分析公共船只和卫星数据，并生成有关美国海军的目标情报。这些账户被禁止并向当局报告。

这些发现促使人工智能高管呼吁放慢前沿模型的开发速度。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 提议外部评估人员可以进入人工智能实验室并使用通用安全标准。 OpenAI 首席执行官 Sam Altman 支持放慢开发更强大模型的速度并加强独立监督。

您现在应该购买 NVIDIA 吗？在你做出决定之前，请考虑一下：人工智能驱动的选股清单比市场表现高出 120%，并且每个月初都会更新。查看本月精选 »

困难在于，对封闭模型的限制可能不会扩展到开放重量系统。此类模型可以下载、私下操作并进行修改以消除安全控制。

报告中引用的 OpenRouter 数据显示，领先的开放权重模型，包括来自中国开发商 DeepSeek、Zhipu 和 MiniMax 的系统，在能力开发方面仅落后于美国领先的封闭模型三到六个月。

这就产生了竞争问题。 Slowing closed U.S. developers without similar restrictions elsewhere could shift development toward systems that are harder to control.

对于投资者来说，迫在眉睫的问题是安全性争论是否开始影响模型发布、资本支出或预期回报。