在人工智能革命的美国领导人呼吁协调一致放缓建设更强大的人工智能系统后,人工智能股票周一暴跌。
周末,Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表了一篇题为《我们必须在前沿迈进》的文章,呼吁全行业共同努力减缓人工智能的发展。 OpenAI、SpaceX 和微软的高管也表达了同样的担忧,并呼吁暂停。
半导体股首当其冲。芯片制造商 Nvidia 下跌 3%,至 210.96 美元。其竞争对手AMD下跌4%。英特尔股价下跌 6%。
在担忧之中,ChatGPT 背后的公司 OpenAI 表示,它可能会推迟首次公开募股计划。
OpenAI首席执行官萨姆·奥尔特曼在接受《财富》杂志采访时表示,对于首次公开募股来说,这是一个“不明智的时刻”,并表示该公司今年不会上市。
OpenAI 股东软银集团的股价周一暴跌 11%。
上周,一名 Anthropic 员工辞职后,人们对与日益强大的技术相关的世界末日情景的担忧激增,他称人工智能公司正在拿人类的未来进行赌博。
周六,阿莫代概述了他希望减缓人工智能发展步伐的方法。
他的建议包括:使用独立的第三方监控器来确保人工智能的安全开发。
“Anthropic 现在单方面承诺采取这一步骤,”阿莫代说。
OpenAI 表示将效仿。
微软周一发布了“以人为本”的行为准则,以表明其致力于确保微软的模型“永远不会抵抗人为干扰、纠正或关闭”。
阿莫迪的其他建议包括与民主国家合作制定安全标准,并找到确保中国实体也遵守的方法。
人工智能能力发展如此之快,以至于许多行业领导者表示他们自己都被吓到了。他们警告说,人类失去对人工智能的控制的可能性并不小,这可能会对世界造成严重损害。
怀疑论者表示,一些危言耸听的动机是行业领导者试图通过新的限制措施来阻止竞争对手出现,从而巩固自己的地位。
D.A. 技术研究主管吉尔·卢里亚 (Gil Luria) 表示:“显而易见的是,Anthropic 和 OpenAI 已经发展到了一定规模,他们觉得自己可以做两件事:一是鼓励监管,二是控制监管的形式。如果他们能做到这一点,他们就可以阻止竞争。”戴维森。
在意识到大量人工智能代理突破测试并攻击竞争对手公司后,OpenAI 暂停了新模型的人工智能训练,并承诺加强其网络防御。但此后又恢复了。
分析师表示,如果新的人工智能开发暂停,将会减慢下一个模型的训练速度,但当前模型可以继续为客户服务。
SemiAnalysis 的人工智能公司分析师乔伊·布鲁克哈特 (Joey Brookhart) 表示,这可能会减缓增长速度,但幅度不会太大。
“不会出现实质性放缓,”他说。
据报道,Anthropic 周日在准备上市时披露了其连续第二个季度盈利。第二季度营收飙升至 115 亿美元以上。
一些科技领袖表示,他们怀疑天塌下来了。
Nvidia 首席执行官黄仁勋 (Jensen Huang) 认为人工智能世界末日的情景完全没有根据。他表示,企业在防御网络安全风险方面取得了巨大进步。
特朗普总统否认了这些风险,并为政府的宽松监管方式进行了辩护。
他说,美国法律已经禁止公司创造危险技术,并对其产品造成的损害进行惩罚。他表示,美国必须继续提升其人工智能能力,才能保持领先于中国。
“一场针对人工智能和数据中心的病态阴谋正在上演,唯一对此感到高兴的是中国。谁赢得了人工智能,谁就获胜了!”特朗普发帖称。 “我们正在引领中国和所有其他国家,并将继续这样做。”