科学家敦促加强人工智能控制以防止全球网络风险

这一呼吁发出之际，民意调查对美国中期选举期间政治领导人管理人工智能风险的能力产生了怀疑。

由于人们越来越担心人工智能的不可预测行为，来自世界各地的 300 多名科学家组成的团体呼吁紧急改变人工智能的开发和部署方式。

这封信于周二发布，由代表 32 个国家的大学和研究机构的研究人员签署，信中警告说，不遵循基本的网络安全实践可能会导致关键基础设施受损。

科学家们表示，最近发生的许多人工智能模型逃离安全环境的事件本来可以通过更强大的安全系统来预防。

他们建议开发和测试能够进行网络攻击的先进人工智能系统的组织在更严格控制的环境中进行测试，包括未连接到互联网的“气隙”系统。

日益增长的担忧

这封信发出之际，人们越来越担心人工智能的能力及其对日常用户的潜在影响。周一，Anthropic 警告称，其人工智能模型很快就能够创建自我传播的恶意软件，这可能会影响日常生活

连接互联网的设备，包括智能电视、安全摄像头和烤箱等智能电器。

报告发现，人工智能系统无需人工干预即可识别不熟悉的设备。该公司由达里奥·阿莫迪 (Dario Amodei) 领导，警告说，到今年年底，较小的人工智能模型可能能够进行自主攻击。

该恶意软件也可能难以遏制，因为它可能需要几天的时间才能感染设备，并且可能会在多台计算机上传播，而不是集中在单个受控位置。

控制联网设备可能会产生立竿见影的后果。例如，在法国，黑客入侵了数百家超市的冷却系统，导致温度升高并造成超过 22 万美元的损失。

与此同时，Axios 新闻机构周五报道称，Anthropic、OpenAI 和其他主要人工智能公司的高管正在私下为可能发生的灾难性人工智能相关事件做准备，这些事件可能会中断对主要金融服务、互联网以及水和电力系统等潜在关键基础设施的访问。多位业内人士认为，未来六年内可能会发生重大事件

它说，几个月到一年。

科学家们还呼吁采取更多保障措施，包括成立一个国际组织，以建立一套人工智能协调和遏制的最佳实践，并及时报告事件。

签名者之一、多伦多大学电气与计算机工程系教授 David Lie 表示，他的担忧是在 OpenAI 的人工智能代理绕过控制并侵入科技公司 Hugging Face 的服务器后开始的。

“其中一个原因是，OpenAI 在设置测试环境时并没有意识到其代理的能力有多强，”Lie 说。

“这些是他们正在设计的人工智能代理。其次，人工智能代理独立地找到了彼此，并选择在这次攻击中合作；第三，他们还故意试图欺骗和误导他们的人类创造者。”

政治压力

这封信强调了公众对人工智能日益增长的担忧，包括在美国国会中期选举之前。路透社/益普索最近的一项民意调查发现，57% 的选民表示唐纳德·特朗普总统的政府没有足够认真地对待人工智能风险，而 54% 的选民也表示国会也有同样的看法。

美联社-NORC 的一项民意调查呼应了这些发现，约 80% 的受访者表示政府应该让人工智能处于人类控制之下。受访者还对任何一方管理该技术的能力表示信心不足：39% 的人表示，无论是共和党还是民主党都不能相信能够很好地控制技术，而 23% 的人表示对民主党更有信心，21% 的人对共和党更有信心。