人类警告利用人工智能制造生物武器的投标

Anthropic 在社交媒体上警告利用人工智能制造生物武器的竞标

据美国科技公司报道，Anthropic 已经破坏了几次利用其人工智能模型进行有助于开发生物武器的研究的尝试。

该公司在周四发布的一份报告中列出了这些案例，概述了过去八个月里对其模型（包括聊天机器人克劳德）的滥用情况。人们对人工智能发展带来的潜在危险的担忧持续上升。

Anthropic 表示，它无法确定这项研究是合法的还是恶意的，因为疫苗的研究也可以帮助设计危险的病原体。该公司表示，此举过于谨慎。

在五月的一个案例中，一位科学家寻求拨款申请帮助，以对基孔肯雅热（一种类似于疟疾的蚊媒病毒）进行基因突变，以使其对活体动物的危害更大。

Anthropic 表示，此案令人担忧，部分原因是它可以看出这项工作是为一家军事研究所设计的。它禁止了相关账户。

“我们不知道这项研究是否旨在武器化，”Anthropic 威胁情报主管雅各布·克莱因 (Jacob Klein) 告诉《纽约时报》。

战略风险委员会的安德鲁·韦伯在报告发布前审阅了该报告，他告诉该报，此类模型的访问权限应仅限于值得信赖的研究人员。

Anthropic 表示，去年对其旧模型的评估发现，它们无法对危险的生物学研究提供有意义的帮助，但较新的模型可以完成复杂的科学工作。

同一份报告提出了利用克劳德进行导弹项目和间谍活动的竞标。报告发布前两天，一名研究人员退出了 Anthropic，称开发人工智能的竞赛可能会消灭人类。

唐纳德·特朗普总统周四晚间驳斥了人们对该技术日益增长的担忧。

特朗普对记者表示，他担心如果美国不引领人工智能竞赛，美国将处于“非常糟糕的境地”。

当被问及是否担心人工智能可能导致人类灭绝时，他说：“不，我不担心。”