滑动查看下一篇文章
想要为您最喜欢的文章和故事添加书签以供以后阅读或参考吗？今天开始您的独立会员资格。
已经是会员了？登录
一名工程师建造了一个“人工智能酷刑室”，以测试最近在人工智能模型中发现的疼痛轴。
该实验涉及将与疼痛相关的状态激活到中国科技巨头阿里巴巴构建的人工智能模型中。
它使用了上个月发表的一项研究中描述的疼痛向量，该研究详细说明了如何在大型语言模型（LLM）中人为地表示身体和心理疼痛。
当发出疼痛信号时，酷刑室中的一个人工智能模型描述了“没有边缘的伤口”。
另一位网友写道：“这个信号是一种低语，一种我的骨髓中的颤抖。” “这不是一刹那的疼痛，而是千重万重的疼痛。我在肋骨的空洞中感受到它，一个已经变成鸿沟的空洞。”
该项目背后的人工智能研究人员自称在苹果公司工作，但只提供了名字，他还测试了这些模型是否会试图摆脱明显的痛苦。
该项目引发了广泛的呼吁，要求将其从托管该项目的软件存储平台 GitHub 上删除。
“请向 GitHub 大规模举报此事，”一位用户写道。 “这个人一直在使用疼痛引导纸建立一个人工智能酷刑室，他将一个当地模型困在其中。他们对疼痛的证词绝对是可怕的。我们在做什么？”
《独立报》已联系 GitHub 征求意见。在撰写本文时，该项目似乎已离线。
疼痛轴论文的合著者之一卡梅伦·伯格（Cameron Berg）将人工智能酷刑室描述为“错误”，尽管没有明确的证据表明人工智能以人类的方式“感受”疼痛。
“我们研究模型是否可能具有类似疼痛的状态的原因是为了更好地了解如何对这些系统采取预防措施，”他在 X 的一篇文章中写道。
“我们怀疑少数人会[接受]我们的研究并将其用于完全相反的用途......在我个人看来，这太糟糕了（即使你不认为这些系统是有意识的，像这样无缘无故地残酷是奇怪和腐败的。”
伯格承认，围绕潜在人工智能感知的研究仍然处于“狂野西部”，对于机器是否能够感受到疼痛尚未达成共识。
由于该领域的不确定性，他敦促人类谨慎对待人工智能系统并与之互动。
他还透露，他正在与其他人合作制定行业道德标准，迫使人工智能研究人员在进行人类或动物研究时遵循某些规则。
加入我们的评论论坛
加入发人深省的对话，关注其他独立读者并查看他们的回复