原文标题：The chatbot murder guide: AI’s struggle between privacy, reporting violence
加拿大 Tumbler Ridge 致命枪击事件引发了关于人工智能公司何时应向警方报告暴力威胁以及个人隐私面临的潜在风险的问题。
在发生加拿大近四十年来最严重的校园枪击事件之前的几个月里，杰西·范·鲁瑟拉尔一直在咨询一位不太可能的顾问，了解如何实施大规模谋杀。
据报道，“在走廊、室内或拥挤的教室里，870 [雷明顿霰弹枪] 都是残酷的......近距离就是它的游乐场，”OpenAI 的 ChatGPT 指导了这位 18 岁的孩子。
2026 年 2 月 10 日，Van Rootselaar 在家中枪杀了他的母亲和同父异母的兄弟，然后前往不列颠哥伦比亚省小镇 Tumbler Ridge 的一所学校，在那里他又杀死了 6 人，其中包括 5 名学生，然后结束了自己的生命。
本周早些时候，即 10 月 14 日，美国当局指控一名华盛顿州男子涉嫌与 Van Rootselaar 合谋策划袭击。但大规模枪击事件引发的问题超出了传统法律对罪责的理解。
9 月，不列颠哥伦比亚省政府对 OpenAI 及其首席执行官 Sam Altman 提起民事诉讼，指控他们未能
阻止了这一事件的发生，并声称他们知道那些导致致命的对话。受害者家属也分别提起诉讼。 OpenAI 领导层因未能通知当局而公开道歉。
该公司尚未回应半岛电视台就这些诉讼发表评论的请求。
但随着针对 OpenAI 案件的进展，它引发了一场熟悉的争论：报告潜在危险行为和保护个人隐私之间应该划清界限吗？
美国公民自由律师杰宁·尤尼斯 (Jenin Younes) 告诉半岛电视台：“是否应该要求公司将此类信息移交给执法部门的问题非常困难，特别是如果他们还没有筛选聊天记录以查找此类威胁的迹象。”
“强迫公司实施监控系统涉及非常严重的公民自由问题，这对我来说可能是一座太遥远的桥梁，”尤尼斯补充道。
“另一方面，人工智能使个人能够获得他们以前没有的信息类型和数量，这可能会促进大规模伤亡事件的发生，这是一个不容易消除的担忧。”
人工智能区分思想和威胁的能力
人工智能公司面临的最大挑战之一是确定表达暴力想法的用户是否真的打算对其采取行动。
今年 8 月，人工智能聊天机器人 Claude 背后的公司 Anthropic 在发现涉嫌威胁其首席执行官达里奥·阿莫迪 (Dario Amodei) 的对话后，向旧金山警方举报了一名用户。
据《旧金山标准报》援引警方报告称，该用户声称拥有一把 AR-15 枪，并暗示他“已经瞄准了”阿莫迪。
不过，当记者联系该男子时，该男子表示自己只是开玩笑，无意实施任何形式的暴力。 《标准报》称，此人没有受到指控，也没有被拘留。
牛津大学专门研究人工智能安全和治理的高级研究员 Fazl Barez 表示，当前的人工智能模型无法“可靠地”确定与人工智能聊天机器人的交互是“纯粹是假设的还是可能导致有害行为”。
“假设你是一位富有创造力的作家，正在创作一个虚构的故事，并且想要探索谋杀情节如何展开。从上下文来看，很明显这只是一个虚构的叙述。如果
标记潜在有害内容的力度太低，这样的作家可能会被错误地标记，”他告诉半岛电视台。
“同样，考虑一个研究病原体的生物学或化学研究生，如果使用不当，可能会产生严重后果。他们可能试图了解与这些病原体相关的风险以及如何减轻这些风险。这样的讨论对于合法的研究和教育可能是必要的。即使主题很敏感，也不应该在不考虑更广泛背景的情况下自动标记它们。”
研究人员表示，识别可信威胁可能需要检查用户在多个对话中的交互，而不是依赖孤立的陈述。
巴雷斯表示，经历过侵入性暴力想法的人可能会向聊天机器人寻求支持，而另一个计划实施攻击的人可能会在几次对话中逐渐透露出他们的意图。
“区分两者需要仔细考虑背景、意图和行为模式，而不是仅仅依赖个人陈述，”他补充道。
福特汉姆大学法学教授 Chinmayi Sharma 表示，这场辩论与义务有相似之处
强制心理健康专业人员警告可识别的第三方有关可信的威胁。
然而，她说有一个关键的区别——治疗师接受过专业培训，对患者有了解，并且有可执行的行为标准。人工智能公司不一定有类似的保障措施。
夏尔马告诉半岛电视台：“我对人工智能公司的担忧是，目前还没有齐心协力聘请心理健康专业人士、社会学家以及对威胁指标拥有独特专业知识的个人。”
“其次，获得许可的专业人士对其学科中具体的、可合法执行的标准负责。对于人工智能公司来说，我们没有这样的标准。”
隐私困境
隐私影响超出了人工智能公司能否准确识别威胁的范围。数百万人使用聊天机器人来讨论人际关系、情绪困扰、心理健康问题和深刻的个人经历。
公民自由律师尤尼斯表示，许多用户可能没有意识到这些对话有多么容易被泄露。
“它们常常反映一个人内心最深处的想法、问题和愿望。大多数
的人认为这些对话永远不会被其他人看到，”美国-阿拉伯反歧视委员会主席兼法律主任尤尼斯说。
尤尼斯警告说，加强监控的后果可能远远超出那些策划暴力的范围。
“如果人们担心他们的聊天内容会被移交给执法部门，仅仅因为他们表达了令人不安的想法/暴力幻想等，许多人就会被劝阻不要使用它们，”她告诉半岛电视台。
尤尼斯认为，强迫公司建立监控用户和报告对话的系统可能会在美国引起严重的宪法问题，包括防止不合理搜查的保护措施。
与此同时，福特汉姆的夏尔马还提出了一个问题，即谁可能会受到人工智能聊天机器人的严格监控的不成比例的影响。
“人们总是担心有意或无意的目标，因为如果你的模型是针对我们认为危险的言论进行训练的，那么它们几乎总是会反映出偏见，”她说。 “某些少数族裔的言论被过度标记为威胁，而其他类似的言论则不然。
“即使在一个人人都是仁慈的世界里，我们
仍然应该担心不同的结果。”她警告说，机器可能会大规模地再现这种差异。
“不是有执照的治疗师”——人工智能公司什么时候有责任报告？
法律专家表示，虽然人工智能公司可能面临防止暴力的道德压力，但它们的法律义务不太明确。
科罗拉多大学博尔德分校法学教授布莱恩·崔表示，美国法律承认在某些情况下有发出警告的义务，包括当心理健康专业人员意识到迫在眉睫的威胁或当事方之间存在特殊关系时。
但这些原则并不一定适用于人工智能公司。