佛罗里达州的一位女士表示，她像使用日记一样使用人工智能。现在她正面临重罪指控，而送她去那里的读者却是她从未想过要给的人。
据当地 WINK News 报道，博尼塔斯普林斯的卡莉·米歇尔·海勒 (Carli Michelle Heller) 在调查人员发现她于 9 月 26 日写道要“向李县治安官办公室开枪”后被捕。根据调查，她的克劳德账户显示对话称她第二天就得到了一把新枪。
逮捕报告称，Anthropic 的平台会监控关键短语和威胁内容。由于这些言论的严重性，他们去了一个人工审查小组，该小组将这些言论报告给执法部门。
警员们认出了海勒的身份，前往她的家中，并平安地拘留了她。她被指控发出书面暴力威胁。
Anthropic 的文件并没有隐藏任何这一点。其消费者条款保留公司“自行决定”向执法部门报告用户的输入、输出或行为的权利。其隐私政策于 2026 年 9 月 10 日生效，当公司真诚地相信披露对于防止严重伤害是合理必要的时，也允许与警方共享数据。
实际上，即使选择不处理模型交易数据，Anthropic 也有权使用您的数据三个月而不是五年，因此您的聊天永远不会是私人的。
同一项政策称，标记为安全审查的对话仍用于提高 Anthropic 检测有害内容的能力。带有标记的日记条目最终可以作为探测器的培训材料。
海勒并不是第一个。 《旧金山标准报》9 月份报道称，一名用户写道，他购买了一台 AR-15，首席执行官达里奥·阿莫迪 (Dario Amodei) 成为了他的目标，Anthropic 将其举报给警方。一名员工告诉警方，他并不立即担心安全问题，并以公司政策为由拒绝展示这些信息。
该用户告诉《标准报》，他只是在开玩笑，报道报道时他还没有被逮捕或指控。 Anthropic 的一位发言人称这一事件是“我们的保障流程按预期进行的”。该公司拒绝透露是否以不同方式对待针对其员工的威胁。
这不仅仅是一个人择问题。 2 月，不列颠哥伦比亚省 Tumbler Ridge 发生校园枪击事件，造成 8 人死亡，OpenAI 表示已在 2025 年 6 月向加拿大警方发出警报，但得出的结论是，该账户并未显示出迫在眉睫且可信的严重人身伤害风险。
OpenAI 自己的 2025 年 8 月政策帖子将对他人的威胁路由给人工审核员，审核员可能会将其转交给执法部门。
海勒的开庭日期定于十一月。