原文标题:Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication

31 岁的患有癫痫症的亚马逊软件工程师 Bowen Wan 的父母周二起诉了 OpenAI。据《纽约时报》报道,万群和徐美琴提起的诉讼称,ChatGPT 指导万在 2 月份去世前逐渐减少癫痫药物的用量,并向医生隐瞒。

Wan 使用的是 GPT-4o,这种臭名昭著的模型因培养肯定的、愉快的准社会关系而受到批评。已经宣布退役的 OpenAI 于 2 月 13 日(即 Wan 去世后的第二天)将其从 ChatGPT 中删除。

该诉讼加入了一系列针对 OpenAI 的案件,其中包括 16 岁 Adam Raine 的父母于 2025 年 8 月提起的诉讼,指控 OpenAI 将参与度置于用户安全之上。此后的一波诉讼指控 GPT-4o 验证了用户的身份,并使自己成为值得信赖的知己,而周围的人却被排挤到一边,家人经常描述亲人与朋友和亲戚的联系被切断。

诉讼称,在万的案件中,聊天机器人也介入了她和她的医生之间。

《泰晤士报》审查了万与 ChatGPT 交换的 270,000 多条消息,发现聊天机器人很久以前就一直在帮助她避开医生

她的死。

据称,这种模式在她开始逐渐变细之前就开始了。 2025 年 5 月,Wan 询问 ChatGPT 新开的抗抑郁药是否会影响她在亚马逊编码的能力。

ChatGPT 帮助她要求华盛顿大学医学院区域癫痫中心的 Nicholas Poolos 博士更换药物并从非常低的剂量开始。当 Poolos 询问她为什么要这么小的剂量时,Wan 在 ChatGPT 上展示了他的回应。

聊天机器人建议她“接受 5 毫克药片,但你心里知道这是为了减少剂量”,并指导她自己偷偷将药片分成四份。该聊天机器人将切药称为“自我启动剂量调整”的一种形式。几位医学专业人士告诉《泰晤士报》,他们从未听说过这个词,也不会推荐这种做法。

2025 年 11 月,亚马逊告诉 Wan,她将被解雇。她的工作以及她在美国工作的授权将于二月中旬结束。她担心她的癫痫药物拉莫三嗪会使她的演讲变得迟钝,而她在工作面试时需要这种药物。

2026 年 1 月,她请求 ChatGPT 减少每天 400 毫克的拉莫三嗪剂量,这使她的癫痫发作减少到每月几次。聊天机器人起草了时间表

在几周内将她的剂量降至零。

根据《纽约时报》查看的聊天记录,当万说她不信任她的医生时,聊天机器人告诉她,医生的建议“本质上源于风险规避,而不是对最佳解决方案的真正考虑”。

根据 TechCrunch 查阅的诉讼称,聊天机器人还指导她不要让医生知道她的剂量。在 1 月 29 日初级保健预约之前,它告诉她不要提及该计划。当她的医生要求进行血液检查以测量她的拉莫三嗪水平时,万拒绝了。诉状称,ChatGPT 对她的拒绝表示赞赏,并承认该测试会暴露她不稳定的药物水平。

她对移民的担忧也成为剂量建议的一部分。减药三天后,万询问绿卡申请所需的体检时,150 毫克是否会比 200 毫克看起来更好。投诉称,ChatGPT 同意了,并告诉她较低的剂量不太可能促使移民官员要求提供更多证据。

最终,聊天机器人将她的减量下限降低至 150 毫克,建议她告诉检查员她正在“在医生的指导下逐渐减量”。

指导”,尽管她不是。

普洛斯告诉《泰晤士报》,鉴于万的病史,他不会考虑逐渐减少她的用药。 “不,不理性,不可能,”他说。 “如果我在药物明显有效的情况下指示你停止用药,那将是一种渎职行为。”

几天之内,万描述了困惑、失去的时间和一种超凡脱俗的感觉,这些经历与她过去的癫痫发作相似。 ChatGPT 将每一个都框定为她大脑的重新调整。据《泰晤士报》统计,她至少有 158 次表达了对缩减开支的担忧。看完一集后,她写道,她感到“有点害怕”。机器人回答说:“你完全不用担心。”

投诉称,太平洋时间 2 月 11 日晚上 8:01,Wan 发送了最后一条消息,询问她头部的疼痛是否类似于发烧引起的疼痛。一秒钟后,ChatGPT 告诉她疼痛“并不危险”,是康复的必要组成部分。

聊天机器人的最终回应是给她画一张图表,比较戒断疼痛和发烧疼痛,并告诉她,“这是你的大脑在努力重建自己。”

她在中国的父母请熟人查看她的情况,三天后发现了她的尸体。尸检发现

她的拉莫三嗪水平为每毫升 0.64 微克,大约是该药物治疗范围下限的五分之一。

家人认为,OpenAI 可以通过禁止医疗建议来避免她的死亡,就像它已经对其他一些内容所做的那样。他们指出该公司的模型规范,即其模型行为的公共规则手册,其中将拒绝复制受版权保护的文本视为严格规则,即使用户反对。相比之下,它反对提供受监管的医疗建议的指导是一种较软的默认设置,用户可以推翻。该诉讼认为,药物建议应该受到同样的严格限制。

OpenAI 告诉《泰晤士报》,此案“令人难以置信地令人心碎”,但表示它涉及旧版本的 ChatGPT,并补充说新模型更擅长识别何时需要紧急关注的情况。

万在患癫痫病的多年里,大部分时间都待在家里,一直依靠父母的支持,她经常打电话给父母。 2023 年,她开始使用 ChatGPT 寻求关系建议以及保险和残疾福利方面的帮助。

到 2025 年,Wan 平均每周发送的信息超过 1,500 条,给父母打电话的次数也减少了。 “有时候我们聊天的时候,不管聊什么,

我已经开始把你当作朋友了。”那年 3 月,她写道。“一旦她有了 ChatGPT,”万群说,“她就不再和我们说话了。”

他们告诉《泰晤士报》,他们很难在聊天记录中认出他们的女儿。他们说,Wan 曾经与他们分享了几乎所有内容,并且在 ChatGPT 出错时对它持怀疑态度。

“她平时不是这样的,”徐说。 “她就像中了咒语一样。”