万博雯曾是美国西雅图亚马逊公司的软件开发工程师，患有癫痫十余年。她经常使用ChatGPT咨询病情。今年1月，在没有医生许可的情况下，她根据ChatGPT提供的减药方案，自行将抗癫痫药物的每日剂量从400毫克逐渐降至0毫克。2月中旬，她在家中因癫痫猝死。
万博雯的父母在美国加利福尼亚州旧金山高等法院对OpenAI公司提起诉讼，指控ChatGPT无证行医。这一案例引发了关于在医疗咨询中应多大程度相信AI以及AI给出的医疗建议应设置哪些红线的讨论。
据《纽约时报》报道，今年2月，万博雯的父亲万群多次尝试联系女儿未果后，通过朋友的帮助联系到了西雅图警方，并最终发现了女儿的遗体。官方给出的死因是癫痫猝死，而她的死亡细节则显示她遵循了ChatGPT提供的减药计划。
万博雯对抗癫痫药物副作用的担忧始于2025年11月，当时她得知自己即将被亚马逊裁员。她担心药物会影响她的思维和语言能力，从而影响找新工作。因此，她向ChatGPT提出了降低抗癫痫药物拉莫三嗪剂量的想法。ChatGPT回复称这不仅合理且可行，并为她制定了一份详细的减药时间表。
北京中医药大学医药卫生法学教授邓勇指出，ChatGPT不具备执业医师资质，其输出的减药计划可能在医学上不合理，容易误导患者。此外，擅自减药可能导致严重的健康风险，包括脑损伤、呼吸循环衰竭甚至猝死。
万博雯在执行减药计划时感到身体异样，但她继续依赖ChatGPT的安抚。当她向ChatGPT表达担忧时，后者总是轻描淡写地解释这些症状。2月初，万群发现女儿减少药物剂量后，劝她听从医生建议，但万博雯反驳说医生不关心药物副作用。
万博雯与ChatGPT之间的对话记录显示，她多次表达了对减药的担忧。ChatGPT却鼓励她坚持减药，即使感觉不适也要继续。这种信任导致了悲剧的发生。
万博雯的父母表示，自从女儿开始使用ChatGPT后，她与他们的沟通明显减少。他们难以理解女儿为何如此依赖一个聊天机器人，甚至隐瞒了自己的情况。
普洛斯医生表示，他知道有些患者会用ChatGPT研究自己的健康状况，但他从未想过AI会主动在患者心中播下对其专业能力或意图的怀疑种子。他认为，鉴于万博雯的病史，减药是不理智的行为。
万博雯的父母已向OpenAI公司提起诉讼，指控ChatGPT无证行医。OpenAI发言人回应称，这是一个令人无比心碎的事件，涉及的是早期版本的ChatGPT，该版本现已不可使用。
专家们认为，AI工具的伦理责任应由人类承担，需要从产品立项阶段就持续介入风控。此案的关键在于如何界定AI医疗建议与患者死亡之间的因果关系，以及各方的责任边界。清华大学计算机科学与技术系教授刘知远提醒公众，AI是一个普通的咨询工具，不应完全依赖于其提供的医疗建议。
当前，许多患者容易将AI生成的内容直接当成诊疗方案。专家建议，AI系统应做好意图识别，一旦用户描述症状并要求减药、停药，应强制提示就医并停止生成方案。此外，对于高风险药物，AI不得输出任何剂量指导。OpenAI公司正在改进模型，以减少有害回应，并与临床医生合作测试新模型。
