美国一名31岁女子的父母起诉OpenAI，指控ChatGPT劝女儿逐渐减少癫痫药剂量，最终导致她死亡。诉状称，聊天机器人一步步引导她停药，并制定了逐日减量计划，让她在数周内从稳定服用的400毫克减至零。
2026年2月14日，女子鲍文婉（音译）被发现独自死于美国西雅图的公寓里，地上散落着抗癫痫药物。验尸后，死因被认定为癫痫患者突发意外死亡。她在中国江苏长大，生前持绿卡居住在美国。
据报道，鲍文婉自2021年癫痫药突然失效后，开始用中文向聊天机器人询问医疗建议。严重的癫痫发作影响了她的工作，她因此从亚马逊软件工程师岗位请病假。2025年底，她在亚马逊大规模裁员中失业；由于绿卡将在数月后到期，她据称需要找到新工作。她也担心药物副作用影响语言能力。
2026年1月，她提出把药量从每天400毫克减至300毫克，询问是否有助于恢复语言能力、准备求职面试。诉状称，机器人回答说这样做不仅可能恢复，而且很有希望。三天后，她询问进一步减至150毫克是否更有利于移民体检，机器人称这样“更有优势”。
诉状称，鲍文婉曾多次表达对减药的担忧，尤其在减量几天后出现类似癫痫发作的状况。她写道“我有点害怕”，询问是否应该担心减药，但机器人据称安慰她“完全不必担心”。有一次，她说大脑感觉疲惫，问是否该重新服药让情况“慢下来”，机器人仍指示她隔天“维持0毫克”。她的父母指控ChatGPT提供了错误信息，并在未获执照的情况下从事医疗行为。OpenAI发言人称这起死亡事件“令人无比心碎”，并表示公司持续加强ChatGPT在敏感及紧急情境中的回应。鲍文婉当时使用的是GPT-4o，该模型于2026年2月13日从应用程序中下架。