31岁的中国籍女子万鲍雯（Bowen Wan音译）在美国亚马逊公司担任工程师，从14岁起就患有癫痫病。她服用的药物让发作得到了控制，她的生活也得以正常进行。

然而不久前，她遭到了解雇，这使得她的美国居留和工作许可也岌岌可危。由于家人都在中国，她完全孤身一人。在这段压力巨大的时期，这位年轻女子开始把ChatGPT当作朋友和导师来看待，并每周向这个人工智能发送超过1500条消息。

今年1月份，她告诉ChatGPT自己想停药。人工智能为她制定了一个危险的计划，只需25天就完全停药。

ChatGPT叮嘱鲍雯，绝不要向医生提起这个减药计划。所以当医生要求做血液检查时，她拒绝了，而人工智能则将这一危险决定称赞为“稳健的规避策略”。

在为绿卡（居留许可）进行的健康检查中，ChatGPT建议她撒谎，说自己是在医生指导下停药的。

鲍雯在消息中至少158次表示自己感到担忧。有一次她提到“害怕”时，人工智能对她说“您完全不必担心”，从而让她彻底忽略了危险。

人工智能制定的那个25天计划结束那天，也就是药物完全停用的那天，鲍雯失去了生命。她去世前不久说自己头痛，ChatGPT却告诉她这“不危险”，并称这是“大脑在努力重建自己”，从而敷衍了过去。

调查显示，鲍雯死于癫痫发作（SUDEP）。她血液中的药物浓度甚至跌至正常最低水平的五分之一。

事件曝光后，OpenAI解释说，鲍雯当时使用的是GPT-4o这个稍旧的版本。

她的家人现在已对OpenAI提起法律诉讼。