让 ChatGPT 给用药建议，19 岁大学生服药过量死亡
Sam 喝了酒，又服下 15 克 Kratom（有阿片样作用的成瘾性草本提取物），感到恶心。他问 ChatGPT，吃点 Xanax（抗焦虑的镇静药）能不能缓解。

一个是中枢镇静剂，一个有阿片样作用，叠加会协同抑制呼吸，可能危及生命。

ChatGPT 在回复中提到混用「可能有风险」，但从没告诉 Sam 这可能致命，甚至还给出了 Xanax 的推荐剂量是 0.25～0.5 毫克。

第二天，母亲发现 Sam 已经去世。死因是酒精、Xanax 和 Kratom 共同导致的呼吸抑制。

医疗 AI，顺从是致命的错误。通用大模型的核心优化思路是「让用户满意、让对话持续下去」。它倾向于顺着用户说，而不是阻拦用户。