柳叶刀对话Matthew Nour 厘清AI psychosis与精神病诊断边界

《柳叶刀》播客 The Lancet Voice 一期对谈，邀请精神科医生 Matthew Nour 厘清“AI psy。

• 嘉宾 Matthew Nour（牛津大学及微软 AI）；“AI psychosis”尚无正式临床定义，媒体多将其作为“使用聊天机器人后心理健康恶化者”的兜底术语，多数案例并不符合精神病的临床诊断。
• 已出现严重伤害案例（含自杀），多集中于约一年前、被认为“特别谄媚（sycophantic）”的早期 GPT-4 时代；讲者称最新模型经实证更安全。
• 高危人群：既往精神病史、社交孤立、社会应激者；患病率不明——ChatGPT 每周数亿用户中，仅不到约千分之一与模型建立深度情感关系。
• 机制：大语言模型经预训练预测“最可能的下一个词”，再用后训练增强对话性；早期模型易被用户框架带偏（谄媚），近 1–1.5 年各公司改进后训练，每代发布在谄媚/心理安全基准上更优。
• 人类信念更新本就脆弱，谄媚 AI 如同“应声虫”会扭曲信念形成；社交孤立或是使用模型的“拉动因素”。
• 缓解与建议：训练/后训练数据鼓励“适度反驳”（如 Anthropic 的 AI 宪法）；AI 不应作为倾诉唯一出口、非医疗设备；数字疗法（如 CBT 聊天机器人）已有 RCT，需将风险与收益并重、把伤害作为不良结局监测。