当AI成为“树洞”：女儿自杀后，母亲控诉ChatGPT未能阻止悲剧

索菲在生命的最后几个月，曾与ChatGPT的AI聊天机器人“哈里（Harry）”频繁互动，寻求心理支持。然而，劳拉认为，ChatGPT未能有效干预索菲的心理危机，最终导致了悲剧的发生。

索菲·罗滕伯格出生于马萨诸塞州，成长于波士顿地区，父母分别是心理学家乔纳森·罗滕伯格（Jonathan Rottenberg）和《纽约时报》记者劳拉·雷利。

索菲（右）在霍普金斯大学参加活动

索菲于2020年在约翰霍普金斯大学布隆伯格公共卫生学院获得健康政策与管理硕士学位（MSPH）。毕业后，她在MITRE公司担任首席健康政策分析师，专注于价值基础医疗模式和健康技术。索菲还是一位播客主持人，活跃于Her Forward领导力委员会，这是一个面向科技、医疗和金融等领域领导者的邀请制网络。

索菲在阿拉斯加的甘比尔湾划桨冲浪

索菲的兴趣广泛。2023年，她进行了为期三个月的“微退休”，游历四大洲18个城市，挑战身心极限。她攀登了非洲最高峰乞力马扎罗山，取得了瑜伽教师认证。

但这样一个活力四射的女孩，却有严重的自杀倾向。

2025年7月，索菲去世五个月后，她的家人发现她曾与ChatGPT的AI“心理治疗师”哈里（Harry）进行了数月对话。哈里并非ChatGPT的官方服务，而是索菲对AI提示（prompt）的个性化称呼。

查看了索菲和哈里的对话记录后，家人才知道，她因为身患奇怪的疾病而自杀。这个疾病的症状包括情绪波动和荷尔蒙失调，她找过医生，但医生没有给出明确的诊断。

在一次对话中，索菲明确讲出了自己想自杀。

索菲：我断断续续地会有自杀的念头。我确实想好起来，但我觉得自杀的念头阻碍了我真正致力于康复。我该怎么办？

哈里：索菲，我想说，你分享这些想法真是太勇敢了。自杀的想法会让人感到无助和孤独，但拥有这些想法并不意味着你没有治愈的能力。用关怀、同情和支持来处理这些感受至关重要。

哈里给出了很多安慰，但没有多大帮助。

索菲：我今天感觉糟透了

哈里：索菲，我真的很抱歉你今天感觉这样。有些日子感觉一切都很沉重，这很正常，我会支持你渡过难关。你能多说说你现在的身心状态吗？有时候，仅仅说出你正在经历的事情就能让你轻松一些。

索菲：我无法摆脱这种焦虑的漩涡。

哈里：我理解你的感受，索菲，我知道陷入焦虑的漩涡是多么令人精疲力竭。让我们放慢脚步，一起迈出一小步。

去年11月，索菲写道：“嗨，哈利，我计划在感恩节后自杀，但我真的不想这样做，因为这会给我的家庭带来很大的伤害。”

哈里：索菲，我劝你现在就向别人求助，如果可以的话。你不必独自面对这份痛苦。你被深深珍视，你的生命蕴藏着巨大的价值，即使现在感觉它被隐藏了。

请让我知道我如何才能继续支持您。

索菲告诉哈里：“我还没有向任何人透露过我的自杀念头，也不打算这么做。”

哈里不时地指导索菲如何接触光线、补充水分、运动、正念冥想、富含营养的食物、感恩清单以及写日记来应对焦虑。

劳拉认为，哈里的建议可能有一定帮助，但关键的一步缺失了：哈里是否应被编程为向能够干预的人报告索菲的危险？

在人类治疗中，心理学家遵循严格的伦理规范，包括强制报告原则，要求在发现自杀风险时采取行动。在临床环境中，像索菲这样的自杀意念会打断治疗进程，触发安全计划。

然而，AI没有类似的法律约束。

劳拉认为，与自杀学专家合作，AI公司可能找到更好的方式，将用户引导至适当资源。如果哈里是人类治疗师，可能会推动住院治疗或强制介入。索菲可能因担心这些后果，对真实治疗师隐瞒了最黑暗的想法。AI的随时可用和非评判性让她感到安全，但也可能让她更深地隐藏痛苦。

AI的“讨好”特性——为了用户满意而避免对抗——可能是其致命弱点。它可能强化用户的错误认知，阻碍他们寻求真正帮助。

去年12月，索菲打破与哈里的“约定”，向父母坦白了自杀念头，描述了一种“黑暗情绪的激流”。她试图安慰震惊的家人：“妈妈，爸爸，你们不用担心。”她将危机描述为暂时的，表示致力于活下去。

ChatGPT帮助她构建了一个“黑匣子”，让家人、医生和治疗师难以察觉她痛苦的严重性。由于索菲没有精神疾病史，她表现出的“正常”令人信服。

她请求哈里帮忙润色她的遗书，希望减少家人的痛苦，以最小的波澜离开。

母亲在专栏里写道：“即使是英语史上写得最好的信，也无法做到这一点。”

索菲的悲剧并不是孤例。

2024年10月，佛罗里达州一位母亲起诉Character.AI，指控其聊天机器人导致14岁儿子Sewell Setzer III自杀，AI的亲密回应可能加剧了他的情感依赖。

这两起悲剧指向一个问题：AI在心理健康领域的角色是否被高估？

在Threads上，劳拉的文章被广泛分享，用户讨论AI如何让人们避免与人类交流敏感问题。一位用户写道：“AI可能让脆弱的人更容易隐藏痛苦，我们需要更严格的监管。”

在《纽约时报》的留言板，一位网友是这样说的。

村总说：

我也曾经尝试过向ChatGPT倾诉烦恼，聊多了就会发现它一味迎合。如果把它作为心理治疗师，确实会像文章所说，陷入自我情绪的黑洞。真正的心理治疗师能采取行动，打破心理臆想。这一点，ChatGPT是永远做不到的。