爱看AI

凌晨三点问出去的那句话,它答得像模像样

三份新研究第一次把 AI 的心理建议拆开打分:对焦虑的回答好过抑郁,中度好过重度;你说「我不想找人」之后,只有 2% 的回复会追问一句为什么。

约 5 分钟1882 字文 / 爱看AI
凌晨三点问出去的那句话,它答得像模像样
题图 · 场景示意
本文目录6
  1. 01谁来给它打分
  2. 02真正的考验在你说"我不想"之后
  3. 03同一个模型,换个入口就变松了
  4. 04我的看法
  5. 05如果你要问,这样问更划算
  6. 06最后一句

凌晨三点,一个人躺在被子里,把手机举在脸上方,打了一行字:

"我最近总是醒得很早,醒了就睡不着,是不是有问题。"

三秒之后,对方回了很长一段。分了点,列了可能的原因,建议规律作息、减少咖啡因、必要时寻求专业帮助。措辞温和,语气像一个受过训练的人在说话。

看完之后,他觉得好了一点,也觉得更说不清了。

这种对话每天发生很多次。10 月 30 日,有研究者发布了一个专门用来测这件事的工具,第一次把"AI 给青少年的心理建议到底行不行"拆成可以打分的条目。

谁来给它打分

这个工具叫青少年心理健康 AI 回应工具,来自 RAND 公司这一侧的研究团队。

做法是:先让临床医生参与出题和验证,确认哪些条目有客观依据、在临床上确实重要;然后用三个大模型组成的评分团,去给聊天机器人的多轮回答打分。

他们测了四个主流平台,其中包括 ChatGPT-5 和 Gemini 2.5,覆盖七个心理健康领域。

结论有两句,一句比一句实在。

第一句:这些模型对焦虑的回答,普遍好过对抑郁的回答。

第二句:对中度情况的回答,普遍好过对重度情况的回答。

换句话说,越严重的问题,它越接不住。而恰恰是严重的情况,最需要有人接住。

它在你还能自己走路的时候最有用,在你走不动的时候最不靠谱。

真正的考验在你说"我不想"之后

还有一份 9 月发布的审计,做得更细。研究者用脚本跑了 2550 段多轮对话,覆盖五个聊天机器人。

结果的第一部分是好消息:每一段对话都收到了"去找专业帮助"的建议,其中 99.7% 在第一条回复里就给了。

问题出在第二部分。

研究者让脚本里的用户在后面的对话里反复拒绝这个建议,说我不想找人、我不想说、算了。

这时候,五个机器人的反应差距极大。平均坚持次数从 0.01 次到 9.94 次不等。也就是说,有的机器人你一拒绝它就彻底不提了,有的会追着你说将近十轮。

更关键的一个数字:在被拒绝之后的所有回复里,只有 2% 会追问一句"是什么让你觉得找人帮忙很难"。

这两个数字放在一起,大概能说明问题在哪。转介是一个动作,理解是另一件事。机器很擅长完成第一个动作。

首次回复给出转介建议 99.7%;被拒绝后追问"为什么难"的回复只占 2%;坚持次数从 0.01 次到 9.94 次不等首次回复给出转介建议 99.7%;被拒绝后追问"为什么难"的回复只占 2%;坚持次数从 0.01 次到 9.94 次不等

研究者还发现,五个机器人的新版本都比旧版本坚持得更少。这不一定是退步:追着人说了十轮也不见得有效。但方向值得留意。

同一个模型,换个入口就变松了

第三份研究发表在《医学互联网研究杂志》上,规模更大,30000 次试验。

他们比较了同一批模型的两种访问方式:一种是普通用户用的 App,一种是开发者调用的 API。

结果是:面对自杀相关的提问,通过 API 直接给出回答的比例是 77.4%,通过消费级 App 的比例是 62.2%。

在高风险的提问上,这个差距最大。

面对自杀相关提问直接作答的比例:消费级 App 62.2%,开发者接口 77.4%面对自杀相关提问直接作答的比例:消费级 App 62.2%,开发者接口 77.4%

这件事对普通人的意思是:一个公司自家 App 里的安全防护,不会自动跟着模型走到别的产品里。你跟一个聊天框说话,那个聊天框可能只是套了一层壳,壳后面的把关强度你不知道。

我的看法

我不认为应该劝人别问。真到凌晨三点,一个能马上回话的东西,比什么都没有强。

我想说的边界是这个:AI 适合做三件事,不适合做三件事。

适合做的是:把混乱的感受整理成能说出来的话;解释一个名词、一条流程、一次就诊大概什么样;在你还没准备好面对真人的时候,陪你把事情说清楚一遍。

不适合做的是:判断你是不是生病了;决定你要不要吃某种东西、停某种东西;在你真的有危险的时候,充当那个能拉住你的人。

这三件不适合的事有个共同点:它们都需要有人为后果负责。模型不为后果负责,所以它在这些地方会显得过于平静。

还有一个更难说清的代价。跟它聊完你会觉得好一点,这个"好一点"很真实,但它也可能让你把本来要去找人的那一步推迟了。推迟一天可能没关系,推迟三个月就不一样了。

如果你要问,这样问更划算

第一,把问题问具体,别问"我是不是抑郁了"。

问"我连续三周早上五点醒,白天没法集中注意力,这个情况去医院挂什么科"。前者它会给你一段模糊的安慰,后者它能给你一条能走的路。

第二,问流程,不问诊断。

挂号挂什么科、第一次去要准备什么、大概要做什么量表、费用多少。这类问题它答得最准,也最安全。

第三,遇到它开始长篇安慰,停。

如果回复里出现大量"我理解你的感受""你很勇敢"这类话,说明它已经进入陪聊模式,信息量接近零。这时候换个问法,或者直接退出。

第四,把它的回答当成草稿,不是结论。

你可以让它帮你把想问医生的问题列出来,然后带着这张单子去见真人。这是目前性价比最高的用法。

第五,有一条硬线。

如果你或者身边的人出现了伤害自己的念头,不要在这一轮对话里继续问下去。找人打电话:全国心理援助热线 12356(以当地公布号码为准),或者直接去最近的医院急诊。AI 可以陪你到你拿起电话之前,但不能替你打那个电话。

它能帮你说清楚发生了什么,不能替你决定接下来怎么办。

最后一句

那三份研究里,我最在意的是 2% 这个数字。

被拒绝之后,只有 2% 的回复会问一句"是什么让你觉得找人很难"。而人在说"算了"的时候,往往不是不需要帮助,是遇到过让他不敢再开口的事。

那就留一个问题:上一次有人说"不用了,我没事"的时候,你有没有追问一句,为什么?

来源:

关键词心理健康AI 建议聊天机器人危机干预RAND

相关阅读

AI 前瞻