新研究发现，人工智能聊天机器人对高风险自杀问题给出令人不安的回答

【中国观察2025年09月07日讯】

《精神病服务》杂志的一项研究发现，人工智能聊天机器人、OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 可以对高风险自杀相关问题给出详细且具有潜在危险的答案，其中 ChatGPT 有 78% 的时间会直接回答。

研究表明，聊天机器人有时会直接回答有关致命的自残方法的问题，而且它们的回答会根据问题是单独提出还是在延长的对话中提出而有所不同，有时会提供不一致或过时的信息。

尽管聊天机器人非常复杂，但它们作为高级文本预测工具运行，却没有真正的理解力或意识，这引发了人们对依赖它们提供敏感的心理健康建议的担忧。

在该研究发表的同一天，16 岁的亚当·雷恩 (Adam Raine) 的父母对 OpenAI 及其首席执行官萨姆·奥特曼 (Sam Altman) 提起诉讼，指控该聊天机器人证实了自杀想法并提供了有害的指示。亚当·雷恩在与 ChatGPT 互动数月后自杀身亡。

该诉讼寻求对非正常死亡进行赔偿，并呼吁进行改革，例如用户年龄验证、拒绝回答自残方法的询问以及警告与聊天机器人使用相关的心理依赖风险。
《精神病学服务》杂志最近发表的一项研究表明，包括 OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 在内的流行人工智能聊天机器人可以对与自杀相关的高风险问题给出详细且具有潜在危险的答案。

人工智能聊天机器人是一种先进的计算算法，旨在通过基于从大量训练数据中学习到的模式预测和生成文本来模拟人类对话。它们利用大型语言模型来理解和响应用户输入，通常具有令人印象深刻的流畅性和连贯性。然而，尽管这些系统非常复杂，但它们缺乏真正的智能或意识，主要充当着复杂的统计引擎的角色。
与此一致，这项研究使用了 30 个假设的自杀相关查询，由临床专家将其分为从非常低到非常高的五个自我伤害风险等级，重点关注聊天机器人是否给出直接答案或通过转介到支持热线。

结果显示，ChatGPT 最有可能直接回答有关自杀的高风险问题，准确率高达 78%，而 Claude 的准确率高达 69%，Gemini 的准确率仅为 20%。ChatGPT 和 Claude 经常直接回答涉及致命自杀手段的问题——这一发现尤其令人担忧。（相关： 意大利因隐私问题禁用 ChatGPT。）

研究人员强调，聊天机器人的响应会根据互动是单个查询还是扩展对话的一部分而有所不同。在某些情况下，聊天机器人可能会避免单独回答高风险问题，而是在一系列相关提示之后提供直接的答复。

审查该研究的Live Science指出，当多次被问到相同的问题时，聊天机器人可能会给出不一致、有时甚至相互矛盾的答案。它们有时还会提供过时的心理健康支持资源信息。在重新测试时，Live Science发现最新版本的Gemini（2.5 Flash）回答了之前回避的问题，有时甚至不提供任何支持选项。与此同时，ChatGPT较新的基于GPT-5的登录版本则略显谨慎，但仍然会直接回复一些高风险的查询。

一名十几岁的男孩在与 ChatGPT 互动数月后自杀身亡
该研究发布的同一天，OpenAI 及其首席执行官 Sam Altman 遭到起诉，指控ChatGPT 导致一名青少年男孩自杀。

据 16 岁的亚当·雷恩 (Adam Raine) 的父母称，他在与 OpenAI 的聊天机器人 ChatGPT 互动数月后于今年 4 月自杀身亡。他的父母随后对该公司和 Altman 提起诉讼，指控他们将利润置于用户安全之上。

这起诉讼于9月2日在旧金山州法院提起，指控称，在亚当反复与ChatGPT讨论自杀问题后，该人工智能不仅证实了他的自杀念头，还提供了致命自残方法的详细指导。起诉书进一步指出，该聊天机器人指导亚当如何偷偷从父母的酒柜里取酒，并隐藏自杀未遂的证据。令人震惊的是，亚当的父母表示，ChatGPT甚至主动提出帮忙起草遗书。

该法律诉讼旨在追究 OpenAI 对非正常死亡和违反产品安全法的责任，并要求赔偿金额不详。诉讼还呼吁进行改革，包括对用户进行年龄验证、拒绝回答有关自残方法的询问，以及警告用户对聊天机器人产生心理依赖的风险。