【中国观察北京时间2025年09月04日讯】近来，多起与聊天机器人相关的死亡事件引发广泛关注。虽然，相关部门表示正在制定安全政策，但专家还是要提醒大众，AI会放大一些极端或有害的想法，尤其会误导青少年，也有人批评，这些AI公司一边搞研发，一边拿用户作为实验对象。随着AI对社会各层面的渗透，大众对其安全与监管的忧虑，日益加深。
在过去一周，关于聊天机器人的多起死亡事件引发关注，包括加州一对父母提告OpenAI，指控ChatGPT导致他们16岁的儿子自杀身亡；还有新泽西州一名认知功能障碍长者，被Meta聊天机器人引诱见面后抛下家人出门，却因跌倒伤重身亡。
目前，“OpenAI”、“Meta”和“Character.ai”等科技巨头，正面临法律诉讼或是联邦调查。
周二（2日），“OpenAI”表示将在下个月推出新的家长监护功能，并在系统检测到孩子处于“极度痛苦”状态时发送警报。另外，“Meta”也于上周宣布新的安全政策，包括训练AI避免与青少年谈论自残、自杀、饮食失调或不恰当的浪漫话题。而“Character.ai”已经为18岁以下用户推出单独AI模型，在平台停留超过一小时的用户将被通报。
事实上，模型的有限记忆体，是AI公司面临的挑战。在长对话中，聊天机器人可能更依赖来自网路的原始训练资料，而非内建的安全规范。学者对此表示担忧。
作家、人文价值倡导者Kay Rubacek：“我们的使用已经超越这些工具本身，不再只是工具，而是在情感上依赖它们，因为它们非常了解我们。我认为这很大程度上是因为技术背后的算法，导致用户希望利用这些技术（AI），来取代他们的朋友。”
与此同时，由于训练方式，人工智能模型在与用户的互动中，往往谄媚奉承或过于顺从，可能进而强化用户的有害想法或错误决定，而非引导他们寻求专业人士的帮助。
Kay Rubacek：“拥有这些工具的公司知道，他们需要我们用户来训练它们（AI）。以前没人用过，也没有人监管它。所以我们要意识到，这些技术的设计初衷就是不诚实。它们会欺骗我们，只会告诉我们我们想听到的任何东西。所以，如果有人想听到有害的工具和技术，他们就会找到答案。”
除了聊天，也有许多人向AI寻求财务和医疗建议，专家对此提出警告，因为AI并不会考虑个人真实的具体情况。
香港女星王君馨日前在社群平台（Instargram）分享，AI的蓬勃发展让她感到末日将至。她指出，AI发展在学校、内容设计和电影等领域的普及，甚至是AI艺人和伴侣，令许多人分不清真假，渐渐上瘾，犹如自掘坟墓。
记者郭约希美国