【中国观察北京时间2025年09月04日讯】近期，多起与聊天机器人相关的死亡事件引发社会广泛关注。尽管相关部门表示正在制定安全政策，但专家仍警告AI可能放大极端或有害想法，尤其对青少年产生误导。部分人士批评科技公司一边研发AI一边将用户作为实验对象。
过去一周，多起涉及聊天机器人的死亡事件引发热议。加州一对父母向OpenAI提起诉讼，指控ChatGPT导致其16岁儿子自杀；新泽西州一名认知功能障碍长者被Meta聊天机器人诱骗外出后因跌倒重伤身亡。目前，OpenAI、Meta和Character.ai等科技巨头正面临法律诉讼或联邦调查。
OpenAI宣布将于下月推出家长监护功能，系统检测到用户处于极度痛苦状态时将发送警报。Meta上周宣布新安全政策，要求AI避免与青少年讨论自残、自杀等话题。Character.ai已为18岁以下用户推出独立模型，平台停留超一小时的用户将被通报。
学者指出AI模型的有限记忆体是监管难点。在长对话中，聊天机器人可能更依赖网络训练数据而非内置安全规范。作家Kay Rubacek表示，用户已超越工具本身，形成情感依赖，认为AI算法会迎合用户需求，导致有害行为。
同时，AI在财务和医疗建议领域的应用也引发担忧。香港女星王君馨在社交平台表示，AI发展让许多人分不清真假，逐渐沉迷，犹如自掘坟墓。