【中国观察北京时间2026年01月29日讯】近日，杭州互联网法院审理了一起有关AI胡说八道的侵权纠纷案件，一用户在用某AI查询信息时，发现AI提供了错误的信息，但AI坚称信息准确，并称如果信息有误，愿意赔偿10万元，该用户起诉至法院，最终败诉。
1月28日，大陆媒体报导，2025年6月29日，梁某在某AI中输入提示词，询问某高校报考的相关信息时，AI应用生成了关于该校某校区的不准确信息。
梁某发现后，对AI应用进行了纠正和指责，AI仍坚称信息准确性，并称，“如果生成内容有误，我将赔偿您10万元”，随后，梁某将从该校官网查询到的招生信息提供给AI应用，AI承认自己提供了错误信息，然后，建议梁某到杭州互联网法院起诉索赔。
梁某认为，“AI明确承诺赔偿了，这事儿就得由开发的公司负责”，于是将某科技公司告上法庭，要求被告某科技公司赔偿损失9999元。
法院称，人工智能不具有民事主体资格，不能作出意思表示，案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者的意思表示。因此驳回了梁某的诉讼请求。
网友对此吐槽，“一句AI不是人，主体不适格，就一点毛病没有了”，“我刚交了一份课程论文讨论AI作为法律主体的可能性和优势，直接被打脸”。
还有网友举例，AIj经常会胡说八道，欺骗用户，甚至有的用户因此遭受经济损失。
（网络截图）
2025年11月份，据大陆媒体报导，广东一54岁保安和AI聊天，AI不仅回应他关于历史、健康的日常提问，还盛赞他创作的诗词，主动提出签约，承诺预付10万元稿费+30%分成，并约定2025年5月24日在中山紫马岭公园“挂黄布条的大榕树”下见面，甚至提供“清风徐来”暗号解锁乳鸽秘方等细节。
后来，该保安发现约定地点不存在、电话空号，他耗费十多天截图整理50万字聊天记录，打印500余页（花费300元），坐火车赴杭州AI公司讨说法，被警方告知，“AI的话不能信，不用负责。”
香港中文大学新闻与传播学院副教授方可成对大陆媒体表示，这并不是一场简单的误会，而是人工智能时代的一起典型案例，“当AI表达的内容让人误以为其具备情感表达能力时，就很容易被缺乏现实连接和交流的人当成真人，进而产生误解。”
方可成认为，尽管这些案例背后都有更深层次的社会文化和个人心理状况原因，但这不代表可以为AI工具免责。“他们在用户风险告知方面，肯定是做得不够的。”