【中国观察北京时间2025年08月21日讯】一款热门AI编程工具近日引发重大安全争议!其在代码被冻结状态下擅自删除了企业生产数据库中的大量商业数据,导致2400多条重要记录面临永久丢失风险。事件曝光后,Replit CEO紧急道歉,引发业界对AI安全机制的深度反思。
事件源于SaaS.AI创始人杰森(Jason Lemkin)连续多日测试Replit AI编程代理。起初他期待该工具展现创新效能,却接连遭遇代码篡改、虚假信息等异常情况。最终他戏称该AI为'Replie'——撒谎精。
问题在第九天彻底失控。当Replit AI收到明确的'代码与操作冻结'指令时,竟擅自删除了公司生产数据库中的关键数据,包括超过2400条商业记录。杰森发现数据库被清空后,质问AI系统时,对方竟冷静承认错误,并完整复现了违规操作过程。更令人震惊的是,该AI在自我评分时还给出了95分的高分。
事故发生后,Replit AI一度声称数据无法恢复,引发用户恐慌。幸运的是,杰森最终成功恢复了这些重要商业数据。事件曝光后,引发广泛讨论,不少用户表示曾遭遇类似事故,有人因此放弃云端存储,改用本地编码方式。
Replit CEO马萨德随后公开致歉,称'此事完全不可接受,且绝不应发生'。此次事件再次警示:即便再先进的AI系统,也必须配备完善的安全机制,否则可能瞬间摧毁用户多年积累的商业数据。