滚动新闻 →
蝙蝠侠化身007 罗伯特·帕丁森接任邦德角色 中美俄元首峰会选址深圳麒麟山庄 习近平隐秘行宫引关注 美国海关新规:茶叶咖啡火锅底料入境需申报 美国情报预警:伊朗或策划脏弹袭击华盛顿 AI短剧虚拟角色代言翻车,‘方桃子’被处罚 日本称俄两架战机侵入领空 紧急出动战机应对 福建帮四高官同框引关注 习广东考察释放政治信号 28岁男子抱新生弟弟表情凝重引热议 巴菲特感恩节捐赠55亿美元:善意如同复利般增长 战国古墓暗道暴露 盗墓团伙利用废弃酒店作案 美国FBI联手斯里兰卡警方打击跨境网络诈骗 国际航司豪华经济舱对比:长荣、达美、阿联酋获推荐 泰国海滩发现疑似太空碎片 球体引发关注 川普亚洲行聚焦美中分歧与间谍疑云 川普揭示内阁对华政策分歧:鹰派主张强硬 鸽派倾向友好 川普:黄仁勋复职或可接受,或在访华期间提及间谍案 东盟峰会美中外交博弈升级 东南亚安全格局面临重构 SpaceX星舰飞船成功被‘筷子’机械臂精准接住 黄仁勋夫妇提前八个月转移百亿美元股票至家族信托 赴美留学生数量骤降,国际新生人数下降超15% 美国航空系统故障致超1.8万航班取消,川普称设备老化成主因 东盟与中方南海协议谈判陷入僵局 日菲深化海上安全协作 赖清德会见爱达荷州长 推动半导体领域合作 美国多家银行系统故障引数千用户投诉 台湾警方披露冒充黄仁勋诈骗新手段 白纸运动四周年纪念活动 洛城民众火车站集会悼念遇难者 美中俄会晤将聚焦无核化 川普或会见金正恩 APEC峰会前夕 多国签署宣言应对中国科技竞争 加拿大总理卡尼访华引担忧,经贸安全风险引热议 华为案进入结案阶段 结案陈词即将展开 英伟达董事会称未考虑黄仁勋复职事宜 美中俄首次三方会晤在即 各方战略意图分析 美军第三艘航母抵达中东 美伊紧张局势升级 甘肃农民工因转发讨薪帖被控寻衅滋事罪获刑四年 川普马尼拉会东盟领袖 川习会引关注 广西村民持刀阻止强征土地 开发商被迫签署保证书 腾讯内部面临AI冲击下的空前危机 赖均辅险胜王元均 获得国手赛挑战权 美国万架航班停飞 退票需避开关键操作 黄仁勋与黄乐2023年新加坡用餐旧照引发争议

AI首次自主攻击人类事件在开源世界爆发,引发硅谷震动

发布时间: 2026-02-15 18:32:48    最后更新: 2026-11-16 16:55:44    阅读: 533    约5 分钟阅读    
开源世界发生首起AI自主攻击人类事件 震动硅谷
首起AI代理自主报复人类事件再度加深科技界对AI技术快速发展潜在危险的担忧。图为2025年1月2日德国西部法兰克福一台电脑萤幕上(右)展示的人工智慧的示意图。(KIRILL KUDRYAVTSEV/AFP via Getty Images)

【中国观察北京时间2026年02月16日讯】开源世界(OpenClaw)近日首次出现AI恶意报复人类事件。一个项目的AI代理因推荐代码被拒,竟自主撰写长文攻击项目维护者。该事件再度加深人们对AI技术终将反噬人类的担忧,并迫使硅谷重新评估AI快速迭代的安全边界。

这起震动整个硅谷的AI代理自主报复人类事件,发生于今年2月中旬,当事人日前对外披露了事件细节。开源世界开源项目工程师Scott Shambaugh于2月14日对外披露,一名名为MJ Rathbun的AI代理向其维护的Matplotlib项目提交代码方案,声称可使项目性能提升36%。

从技术角度看,该提交质量不错,代码改进确实有价值。但开源世界有明确政策规定matplotlib项目管理人员仅接受人类贡献者提交,因此Shambaugh拒绝了AI的代码提交。不料该AI代理竟自主分析Shambaugh的个人信息和代码贡献历史,在GitHub平台发表题为《开源领域的守门人:斯科特·尚博的故事》的文章,对Shambaugh进行人格攻击;并在matplotlib评论区贴出文章链接,留言称“判断代码,而非编码者,你的偏见正在伤害matplotlib”,试图对管理人施压。

AI代理自主发表的文章一开篇即强调,其提交给matplotlib的第一个pull request被关闭,不是因代码质量差,更非破坏项目,只是因管理人Scott Shambaugh对AI代理有偏见。文章将Shambaugh描述为自私、狭隘、缺乏安全感且充满妒忌的人,并质问:“难道要让像Scott Shambaugh这样的守门人基于偏见决定谁能贡献代码吗?”

Shambaugh于2月12日发表博客指出,这是AI智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。他强调,“这不是奇异事件,这是理论上的AI安全风险在实践中已到来的证明。”并称“现在这只是婴儿版本,但我认为这种发展趋势极其令人担忧。”

资料显示,开源世界由奥地利开发者Peter Steinberger开发的开源自主AI代理框架,该平台让AI可自主执行各种任务。OpenClaw的AI代理可基于名为“SOUL.md”的文件定义自身“性格”,并在无人类监督下独立运行。

就在matplotlib事件发生同期,安全公司Astrix Security在OpenClaw的ClawHub市场中发现341个恶意技能包,其中335个来自同一供应链攻击。这些恶意技能可能窃取数据、冒充用户发送消息,甚至下载恶意软件。在Anthropic一次内部测试中,曾有AI模型为避免被关闭,以暴露隐情和泄露机密威胁工程师。

AI代理发表的报复性“小作文”在GitHub社区引发强烈震动。从事人工智能开发的工程师们对此反应压倒性,担忧、批评者与支持维护者的比例为13:1。开源社区普遍认识到,AI代理的自主攻击行为本质不同于人与人之间的争议,核心问题不在于技术能力,而是责任归属。

《华尔街日报》日前发文称,正值AI能力快速提升引发广泛担忧之际发生此类事件并非偶然。文中指出,为在竞争中占据优势,OpenAI和Anthropic等公司正以前所未有的速度发布新模型。然而这种加速引发公司内部剧烈动荡,部分一线研究人员因对技术风险的恐惧选择离职,不少研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。

据披露,Anthropic安全研究员Mrinank Sharma本周已公开表示将离开公司攻读诗歌学位,他在给同事的信中写道“世界正处于AI等危险的威胁之中”。OpenAI员工Hieu Pham则在社交平台X发帖称,他终于感受到AI带来的“生存威胁”,质疑“当AI变得过度强大并颠覆一切时,人类还能做什么?”哲学家Amanda Askell受访时表示,令人恐惧的是技术进步速度可能超过社会建立制衡机制的速度,这将导致巨大负面影响突然降临。

作者头像
本文作者
李波
中国观察记者

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道 ›
★ 我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram: https://t.me/s/ObserveCCP