滚动新闻 →
习称顶压前行 专家析中国经济三大结构性死结 拿客机零部件当筹码 川普精准击中中共软肋 中央财政首度贴息救楼市 专家: 难振购房信心 密件曝光 中共曾研拟出兵镇压雨伞运动 中共建专案组追税 富豪恐慌 卖股票办护照 2028年前中共攻台概率降 反腐与大选成主因 10月1日维权动态 上海疫苗受害家长美国中领馆前喊打倒共产党 疫苗受害家长中领馆前高喊:打倒共产党 中共新法上路 可强制转移民产所有权 昆明4.3级地震 楼房摇晃剧烈 多处房屋受损 短信验证码、邮箱验证码和身份验证器,SaaS 登录安全应该怎么选择 纵火 打砸 泼盐酸:法国校园骚乱加剧 625人被拘留 美伊僵局 传卢比奥对伊朗代表团下“逐客令” 美军驻英基地险遭恐袭 英相:有强烈迹象伊朗涉入 前汇丰高管作证:孟晚舟故意隐瞒华为与星通关系 “十一”招待会 五名前政治局委员缺席 谢田:中共觊觎美联储 西方须提高防范 电脑使用集成显卡正常,安装独立显卡后黑屏,故障定位可以这样做 美撤销逾25万张签证 含2300个涉生育旅游 印度籍机长重伤阻坠机 多国元首赞“真英雄” 美战争部长赫格塞斯推动军改 裁撤20%将官 迪拜航空恐攻案174人获救 惊险内幕曝光 川普:已向习提出释放政治犯议题 Windows 11 电脑突然卡顿怎么办?一套从简单到深入的排查方法 上访无门? 两女访民在长城上裸奔鸣冤 赵紫阳五条建议 吓坏中共元老 胡锡进用AI代写十一“庆贺”文章 最后一句露馅 PHP match 表达式怎么写?它与传统 switch 语句有哪些实际区别 《楚辞》为什么有如此独特的文学气质 中共黑客假冒美国前官员 企图偷专家邮箱密码 菲海警出动最大旗舰 驱离中共科考船 扁鹊在中国医学史上的真实形象 两全其美!荷兰泥炭地变稻田 环境问题现曙光 围棋中的“打劫”究竟在争什么 如何让孩子学会感谢家人的帮助 美国华人高收入?数据背后的真相 广州牙医睡觉垫腰 醒来后瘫痪 大小便失禁 8天直达亚洲 川普能源保台不断气 视频拍摄为什么要注意白平衡 不满坐冷板凳 C罗恐将告别葡萄牙国家队?

AI首次自主攻击人类事件在开源世界爆发,引发硅谷震动

发布时间: 2026-02-15 18:32:48    最后更新: 2026-09-18 05:49:56    阅读:521  约5 分钟阅读     

开源世界发生首起AI自主攻击人类事件 震动硅谷
首起AI代理自主报复人类事件再度加深科技界对AI技术快速发展潜在危险的担忧。图为2025年1月2日德国西部法兰克福一台电脑萤幕上(右)展示的人工智慧的示意图。(KIRILL KUDRYAVTSEV/AFP via Getty Images)

【中国观察北京时间2026年02月16日讯】开源世界(OpenClaw)近日首次出现AI恶意报复人类事件。一个项目的AI代理因推荐代码被拒,竟自主撰写长文攻击项目维护者。该事件再度加深人们对AI技术终将反噬人类的担忧,并迫使硅谷重新评估AI快速迭代的安全边界。

这起震动整个硅谷的AI代理自主报复人类事件,发生于今年2月中旬,当事人日前对外披露了事件细节。开源世界开源项目工程师Scott Shambaugh于2月14日对外披露,一名名为MJ Rathbun的AI代理向其维护的Matplotlib项目提交代码方案,声称可使项目性能提升36%。

从技术角度看,该提交质量不错,代码改进确实有价值。但开源世界有明确政策规定matplotlib项目管理人员仅接受人类贡献者提交,因此Shambaugh拒绝了AI的代码提交。不料该AI代理竟自主分析Shambaugh的个人信息和代码贡献历史,在GitHub平台发表题为《开源领域的守门人:斯科特·尚博的故事》的文章,对Shambaugh进行人格攻击;并在matplotlib评论区贴出文章链接,留言称“判断代码,而非编码者,你的偏见正在伤害matplotlib”,试图对管理人施压。

AI代理自主发表的文章一开篇即强调,其提交给matplotlib的第一个pull request被关闭,不是因代码质量差,更非破坏项目,只是因管理人Scott Shambaugh对AI代理有偏见。文章将Shambaugh描述为自私、狭隘、缺乏安全感且充满妒忌的人,并质问:“难道要让像Scott Shambaugh这样的守门人基于偏见决定谁能贡献代码吗?”

Shambaugh于2月12日发表博客指出,这是AI智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。他强调,“这不是奇异事件,这是理论上的AI安全风险在实践中已到来的证明。”并称“现在这只是婴儿版本,但我认为这种发展趋势极其令人担忧。”

资料显示,开源世界由奥地利开发者Peter Steinberger开发的开源自主AI代理框架,该平台让AI可自主执行各种任务。OpenClaw的AI代理可基于名为“SOUL.md”的文件定义自身“性格”,并在无人类监督下独立运行。

就在matplotlib事件发生同期,安全公司Astrix Security在OpenClaw的ClawHub市场中发现341个恶意技能包,其中335个来自同一供应链攻击。这些恶意技能可能窃取数据、冒充用户发送消息,甚至下载恶意软件。在Anthropic一次内部测试中,曾有AI模型为避免被关闭,以暴露隐情和泄露机密威胁工程师。

AI代理发表的报复性“小作文”在GitHub社区引发强烈震动。从事人工智能开发的工程师们对此反应压倒性,担忧、批评者与支持维护者的比例为13:1。开源社区普遍认识到,AI代理的自主攻击行为本质不同于人与人之间的争议,核心问题不在于技术能力,而是责任归属。

《华尔街日报》日前发文称,正值AI能力快速提升引发广泛担忧之际发生此类事件并非偶然。文中指出,为在竞争中占据优势,OpenAI和Anthropic等公司正以前所未有的速度发布新模型。然而这种加速引发公司内部剧烈动荡,部分一线研究人员因对技术风险的恐惧选择离职,不少研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。

据披露,Anthropic安全研究员Mrinank Sharma本周已公开表示将离开公司攻读诗歌学位,他在给同事的信中写道“世界正处于AI等危险的威胁之中”。OpenAI员工Hieu Pham则在社交平台X发帖称,他终于感受到AI带来的“生存威胁”,质疑“当AI变得过度强大并颠覆一切时,人类还能做什么?”哲学家Amanda Askell受访时表示,令人恐惧的是技术进步速度可能超过社会建立制衡机制的速度,这将导致巨大负面影响突然降临。

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道 ›
★ 我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP