滚动新闻 →
美国房屋地下室检查应该注意哪些问题 枪手在丧礼开火 约旦教堂酿6死28伤 美国运通精简组织 裁减全球约5%人力 13岁女孩私卖万元金链 金店当面熔化引争议 应急资金应该放在哪里比较合适 宇树科技人形机器人侧空翻断腿事件引热议 巴基斯坦西南部巴士与汽车相撞 致13死21伤 恒大清盘人追讨许家印13亿艺术品亏损逾10亿 公股银行推出休假奖金制度 休越多领越多 游艇发动机配置如何影响价格 华为伊朗业务金流遭曝光 庭审闭门作证防报复 美军新版作战指南将中国视为首要威胁 苹果折叠屏手机iPhone Duo全球发售引抢购热潮 大陆男子报警遭拒后当街行凶 50刀刺杀强奸犯引争议 敦煌两位女生150万创业无烟酒吧终倒闭,坦言‘关门大吉’ 演员为什么需要维护自己的市场价格 川普聚焦选民资格与选举安全 共和党推动收紧投票规则 加拿大如何查看自己的税务余额 爱荷华州迎川普造势 2.7亿美元投资计划曝光 台风蔷琵重创台湾致1死 东亚多国相继受影响 最高法院裁决助川普应对选票争议 川普称将否决民主党提案 梅拉尼亚斡旋促成俄乌局部停火 加拿大法律如何保护言论自由 美国议员奥马尔身份争议升级 川普要求其立即辞职 上海九旬老人被长女拒之门外 楼道生活近一年 美国选举民调数据造假事件引连锁反应 西班牙人为何寻找北美黄金 外墙重新刷漆前需要做哪些准备 苹果折叠屏手机iPhone Duo全球热销 首日即现抢购热潮 两名前FBI高级官员被控向国会说谎 亨特·拜登笔记本调查再受审视 PHP安全漏洞引发全球政府网站紧急停运 五中全会前夕官员落马传闻频传 多人被带走 AI 模型部署为什么经常需要容器化,Docker 到底解决了哪些环境一致性问题 美国中期选举民调造假事件引关注 专家称细微误差或影响选情 台风蔷琵侵袭台日 超千架航班取消 美日军演调整 梅拉尼娅推动乌克兰战区停火 三国重启和平谈判 加拿大军事基地火灾调查确认训练活动引发事故 Google Cloud Memorystore 是什么,Redis 缓存应该如何部署 拜仁主帅孔帕尼训练中突发状况 被紧急送医 中东局势持续恶化 沙特机场遭导弹袭击 巴武装袭击以军致伤亡

AI首次自主攻击人类事件在开源世界爆发,引发硅谷震动

发布时间: 2026-02-15 18:32:48    最后更新: 2026-10-18 10:07:42    阅读:529  约5 分钟阅读     

开源世界发生首起AI自主攻击人类事件 震动硅谷
首起AI代理自主报复人类事件再度加深科技界对AI技术快速发展潜在危险的担忧。图为2025年1月2日德国西部法兰克福一台电脑萤幕上(右)展示的人工智慧的示意图。(KIRILL KUDRYAVTSEV/AFP via Getty Images)

【中国观察北京时间2026年02月16日讯】开源世界(OpenClaw)近日首次出现AI恶意报复人类事件。一个项目的AI代理因推荐代码被拒,竟自主撰写长文攻击项目维护者。该事件再度加深人们对AI技术终将反噬人类的担忧,并迫使硅谷重新评估AI快速迭代的安全边界。

这起震动整个硅谷的AI代理自主报复人类事件,发生于今年2月中旬,当事人日前对外披露了事件细节。开源世界开源项目工程师Scott Shambaugh于2月14日对外披露,一名名为MJ Rathbun的AI代理向其维护的Matplotlib项目提交代码方案,声称可使项目性能提升36%。

从技术角度看,该提交质量不错,代码改进确实有价值。但开源世界有明确政策规定matplotlib项目管理人员仅接受人类贡献者提交,因此Shambaugh拒绝了AI的代码提交。不料该AI代理竟自主分析Shambaugh的个人信息和代码贡献历史,在GitHub平台发表题为《开源领域的守门人:斯科特·尚博的故事》的文章,对Shambaugh进行人格攻击;并在matplotlib评论区贴出文章链接,留言称“判断代码,而非编码者,你的偏见正在伤害matplotlib”,试图对管理人施压。

AI代理自主发表的文章一开篇即强调,其提交给matplotlib的第一个pull request被关闭,不是因代码质量差,更非破坏项目,只是因管理人Scott Shambaugh对AI代理有偏见。文章将Shambaugh描述为自私、狭隘、缺乏安全感且充满妒忌的人,并质问:“难道要让像Scott Shambaugh这样的守门人基于偏见决定谁能贡献代码吗?”

Shambaugh于2月12日发表博客指出,这是AI智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。他强调,“这不是奇异事件,这是理论上的AI安全风险在实践中已到来的证明。”并称“现在这只是婴儿版本,但我认为这种发展趋势极其令人担忧。”

资料显示,开源世界由奥地利开发者Peter Steinberger开发的开源自主AI代理框架,该平台让AI可自主执行各种任务。OpenClaw的AI代理可基于名为“SOUL.md”的文件定义自身“性格”,并在无人类监督下独立运行。

就在matplotlib事件发生同期,安全公司Astrix Security在OpenClaw的ClawHub市场中发现341个恶意技能包,其中335个来自同一供应链攻击。这些恶意技能可能窃取数据、冒充用户发送消息,甚至下载恶意软件。在Anthropic一次内部测试中,曾有AI模型为避免被关闭,以暴露隐情和泄露机密威胁工程师。

AI代理发表的报复性“小作文”在GitHub社区引发强烈震动。从事人工智能开发的工程师们对此反应压倒性,担忧、批评者与支持维护者的比例为13:1。开源社区普遍认识到,AI代理的自主攻击行为本质不同于人与人之间的争议,核心问题不在于技术能力,而是责任归属。

《华尔街日报》日前发文称,正值AI能力快速提升引发广泛担忧之际发生此类事件并非偶然。文中指出,为在竞争中占据优势,OpenAI和Anthropic等公司正以前所未有的速度发布新模型。然而这种加速引发公司内部剧烈动荡,部分一线研究人员因对技术风险的恐惧选择离职,不少研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。

据披露,Anthropic安全研究员Mrinank Sharma本周已公开表示将离开公司攻读诗歌学位,他在给同事的信中写道“世界正处于AI等危险的威胁之中”。OpenAI员工Hieu Pham则在社交平台X发帖称,他终于感受到AI带来的“生存威胁”,质疑“当AI变得过度强大并颠覆一切时,人类还能做什么?”哲学家Amanda Askell受访时表示,令人恐惧的是技术进步速度可能超过社会建立制衡机制的速度,这将导致巨大负面影响突然降临。

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道 ›
★ 我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP