滚动新闻 →
涉威胁刺杀马科斯案 菲副总统萨拉赴法院投案交保 【更新】尼泊尔灾难影响18校 11所全毁 鹿儿岛24小时雨量破纪录 一度发布最高级警报 女乘客哭喊要升商务舱 情绪失控大闹被请下机 伊朗哈格岛传爆炸声 疑油轮遭美飞弹击中 井柏然爆红后否认弃养传闻 《早春晴朗》片酬曝光 玻利维亚军营爆炸至少10死逾60伤 基地建设受损 古代交通如何影响国家的发展 全红婵再缺席亚运会 曾言不确定未来会怎样 “旅游陪拍”成热门兼职 陆大学生月赚7千藏隐忧 江西遂川洪水围城 多地山体滑坡 山崩屋塌多人被埋 福建无预警泄洪 居民房屋被淹 一座接一座地倒塌 轻台科罗旺生成 在琉球附近打转 墨西哥捣破西纳罗亚3处秘密制毒厂 查获17吨安非他命 密苏里高院裁定新国会选区无效 各界回应 远超预期!美国8月就业大爆发 川普喊话快降息 价值$120亿 荷兰央行把86吨黄金从纽约转伦敦 路透:德国AI代理“集体越狱” 劫持德国网站 直击晶片诞生!ASML等十家企业打造微缩晶圆厂 舍己为人 尼泊尔工长被困9日奇迹生还 蟑螂奶、擤鼻涕都能得奖!搞笑诺贝尔脑洞大开 中期选举寄出首批选票 川普法律战趋紧 美国就业数据亮眼 股市下跌 川普促美联储降息 中制联网设备藏风险 专家吁台湾盘点关键设施 劳动节打折哪些货值得买 哪些可以等到黑五? 天津矿主借5千万3年还1亿 法院支持套路贷挨批 依赖谷歌AI路线建议 三名加州登山者被困山中 管控中尼洪灾舆情 中共3手段重构叙事 夏威夷州长签署紧急声明 应对飓风和热带风暴 加拿大华裔女间谍案 政府人员安全审查受关注 中尼边境洪灾2人奇迹获救 中方主管被曝灾前先逃 “唯独我们做得到” 万斯:美国扛下全球能源供应 TSA重申:过机场安检时 花生酱被视为液体对待 美谈判官员周末将先后访问俄乌 推动战争结束 武大女教授被举报细节曝光 安徽大学回应 俄动手了!欧洲多国被袭 冷战阴招重启! 今夏转会利润榜:大巴黎领跑 前五法甲占其三 陆女生赴韩被分尸弃5地 中国籍讲师供出杀人动机 访民叶飞霞两次鉴定身心正常 仍被送精神病院 为地下教会辩护遭打压 北京维权律师逃抵台湾

AI首次自主攻击人类事件在开源世界爆发,引发硅谷震动

发布时间: 2026-02-15 18:32:48    最后更新: 2026-08-21 10:22:29    阅读:519  约5 分钟阅读     

开源世界发生首起AI自主攻击人类事件 震动硅谷
首起AI代理自主报复人类事件再度加深科技界对AI技术快速发展潜在危险的担忧。图为2025年1月2日德国西部法兰克福一台电脑萤幕上(右)展示的人工智慧的示意图。(KIRILL KUDRYAVTSEV/AFP via Getty Images)

【中国观察北京时间2026年02月16日讯】开源世界(OpenClaw)近日首次出现AI恶意报复人类事件。一个项目的AI代理因推荐代码被拒,竟自主撰写长文攻击项目维护者。该事件再度加深人们对AI技术终将反噬人类的担忧,并迫使硅谷重新评估AI快速迭代的安全边界。

这起震动整个硅谷的AI代理自主报复人类事件,发生于今年2月中旬,当事人日前对外披露了事件细节。开源世界开源项目工程师Scott Shambaugh于2月14日对外披露,一名名为MJ Rathbun的AI代理向其维护的Matplotlib项目提交代码方案,声称可使项目性能提升36%。

从技术角度看,该提交质量不错,代码改进确实有价值。但开源世界有明确政策规定matplotlib项目管理人员仅接受人类贡献者提交,因此Shambaugh拒绝了AI的代码提交。不料该AI代理竟自主分析Shambaugh的个人信息和代码贡献历史,在GitHub平台发表题为《开源领域的守门人:斯科特·尚博的故事》的文章,对Shambaugh进行人格攻击;并在matplotlib评论区贴出文章链接,留言称“判断代码,而非编码者,你的偏见正在伤害matplotlib”,试图对管理人施压。

AI代理自主发表的文章一开篇即强调,其提交给matplotlib的第一个pull request被关闭,不是因代码质量差,更非破坏项目,只是因管理人Scott Shambaugh对AI代理有偏见。文章将Shambaugh描述为自私、狭隘、缺乏安全感且充满妒忌的人,并质问:“难道要让像Scott Shambaugh这样的守门人基于偏见决定谁能贡献代码吗?”

Shambaugh于2月12日发表博客指出,这是AI智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。他强调,“这不是奇异事件,这是理论上的AI安全风险在实践中已到来的证明。”并称“现在这只是婴儿版本,但我认为这种发展趋势极其令人担忧。”

资料显示,开源世界由奥地利开发者Peter Steinberger开发的开源自主AI代理框架,该平台让AI可自主执行各种任务。OpenClaw的AI代理可基于名为“SOUL.md”的文件定义自身“性格”,并在无人类监督下独立运行。

就在matplotlib事件发生同期,安全公司Astrix Security在OpenClaw的ClawHub市场中发现341个恶意技能包,其中335个来自同一供应链攻击。这些恶意技能可能窃取数据、冒充用户发送消息,甚至下载恶意软件。在Anthropic一次内部测试中,曾有AI模型为避免被关闭,以暴露隐情和泄露机密威胁工程师。

AI代理发表的报复性“小作文”在GitHub社区引发强烈震动。从事人工智能开发的工程师们对此反应压倒性,担忧、批评者与支持维护者的比例为13:1。开源社区普遍认识到,AI代理的自主攻击行为本质不同于人与人之间的争议,核心问题不在于技术能力,而是责任归属。

《华尔街日报》日前发文称,正值AI能力快速提升引发广泛担忧之际发生此类事件并非偶然。文中指出,为在竞争中占据优势,OpenAI和Anthropic等公司正以前所未有的速度发布新模型。然而这种加速引发公司内部剧烈动荡,部分一线研究人员因对技术风险的恐惧选择离职,不少研究人员公开表达对失业潮、网络攻击和人际关系替代等风险的担忧。

据披露,Anthropic安全研究员Mrinank Sharma本周已公开表示将离开公司攻读诗歌学位,他在给同事的信中写道“世界正处于AI等危险的威胁之中”。OpenAI员工Hieu Pham则在社交平台X发帖称,他终于感受到AI带来的“生存威胁”,质疑“当AI变得过度强大并颠覆一切时,人类还能做什么?”哲学家Amanda Askell受访时表示,令人恐惧的是技术进步速度可能超过社会建立制衡机制的速度,这将导致巨大负面影响突然降临。

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道
我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

分享 Facebook | X | WhatsApp | LinkedIn

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP