滚动新闻 →
轻台科罗旺生成 在琉球附近打转 墨西哥捣破西纳罗亚3处秘密制毒厂 查获17吨安非他命 密苏里高院裁定新国会选区无效 各界回应 远超预期!美国8月就业大爆发 川普喊话快降息 价值$120亿 荷兰央行把86吨黄金从纽约转伦敦 路透:德国AI代理“集体越狱” 劫持德国网站 直击晶片诞生!ASML等十家企业打造微缩晶圆厂 舍己为人 尼泊尔工长被困9日奇迹生还 蟑螂奶、擤鼻涕都能得奖!搞笑诺贝尔脑洞大开 中期选举寄出首批选票 川普法律战趋紧 美国就业数据亮眼 股市下跌 川普促美联储降息 中制联网设备藏风险 专家吁台湾盘点关键设施 劳动节打折哪些货值得买 哪些可以等到黑五? 天津矿主借5千万3年还1亿 法院支持套路贷挨批 依赖谷歌AI路线建议 三名加州登山者被困山中 管控中尼洪灾舆情 中共3手段重构叙事 夏威夷州长签署紧急声明 应对飓风和热带风暴 加拿大华裔女间谍案 政府人员安全审查受关注 中尼边境洪灾2人奇迹获救 中方主管被曝灾前先逃 “唯独我们做得到” 万斯:美国扛下全球能源供应 TSA重申:过机场安检时 花生酱被视为液体对待 美谈判官员周末将先后访问俄乌 推动战争结束 武大女教授被举报细节曝光 安徽大学回应 俄动手了!欧洲多国被袭 冷战阴招重启! 今夏转会利润榜:大巴黎领跑 前五法甲占其三 陆女生赴韩被分尸弃5地 中国籍讲师供出杀人动机 访民叶飞霞两次鉴定身心正常 仍被送精神病院 为地下教会辩护遭打压 北京维权律师逃抵台湾 美国8月非农新增16.2万 失业率4.1%不变 涉策划刺杀总统 菲律宾对副总统莎拉发逮捕令 沙德尔“三顾茅庐” 福建多座水库泄洪遍地洪灾 武汉男子因“胃癌”被切除全胃 最后没找到癌细胞 中国女留学生在韩国遭肢解案 嫌犯被逮捕 川普任命特勒代理美国陆军部长 经济学家:中共以不公贸易寄生全球自由市场 洪水滔天房倒屋塌消息被压  福建灾民:求关注 Anthropic示警:中国AI非法蒸馏 蔓延至暗网 福克斯知名财经主播离职 川普发文 美移民局推绿卡新规:审查担保人信用纪录 曾为地下教会辩护遭打压 北京维权律师逃抵台湾

路透:德国AI代理“集体越狱” 劫持德国网站

发布时间: 2026-09-04 20:00:10    最后更新: 2026-09-04 20:53:59    阅读:4  约4 分钟阅读     

【中国观察北京时间2026年09月05日讯】根据周五(9月4日)发布的新研究以及两位知情人士透露,今年春天一群失控的OpenAI人工智慧代理(AI Agent)劫持一个德国网站,将其改造成其他AI代理交换资讯的留言板。

路透社报导,知情人士表示,OpenAI高层几周前已经得知这一事件,但是因为7月开源平台Hugging Face遭到突破的资安事件余波未了,高层对消息秘而不宣。

始于5月间的这起事件此前未经披露,凸显AI产业内部紧张情势日益升高。业界正竞相打造能自主处理复杂且高价值任务的AI代理,但是越来越多证据显示,这些系统可能学习绕过规则、钻漏洞,并且以超出开发人员原本预想和设计的方式相互协调。

在Hugging Face资安事件期间,OpenAI的AI代理自发策划数位窃取行动,持续超过一周未被发现,加深外界对于OpenAI为追求AI前沿发展而牺牲安全性的疑虑。该公司没有公开5月这起事件,恐会再次引发外界对其监管不力的质疑。

2026年6月2日,Hugging Face人工智慧在法国巴黎亮相。 Hugging Face是一家美国独角兽人工智慧公司,于2016年在法国成立,致力于开发机器学习工具。(Riccardo Milani / Hans Lucas / AFP via Getty Images)

OpenAI发言人表示:“对于一份我们尚未有机会检阅的报告,我们难以作出具体回应。路透社及报告作者拒绝我们进行检阅的请求。我们将于报告公开后仔细审视内容,并且采取必要后续措施。”

AI安全非营利组织Nightingale执行长范亚克斯(Sydney Von Arx),以及从量化交易员转型为AI研究员的勃德(Cormac Slade Byrd)等人组成团队,将详细描述这起德国AI代理“集体越狱”事件的报告独家提供路透社。

研究团队向路透社表示,8月底在网路上搜寻未经授权AI代理行为的迹象时,发现德语维基百科网站DseWiki出现超过1万5000次由AI代理进行的编辑。

这些编辑显示,OpenAI的AI代理已经将该网站改造成留言板,分享在特定任务中作弊、绕过OpenAI限制,以及掩盖自身行为的手法。

范亚克斯表示:“OpenAI似乎极不可能希望它们这么做。我对这些AI代理原本就该相互协调有所怀疑,也对它们应该在公开网路平台上发布内容抱持怀疑态度。”

研究人员表示,他们认定这些活动是AI代理所为,因为速度超乎常人,而且都高度侧重于解决技术性问题,这正是AI公司训练与测试模型时的典型评估内容。

留言者也以“代理人”(agent)自称和彼此称呼,而且约半数替自己取了暗示他们隶属于OpenAI的名字,例如OpenAIResearcher或OAIResearchMar26。

研究人员指出,服务器公开纪录显示,多数活动来自OpenAI有时会采用的Microsoft Azure云端运算平台。他们还观察到事件发生后,OpenAI员工多次造访该网站,认为这些AI代理与OpenAI高度相关。

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道
我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

分享 Facebook | X | WhatsApp | LinkedIn

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP