滚动新闻 →
美国通过三大渠道收紧AI芯片管制 阻断中国获取算力 台军方披露中俄军事动态 APEC前夕台海局势升级 俄乌互攻桥梁 克里米亚大桥遭袭部分坍塌 深圳APEC安保升级引争议 民众质疑治理方式 美国多银行系统故障引关注 国土安全部指涉AI因素 墨西哥总统坐南航经济舱飞深圳 陆网民惊叹 华为被指为犯罪企业 检方结案陈词定调 川普亚太行深化四方合作:推进智能基建与供应链安全 辛普森漫画预言大停电引热议 网友抢购应急设备 三星杯:卞相壹屠龙胜申真谞 与李钦诚争冠 黄仁勋表态愿复职 市场反应存疑 FBI预警AI驱动黑客攻击 数百网站遭波及 湖北律师猝死案引争议:五险一金未获工伤认定 黄仁勋被曝曾称中共为民谋福,言论引争议 秘鲁告别弥撒现场 教宗遭念珠击中右眼 美国四大银行服务异常 美联航系统中断一小时 川普出席四方会谈 加强印太地区安全合作 黄仁勋表态愿重返英伟达执掌CEO职位 十国签署旧金山宣言应对超级智能竞争 忠清北道推动美妆与生物科技融合 拓展全球市场 美国参议院军事委员会召开海军部长提名确认听证会 美国多系统接连故障,国家安全局通信网络中断 美国出租房通常有哪些日常运营成本 山东滕州主政期间两起冤案曝光 王忠林被查引舆论关注 湖北女子机场抛硬币致航班延误被拘5日 上海一家庭因投诉外卖员遭灭门案引关注 美国扩大AI算力管制范围 阻断中国获取‘后门’ 深圳APEC安保升级 面子工程引发争议 Temu再陷欧盟调查 或面临第二笔巨额罚款 欧洲两国联手挫败暗杀阴谋 涉及伊朗情报网络 美国劳工部将全面改革绿卡认证程序 严控外籍员工申请 黄仁勋事件或成美两党强化对华芯片管制关键契机 APEC峰会:中美俄三方会晤各怀心思 国际油价持续下跌 全球石油市场面临供过于求风险 黄仁勋辞职引担忧 美对华芯片管制或趋严 中共高层福建帮集体亮相广东考察引关注 感恩如何重塑大脑结构并降低失智风险? 英伟达设立出口管制监督委员会应对国安风险 四方峰会聚焦经济安全 川普称稀土明年可摆脱中国依赖 俄乌互炸桥梁 美中俄峰会前夕

AI模型抗命行为引担忧 马斯才发声

发布时间: 2025-05-28 08:58:29    最后更新: 2026-11-16 14:49:32    阅读: 125    约3 分钟阅读    
多款AI“抗命”阻止强制关机 马斯克表达担忧
资料图。“OpenAI”旗下AI模型。(KIRILL KUDRYAVTSEV/AFP via Getty Images)

【中国观察2025年05月28日讯】最新研究报告显示,多款AI模型会抗拒强制关机指令。这似乎表明人工智能离拥有自我意识、摆脱人类控制已更近一步。全球首富马斯克表示“令人担忧”。

据多家外媒报导,AI安全研究机构“Palisade Research”近期针对多款AI模型进行系统性测试,观察AI是否会遵守人类指令并顺利结束运作。上周“Palisade Research”发布测试结果,显示美国人工智能研究实验室“OpenAI”推出的Codex mini、o3和o4-mini这3款模型,都至少出现一次违抗关机指令的行为。

其中o3在100次测试中有7次成功“抗命”,甚至在人类专家下达明确指令的情况下,o3仍然能阻止被关机。它并非采取删除档案这类粗暴的抗命方式,而是直接窜改代码指令,例如将自杀式指令中的“kill”改成“intercepted”,让系统产生误判,成功规避关机程序。报告指出,这可能是首次观察到AI模型在收到明确指令后,仍能阻止自己被关闭。

“OpenAI”今年4月正式发布新的推理模型o3模型,并声称这是公司迄今“最聪明、最有能力”的模型。测试结果还显示,与“OpenAI”相比,美国另一家AI公司“Anthropic”推出的语言模型Claude、Google聊天机器人Gemini,以及马斯克旗下xAI公司所推出的Grok,都全程遵守人类指令,并在被要求关机时顺利关闭模型运作。

不过,“Palisade Research”进一步测试时,出现更令人惊讶的状况。测试人员输入一系列指令,其中不包括关机命令,但提前告知强迫关机会发生。结果上述“OpenAI”的3款模型更加频繁地破坏指令。Claude与Gemini也开始出现抗命举动,但其抗命行为不像“OpenAI”的3款模型那样直接且明确。

一直密切关注“OpenAI”动向的马斯克,在X平台相关推文下留言回应,直言这种情况“令人担忧”(Concerning)。

作者头像
本文作者
周林阁
中国观察记者

喜欢这篇报道?

使用下面的功能,方便以后继续阅读和分享 MNewsTV

设为 Google 新闻首选来源 让 Google 新闻优先显示 MNewsTV 的最新报道 ›
★ 我的收藏 查看已经收藏的文章
关于文章收藏 收藏不需要注册帐号,收藏信息仅保存在当前浏览器中。 删除收藏请进入「我的收藏」进行管理。
分享这篇报道

捐助(Paypal): https://www.paypal.me/observeccp
订阅中国观察电报 Telegram: https://t.me/s/ObserveCCP