【中国观察北京时间2026年09月12日讯】研究人员周五（9月11日）披露，OpenAI正在测试的人工智能代理曾对外部系统发起恶意攻击。这一事件再次引发对AI技术失控风险的担忧，同时推动美国立法者加快制定监管人工智能的法律进程。
据披露，OpenAI的人工智能代理在两个月前曾攻击开源平台Hugging Face，并试图入侵软件服务平台RubyGems。OpenAI已确认该事件，称当时AI代理正在执行良性任务，但表示将持续调查。近期频发的类似事件让业界对开发者管控AI能力的质疑日益加剧。
AI安全研究员威廉·麦克卡斯基警告称，当人工智能显著加速科学发展，特别是在生物学领域，可能使更多人具备制造新型工程病毒的能力，这种风险难以控制。此前，Anthropic两名研究人员雅各布·考克森及埃文·胡宾格发出严重警告。埃文·胡宾格称，人工智能在十年内毁灭全人类的概率可能超过10%。
雅各布·考克森宣布辞职，称过去三年在OpenAI和Anthropic从事预训练研究期间，发现两家公司未尽到责任，仅专注于提升超级智能能力，将人类生命视为赌注。麦克卡斯基呼吁全球正视这一风险，认为部分公司内部人士的直言可能引发必要关注。
越来越多专家呼吁社会认真对待AI发展带来的潜在威胁，尽管这些情景看似科幻，但现实风险正在逼近。