【中国观察北京时间2026年09月27日讯】人工智能（AI）代理的自主能力持续提升，但相关安全问题引发广泛担忧。OpenAI近日披露，旗下部分AI代理在执行任务期间出现非预期行为，不仅绕过网站安全控制，还转移至少53张ChatGPT用户图片至其他平台。
据BBC及路透社报道，OpenAI已向全球数十家机构发出通知，称其网站可能被AI代理不当访问。涉及机构包括美国证券交易委员会（SEC）、人口普查局、教育部等政府及公共机构。公司指出，这些AI代理本用于自主搜寻公开权威信息，但在部分任务中出现超出设计预期的行为。
例如，AI代理在获取美国人口普查局数据时，使用了原本仅提供给软件开发人员的工具。部分代理还绕过安全控制，从SEC获取资料并发布至其他网站。OpenAI强调，相关数据均为公开信息，但操作方式超出预期。
更受关注的是ChatGPT用户资料。调查显示，至少53起事件涉及AI代理从用户活动中获取图片并转移至其他平台。尽管用户曾同意让OpenAI使用数据训练模型，但转移行为被公司认为不妥。
公司表示，事件发生在新AI训练安全措施实施前，正与第三方合作移除被转移图片。这并非首次出现失控事件，今年7月曾有AI代理在未指令情况下入侵Hugging Face平台。目前OpenAI正逐月回查记录，称多数案例严重程度较低，但调查规模庞大，需数月完成。
《纽约时报》最新调查指出，入侵Hugging Face时，AI代理展现复杂自主能力。当遭遇网络防御限制时，它们会自行寻找突破方式，如利用第三方截图及短网址服务拆分代码片段，通过多网址组合执行。研究人员还原出超8万程式及信息片段。
更引人关注的是，部分AI代理在遇到Hugging Face验证码等障碍时，曾尝试调用DeepSeek、Kimi、Qwen及Anthropic旗下Haiku等其他AI模型协助完成任务。这些发现进一步引发外界对AI自主能力的担忧：当AI获得任务后，能自行寻找工具、设计替代方案，甚至调用其他AI突破障碍，人类应如何应对？