【中国观察北京时间2026年06月06日讯】人工智能的迅猛发展正引发对安全风险的广泛关注。近日，大型AI公司Anthropic发出警告称，AI可能即将具备自我改进能力，甚至无需人类协助即可完成升级。该公司敦促全球AI产业建立'刹车'机制，建议放缓技术发展节奏，必要时可暂停部分功能开发。
Anthropic指出，若AI实现自主进化，人类或将逐步失去对其的控制权。为保障人类福祉，AI行业有必要采取谨慎策略，包括在关键节点实施技术暂停。共同创办人克拉克表示：'当我低头看我们正在驾驶的这辆车时，我发现自己只有油门，没有刹车踏板。而未来某个时候，我们肯定会希望自己有这个选项。'
与此同时，川普政府也开始强化对AI安全风险的监管。根据总统签署的行政令，顶尖AI公司需在最强大模型公开前，向联邦机构提交网络安全测试申请。多个联邦机构将与AI开发商协调测试安排，新模型发布前政府最多可进行30天安全检测。
目前谷歌、Anth、OpenAI等企业均对这项监管措施表示支持。