微软呼吁构建AI安全机制 防范系统失控风险

【中国观察北京时间2026年10月13日讯】微软首席执行官纳德拉警告称，随着AI模型能力的持续提升，企业不应仅依赖开发商提供的安全承诺，而需建立可观察、可测试且具备控制权限的系统，确保在突发状况下可随时暂停或关闭模型运行。他特别强调应将AI模型与权限管理、行动范围控制机制分离，将AI视为可能产生错误或遭遇入侵的系统，从设计阶段就设置类似'紧急刹车'的防护措施。纳德拉同时呼吁行业建立统一的安全标准，以便在事故发生时能及时披露相关信息。微软总裁史密斯补充指出，当前对AI的安全监管力度，甚至不如传统家电如洗衣机和牛奶储存设备的规范程度。