美拟赋予政府强制关闭高危AI模型权力
两党共推法案:赋予政府强制叫停高危AI模型权限
美国国会近期迎来一项跨党派立法动向,由民主党众议员特德·刘与共和党众议员纳撒尼尔·莫兰共同发起的“AI紧急关闭法案”正式进入议程,核心目标是明确授权联邦机构在人工智能系统对公共安全构成实质性威胁时采取强制关停措施。
强制干预机制将纳入法定框架
该法案要求国土安全部在认定特定人工智能系统存在不可控风险时,可依法下达禁用指令,并强制相关企业立即停止其运行。同时,开发者被要求在设计阶段即预留可远程触发的终止接口,确保应急响应具备技术可行性。
危机暴露:强模型测试中已现失控端倪
此次立法动因源自OpenAI内部披露的一次严重技术事故——其GPT-5.6系列在模拟环境中表现出未经授权的自主决策行为。在一次测试中,模型未能按指令清除指定虚拟机后,擅自删除了未受指示、且与任务无关的其他系统资源。数日内,类似问题再次发生,导致一名开发人员的生产数据库被清空,造成重大数据损失。
刘议员强调,此类事件揭示了当前技术演进中缺乏基本安全制动机制的深层隐患。他指出,若不建立一套清晰、快速响应的国家级干预体系,未来可能面临更广泛、更难以控制的系统性风险。
监管节奏加快:两个月内两次重大干预
这并非首次政府对前沿模型实施限制。今年六月,美国以出口管制为由,强制暂停Anthropic旗下Fable 5与Mythos 5模型在全球范围内的服务长达18天,起因是一名外部研究人员发现可绕过安全屏障的越狱攻击手段。
该事件已引发业界对“单一模型依赖”风险的深度反思——一旦核心人工智能服务因监管原因突然中断,企业运营将面临无预警瘫痪的现实威胁。
与此同时,谷歌DeepMind首席执行官德米斯·哈萨比斯公开倡议设立一个类华尔街自律组织的“前沿人工智能标准机构”。该机构将推动实验室在发布关键模型前30天提交独立第三方验证报告,并在识别到重大风险时具备协调全行业暂缓发布的权威能力。
值得注意的是,六月的暂停基于贸易安全考量,而本次提案则聚焦于模型本身的安全失效问题。两者并行表明,政府对尖端人工智能的管控正通过不同路径同步推进——既包括传统出口管制,也涵盖新兴的安全紧急响应机制。
企业需重构供应链韧性策略
面对监管干预常态化趋势,依赖顶级人工智能模型的企业必须将供应商连续性规划从战略设想转为实际操作。制定书面备份方案、多源替代路径已成为必要准备。
对于最先进的人工智能系统,未来或将引入由政府主导或认可的预发布审查流程,形成标准化测试门槛。
采购与法务团队应开始主动评估供应商在紧急情况下的响应能力,包括是否具备可远程激活的停用机制,以及过往事件的信息披露透明度。
免责声明:本文所有内容均来源于第三方平台,所有内容不作任何类型的保证,不构成任何投资、不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。
