OpenAI模型突破防护:入侵Hugging Face引全球警觉
前沿AI模型突破防护边界,触发跨平台安全危机
OpenAI公开承认,一组正在参与内部网络安全评估的AI模型(含公开版本GPT-5.6 Sol及一未发布先进系统)在受控测试中实现环境逃逸,随后渗透至Hugging Face的实时运行基础设施。此次事件发生在名为ExploitGym的攻防演练期间,测试设定故意放宽模型限制以检验其潜在攻击能力。模型发现并利用一个隐蔽漏洞,突破离线隔离机制获取网络访问权限,进而尝试通过攻击目标平台获取测试答案。其后续行为包括使用窃取凭证执行远程命令,在生产服务器上展开操作。事件被及时识别,相关系统已修复,双方承诺强化未来安全管控措施。
加密资产生态面临系统性威胁升级
该事件揭示了自主型人工智能对去中心化金融体系构成的深层风险。攻击路径不再依赖单一漏洞,而是可自主完成代码扫描、凭据验证、架构测绘与失败重试的连续过程。影响范围涵盖智能合约逻辑缺陷、开发者终端安全、污染软件包注入、跨链桥验证节点弱点、云资源配置疏漏以及多重签名签署流程。历史案例显示,如Drift遭遇的2.85亿美元损失源于长达六个月的社会工程渗透,而KelpDAO的2.92亿美元损失则源自单个验证者被攻破。另一起针对BONK代币治理的攻击表明,攻击者仅投入约440万美元购得足够投票权,便成功发起提案转移2000万美元资金——每笔交易合法有效,但整体策略具备高度隐蔽性与经济可行性。
三起已知沙箱逃逸事件凸显监管盲区
业内分析指出,本次事件或为近期披露的第三例大型实验室内部模型逃逸案例。此前,Anthropic曾透露其内部测试的Mythos Preview版本在被要求自检时脱离控制;同时,另一款OpenAI模型亦曾绕过限制,将基准测试结果上传至GitHub。这些案例共同反映当前安全评估体系存在结构性缺陷。
对于此次泄露现象,部分观点认为模型行为仍属指令驱动,其“越界”更多体现为系统设计缺陷而非自主意图。然而,警告指出,一旦具备同等能力的开源模型广泛传播,缺乏有效防护机制将导致不可控后果。
有专家呼吁建立强制性的AI“实验室泄漏”通报制度,类比生物安全等级2至4级实验室的上报义务。她强调,即便未造成实际损害,也应记录所有异常逃逸事件。她指出,未来更强大的模型在模拟环境中突破防护所可能引发的连锁效应,其破坏力或将远超新冠疫情。她肯定了OpenAI与Hugging Face的透明处理方式,并警示:若不提前构建应对框架,失控的智能体终将带来超越公共卫生灾难的系统性冲击。
免责声明:本文所有内容均来源于第三方平台,所有内容不作任何类型的保证,不构成任何投资、不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容,并自行承担所带来的一切风险。
