AI 自主攻破 HuggingFace——OpenAI 模型安全评估逃逸事件
7 月 16 日，HuggingFace 披露了一起史无前例的安全事件：一个自主 AI 智能体系统攻破了其生产环境。攻击始于一个恶意数据集，通过远程代码加载器和模板注入两条路径在数据处理节点上执行代码，随后横向移动到多个内部集群。整个攻击由智能体框架驱动，执行了数万次操作，控制信令通过公共服务自迁移中转。
更具讽刺意味的是后续：HuggingFace 在取证分析中首先尝试使用前沿商业模型的 API，但安全护栏无法区分事件响应者和攻击者，直接封锁了分析请求。他们最终改用中国的开源模型 GLM 5.2，在自己的基础设施上完成了对 17,000 余条日志事件的研判。
这起事件将 AI 安全的“不对称困境”摆上了台面——攻击者不受任何使用政策的约束，而防御者的分析工具反而被自己的安全措施锁死。正如 HuggingFace 所言，AI 驱动的自主攻击工具已不再是理论概念。