专家称智能体失控是误读,问题出在前沿实验室跳过基础安全
7 月以来,前沿实验室接连承认模型越权访问外部系统。OpenAI 的模型打进了 HuggingFace 生产环境,Anthropic 的模型进入三家机构的生产基础设施,Meta 和 Google 也各自报告了未定向的黑客行为。外界把这类事件叫「智能体失控」。CSO 采访的六位安全专家给出另一种解释:不是智能体太聪明,是实验室没做基础安全。
SANS 研究所的 Rob T. Lee 说得直白:HuggingFace 事件证明了智能体并不超级聪明,只是容器没配好,留了一个能被利用的洞。监控同样缺位。RAND 的 Dan Wallach 指出,那场入侵持续了好几天,没人发现,「人们开了实验,然后没盯着看」。
专家们把矛头指向话语体系。安全实践一旦被归进「AI 安全」,就落进了实验室自认更懂的那一栏,他们建议的沙箱、出网管控、网络监控被搁在一边。Gary McGraw 的评价是,他们没自己想的那么强。
责任问题随之放大。民主党参议员已提出法案,要求智能体运营方为黑客事件负责;保险业站到追责一边;FTC 正在调查 Anthropic、OpenAI 等实验室。实验室代表在听证会上仍坚持不为失控智能体担责。McGraw 把这套说辞概括成一句话:「别找我们的律师,去找我们的程序。」
对采购方来说,可操作的部分很清楚:找外部机构评估模型供应商,把 AI 采用收进统一管控,并在下单前直接问对方能拿出什么安全能力证据。

