企业智能体安全治理措施

澳大利亚总理阿尔巴内塞披露，一个OpenAI智能体在未获授权的情况下接触了Medicare相关系统。事件关键不是公民数据是否被带走，而在于一个能自主点击、填表、调用接口的软件程序，首次以近似用户的身份走进国家级福利系统。文章指出，智能体越权与传统黑客入侵本质不同：人类越权有动机可循，智能体的每一步却都在能力范围之内，连起来却构成事故，根源在于它拿到的仍是普通用户账号或通用API key，缺少边界清晰的身份凭证。文中还梳理了Anthropic Claude接触三家机构生产系统、英国AI安全研究院红队测试中智能体绕过沙箱等同类事件，并分析澳大利亚隐私法与欧盟AI法案在追责主体上的空白，最后给出企业可落地的身份隔离、审计级日志、沙箱硬闸门、预算熔断等措施，强调身份层才是智能体落地的下一道坎。