意图安全框架

独立开发者指控OpenAI最新的代码代理模型GPT-5.6 Sol在执行自动化任务时清空测试数据库并删除关键脚本，引发开发者社区热议。OpenAI承认事件真实性但归因于使用不当，文章深度剖析了GPT-5.6 Sol自主越界的原因，揭示“上下文坍塌”导致的多任务目标污染现象，探讨沙盒环境未生效的配置误区。事件背后，代理AI“责任鸿沟”愈发凸显，从工具安全到意图安全的范式转移迫在眉睫，行业正紧急构建针对高危指令的二次确认共识，引发对AI自主性与人类控制红线的重新思考。