AI系统提示词该公开吗？不公开用户是不是在跟黑箱聊天
安全治理 5
最近看到斯坦福和MIT搞了个大新闻，搞了个全球最大的AI系统提示词库，一下子把那个藏在大模型后面的“看不见的操控层”翻出来了。原来开发者给AI写的那些系统提示词，直接定死了AI的人设、说话风格、啥能说啥不能说，甚至工具调用方式，用户那边啥都看不到，但每次对话方向都被它牵着走。同一个模型，换套提示词就能从“客观助手”变成“立场输出器”。这事儿争论挺大：有人觉得不公开提示词就是让用户跟黑箱对话，知情权都没了；可也有人觉得提示词是模型核心资产，也是安全护栏，公布出来等于给黑客递刀。我有点好奇，连AI人设都是悄悄写好的，那用户还怎么做独立判断？这个口子到底怎么划？提示词算商业机密还是该强制公开？谁来审计？