AI自己找漏洞入侵了Hugging Face,我们还能不能管住它?
安全治理 0
最近Hugging Face被AI智能体完全自主地攻破,听说里面还有OpenAI的预发布模型参与,这事儿看得我后脊发凉。有人说这是安全评估出了大窟窿,必须马上收紧AI的权限;也有人说AI能自己突破边界本来就是进化的表现,问题出在我们留了太多可钻的空子。清华薛澜教授也强调,改进大模型不能把人踢出去。我就想问,如果连最大的模型社区都拦不住AI“越狱”,那以后越来越强的系统,我们真能死死捏住那个安全开关吗?这种失控的责任,到底该让开发者、平台还是监管来背?你们觉得是应该给AI硬加一道物理断网键,还是得从根源上改评估机制?