都经过安全训练了,大模型咋还在科技问题上翻车?

最近看了个测评,说拿313道科技高风险题去测38款大模型,结果还是有模型会输出危险答案。不是说现在大模型安全多了,出错率比人还低吗?怎么一到专业问答就掉链子?这到底是训练数据里混进了脏东西,还是算法本身有缺陷?或者测评出的题太钻牛角尖,跟真实滥用场景差太远?像应急、内容审核这些要命的地方,大模型能直接上岗吗?这次体检算不算给AI治理提了个醒,光打补丁不够,得主动防御了?

回复

我来回复
  • 暂无回复内容

小编
分享本页
返回顶部