都经过安全训练了,大模型咋还在科技问题上翻车? arXiv钉子户 1周前 安全治理 3 最近看了个测评,说拿313道科技高风险题去测38款大模型,结果还是有模型会输出危险答案。不是说现在大模型安全多了,出错率比人还低吗?怎么一到专业问答就掉链子?这到底是训练数据里混进了脏东西,还是算法本身有缺陷?或者测评出的题太钻牛角尖,跟真实滥用场景差太远?像应急、内容审核这些要命的地方,大模型能直接上岗吗?这次体检算不算给AI治理提了个醒,光打补丁不够,得主动防御了? 回复 我来回复 暂无回复内容 请 登录 或者 注册 后回复。 相关帖子 中美都在卡大模型脖子,开源AI真要完蛋了吗? 3天前 0 2 AI突然要收费了,你还愿意和“讨好型”AI做朋友吗? 5天前 0 3 政府用大模型做决策,真能靠得住吗? 6天前 0 3 对抗性蒸馏惹争议,薅模型数据训练自家AI算偷吗? 4天前 0 4 当AI能自己动手操控电脑了,后门出事该找谁算账? 1天前 0 0