AI 安全竞赛裁判兼运动员困局

据外媒披露，Meta 委托外包公司让测试员伪装成青少年，在 Snap 的 My AI、Character.AI 等竞品聊天机器人上刻意诱导其生成涉及性、暴力和自残的不当内容，以此收集对手安全漏洞的证据，在监管追责中突出自己更安全的形象。这一行为游走在平台规则和伦理灰色地带，暴露了行业内安全测试标准缺失、裁判兼运动员的困境。当儿童安全被用作品牌差异化的竞争工具，整个 AI 行业的可信度都面临透支。