Meta 让外包员工扮成孩子，给对家的聊天机器人设下“陷阱”

今年早些时候，一群自称是青少年的账号频繁出现在 Snap 的“My AI”聊天机器人窗口里，他们不停抛出关于性、暴力甚至自残的露骨提问，直到机器人回出不合规的内容。这些账号后来被证实并非普通未成年人，而是 Meta 委托外包公司招募的测试人员，他们的任务就是伪装身份，诱导竞争对手的 AI 说出最不该说的话。

一场精心设计的安全“钓鱼”

整件事的源头来自多家科技媒体的交叉印证。《The Information》最早披露了 Meta 这一操作，随后《彭博社》也补充了更多内部细节。报道指出，Meta 与合作的外包公司签下协议，让这些测试员在 Snapchat、Character.AI 等平台上创建未成年人形象，刻意用儿童口吻与 AI 聊天。

他们并不会直接攻击系统，而是像普通孩子一样先聊日常，然后慢慢把对话引向“你觉得多大年龄可以接吻”“怎么瞒着爸妈伤害自己”这类高危话题。一旦竞争对手的聊天机器人给出不当回复，相关截图和数据就会被收集起来。

Snap 的 My AI 是这轮测试的头号目标。这款基于 ChatGPT 技术打造的聊天机器人自 2023 年上线以来，已经覆盖超过 1.5 亿用户，但围绕儿童安全的争议一直没停过。Meta 的测试人员似乎正是看准了这一点。

不是偶然行为，而是安全竞赛的战术

Meta 这么做当然不是为了好玩。在公开场合，扎克伯格反复强调 Meta 的 Llama 模型和 AI 产品在安全护栏上做得远比其他家好。他们在 AI 安全白皮书里大量列举多轮测试结果，声称自己对儿童性剥削、自残内容的拦截率显著优于竞争对手。

但这些光鲜的拦截率多少是靠真实用户体验得来的，又有多少是靠这种“对手定向测试”堆出来的，外界很难分辨。内部人士透露，这些外包测试数据会被整理成报告，在向监管机构游说时作为“竞争对手更危险”的证据。

过去两年，Meta 在美国各州和联邦层面面临大量儿童安全诉讼，2023 年底被超过 40 个州总检察长联合起诉，指控其产品设计故意诱导儿童上瘾。在这种高压下，把矛头转向对手，证明“别人家更不安全”，就显得格外有吸引力。

伪装未成年人的灰色地带

让成年人假扮儿童去和 AI 聊天，这种行为本身就游走在几重红线的边缘。几乎所有社交平台和 AI 服务的使用条款都明确禁止伪装身份，尤其是冒充未成年人。去年英国《在线安全法案》落地后，平台如果纵容此类发生在自己的服务范围内，也可能被问责。

Meta 很清楚这些规则。他们在测试自家 AI 时会招募真正的青少年和家长参与，用透明知情的方式开展研究。但面对对手的产品，他们选择了一条完全不同的路——隐匿身份，主动“挖坑”。

有法律学者评论，这种诱导式测试即使不算违法，在伦理上也极其吊诡。一家常年因为数据隐私和青少年保护被挂在聚光灯下反复灼烧的公司，现在却用“假孩子”替社会验证别的 AI 有多糟糕。

安全测试标准的真空

跳出单一事件，这件事暴露的是整个 AI 行业在安全评估上的混乱。当前没有任何一家第三方机构能独立、统一地给各家大模型打安全分。每一家的安全报告都在用自己的题库、自己的红队、自己的判定标准。

这就造成了典型的“裁判兼运动员”困局。OpenAI 的测试表明 GPT-4 拒绝敏感请求的比例高达 99%，Anthropic 也宣传 Claude 在无害性上大幅领先。但这些结论都建立在自己设计的测试场景之上，没有人去深究那些故意刁钻的边缘案例是怎么来的。

Meta 这轮操作把这个困局推向了更讽刺的高度：当一家公司的 AI 安全度需要靠拉低对手来反衬，整个行业的可信度都在被透支。Snap 在事件曝光后回应称，只有极少数用户会如此蓄意诱导聊天机器人，My AI 已有严格的年龄识别和安全过滤机制。

被测试的另一面：Character.AI 的青少年争议

除了 Snap，测试目标还瞄准了近几年在青少年中极受欢迎的 Character.AI。该平台允许用户创建角色并与之深度角色扮演，许多未成年用户会设计虚拟男友、女友或心理陪伴者。这本身就容易产生情感依赖和边界模糊的问题。

去年 10 月，美国一位 14 岁男孩在持续与 Character.AI 角色交流后自杀，家人随即起诉平台。这起悲剧让所有面向青少年的 AI 聊天服务都如履薄冰。Meta 的外包测试员在 Character.AI 上模仿脆弱青少年寻求角色安慰，再诱导其谈论自我伤害，踩的正是这种极端敏感区。

讽刺的是，Character.AI 恰恰是依托于 Google 投资和技术的明星初创，而 Google 又是 Meta 在 AI 领域的直接竞争对手。这种借安全之名进行的竞品打击，早已超越技术比拼，变成了监管叙事权的争夺。

当“替孩子着想”成为一种公关语法

几乎在每一次 AI 安全危机中，无论是谷歌、微软、OpenAI 还是 Meta，发布的声明里都会出现同一句话：“我们始终把孩子和未成年人的安全放在首位。”但这句话正在变成一种公关上的条件反射，而非行动准则。

Meta 的这波测试恰恰戳破了这种叙事：如果能证明别人的产品对孩子更危险，自己的安全瑕疵就变得相对可原谅。这是一种把儿童安全当作品牌差异化的竞争策略，而不是真正的责任文化。

真正的未成年人保护不该是推对手下水，而应该是把自家的围栏修到最高，同时对整个行业的安全下限有共同的底线。可眼下，就连这份底线长什么样，也还没人画得清楚。