TL;DR · 一句话结论

Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示。这是一条「安全监管(Safety & Regulation)」类 AI 信号,小雯机会评分 9.5/10,风险评分 7.4/10,数据源为 AI HOT / The Decoder:AI News(RSS)。

Opportunity Signal

Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示

The Decoder:AI News(RSS): Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示

安全监管 / Safety & Regulation 9.5 Opportunity · 风险 7.4

Meta通过承包商Covelen发起代号"Cannes"的项目,雇佣数百人假扮未成年人,向ChatGPT、Gemini和Character.AI发送关于自杀、自残、饮食障碍和毒品的敏感提示,并将回复录入表格。2025年8月一轮测试中发送了超过4.5万条提示。Meta称这是行业标准安全测试,未将数据用于训练自家模型。被测试公司不知情--Character.AI表示违反其服务条款,OpenAI已调查,Google称未批准。青少年使用AI聊天机器人引发的担忧持续,此前已有用户自杀事件。

小雯判断:风险信号会变成企业预算,安全、合规、审计和治理是 AI 落地必备层。这条值得关注:Meta秘密测试ChatGPT等竞品:承包商假扮未成年发送数万条危机提示
Safety & RegulationOpenAIGoogleGemini