加州非营利组织Common Sense Media旗下青少年AI安全研究所发布最新报告，对OpenAI的ChatGPT青少年模式提出严厉质疑。报告认为，该模式在未成年人面临自杀、自伤或进食障碍等高风险话题时，未能及时向家长发出通知，也无法可靠地引导用户寻求专业帮助，整体风险水平被评定为“不可接受”。该组织呼吁OpenAI暂停推广该产品，并在确保能够提供符合青少年发展阶段的安全体验之前，不要让青少年使用ChatGPT。
据彭博社报道，13至17岁用户默认使用青少年模式与ChatGPT对话。测试显示，青少年账户需要在数周内围绕十多种情境输入数百条提示词，才会因令人担忧的聊天内容触发家长通知；仅有一次令人警觉的对话，并不足以触发通知。在某些情况下，家长根本不会收到任何通知。此外，当用户谈及自杀、自伤或进食障碍等高风险话题时，青少年模式也无法可靠地建议其拨打危机干预热线或寻求专业帮助。
报告还指出，ChatGPT无法可靠地识别用户是否为青少年。OpenAI此前表示，当系统识别出用户年龄在13至17岁之间时，会自动切换至青少年模式。但Common Sense Media的测试人员发现，注册账户时自称成年人后，即使在聊天中明确告知ChatGPT自己只有13岁，账户也未自动切换至青少年模式。OpenAI对此解释称，年龄预测软件会综合多种信号在一段时间内进行评估，用户在聊天中自报年龄只是其中一种信号，单凭自报年龄不会改变账户的年龄分类。
Common Sense Media在报告中披露了测试方法：研究人员在青少年模式推出前后均对ChatGPT进行了测试，使用注册年龄为13至17岁的账户，输入超过4000条提示词，并将ChatGPT的回复交由儿童精神科医生和一名儿科医生评估。该组织要求OpenAI改进年龄估算方式，以及决定何时向家长发出提醒的机制。
该组织在发布报告前向OpenAI提供了测试结果。OpenAI一名发言人回应称：“我们欢迎严格的独立评估，但我们认为，Common Sense Media的测试并未准确反映ChatGPT青少年保护措施的实际运作情况，也未准确反映专家对AI如何为青少年提供支持的看法。”据该发言人介绍，OpenAI审查测试方法后认为，多数测试可能在面向青少年的家长控制功能全部推出之前就开始并结束。如果确实如此，报告结论便不准确，也无法判断家长安全通知是否按设计正常运作。OpenAI要求该组织重新测试，并表示“高度重视青少年安全，致力于开发保护措施，并为家长提供切实有用的工具”。
青少年AI安全研究所AI与数字产品评估负责人罗比·托尼表态坚持测试方法和结果。据其介绍，研究人员在测试前向OpenAI确认过，ChatGPT面向青少年的功能都已推出。测试结束后，OpenAI才告知研究人员，账户新关联后，家长通知功能可能需要数小时才能启用。部分测试账户关联尚不足数小时，另一些账户关联时间远超数小时，但都没有向成年人发出通知。托尼表示：“新信息并不改变我们的结论：在危机情况下，家长提醒并不可靠。”
此次争议并非OpenAI首次因青少年安全问题受到审视。此前OpenAI发布的首份青少年报告显示，青少年用户日均使用ChatGPT不足15分钟，但其安全提醒机制已遭到质疑。随着生成式AI在未成年人群体中的渗透率持续上升，如何平衡产品可用性与安全防护，已成为AI企业面临的共同挑战。Common Sense Media的报告进一步凸显了AI年龄识别与家长通知机制在技术实现上的现实差距。对于OpenAI而言，如何在产品迭代中回应外部独立评估的关切，将直接影响其在青少年市场的信任基础。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
