8月23日消息，OpenAI本周正式推出面向年轻用户的ChatGPT青少年版，通过年龄识别机制限制部分功能。该版本旨在为13至17岁青少年提供更安全的人工智能交互环境，但多位儿童安全专家在接受外媒采访时对其安全机制的透明度和有效性提出质疑。
Common Sense Media公司AI与数字评估负责人罗比·托尼表示，OpenAI做出了重要承诺，但必须拿出证据证明这些安全承诺和功能确实有效。儿童网络安全倡议组织Fairplay执行董事乔什·戈林则指出，从纸面上看OpenAI公布的措施确实在朝正确方向前进，但深究后仍存在值得担忧的问题，包括缺乏问责机制。戈林强调，社交媒体已经证明在保护儿童问题上不能仅依赖企业自律，OpenAI此前针对自杀、暴力和吸毒的内容限制就曾出现失效或随时间推移逐渐失灵的情况。
专家们对OpenAI自动年龄识别系统的可靠性持怀疑态度。托尼指出，OpenAI未公布该系统的误报率和漏报率数据，自动系统难以准确识别所有青少年用户。他援引此前报道称，OpenAI曾考虑推出部分成人内容功能，最终因年龄估算技术无法准确识别足够多的青少年而放弃。此外，青少年几乎肯定会尝试绕过年龄识别机制，寻找规避办法。
OpenAI在内容审核方面做出具体承诺：所有被标记内容先由全职员工审核，之后才通知家长，目标是在用户发出提示后一小时内完成通知。OpenAI青少年与家庭事务负责人劳伦·乔纳斯表示，公司拥有足够的人手和处理能力确保所有被标记内容经过人工审核。但托尼质疑，该流程仍依赖自动化决策系统筛选内容，自动分类器的可靠性值得检验。戈林则希望看到更具体的数据，包括每日被标记和审核的对话数量、审核人员规模以及平均审核时长。
此外，专家一致认为，由家长和孩子主动绑定账户的机制削弱了功能实际效果。戈林指出，多数家长不会主动使用监督工具，因为这些工具往往难以发现和操作。他建议在产品设计阶段默认启用最严格的保护设置，如默认使用时间限制，再由家长决定是否调整，而非将责任完全转移给家长。
此次争议反映出AI产品在未成年人保护领域的普遍困境：平台需要在功能开放与安全防护之间取得平衡，而安全机制的有效性需要经过独立测试和持续验证，方能获得公众信任。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
