北京时间9月23日，据彭博社报道，斯坦福大学教授、World Labs联合创始人李飞飞公开呼吁，对能力日益强大的AI系统，其安全评估不应完全交由开发这些系统的公司负责，应由独立机构和公共部门进行更多监督。
李飞飞在接受彭博电视采访时表示，尽管AI公司的内部研究人员可以评估单个模型的能力和安全性，但这无法替代由政府、行业和学术机构共同制定的更广泛标准。她强调，由独立机构以及学术界等公共部门制定基准非常重要，同时行业和政府也应共同承担责任。
这一表态出现在AI安全争论持续升温的背景下。近期，Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼均呼吁放缓前沿模型的开发速度，两人于周三在联合国安全理事会讨论AI安全问题。与此同时，美国总统特朗普在纽约联合国大会发表讲话时，驳斥了对AI生存威胁的担忧，称其为“一场骗局”，并强调有必要继续全速发展这项技术。
李飞飞表示，AI可能带来的生存性风险，最终取决于人类选择如何开发、治理和使用这项技术。她指出，这一原则同样适用于AI以外的技术，从电力、蒸汽机到现代交通工具，人类社会同样需要在技术可能带来的益处与人身安全之间寻求平衡。她认为，人类“掌握着技术的力量”，“我们必须掌握控制权。AI关乎的不是AI，而是人类。它关乎我们共同以及个人的尊严和自主权，也关乎我们的责任。”
李飞飞创办的World Labs正在开发所谓的“世界模型”，能够生成和重建三维环境。她表示，这项技术可用于训练和评估机器人，并赋能设计、医疗及其他行业的应用。随着这些系统走向现实世界应用，行业面临同一个根本性问题：如何评估能力日益强大的AI，并判断其是否按预期运行。
李飞飞的言论为政策制定者和AI行业领袖之间日益激烈的辩论增添了新的声音。这场辩论的焦点在于：应如何严肃对待有关这项技术最极端风险的警告，以及在推动技术发展与建立安全治理框架之间如何取得平衡。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
