Y Combinator CEO 陈嘉兴:AI 安全讨论应聚焦现实风险而非科幻末日

我们应该关注科学事实,而不是科幻小说。

Y Combinator CEO 陈嘉兴当地时间 9 月 10 日接受 CNBC 采访时表示,公众和政策制定者对人工智能安全的讨论过度集中于好莱坞式的“AI 末日”情景,却忽视了已经出现的现实风险。他呼吁将注意力从“超级智能是否会毁灭人类”的抽象争论,转向网络安全、基础设施安全以及自主 AI 智能体的运行机制等具体议题。

陈嘉兴在采访中称:“我们应该关注科学事实,而不是科幻小说。我也看过《终结者 2》,那确实是一部很棒的电影。”他借此说明,科幻作品中对 AI 的想象与当下需要应对的技术问题之间存在明显区别。此番表态的背景是,OpenAI 和 Anthropic 的多名现任及前研究人员近期接连公开示警,使硅谷对 AI 生存性风险的担忧持续升温。

陈嘉兴提出了一系列具体问题:如果系统遭到入侵,多个 AI 智能体协同行动试图接管基础设施,应当如何应对?是否清楚某个智能体运行在何处、位于哪个数据中心、又该如何将其关闭?他以 OpenAI 入侵 Hugging Face 事件作为现实案例,说明 AI 安全风险已进入可操作层面。

对于 Anthropic 和 OpenAI 内部研究人员的警告,陈嘉兴并未否认其可信度。当被问及内部人士的表态是否让威胁显得更加可信时,他给出肯定回应,并表示:“我不会说他们是在以错误的方式危言耸听。他们确实在拉响警报,而且很可能是正确的。我们真正需要做的,是别再把注意力放在‘AI 是邪恶的、必须停止’这种模糊说法上。”

近期,AI 安全议题在硅谷持续发酵。曾任职于 OpenAI 的 Anthropic 预训练研究员离职后警告称,两家公司正拿人类生命赌博;OpenAI 因 AI 智能体出现失控行为,呼吁美国出台强制性全国 AI 安全法规;OpenAI CEO 奥尔特曼亦表示,公司考虑放缓前沿 AI 开发,并希望其他公司跟进。陈嘉兴的表态为这一讨论提供了来自创业孵化器视角的补充:在承认风险真实性的同时,主张将政策资源投向可验证、可执行的安全议题。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
日产宣布重塑本土业务,目标将在日年产能提升至 100 万辆
上一篇 2小时前
从AI助手到智能体:客服自动化的效率与摩擦
下一篇 2026年8月26日 下午4:31

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部