据《华尔街日报》当地时间9月26日报道,人工智能公司Anthropic的部分早期资深员工正在制定具体的应急预案,以应对人工智能可能失控的极端情景。过去数周内,这些员工向业界同行透露,他们计划在美国偏远地区购置土地并建造隐匿点,以便在AI失控反噬时举家撤离。
报道显示,Anthropic内部围绕AI风险的讨论由来已久。据早期离职员工回忆,公司创立初期的聚餐中,员工曾推演过一种“曼哈顿计划式”情景:未来可能被政府征调至沙漠深处的绝密军事基地,在具备防电磁脉冲屏蔽功能的设施内继续研发前沿AI。此外,员工在内部私密Slack频道中推演各类末日毁灭情景并探讨应对预案,甚至将一句格言制成贴纸贴在笔记本电脑外壳上,作为行事信条:“一切再难重归平静”。
Anthropic由前OpenAI研究副总裁Dario Amodei等人于2021年创立,以AI安全为核心定位,旗下拥有Claude系列大模型。该公司长期强调对前沿AI系统进行安全评估与风险控制,其创始团队多次公开表达对AI潜在风险的关注。此次员工个人层面的避险筹划,反映出AI安全议题在行业内部已从理论讨论延伸至具体行动层面。
针对这一文化现象,Anthropic发言人回应称,公司目前拥有超过3,500名员工,内部对于技术的探讨呈现出极其多元的观点与立场。
随着大模型能力持续提升,AI安全与治理正成为行业无法回避的议题。头部AI公司员工的个人避险行为,或将在一定程度上影响外界对AI风险认知的讨论走向,也为AI企业的人才留存与企业文化管理带来新的观察维度。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。