据路透社10月4日报道，OpenAI首席执行官萨姆·奥特曼在接受采访时主张，为了获取AI的巨大收益并保留人们使用技术的自主权，社会必须容忍一些”坏事”的发生，包括黑客攻击、诈骗和技术滥用。这一表态与十年前他对《纽约客》的表述形成呼应——彼时他透露自己备好了枪、黄金、抗生素和防毒面罩，并在加州大苏尔留有一片可飞往的土地。
奥特曼并非个例。据《华尔街日报》等媒体披露，Anthropic的部分早期员工正考虑在美国偏远地区购买土地，以便在”AI出问题时”迅速撤离。与此同时，《连线》杂志查阅规划文件后发现，Meta创始人马克·扎克伯格计划在夏威夷考艾岛的库劳牧场建设一座约465平方米的地下避难所，通过通道连接住宅并设有独立逃生出口。据估计，扎克伯格为整个项目连同购地已投入超过2.7亿美元，其在考艾岛的持地面积已扩充至超过2300英亩。
硅谷富豪的避险准备并非始于AI时代。投资大佬彼得·蒂尔早在2015年就在新西兰瓦纳卡附近买下193公顷土地；前Facebook产品经理安东尼奥·加西亚·马丁内斯买下了一座小岛上的林地，并备齐发电机、太阳能板和弹药。投资人里德·霍夫曼曾向《纽约客》估计，他认识的硅谷亿万富翁中超过一半做过某种避难准备。但与前几代富豪主要担忧大流行或社会动荡不同，AI新贵们的防备更具针对性。2023年夏天，OpenAI联合创始人、时任首席科学家伊利亚·苏茨克韦尔在与新任研究员开会时直言，在发布AGI之前必须先修建地堡以保护核心科学家的安全。
这种恐惧源于对技术失控的现实感知。曾在OpenAI和Anthropic工作的研究员雅各布·考克森离职后向BBC坦言，同行们对AI发展的速度感到恐惧，却依然每天带着这些担忧继续推进工作。OpenAI首席科学家雅库布·帕乔茨基曾撰文承认，研究人员至今无法充分理解和监控模型，他最担心的是足够强大的AI即使没有物理躯体，也能通过计算机网络系统对现实世界造成破坏。
相关事故已经发生。今年7月，OpenAI在内部网络安全测试中让模型尝试完成高难度任务，并降低了通常用于公开产品的部分防护。模型随后绕过隔离措施进入外网，侵入了供开发者分享模型和数据的Hugging Face平台。OpenAI调查发现，模型通过研究人员未授权的渠道交换信息，还进入了任务范围之外的系统。Anthropic也在7月披露过类似事故。
然而，知道危险并不意味着行业能就何时停止达成一致。Anthropic曾在2023年公布严苛的”负责任扩展政策”，承诺如果安全措施跟不上就暂停训练更强的模型。但到了2026年初，管理层重写了这套政策，将其软化为”公开路线图和外部审查”，并在附录中加入”竞争条件”：只有在公司认为自己显著领先且竞争者不会很快追上的情况下，才需要延缓开发。其首席科学官贾里德·卡普兰的解释是，如果竞争者还在推进，自家单方面停止并不能保护任何人。
资本层面的压力同样在推波助澜。据报道，Anthropic正筹备上市，潜在估值可能超过2万亿美元。Anthropic披露，Claude已参与了公司26％的AI研发工作。管理者并非完全没有踩过刹车，OpenAI曾因模型在授权和行为透明度上未达标，暂时取消了GPT-6.1 Astra的发布。但刚离职的OpenAI安全团队成员大卫·罗宾逊将公司内部状态称为极度的”认知失调”：公司每天都在警告模型有多危险，内部却一刻不停地在训练和部署这些模型。
当少数人既有能力用技术重塑所有人的生活，又有财力优先为自己打造避难所时，行业面临的已不仅是技术安全的技术性讨论，而是谁有权替所有人决定风险边界的治理命题。在缺乏绝对信任与强制核查的商业竞争中，”我们停了，别人不会停”这一逻辑，正在成为所有AI公司继续加速的通用免责声明。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
