美国国防部首席技术官埃米尔·迈克尔(Emil Michael)于当地时间9月10日在华盛顿举行的国防工业会议上,公开回应了Anthropic前工程师雅各布·考克森(Jacob Coxon)关于AI可能对人类构成生存威胁的警告。迈克尔表示,公众容易陷入“40%的美国人将失业、AI将摧毁人类”等悲观叙事,而这些担忧最终都归结为对数据中心、技术变革以及AI失控的恐惧。
考克森本周三宣布从Anthropic离职,随后发布了一系列引发广泛争议的言论。他认为,OpenAI和Anthropic正在“直奔自我改进型超级智能,并拿我们的生命赌博”。他警告称,未来可能出现具备超人能力的AI系统,能够攻破任何系统、在一夜之间改变整个行业,并获取现实世界中的权力和资源。截至发稿,其相关帖子已获得超过1.5亿次浏览。
迈克尔在会议上对上述观点进行了系统性反驳。他指出,围绕AI失控和大规模失业的担忧正在形成一种“末日论循环”,而这种循环可以通过市场机制、行业合作及政府参与加以缓解。他强调,AI可能带来的危害并非无法控制,多方协同的治理框架足以应对相关风险。迈克尔的这一表态,代表了美国政府内部对AI安全议题的一种务实立场,即在承认风险存在的同时,反对以极端悲观叙事主导政策讨论。
公开资料显示,迈克尔曾任Uber高管,目前负责推动美国军方加快采用人工智能技术。他的此番言论发生在美国国防部与Anthropic长期争议的背景之下。国防部此前要求Anthropic允许军方在不受额外限制的情况下使用其AI工具,Anthropic则坚持为军事用途设置额外安全保障。双方谈判破裂后,美国政府将Anthropic列为供应链风险企业。
Anthropic已分别在加利福尼亚州和华盛顿特区的联邦法院提起诉讼,要求撤销国防部的相关认定。加州案件的法官已作出有利于Anthropic的裁决,但华盛顿联邦上诉法院尚未作出最终决定。迈克尔称,华盛顿特区巡回上诉法院的案件“更加重要”,并坚持认为,在法院未颁布初步禁令的情况下,Anthropic仍构成供应链风险。他还指责Anthropic为诉讼“挑选法院”,称该公司选择了政治立场较为自由的加州北区联邦法院,而华盛顿特区巡回上诉法院更具国家安全审查属性。预计未来几个月内,华盛顿方面将作出裁决。
此次争议折射出当前AI行业与政府监管之间的深层张力。一方面,以Anthropic为代表的前沿AI公司在安全问题上采取较为审慎的立场,主张对军事用途设置限制;另一方面,美国国防部正加速推进AI在军事领域的应用,对企业的安全约束持保留态度。双方在供应链风险认定上的法律博弈,可能对未来AI企业与政府合作的模式产生示范效应。与此同时,考克森离职后发表的激进言论,也再次将AI安全议题推向公众视野,而如何平衡技术创新、商业利益与国家安全,仍是悬而未决的核心问题。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。