Anthropic正在开发一套名为FlashProve的开源系统，用于验证某一AI输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章，这套系统旨在实现研究人员所称的“可证明推理”（provable inference）：通过密码学证明，为特定输出提供数学层面的保证，证明其确实来自某个指定模型。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。
据公开信息，FlashProve的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人，而FlashProve则能够抵御试图将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的AI公司，也难以绕过验证。研究人员特别指出，这套系统有望防止AI公司为了削减成本而暗中换用更便宜的模型，也可以避免企业偷偷换用更昂贵的模型，以人为抬高性能测试结果。
FlashProve还可以用于验证第三方关于某项任务由先进模型完成的声明。研究团队在公告中提出了一个典型场景：开发者可能声称其软件库已经由某个前沿网络安全模型扫描过漏洞，一家企业也可能声称其商业计划已经获得了适当模型的认可，用户该如何验证这些说法。FlashProve试图为这类声明提供可核验的技术路径。
在技术实现上，AI实验室需要为发布的每个模型提供一个“指纹”，之后便可以将其与特定输出进行匹配，并通过密码学方式验证其来源。关键在于，这些指纹不会泄露模型权重，也就是决定模型行为的内部参数。Anthropic、OpenAI等闭源模型开发商通常将这些参数作为商业机密加以保护。因此，AI实验室可以公开模型指纹，而无需放弃最有价值的资产，这也意味着FlashProve同样能够适用于商业闭源模型。
此外，该系统在设计上力求轻量化，用户可以直接在本地设备上完成验证，无需依赖中心化服务。作为此次发布的一部分，Anthropic研究人员公布了详细的技术规范，以及系统各个组成部分的可运行代码。这些代码已在GitHub上以开源许可证公开。
目前，FlashProve相关研究仍在进行中，Anthropic尚未计划在自家或其他AI实验室部署这套系统。研究人员在公告中解释称，这篇研究文章旨在分享阶段性进展，而不是展示一项已经完成的研究计划，公开这些成果的明确目的是希望其他人能够审视相关工作，在此基础上加以利用并进一步改进。
从行业层面看，随着大模型能力与调用成本成为企业采购的关键考量，模型来源的可验证性正从学术议题转向实际需求。企业客户在采购AI服务时，往往需要确认所调用模型的实际版本与能力等级，而现有接口层缺乏可核验的技术手段。FlashProve提出的密码学指纹方案，为模型身份认证提供了一种不依赖厂商自律的解决思路，但其落地仍取决于主流模型厂商是否愿意配合发布指纹，以及验证开销能否控制在可接受范围内。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
