据IT之家11月4日报道，Anthropic正在开发名为FlashProve的开源系统，目标是让用户验证一段AI输出是否确实来自指定模型。研究人员已公布详细技术规范及系统各组成部分的可运行代码，代码已在GitHub上以开源许可证公开。
这项研究针对的是模型身份，而不是答案内容。根据报道援引的Anthropic博客，FlashProve旨在实现“可证明推理”：通过密码学证明，为某个输出确实来自指定模型提供数学层面的保证。
其方案需要AI实验室为发布的每个模型提供一个“指纹”，再将指纹与特定输出匹配，以密码学方式验证来源。报道将其比作加密电子邮件签名：邮件签名用于确认发件人，FlashProve则旨在抵御把一个模型伪装成另一个模型的行为，包括由开发和运行模型的公司实施的伪装。
这一设计也考虑了商业闭源模型。报道指出，模型指纹不会泄露决定模型行为的内部参数，即模型权重，因此实验室可以公开指纹而不公开权重。此外，系统在设计上力求轻量化，让用户能够直接在本地设备上完成验证。
研究人员认为，FlashProve有望防止企业为削减成本而暗中换用更便宜的模型，也可防止企业在性能测试中偷偷换用更昂贵的模型来抬高结果。另一类用途是核验第三方声明，例如软件库是否确由某个前沿网络安全模型扫描过漏洞，或商业计划是否获得指定模型的认可。
这些用途仍属于研究所指向的应用方向。报道明确，FlashProve相关研究仍在进行，Anthropic尚未计划在自家或其他AI实验室部署这套系统。研究人员表示，此次公开的是阶段性进展，而非已经完成的研究计划，目的是让其他人审视、利用并进一步改进这些成果。