基于零知识证明的AI模型可验证性与隐私保护
网络安全与数据治理
房婧,虞宇琪,张建松,樊峰峰
国家计算机网络应急技术处理协调中心
摘要: 随着人工智能(AI)在关键信息基础设施中的深度应用,模型训练与推理的可验证性已成为网络安全与数据治理的核心问题。零知识证明能在不暴露模型权重与用户数据的前提下,以密码学方式证明AI计算正确性,为可核验合规提供技术支撑。采用“技术-合规-应用”三维分析框架,系统梳理2017年至2026年4月零知识机器学习(ZeroKnowledge Machine Learning,ZKML)代表性成果,并与我国最新密码与AI合规框架进行交叉分析。研究表明:可验证推理的验证开销已下降一个数量级,但大语言模型级验证仍处于实验阶段;ZKML在三大核心合规场景中展现出制度支撑价值;端到端可验证ML管线的缺失是阻碍ZKML从单点可用走向全链可信的关键瓶颈。进一步讨论了ZKML与可信执行环境的信任模型差异、可验证性与可解释性的概念边界,并前瞻性提出面向我国关键信息基础设施场景的ZKML合规应用路径。
中图分类号:TP181;TN918文献标志码:ADOI:10.19358/j.issn.2097-1788.2026.010.001
中文引用格式:房婧,虞宇琪,张建松,等. 基于零知识证明的AI模型可验证性与隐私保护[J].网络安全与数据治理,2026,45(10):1-9.
英文引用格式:Fang Jing,Yu Yuqi,Zhang Jiansong,et al. Verifiability and privacy protection of AI models based on zero-knowledge proofs[J].Cyber Security and Data Governance,2026,45(10):1-9.
Verifiability and privacy protection of AI models based on zero-knowledge proofs
Fang Jing,Yu Yuqi,Zhang Jiansong,Fan Fengfeng
National Computer Network Emergency Response Technical Team/Coordination Center of China
Abstract: With the in-depth deployment of AI in critical information infrastructures, verifiability of model training and inference has become a core cybersecurity and data governance issue. Zero-Knowledge Proof (ZKP) can cryptographically verify AI computation correctness without exposing model weights or user data. This paper systematically reviews Zero-Knowledge Machine Learning (ZKML) research (2017April 2026) and crossanalyzes it against China′s latest cryptography and AI compliance frameworks. Findings: verification overhead for deep learning models has decreased by an order of magnitude, while LLM verification remains experimental; ZKML demonstrates institutional support value across core compliance scenarios; the lack of an endtoend verifiable ML pipeline is the key bottleneck. The paper further discusses ZKML-TEE trust model differences, conceptual boundaries between verifiability and explainability, and ZKML compliant application pathways for China′s critical information infrastructure.
Key words : Zero-KnowledgeProof (ZKP); verifiable machine learning; privacy protection;AI compliance; commercial cryptography; data security

引言

人工智能(AI)模型在金融风控、政务决策、医疗诊断等关键领域的规模化部署,引发了对模型行为可信性的广泛关注。当输出直接影响个人权益或公共利益时,运营者需向监管方证明:模型按声明方式训练、推理未遭篡改且未泄露敏感数据。然而,AI模型的商业价值和用户数据隐私属性使公开验证与保密需求之间存在天然张力。

零知识证明(ZeroKnowledge Proof,ZKP)技术为解决这一张力提供了密码学方案。ZKP天然适配AI模型验证,模型持有者可证明模型在给定输入上产生了特定输出,同时保持权重和输入数据的机密性。2025年被广泛视为零知识机器学习(ZeroKnowledge Machine Learning,ZKML)走向实用化的转折年——部分CNN模型验证开销相较于明文CPU推理从千倍已降至约十倍[1],LLM的分层验证方案也展现出数十倍的相对加速潜力[2]。

需要澄清的是,本文的可验证性特指计算可验证性,即通过密码学证明确保AI计算按规范正确执行。这与可解释AI(XAI)中的可解释性和可说明性存在本质区别:可解释性关注决策的语义理解,可说明性提供事后归因,而本文的可验证性回答输出是否确实是该模型对该输入的正确计算结果[3]。ZKML确保计算正确,XAI确保决策可理解,两者互为补充,共同构成可信AI的技术基础。关于可验证性、可解释性与可说明性等相关说明详见表1。

我国2025年至2026年4月的法规环境为可验证AI创造了明确需求。新修订的《中华人民共和国网络安全法》(以下简称《网络安全法》)[7](2026年1月施行)首次嵌入AI安全条款;《关键信息基础设施商用密码使用管理规定》[8](2025年8月施行)强制要求关基运营者规范使用商用密码;《人工智能安全治理框架》2.0版[9](2025年9月发布)明确提出算法可验证性要求。这些法规为AI系统的可验证性提出了新的要求。

本文是一篇交叉综述,核心贡献在于:

(1)构建“技术-合规-应用”三维分析框架,首次将ZKML技术能力与中国合规框架进行系统性交叉分析,识别高合规价值-低技术成熟度的研究方向。表1可验证性、可解释性与可说明性等相关概念辨析

概念英文含义核心问题技术手段与ZKML关系计算可验证性[4-5]Computational 

Verifiability通过密码学证明确保AI模型的计算过程按规范正确执行输出是否确实是该模型对该输入的正确计算结果零知识证明(ZKP)ZKML的核心目标可解释性[3]Interpretability模型内部决策机制可被人类理解(模型的被动属性)模型为什么做出这个决策内在可解释模型(决策树、线性回归)、SHAP、LIME补充关系:ZKML确保计算正确,可解释性确保决策可理解可说明性[3]Explainability通过事后解释技术揭示模型如何产生特定输出(主动行为)模型如何产生这个输出事后归因分析、反事实解释、注意力可视化补充关系:侧重事后归因,ZKML侧重事前/事中验证算法透明度[6]Algorithmic 

Transparency算法的设计逻辑、决策规则对利益相关方的公开程度算法的决策逻辑是否对外公开算法备案、信息公开、决策规则披露关联关系:透明度是法规要求,ZKML可提供更深层的技术透明

(2)系统梳理2025年至2026年4月中国最新AI与密码法规,建立ZKML能力与法规条款的合规映射矩阵,填补现有综述对中国法规环境分析的空白。

(3)面向关键信息基础设施(以下简称“关基”)场景分析ZKML具体落地路径与挑战,为行业应用提供参考。

(4)系统对比可信执行环境(Trusted Execution Environment,TEE)与ZKML两种技术路径的信任根、安全保证、法规适配性等维度,为我国关基技术选型提供决策依据。

本文研究基于对2017年至2026年4月ZKML领域文献的系统检索,覆盖arXiv、ACM CCS、IEEE S&P、USENIX Security等学术数据库及中央网信办、国家密码管理局等政策来源。


本文详细内容请下载:

https://www.pcachina.com/resource/detail/6000007330


作者信息:

房婧,虞宇琪,张建松,樊峰峰

(国家计算机网络应急技术处理协调中心,北京100094)

通知公告
编辑观点
理事会
参考资料
版权声明

凡《网络安全与数据治理》(原《信息技术与网络安全》)录用的文章,如作者没有关于汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权等版权的特殊声明,即视作该文章署名作者同意将该文章的汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权授予本刊,本刊有权授权本刊合作数据库、合作媒体等合作伙伴使用。同时,本刊支付的稿酬已包含上述使用的费用,特此声明。

《网络安全与数据治理》(原《信息技术与网络安全》)编辑部