探索自动决策算法解释权——聚焦于算法主体的义务
摘要: 算法在带来便捷的同时,也持续对公民的知情权、隐私权甚至生命健康权等构成威胁。由于算法的技术壁垒和商业秘密保护政策,算法的自动决策过程成了一个“黑箱”,个人无法得知决策作出的过程。既有研究多从算法相对人的立场出发,强调通过算法公开、数据赋权或伦理审查回应上述风险,但相关制度在实践中均面临不同程度的可行性限制。算法规制困境的关键并不完全在于解释权等权利设计不足,而在于算法决策过程中算法主体义务配置的结构性不足。因此,算法规制应从算法主体义务设计出发,在算法设计、运行及诉讼阶段三个层面,明确算法主体义务,助力算法解释权的实现。
中图分类号:D922.17文献标志码:ADOI:10.19358/j.issn.2097-1788.2026.09.011
中文引用格式:陈芷莹. 探索自动决策算法解释权——聚焦于算法主体的义务[J].网络安全与数据治理,2026,45(9):84-91.
英文引用格式:Chen Zhiying. Investigating the right to algorithmic explanation in China: a focus on the obligations of algorithm developers[J].Cyber Security and Data Governance,2026,45(9):84-91.
Investigating the right to algorithmic explanation in China: a focus on the obligations of algorithm developers
Chen Zhiying
School of Law, Guangzhou College of Commerce
Abstract: While algorithms bring convenience, they also pose persistent threats to citizens′ rights to information, privacy, and even life and health. Owing to technical barriers and the protection of trade secrets, automated algorithmic decisionmaking has taken on the character of a "black box", rendering individuals unable to ascertain how decisions are made. Existing studies have largely approached these risks from the perspective of algorithmic subjects, emphasizing regulatory responses such as algorithmic transparency, data empowerment, and ethical review. However, each of these approaches encounters varying degrees of practical limitations. The core difficulty of algorithmic regulation lies not solely in deficiencies in the design of rights such as the right to explanation, but rather in the structural inadequacy of obligation allocation among algorithmic actors throughout the decision-making process.
Key words : algorithmic decision-making; right to explanation; algorithmic subjects; allocation of obligations
引言
在当今数字化和信息化快速发展的时代,算法在各大平台和应用中被广泛应用,算法驱动的自动化决策逐渐渗透至社会生活的多个层面。从电子商务平台的算法推荐,到社交媒体的信息配对,再到搜索引擎的广告投放,主要互联网平台均高度依赖算法完成服务配置、内容推荐与风险识别。算法已不再仅是技术工具,而是在事实上参与决策,这些决策关系到用户的日常生活。
与此同时,算法在提升效率的同时,其运行过程的不透明性(又称“算法黑箱”)引发了用户对于自身权利的一系列担忧。尽管欧盟《通用数据保护条例》(GDPR)以及中国《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)均就自动化决策情境下的解释义务作出原则性规定保障用户的权利,试图赋予个人相应权利来回应上述风险,但在算法黑箱的情况下,由于商业秘密保护、算法的复杂性等情况,相关规则在实践中仍面临适用上的困难。
更为关键的是,算法相对人权利难以实现,并非仅因解释权等权利设计不足,而在于算法决策过程中算法主体义务配置的不完善。现行制度和研究强调权利确认,却并未同步明确算法主体在算法设计、运行及纠纷应对阶段的具体责任,导致权利与义务失衡。基于此,本文围绕算法主体在不同阶段应承担的义务展开分析,助力落实算法解释权。
本文详细内容请下载:
https://www.pcachina.com/resource/detail/6000007252
作者信息:
陈芷莹
(广州商学院法学院,广东广州510000)