| 909 | 3 | 5611 |
| 下载次数 | 被引频次 | 阅读次数 |
人工智能技术的司法应用催生出基于机器学习生成的人工智能证据，对传统证据规则与审查体系造成冲击。当前人工智能证据审查认定陷入证据类型与合法性审查规范缺失、技术黑箱导致的可解释性不足、裁判者技术认知鸿沟以及庭审有效质证不足等困境，有必要在明确人工智能证据独立法律地位的基础上，引入“庭审有效质证+庭外专家认证”的综合审查模式，构建涵盖技术中立评估、专家辅助质证及被告人数据知情权的权利保障体系，实现技术正义与实体公正的价值平衡。
Abstract：The judicial application of artificial intelligence technology has given rise to AI-generated evidence based on machine learning, which has impacted traditional evidentiary rules and review systems. Current challenges in reviewing AI-generated evidence include the absence of norms for evidence categorization and legality review, insufficient explainability due to algorithmic opacity, judicial officers' technological knowledge gaps, and inadequate forensically valid cross-examination. It is therefore imperative to establish an independent legal status for AI-generated evidence while implementing a comprehensive review model combining “ in-court adversarial testing supplemented by independent technical verification.” This approach should be supported by constructing a rights protection system ensuring neutral algorithmic auditing, qualified expert testimony, and defendants' rights to data disclosure, thereby reconciling computational validity with due process guarantees.
(1)参见李兆阳:《司法场景与趋势如何适应人工智能新发展?》,《人民法治》2025年第7期。
(2)参见谢登科:《人工智能证据的类型分析与规则建构》,《学习与探索》2025年第3期。
(3)云南省高级人民法院刑事裁定书(2016)云刑终511号。
(4)浙江省瑞安市人民法院刑事判决书(2024)浙0381刑初388号。
(5)2021年3月1日开始实施的《最高人民法院关于适用〈中华人民共和国刑事诉讼法〉的解释》第101条规定:“有关部门对事故进行调查形成的报告,在刑事诉讼中可以作为证据使用;报告中涉及专门性问题的意见,经法庭查证属实,且调查程序符合法律、有关规定的,可以作为定案的根据。”基于司法实践中事故调查报告的大量运用,且具有重要的证明作用,故司法解释对其证据资格及时做出回应,但解释并未对事故调查报告的具体证据种类归属进行明确。
(6)目前学界对人工智能分析报告证据种类有“书证说”“电子证据说”“鉴定意见说”“独立证据说”等不同观点,刑事司法实践中已实际运用人工智能分析报告认定案件事实,实际发挥证据效用,下文会对人工智能分析报告的证据种类做详细探讨。
(7)参见《习近平向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞引发强烈共鸣》,2024年6月14日,央广网,https://news.cnr.cn/native/gd/sz/20240614/t20240614_526745555.shtml,2025年1月10日访问。
(8)参见刘品新:《论大数据证据》,《环球法律评论》2019年第1期;林喜芬:《大数据证据在刑事司法中的运用初探》,《法学论坛》2021年第3期;元轶:《证据制度循环演进视角下大数据证据的程序规制——以神示证据为切入》,《政法论坛》2021年第3期;郑飞、马国洋:《大数据证据适用的三重困境及出路》,《重庆大学学报(社会科学版)》2022年第3期。
(9)参见张迪:《算法证据的独立:法理反思与制度方案》,《中国刑事法杂志》2023年第5期。
(10)参见郑飞:《数字证据及其阶梯式分类审查机制》,《法学研究》2024年第5期。
(11)参见杨继文:《算法证据:作为证据的算法及其适用规则前瞻》,《地方立法研究》2022年第3期。
(12)参见马国洋:《论刑事诉讼中人工智能证据的审查》,《中国刑事法杂志》2021年第5期。
(13)李育林:《人工智能证据的表象之争与实质之辨——以刑事司法事实认定进路为视角》,《政法学刊》2022年第3期。
(14)马国洋:《人工智能证据适用的双重风险及其规制》,《大连理工大学学报(社会科学版)》2023年第4期。
(15)余鹏文:《刑事诉讼中人工智能证据的法律性质和运用规则》,《中国刑事法杂志》2024年第5期。
(16)谢登科:《人工智能证据的类型分析与规则建构》,《学习与探索》2025年第3期。
(17)参见王德夫:《论人工智能算法的法律属性与治理进路》,《武汉大学学报(哲学社会科学版)》2021年第5期。
(18)参见元轶:《大数据证据二元实物证据属性及客观校验标准》,《山西大学学报(哲学社会科学版)》2021年第5期。
(19)参见[德]托马斯·威施迈耶、蒂莫·拉德马赫:《人工智能与法律的对话》,韩旭至等译,上海人民出版社2020年版,第39页。
(20)“聚焦剖析人伤类保险职业化犯罪的规律特点,通过人工智能多维分析,实现重大线索批量发掘,推动对职业化犯罪组织的全链条打击,为此类案件侦办提供操作指引。”在“论剑2024”全国公安经侦部门比武练兵活动决赛场上,经侦民警运用人工智能模型工具,由算法将个案与类罪行为模型对比后导出异常行为数据,预测并提示潜在的犯罪风险,作为侦查线索进行研判并落地打击,推动人工智能赋能侦查工作取得实效。参见《“经”英场上练兵秘籍场下共享——“论剑2024”全国公安经侦部门比武练兵活动决赛侧记》,2024年7月4日,搜狐网,https://www.sohu.com/a/790606709_99936628,2025年1月20日访问。
(21)See Jurs A W & DeVito S.Machines Like Me:A Proposal on the Admissibility of Artificially Intelligent Expert Testimony.Pepperdine Law Review,2024(4):591-660.
(22)法律的行为激励功能是指通过法律规则的设计和实施,鼓励法律主体采取符合法律要求的行为,而不是单纯依赖于惩罚和制裁来防止违法行为。统计型人工智能分析报告与待证事实的相关性较弱,推理链条不牢固,若直接将其作为定案证据,可能会导致无辜的人受到法律制裁,这样就会削弱人们的守法意愿。参见董淳锷:《法律实施激励机制的基本原理及立法构造》,《法学》2023年第9期。
(23)参见陈光中:《刑事诉讼法》,北京大学出版社2021年版,第216页。
(24)参见余鹏文:《刑事诉讼中人工智能证据的法律性质和运用规则》,《中国刑事法杂志》2024年第5期。
(25)参见广东省深圳市中级人民法院刑事裁定书(2021)粤03刑终754号。
(26)参见浙江省瑞安市人民法院刑事判决书(2024)浙0381刑初388号。
(27)参见[瑞士]萨比娜·格雷斯:《法庭上的人工智能:刑事审判中机器证据的比较分析》,《诉讼法学研究》2022年第26卷。
(28)See Carole M.Forensic Identification and Criminal Justice:Forensic Science,Justice and Risk.London:Willan Publishing,2013:89.
(29)See Murphy E.The New Forensics:Criminal Justice,False Certainty,and the Second Generation of Scientific Evidence.California Law Review,2007(3):721—797.
(30)参见陈光中:《刑事诉讼法》,北京大学出版社2021年版,第174页。
(31)See Chesterman S.Through a Glass,Darkly:Artificial Intelligence and the Problem of Opacity.The American Journal of Comparative Law,2021(2):271—294.
(32)在现行证据法框架下,关于“机器经验”或“数据经验”的相关性审查主要依托于现有证据规则与司法实践中的扩张解释,通过“电子数据”外延的开放性(如最高人民法院《关于互联网法院审理案件若干问题的规定》第11条)及“鉴定意见”的补充功能(如算法决策逻辑的专家说明),实践中已形成“形式归类+实质审查”的双轨制。但上述审查方式面对人工智能的机器学习以及自主分析时,则无法机械套用。
(33)参见王颖:《揭开自由心证的面纱:德国意涵与中国叙事》,《比较法研究》2024年第6期。
(34)See Das Deutsche Bundesverfassugsgericht BVerfGE 107,395.Leits?tze zum Beschluss des Plenums vom 30,April 2003.“正当程序原则”是德国《基本法》的基本原则,强调了程序公正和法律面前的平等。《基本法》第103条规定:德国的所有行政和司法程序必须确保当事人有权被听取其意见。这意味着,在任何涉及当事人权益的决定前,政府或法院必须给予当事人充分的机会陈述意见、提供证据、进行辩护。法院必须考虑当事人提供的所有相关信息和证据,否则该决定将被视为无效。另外,德国司法体系强调公正审判,即所有诉讼都应在公开、公正且没有偏见的条件下进行。每个公民都应有机会通过法院进行救济,且法院应独立、不受外界干预。法院必须依据法律对案件做出裁决,且应基于公开的程序。
(35)对抗制审判模式适用于英美法系国家的刑事审判中,实质上是一种由控辩双方主导进行,法官作为仲裁者确保双方遵守规则的竞赛。在该模式下,控辩双方在庭审过程中会充分阐释本方对案件事实和法律结论的观点,并主动以证人证言、专家鉴定意见以及实物形式说服陪审团接受本方观点,同时,对于任何一方提出的证人,双方均可以对其实施交叉询问,通过交叉询问可以揭露虚假证词,使陪审团对该证人的可信性及其证言的证明力产生怀疑。
(36)参见郑飞:《证据种类法定主义的反思与重构》,《中国法学》2024年第1期。
(37)参见樊崇义:《刑事证据规则体系的完善》,《国家检察官学院学报》2014年第1期。
(38)参见[德]维尔纳·薄逸克、萨比娜·斯沃博达:《德国刑事诉讼法教科书》,程捷译,北京大学出版社2024年版,第198—222页。
(39)根据《德国刑事诉讼法》第249条第1款规定,文书证据指具有可宣读性思想内容的书面文件。而人工智能分析报告因其复杂性、技术性、专业性等特殊性质,仅凭数据及结论构成的文书材料欠缺可读性,即使构成德国《刑法典》第267条中的文书,也不能称作文书证据。
(40)尽管当下许多研究集中于开发“可解释”的人工智能,但迄今为止的技术发展并未达到“人工智能证人”能够自主解释其评估结果并走进法庭的程度,故现阶段无法视为证人证据加以运用。
(41)在德国的司法实践中,通过标准化和稳健的方法将人工智能设备的“发现”转换为在法庭上可以观察到的视觉对象,不仅需要数据生成方法的标准化和存储的标准化,还需要可视化技术的标准化。例如,汽车困倦监测仪发出的警报可能会被展示为可供法官和审判当事人查看和讨论的视觉文件。
(42)参见步洋洋:《论我国刑事证据种类的立法优化》,《法学杂志》2024年第2期。
(43)数字司法中的新型证据形态逐渐推动证据规则突破类型局限,如司法解释对“专门性问题报告”(2021年《最高人民法院关于适用〈中华人民共和国刑事诉讼法〉的解释》第100条)的接纳,表明证据类型边界也在随着规则需求拓展,这也为人工智能证据的证据化和审查实质化指明了方向。
(44)See High-level Summary of the AI Act.Future of Life Institute.2024-02-27.https://artificialintelligenceact.eu/high-level-summary/.2025-2-2.
(45)2024年10月31日,公安部技术监督委员会发布《法庭科学资金数据获取规程》《法庭科学资金数据清洗规程》《法庭科学资金数据检验规程》《法庭科学非法集资类案件资金数据分析规程》4项标准,已于2025年3月1日起正式实施。2025年1月19日,公安部技术监督委员会又发布《法庭科学资金数据分析标准体系表》《法庭科学资金数据分析软件技术要求》2项行业标准,自2025年7月1日起实施。上述规定构成了规范公安机关资金分析鉴定工作的相对完整的规范体系,为资金数据分析报告的证据化提供了有力支持。参见《四项法庭科学资金数据标准发布》,2024年12月10日,人民网,http://society.people.com.cn/n1/2024/1210/c1008-40379110.html,2025年7月23日访问。
(46)当前,此类用于检测人工智能算法偏见的工具软件已得到开发与使用。如IBM开发的AI公平性检测工具“AIF360”,通过多种算法来检测和缓解训练数据及模型预测中的偏见,实现技术自净;谷歌开发的“What-If Tool”检测工具,允许开发者可视化数据集并探索模型预测,从而检测潜在的偏见。
(47)See Gless S,Lederer F & Weigend T.AI-based Evidence in Criminal Trials?.Tulsa Law Review,2024(1):1-37.
(48)See Thomas W & Sabine G.Intelligente Agenten als Zeugen im Strafverfahren?.JuristenZeitung,2021(12):612-620.
(49)参见熊晓彪:《生成式人工智能证据认定的困境与规范进路》,《法律科学(西北政法大学学报)》2025年第1期。
(50)参见陈瑞华:《比较刑事诉讼法》,北京大学出版社2021年版,第211—212页。
(51)参见《关于印发〈办理刑事案件庭前会议规程〉和〈办理刑事案件排除非法证据规程〉的通知》,2024年7月25日,中华人民共和国最高人民法院公报官网,http://gongbao.court.gov.cn/Details/6673a4919703f72ce026f8e28fdbe3.html。2025年3月23日访问。
(52)参见张卫平、齐树洁主编:《美国联邦刑事诉讼规则》,齐玎译,厦门大学出版社2023年版,第187页。
(53)参见陈瑞华:《刑事证据法》,北京大学出版社2021年版,第345页。
(54)如在卢米斯案中,COMPAS算法未公开导致被告人无法质疑其种族偏见风险。数据开放为被追诉人行使异议权和获得专家辅助提供信息支持,使诉讼参与具实质意义。参见江溯:《自动化决策、刑事司法与算法规制——由卢米斯案引发的思考》,《东方法学》2020年第3期。
(55)《欧洲人权公约》第6条第1款规定了被告人获得公正审判的权利:“在决定某人的公民权利和义务或者在决定对某人确定任何刑事罪名时,任何人有权在合理的时间内受到依法设立的独立而公正的审判机构的公平且公开的审讯。”See Council of Europe.European Convention on Human Rights.2013-10-02.https://www.echr.coe.int/web/echr/european-convention-on-human-rights?p_l_back_url=https%3A%2F%2Fwww.echr.coe.int%2Fsearch&p_l_back_url_title=Search.2025-07-23.
(56)《办理刑事案件庭前会议规程》第3条:“庭前会议中,人民法院可以就与审判相关的问题了解情况,听取意见,依法处理管辖、回避、出庭证人名单、非法证据排除等可能导致庭审中断的事项,组织控辩双方展示证据,归纳争议焦点,开展附带民事调解。”
(57)参见洪刚:《大数据证据在刑事庭审中运用的隐忧与防范》,《法治论坛》2024年第2期。
(58)实践中侦查机关运用人工智能工具软件进行的人脸识别、车辆轨迹分析以及资金分析等侦查行为涉及个人人脸信息、身份信息、车辆基本信息、银行账户信息等多维多类敏感信息。出于侦查研判的需要,人工智能工具数据库中的信息既包含涉案人员(涉案单位),也包括其他非涉案人员,如果全面公开,可能涉及个人隐私及商业秘密的泄露,导致一系列道德与法律风险。
(59)参见郑曦:《司法人工智能运用背景下的被追诉人权利保障问题》,《厦门大学学报(哲学社会科学版)》2023年第6期。
(60)参见鲍文强:《庭审实质化下强化证人出庭的规范再造》,《国家检察官学院学报》2024年第5期。
(61)最高人民法院《人民法院办理刑事案件第一审普通程序法庭调查规程(试行)》第13条规定,“控辩双方对鉴定意见有异议,申请鉴定人或者有专门知识的人出庭,人民法院经审查认为有必要的,应当通知鉴定人或者有专门知识的人出庭”。第26条规定,“控辩双方可以申请法庭通知有专门知识的人出庭,协助本方就鉴定意见进行质证。有专门知识的人可以向鉴定人发问,或者对案件中的专业性问题提出意见”。
(62)直接言词原则是我国刑事诉讼的核心原则之一,旨在通过强化庭审的实质化与亲历性,保障司法公正与真实发现。原则要求诉讼各方(如专家辅助人)必须出庭,确保法官通过直接观察形成心证,且所有证据的提出、质证及辩论均需以口头方式进行,未经当庭口头调查的证据不得作为定案依据。
(63)参见张凌寒:《人工智能法律治理的路径拓展》,《中国社会科学》2025年第1期。
基本信息:
中图分类号:D925.2;TP18
引用信息:
[1]王军.刑事诉讼中人工智能证据审查困境及规范进路[J].浙江警察学院学报,2025,No.210(04):69-87.