法治资讯,普法为民
| | | 联系我们
“AI换脸”欺骗验证系统的刑法定性与实务应对
时间:2026-06-26 23:06:25 来源:《中国检察官》 编辑:金倩如、 毕凯圆、 陈雪菲

一、问题的提出:技术异化下的司法定性困境

随着深度学习技术演进,AI换脸”已从娱乐恶搞变为网络犯罪利器。利用该技术绕过人脸验证系统,司法上存在破坏计算机信息系统罪与非法控制计算机信息系统罪之争。部分办案机关认为,伪造动态视频干扰了系统识别逻辑,使系统无法核验真实身份,应以《刑法》第286条第1款破坏计算机信息系统罪论处。另一观点主张适用《刑法》第285条第2款非法控制计算机信息系统罪,认为行为人仅是欺骗算法,未破坏系统底层逻辑,属非法获取操作权限。两罪刑罚差异明显,定性分歧不仅关涉量刑均衡,更触及刑法介入技术的边界。若将规范目的落空等同于系统功能被破坏,会导致刑罚泛化;反之,若对恶意攻击仅认定轻罪,又难以实现罪责刑相适应。因此,亟须从技术本质与规范目的出发,以“功能实质失效”为核心,重塑两罪界分标准。

(一)基本案情与定性争议

20235月至20246月间,贵州省某知名酒企在微信小程序上通过抽签投放高端茅台,设置了严密的“实名注册——线上抽签——人脸验证支付”闭环流程,旨在利用生物特征识别技术防止“黄牛”囤积居奇。谢某通过黑产渠道非法获取他人高清照片及身份信息参与抽签,中签后利用AIGC软件将静态照片合成为包含眨眼、转头等符合活体检测要求的动态视频,注入人脸验证接口,骗过平台算法完成支付,转卖茅台酒获利。

该案移送审查起诉后,侦查机关认为,谢某的行为干扰了系统识别逻辑,致使“核验真实身份”的核心功能无法实现,构成破坏计算机信息系统罪。检察机关审查认为,谢某未删除系统源代码、未篡改底层算法参数,也未导致服务器瘫痪或数据丢失,系统仍按“采集——比对——输出”逻辑流畅运行,技术层面的可用性未受损。系统放行系因被伪造数据欺骗,而非功能故障;谢某意在利用系统牟利,主观上排斥系统破坏。最终法院采纳检察机关意见,以非法控制计算机信息系统罪定罪。此案折射出法律适用的模糊性,亟待厘清。

(二)规范冲突与理论张力

谢某案并非孤例。在现有的司法判例中,针对利用技术手段绕过身份验证的行为,各地判决在“破坏”与“控制”的界限上摇摆不定。部分判决倾向于扩大解释“破坏”的概念,将任何导致系统作出错误决策的行为均视为“功能不能正常运行”;另一部分判决则坚持严格解释,认为只有造成系统物理性或逻辑性损毁才构成破坏,其余情形归入非法控制计算机信息系统罪。这种定性分歧关乎罪刑法定原则的坚守。若将“规范目的落空”直接等同于“系统被破坏”,可能导致重罪对轻罪的不当吸收。例如,行为人使用伪造的身份证骗过银行柜员,显然不能认定为破坏了银行的信息系统。同理,欺骗机器也不应简单等同于破坏机器。反之,若对造成严重后果的恶意攻击仅认定为控制罪,又可能难以实现罪责刑相适应。

因此,亟须从技术本质与规范目的双重维度,重构两罪的界分标准。本文认为,应当引入实质解释论,以“功能实质失效”为核心,区分“数据欺骗”与“功能损毁”,构建适应人工智能时代特征的刑法定性逻辑。

二、概念重构:技术本质与规范界分

要准确界定罪名,首先必须厘清AI换脸”技术在计算机系统中的行为属性,并将其与刑法规范中的核心概念进行精准耦合。

(一)AI换脸”的技术本质

与传统黑客攻击不同,利用生成式人工智能绕过生物特征验证,本质上是一种“非侵入式”的攻击。人脸验证系统的运行逻辑通常包含图像采集、活体检测、特征比对三个核心环节。传统的“破坏”行为,如注入病毒、删除数据库,是直接作用于系统内部,改变其运行逻辑或损毁其存储数据,具有明显的“侵入性”和“破坏性”。而“AI换脸”技术的攻击路径则是“外部欺骗”:攻击者利用深度合成算法,提取目标。人物面部特征,结合对抗样本生成技术,制造出能够骗过活体检测算法的动态视频流,通过虚拟摄像头驱动,将这段伪造视频流作为“输入信号”直接传输给应用程序,替代真实的物理摄像头采集信号。

由此可见,该行为的本质是“数据欺骗”而非“功能破坏”。行为人并未改变系统内部的代码逻辑或算法参数,系统依然在执行“采集——比对——输出”的预设指令。系统之所以“放行”,是因为其算法未能识别出输入数据的虚假性,而非系统功能发生了故障或损毁。这种“形似正常、实被操控”的状态,是生成式人工智能时代新型犯罪的典型特征。

(二)“计算机信息系统功能”的规范解读

《刑法》第286条保护的“计算机信息系统功能”,应聚焦系统技术层面的数据处理能力,不能等同于规范目的。根据“两高”相关司法解释,计算机信息系统功能是指该系统对数据、信息的采集、加工、存储、传输、检索等处理能力。以人脸验证认证系统为例,这一概念包含两个层面功能:

一是技术功能。指系统硬件与软件协同工作,处理数据流的物理与逻辑能力。只要系统能够接收输入、进行运算并输出结果,无论结果是否正确(是被骗还是真实),其技术功能均视为“正常”。在谢某案中,系统成功接收了视频流,完成了比对运算,并输出了“通过”指令,整个技术流程完整无缺。

二是规范功能。指系统设计所追求的社会管理目的,如身份核验、资金安全等。在谢某案中,人脸验证系统虽然未能实现“核验真实身份”的规范目的(错误授权),但其“处理视频流并输出验证结果”的技术功能并未受损,其他用户仍可正常使用该服务。若将“规范目的落空”直接等同于“系统功能被破坏”,将无限扩大破坏计算机信息系统罪的打击范围。

因此,系统的规范性目的受损不等于系统被破坏。只有当攻击行为导致系统技术层面的处理能力丧失、数据损毁或服务中断时,方能评价为“破坏”。

(三)“破坏”与“控制”的界限辨析

一是行为模式维度。“破坏”表现为对系统状态的消极改变,如删除数据、修改代码,导致系统功能减损或瘫痪,具有不可逆性;“控制”则表现为对系统权限的非法攫取,行为人通过技术手段获得了对系统的支配力,排除了权利人的控制,但系统本身仍在运行。在谢某案中,系统不仅未被破坏,反而被行为人“完美利用”以达成犯罪目的。

二是法益保护维度。破坏计算机信息系统罪保护的是系统的可用性与完整性;非法控制计算机信息系统罪保护的是系统的支配秩序与运行自主性。AI换脸”行为主要侵犯的是平台对账号及支付权限的管理秩序,而非系统本身的生存基础。

三是主观意图维度。“破坏”的行为人通常具有损毁系统功能的故意;“控制”的行为人则旨在利用系统功能牟利,其主观上往往希望系统正常运行以便自己操作。在谢某案中,若系统崩溃,谢某便无法完成支付和获利,故其主观上排斥系统破坏的结果。

综上,利用AI换脸”绕过验证的行为,更符合“非法控制”的特征。周光权教授指出,直接破解人脸识别系统的行为更为符合《刑法》第285条第2款的规定,应当认定为非法控制计算机信息系统罪。[6

三、判断标准:实质解释论下的三重维度

为避免司法实践中的机械适用,应当引入实质解释论,构建区分“破坏”与“控制”的三重判断标准。

(一)以“核心业务逻辑是否失效”作为系统运行判断标准

破坏计算机信息系统罪的结果要件是“造成计算机信息系统不能正常运行”。对此,不能仅看系统是否死机或断网,而应考察系统的核心业务逻辑是否整体失效。一是破坏计算机信息系统罪的认定。若攻击行为导致系统的主要功能模块崩溃、关键业务流程中断(如无法响应用户请求)、核心数据不可恢复地损毁,或者系统被迫停机修复,则属于“不能正常运行”。二是非法控制计算机信息系统罪的认定。若系统核心逻辑仍在运转,能够按预设流程处理请求,仅是控制权被行为人非法获取,系统按行为人的意志执行了非授权指令,则不属于“不能正常运行”。

在本案中,茅台售卖平台的抽签、验证、支付等核心业务逻辑并未断裂,系统成功地接收了伪造视频,进行了比对,并输出了“通过”指令,完成了交易闭环。系统的“业务逻辑”不仅未失效,反而被行为人完美地利用。因此,不符合破坏计算机信息系统罪的结果要件。这里的“功能实质失效”,指的是系统防御机制(如活体检测)在特定攻击下失去了应有的拦截作用,但这属于“被绕过”而非“被破坏”。

(二)以“对系统操作的实际影响”作为程序改变判断标准

非法控制的本质在于行为人对系统操作流程的实际支配力。司法实践中,“绕过认证”是否被视为“破坏”关键在于行为人是否通过技术手段取得了对系统操作流程的决定性影响。一是实质支配的认定。若行为人的操作导致系统逻辑发生永久性改变、关键功能永久丧失或对其他用户的正常使用造成实质性阻碍,则可 能构成“破坏”。二是程序改变的认定。若行为人仅改变了输入源(如用视频代替真人),但未改变系统底层 的处理逻辑,且系统整体仍可被原权利人正常使用(其 他用户仍可正常抽签),则属于“控制”。

在本案中,谢某利用虚拟摄像头劫持了视频输入流,实质上支配了认证环节的操作,使系统误以为其在进行操作。但这种支配是瞬时的、特定的,并未导致系统底层程序的篡改或对其他用户服务的阻断。因此,应认定为非法控制。

(三)以“主客观相一致”作为法益侵害判断标准

罪名的认定必须坚持主客观相统一原则,避免客观归罪。若行为人明知其行为不会导致系统瘫痪,且其目的正是依赖系统的正常运行来实现非法获利,则其主观上仅有非法控制的故意,应定非法控制计算机信息系统罪;若主要侵犯的是系统的财产价值或公共安全(导致系统无法服务大众),应定破坏计算机信息系统罪。

在本案中,谢某显然不具备破坏系统的故意,其行为侵害的是平台对账号及支付权限的管理秩序,而非系统本身的生存基础。检察机关的定性准确体现了这一原则。

四、实务展开:证据构建与裁判规则的体系化

(一)证据构建:从“形式合规”向“功能实质”转型

面对AI换脸”引发的非破坏性入侵,证据构建应从“系统被攻击”转向“系统核心功能实质失效”的证明。

一是输入端证据构建。不仅要提取被告人使用的 动态视频文件,更要通过技术鉴定确立其与真实公民 个人信息的关联性。首先,需固定“源数据”与“生成物”的比对证据。侦查机关应调取被告人非法获取的公民 个人信息数据库(如高清人脸照片、声纹数据),并与用于通过验证的动态视频进行帧级比对,鉴定意见应明确指出视频中是否存在算法生成的伪影、光影不一 致或微表情缺失等机器生成特征,以此确证系AIGC技术生成而排除“真人协助”的可能性。其次,需提取 生成工具的特征代码。若被告人使用开源模型或特定 黑产软件,应提取其配置文件、推理脚本及运行日志,证明该工具具备“对抗样本生成”或“活体检测绕过”的特定功能模块。

二是传输端证据构建。应重点收集设备层面的底层日志和内存转储文件,通过分析节点的设备挂载情况,确认在验证发生时,系统是否加载了非物理摄像头的虚拟驱动。同时,需提取网络流量包,分析上传至服务器端的数据包结构,是否缺乏硬件指纹、存在异常封装。此外,还应调取服务器端的接收日志,核查请求来源的IP、设备ID是否异常,若同一设备ID在短时间内发起高频次、跨地域的验证请求,且伴随大量失败后迅速成功的记录,可作为异常行为的间接证据。

三是结果端证据构建。这是证据构建中最具挑战性的一环,即如何证明系统“不能正常运行”或“被非法控制”。应引入“同态复现”或“对抗性测试”机制,即在实验室环境中,搭建与案发时版本一致的目标系统镜像,输入涉案的深度伪造视频,观察系统的反应。若系统在无其他干扰下连续多次将伪造视频识别为真人,即可量化得出该时段内系统的误识率远超设计阈值(通常为万分之一或更低)。鉴定意见应明确表述:在输入涉案视频流的情况下,目标系统的活体检测模块未能触发拦截机制,导致其核心安全功能在逻辑上处于失效状态。同时,应统计因该漏洞导致的异常通过数量、涉及的资金规模(如中签茅台酒的市值)以及系统修复所需的成本,为量刑提供客观依据。

(二)法律适用:竞合论视角下的罪名选择

一是优先适用非法控制计算机信息系统罪。当攻击未造成系统崩溃、数据丢失,仅通过欺骗获取操作权限,非法控制计算机信息系统罪是最为贴切的定性。对于批量控制账号、违法所得巨大的情形,可直接适用“情节特别严重”档次。

二是限缩适用非法破坏计算机信息系统罪。只有当攻击行为导致系统安全防御机制完全瘫痪,且具有持续性或广泛性(如导致大量正常用户无法验证、系统被迫停机),方可认定。若仅是个别账号的违规通过,未影响系统整体稳定性,不宜适用此罪。但在想象竞合下,若行为同时符合两罪且破坏计算机信息系统罪刑罚更重(如造成重大公共秩序混乱),可依“从一重处断”原则适用破坏计算机信息系统罪,以体现对数字公共秩序的强保护。

三是诈骗罪的竞合处理与法益衡量。利用AI换脸”绕过验证往往伴随着财产性利益的获取,这不可避免地触犯诈骗罪。此时,行为人的一个行为同时触犯了计算机犯罪与财产犯罪,构成想象竞合犯,应坚持“从一重处断”原则。通常情况下,若涉案金额巨大,诈 骗罪的刑罚可能重于计算机犯罪;但若涉案金额未达 到诈骗罪“数额巨大”标准,而计算机犯罪的“情节严重”标准已达成,则应以计算机犯罪定罪。值得注意的是,此类案件不仅侵犯了财产权,更严重侵蚀了数字社会的信任基石,即便诈骗数额不是特别巨大,若行为对公共安全、金融秩序造成了抽象危险,司法机关也应倾向于适用计算机犯罪罪名。此外,若行为人同时实施了非法获取公民个人信息的行为(如购买照片制作 视频),且该行为独立构成犯罪,原则上应当数罪并罚。

(三)裁判规则:类案指引与技术抗辩回应

一是确立“功能实质失效”的裁判认定标准。建议“两高”发布指导性案例或类案指引,明确将“核心安全功能在特定时段内丧失防御能力”作为认定计算机信息系统“被破坏”或“被控制”的关键标准。裁判规则应明确:第一,不以系统是否崩溃为唯一标准。只要攻击行为使得系统的安全验证机制(如人脸识别、验证码)形同虚设,导致非授权用户得以通过,即视为系统功能受损。第二,引入“技术中立”的排除规则。被告人若以“使用的是公开技术”“仅为测试系统安全性”为由抗辩,法院应审查其主观目的与客观后果。若其行为超出了合理测试范围(如未获授权、批量操作、牟取非法利益),则不得援引技术中立原则免责。

第三,量化指标的采信规则。对于鉴定机构出具的误识率、系统负载影响等量化数据,法庭应予充分采信,并将其作为认定“情节严重”的重要依据。

二是明确电子数据审查的特殊规则。一方面,确立“全链条存证”要求。从前端设备的数据提取、传输过程的日志记录到后端服务器的验证结果,必须形成完整的证据闭环,任何环节的断裂都可能导致事实认定的困难。另一方面,推广“专家辅助人”制度。鉴于法官在人工智能技术领域的知识局限,应鼓励控辩双方聘请具有专门知识的人出庭,就技术原理、攻击手段、系统缺陷等专业问题进行说明和质证。法庭在裁判文书中,应对专家意见的采纳情况进行详细说理,增强判决的技术说服力。

三是量刑情节的精细化考量。首先,将“技术恶意”作为从重情节。对于专门研发、销售用于绕过验证的黑产工具,或利用高技术手段实施犯罪的行为人,应体现从严惩处的导向。其次,将“技术补救”作为从宽情节。若被告人在案发后主动披露系统漏洞、协助修复缺陷或提供技术解决方案,可视为有悔罪表现,依法从轻或减轻处罚。最后,注重罚金刑的适用。对于以牟利为目的的此类犯罪,应加大罚金刑的适用力度,剥夺其再犯的经济基础,并可探索适用“禁止令”,禁止被告人在一定期限内从事相关互联网技术服务活动。

四是推动行刑衔接与综合治理。检察机关在办案过程中,若发现相关企业存在系统安全漏洞或管理疏漏,应及时制发检察建议,督促其整改。同时,加强与网信、公安、工信等部门的行刑双向衔接协作,建立信息共享与线索移送机制,形成打击黑灰产的整体合力。对于涉案的公民个人信息泄露源头,应深挖彻查,斩断黑色产业链的上游供给,实现“办理一案,治理一片”的效果。

结语

在数字中国建设的宏大背景下,司法实务必须保持敏锐的洞察力与严谨的逻辑性。既要防止对新技术的过度恐慌而导致刑罚的泛化,也要避免因法律滞后而纵容技术犯罪。通过确立科学的认定标准、完善严密的证据链条、制定统一的裁判规则,我们方能在保障技术创新与维护数字安全之间找到最佳平衡点。未来,随着生成式人工智能技术的进一步演进,相关法律问题必将更加复杂多变,这需要法学界与实务界持续关注,共同推动

我国网络犯罪治理体系的现代化转型。


分享到:

地址:北京市海淀区西土城路25号 | 北京市昌平区府学路27号 | 联系我们

京公网安备:110402430029 | 京ICP备05004635号-18 | 联系邮箱:fdzfw@cupl.edu.cn

版权所有:中国政法大学科技园