深度合成（Deepfake）的法律规制：从AI换脸到AI诈骗的全链条治理

一、引言：当"眼见"不再"为实"

"有图有真相"的时代已然终结。在深度合成（Deepfake）技术日益成熟的今天，一段看似真实的视频通话、一张完美无瑕的证件照片、一段声情并茂的语音留言，都可能是AI精心制造的"合成品"。2024年初，香港某跨国公司职员被深度伪造的"CFO"视频会议骗走2亿港元的案件，更是将深度合成技术的滥用风险推至公众视野的聚光灯下。

深度合成技术，又称深度伪造，是指利用深度学习技术生成、修改或合成图像、音频、视频内容的数字内容生成技术。这项技术本身是中立的——在影视制作、文化创意、教育培训等领域有着广阔的应用前景——但其滥用带来的法律挑战却是前所未有的：从侵犯肖像权、名誉权到新型网络诈骗、虚假信息传播，乃至对国家安全的威胁。

本文将从法律规制视角，系统梳理中国深度合成治理的法律体系，分析平台义务、受害者维权路径，并借鉴国际治理经验，为企业和法务人员提供全景式的合规指引。

二、深度合成技术滥用现状：从娱乐工具到犯罪武器

2.1 AI换脸：从社交娱乐到侵权泛滥

2019年"ZAO"换脸APP引爆了AI换脸的全民热潮，也首次将深度合成的法律规制问题带入公众视野。近年来，AI换脸的应用场景不断扩展，从最初的娱乐换脸发展到恶意制作他人色情视频、伪造明星代言广告、冒充公职人员录制虚假声明等严重侵权乃至犯罪行为。据公安部网络安全保卫局通报，2023年全国公安机关侦破利用AI换脸技术实施的诈骗案件数百起，涉案金额从数万元到数千万元不等。

AI换脸涉及的法律权益包括：肖像权（《民法典》第1018-1019条）、名誉权（第1024条）、个人信息保护权（《个人信息保护法》）、著作权（如原始视频的著作权）等。当换脸视频同时涉及多人的肖像和隐私时，还可能构成对公共利益的损害。

2.2 AI语音克隆与伪造

语音深度合成技术的发展速度同样惊人。只需几秒钟的原始音频样本，AI即可精准克隆一个人的声音特征。诈骗分子利用这一技术冒充受害者的亲属、领导或合作伙伴，通过电话实施"紧急转账"类诈骗。与传统电信诈骗相比，AI语音诈骗极具欺骗性——亲人熟悉的声音、逼真的语气和情感表达，使受害者几乎无法分辨真伪。

法律层面，未经他人同意使用其声纹信息进行深度合成，不仅侵犯个人信息权益，还可能构成《反电信网络诈骗法》第28条规定的非法使用他人信息实施诈骗行为，情节严重的可追究刑事责任。

2.3 AI虚假信息与政治操纵

深度合成技术对信息生态和政治安全的威胁同样不容忽视。伪造的政治人物演讲视频、虚假的突发事件报道、AI生成的"专家评论"，可能在大选、重大政策发布等关键时间节点被广泛传播，扰乱社会舆论秩序。《生成式人工智能服务管理暂行办法》第4条明确要求，生成式AI服务不得"煽动颠覆国家政权、推翻社会主义制度"、"危害国家安全和利益、损害国家形象"。深度合成技术在政治领域的恶意使用，直接触碰了法律的红线。

三、中国相关立法框架：多层级协同的治理体系

3.1 《互联网信息服务深度合成管理规定》

2023年1月10日施行的《互联网信息服务深度合成管理规定》（以下简称《深度合成管理规定》），是我国首部专门针对深度合成技术的部门规章，标志着中国深度合成治理进入制度化、体系化阶段。该规定的主要内容如下：

• 主体责任框架：明确深度合成服务提供者、技术支持者、使用者的三方责任，构建全链条治理体系；
• 内容标识制度：要求对深度合成内容进行显著标识，防范用户混淆真实与合成内容（第16-17条）；
• 算法备案义务：具有舆论属性或社会动员能力的深度合成服务提供者，须履行算法备案手续；
• 数据安全管理：要求采取有效措施加强训练数据管理，防止数据泄露和不当使用；
• 辟谣机制：发现虚假信息的，应当立即采取停止传输、消除等处置措施；
• 用户管理义务：对违规使用深度合成技术的用户，可采取警示、限制功能、关闭账户等管理措施。

3.2 《生成式人工智能服务管理暂行办法》

2023年8月15日施行的《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），将涵盖范围从深度合成扩展至整个生成式AI领域。《暂行办法》第4条规定生成式AI服务提供者应当"坚持社会主义核心价值观"、"采取有效措施防止生成虚假信息"，并特别强调"提供者应当依法承担网络信息内容生产者责任"——这一条款意味着，AI生成内容被视为由服务提供者"生产"的内容，提供者需对其真实性、合法性负责。

3.3 相关法律规范的衔接适用

在专门立法之外，深度合成的治理还需依托既有法律体系的衔接适用：

• 《民法典》：人格权编中肖像权、名誉权、隐私权和个人信息保护的规定，是深度合成侵权的民事救济基础；
• 《网络安全法》：第24条要求的真实身份信息认证制度，有助于遏制匿名深度合成行为；
• 《数据安全法》：深度合成涉及的训练数据、生物特征信息等，须纳入数据分类分级保护框架；
• 《个人信息保护法》：深度合成的个人信息处理须遵循"告知-同意"规则、目的限制原则和最小必要原则；
• 《刑法》：利用深度合成实施诈骗（第266条诈骗罪）、诽谤（第246条诽谤罪）、传播淫秽物品（第363-364条）等行为的，依法追究刑事责任；
• 《反电信网络诈骗法》：深度合成语音克隆、AI换脸冒充身份等属于新型电信网络诈骗手段，适用该法的相关规定。

四、平台审核义务与内容标识要求

4.1 深度合成内容的标识义务

《深度合成管理规定》第16条确立了深度合成内容标识制度：提供深度合成服务，应当对深度合成内容进行显著标识，使公众能够清晰辨识。标识分为两类：一是显式标识——在内容中以文字、水印等方式明确标注"本内容由AI合成"或类似表述；二是隐式标识——通过元数据、数字水印等不易被篡改的技术手段嵌入标识信息，便于后期追溯。

标识义务的例外情形包括：仅用于技术测试、不具备舆论属性或社会动员能力的深度合成应用，以及法律、行政法规另有规定的情形。但企业须注意，例外情形的范围较为有限，不宜过度扩张解释。

4.2 平台审核义务的具体要求

平台在深度合成治理中承担着关键角色。根据《深度合成管理规定》和《暂行办法》，平台审核义务主要包括：

• 入网审核：对深度合成服务提供者和技术支持者的资质进行审核，确保其具备合法合规运营的基本条件；
• 内容审核：建立健全深度合成内容审核机制，对违法和不良信息采取过滤、拦截、删除等措施；
• 用户管理：对违规用户采取警示、限制功能、关闭账户等处置措施，并记录留存相关日志；
• 技术审核：对深度合成算法本身进行安全评估和合规审查，确保算法不含有歧视性、诱导性设计；
• 投诉处理：建立便捷的投诉举报渠道，及时处理涉及深度合成的侵权投诉。

4.3 违反义务的法律后果

平台未履行上述义务的，将面临行政、民事甚至刑事法律后果。行政处罚方面，《深度合成管理规定》第22条规定，未履行标识义务、未建立健全审核机制的，由网信部门和有关主管部门依据职责给予警告，责令限期改正；拒不改正或者情节严重的，处一万元以上十万元以下罚款，并可责令暂停信息更新。民事责任方面，《民法典》第1194-1197条关于网络侵权责任的规定，要求平台对"知道或应当知道"的侵权行为承担连带责任。

五、受害人维权路径与证据保全

5.1 民事维权路径

当深度合成内容侵害个人权益时，受害人可通过以下民事路径寻求救济：

• 人格权侵害禁令：《民法典》第997条规定，民事主体有证据证明行为人正在实施或者即将实施侵害其人格权的违法行为，不及时制止将使其合法权益受到难以弥补的损害的，可以向人民法院申请人格权侵害禁令。这一制度特别适用于深度合成内容一旦传播便难以彻底删除的场景；
• 侵权损害赔偿：依据《民法典》第1182条，侵害他人人身权益造成财产损失的，受害人就损失数额难以确定的，人民法院可以根据实际情况确定赔偿数额。在深度合成侵权案件中，法院可综合考虑侵权行为的性质、传播范围、侵权人获利、受害人精神损害等因素酌定赔偿金额；
• 更正权与删除权：受害人对包含自身信息的深度合成内容，有权要求服务提供者删除或更正，且删除义务不限于首次发布，还延伸至网络信息传播的各个环节。

5.2 证据保全的实务要点

深度合成案件的证据保全面临独特挑战——传统"截图"、"录屏"等保全方式的证明力受到质疑，因为AI生成的图像和视频本身可能经过多次合成，其原始性和真实性本身就存在疑问。为此，建议受害人采取以下保全措施：

• 时间戳取证：通过联合信任时间戳服务或区块链存证平台，对深度合成内容进行实时固化；
• 公证保全：在公证员监督下对涉案内容进行在线提取和保存，确保证据链完整；
• 技术鉴定：委托具有资质的司法鉴定机构对深度合成内容进行溯源分析和真实性鉴定；
• 平台数据保全：要求平台提供涉案内容的发布时间、上传者信息、传播记录等后台数据，防止数据被删除或篡改；
• 隐式标识提取：委托专业技术团队提取底层元数据和隐式标识，追溯合成工具和制作源头。

5.3 刑事报案路径

对于情节严重的深度合成侵权行为，受害人可向公安机关报案。特别是利用深度合成技术实施诈骗、诽谤、传播淫秽物品、侵犯公民个人信息等行为的，公安机关将依法立案侦查。报案时，应重点准备以下材料：深度合成内容的原始样本及鉴定意见、损害后果的证明（如转账记录、医疗诊断证明等）、嫌疑人身份信息（如有）或IP地址等线索。

六、国际治理经验借鉴

6.1 欧盟：《人工智能法案》的风险分级框架

2024年3月，欧洲议会正式通过的《人工智能法案》（AI Act）是全球首部全面性人工智能法律。该法案将AI系统分为四类风险等级：不可接受风险、高风险、有限风险和极低风险。深度合成属于有限风险类别，需履行透明度义务——明确告知用户内容由AI生成。对于可能操纵人类行为或利用弱势群体的深度合成应用，可能被归入不可接受风险类别而被直接禁止。欧盟的立法经验表明，风险分级是平衡技术创新与安全治理的有效路径。

6.2 美国：州级立法与联邦监管并行

美国尚未出台统一的联邦层面深度合成法律，但各州立法进展迅速。加利福尼亚州2019年即通过法律禁止在选举前60天内传播恶意深度伪造内容。纽约州2023年通过《数字内容真实性法案》，要求社交媒体平台对AI生成内容进行标注。联邦层面，美国商务部国家标准与技术研究院（NIST）正在推动深度合成检测标准的研究，联邦贸易委员会（FTC）也加强了对利用深度合成实施欺诈行为的执法力度。

6.3 新加坡与日本：技术治理与行业自律

新加坡2024年发布了《生成式AI治理框架》，强调深度合成内容的水印和溯源机制。该框架采取"轻监管、重自律"的思路，鼓励行业自行制定深度合成的技术检测标准和内容标注规范。日本则侧重于技术研发层面的治理，推动"可信AI"技术标准的制定，鼓励开发高效的深度合成检测工具，同时对违规行为采取事后追责为主的监管方式。

6.4 对中国的启示

综合国际经验，我国的深度合成治理可在以下方面进一步完善：一是建立科学的深度合成风险分级制度，对不同应用场景采取差异化的监管要求；二是加大深度合成检测技术的研发投入，提升技术监管能力；三是完善跨境协作机制，应对深度合成内容的跨国传播和跨境犯罪；四是推动行业标准建设，形成可操作的深度合成内容标识、检测和溯源技术标准。

七、结语：构建全链条治理的深度合成法治体系

深度合成技术的治理，不是简单的"堵"或"禁"，而需要在保护创新和防范风险之间寻求动态平衡。从"ZAO"换脸到AI语音诈骗，从伪造新闻到深度合成虚假证据，每一次深度合成技术的滥用都在警示我们：法律规制不能落后于技术发展。

中国的深度合成治理体系已经初步搭建——以《深度合成管理规定》和《暂行办法》为核心，以《民法典》《网络安全法》《数据安全法》《个人信息保护法》《反电信网络诈骗法》等为支撑的多层级法律框架正在形成。但法律的生命在于实施。未来的治理重点，将从"建章立制"转向"执法落地"——需要监管机构、平台企业、技术开发者、用户和社会各界的协同努力，共同构建深度合成的全链条治理体系。

对于企业而言，深度合成的合规管理已不是"可选项"，而是"必答题"。无论是作为深度合成技术的提供者、使用者，还是作为潜在的侵权受害人，企业都应将深度合成合规纳入法务和风险管理体系的常态化议程。