[摘要]随着AI+5G智能时代的来临，人工智能技术的应用已经逐渐渗透到我们的日常生活中。深度伪造技术作为人工智能技术的重要组成部分，在重塑社会信息形式、丰富用户体验的同时，也因所伪造信息的高度真实性等而带来了诸多伦理问题。本文将采用个案分析法，以林俊杰起诉B站和换脸视频UP主为例，围绕本案例中深度伪造技术触犯了哪些法律、该技术出现伦理失范的原因和如何更好规制深度伪造技术的发展等三个角度，来进一步分析AI换脸视频中的伦理失范问题，以期引起人工智能技术在伦理规范下实现良性发展的思考。

[关键词]深度伪造；AI换脸；人工智能；肖像权

[Abstract]With the advent of AI + 5g intelligent era, the application of artificial intelligence technology has gradually penetrated into our daily life. As an important part of artificial intelligence technology, deep forgery technology not only reshapes the form of social information and enriches the user experience, but also brings many ethical problems due to the high authenticity of the forged information.

In order to arouse the thinking of the benign development of artificial intelligence technology under the ethical norms，this paper will use the case analysis method, take Lin Junjie's prosecution of station B and the up Master of face changing video as an example, and further analyze the ethical anomie in AI face changing video from three perspectives: what laws are violated by the deep forgery technology in this case, the reasons for the ethical anomie of the technology and how to better regulate the development of deep forgery technology.

[Key words]Deep forgery; AI face change; artificial intelligence; portraiture right

[案例简介]

因肖像被用于AI换脸视频，林俊杰起诉了B站及其UP主@瓜瓜Mars侵犯肖像权。9月23日，上海市杨浦区人民法院受理原告林俊杰诉被告上海宽娱数码科技有限公司、肖某肖像权纠纷一案。

在本案件中，林俊杰的主要诉求是“肖某在哔哩哔哩网站经营的up主账号‘瓜瓜Mars’的主页一级《人民法院报》上擅自使用原告肖像及姓名进行商业宣传”。该案件以被告肖某向原告赔偿经济损失、精神损害抚慰金和维权成本合理开支共计275000元等而告一段落。

up主@瓜瓜Mars的视频基本上全是以林俊杰换脸视频为主。视频中的林俊杰时长穿梭在各大经典影视剧中“客串”，有时还能一人“分饰”一部剧中的所有角色。令人嘘唏的是，当林俊杰提出了起诉时，网络上还充斥着类似“林俊杰玩不起”“格局小了”的质疑，而该up主深陷此次起诉事件后也仅仅是下架了关于林俊杰的换脸视频，其主页平台上关于其他明星的换脸视频依旧在正常播放。

AI换脸视频中的伦理问题探讨已经由来已久，林俊杰也不是第一位因AI换脸视频困扰的人。2017年，一个叫“DeepFakes”的用户在美国Reddit论坛中分享了自己制作的换脸视频，并将代码开源。自此，DeepFakes便成为AI换脸技术的代名词，并于次年传入国内。2019年，国内一款换脸APP‘ZAO’悄然上线，这款app因其换脸操作的简易性和趣味性而迅速走红。这一年，B站的up主“换脸哥”将94年版的《射雕英雄传》影视片段中的演员朱茵换成了杨幂，迅速引来热烈讨论。

AI换脸技术即深度伪造技术，依赖于一种人工神经网络（ANN)，它可以模仿人脑系统输入海量的数据图像并对这些图像进行编码充重组，形成一个庞大的图像数据库。它使用两种底层AI技术来运行：自动编码器和生成对抗网络（GANS）。而GANS又由两种相互竞争对抗但人工神经网络组成，分别是生成器和识别器。生成器主要是基于海量图像数据库中自动生成模拟该数据库中的样本，识别器则是对生成器的样本进行检测评估其真伪。这两种人工神经网络在生成与模仿中不断博弈，在视频的多个单帧中进行批量处理，从而形成了真假难辨的深度伪造视频。

目前，深度伪造视频主要分为四种类型，分别是人脸替换、人脸再现、语音合成和人脸合成。人脸替换最典型的例子便是之前的“ZAO”软件和本案例中的明星AI换脸；人脸再现即通过修改人脸的特征来达到改变人物面部表情的目的,如2019年6月美国网民制作的Facebook的CEO扎克伯格的视频；语音合成即创建一定的声音模型来将文字转化为逼真的人声，如语音播报中的名人语音播报；人脸合成就是生成现实生活中不存在的人脸，如虚拟人等。

在技术深度渗透的当下，深度伪造技术在医疗诊断、自动驾驶、安全监控等方面有一定的积极意义，但也存在着诸多的伦理问题例如侵犯隐私、危害政治安全和社会信用体系和出现造假诈骗等，需要我们正确看待其两面性。下面我将聚焦本案例来重点剖析该案件中深度伪造技术的伦理问题。

 

[配图]

吴某视频中关于林俊杰的换脸视频

吴某视频账号的主页

[案例来源]

https://mp.weixin.qq.com/s/nU8zDpzLMXK_wxxiiVl9kg

https://mp.weixin.qq.com/s/X1-hy7vHONLkeDTCng7p1g

https://mp.weixin.qq.com/s/zl6RtDm6m3a3a5GaTHgU7g

 

[案例分析]

一、案例中AI换脸视频中的侵权问题分析

（一）侵犯个人的肖像权、名誉权等合法权益

人的个人信息分为基本标识信息、身份信息和生物信息三大类，人脸信息作为生物信息的重要组成部分，具有唯一性和排他性。肖像权是个人最为重要的核心信息，肖像权是事关人格尊严的基本权利，作为一种绝对权，具有排除一切侵害行为的法律效力。民法典第1019条便规定，任何组织或者个人不得以丑化、污损或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用公开肖像权人的肖像，但是法律另有规定的除外。

在本次案件中，up主吴某未经林俊杰的同意，擅自通过信息技术手段如深度伪造技术等使用甚至丑化林俊杰的肖像，严重损害了林俊杰本人的肖像权。同时，由于吴某的部分视频中，林俊杰的肖像被用于各类影视剧和搞笑片段的场面，其中带有不少夸张的表情和反差较大的台词，有意引导评论区的网民恶意评点，对林俊杰本人的名誉也造成了一定的损害。

（二）侵犯著作权

深度伪造视频中关于著作权的侵权问题多集中在色情视频的制作上。而在本案例中，吴某若要顺利完成换脸视频，就必须以一些经典的影视剧片段或MV为主要剪辑素材，其中有些经典素材并未获得授权。我国的影视作品享有保护作品完整权和信息网络传播权等在内的著作权，演员亦享有表明表演者身份和保护表演形象不受歪曲的权利。案例中的AI换脸视频不仅破坏了原影视作品的完整性，侵犯了该影视作品的著作权，且还因嫁接和恶搞演员形象而涉嫌侵犯了表演者的合法权益。

（三）损害个人的信誉以及造成经济损失

深度伪造技术以其高度的灵活性和仿真性常常让观众难以分辨。在本案例中，某些不明真相的网民会受到该换脸视频的影响，认为视频中“无所不能”的林俊杰便是林俊杰本人。当网络视频传播到一定的量级时，便有可能会引发谣言风波，进而影响到林俊杰本人的信誉以及相关商务合作。

（四）破坏社会信用机制

AI换脸视频中，有些视频会在标题中标明伪造标识，但大部分视频仍没有以显著的字样标明“该视频为伪造”。本案例里的换脸视频无论是标题还是视频内容，都没有出现明显的伪造标识。用户仅能通过up主的个人主页以及视频下评论区的风向辨明真伪。在如今社会公众对媒体普遍不信任的时代，深度伪造技术会在一定程度上助推这种不信任感。用户从web2.0年代高呼的“无图无真相”转变为如今的“有图、有视频、有语音也不一定为真”，从而迷失在真真假假的信息丛林中，这种“信任衰退效应”对整个社会信用机制的损害是几乎不可逆的，亟待我们重视。

当然，AI换脸视频中仍存在许多隐患，例如会加深人的异化、阻碍政治传播和加剧资本剥削等等。表面上用户沉浸于深度伪造技术带来的快感中，但久而久之却会容易形成对该技术的依赖和沉迷，进一步削弱个体的批判性思考、隐私意识和伦理意识。

二、深度伪造技术出现伦理失范问题的原因

（一）针对AI换脸视频的维权边界较为模糊

首先，关于AI换脸视频的侵权问题多集中在基本人格权（肖像权和名誉权）、著作权等的纠纷上，暂未有专门的法规来规制诸如深度伪造技术在内的人工智能技术的合规应用问题。在本案例中，法律判别吴某主要是侵犯林俊杰的肖像权侵权问题，事后的处罚力度渐渐只是赔偿相应金额和下架视频，并没有对吴某的账号进行后续更为严格的规定。林俊杰起诉的案件并未达到以儆效尤的效果，处罚力度较轻。如今，吴某的视频账号中仍存在大量侵犯其他明星肖像权的换脸视频。

（二）明星的形象消费边界模糊

值得注意的是，林俊杰作为社会的公众人物，其肖像存在一定的消费度。遭受AI换脸的情况时，多数明星未能积极发声主动维权，生怕引来新的舆论反噬如批判明星“玩不起”。可见，如何定义明星肖像的消费边界和维权边界，是值得进一步明晰的。须知，明星的个人肖像是受到法律保护的权利，AI换脸视频中亦存在恶搞、丑化为出发点的技术恶意，任何人合法的基本人格权都应受到法律的保护。

（四）用户的维权意识薄弱

本案例中的AI换脸视频是在B站的鬼畜区流行的，此类AI换脸视频的流行也离不开鬼畜文化土壤的加持。起初鬼畜文化是以ACGN网站上热度较高的音MAD视频为主的，以恶搞、戏谑为主要特征，用户容易沉浸在短期的快感中。吴某的视频账号具有一定的粉丝基础。部分粉丝即使通过简介和其他人的科普知晓此类视频存在侵权风险，但仍有不少粉丝因恶搞内容、导向性明显的标题等而趋之若鹜。

三、如何更好规制深度伪造技术的发展

（一）继续优化分级治理的监管机制和法律条例

民法典中对肖像权和名誉权进行了基础的规定，其他法规如《网络音视频信息服务管理规定》也进一步细化了对AI换脸技术的合规使用问题和网络音视频信息服务提供者的平台责任。如《网络音视频信息服务管理规定》第11条指出，“基于深度学习，虚拟现实等的新技术新应用、制作、发布传播非真实音视频信息的，应当以显著方式予以标识。”此类法律法规让我国初步建立了由个人到平台再到监管部门的三级监管机制。不过，法律上还应进一步规定其禁止的视频类型和显著标志的形式。同时，可以参考美国国会深度伪造立法草案，从源头上要求深度伪造内容制作者和上传者对虚假的个人冒充图像和音视频的来源进行标记和披露。

（二）继续打击深度伪造技术侵权行为

首先是加强对平台的监管。网络信息中强化对个人信息的保护，保护用户在网络上更正或删除信息的权利，并明确规定数据控制者对保证数据安全承担高标准的义务。此外，需要重点关注深度伪造技术的侵权案例，加大对侵权行为的打击力度，限制对深度伪造技术的不法使用。

（四）继续强化深度伪造鉴别技术的研发

深度伪造技术主要是在生成器和鉴别器两个系统的博弈下提高其伪造程度的。而要确保深度伪造技术的合规使用，我们就要提高深度伪造视频的辨别水平，重点开发深度伪造鉴别技术。然目前的鉴别技术上仍存在检测数据容量杯水车薪、检测工具尚未自动化、检测工具的适应性不强和检测可能性不足等四大方面的问题。但面临着如今检测识别难度越来越大，造假合成的门槛逐渐降低的情况，我们仍需要加大对鉴别技术的研发投入，利用区块链、电子认证签名等技术来开发相关鉴别工具，在合成与鉴别的竞争博弈中不断成长。

（五）加大有关深度伪造问题的宣传

针对目前用户对公民合法权益和深度伪造问题意识薄弱的现象，我们应加大对深度伪造问题的宣传。如开展有关鉴伪技术和溯源技术的普及，逐步提高全社会对于深度伪造技术滥用的危害和侵权防范意识和鉴伪能力，促进深度伪造技术的合理应用。

同时，公民也需要提升自身的媒介素养水平，尤其是新闻媒体工作者需要培养鉴别伪造视频的能力，确保能够在源头上减少伪造视频的传播。而发现伪造视频之后，需要及时在视频上打上伪造标签并着力切断其传播渠道，尽量减轻伪造视频泛滥的危害。

结语

技术本为中性，但技术的使用却带着明显的主观色彩。部分AI换脸视频中对个人基本人格权、作品著作权和诱发刑事犯罪活动等消极影响让它深陷各类争议，甚至引发深度伪造技术原罪的探讨。林俊杰起诉AI换脸视频的侵权问题是一个重大的突破。当然，关于AI换脸中的伦理问题治理道阻且长，我们仍需要要以客观中立的态度看待AI技术的应用并进一步探索并防范其可能带来的法律风险，在工具理性和价值理性中找到平衡点。

参考文献

[1]张爱军,曹慧雅.深度伪造与伪造深度：技术治理的边界与限度[J].黑龙江社会科学,2021(03):30-36+128.

[2]赵超.AI换脸技术的法律风险评估——从APP“ZAO”谈起[J].江苏工程职业技术学院学报,2020,20(01):103-108.DOI:10.19315/j.issn.2096-0425.2020.01.023.

[3]曹建峰.深度伪造技术的法律挑战及应对[J].信息安全与通信保密,2019(10):35-40.