【摘要】2019年下半年，网上出现大量女明星不雅视频，视频中女明星的脸被“嫁接”在成人 视频上，几乎以假乱真，并在各个平台传播，严重侵犯了女明星的肖像权以及名誉权，并且污染网络空间。除此之外，9月3日，有多位卖家售卖通过AI换脸技术制作的当红女明星的不雅视频，以此牟利，形成一套色情产业链，对受害女明星造成严重的网络媒体暴力。本文将具体分析“明星AI换脸”事件引起的媒介伦理失范问题，并在此基础上探讨如何遵守技术伦理以及规避媒体暴力行为。 

【关键词】AI换脸；女明星；媒体暴力；伦理失范

【abstract】

The second half of 2019, a large number of indecent videos of female stars appeared on the Internet. The faces of the female stars were “grafted” on adult videos, which were almost fake and spread on various platforms, which seriously violated the female stars ’right to portrait and reputation and polluted cyberspace. In addition, on September 3rd, many sellers sold indecent videos of popular female stars produced by AI face-changing technology, in order to make a profit, forming a set of pornographic industry chains, which caused severe media violence to the female victims. This article will specifically analyze the problem of media ethics anomaly caused by the "star AI face-changing" incident, and then explore how to comply with technical ethics and avoid media violence.

【key words】AI face-changing; female stars; media violence; ethics anomie

【案例简介】

2019年下半年网络上爆出许多当红女明星的不雅视频，仔细分辨，那不是真人，而是运用“AI”技术将女明星的脸“嫁接”在成人 视频里，视频已经影响到了女明星个人的工作生活，以及荣誉和名气，网上也出现了一些不公正的评论。

而随着AI技术走红以及门槛降低，售卖明星换脸的淫秽视频已经成为一门地下生意。2019年9月3日，百度贴吧中有部分标榜“换脸＋女明星姓名”的发帖者，售卖通过AI换脸技术合成的视频，价格可4元一部，也可158元打包购买700部视频。而多位知名女明星频被提及。

网络平台上还有卖家提供“定制换脸”服务。买家提供明星或私人照片，卖家即可将淫秽视频中的主角“移花接木”。定制换脸视频1分钟20元-50元不等。还包括售卖、定制、教学等多项服务。

售卖AI换脸淫秽视频，本身已经是传播淫秽物品牟利罪，同时也侵犯了肖像权。而买家购买之后加以传播或者以传播牟利，则可能构成违法。

因此许多人对人工智能未来可能造成的伦理问题产生担忧。

事情后续

平台相关人员回应称该平台一向对违反公序良俗和法律法规的商品零容忍，将会从重处罚违规行为，此外，闲鱼平台也将举报违规账号，积极配合相关执法部门开展线下溯源打击。

【案例来源】

 1.http://www.bjnews.com.cn/finance/2019/07/18/604773.html

 2.https://zhuanlan.zhihu.com/p/81261748

 3.https://tech.ifeng.com/c/7inaqifiw87

【案例分析】

一、从不同角度看此事件

（一）从技术伦理的角度看

新兴技术拓展了新的领域与空间,伦理规范等却保持相对稳定性。当伦理规范未能与时俱进时,技术与伦理之间便产生鸿沟,引发一定的争议。技术本身是中性的，没有”善”“恶”之分，技术的好坏关键在于使用技术的人。我们不抵制用在正确用途的技术，我们抵制的是站在“技术向善”的背面用，技术侵害他人利益的人。技术应用的目的是服务于人类社会,为人们提供更好的生活基础与精神满足,人工智能技术也不例外。如果得到合理的使用,便会给人类带来巨大的福利。但同时技术在不被滥用的前提下,人工智能换脸技术能够实现分享利益与技术价值,有利于促进经济增长,催生出新行业,也能够给人们带来丰富的、前所未有的体验。例如广为人知的是电影《速度与激情7》拍摄过程中保罗•沃克因车祸去世，电影公司用他的两个弟弟和之前的影像数据，再现了保罗•沃克的英姿。

而近些年网络出现的“AI明星换脸”的不雅视频却是对人工智能技术的恶性操作，传播淫秽信息，污染网络空间，罔顾技术伦理。更让人难以接受的是，网友对此的无脑狂欢，部分网友对此等行为不加以制止，反倒参与其中，灰色交易越演越烈，女明星在公众面前个人利益得不到保障，遭受着网络暴力的伤害。

（二）从法理的角度看

“AI换脸”，是在掌握受害者一定信息后进行视频制作和传播，第一步就侵犯了受害者隐私和信息安全。而对于名人明星而言，不雅视频的传播与贩卖更多地对其肖像权和名誉权造成极大的损害。从侵害他人权利的角度看，“明星AI换脸”给女性带来了名誉上的损害，而网友的传播扩散，在网络上导致更大范围的网络暴力。

网络空间并非是法外之地，我国《网络安全法》确立了网络产品和服务的安全可控原则，将他人肖像用于制作淫秽视频或者利用网络技术“作恶”，是对他人合法权益的侵害。此外，在我国，“根据《刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。”

由于网络平台的匿名性，人们的责任意识和道德感淡化，许多卖家在网络平台上游走在法律的边缘，贩卖“明星AI换脸”视频，传播淫秽信息，这显然违反了法律，践踏了私人领域，损害了公共利益。人们传播“明星AI换脸”不雅视频导致传播伦理失范，侵犯他人权利，甚至于违反法律法规。伦理规范不仅仅需要媒体来遵守，还需要每个信息传播者的积极参与，双方共同维护公共领域的良好秩序。

（三）从新闻真实性角度看

网络视频作为视听新媒体的形态之一,由于其记录了人或物完整的动态变化,与图片相比有着更高的可信度和真实性,常被作为可靠真实的媒体信源或法律证据。但换脸视频往往以假乱真,容易传播虚假信息，损害了新闻真实性。在“AI换脸”得到广泛运用之后，传播虚假信息的成本降低，人们会对视频中的内容先是相信，再是知道事实真相，然后人们会对信源的可信度产生质疑，打破了“眼见为实”在互联网时代的普遍真理。“AI换脸”传播虚假信息不仅仅会降低社会信任度，而且也会使媒体陷入“塔西佗陷阱”。“明星AI换脸”不雅视频传播虚假信息，新闻真实性得不到保障，而且要从AI视频中区别真假的成本也很高，从而扰乱社会正常秩序。

二、对“明星AI换脸”事件的成因及处理对策

追根结底，人们参与其中，一是为了经济利益，二是为了满足人们的猎奇需求，三是缺乏媒介素养，其中网络的便捷传播性和而导致此类事件的发生。在网络的匿名性的遮盖下，他们通过在网络上生产和传播淫秽信息牟取利益，伤害他人的名誉权，这无疑会对当事人造成心理上的损害，网络上卖家和买家都是为了满足自身私欲而做出违反社会伦理与道德甚至法律的事情。

（一）建立相关法律法规

针对“AI换脸”等新技术如何监管的问题，全国人大常委会已将一些与人工智能密切相关的立法项目列入本届人大立法规划，如数字安全法、个人信息保护法和修改科学技术进步法等，同时将人工智能方面立法列入抓紧研究项目，围绕相关法律问题进行深入调查论证。12月20日，国家互联网信息办公室发布了《网络信息内容生态治理规定》。规定指出，网络信息内容服务使用者和生产者、平台应当文明健康使用网络，不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。该规定自2020年3月1日起施行。法律是最后的底线，完善我国关于人工智能相关法律法规，将人工智能控制在法律范围之内，有利于新技术更好地造福于人类社会，促进社会进步。

（二）设立合乎伦理规范的视频生产及传播制度

目前已有的科技领域或人工智能领域的伦理规范的制定主体,主要有政府机构部门、科学家团队、高科技企业、协会等,且这些伦理规范大都是一些较为宏观的指导性原则,如“以人为本”“安全无害”“人类控制”，缺乏具体的制度相匹配，因此，相关部门对于违法侵权行为，要重点关注和监测，对可能造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频，要严格监管，对违法侵权行为重拳出击。

（三）强调技术开发者的技术“他律”及使用者的行为“自律”相统一

正如Naughty America公司首席执行官安德里亚斯·赫罗诺普洛斯所说:“深度伪造视频不会伤害别人,只有使用深度伪造视频的人才会伤害别人。”国外deepfakes（人脸交换技术）技术开发者的初心是为了造福社会，但在技术设计上应该杜绝此类事件的发生与发展，建立严格合乎法律制度和伦理道德的技术使用条例，同时开发出有识别AI换脸的AI技术来澄清谣言。使用者需要自律，需秉承善意使用原则，让技术能够在合理合法的用途和目的上使用，需要对法律常识和公序良俗有底线意识，增强媒介素养。技术开发者的技术“他律”和使用者行为“自律”相统一，形成良好的技术使用氛围。

（四）网络平台应加强监管

平台不能只躲在“避风港”里。换脸视频在审核上常常隐蔽性较强，而平台并非是被侵权主体，缺乏主动作为的动力。只能是事后用户举报后，再作处理。所以，平台应完善事前处置机制，加强对违规换脸视频的自动研判与编审，严控问题视频的分发，平台如果明知视频违法违规而不采取措施，继续对他人和社会造成损害，平台也需承担连带责任。

【相似案例】

2017年,国外Reddit论坛中一名用户上传了许多色情视频,其中女主角的脸都被换成了斯嘉丽·约翰逊、盖尔·加朵等好莱坞性感女星的，视频制作者利用了“DeepFakes”深度学习和人工智能制作成了这个视频。

【参考文献】

[1]牛静,侯京南.基于人工智能的换脸视频伦理问题探讨[J].青年记者.

[2]《美成人 电影公司想用AI换脸技术为用户拍定制片子》, http://tech.163.com/18/0822/01/DPPBCM1L00097U80.html, 2018年8月22日.