【网信普法】AI换脸技术应用边界在哪里？

【网信普法】AI换脸技术应用边界在哪里？

调查动机

浙江杭州检察院曝光一个“女神团”。 群里发的很多淫秽视频都是犯罪嫌疑人用“AI换脸”技术合成的，还可以根据客户需求“定制”； 一起制作、贩卖、传播淫秽物品牟利案中，犯罪嫌疑人通过社会团体自学“AI换脸”技术，以明星形象制作淫秽视频并在网上以300元/个的价格销售。 10分钟……近日，相关“AI换脸”案例和新闻引发社会关注和关注。

随着人工智能的发展，“AI换脸”的技术门槛逐渐降低，应用场景也越来越多。 在满足人们猎奇、美颜、社交等需求的同时，“AI换脸”行为引发的争议甚至犯罪屡见不鲜，隐藏在其背后的黑灰色产业链也逐渐浮出水面。

“AI换脸”存在哪些乱象？ 使用明星形象“AI换脸”合法吗？ 技术应用的边界在哪里？ 围绕这些问题，记者进行了调查采访。

漫画：高悦

“你能教我怎么拍吗？”

“点击视频左下角进入全套教程。”

“你不是想亲谁就亲谁吗？”

“就学我的教程吧。”

这是一段短视频平台博主与粉丝的对话。 这位素有特效师之称的博主，发布了多部影视剧亲密场景短视频，并把男主角“换”成了自己，吸引了大量流量。 面对粉丝的求教，博主表示会提供《手机版影视合拍教程》，售价99.99元。

出售“AI换脸”技术的博主，以及提供“AI换脸”技术的APP、小程序不在少数。 《法治日报》记者近日调查发现，传授“AI换脸”技术、提供定制视频“换脸”服务，甚至贩卖名人“换脸”淫秽视频已成为在线平台上的业务。

受访专家认为，技术发展是不可阻挡的趋势，技术应用往往先于风险应对措施的出现。 遏制“AI换脸”等深度合成技术在人工智能领域的乱象应用，需要监管部门、平台、网民多方形成合力，多管齐下。 此外，技术研究和应用的法律规制和执法效能也有待进一步提高。

相关应用程序易于下载

提供人像定制

记者在电商平台搜索“换脸”、“专业定制换脸”等关键词，看到不少商家声称提供影视“换脸”、“AI换脸”等服务戏剧。 价格基本在10元到200元之间。

对于“AI换脸”的使用，电商平台一位商家表示：“你可以变成《倚天屠龙记》中的张无忌，也可以变成《陈情令》中的蓝忘机，或者你可以成为《红楼梦》中的人物，林黛玉……你只需要录制一个短视频发给客服，我们就可以为你合成相同的视频，为你的造型增添一抹风情青年。” 此项服务优惠券购买起价23.8元。

在手机应用商店，记者以“AI换脸”为关键词搜索，看到了多款“AI换脸”APP。 在某社交平台上，记者搜索“换脸”，看到不少关于“AI换脸”的小程序。

记者下载了最受欢迎的应用程序。 App有多种“换脸”模板可供选择，包括AI绘画、影视剧、气质美女、男士专属等，上传照片即可生成“换脸”视频点击。

如果你想在这些应用和小程序上使用“AI换脸”功能，你需要付费。 以记者试用的这款APP为例，周会员17元，年会员398元。 记者购买了每周会员17元。 注册手机号并同意遵守相关合成规定后，导入视频素材，按下“点击制作”和“开始制作”按钮，视频素材中的人脸就可以互换了。 .

一些卖家不仅提供“AI换脸”服务，还提供“换脸”技术教学服务，进一步降低了此类技术的应用门槛。

在某电商平台，记者联系到一家经营“AI换脸”业务的商家。 在其“智能换脸”的产品详情中有这样的描述：“你可以花最低的成本优化简历的展示……让你初出茅庐就拥有大老板般的丰富资历”纵横江湖，在就业竞争中脱颖而出。”

据商家客服介绍，想要“换脸”，只需要准备两部分素材，即包含面部信息的人脸素材和提供正文和背景的内容素材。 商家操作后，“两者合二为一，形成成品”。 至于价格，商家会根据工作量和难易度来制定最终价格。 参考价1分钟以内60元，1分钟以上按间隔秒计算，如3分钟以上0.9元/秒，10分钟以上0.7元/秒.

同时，商家还为“有兴趣”学习的顾客提供“AI换脸”教学套餐：自学套餐180元，辅导套餐360元，教学套餐720元. 商家根据消费者的需求，提供相应档次和价格的教学服务。

教学内容100元即可

技术传播或侵权

“AI换脸”技术教学服务包括哪些内容？ 记者花了99.99元从号称特效师的博主处购买了相关套餐。 总共有7节课。 每节课的时长从1分9秒到3分45秒不等。 “擦除视频中的人物，如何使用遮罩，如何剪出人物进行合成”，这些课程都记录在手机屏幕上。

据讲师介绍，制作“换脸”视频需要使用多个手机应用，但其实并不复杂——从影视剧片段中截取人物的一帧画面，用橡皮擦擦掉保存后要替换以编辑照片的字符。 不过在正式剪辑之前还有一个素材是需要准备的，那就是我在绿屏上记录下相关片段中人物的动作和台词。

经过这一系列的操作，特效师就可以代替《赌侠》中的周星驰和女主角张敏了； 在一段19秒的影视片段中，他甚至被迪丽热巴亲吻，而不是郭京飞。

购买课程后，特效师邀请记者加入课程群。 与自称参与研究的几万人不同，该群包括群主在内只有18人。 群里没人说话，只有一名普通群友被管理员“禁言30天”。

特效师告诉记者，学完课程就可以投入制作了。 电脑端可以制作更丰富的“换脸”视频，但价格却比移动端贵4倍。

记者注意到，评论区有网友提出质疑：“换脸”技教服务是否涉嫌侵权？ 博主不置可否。

对此，武汉大学法学院副教授沉晨表示：“‘AI换脸’技术通过社交平台卖课、授课等网络平台传播，可以判断其构成在这种情况下共同侵权。”

沉晨进一步分析，民法第1169条规定，教唆、帮助他人实施侵权行为的，应当承担连带侵权责任。 与协助侵权相比，教唆侵权更具主观性。 如果有人利用网络平台主动诱导他人学习“AI换脸”技术实施侵权，可以认定为教唆侵权。

换脸背后隐藏的风险

应用边界亟待厘清

另一个问题是：盗用他人肖像制作“换脸”视频的背后隐藏着哪些法律风险和侵权纠纷？

记者就此咨询了上述特效师博主，对方回复称，“‘变脸’视频不涉及侵权，因为影视剧都是公开的，如果有侵权，那么那些视频剪辑和电影评论侵权。” 未遇到相关纠纷。

然而，受访专家给出的法律分析恰恰相反。

中国传媒大学文化产业管理学院法律系主任郑宁告诉记者，擅自使用他人肖像制作“换脸”视频，可能涉嫌侵犯他人肖像权和名誉权。 . 无论是“换脸”App的经营者还是普通网友，未经影视剧著作权人授权许可，向公众提供“换脸”后的影视片段通过互联网飞信:通过手机客户端可以使用飞信群的功能不包括?，让公众可以自己选择。 随时随地在线播放甚至下载，都可能涉嫌侵犯影视剧著作权人的信息网络传播权。 同时，如果对原影视剧片段的主题进行“换脸”后进行歪曲篡改，最常见的形式是恶搞，也可能侵犯著作权人保护作品完整性的权利.

郑宁认为，如果“AI换脸”技术被不法分子用于诈骗、色情、盗窃、恶搞、非法牟利等，将造成极大危害，不仅侵犯了当事人的合法权益。他人，但也可能危及公众。 安全。

郑宁介绍，目前尚无相关行业规范明确“AI换脸”的具体应用场合，但规定了“AI换脸”行为应遵守的界限。 《互联网信息服务深度合成管理规定》（以下简称《规定》）明确规定，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、法规禁止的信息。行政法规，要求深度合成服务商： 建立健全辟谣机制。 这为深度合成服务的技术应用定义了“底线”和“红线”。

“《规定》的出台表明，有关部门有意识地对包括‘AI换脸’在内的人工智能深度合成技术进​​行规范，但该文件并未限制换脸技术的应用范围和用途。” 在应用方面，在小陈看来，“AI换脸”涉及到人像，比其他个人信息更具体、更敏感。 “人工智能换脸”技术会导致个人身份信息识别混乱，进而导致信息传播混乱。 因此，有必要限制这种潜在危害的使用范围。

那么，“AI换脸”技术的应用边界在哪里？

沉晨认为，可以从两个应用场景来考虑：专业的影视制作，在获得演员授权的前提下，可以合法应用该技术； 网民的娱乐用途，比如制作一些熟人之间的“换脸”视频娱乐等等。

“这就涉及到如何理解授权问题。根据相关规定，‘AI换脸’需要获得对方肖像权的授权。肖像权授权有两种理解：第一种，只要你不反对你使用我的肖像，就完成了知情同意的过程；二是肖像人必须实施明确的意思表达，才能获得制作“AI换脸”视频的授权。 “ 沉晨表示，授权书可能有两种理解。 一个价值判断。 通过自愿同意的方式获得“AI换脸”许可，有利于肖像权保护，但不符合社会交往理念。 但如果采用先认识，可能会导致事后监管飞信:通过手机客户端可以使用飞信群的功能不包括?，因此，“AI换脸”的应用边界仍需通过社会实践进一步探索。

建立安全评估体系

完善监督预防体系

针对“AI换脸”乱象，近年来，国家网信办、地方网警、检察机关协调配合，加大打击力度，办理了多起民事、刑事案件，并发布了《通知》。多项政策法规加强治理。

我国刑法、民法典以及国家有关部门颁布的《网络视听信息服务管理条例》、《网络信息内容生态治理条例》均涉及对深度合成应用、侵权行为的规范责任等内容。

4月11日，国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能行业进行了更详细的规定，包括定义、准入资格、责任和处罚措施等。

“尤其是《条例》，在防范深度合成技术带来的社会危害和法律风险方面，迈出了非常重要的一步，实现了从无到有，为深度合成技术应用提供了专门的监管体系。” 沉晨表示，一些具体措施还需要细化，比如如何落实《条例》要求的安全评估制度，由谁来评估，评估标准是什么？ 这些都需要结合产业发展、技术背景和专业知识进行细化。

在郑宁看来，我国缺乏人工智能的一般性立法和人工智能伦理的行业规范，虽然目前相关法律可能侵犯隐私、名誉、肖像、个人信息、版权，以及对人工智能的危害也有相应的规定。网络安全和数据安全。 国家网信办相关规定对算法、深度合成技术、安全评估等也有规定。 但是，如何在人工智能产业创新、国家安全和个人权益保护之间取得平衡，如何规划各方的权利、义务和责任边界，还存在一些模糊性。

“‘AI换脸’技术所侵犯的权益非常敏感，通过网络传播速度快、范围大、影响广。从三个层面设计独特的监管体系网络服务提供商、网络服务提供商和用户。” 沉晨说道。

沉晨建议“AI换脸”技术的研发者和相应的技术企业建立严格的备案程序和安全评估制度。 目前“AI换脸”技术还比较粗糙，但通过优化迭代，未来一定会高效逼真，所以一定要合理限制传播范围。 为了控制技术的来源，未来的监管体系可以尝试要求技术开发者在技术中保留一个“技术水印”，即如果用户使用该技术制作视频，视频文件中就会有痕迹，网络平台可以快速识别他们。 该视频采用“AI换脸”技术制作。

对于网络服务平台，沉晨建议查看使用上传视频服务的用户信息，即掌握AI合成视频的制作者身份 ，以便在何时确定责任人法律风险是后生的。 平台还需要通过技术手段对视频内容进行审核，识别其中是否存在人工合成元素，并进行标注。 同时，当平台接到人工合成视频法律风险通知时，需要按照《民法典》规定的网络服务提供者义务，建立完善的应对机制。 此外，用户在使用网络平台服务过程中，如发现存在涉嫌法律风险的“AI换脸”视频，要注意举报。

“当上述三个环节建立起监管机制后，结合对违法者法律责任的追究，将形成更有效的防范体系，应对‘AI换脸’技术的法律风险。” 沉晨说道。

参与电子商务法立法的浙江垦丁律师事务所主任张延来指出，打击“人工智能人脸”滥用，除了法律手段外，还需要引入社会力量，尤其是商业力量。换”技术，就像电脑病毒需要引入杀毒软件来遏制一样。 但更应关注技术本身带来的有益效果，依法打击滥用。 没有必要太害怕技术本身，而是去学习和拥抱新技术。

“任何技术都是一把双刃剑，还是要看是谁用的，怎么用的，如果违规了会被追究什么责任。‘AI换脸’在某些场景下是有积极意义的，比如影视制作、广告等，不能一概否定。但也要充分认识它的风险。” 郑宁总结道。