群主在“女神群”发送“AI换脸”淫秽视频牟利，法律底线不可破

只需一张照片，经过深度合成、算法处理，任何人都可以成为视频中的主人公……“AI换脸”频繁出现在诸多“恶搞”视频中。

4月7日，杭州市萧山区检察院曝光的一个“女神群”，就与这项技术相关，引发广泛关注。

现在由“AI换脸”引发的案件多吗？它在什么情况下会触及法律底线？遇到类似利用“AI换脸”技术实施犯罪的行为该怎么办？

潮新闻记者采访了杭州市萧山区检察院第一检察部负责人。

图文无关，来自视觉中国

男子利用“AI换脸”动起歪脑筋

早在“AI换脸”刚兴起时，80后安徽籍男子虞某就从中嗅到了一丝商机。

起初，虞某想通过在网上推广该项技术及相关的软件来获利。但是，一段时间过去，他没有获得什么关注度。

偶然的一次机会，虞某看到有些人会在群里发布一些淫秽信息来吸引他人关注，就动起了歪脑筋。

虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽各色人群加入。当观看者达到一定人数后，虞某会发布群消息称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完整版。

“内部群”里发送的淫秽视频有不少是由虞某本人使用“AI换脸技术”合成的。根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。甚至，有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件。

一面通过“吸粉引流”收取会费；一面又通过出售“换脸软件”频频获利，虞某原本没声没响的“生意”一下打开了局面，短短几个月就获利数万元。

后经他人举报，2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉，案件目前正在法院审理。

截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张。经鉴定，上述均系淫秽物品。

图片来源：视觉中国

AI时代，我们如何守好法律底线？

近年来，“AI换脸”因为其深度拟真、低制作门槛的特点，扩散速度很难控制。人脸作为具有身份识别特征的重要生物识别信息，极易造成诈骗、敲诈勒索等有针对性的违法犯罪活动。

杭州市萧山区检察院第一检察部负责人表示，像本案中虞某的这种行为，一方面侵犯了女明星的肖像权、名誉权；“AI换脸”如情节严重的，可能构成相应的刑事犯罪。另一方面，虞某这种制作、传播淫秽物品的行为也对社会正常的秩序和风气，对公序良俗造成了损害。

该负责人告诉记者，目前以相同行为实施犯罪的案例还不是很多。但是从虞某本人供述来看，在他们所在的“圈子”中，类似利用AI换脸对淫秽视频进行加工，并在公开群里投放吸引“流量”的案件并不少见。

那么，在“AI换脸”技术火热的当下，判定其是否违法的边界又在哪里呢？

“技术本身是中立的，但AI技术从诞生开始就存在极大的争议和被滥用的空间，因此必须进行严格的监管。”该负责人说，恶搞视频制作中“AI换脸”技术的应用容易侵犯他人肖像权；但最终判定是否侵犯名誉权，还是要从视频的具体内容来考量，如果有人利用换脸软件对他人进行恶意丑化、玷污式恶搞，或者将他人的脸换到不雅视频中，就侵犯了他人的名誉权，严重的也可能会构成侮辱罪、诽谤罪。

当前，网络上不少平台提供AI换脸服务，在满足社交、娱乐等需求的同时，易出现类似本案中不当利用、非法利用的行为，杭州也已有过相关判例。

因此，杭州市萧山区检察院第一检察部负责人提醒，相关平台应加强对“AI换脸”技术应用的管理。同时，希望用户也能依法使用该项技术，一旦遇到类似本案中利用“AI换脸技术”实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。

(来源："网信浙江”）

(链接：https://mp.weixin.qq.com/s/twGPQlILo87NeOOtn-gzSQ）