原标题:不雅视频将女明星换脸成主角售卖:涉多重违法,电商称零容忍

  AI(人工智能)换脸软件走向大众的风险之一,是这种软件可能会被不法分子滥用。

  9月3日晚间,澎湃新闻(www.thepaper.cn)记者在二手交易品台闲鱼App上发现,有多位卖家通过AI换脸技术制作出当红女明星的不雅视频,进行售卖。

  其中一位卖家告诉澎湃新闻记者,他有视频100部,里面包括30多位明星。还有一位类似卖家报价称,75元套餐中有40多位女明星上百部的AI换脸视频。

  北京志霖律师事务所副主任、中国政法大学知识产权研究中心特约研究员赵占领律师对澎湃新闻表示,这种售卖明星换脸不雅视频的行为,毫无疑问是构成肖像侵权的,也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪,它属于传播淫秽物品牟利罪,情节严重者可判无期徒刑。

  澎湃新闻咨询闲鱼相关人员获得的回应是,该平台对违反公序良俗的商品一贯以来采取零容忍态度,从严从重处罚违规行为。

  电商平台不法分子兜售女明星AI换脸视频

  AI换脸技术两年前在国外出现时,就曾经被“用来换脸色情片女主角”。

  2017年12月,在海外出现AI换脸技术时,这项名为“deepfakes”的技术,就曾被少数懂技术的人用来换脸色情片女主角。后来,随着一款桌面应用程序FakeApp的出现,普通网民也能简单制作换脸假视频,互联网上的假脸视频开始广泛流传。这在海外早已引发争议。

  目前,国内市场上已经有“ZAO”和颜技App攻克了AI换脸技术,将换脸从专业化变成全民化,实现一键换脸。这又让一些不法分子看到了赚钱的机会。

  9月3日晚间,澎湃新闻记者在二手交易品台闲鱼App上发现,有多位卖家通过AI换脸技术制作出当红女明星的不雅视频,进行售卖。

  其中一位卖家提议在qq或者微信进行交易,并告诉澎湃新闻记者,明星换脸合成情境图的价格如下:一个明星30元,两个明星40元,三个明星50元,每个明星图片数量不同,大多数都是300张左右。此外,他还有视频100部,里面包括30多位明星。“都是当红的,有的明星多,有的少。”他说。

  澎湃新闻记者询问卖家能否试看,对方表示不能,并发来了部分资料库截图,文件名称极其露骨。

  另外一位类似卖家给出的报价是:75元套餐中有40多位女明星上百部的AI换脸视频,99元套餐则可“永久外网观看任意资源”。

  对此,澎湃新闻咨询了闲鱼相关人员。对方告诉澎湃新闻,对违反公序良俗的商品一贯以来采取零容忍态度,从严从重处罚违规行为。同时,在平台处理的基础上,闲鱼还将向执法机关举报涉嫌发布违规信息的账号,协助开展线下溯源打击,追踪背后的黑灰产团伙。

  今年3月20日,闲鱼在浙江省网信办指导下,在互联网行业内率先发起为期3个月专项治理行动,用最严厉手段打击各类涉嫌违反公序良俗的违规信息。

  闲鱼相关人员表示,闲鱼呼吁公众发现违规现象时积极向平台举报,共同净化网络社会环境。