宝塔服务器面板,一键全能部署及管理,送你10850元礼包,点我领取

  随着人工智能技术的发展,“AI换脸”技术门槛逐渐降低,应用场景越来越多,在满足人们猎奇、美颜、社交等需求的同时,因“AI换脸”引发的争议乃至违法犯罪行为屡见不鲜,其背后隐藏的灰色产业链也逐渐浮出水面。近日,CNMO了解到,一名拥有百万粉丝的网红博主称自己的“脸被偷”,有人用AI换脸软件,制作她的不雅视频。该博主还称,经过深入了解,她发现“AI换脸”好像已经形成一条产业链。

警惕AI换脸!百万粉丝女网红遭“换脸”成不雅视频主角-编程部落
AI换脸

  CNMO了解到,该博主发现在境外社交平台上有人冒充注册了假账号,先是搬运其社交账号的日常内容,积累一定粉丝后,就会以会员订阅的方式贩卖视频。更让她惊讶的是,在另一个社交网站,制作AI换脸视频账号的人很多。

警惕AI换脸!百万粉丝女网红遭“换脸”成不雅视频主角-编程部落
博主发文

  该博主发文说道:随着我的深入了解,我发现“AI盗脸”背后好像已经形成了一条完整的产业链。产业链的这端是不法分子通过AI换脸技术赚钱。他们将明星、博主甚至素人的脸制作成假的色情照片与视频,明码标价地获取利益。我曾看到过一个网红名单,表里密密麻麻写满了我熟悉的名字。他们根据博主的粉丝量级进行分类,假视频价格在30-50元不等。但只要你花200元就可以进群,进群后不仅可以享受永久半价,甚至还能接“私人定制”。

  所谓的私人定制,即提供“一键脱衣”的合成服务。只需要付费后给这些账号发送带人像生活照,他们就能通过AI合成的方式制成假的视频。

警惕AI换脸!百万粉丝女网红遭“换脸”成不雅视频主角-编程部落
某社交软件

  有人说,既然AI换脸的技术已经如此成熟了,而且其中牵扯到暴利,对公民隐私危害极大,那为什么国家不叫停这种技术呢?有网友则表示,先不谈这项技术被叫停的可能性,就说技术本身,它是无罪的,要惩罚的是那些利用技术做违法犯罪的人。