你发在小红书微博上的自拍，正在被做成AV（组图）

近日有报道称，在欧洲当前五个访问量最大的深度伪造（deepfake）网站上，有近4000位名人被AI换脸成色情内容的主角。

据调查，这五个网站三个月的浏览量达到了1亿次。

受害者包括女演员、电视明星、音乐家、Youtube网红等。

2023年12月，日本公司推出的首位AI女优木花爱。

她让一众人惊讶的原因不是“几千年一遇”的绝美容颜，也不是“细枝结硕果”的傲人身材，而是因为木花爱是首位“诞生于AI的AV女优”。

在聚光灯下，木花爱以一个完美的虚拟形象出道，但在网络深处，AI换脸技术正被滥用，将无数无辜者的面孔嫁接到色情内容上。

如今，利用AI换脸技术，

任何人都可以在短短1分钟内成为色情视频的主角。

在2019年，人们通过AI换脸技术领略了杨幂以不同演技呈现的场景。

被认为是杨幂演技的巅峰之作。

当时的换脸技术已相当成熟，高超的技术让视频几乎看不出破绽。

劣迹演员出问题后，AI换脸现象频发。

如赵立新，其角色先后被黄志忠、于震、周一围等人替换，显示其影响力巨大，为AI换脸技术团队提供了不少业务。

随着AI技术的普及，AI换脸技术也给国内演艺界的明星们带来了不小的困扰。

国内某交易平台的买家声称，他们能够以75元的价格打包出售包含40多位女明星、上百部AI换脸视频的资源，并提供免费试看服务，通过网盘进行发货。

据调查，96% 的 AI 视频是女性性影像。 

AI 色情影片数量每六个月就会翻一倍。

至今全球已知的互联网 AI 伪造色情影片超 27 万条，这一数据是 2019 年的 18 倍，而这些影片的总观看次数多达 40 亿次。

若不加以控制，未来可能看到更多被换脸的不雅视频，无人可置身事外。

下面这张图，曾是去年的爆搜。

2023 年，广州某女生在小红书发布的一张正常穿着的地铁摆拍照片。

很快被人用 AI 软件一键脱衣，并迅速在全网发散。

很快热搜上就出现词条——广州地铁三号线不雅照事件、广州地铁美女露出事件

微信内，也迅速开始疯传聊天记录。

无妄之灾啊，百口难辩。虽然这件事后续有澄清，但那张裸照，却会永远留在互联网上。

互联网记忆如刀，黄谣成本极低，令人痛心。

在2023年，网络红人"Caro赖赖_"的社交媒体账户突然接收到大量留言，纷纷表示：我曾经观看过你的影片。

秉持着清者自清的态度，她没有作出任何反应。

但事态反而不断升级，直到她收到朋友发来的视频询问：小赖，这不像是你啊？

在看到黄色视频中与自己别无二致的面容后，赖赖才了解到自己的「面部」图像被非法用于制作情色视频。这些视频正被大肆传播。

视频发布者国外平台注册账户，搬运博主日常内容吸粉，接着通过售卖合成的AI换脸视频给会员赚取收入，这已经形成了一个成熟的商业链条。

她调查中见过一份网红名单，众多知名网红都在其中 。

视频售价30-50元，200元进VIP群享半价和私人定制服务，后者可用生活照制作色情视频。

海外账户追踪复杂，逮捕嫌犯更是挑战，犯罪代价低廉而维权代价昂贵。

2023年8月8日，涡阳人民法院裁决了一起散布色情物品案件。

被告人傅某因在一个月内自学剪辑和人脸替换技能，从而制作并销售其自创的色情视频，被判处7个月监禁并没收非法所得3940元。

在三个月之后，中国浙江省的杭州市萧山区人民法院审理完毕一起涉及制作与散布色情物品以获利的犯罪案件，判定犯罪嫌疑人虞某犯有重罪，并判处其七年三个月的监禁以及六万元人民币的罚金。

虞某运用网络上的AI换脸技术教程提升了自己的技能，并将其用于盈利活动。

虞某通过社交平台搭建了观看群和定制群，利用AI换脸技术制作的不雅视频在群内传播以吸引用户。

随后，他将有兴趣的客户引导至定制群，根据视频的时长和制作难度收取费用。

在法庭审理过程中，检察官出示了证明虞某犯罪的证据，这些证据显示其侵犯了公民的隐私信息并破坏了公共利益。

其中包括超过1200个色情视频和1600多幅图像等电子资料。

这些案例在我们身边不断发生，“侵犯”和“强奸”行为无处不在。

由于偷拍、迷奸…等以往的罪行，我们都有相应的手段来保护自身安全。

然而，对于AI性侵犯，我们似乎束手无策。

但是作为受害者，或者可能被施暴的人群，又该怎么做呢？

除了呼吁技术壁垒更完善，法律更健全，以及溯源、追捕更迅速以外我们无计可施。