当AI进攻色情产业，22万未成年被换脸围观 原创
作者：杨淼
当AI进攻色情产业，出现了越来越多的n号房事件……
17岁的Uldouz Wallace不敢相信自己的眼睛，因为她在facebook上看到了自己的不雅视频。而她并没有跟任何人发生过性关系。
慌乱之中，她把自己的形象上传到网站检索，发现了2000多个相关链接。每个地址都是不堪入眼的露骨视频。
报警后，她才知道，自己在instagram上发布的图片被犯罪分子窃取了。罪犯拿着她的脸用AI合成了成人视频，卖给了黄色网站。
至于犯罪分子，因为难以溯源最初的发布平台和IP，很难被逮捕。
自生成式AI在2022年兴起之后，毫无编码能力的普通人也可以通过开源模型合成图像和视频，情色产业也发现了其中的利益。
据悉，2023 年，美国社交平台上新发布了14.3万个深度伪造合成的视频，是2022年1.5万个的九倍。
当技术不断精进，地下产业愈发猖獗，AI换脸的受害者也就愈来愈多。针对这个现象，世界范围内开始出台相关的法律法规。但由于尚在摸索阶段，实际惩治力度并不强硬。
被害者迫于羞耻与伦理考量，大部分也不会选择正面应占。
那些被害的女性，或许成了AI走进互联网后的第一批受害者。
深度伪造是AI换脸的核心技术，其原理是通过深度神经网络提取输入图像的深层信息，读取出其中隐含的深层特征来实现人脸互换（Face-swap）等特定任务。
自2017年名为deepfake的用户在Git Hub上开源此技术代码，多个衍生代码也相继开源。此后，AI换脸进入大规模传播时代。
韩国AI换脸犯罪事件始于2024年5月，主谋是两个首尔大学的学生。利用开源的AI技术Deepfake，换脸合成了成人视频，在社交平台私密传播，受害女性多达61人。韩国妇女人权研究所表示，2024年以来共有781名AI换脸受害者在线求助，其中36.9%是未成年人。
但真正引起公众注意的，是被非法换脸的22万未成年。
9月份，一大批未成年少女的影像出现在韩国某大型色情网站上。警方调查后，发现受害者90%为学生，受害者人数多达22万。
受害者来自五百多个学校。不仅有大学生，犯罪分子连高中、初中、乃至小学的女孩也不放过。而始作俑者也不是掌握高科技的成年黑客，大多都是十七八岁的学生。
他们在社交网站上批量收集未成年的影像，利用深度伪造技术合成视频，在匿名社区、暗网疯狂流传。
韩联社报道，涉嫌AI换脸立案的嫌疑人中，10～19岁占比2021年为65.4%，2022年略降至61.2%，去年反弹至75.8%，2024年1至7月为73.6%。深度伪造犯罪呈现低龄化特征，未成年人沦为AI换脸的始作俑者。
2021年至2023年，在报案的527名深度伪造淫秽影像受害者中，未成年人占比达59.8%，远高于20～29岁（32.1%）、30～39岁（5.3%）和40～49岁（1.1%）。
而这样违背伦理法律的犯罪活动背后，除了技术和色欲本身，还有暴利。
“当利润达到10%的时候，他们将蠢蠢欲动；当利润达到50%的时候，他们将铤而走险；当利润达到100%的时候，他们敢于践踏人间的一切法律；当利润达到300%的时候，他们敢于冒着绞刑的危险。”——《资本论》
在专门制作换脸视频的Mr.deepfakes网站，用户付费5美元就可以下载上百份的换脸色情图像。支付15美元就可以在一个月内免费访问该网站上的所有图像视频。
这类网站盈利的基础就是大量的付费用户。据Similar web数据显示， Mr.deepfakes一个月的用户访问量多达700万。
同时，NBC新闻对 MrDeepFakes的调查发现，至少有18名网站创作者正在推广指向 Fan-Topia 页面的“隐藏链接”，并出售更长版本的深伪色情内容。每天，他们使用“隐藏链接”的创作者在网站上传预告片并引导消费。
该网站的深度伪造主要是女性公众人物。K-Pop 明星、好莱坞女演员甚至政治人物都深受其害，包括美国著名歌星taylor swift和特朗普女儿伊万卡。
随着生成式AI的不断进化，通过开源模型，深度换脸成本趋近于零，只需要通过爬虫软件批量获取社交平台上的女性照片，就可以获得大量“免费”的女性素材。
据美联社报道，2023 年，网上新发布了超过 14.3 万个深度伪造合成的视频。而在2022年，这一数值还是1.5万。在生成式AI火爆的一年内，社交平台上的AI换脸视频增加了将近八倍。
而在不断开源、传播的技术模型之中，社交平台上出现了大量的UGC色情内容。
Sensity咨询公司2023年调查显示，社交媒体上96%的深度伪造视频都是露骨的性爱视频。每一个视频的平均浏览量在1亿，视频中的女性并不知情。
甚至有匿名网友在Discord上称，只需要65美元就可以为Instagram上关注者少于200万美元的博主深度换脸，合成你想要的任何视频。
在深度伪造社区，每个人都会有自己的主页，你可以上传自己的模型、代码，生成的视频，也可以为喜欢的博主打赏。
社区成员甚至会积极讨论如何写代码、优化模型生成更“逼真”的图片视频。
主题包括“defeating deepfake detection（如何绕过对deepfake的监管）”“ways to improve deepfake（如何提升深伪技术）”“crypto payment（加密货币支付）”。
流传着大量换脸色情影像的深伪社区，俨然成了犯罪分子的秘密基地。
技术的弥散与不设限将犯罪成本降到最低，在高额利益和原始劣根性的驱动下，越来越多的女性沦为AI换脸受害者，越来越多的犯罪分子加入这场结构性的“围观”与侵犯之中。
但丁在《神曲》中列出七宗罪，依次为：色欲、贪婪、嫉妒、暴食、懒惰、暴怒、傲慢。
用AI换脸，是出于牟利，亦是出于人性中被淫欲唤醒的天然的劣根性。
14岁的小女孩Mia Janin结束了自己的生命，因为同班男孩用AI生成了她的裸照并在学校群组和社区传播。
这个群组叫suicide squad,名为自杀小队，有六十多个男生，多在十三四岁。而针对小女孩的换脸纯粹是出于欺凌的快感。
事情发生于2021年3月，过了三年才在今年年初被新闻媒体曝光。
但直到现在，社交媒体上都没有任何关于犯罪者的审判记录和信息。
一个小女孩的身亡被新闻媒体一句“bullying”（霸凌）轻轻带过。
面对层出不穷的AI换脸事件，美国国会2023年发起了一项名为“the Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024”（反对强行篡改图像和未经同意编辑的法案）的法案。
数据显示，参与投票的1231名成年人中，72%的女性强烈支持该法案，男性支持的比例为62%。其中，有20%在45岁以下的年轻男性公开反对这项法案，认为不应该因为编辑AI换脸的视频而起诉内容创作者。
由下图可以看出，每个年龄阶段都有该法案的反对者，年轻男性的反对声音尤为突出。
不过，从年初著名歌手Taylor Swift换脸视频在社交媒体疯传到韩国未成年批量受害以及层出不穷的AI换脸事件，世界范围内开始了对深度伪造的大力整治。
其中最重要的一个要素是知情权，即照片合成的主体是否事先同意图像的生成与流传。
美国是最早提出对深度伪造技术进行立法的国家，与深度伪造技术直接相关法案最多，而且从联邦和各州政府层面均有部署行动。2018年12月，美国参议院提出《2018年恶意伪造禁令法案》（Malicious Deep Fake Prohibition Act of 2018），对制作深度伪造内容犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的社交媒体平台，进行罚款和长达两年的监禁。如果伪造内容煽动暴力、扰乱政府或选举，并造成严重后果，监禁将长达10年。
但从中国裁判文书网以“AI换脸”检索，我们发现，在现存的18篇相关裁判文书，最早的判决案例在2022年，大部分都以赔礼道歉结束，实际赔偿金额大多在3000到5000，惩处力度较小。
从某种程度上说，“AI换脸”产业的猖獗一定程度上就是因为没有严厉的惩戒措施，低成本犯罪给了更多游离在法律边缘的人侥幸心理。
因为技术是中性的，善恶只是使用技术的人所带来的后果。就像AI可以被用于提高蛋白质检测效率、优化工作流程、解放人的生产力。同时，AI也会被犯罪分子用于诈骗、军事和色情网站，成为黑灰产的养料。
随着技术不断发展，人类所做的，除了享受技术的红利，更应该时刻警惕技术可能带来的风险，尤其是针对儿童、妇女、老人等弱势群体。
切记，不要在前进的道路上误开潘多拉的魔盒，坠入无间之狱。
0赞好文章，需要你的鼓励
推荐文章
“我们正处在x86架构和生态系统数十年发展的一个关键时刻，需要更进一步的定制化能力、兼容性和可扩展性来满足当前和未来的客户需求。”
“回看人工智能70年的发展历程，曾经历两次寒冬和两次春天，如今正迎来第三次春天。这一次春天的来临，我们需要更加务实、冷静地看待这项技术，帮助它健康发展。”
如今这个AI不断改变行业的时代，卡夫亨氏正用实际行动证明，即使是最传统的产品也可以从前沿技术成果中受益。卡夫亨氏AI战略的核心，就是Davis提到的“自动驾驶供应链”。这个雄心勃勃的项目旨在建立一条能够实时适应中断的健壮供应链。
慧与对Juniper的大手笔收购可能“几周后”就会完成，这将大大提高这家市值300亿美元的公司的销售额和利润。慧与的首席执行官表示：“等到与Juniper的交易完成，我们将拥有另一项业务：110 亿美元的收入。它将占公司收入的三分之一以上，可能会占公司利润的50%。”
/
0赞
京公网安备 11010802021500号 京网文(2021)3350-928号 京字第20868号
