Deepfake性犯罪激增：AI可能创造新一代的施虐者？
来源：新京报
深度伪造（Deepfake）滥用正在成为针对妇女暴力的新前沿。近日，韩国多起涉案嫌疑人在未经女性知情或同意下，利用人工智能技术合成真实人脸与虚假身体，伪造色情影像，并在多个社交媒体群组广泛传播。据韩联社报道显示，近年来，韩国Deepfake性犯罪案件数量一直呈上升态势，从2021年的156起增至2023年的180起，今年仅前七个月甚至已经累计报告297起。其中，案件受害者以年轻女性为主，主要包括学生、教师和士兵，且近三分之二的受害人都是青少年。
​​​​​​​
此次激增的Deepfake性犯罪引发全球多国网民恐慌。但这并不是一次突然的爆发。
实际上，早在今年年初，美国知名歌手泰勒·斯威夫特（Taylor Swift）的深度伪造色情图片就曾在社交媒体广泛传播，在平台方做出删除处理前，该图片已被累计浏览超4700万次。遗憾的是，这次事件仅在粉丝群体内部引起震荡。美国有线电视新闻网还曾在今年1月末专门刊发评论文章，称“我们最大的错误就是，相信这种伤害只发生在公众人物身上”。而在更早些的2019年，网络安全公司“深度追踪”（Deeptrace）也曾发布过一项调研，结果显示当时96%的在线深度伪造视频都是非自愿情色内容。“这不是一个小众问题。”
此次引发关注的Deepfake案件，指向了网络性犯罪已经到了一个全新的阶段。当我们梳理围绕Deepfake案件的相关讨论时会发现，这种看似非身体的暴力之所以引发如此广泛的担忧，民众真正担心的是一种更广泛的、充满敌意的网络环境渗入真实世界。
人工智能工具可能会导致新一代年轻人产生“我的愿望就是人工智能的命令”的心态。“如果我们不小心，不仅会创造新一代的受害者，还会创造新一代的施虐者。”这些讨论也再度提示我们，关于性别的偏见——这一世界上最古老的偏见并未远去，如何实现两性之间的真正平等仍然任重道远。而技术一直隐含风险，它是工具却从来不是答案。
撰文｜申璐
Deepfake案件回溯：
报复性的色情？
从某种程度来说，Deepfake（深度伪造）之于视频，就像Photoshop之于图片。两者都直观冲击了真实和虚拟之间的界限。在深度伪造技术流行之前，人们对“廉价伪造”应该都不陌生。后者指的是对现成素材进行处理，且处理方式仅限于减慢或加快视频中部分段落的播放速度，或者选择性地剪辑拼贴内容。美国众议院议长南希·佩罗西（Nancy Pelosi）就曾深受其害。相较而言，深度伪造的变形制作则可以将一张脸与另一张脸互换、或将一张脸上的表情换到另一张脸上，在这个基础上再结合配音或者声音克隆等方式，这项技术就能够实现以极低的成本制作出完全虚构但极其逼真的视频。早年间国外社交媒体曾流传过美国总统尼克松针对登月灾难的演讲，即是深度伪造的结果。
在韩国深度伪造性犯罪引发广泛关注之前，全球多家主流媒体对这项技术的报道大多集中在政治领域。人们担心它可能会导致虚假信息的传播、制造社会政治分歧进而极大地破坏民主。这些担忧都不无道理，但媒体报道视角的筛选机制过滤了这项技术更为实际的影响。
英国《卫报》2018年刊发的关于深度伪造的报道，聚焦政治领域。
据欧洲一家科技咨询公司Sensity近日发布的报告显示，目前全网传播的深度伪造视频中与政治相关的内容占比不到5%，其中超过95%的内容涉及非自愿的色情内容。该报告还发现，部分深度伪造网站的视频观看量超过1亿次，这类网站的内容主要关于女明星和普通女性的身体。另外一项针对Telegram（通讯软件）上生成的虚假裸照的调查则发现，超过68万名女性的照片被从其社交媒体或私人对话中窃取。
在此之前，深度伪造引发集中讨论是在今年年初。美国知名歌手泰勒·斯威夫特的深度伪造照片在社交媒体上迅速传播，在平台方删除照片前，该照片在全网已有约4700万次浏览。据相关统计显示，当时全网已有超过9500 个网站“专门制作非自愿亲密图像”。在泰勒·斯威夫特成为最受关注的受害者之前，这项技术其实已经颠覆了很多人的生活。
《恋人：泰勒·斯威夫特巴黎演唱会》剧照。
作家劳拉·贝茨（Laura Bates，Men Who Hate Women）在书中透露，曾有男性给她发过相关图片或视频，影像中的她看上去好像在进行各种性行为。她说，人们很难理解这种做法的影响，即使人们知道这些都不是真的。“在别人极端厌女的幻想中看到自己超现实的形象，这让人很震惊。”贝茨曾形容说：“那真的很有辱人格，非常丢脸。它会一直留在你心里。”贝茨还补充说，那些内容可能会被数百万人看到。
“这是控制女性的新方式。”贝茨认为，这一行为的目的是让女性闭嘴。虽然男性也不能幸免于其他形式的人工智能生成图像的侵害，但深度伪造色情作品绝大多数针对的仍然是女性。一项研究表明，与处于相同情况的女性受害者相比，男性受害者对所发生的事情感到的羞耻感更少，自责感也更少。且男性受害者在报案时表示，警方积极回应的比例高于女性。当女性举报相关行为时得到的回应也更负面，目前通行的社会观念仍然认为女性应该做更多事情来避免虐待，也就是所谓的“受害者指责”。尤其是当泰勒·斯威夫特也遭到深度伪造攻击时，这似乎在向所有女性释放一个信息：不管你是谁，不管你有多强大，有多成功，当下所处的这个世界都仍然会找到一种方式来羞辱你。
过去六年间，深度伪造与人工智能专家亨利·阿杰德（Henry Ajder）曾深入观察过这项技术使用者的特点，以及他们彼此互动的方式。“可以肯定的是，绝大多数人都是男性。我认为很多针对名人的人都是为了性满足。他们经常会使用非常厌恶女性的语言——这可能是为了性满足，但同时也伴随着一些对女性非常可怕的看法。”阿杰德称，这些图像和视频制作主要是作为“报复性色情”手段。“它也被用来针对女性政客，试图让她们保持沉默、恐吓她们。它确实体现了女性已经面临的许多挑战，但提供了一种全新的、非常有力的武器，使女性失去‘人性’并被物化。”
图片：ic photo.
随着人工智能技术的不断发展，问题正在变得更加严重。美国有线电视新闻网刊发专题评论指出，这种攻击并不仅指向公众人物。试想这样一个情境，一个被暗恋对象拒绝的男性可能会邀请其他人一起观看暗恋女孩的深度伪造视频。这一假设在近日曝出的多起韩国深度伪造性犯罪案件中被反复印证，大多案件涉及熟人作案，“一些受害者甚至就是加害者的母亲、姐妹、表亲或熟人”。另有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有大约22万名成员，其传播范围之广被认为是第二次“N号房事件”。
乔治华盛顿大学教授玛丽·安妮·弗兰克斯博士专门研究民权、科技和言论自由。她在该文章中提醒读者：这类应用程序和人工智能工具可能会导致新一代年轻人产生“我的愿望就是人工智能的命令”的心态。在这些网络空间中，男性对女性身体的特权感往往完全不受约束。用户们互相依赖，营造出一种错觉——即他们是宇宙之王，他们无需听命于任何人。他们甚至认为制作和传播被算法武器化的报复性色情内容只是一种个人爱好。“如果我们不小心，我们不仅会创造新一代的受害者，还会创造新一代的施虐者。”
网络性犯罪的升级：
当仇恨与欲望并存
早在韩国曝出相关案件前，韩国女性的安全感就长期处于低位。有记者整理韩国检察厅公布的统计数据，指出2018年韩国性犯罪发生数1370件，但从2022年已突破1万件；在总体性犯罪型态的排名与比例中，网络性犯罪也从2018年排行第5位、仅占4.5%，上升到2022年的第2位，占27.2%，仅次于性骚扰。越来越多女性拒绝进入传统的父权制式家庭，响应欧美流行的#boysober（编者注：直译为“男孩清醒”，指女性给自己设定期限，不跟男性约会，不跟男性发生性行为，让自己处于脱离男性性缘关系的环境）热潮。韩国互联网上保守化潮流日益明显，不少男性为“非自愿独身者”（Incel，Involuntary celibate），他们在日常生活中大多与女性没有太多接触，但会在虚拟世界匿名发表带有侮辱性的言论。
深度伪造性犯罪的激增被认为与近些年持续流行的这波“非自愿独身”文化密切相关。该词的流行还要追溯到2014年，美国一名自称“非自愿独身者”的22岁青年，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六人死亡，十四人受伤。他在随后留下的一封长达137页的宣言中表达了自己从未发生过性行为的愤怒与怨恨。这股情绪成为如今网络厌女的源头，部分言论将女性视为应该服从男性的性对象，认为女性低于男性，并隐含对性和女性身体的“惊人权力感”。
尽管近些年引发关注的这些性别案件大都以互联网为媒介，但总体上并未脱离由来已久的厌女逻辑，甚至在人工智能等技术的加持下，日益显现出对源头的复兴。爱尔兰作家杰克·霍兰（Jack Holland，《厌女简史》）梳理历史时发现，这一偏见延续千年难解，主要与女性和男性之间关系的复杂性有关。男性蔑视女性的内核在于男性对女性的恐惧，这种恐惧来源于他们认识到两性间的差异，且认为这种差异存在潜在威胁。“对男性而言，女性是原初的‘他者’——‘非我’。人们常有一种倾向，将任何被归类为他者的人变成替罪羊……但与此同时，女性还牵涉一个更复杂的问题——她是一种永不能被排除在外的‘他者’。”
这种相辅相成的二元观念早在古希腊、罗马时期就形塑了当时社会对男女关系的焦虑。柏拉图和亚里士多德先后让性别偏见得到哲学和科学上的认可。以柏拉图为例，他本人的性别观念逻辑复杂且自相矛盾。柏拉图一生未婚，他崇尚男人对男人的“纯”爱，认为这要高于男人对女人的爱，后者更接近于兽欲。这为基督教的人类堕落神话提供了直接的哲学基础，在这套推演下，正是因为作为女性的夏娃的干预，才破坏了男性与上帝之间的和谐关系。其中真正的恐惧在于，他们不得不意识到“人根本不是自主自治的，而是有所依附的”。
当仇恨与欲望以这样一种形式并存时，它扭曲了后来很多男性对女性的看法。在维多利亚时代，这一偏见曾以一种相当险恶的方式外化。当时流行的观念将女性奉为“无性”的天使，同时贬黜女性的天性。不少维多利亚时代的男性对幼女十分狂热，在杰克·霍兰看来，这其实代表着男人无法与成年女性建立正常的两性关系，于是这种深刻的性欲分离不可抑制地导向了另一个出口。此后大众熟知的几位性别偏见的坚实拥趸，如希特勒、叔本华、尼采等人，几乎都是与社会疏离且在性关系方面没有安全感的男性，他们从未与女性建立成熟且稳固的亲密关系，也从未拥有过安稳的家庭生活。
然而，这种根源于古希腊、罗马的性别偏见近些年却开始在网络空间复兴。在美国第五大网站Reddit上，最有影响力的男性论坛“红药丸”（The Red Pill）吸引了数十万名男性成员入驻。这些男性将“发现世界对男性事实上何其不公的思想转变过程”，描述为“吞下《黑客帝国》中通往真相的红药丸”。正如多娜·扎克伯格断言：“在21世纪，关于古代希腊罗马历史遗产最有争议而且最重要的讨论，不在文学、戏剧、学术这些传统领域中发生，而在互联网上。”这些躲在“男性空间”匿名牌之后的男性，正在以多种方式使用、甚至滥用古典世界的思想资源，从中寻找证据支撑他们的逻辑。
电影《黑客帝国》（1999）剧照。
“柏拉图是一个时代之子，这一时代依旧与我们同在。”英国哲学家卡尔·波普尔曾如此预言。当年，在饥荒、镇压、审查和公民流血事件的社会背景下，柏拉图曾意欲在感官世界之外寻找一个更“高”的世界。千年之后，那些无法在真实世界与异性建立健康关系的男性，沿着相似的逻辑做出了极端的“选择”。美国专注流行文化与政治的新闻网站《每日野兽》（The Daily Beast）发布评论称，在人工智能生成工具流行之前，非自愿独身文化就已经存在，现在它们正在成为主流。“与其说是人们相信这些图片是真实的，不如说就是纯粹的怨恨。”
对此，在网上长大的年轻一代男性或许感触更深。美国一份由加州大学欧文分校学生创办的独立刊物《蚁读者》（The AntReader）发文认为，这波回潮的真正问题在于，年轻男性并没有采取措施建立公平的社会——他们陷入了一种带有偏见的思维方式，这种思维方式会给他们带来一种社区感。这反过来又为女性创造了一种充满敌意的网络环境，最终可能导致（真实的）暴力犯罪。
尾声：
技术是工具，却不是答案
导向真实犯罪的可能性是深度伪造性犯罪引发如此大范围恐慌的原因。维也纳大学哲学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）详细分析了这类内容如何让人们产生心理联想。“当学生对同学进行深度伪造时，这可能会改变他们对对象的看法，并在现实生活中造成进一步的不尊重、骚扰甚至虐待。当这些对特定女性产生的心理联想，导致对所有女性的联想时，偏见就会进一步强化。”
女性遭受相关“报复性色情”的后续遭遇也值得关注。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性讲述了她们成为色情报复受害者的故事——一人被剥夺了家庭关系，因此无法完成学业；另一人则失去了工作。在印度，一名记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情诽谤。这些报道散见于多个国家。此外，还有不少女性受访者称，在成为这些网络性暴力目标后，她们很难维持或找到工作。
图片：ic photo.
目前的困境在于，技术发展的速度已经远远超过立法的速度。以韩国为例，现有法律对出于传播目的制作深度伪造内容的人、以及试图通过传播这些内容来获取经济利益的人都有一定的惩治条例，但目前并没有相关法律禁止购买、存储或观看深度伪造的内容。调查人员需要获得法院批准才能用秘密身份进入深度伪造聊天室，而且，他们只是在收到未成年人遭到性虐待的举报后才能进行这类调查。这个过程也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它已经消失了，”韩国国家警察局网络犯罪高级调查员咸永玉在接受《纽约时报》采访时表示。
杜伦大学法学教授、图像滥用专家克莱尔·麦克格林（Clare McGlynn）这些年也在与同行持续呼吁修改图像犯罪相关法律，“但我们基本上是在向虚空呐喊”。麦克格林解释说，这些年，政府方面一直认为虚假图片和影像资料的危害不大，没有真正与受害者交谈。立法的逻辑更关注性行为是否真实发生，而不太在意受害者的感受。“这些网络性犯罪行为没有被认真对待，人们还是没有意识到这种伤害可能是深远且毁灭性的——它不会突然发生，你也许可以试着克服它，继续生活，但它总有可能重新出现在网上。”
麦克格林还指出，现有法案的设定大都忽略了平台的责任。尽管平台方表示对相关深度伪造内容采取“零容忍”，但在一份深度伪造图像或视频被删除前，已经有数千万次浏览量时，这样的立场就显得有些“空洞”。
回到今年初泰勒·斯威夫特的遭遇。当时平台方以“优先考虑安全”为名，短暂屏蔽了全平台关于“Taylor Swift”的搜索结果，暂时让她“隐形”。这一举动被认为传递了一个危险的信号：“如果当今世上最有影响力的女性之一都必须要在网上消失，才能保证安全，那这对其他人而言意味着什么？”
当互联网技术迭代不断将人类整体带向一个更加互联互通的未来时，从“红药丸”的出现到深度伪造性犯罪的激增，这似乎在凸显另一种相悖的趋势。正如“脸书”创办人马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能逐渐加深对女性边界的侵犯。两性平等如何终结这一世界上最古老的偏见？显然技术本身不会自然而然提供答案。