访谈、文｜邓咏仪 周鑫雨 邱晓芬gpt 文爱

剪辑｜杨轩

那张相片，会随着我一辈子吗？"

一年多前，伍华在韩国旅游，途中在外交媒体上发布了一张带有韩国定位的相片。归国不到三天，一又友发给她一张截图，是一个和她的头像、网名险些同样的账号。不同的方位是，账号里的笔墨被替换成韩语，个东说念主简介里，还出现了一个目生网址。

令伍华畏缩的是，点开高仿账户里的网址，会导向一个色情频说念，龌龊不胜的付费视频陈设其中——主角，皆备被 AI 换成了她的脸。

直到本年 8 月末，热心到韩国 Deepfake 事件时，"我被一阵广宽的后怕席卷。"伍华告诉《智能涌现》，"太恶心、太难熬了。"

回思着手开这些 AI 视频的的第一感受，伍华依旧语带流泪。尽管高仿账号依然被她举报删除，但她不笃定我方的脸，还有莫得被用在其他方位。

Deepfake（特指基于 AI 的东说念主体图像合成工夫）工夫催生出的" N 号房 2.0 事件"，正在让隔海相邻的韩国堕入广宽旋涡。不计其数的女性，成为了男性用 AI 拿获的"猎物"。

仁荷大学的一位男学生，组建起了一个逾越 1200 成员的聊天室。他们应用 Deepfake 工夫，将学校中的女生的脸庞，安放到到各样黄色影像上，群聊中还公开共享她们的连接方式。

从仁荷大学运行，一场广宽的同谋被迅速揭开，Deepfake 也因此被称为" N 号房 2.0 事件"。从 8 月 20 日运行，韩国媒体、警方陆续揪出了多数与学校、病院、部队体系中的雷同聊天室。

22 万，这是韩国泄漏的东说念主数最多的 Deepfake 聊天室成员东说念主数。而韩国范围内，险些每一个中学、大学都有这样的"凌辱房"。

在群聊中，男性以我方生存中熟谙的女性为玷污对象，用各样 Deepfake 器具，将女性的脸换到各样淫秽不胜的图像、视频中。此后，群内的男性会运行共同进行话语玷污，以致发展到线下威逼、骚动。

领域较大的玷污房，以致还会细分红不同的斗室间，比如家属玷污房。男性以致偷拍我方的姆妈、姐姐、妹妹的相片传到群聊中。

△聊天室中，有男性将亲妹妹的相片上传其中（相片已被红色马赛克庇荫），配文为翻译成华文的聊天记载。 

2019 年，畏缩全球的 N 号房事件发生时，就有网友语带讥嘲："全韩国的出租车总和只须 26 万台，这意味着，你在街上遇见 N 号房会员的概率，和遇见出租车同样。"

这句话，不仅能用在本日的 Deepfake 聊天室上，简直的情况愈加惊魂动魄。

N 号房 1.0 基本以简直的盗摄内容为主，这意味着作恶者还需要自行拍摄，获取素材。但 Deepfake 工夫越来越庄重后，Deepfake 房的作恶资本降超过低—— AI 生成的图像、视频，内容传神到让东说念主蒙胧。

本年 5 月，一位 40 岁的首尔大学毕业生朴某被逮捕，他用 48 名女性受害者的相片，制作了 1852 份性克扣内容，受害者都是他在生存中判辨的女性。

一位在首尔的敦厚，发现我方也成为了"熟东说念主凌辱房"的主角，始作俑者是她执教班级的学生，但她无法得知是哪一位。

"那张相片会随着我一辈子吗？"她崩溃地向媒体诉说。

Deepfake 事件爆出后，志愿者根据媒体报说念、匿名投稿核实，制作了一张触及 Deepfake 加害者舆图。红色象征密密匝匝，险些要将韩国中心肠带并吞。

△志愿者整理的"加害者学校舆图"，红点险些要将韩国中心肠带的舆图并吞 来源：https://deepfakemap.kr

根据会聚安全监测机构 SecurityHero 的统计，2023 年韩国的 Deepfake 色性产业，就占到了全球的 53% ——与之相对的，韩国 2023 年的 GDP，还不到全球的 2%。

△ 2023 年全球 Deepfake 色情产业散播 制图：智能涌现

被衰颓和盛怒冲击的韩国女性，不得不在压抑的公论中四处驱驰。

"我的生存不是你的色情片！""女性莫得国度！"她们盛怒地在外交媒体高呼。 

千里默中的会剿战

没东说念主知说念简直的女性受害者数字是若干。大学生智英逐日灌下大杯大杯的咖啡，只为了保持通晓景况。"我发怵错过受害者的任何一条投稿。"

智英不敢停驻。自 8 月下旬运行，她险些失去了就寝。

一场会剿战正在进行中。

在推特上，智英与韩国男性约束周旋。她的推特账号早已及时被男性们监控，刚上传的、敕令各人举报的厌女内容网址，下一分钟网址就被修改了。这意味着，厌女者们一直在盯着智英的推文。

在和咱们的沟通中，她还尝试使用变声器——整个在推特上为此次事件活跃的女性博主，都是韩男"开盒"（东说念主肉搜索）的头号打算，她无法显现我方的任何信息。

在女性地位低下的韩国社会，女权主义者早已是个危急的标签。韩国最大的女权主义推特 Queens Archive 就因为起先泄漏 Deepfake 聊天室事件，被韩国男性举报至炸号。

"随机候咱们根底不沉迷、不睡觉，一直熬到凌晨三四点。"智英对《智能涌现》暗意。她和推特上的"战友"，孔殷地将整个 Deepfake 关系信息、受害者保护指南、女性主义科普翻译成英语，在推特上接续交传播。

Deepfake 事件触及的加害者、受害者两边，其年齿范围比起 N 号房 1.0 都要更小。2024 年 1 月至 7 月，韩国立案侦查了 297 起深度伪造性克扣作恶，揣测握获 178 名嫌疑东说念主，其中 131 东说念主是十几岁的青少年，占比 73.6%。

不少东说念主将其比作" N 号房 2.0 事件"，但与之比较，当今的公论热度，根底不行等量皆不雅。在不青娥性眼中，韩国政府和警方的气派，不错用"灰心"来态状。

用 AI 制作的性玷污内容，由于"并不是简直的"，一运行以致莫得投入到警方、政府的视野。

"当年的 N 号房事件，政府就莫得进行耿介的处理。是以，当今 Deepfake 事件中的男性，许多都是未成年，受害者中也有许多是未成年东说念主，加害者更不会以为有什么后果，也不会下狱。"智英对《智能涌现》说。

在本次 Deepfake 事件中，咫尺韩国警方只逮捕了 15 个东说念主傍边，有的加害者径直跑到国际，以侨民的方式走避刑罚。

" Deepfake 事件，加上此前的 N 号房、Soranet 等数字性作恶案例，受害者预测有逾越 100 万东说念主之多，莫得东说念主知说念简直的数字。"智英感到缺憾，"是以要是咱们不尽快向政府施压，政府就不会作念任何事情。"

韩国女性运行向外求救，致力将 Deepfake 事件的内容传播到中国、日本的外交媒体上。

△来源：微博

韩国大学生恩静就跑到小红书上，用机翻的萧疏口气央求热心、扩散，连接被封号、删帖也不曾根除。而在微博上的韩女呼救微博，在短短两天内就被转近 15 万次。

△来源：小红书

无东说念主知说念这些接力最终大约导向何方。恩静告诉《智能涌现》，她的亲妹妹当今亦然一位中学生，学校除了精真金不怕火叮属女生保护我方，再无其他步履——她和妹妹只可将外交平台上整个带脸的相片删除，逐日穿长裤外出。

而国际公论爆发后，韩国政府才终于负责跟进这一事件。近期韩国不同政党最近的公征战言，都离不开 Deepfake 事件。"事件必须短期内措置。"他们暗意。 

" Deepfake 玷污房"，无处不在

当别称毫无 AI 工夫基础、留在"墙内"的中国男性，成为 Deepfake 加害者，前期需要付出若何的作案资本？

在 SecurityHero 的论述中，中国的 Deepfake 色情视频数目，占全球的 3%。与韩国（53%）和好意思国（20%）比较，这是一个并不高的数字。但是，由于论述统计的数据大多来源于国际网站，中国 Deepfake 色情产业的施行领域，远不啻这些。

在国际外交平台 X（原为 Twitter）上检索" Deepfake "，很快出现别称中国 Deepfake 器具卖家。他的帖文露骨地写着" AI 脱衣""系缚""比基尼"等字眼，但主页却声明："仅提供 AI 器具，对用途概不负责。"

X、Instagram、Facebook 等国际外交平台，只是是开放潘多拉魔盒的一把钥匙。不少中国从业者，用" vx ""扣"" zfb "等字眼，朦拢地指代往复的最终面孔：微信、QQ、闲鱼，以致还有支付宝的往复界面。

通过留在 X 上的 QQ 号，咱们连接上了别称卖家。为了走避平台的监管，他的个性签名是"严禁犯禁词，仅供文娱使用，传播后果自夸"。彻首彻尾，他阐发得和一般软件销售无异，整段对话莫得说起任何"性"关系的词汇。

但"性"，又成了这场往复心照不宣的方针。很快，对方用 QQ "闪照（点开 3 秒后相片就会销毁）"功能，发来两张打满马赛克的 Deepdake 效果图。

△作家与 Deepfake 器具卖家的 QQ 聊天记载，已举报给腾讯官方平台  

点开大图，马赛克就地销毁——一张凹着不天然 Deepfake 照，出当今了屏幕上。

3 秒后，女性的相片，连同用以维权举证的把柄，一同销毁在了聊天记载中。

即便在国内，让女性资历一场赛博玷污，并从法律制裁中潜逃，也如斯精真金不怕火。

当作脱去女性外套的新式凶器，AI 的出现，让会聚性侵害的资本更低、速率却更快。在从业者发来的居品目次中，一段用 AI 生成的 10 秒内换脸视频 30 元，一张 AI 裸照只须 10 元，价目表上还特殊注明：买 5 送 1。

但一运行，Deepfake 的背后、一项名为"生成对抗会聚（GAN）"的工夫，还几近东说念主畜无害。

2014 年出身在谷歌大脑实验室的 GAN，有着难以普及的一躬行分：软件安设难度大、操作的工夫门槛高，同期还需要奋斗的老到数据集和算力资源。这让 Deepfake 一度待在实验室里，莫得被内行平方使用。

事情走向失控，简短在 2019 年。

2019 年，一款堪称" 30 秒就能一键脱衣"的应用 DeepNude 出身了——讥嘲的是，这款软件用了一万张女性赤身相片老到而成，当用户输入一张男性相片，他无法脱下男性的衣物，只会为其添加一个女性的阴部。

DeepNude 的背后，是几年间性能飞快晋升的 GAN 工夫，以及让使用难度大幅下跌的开源生态。这让别称匿名的男性设施员 Alberto（假名），基于加州大学伯克利分校的开源 GAN 架构，快速征战出了 DeepNude。

一边，是迅猛发展的 AI 工夫，和平定慷慨的开源生态；另一边，又是霸说念助长的 Deepfake，和莫得作念好准备的社会坚强和监管体系。

DeepNude 让非自愿裸照的制作，变得像点击按钮同样精真金不怕火。迫于公论压力，DeepNude 发布两周后，就采选了自主下架。Alberto（假名）在采访中讲授，这款软件的征战完全出于"有益义"和"意思意思心"："我不是偷窥狂。我是工夫的宠爱者。"

DeepNude 下架了，但千万个" DeepNude "，以更避讳的姿态、更低的操作门槛、更传神的生成质料，运行在互联网泛滥。

Deepfake 与色情产业的关整个据 制图：智能涌现

在论坛 Discord 上，DeepNude 的安设包以 20 好意思元的价钱出售。匿名卖家在主页中暗意，他们晋升了 DeepNude 的强健性，与此同期，还删除了正版 DeepNude 给生成图片添加的水印——这一切，都让 Deepfake 裸照，看上去愈加传神。

下架不到三周，DeepNude 又被征战出了更易上手的模式，成了嵌了 Telegram 上的一键脱衣 Bot。

此后，事件的走向，和如今的韩国" N 号房 2.0 "十分雷同。Bot 的使用者，自觉在 Telegram 上建设了社群，逾越 10 万名成员，成了" N 号房"的初代住户。

最早监测到这款 Bot 的会聚安全公司 Sensity 发现，上线不到一年，这款 Bot 依然产生了 68 万多名女性的荒唐裸照，约 104852 张女性相片被公征战布在这款应用上。 

向下的维权螺旋

从 2019 年于今，会剿 DeepNude 的行动一直在进行。

2019 年 7 月，好意思国弗吉尼亚州通过了一条连接色情禁令的法律修正案，阻挡出售或传播斟酌机生成的色情内容。同庚年末，推特、谷歌、Facebook 等平台入部下手整治 Deepfake 视频，步履包括给 Deepfake 视频吊水印、赞成检测 Deepfake 的关系研究名目。

但是，不论是韩国" N 号房 2.0 "，照旧退藏在 QQ、支付宝、闲鱼中的地下灰产，都印证了一个令东说念主黯然的现实：Deepfake 从未信得过销毁。

2019 年，多伦多大学公民实验室曾发表了一项研究，试图探索微信如何自动审查巨量聊天中的图片。罢休骄慢，微信对一又友圈和群聊的审查力度，大于一双一的精巧聊天，同期，政事和社会新闻，是微信图片审查的中枢主题。

这意味着，平台对色情内容的监管，依然存在裂缝。精巧聊天中进行的 Deepfake 色情往复，很难通过平台进行泄漏，除非由东说念主主动检举。

但东说念主一定能主动站出来吗？

北京市两高讼师事务所副主任张荆，20 年来经手了不少侵害女性权力的案件。多年来，她匡助女性和具体到个东说念主的加害者、不自制的结构，以致法律系统的裂缝抵御。但 Deepfake 性侵害的发生，让她以为女性的斗争，又走到了一个更为复杂的关卡。

"在工夫不那么发达的往日，女性碰到性作恶，起码能知说念具体的受害者是谁，女性受到的伤害不错通过法令轻狂被量化。"张荆告诉《智能涌现》。但如今，不论是 Deepfake 内容的制作家，照旧传播者，都面庞费解、数目难以笃定，这对取证和量刑，都形成了极大的艰难。

"报警不就好了？"在会聚上，不少旁不雅者都提议了疑问，以致有不少受害女性曾经认为，报警就好了。

但在报警之前，女性还要走过漫长的取证之路。张荆告诉《智能涌现》，"思要立案为刑事案件，去法令机关报案的前提是有基本的把柄。"

而这些基本把柄又包括：Deepfake 传播的具体网站、侵权图片的数目（数目过少不及以被立案）、传播范围（传播范围过小不及以被立案）。

"说真话，关于不常常上网的东说念主来说，完成这一步并阻挡易，她们可能以致连网站该若何投入都不知说念。"张荆回首。

即便女性告成走到了报警、立案的一步，加害者的处置罢休常常不尽如东说念主意。

在中国裁判书记网中输入" AI 换脸"，一共只须 16 篇书记，最早的沿路案件发生在 2022 年。两年来，大约诉诸刑事案件的 Deepfake 侵害事件，数目为 0。

在层层龙套下，女性针对 Deepfake 的维权，成了一条连接向下的螺旋：社会的压力，和严苛的立案经过，导致鲜少有原意站出来的女性受害者；女性声量的不及，以及立案数目的保重，又让立法的推动变得愈发吃力。

2023 年 12 月，在中国台湾省，曾有沿路判例，给了 Deepfake 受害女性些许但愿。网名为"小玉"的男网红朱玉宸，使用 Deepfake 工夫，将 100 多位闻名女性合成 A 片，上网贩卖赚钱逾越 1300 万台币（约 288 万元）。最终，他以违背《个东说念主辛苦保护法》等罪名被告状，并被判处 5 年有期徒刑。

只是，五年就够了吗？

"往日的黄色摄像带、3D 影片，是一个具体的小众产业，传播很难对一个水灵的东说念主产生伤害。"张荆说，"但今天的 Deepfake，和往日色情产业的施行区分在于，它的传播，会对生存中具体的东说念主产生伤害。"

这意味着，"依照传播淫秽色情内容对 Deepfake 进行量刑，程度一定是会偏轻的。"她回首。

加害者眼前的，是看得到头的 5 年刑罚，但创伤可能会追随女性走过更为漫长的岁月。

15 岁那年，资历来其后桌男生的 Deepfake 骚动后，小鱼运行不但愿夏天到来。白色的短袖慑服一朝被汗水浸湿，就会透出女生的内衣和身体的弧线。接近 40 摄氏度的高温下，小鱼依然采选穿两件短袖，抵触男生的视野。

小鱼告诉《智能涌现》，她以为告诉敦厚和家长，都是无谓功。她铭记，班上有男生曾经开女生的黄色打趣，或是拽拉内衣的带子，但终末敦厚的回答是：都是小孩子之间的打趣。

如今，离被骚动依然往日了一年多的时候。升入高中后，小鱼和后桌男生失去了连接，生存又归于粗糙。只是，夏天穿两件短袖的风气，被小鱼保持到了当今。 

东说念主类，还莫得作念好应答 Deepfake 的准备

在很长一段时候内，现实可能依旧惨淡。

看到韩国 Deepfake 事件后，鹿影科技联创李倩盛怒绝对，当即拉着首创东说念主头脑风暴到半夜，口干舌燥之余，二东说念主都很黯然。"可能要带给你一个坏音信：莫得什么主见大约从工夫上，径直把 Deepfake 性暴力给杀掉。"李倩对《智能涌现》说。

天然无法径直断根，"以其东说念主之说念还其东说念主之身"，是一条惯例旅途。

瑞莱贤达连合首创东说念主萧子豪向《智能涌现》先容，公司里面会如期组织"红蓝对抗"，把工程师会分为"赤军""蓝军"两派，让"赤军"模拟简直的迤逦，而"蓝军"负责应答处置。"赤军"一片的工程师们，为明显解黑产技能，以致会隐没到黑产群体中寻找踪迹，持续窜改迤逦技能。

关于用 AI 对抗 Deepfake 的东说念主们来说，每天的使命，即是对抗各样出东说念主料思的新案例。2 周调优一个新版块、2 个月迭代一版大模子，险些是标配。

但这更多是在问题出现前后的预警教导。信得过的侵害发生后，要思保护女性，更多需要依靠法令编织的网。

2022 年 11 月，中国出台了第一条明确针对 Deepfake 提议的章程：《互联网信息劳动深度合成管制章程》。这一章程对 Deepfake 内容制作家、工夫劳动提供商，以及制作、传播发布行动，都作念出了规制。

但从规章的制定到信得过落实，还有一条漫长说念路。近 20 年来，张荆不雅察到，不论是办理刑事案件的讼师，照旧接到报案的窥察、最终负责审判的巡逻机关，大多都是男性。

"这是一个结构性的问题，以致立法机关，也基本上是男性。"张荆曾经参加过一个连接破除嫖宿幼女罪（比强奸罪量刑更轻）的研讨会。

在场的不少男性讼师，给出了不少复古保留嫖宿幼女罪的事理，其中一个是：要是改用强奸罪定罪，作恶行动东说念主可能会铤而走险，反而让女性受害东说念主堕入危急的境地。

现存的告捷让加害者被拘留、定罪的个例，大多是女性积极自救的罢休。

2023 年的苏州大学黄谣和 AI 换脸事件中，受害者就深远传播 AI 伪造图像的聊天房，进行取证，并应用排除法，将不同象征的相片在一又友圈均分组发布，进行逐一排除，最终将加害者握获。

要进一步推动 Deepfake 性侵害的立法，和社会坚强的前进，还需要一个信得过的判例。

"有了判例，这段女性被动害史才更有可能被写进义务教师的教科书，让性别教师前进一步。"别称在日本的女权步履者告诉《智能涌现》。

当下的 AI 行业，其实照旧一个超过由男性主导的领域。某种程度上，从研发到居品落地过程中，都极易让女性成为被 AI "压迫"的群体，成为产业中的一环。

李倩不雅察到的一个数据是，从互联网赢得的视频模子老到数据，40% 触及成东说念主内容，而其中的 8 成，内容都是女性身体。

"色情，是当下 AI C 端居品最告捷的交易模式。"别称投资东说念主对《智能涌现》如斯评价。最终，Deepfake 的泛滥被归结到了一个交易现实：用 AI 贩卖女性身体，会给利益者带来丰厚的交易求教。

对抗交易惯性，十分艰难。

在融资过程中，部分投资东说念主，不论男女都会告诉李倩，YoYo（鹿影科技的 AI 视频创作平台）要是对黄色擦边内容略略优容些，交易化会更告成。

从第一天起女性友好，对东说念主力、资金有限的 AI 初创公司而言，要不要走出这一步，是个尤为吃力的决定。李倩告诉"智能涌现"，从老到数据中剔除 40% 的黄色数据，意味着要花荒谬的资本补全；要是花东说念主力和时候给用户输入的教导词配置犯禁词，居品迭代的速率至少慢两个月。

"作念创业者，是不是就要无性别地，看待交易宇宙？"但资历 Deepfake 事件后，李倩依然不这样认为了，"一朝开闸，行业又多了一块结果良币的劣币。"

要是女性大约在行业中获取更多工夫主导权，改日会变得不同样。

2024 年 9 月 4 日，中科院的女工程师张欣怡，将我方团队研发的 Deepfake 对抗模子，向全球开源。一朝有东说念主需要匡助，就不错免费使用模子来检测 Deepfake 内容。

在我方的微博中，张欣怡写到："要是一个东说念主的火炬太小，咱们就把火炬传给宇宙的每一个东说念主。"

当新工夫席卷宇宙，法令、工夫都尚未完全跟上时，普通东说念主每一次的发声、行动，才是社会进度得以上前推动的原因。

韩国即是一个活生生的例子——在十分男性主义的国度，女性权力的每进一步，都由布满血和汗的斗争之路耕种。

自 2015 年之后，韩国女性在 #MeToo、摒除会聚性暴力、终止怀胎非刑罪化等议题上开展了一系列女性主义畅通，通过伸开议题辩论、鸠集游行等等样式，这些步履从社会坚强、立法轨制层面，都争取到了贵重的恶果。

曾经揭露 N 号房丑闻的两位女记者姜京允、朴孝实，摄取了旷日弥远的会聚悼念、侮辱和精神折磨，其中一位记者以致屡次流产。

但韩女从莫得停驻脚步。N 号房事件后，韩国就成立了专注于反对性克扣作恶的女性团体" RESET "，推动了包括会聚性作恶关系法规的制定过程。而本年 5 月，将 Deepfake 其中别称嫌疑东说念主送进监狱的，恰是此前曾揭露 N 号房的两位大学生记者之一。

不行罢手，不行根除，是咱们战争到的，驱驰在 Deepfake 事件一线的韩国女性思法。"这不是只是为了咱们这一代而奋斗，而是为了整个东说念主的运说念，"智英说，"我思要一个我的一又友、家东说念主和整个女性都感到安全的宇宙。"

不同东说念主种、国籍的女性，都运行了对韩国女性的声援。当地时候 9 月 3 日，一群居住在伦敦的中国女权主义者，从特拉法加广场走到韩国大使馆，大喊起韩国女权畅通的标志性歌曲《再次再见的宇宙》，声讨韩国偷拍、AI 伪造等等罪人行动。

红色的字，被印在各样各样的横幅口号上："我的生存，不是你的色情片。"

△当地时候 9 月 3 日，一群居住在伦敦的中国女性主义者进行了反偷拍、反 Deepfake 游行。图源：伦敦的中国女权主义者  

（为保护受访者gpt 文爱，智英、恩静、小鱼均为假名。感谢星星、xwf、十月、lakyo、阿鸡、伦敦姐妹在访谈中提供的协助。）