上个世纪末的作品《攻壳机动队》中，完全机器人化的素子怀疑自己是否还存在。身体、记忆、其他人的关系，当这些东西可以被复制的时候，它们已经不能成为肉体生命的论据了。
当AI歌手爆红时，孙燕姿也在回应中说过类似的话：你并不特别，你已是可以预见的，不幸的是，你也是可定制的。
我们可以补充一点，任何人都可以被人工智能描述和生成，即使你从来没有做过某事。
鲁迅确实说过，看到短袖，立刻想到的是白胳膊。人类的想象力是普遍的，所以每当科技有了新的发展，某个垂直轨道就会发展得越来越成熟，这也就不足为奇了：色情。
曾经以“N号房”震惊世界的韩国，如今上演的是2.0版本。
普通人对普通人的暴力
在此前发生的N号房事件中，犯罪分子在加密即时通讯软件Telegram上设立多个聊天室，发布性剥削内容。此次事件也主要发生在N号房。
两者最主要的区别在于犯罪手段：一个是偷拍，一个是Deepfake。
我们已经熟悉了 Deepfake，它使用人工智能生成看似真实的视频、音频或图像来模拟实际上并未发生的事情。
Deepfake 在娱乐圈和政客中被广泛使用，但它也被普通人所控制，并被用来伤害其他普通人。
N号房2.0的实施者将魔爪伸向了家人、同事、同学。很多Telegram聊天室是按照学校或地区划分的，因此群内成员都有共同的熟人，话题也比较相似。
大学聊天室
除了身边的女性，他们还会瞄准女明星，有些聊天室甚至按职业划分，包括教师、护士、军人等。
据《韩国日报》报道，一个拥有 22.7 万名参与者的 Telegram 聊天室仅需女性照片即可在 5 到 7 秒内生成 Deepfake 内容。
22万意味着什么？2023年，韩国新生儿数量仅有23万，总人口也只有5000多万。
这个聊天室内置了一个能将女性照片合成裸照并能调整乳房的机器人，当用户进入聊天室时，聊天窗口就会立刻弹出一条信息：“现在就发给你喜欢的女性照片吧。”
聊天室截图展示了 Deepfake 的使用方式
参与人数之多可能与“进入门槛”较低有关：在X（原Twitter）上搜索特定关键词即可找到链接。
这个聊天室还建立了盈利模式，前两张照片免费，之后每张照片收费1颗钻石（0.49美元，约合3.47元人民币），支付只能用虚拟货币，以保证匿名性，如果邀请好友，还可以获得一些免费名额。
但有些聊天室需要“投降信”——如果你想加入该群，你必须先提交10张你认识的人的照片，并通过面试。
聊天软件KakaoTalk的头像、Instagram的照片都可以作为“原材料”。
更可怕的是，受害者和施暴者中很大一部分都是青少年。
志愿者们创建了一张实时更新的地图，显示了犯罪发生在哪些学校。即使是女校也可能有受害者，因为肇事者不一定是同学。
目前尚不清楚到底有多少所学校受到影响，但一位博主表示，超过 70％ 的学校受到影响。
韩国《中央日报》8月26日指出，全国至少有300所学校受到影响，其中包括小学。8月28日，《华尔街日报》的报道将影响学校数量扩大至约500所。
有网友在评论区感叹：“这基本上就是整个韩国了……”
虽然目前这起事件还没有明确的调查结果，但过去的数据也能说明事态的严重性。
据韩国女性人权研究院统计，今年1月至8月，共有781名Deepfake受害者寻求帮助，其中未成年人288人，占比36.9%。真实数字可能远高于此。
另外，韩国警察厅称，自2023年初以来，被指控制作和传播假裸照的约300人中，约70%是青少年。
不少韩国女性在微博上求助，她们不会中文，只能通过机器翻译，表达自己的无助和恐惧。“N号房2.0”一度成为微博热词。
有网友疑惑，韩国女性为何要到中文网上求助。其实，韩国女性不仅用中文发声，还用其他语言发声。除了韩国，新加坡、土耳其等国媒体也报道了此事。
他们认为，如果受到外国人的关注和批评，媒体会更积极报道，相关部门也会更认真调查，而不是置若罔闻、保持沉默。
一些犯罪证据甚至始作俑者身份，都是韩国女性自己调查的，类似N号房。好在韩国总统和在野党领袖都表态了，韩国总统尹锡烈提议：
Deepfakes 是一种明显的数字性犯罪，我们将彻底消灭它们。
Deepfakes 可能被视为恶作剧，但它们显然是在匿名掩护下利用技术进行的犯罪活动，任何人都可能成为受害者。
Telegram服务器位于海外，且CEO被拘留在巴黎，调查难度加大。韩国通信标准委员会表示，已致函法国政府，要求其配合调查Telegram。
引起公众关注后，相关行为有所遏制，但韩国日报跟进发现，一些心怀恶意的用户会通过更为严格的“身份验证”，继续在更私密的聊天室中进行 Deepfake。
虚假内容，真正危害
深度伪造并不是什么新鲜事，但其危害却很少受到重视。
一些韩国女性试图通过将自己的社交媒体账户设置为私人账户或删除网上发布的照片来弥补。
他们心里很痛苦，也很疑惑，一方面不知道自己的照片被分享到哪里，传播到了什么程度；另一方面，他们不明白为什么政府要求受害者上传照片时要小心，而不是去教育肇事者。
当女学生在 Instagram 上呼吁大家“删除你们在故事中上传的所有照片”时，同一所学校的男生说出了“你太丑了，不适合做那些事”等可笑的话。
肇事者称女性地位太高
网上也有很多这样的声音：“不知道这种犯罪行为为什么会造成这么大的危害”，“如果是几个人自己做的，危害应该不大”。
但受害者经历的不仅仅是看到自己的脸被 Deepfake，施暴者还会侮辱他们，传播他们的住址、电话号码、学生证等个人信息，散布关于他们私生活的谣言，并接近和骚扰他们。
更可怕的是遭遇“色情报复”——犯罪者威胁传播Deepfake素材，以勒索、伤害女性，造成更严重的二次伤害。
一名韩国 YouTuber 表示，女性会大惊小怪，但他知道戴口罩保护自己
据《韩国先驱报》报道，17岁的京畿道高中生宋某经常在网上分享一些跳舞的照片和短视频。有一天，她在Instagram上收到一条匿名信息，附有三张露骨的照片：“你的朋友和父母知道你生活的这一面吗？”
这些照片都是 deepfakes，但与真实图像几乎难以区分。噩梦还没有结束，她回复的信息只会让对方更加兴奋，提出更多的要求。
没有人能分担这种痛苦。一名受害者甚至说：“我所熟悉的世界已经崩塌。”
这与肇事者付出的代价是不相称的。
聊天室截图，一些粗俗的言论，比如“你可以摆出你想要的姿势拍照，超酷”
这起事件目前还未尘埃落定，但韩国此前针对Deepfake曾有过判决，其中一起案件于8月28日进行了一审。
2020年7月至今年4月，朴某盗用大学校友等女性受害者面部照片，制作419部Deepfake色情视频，并传播1735部，被判处有期徒刑5年。
受害者于2021年7月开始抗议，最终成功将肇事者绳之以法，朴某于今年5月被起诉。
因为此次大规模Deepfake事件，韩国相关部门正在考虑将此类犯罪的最高刑期从5年提高至7年。
韩国女性公开反对性犯罪
考虑到Deepfake未成年人犯罪现象普遍但法律存在漏洞，韩国正在考虑在义务教育期间对犯罪者施以最高惩罚。
时至今日，Deepfake在很多地方依然属于灰色地带，防护力度还跟不上威胁的速度。
例如在美国，如果受害者是成年人，各个州都有不同的法律，要么将其定义为刑事犯罪，要么提起民事诉讼，但目前还没有联邦法律禁止制作Deepfake色情内容。
立法困难的原因之一是，有些人认为，即使Deepfake图像中的主体看起来像你，但实际上并不是你，因此你的隐私实际上并没有受到侵犯。
然而大家都知道，照片虽然是假的，但危害却是真的。
法律在缓慢推进，与此同时，那些一直没有露面的施暴者也暂时“放下旗帜”，等待“卷土重来”。
作恶如此容易，Deepfake 与每个人都息息相关
韩国并不是个例，Deepfakes的出现不分国界。
2023年9月，西班牙小镇阿尔门德拉莱霍，一群男生将自己在社交媒体上发布的女同学照片上传到一款可以一键脱衣的AI工具上。该镇共有5所中学，这些女同学的“裸照”至少在其中4所中学流传。
该工具可通过移动应用程序或 Telegram 使用，目前已有至少 30 名受害者，主要为 12 至 14 岁的女学生。
大部分行凶者都是熟人，且都是未成年人，其中至少有10人，有的甚至未满14岁，不会面临刑事指控。
