韩国 N 号房再现!很多女人被 AI 换脸在微博求助,触及 500 所校园,超越 22 万人参加
上世纪末的著作《攻壳机动队》中,全身义体化的素子,置疑自己是否依然存在。身体、回忆和其他人的联系,当这些事物都能够被仿制,也就无法成为肉身生命的论据。
AI 歌手爆火之时,孙燕姿也在回应里提出相似的观念,你并不特别,你现已是可猜测的,并且不幸你也是可定制的。
咱们能够加上一句,任何人都是能够被 AI 描绘和生成的,哪怕你从未做过某些工作。
鲁迅真的说过,一见短袖子,马上想到白臂膊。人类的想象力是共通的,毫不意外,每逢技能有新进展,某个笔直赛道会被开发得越发老练:搞黄色。
从前由于 N 号房震动国际的韩国,此时此刻正在演出 2.0 版别。
普通人对普通人的暴力
之前的 N 号房工作,作案人在加密即时通讯软件 Telegram 上树立多个谈天室,发布性克扣内容。这次的工作,也首要产生在 Telegram。
两者首要是违法手法的差异:一个是偷拍,一个是 Deepfake(深度假造)。
咱们早已对 Deepfake 不生疏,它运用 AI 生成看似实在的视频、音频或图画,模仿实践没有产生的工作。
Deepfake 常用在娱乐圈和政治人物,但它也正被普通人所掌控,拿来损伤其他普通人。
N 号房 2.0 的加害人们,将魔爪伸向了身边的家人、搭档和同学,许多 Telegram 谈天室依照校园或许区域安排,所以群友有一同的熟人、臭味相投的论题。
▲ 按高校区别的谈天室
除了身边女人,女明星也是他们围猎的目标。有些谈天室乃至细分到了工作类型,包含教师、护理、武士等。
《韩民族日报》报导,一个 22.7 万人参加的 Telegram 谈天室,只需求女人的相片,就能在 5 到 7 秒内生成 Deepfake 内容。
22 万什么概念?韩国 2023 年新生儿人数只要 23 万,总人口数只要 5000 多万。
这个谈天室内置一个将女人相片合成为裸照、并能调整胸部的机器人,用户进入谈天室后,谈天窗口会当即弹出音讯:「现在发送你喜爱的女人相片。」
▲ 谈天室截图,阐明 Deepfake 的运用方法
参加者数量多到令人发指,或许和「准入门槛」不高有关:在 X(原 Twitter)经过查找特定关键词就能够找到链接。
这个谈天室还树立了变现方法。前两张相片免费,之后收费,每张相片收费 1 钻石(0.49 美元,约 3.47 人民币)。支付只能用虚拟钱银,以便匿名。假如约请朋友,也能够拿到一些免费额度。
但也有些谈天室需求「投名状」——想进群,先提交 10 张知道的人的相片,并经过面试。
谈天软件 KakaoTalk 的头像、Instagram 的相片,都能够作为「原资料」。
更细思极恐的是,受害者和加害者里,青少年的份额都不小。
志愿者们做了实时更新的地图,显现违法产生在哪些校园。就算是女子校园也会有受害者,由于加害者纷歧定是同学。
到底有多少校园遭到影响,现在还没有结论。有博主称,这次触及了超越 70% 的校园。
8 月 26 日,《韩国中央日报》指出,至少包含全国约 300 所的校园,其间乃至还有小学。8 月 28 日,WSJ 的报导又将数字扩展到了约 500 所。
一位网友在谈论区感叹:「这基本上便是整个韩国了……」
尽管此次工作还没有清晰的查询结果,但曩昔的数据也能阐明状况的严峻性。
韩国妇女人权研究所计算,从本年 1 月到 8 月,共有 781 名 Deepfake 受害者寻求协助,其间有 288 名未成年人,占比 36.9%。实在数字或许远高于此。
别的,韩国国家警察厅称,自 2023 年头,约 300 名被指控制作和分发虚伪裸照的人中,约 70% 是青少年。
不少韩国女人到微博宣布求助,她们不会中文,只能机翻内容,传递无助和惊骇,「N 号房 2.0」一度冲上微博热搜。
有些网友古怪为什么韩国女人跑到中文互联网求助,其实不只是中文,韩国女人也有用其他言语发声,除了韩国内部,新加坡、土耳其等国的媒体也报导了这起工作。
她们以为,被外国人重视和批判的话,媒领会更积极地报导,相关部分会更认真地查询,而不是装疯卖傻和排难解纷。
一些违法依据乃至始作俑者的身份,是韩国女人自己查询的,相似当年的 N 号房。好在,韩国总统和在野党首领现已表态了,韩国总统尹锡悦提出:
Deepfake 是一种清晰的数字性违法,咱们将彻底铲除它们。 Deepfake 或许被看作是恶作剧,但它显然是在匿名维护下运用技能的违法行为,任何人都或许成为受害者。
Telegram 的服务器在海外,其首席执行官又被拘留在巴黎,所以查询起来有困难。韩国通讯规范委员会表明现已致函,要求法国政府合作查询 Telegram。
被言辞重视之后,相关行为有所收敛,但《韩民族日报》又跟踪报导发现,有些贼心不死的用户,会经过更严厉的「身份验证」,在更私密的谈天室持续 Deepfake。
▲谈天室截图,用户评论参加更私密的谈天室
虚伪的内容,实在的损伤
Deepfake 不是新鲜事,但它的损伤其实很少被正视。
韩国一些女人将自己的交际账号设为私密,或许删去发布在网上的相片,测验做些弥补。
她们既苦楚,又置疑。一方面,她们不知道,自己的相片被共享到了哪,传达了多远。另一方面,她们不理解,为什么都在要求受害者当心上传相片,而不是教育加害者。
当女学生在 Instagram 的 Story(快拍)呼吁「把上传的全部相片都拿下来吧」,同校男生们却能说出「你们太丑了,底子不会用在那些东西上」这种荒唐言辞。
▲加害者的言辞,说女人站得太高了
网上还不乏这样的声响:「不知道这种违法为什么会形成很大的损伤。」「假如是几个人自己制作的,损伤应该很小吧。」
但受害者们所阅历的,不仅是看到自己的脸被 Deepfake。加害者们还会凌辱她们,分布她们的地址、电话、学生证等个人信息,诽谤她们的私日子,挨近并打扰她们。
更可怕的是遇上「复仇色情」——加害者以传达 Deepfake 资料为要挟,勒索和损伤女人,形成更严峻的二次损伤。
▲一个韩国 YouTuber 说女人少见多怪,但他知道蒙面维护自己
《韩国先驱报》报导,17 岁的京畿道高中生 Song,曾经常常在网上共享一些跳舞的相片和短视频。一天,她在 Instagram 收到了一条附有三张显露相片的匿名音讯:「你的朋友和爸爸妈妈了解你日子的这一面吗?」
这些相片都是 Deepfake 的,但简直无法和实在图画区别。噩梦没有结束,她回复的音讯,只会让对方更振奋、提出更多的要求。
▲Song 和加害者的短信截图,依据 Song 的要求进行了修正并翻译成英文
没有谁能分管苦楚。乃至有受害者表明:「我所知道的国际现已崩塌了。」
这和加害者为此支付的价值不对等。
▲谈天室截图,一些鄙陋讲话,如「能够设定你想要的姿态来制作相片,超爽」
此次工作没有尘埃落定,但韩国之前有对 Deepfake 判定,其间一同在 8 月 28 日进行了一审。
从 2020 年 7 月到本年 4 月,朴某盗用大校园友等女人受害者的脸部相片,制作了 419 个 Deepfake 色情视频,并传达了 1735 个,被判处有期徒刑 5 年。
受害者们从 2021 年 7 月开端曲折奔波,才成功将加害者推上审判台,让朴某在本年 5 月被申述。
由于这次大型 Deepfake 工作,韩国相关部分考虑,将最高刑期从 5 年提高到 7 年。
▲韩国女人发声,反对性违法
又考虑到 Deepfake 的青少年违法很常见,但法令有缝隙,韩国正在衡量责任教育阶段作案人的最高赏罚。
时至今日,Deepfake 在许多当地仍是灰色地带,维护力度跟不上要挟速度。
比如在美国,假如受害者是成年人,各州有不同的法令规定,或定为刑事违法,或提起民事诉讼,但现在还没有联邦层面的法令制止制作 Deepfake 色情内容。
▲谈天室截图,成员聊一同的熟人
之所以立法困难,一个原因在于,有些观念以为,Deepfake 图片里的主体就算长得像你,实践并不是你,所以你的隐私并没有实在遭到侵略。
可是谁都清楚,图片尽管虚伪,损伤是实在存在的。
法令推进缓慢,与此同时,那些未曾出面的加害者,暂时「消声匿迹」,等候「东山再起」。
作恶如此简略,Deepfake 和全部人有关
韩国并非个例,Deepfake 的产生不限国界。
2023 年 9 月,西班牙的小镇阿尔门德拉莱霍,一群男生将女同学发在交际媒体的相片上传到了一款「一键脱衣」AI 东西。小镇有五所中学,女同学的「裸照」在至少四所撒播。
这款东西能够经过手机 app 或许 Telegram 运用,受害者至少有 30 名,首要是 12 岁到 14 岁的女学生。
始作俑者大多和她们知道,也是未成年人,至少有 10 名,部分乃至未满 14 岁,不能面对刑事指控。
▲一位母亲呼吁更多受害者站出来
他们在 WhatsApp 和 Telegram 创立群聊传达这些「裸照」,经过 Instagram 要挟受害者,勒索「赎金」和真人裸照。
美国新泽西州的一所高中产生过相似的状况,受害者也在 30 名左右,她们的男性同学在暑假制作了「裸照」。
校长确保,全部图片已被删去,不会再被传达,始作俑者被停学了几天,又像没事人相同回到「案发地点」。
Deepfake 最早鼓起于 2017 年的「美版贴吧」Reddit,首要方法是将明星的脸替换到色情视频的主角身上,或许恶搞政界人物。
从技能原理来说,首要有两条途径:一是编码器-解码器途径,经过将图画进行紧缩和重建,将一张脸替换成另一张脸;二是生成器-鉴别器途径(即生成对立网络,GAN),经过对立练习生成传神的图画。
▲GAN
现在,Deepfake 是一个更为广义的概念,不再仅限于开始的面部替换,咱们用它来指代经过技能手法假造实际的全部行为。
杂乱的技能原理躲藏暗地,在用户面前的是一个个「开箱即用」的界面,青少年们也能顺手制作虚伪信息,Deepfake 从一门技能,蜕化为简直没有门槛的东西。
「一键脱衣」的 app 们,只需求一张相片、一个电子邮件地址和几美元,就能够批量脱掉名人、同学、生疏人的「衣服」,被用来「脱衣」的图片,往往从交际媒体获取,未经发布者赞同,然后也在他们不知情的状况下传达。
根据承受过海量图片练习的开源分散模型,用户能够经过输入提示词的方法,生成名人的虚伪显露相片。
▲好莱坞女星的 AI 模型,现已下载上千次
像 Deep-Live-Cam 这样的开源 GitHub 项目,经过一张相片,就能在视频谈天中换脸。
骗过年轻人或许有难度,可是老一辈们就纷歧定了,实际的沉痛比如现已演出——美国的一位 82 岁白叟,由于盲信在视频里坑蒙拐骗的 AI 马斯克,丢失了 69 万美元的退休金。
▲ AI 马斯克的直播
2023 年 7 月,德国电信发了一条关于儿童数据安全的广告,呼吁家长尽量少在互联网共享儿童隐私。
图画、视频和音频,都在被 Deepfake,尽管沉着理解「眼见为实」成了曩昔时,但咱们的心思还没有彻底承受,也不具备对应的分辩才能,全部人都或许成为受害者。
技能或许中立,但人用技能产出的信息不只是信息,也是用来进行侮辱、污名和取得优越感的兵器。越低俗和猎奇的内容,越简单传达,自古皆然。
普通人能够做些什么?至少咱们能够决议自己怎么运用技能,也能够挑选产出和传达什么信息,对受害者给予重视,对加害者不以为然,以微末的力气,推进法令和社会观念的前进。
被换脸,为什么是受害者删去相片?被偷拍,为什么是受害者深感羞耻?这似乎是技能也无法答复的问题。
发表评论