卧底记者的调查

“你好，我是一个神奇的机器人，只需要2600韩元（13.8元人民币）就可以让你喜欢的女生一键脱衣......”记者卧底Telegram房间，一进入Telegram房间就收到了这样的信息。根据卧底记者介绍，Telegram房间采用会员制，以积分为交易单位。可以用现金充值来增加积分，通过推广邀请其他人加入房间也可以获得积分。

支付1积分，并提供一张照片，就可以让管理员生成一张定制照片。如果想合成视频，则需要支付5积分。

接下来最可怕的是，拿到合成视频的用户，并不是独自欣赏，而是发布在了Telegram房间里，并标注上她们的姓名、年龄、出生日期和个人信息，以及她们的居住地。

“这是一个庞大的网络架构！”卧底记者感慨！所有的房间有二级划分，先是地区划分，然后再根据不同的受害群体，分成：学生、老师、部队、医院、上班族、邻家等房间。

受害者李女士的自白

2024年8月2日，经朋友提醒，李女士发现自己的头像被合成了特殊视频在网络上传播。李女士说：“看到视频的那一刻，我的脑袋嗡的一声，完全宕机了，我只想找一个没有人的地方，大哭一场！”

李女士今年26岁，是韩国首尔一家公司的普通员工。视频上标注了她的个人信息，因此李女士怀疑制作和发布视频的是她身边的同事或者朋友。“现在我看到身边的男同事、男性朋友都觉得每个人都是他（发布者）”李女士说她现在整天都疑神疑鬼，觉得时刻有人想要害她。

“当男同事聚在一起谈笑的时候，我总觉得他们正拿着我的合成视频，在对我评头论足，总觉得他们说的就是我。我不知道这个视频有多少人看过，我觉得我身边所有男人都看过，我觉得自己好羞耻，我觉得自己好肮脏！”

李女士最近想请一段长假，公司也觉得李女士的精神状态不适合工作。

受害者朴老师的困扰

“当时正好下课了，有两个男同学跑到讲台找我，我以为他们是想请教什么课业问题，结果他们问我，朴老师，你是不是喜欢吃xx，然后笑嘻嘻的跑走了。”

后来，朴老师才从关系较好的学生口中知道，用自己头像合成的吃xx的视频，早在一个星期之前就在学生之间流传了。

2024年8月29日，全国教师工会在首尔政府大楼前举行记者会，痛斥AI换脸合成视频。工会表示，根据 27~28 日进行的紧急初步调查，受害女教师高达517位。

教师工会呼吁有关部门应该引起重视，并实施有效措施，来解决这个问题。

官方的应对

2024年8月27日，韩国总统尹锡悦发表讲话时，呼吁警方展开彻底调查，以根除此类AI犯罪。8月29日，韩国执政党国民力量党表示，政府计划与社交媒体合作，同时加强对“深度伪造”犯罪行为的处罚力度。

但是，官方通报的案例却远远少于事实发生的案例。据官方统计的虚假视事件， 2021年156 起、2022 年160 起、 2023 年 180 起，2024年截止到 7月底是 297 起。然而据记者爆料，Telegram房间一天最少产出1000条以上的视频，截止到8月23日，最少超过22万名受害者。

处罚的难度

1、罪责的审定，制作方、定制方、传播者、观看者，这四个群体组合成了这个庞大的犯罪网络，如何定责，该怎么定责，相关部门还未给出明确答复。

2、据统计，这中间的参与者，有73%是10—19岁的青少年，根据法律，他们不用承担刑事责任。对于他们又如何判罚？

3、随着AI技术的发展，AI软件的普及，自己完成AI换脸越来越容易，如果以后大部分人，能够自行制作换脸视频，又如何制止这种事情的发生？

产生的分支影响

2024年8月28日，韩国社交媒体上突然出现了一个名单，这是一份所谓“AI换脸视频肇事者”的个人信息。上面有着肇事者的姓名和电话号码，以及肇事者母亲的电话号码。

有位自称“网络侠”的用户说：“如果警察做不到，那就让我们自己去做，用网络作为武器，来维护自己的权益！我们一人打一个电话，1000个人就能打1000个电话，教育他们怎么做人！”

然而，这份所谓名单的真实性有待考证。

韩国A女士在社交媒体“Threads”上介绍自己是“抚养两个孩子的普通母亲”，她说：“我甚至不知道 Twitter 或 Telegram 是什么。我不知道我的身份证是怎么泄露的，我就被列为了肇事者”。

她补充说，“随着事件变得越来越大，很多人涌入了我的帐户，对我发侮辱信息，但如果我将（帐户）设为私密，他们就更加认定我就是“肇事者”。

另一位用户 B 先生透露，他的“X”上收到了各种辱骂性信息，并说：“我的帐户是现在被列为“肇事者”之一，于是大量不明真相的人对我发送了侮辱信息。

B先生最后说：“这些披露所谓“肇事者”名单的人，还有对名单上面的人进行骚扰、侮的网民。这些所谓的“正义之士”跟制作“换脸视频”的人有何区别？”