【网红造谣的幕后生意：以AI造假起号引流，涨粉后再转型转卖】“百万粉丝网红疑遭勒索后自杀”消息流传两日后，被警方公开辟谣。通报透露，涉事博主孙某故意编造“自杀离世”虚假信息发布至网络，其行为涉嫌虚构事实扰乱公共秩序，公安机关已依法立案调查。
网络虚假信息已成社会公害，有时甚至真假难辨。5月13日，南都、N视频辟谣专栏《真假即时查》调查发现，当前，为起号引流涨粉，不法分子的手段逐渐升级。他们利用AI深度伪造，误导公众认知，快速起号后，开始带货、卖课等。有的被明码标价放到账号交易网站上，形成“起号、转型、转卖”的灰色产业链。
近期，四部门联合发布《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显示标识和隐式标识。实际上，绝大多数社交平台均明令禁止账号转卖行为。
“现在造谣造假的成本非常低，还有一些可以免费使用的AI工具。”北京邮电大学互联网治理与法律研究中心执行主任谢永江向南都记者介绍，网络虚假信息是长期以来的顽疾，AI只是让传播变得更加便捷。为防范AI技术滥用风险，有关部门正在行动。
