DC娱乐网

AI数字人成“情感收割机”,亟需适老化治理

几年前,网红“秀才”因诱导中老年人打赏等问题被封号。如今,AI数字人(即基于人工智能技术生成的虚拟人物)成了新的“情感收

几年前,网红“秀才”因诱导中老年人打赏等问题被封号。如今,AI数字人(即基于人工智能技术生成的虚拟人物)成了新的“情感收割机”。这些AI“霸总”用着“建华”“建国”“东东”等称呼,张口姐姐、闭口想你,嘘寒问暖、深情表白,温情背后却是直播打赏、橱窗带货等赚钱套路。

曾在短剧中引发争议的“霸总”,如今有了AI加持变成数字人“霸总”,不但出现在更多短视频中,还出现在直播间。这类“霸总”嘴上喊着“姐姐”“老婆”等暧昧称呼,让手机屏幕前的老人信以为真,轻则点赞、评论支持,重则打赏、购物。相关账号运营者利用AI数字人,对中老年人进行情感和财富收割。

值得注意的是,相关账号已形成“围猎式收割”。比如11个账号,全是一模一样的脸,名字雷同,人设却不同——有的穿军装坐机舱里说情话,有的西装革履扮商务精英;还有的围着围巾扮演深情男人……这要么是同一个人或机构运营多个账号,要么多人互相效仿,都对喜欢AI“霸总”的人群形成“围猎”。

究其原因,业内人士透露,AI数字人已有成熟的技术模板,可一键生成;有团队可以批量化生产这类视频。更有商家表示,可以轻松复刻AI“霸总”,30秒以内视频最低20元一条,说话口型完全能对上。这意味着相关账号运营者能以极小的成本炮制AI“霸总”,然后对中老年人群先收割感情再收割财富。

而中老年人群对AI“霸总”信以为真后,不仅会被误导面临经济损失,而且在情感方面也被欺骗了,因为AI数字人只是口头上表白,不可能给予真实情感。还不排除有的中老年人的夫妻情感、家庭稳定因此受到影响。因此,决不能让AI数字人成为“情感收割机”,更不能让不法分子通过玩弄情感非法获利。

对此,应当进行精准治理。首先,要在《人工智能生成合成内容标识办法》基础上进一步完善规则。根据该办法,AI生成内容要添加显式标识。然而,AI短视频标注了AI标识后,并没有对中老年人群起到提醒作用,有的因为标注不够显著,有的因为老人不认识或不懂,也就是说现有规则没有起到提醒作用。

只有用中老年人群尤其是不识字、不懂AI的人群,能看懂AI短视频标识和提醒,才对这类人群有实际意义。虽然我国网民规模巨大,但网民文化水平相差悬殊,不能用统一的标识规则去满足所有人需求。因此,还应该对标识规则进行“适老化”“适盲化”改造,要以中老年人看得懂、听得懂的方式进行规范。

其次,平台要对AI短视频、AI数字人加强重点监管。只有对中老年人群实施情感收割,进而实施财富收割的AI短视频、AI数字人加强精准治理,才能为中老年用户提供一个适宜、放心的网络环境。坦率说,之前平台审核流于形式、管理粗放、算法推荐,给了AI数字人成“情感收割机”机会,应该弥补短板。

另外,中老年人群的家人、所在社区、老年大学等方面,也要对中老年人群做好引导工作,既要教会中老年人群识别AI数字人、AI短视频,也要明确提醒他们警惕AI数字人的情感欺骗和赚钱套路。其中,家属要多些陪伴、多些谈心。各地网信、广电等部门要督促平台履职尽责,公安机关要严防相关欺诈行为。