DC娱乐网

【AI玩偶也要防沉迷】人工智能拟人化互动服务管理暂行办法4月16日消息,据IT时

【AI玩偶也要防沉迷】人工智能拟人化互动服务管理暂行办法4月16日消息,据IT时报,去年10月,一条视频在社交媒体上刷屏。

镜头里,一位6岁小女孩“十三”不小心摔坏了自己的AI机器人,她抱着机器人失声痛哭,一边哭一边用稚嫩的声音询问“是否将离她而去”。而机器人似乎也感受到了小女孩的悲伤,用温柔的语调说:“在姐姐还能说话的时候,最后教你一个单词。memory是记忆的意思,姐姐会永远记住与十三一起的快乐时光。”

这一幕,让无数网友为之动容。AI与人类之间的情感联结似乎在这一刻突破了冰冷的代码界限,也让人们惊叹当前AI技术已能展现出强大的“共情能力”。

然而,惊叹之余,一种隐忧也悄然浮现。当AI越来越像人,能够精准捕捉并回应人类的情感,甚至以“姐姐”“朋友”等亲密角色自居时,它模糊了人与机器的界限,也可能对用户,尤其是心智尚未成熟的未成年人的认知产生潜在影响。

2026年4月10日,《人工智能拟人化互动服务管理暂行办法》正式发布,为快速扩张的人工智能拟人化互动服务戴上“合规紧箍”,尤其对未成年人与老年人两大群体作出明确保护性规定。

新规划出了高压线:未经用户同意,交互数据不得向第三方提供,敏感个人信息严格限制用于模型训练。

中国政法大学网络法学研究所所长李怀胜表示,这些规定大大提升了用户隐私的保护力度,意味着企业不能随意将用户在聊天中透露出的敏感信息,比如说健康状况等,直接用于优化其大模型的训练。此外,提供者不得向第三方提供用户交互数据,除非有法律或者用户的明确同意,并需要向用户提供交互数据的复制和删除等选项,这也是为了保障用户对其个人信息的控制权。

7月,这一新规将正式落地,意味着以AI玩偶为代表的情感交互行业,告别自由生长的野蛮阶段,迈入安全、有序、向善的高质量发展新周期。

在全球范围内,AI陪伴的监管正在形成共识。去年,欧盟推进年龄验证机制,美国加州等地已对AI伴侣聊天机器人出台限制措施。此次新规的出台,也是在全球AI治理浪潮中发出中国声音。各位网友,您怎么看?(IT时报)