十个月前，一段AI生成的视频让全网破防：博主用老照片和录音合成了一段“会说话的父亲”，屏幕里的老人对女儿说“别难过，我一直在”。十个月后，同一套技术被挂进电商链接和短视频橱窗，已经离世的明星、网红甚至普通人的亲属被批量“复活”，家属在评论区求删除，网友从感动变成愤怒。
 
这股风潮起得很快。2023年底到2024年初，社交媒体上出现不少用AI“复活”亲人的视频，部分视频获得百万点赞，央视网等媒体也报道过其中一些温暖案例。
 
很多人第一次发现，原来老照片可以动起来，熟悉的声音可以从手机里重新响起，哪怕只是短短几十秒，也能让思念有个出口。
 
那时候，做这类视频的博主被称作“用技术缝补遗憾的人”，几乎没有人质疑这件事有什么问题。
 
但变化来得更快。2024年上半年，已故歌手李玟、演员乔任梁、高以翔等人被AI生成视频“复活”，有人让他们在镜头前说话、微笑，甚至做直播引流。
 
乔任梁的父亲在接受采访时说：“看到网上传播这样的视频，心里很不是滋味，这是对逝者的不尊重。”
 
江歌的妈妈也在社交平台发文，要求下架AI复活江歌的视频。家属的反对很直接：你连一句同意都没问过，凭什么把我们的亲人做成你的流量？
 
有媒体调查发现，电商平台上不少商家出售“AI复活亲人”服务，有的标价低至几十元，只要提供照片和音频就能生成动态视频，不需要任何亲属关系证明。
 
还有博主把明星和素人的“AI复活”视频当引流工具，卖教程、接定制，评论区挂着商品链接。这时候人们才反应过来，当初那个“治愈”的故事，早就被复制成了流水线上的产品。
 
如果说AI复活消费逝者让人不舒服，那AI换脸诈骗就是直接见血。央视《焦点访谈》曾报道过一起真实案件：福州的郭先生接到“好友”的视频电话，对方说需要430万元保证金周转。
 
因为视频里那张脸和那个声音都能对上，郭先生没有多想就转了账，事后才发现被骗。警方调查显示，骗子用AI换脸和拟声技术合成了实时视频。
 
很多人第一次意识到，原来视频通话也不一定可信。公安部随后多次发布预警，AI换脸、变声已经成为电信网络诈骗的新型工具。
 
所以，国家出手不是要按住AI不让发展，而是给这辆高速行驶的车装刹车和红绿灯。
 
2024年9月，国家网信办就《人工智能生成合成内容标识办法》公开征求意见；2025年3月，该办法正式发布，规定从2025年9月1日起，AI生成的文字、图片、音频、视频都必须添加显式或隐式标识，平台要核验，用户要知情。
 
简单说，以后你刷到的AI视频，要么打上“AI生成”的水印，要么在文件里藏着标识，不能假装是真人真事。
 
但这个办法还只是第一步。AI复活涉及的不只是真假问题，更是权利问题。一个人去世后，他的脸、声音、记忆，谁有权利拿出来做数字复制？
 
家属不同意，平台是否应该主动下架？创作者拿去世明星引流赚的钱，是否应该分给权利人？这些问题不能等出事再补。
 
从被全网喊“英雄”到被家属追着骂，AI只用了不到一年。技术没有原罪，但我们不能只享受它带来的便利和眼泪，却对背后的伤害假装看不见。

信源：国家网信办