提醒与声明：敬请网友们警惕不法分子利用AI仿冒本人形象、声音与观点。
 
7月22日，国家安全部发了一篇提醒，标题挺有意思——《注意！“耳听”可能真的“为虚”》。放在以前，“耳听为虚”就是个比喻，现在好了，成字面意思了。
 
你手机里随便一条3到5秒的语音消息，就能被人拿去合成一段你从来没说过的话。研究显示，普通人识别高质量合成语音的准确率，不足50%。也就是说，你听到的那个“熟人”声音，有一半以上的概率是假的——抛硬币都比这靠谱。
 
这不是什么未来威胁，已经是眼前的坑了。
 
6月12日，兰州一位老人冲进银行要取5万块钱，说是孙子闯了祸要赔钱。电话那头的声音跟孙子一模一样，老人急得不行。银行柜员觉得不对劲，拦住了，民警一查——电话是AI合成的，声音是克隆的，孙子压根不知道这事。5万块养老钱，差一点就没了。
 
同一天，央视还披露了另一类案子：有人用AI换脸合成不雅视频，然后拿着视频勒索——不给钱就发给你的亲友同事。你明明知道视频是假的，但想到一旦传出去别人信了怎么办？很多人宁可花钱消灾也不敢报警。这恰恰是犯罪分子最想要的效果。
 
更离谱的还在后头。
 
西安最近破了个案子，嫌疑人李某先用AI生成一堆假图——装满现金的行李箱、崭新的豪车——给自己立了个“有钱人”人设。
 
骗了几万块之后觉得不够花，又升级了手段：用AI伪造警车图片、警察证件，甚至合成自己和执勤民警的合照，然后冒充民警，以“涉嫌违法需拘留”为由恐吓受害人转账。前前后后骗了19万多。
 
一个出租车司机知道了这事之后，不但没报警，反而主动给李某出谋划策当起了“军师”。
 
19万，全被俩人挥霍在歌舞厅和包车上了。
 
还有更省事的。山西大同一个主播，看到国民党主席郑丽文访问大陆热度高，直接用AI工具生成了郑丽文的数字人形象和带货文案，开直播卖货。最后被行政拘留。
 
我觉得最可怕的地方不在于这些案子本身，而在于一个更深层的问题：技术正在摧毁人类社会最基础的信任机制——眼见为实、耳听为真。
 
几千年来，“亲眼看到”“亲耳听到”是我们判断真假最原始的凭据。现在这条防线正在失效。视频通话里那张脸可能是假的，电话里那个声音可能是克隆的，你连最亲近的人都无法确定是真人还是AI。
 
更操蛋的是，这些工具现在谁都能用。过去造一段假视频需要专业团队，现在下载一个App就能搞定。一大批在线平台把“声音克隆”功能向公众开放，普通用户上传一段样本就能一键生成，操作跟发条语音一样简单。
 
技术本身没有善恶，但滥用起来真要命。
 
那怎么办？靠个人警惕肯定不够。
 
好消息是，国家层面已经在动真格的了。《人工智能生成合成内容标识办法》已经施行，AI合成内容必须“打标签”。
 
公安部联合网信办、工信部、国家广电总局发布了这个办法，规范内容标识，向公众提示AI合成内容。今年上半年，公安机关已经侦办了利用AI工具生成网络谣言的案件170多起。
 
中央网信办还启动了“清朗·整治AI应用乱象”专项行动。
 
法律层面也在跟进。《民法典》明确，对自然人声音的保护参照肖像权，未经授权克隆、合成、传播他人可识别语音，都属于侵权行为。
 
《互联网信息服务深度合成管理规定》要求深度合成服务必须落实平台备案、用户实名、授权核验、溯源标识等合规要求。
 
利用AI语音克隆实施诈骗、造谣抹黑的，触犯刑法要追究刑事责任。
 
但我得说句实在话：法律再严，也挡不住所有坏人。平台清理违规工具、完善审核机制当然重要，但最关键的防线其实在你自己手里。
 
我的建议就一条，特别简单，也特别管用：
 
凡是涉及转账、涉及钱的，无论对方是视频还是语音、看起来多像真人，必须用另一种方式再确认一遍。打个电话、发个消息、或者干脆见一面。别嫌麻烦，这不是多此一举，这是数字时代最基本的“防身术”。
 
另外，少在网上乱发自己的语音和视频。你随手发的一条语音消息、一段短视频里的人声片段，都可能被人拿去合成任意内容的仿冒语音。保护好自己的声纹信息，跟保护身份证一样重要。
 
说句不好听的，你那个“孙子”打来的电话，声音再像也别急着转钱。先确认，再行动。
 
这不是谨慎过度，是AI时代活下来的基本素养。