不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。

人工智能（AI）技术刚兴起时，在网上和现实中都受到热烈关注。媒体和企业纷纷介绍它在生成文字、辅助设计等方面的作用，许多人开始尝试用它处理日常任务。年轻人用它辅助学习和工作，中老年人也听到周围人谈论它的便利。

企业推出各种应用产品，希望借此提高效率、抢占市场，大家在交流中常常提到人工智能（AI）带来的变化，似乎它能帮大家节省不少时间。推广没多久，问题就陆续暴露出来。

人工智能（AI）被一些人用来制造虚假内容，影响正常社会秩序。上海警方通报了多起相关案件。
有人下载人工智能（AI）生成的短视频，去掉标识后发布，内容涉及外卖员处理掉在地上的面条，误导公众对餐饮安全的判断。青浦警方介入后，依法对相关人员作出处理。

还有人利用人工智能（AI）批量生成不实文章。梁某和郭某针对多家车企编造销量下滑的谣言，通过网络发布累计70余万篇次，非法获利8万余元。

这些内容干扰市场判断，嘉定警方在3月5日破获此案，对两人采取刑事强制措施。上海警方今年已查办多起涉企谣言案件，清理大量不实信息，处置违规账号。

在医疗领域，有人用人工智能（AI）写虚假文章，声称机构与三甲医院合作，吸引患者就医，损害医院声誉，相关人员受到行政处罚。人工智能（AI）生成内容还常出现不准确情况，大学生用它辅助论文时，发现参考文献存在虚构内容，白费功夫。

医疗辅助中，人工智能（AI）曾给出耳鸣可能是严重疾病前兆的错误提示，如果不核实，可能影响正常治疗。测试显示，人工智能（AI）在一些任务上表现远不如普通人，说明它的能力有明显局限。

诈骗案件也明显增多。黄石港区发生一起利用人工智能（AI）变声技术的诈骗。

2025年4月，丁女士等三位老人接到电话，声音自称孙子因打架伤人需要钱私了。老人取出养老钱交给上门人员，三人共被骗6万元。

吴某参与取款等环节，黄石港区人民法院审理后，以诈骗罪判处其有期徒刑二年一个月，并处罚金1.5万元。骗子正是利用人工智能（AI）模仿声音的特点，针对老年人实施作案。

个人信息安全也受到冲击。2025年10月，Chattee Chat和GiMe Chat两款人工智能（AI）伴侣应用发生数据泄露。

超过40万用户的信息暴露，包括4300万条私密对话、60多万份图片视频和交易记录。服务器配置问题导致数据公开可访问，虽然未直接包含姓名手机号，但通过IP和设备信息易于追溯，增加账户风险。

就业方面，人工智能（AI）影响了一些重复性岗位。基础客服、数据录入和简单文案等工作需求减少，部分企业调整招聘策略，给从事这些工作的年轻人带来压力。

虽然人工智能（AI）也带来新机会，但被替代群体的适应面临实际挑战。这些真实发生的事说明，人工智能（AI）在带来便利的同时，伴随风险。

如果只看到好处而忽略弊端，一味推广，就会出现各种乱象。标题中描述的从“英雄”到“过街老鼠”的转变，正是因为缺乏有效规范导致的。

国家已经行动起来。针对人工智能（AI）生成内容，四部门联合发布《人工智能生成合成内容标识办法》，2025年9月1日起施行，要求添加显式和隐式标识，确保用户能识别来源。

网信等部门开展专项整治，查处违规应用，督促平台落实责任。公安机关持续打击利用人工智能（AI）造谣、诈骗和泄露信息的行为，上海等地警方通过巡查及时处理案件。

企业需规范产品开发和宣传，不能夸大功能。平台加强内容审核，清理不实信息。

普通民众在使用人工智能（AI）生成内容时，要多核实来源，尤其是老年人遇到陌生电话或信息时，多和家人商量确认，避免上当。通过这些措施，人工智能（AI）技术逐步纳入规范轨道，在保障安全的前提下发挥积极作用。

相关部门保持常态化监管，引导行业健康发展，保护公众权益，为经济社会发展提供支撑。大家也要理性看待新技术，既利用它的便利，又注意防范风险。

科技是把双刃剑，有利有弊。人工智能（AI）的发展离不开党的领导和国家监管，只有坚持正确方向，才能让它真正服务人民，而不是带来隐患。