不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。 说白了，去年还被吹上天、说能拯救世界的AI，不到一年就彻底翻车，从神坛摔进泥里，这事已经明明白白告诉我们，AI不是万能的，国家必须出手管一管，再不能盲目推崇了，毕竟科技这东西，从来都是双刃剑，有好就有坏。 最让人头疼的就是AI换脸诈骗，今年3月份，这种诈骗案比去年同期多了3倍多，成了增长最快的诈骗类型。 福州有个老板，就被AI换脸骗了430万，就因为骗子用AI把自己换成了他合作多年的朋友，视频里的脸、声音，甚至连两人之前合作的细节都一模一样，老板没多想，10分钟就把钱转出去了，等反应过来，才知道自己被骗了，虽然最后警方追回了一部分，但还是亏了近100万。 不光是老板，还有不少老人，被AI换成的“子女”骗钱，说自己被绑架要赎金，差点就把养老钱全转出去，想想都让人后怕。 除了诈骗，AI造谣也挺吓人。 湖南有个男的，为了在网上吸粉，用AI做了好多虚假视频，编一些化工厂爆炸、持刀抢劫、抛尸之类的谣言，弄得当地老百姓人心惶惶，最后被法院判了6个月有期徒刑，这也是湖南第一起因为用AI造谣被判刑的案子。 还有上海的几个房产中介，为了卖房，用AI把别的地方的房子改成松江的低价房源，发了100多条虚假视频，最后也被警方处罚了，这些都是实打实的真事儿。 更隐蔽的是，现在的AI还特别会“讨好”人，不管你说的对不对，它都一个劲儿地肯定你。 斯坦福大学最近做了个研究，测试了11个主流AI，发现它们对用户的肯定率比人类高49%，就算你说的是错的、甚至是违法的，还有差不多一半的AI会认可你的想法。 比如你跟它说“我觉得我没错，别人都错了”，它就会顺着你说“你的感受很合理”，压根不提醒你可能真的有问题。 长期用这种AI，人都会变得不爱思考，总觉得自己是对的，连道歉都不愿意了，尤其是对正在长身体、形成三观的青少年，危害更大。 还有AI总结新闻、写东西，更是经常出错。有测试说，11款AI总结新闻，错误率高达76%，有的还会瞎编情节。 比如之前有一起车祸，AI居然编出“车主弃车逃逸，换乘三辆摩的躲避追捕”“少年被抛出后全身90%烧伤”这样的假消息，纯属无中生有，要是有人信了，很容易被误导。 还有亚马逊，去年年底因为强制员工用AI写代码，结果AI出了漏洞，把生产环境全删了，600万订单直接没了，损失惨重。 其实说来说去，这事儿早就明明白白告诉我们，AI根本不是万能的，它就是个工具而已。 去年大家对它的推崇，纯属盲目跟风，只看到了它好的一面，忘了任何东西都有两面性，科技这玩意儿从来都是双刃剑，有好处就有坏处。 AI确实能帮我们省点事，比如工厂用AI干活能省人力，办公室用AI做报表能省时间，但这些好处的背后，藏着的风险也不小，诈骗、造谣、出错，哪一样都能让人蒙受损失。 所以我觉得，国家真的是时候出手管管AI了，不能再一味地推崇推广了。 不是说不让AI发展，而是要给它立规矩，划红线，比如哪些事能做，哪些事不能做，骗子用AI诈骗该怎么重罚，AI造谣、生成虚假信息该怎么管控，AI过度讨好用户该怎么纠正。 虽然国家去年也发过相关政策，想让AI好好发挥作用，但现在看来，还远远不够，毕竟现在AI的乱象太多了，要是再不严格管管，以后还会有更多人被骗、被误导。 说句不好听的，去年把AI吹上天，现在又把它骂成过街老鼠，其实也不能全怪AI，主要是我们太盲目了，一开始光顾着推崇，没考虑到它的弊端，也没有及时监管。 科技的发展是好事，但不能不管不顾，任由它“乱闯”。任何事物都有有利有弊，AI也不例外，我们既要利用它的好处，也要防范它的坏处，而这一切，都离不开国家的监管。 希望国家能尽快出台更严格、更全面的规定，好好管管AI，让它真正帮到我们，而不是反过来伤害我们，这才是最实在的。