不到一年，被捧上神坛的“英雄”成了“人人喊打的过街老鼠”，国家是时候出手管管AI了，而决不能一味地推崇推广，任何事物都是有利有弊的，科技就是把双刃剑。   麻烦看官老爷们右上角点击一下“关注”，既方便您进行讨论和分享，又能给您带来不一样的参与感，感谢您的支持！   去年这个时候，萨钦·德夫·杜加尔还是全球AI圈的风云人物。   这个给自己起名"首席魔法师"的印度人，把Builder.ai吹成了能颠覆软件行业的神器，微软、软银抢着给他投钱，前前后后投了4.5亿美元，公司估值冲到15亿，Fast Company直接把他评为AI领域第三大最具创新力的公司，排名比英伟达还高六位。   他穿着花毛衣到处参加峰会，Instagram上天天晒摩纳哥的游艇、卡普里岛的度假照，那时候谁提到他，不说一句"AI天才"？   可今年冬天，这神话彻底崩了。   董事会一查账，2023年他报给投资人的收入是1.57亿美元，实际只有4200万，2024年报的2.17亿，实际才5100万，差了整整四倍多，公司欠了亚马逊云服务8500万美元，欠了微软3000万，连员工工资都发不出来。   最讽刺的是那个被吹上天的AI项目管理器Natasha，号称能自动帮人做软件的神器，根本不是什么AI，说白了就是700个印度程序员在后台手动干活，所谓的AI自动编程全是人工堆出来的，公司老员工说，干了两年没见过一个项目真的交付成功，客户全在骂，但公司只管吹AI拿融资。   杜加尔自己呢？早就带着家人跑路迪拜了。   之前捧他的媒体现在全在骂他，投资人的钱打了水漂，上千个员工丢了工作，从神坛到过街老鼠，不到一年。   这事能成，根子就在于这两年大家对AI太狂热，只要你说做AI的，投资人闭着眼给钱，媒体闭着眼吹，没人去查你到底有没有真东西。   早在2019年就有高管告他造假，说他是第二个Theranos那种血液检测骗局，结果没人在乎，ChatGPT一火，大家转头就把他当AI英雄了，集体狂热把最基本的判断力都冲没了。   Builder.ai这个案子不是孤例，它只是把一个更大的问题摆到了台面上。   AI这东西发展太快，快到监管根本追不上，技术门槛降低了，作恶成本也跟着降低，现在网上那些批量生产的谣言，很多都是AI生成的，输入几个关键词就能造出一套看似完整的虚假内容，传播速度快得吓人，普通人根本没法快速分辨真假。   更可怕的是AI诈骗，诈骗分子用AI换脸、拟声技术，能精准复刻被害人亲朋好友的面容和声音，通过视频、语音通话实施诈骗，这种诈骗已经形成完整的黑灰产业链，从技术开发到资金转移各个环节分工明确。   不少老年人轻信AI伪造的身份被骗走养老钱，损失难以挽回。   还有隐私泄露的事，很多AI工具在背后悄悄收集用户个人信息，包括用户ID、邮箱、使用记录，甚至电脑文件、搜索记录，这些信息会以明文形式保存好几年，有些AI工具会滥用权限，悄悄开启摄像头、偷取个人密码，用户毫无察觉。   AI还经常一本正经地说假话，它没有事实判断能力，回答全靠训练数据，一旦数据混杂未经核实的内容就会生成错误答案，还说得理直气壮，有时候AI会凭空编造个人犯罪记录，伪造法院判决、单位通报，这种结构化的虚假信息欺骗性极强，会给当事人带来毁灭性打击。   就业问题也不能回避，很多行业普及AI后，初级办公岗位、短视频制作、广告设计等领域的基础工作大部分能被AI替代，虽说AI也会创造新岗位，但数量远不及它取代的，而且新岗位对技能要求高，很多被替代的劳动者因缺乏相关技能难以转型。   这些问题的核心不是技术本身，而是技术平权带来的能力和规则错配，AI降低了作恶门槛，传统监管手段追不上技术迭代速度，受害者维权成本远高于侵害成本。   当真假难辨成为常态，社会运行的信任基石就会出现裂痕。   好在全球都开始动起来了。   欧盟的AI法案去年已经生效，把AI分了等级，高风险的比如医疗、招聘领域的AI要严格审核，深度伪造必须标注清楚是AI做的，违规最高罚你全球营收的7%，联合国也搞了全球AI治理小组，40个国家的专家一起评估风险，推动统一治理框架。   咱们国家早就出了生成式AI的管理办法，今年新修订的网络安全法也把AI监管加进去了，既要支持AI的研发，也要管安全，还要搞伦理审查，不能让AI乱来。   这不是要打压AI，恰恰相反，这是在保护AI。   要是大家都被AI诈骗骗怕了，都被那些假AI公司割韭菜割怕了，谁还敢用真的AI？那再好的技术不就白瞎了？只有把规矩立好了，把坏人挡在外边，真正做技术的公司才能好好发展，咱们普通人才能放心地用AI享受它带来的好处。