“造谣一张嘴，辟谣跑断腿”！最近湖南网民舒某整了个大活：利用AI工具生成虚假视频，整出了个“人造大米生产线”，为了更加吸睛，还添上了“黄曲霉毒素超标”的噱头，引得一众网民恐慌。

这个视频看起来有模有样，生产线上源源不断产出类似大米的颗粒，配上触目惊心的文字说明，声称湖北某地生产线使用霉碎米为原料，产品黄曲霉毒素超标，流入低端市场。

视频迅速获得超过10万浏览量和数万次传播，导致部分群众对食品安全产生担忧。

湖南怀化市溆浦县公安局网安大队发现后立即核查。警方调查确认，这条视频完全是舒某用AI工具生成的假货，所谓的“生产线”根本不存在。

舒某交代，她刷到关于人造大米生产线的文案后，复制并生成了新文案，然后用AI工具制作了视频，目的就是博眼球刷流量，通过平台流量获利。公安机关责令舒某删除不实视频，并依法对其处以罚款700元的行政处罚。

这起事件是典型的“旧谣新传”。“人造大米”的谣言其实已流传十年左右，过去所谓的“塑料大米”、“自热米饭是塑料做的”等说法都已被反复辟谣。

食品工程专家多次解释，制造外观、口感、密度都类似天然大米的人造材料，成本远高于普通大米，缺乏商业动机。

实际上，食品加工领域存在“重组米”，它以淀粉类食品为原料，根据需求添加营养成分，通过加工制成类似天然米粒的形状，主要用于自热米饭、速食粥等场景，或为糖尿病患者、减肥人群制作低升糖米。

重组米的生产会使用符合国家标准的配料和食品添加剂，在合理使用下对人体安全无害。

AI技术让这类老谣言的危害性大增。过去造谣可能主要靠文字图片，现在借助AI工具，只需输入简单指令，几分钟就能生成画面逼真、细节完整的虚假视频，肉眼难以辨别真伪。

有报道称，某些AI视频生成工具操作门槛极低，无需专业技能，也无需内容审核，就能快速生成以假乱真的内容。

类似滥用AI技术造谣的情况并不少见。今年2月，江西萍乡一男子使用AI工具生成“烟花厂爆炸致2死2伤”的虚假视频发布。

安徽池州一男子在春节期间使用AI工具恶意剪辑拼接旧视频，伪造春运混乱场景。上海警方近期也查处多起利用AI造谣诋毁企业的案件。

这些案例显示，AI技术降低了造谣门槛，却提高了辟谣难度。

有技术维护人员指出，一些长视频还可以根据上下文背景区分，但以人像为主的短视频加上特效后几乎与真人没区别，识别难度很大。现有AI检测器在复杂场景下的准确率可能从90%骤降至60%。

面对AI谣言，治理需要多方合力。技术上，要研发更精准的AI生成内容检测识别与溯源技术，建设国家级AI内容溯源与验证体系。法律上，需完善责任认定标准，让制作者、传播者和平台的责任更清晰。

平台责任尤为关键。平台应建立便捷的举报渠道，对高风险内容启动“人工复核+技术拦截”机制。有专家建议，将网络谣言治理纳入平台企业信用评价体系。对于利用AI造谣的用户，可以采取列入黑名单等禁止性措施。

公众也需要提升数字素养。看到惊人信息时，特别是那些带有“致癌”、“有毒”等耸动词汇的内容，先别急着转发，可以查证信息来源，看看是否有权威机构背书。

对于AI生成内容，注意是否存在不自然的细节，比如人物表情、嘴巴动作不协调等。

粮食安全事关重大，利用AI炮制粮食类谣言不仅误导公众、制造恐慌，还可能损害农户与产业利益，影响农业经济的长期发展。警方强调，网络空间非法外之地，利用AI炮制谣言将依法受到查处。

AI技术本是中性的工具，它在影视制作、虚拟主播等领域有广泛应用前景。但技术和应用需要有边界。

防止AI沦为造谣利器，需要技术防御、法律规范和公众素养提升协同发力，让先进技术行走在合规向善的轨道上。

参考资料：网传“湖北惊现人造毒大米”是假的！造谣者已被处罚——杭州日报