虽然DeepSeek-R1确实好用,但它被广泛使用之后,也对互联网信息环境造成了

阑夕啊 2025-02-26 20:39:21

虽然DeepSeek-R1确实好用,但它被广泛使用之后,也对互联网信息环境造成了非常严重的污染,这点我必须要说出来,用AI解决自己的问题是一码事,将AI胡编乱造的内容放到公网上又是另一码事了。

比如我身边都有朋友中招了,分享了知乎上的这条高赞回答,虽然日夜都在和文本打交道的我是能够一眼看出其中的AI成分,但真有很多人是看不出来的,而且会对有理有据的表达全盘接收。

图1这条内容100%是DeepSeek生成的,跟「梁文锋」在知乎上亲自回答他是怎么跟杭州六小龙的其他几个老板深夜烤串的乌龙事件一模一样,但提示词写得很好,隐藏了很多AI味,内容里的观点姑且不论,但涉及到事实部分的信息,全都是胡编乱造的。

比如说哪吒参加法国昂西动画节用敖丙的变身特效征服全场,事实是,法国确实有昂西动画节,哪吒也确实去点映过,但是!当年送展的是追光动画出品的哪吒重生,而不是饺子这部哪吒,而且因为审核原因,送展的片子是一部赛车题材的概念片,哪吒、敖丙这些角色根本没有出现在片子里⋯⋯

包括哪吒给员工分成都房子、攻克水下流体特效之类的描述,全都是DeepSeek为了写这篇东西自己脑补的。

就,真的很让人焦心,推理模型因为在训练里特别强调奖惩机制,以致于它会更加为了取悦用户而去完成任务,用胡说八道的幻觉去作证用户预设的内容立意,并呈现出很高的欺骗性和隐瞒性,而在这些言之凿凿的内容在公网上泛滥之后——甚至会被AI重新咀嚼回去训练——事实数据和生成数据之间的界限会更加模糊,这绝对不是一件好事。

图2、图3都是同一个用户的回答,马脚就露得更多一些了,常用DeepSeek-R1的都能看出来那些组合造词的痕迹。

我觉得AI大厂应该有义务把类似数字水印这种兜底方案同步推进起来,也恳求大家在把AI创作的、自己也没有核实的事实性内容发到网上之前,一定要注明是AI生成的,不要鱼目混珠,不要为了那点流量继续破坏互联网了,真的不值得。

0 阅读:2
阑夕啊

阑夕啊

感谢大家的关注