作为创作者,我经常收到私信,包括不限于:我的文被当airp世界书了,我的文被溶ai写成同人了,我的稿被喂ai头像了,我的稿被放在ai平台当角色卡了,我的稿被做成ai赛博谷了——能够让我知道的,一定属于公开场景,还有分散在不同网站,维权或者交涉的成本很高。当然在ai出生之前,也一直被洗稿盗图…而ai大幅度降低了“作案”成本。
好吧我也承认,我越来越懒得发文,就是意识到可能写手十天半个月甚至煎熬很久打磨出来的文字,在很多人眼里,确实不如ai速成的量大管饱好看(?固然有能力原因,不过整体审美和要求可能确实没有过去高了(ai出现之前也有很多粗制滥造模版流水线,同样是ai大幅度降低了成本的问题)我没有傲慢到批判受众,我甚至理解有时候就是随便吃点吧、不是每个人都有太高的精神需求。
而作为AI伦理的研究者,看见老累那一系列解释,居然笑不出来,也气不起来。唉怎么说呢,如果老累真的只能找ai陪聊cp,那我理解更多人的需求。ai陪聊本质是提供情绪价值,只要不伤害他人,我其实没有任何理由反对。人们自愿创造回声室也是一种幸福,现实都这个环境了,让自己开心点没有错。
如今谈ai色变甚至不太现实了,各种不同应用的ai甚至都意识不到的ai,早已存在生活方方面面……但讨厌ai也是很难避免的情感,我在机场看见ai宣传海报会想吐,我让ai做ppt调整格式就能气到吵起来;然而ai帮我检查代码解决bug又确实有一手,我也可以说很感谢ai解放了很多古法基础编程。
人和ai的关系越来越复杂,学界经常批判研究:ai训练的不平等、种族歧视、性别歧视、刻板印象,ai的错误信息、训练幻觉、奖励机制,ai辅助医疗健康场景的各种问题,ai侵权的版权信息和对艺术的破坏……但已经也没办法说,我们封存ai吧。
潘多拉的魔盒打开了,共享知识(尽管包含着大量错误、幻觉、该死的过度自信和过度防御)的阀门也打开了,我经常很担心ai制造新的阶级,不只是信息差,而是说,人们获取知识解决工作的能力,取决于地区/模型/算力/订阅等级。
虽然一切还是政治与经济的问题,但普通人会亲眼看到差距被本应共享精神的网络一点点拉开,曾经易得的知识被垄断,分享的活人越来越少,不只是流量贴和广告在劣质驱逐良币,还有agent冒充()ai时代新生的人们,或许都很难想象ai面世之前,大家过着什么样的生活。
ai公司一边大规模让ai烧书,一边大规模让ai读书,200美元可以买断9500字的专业作家原创文学让ai识别训练并且修改到满意为止。ai却永远无法真正理解书籍的思想,只能够训练提炼关键词频次数据,就像llm诞生之前,那些号称统计了古诗词规律来仿写古诗词的程序一样……
数字可能是诞生随机的奇迹,当时也确实看过几首很惊艳的,但那是浩瀚海洋里偶尔被提炼的水滴。ai永远没办法真正去体会一个灵魂,也不能真正模仿灵魂,只能像一个随机的回声谷,还给你自己的声音也夹杂着全世界数据集训练的噪音。
总之我目前浅薄认为,和ai聊天可以,但不要被ai同化,请永远提醒自己,这里面有多少错误信息。ai目前的训练奖励机制,幻觉几乎是不可避免的。真正使用ai工作的人,一定知道要写多少提示词、纠正多少次、多少回恨不得拿起biubiubiu OAI和A➗(?
毕竟现实和谁聊的越多越亲密,思想观点也会趋同。我确实希望看到以后技术真正进步可以让人类幸福的未来,但我很害怕“不是而是/稳稳接住/抱歉你触发到我安全边界”的未来,那真是“锋利的手术刀投下一枚心湖石子沁入骨血的狂热和偏执”了…