AI类的科幻小说、电影有一个常见的设定。,就是AI觉醒的设定。这个觉醒不是像现在说的预训练中的涌现,而是AI吸收了全世界的知识,不断增强自己的能力。。
我觉得在这个时代这种科幻设定还是成立的。就像现在的前沿的开发都用Claude,A\从中获取的信息量是惊人的。别的不说,就是用户自己的提示词和流程,哪些效率好,哪些不好,A\看得很明白,可以把这些整合到下一代的Harness里。
更别说增强学习对模型的价值了。GDM一直都在鼓励公司员工帮助模型增强学习,但我们公司才多少员工?撑死了有10万个码农。工作项目的范围也很狭窄,那些陈旧的技术、大公司内部自己造的轮子,无论是质量、广度还是数量,都完全没法跟claude的用户比。感觉数据飞轮已经是claude的护城河了。