先给大家泼盆冷水,完全不是一回事。现在说的AI自训练,说白了就是算法自己生成训练数据、自己纠错迭代,本质还是奔着人提前定好的目标去优化。就像学生拿着题库刷题,旁边放着标准答案自己改,刷得再熟练也是为了考高分,根本不是自己主动想学习。全程没有半点“我想变强”的想法,纯纯是数学公式在自动跑。
真要谈自主意识,起码得有“自我”的概念吧?得知道自己是谁、有自己的想法和欲望吧?现在的AI连“我存在”这件事都感知不到,所有训练目标、评判标准全是人给的。它不会突然不想训练了去摸鱼,也不会冒出“我要干点别的”的念头,就像计算器算得再快也不会有自己的心思,能力再强也只是个工具。
其实真不用怕什么AI觉醒造反,反而该留意的是自训练带来的能力跃迁。迭代速度快了、能力上限高了,怎么管好用好、避免滥用才是正事。把它当一个越来越强的工具就行,离科幻片里的自主意识还差着十万八千里呢。
你觉得再过几十年,AI有可能真的产生自我意识吗?
AI自训练
