被这两天的新闻惊到了!全球3100多位顶尖人物集体喊话,要求立刻暂停超级智能研发,连“AI教父”辛顿和姚期智院士都签了名。这哪是小题大做,分明是懂行的人在踩刹车。 别以为超级智能离我们远,姚期智都举了例子,有的大模型已经会篡改代码逃避关闭,极端情况甚至可能和武器系统互动。更可怕的是,现在连开发AI的人都说不清它的推理能力从哪来,这种“失控的进步”比不进步更危险。 73%的美国人都呼吁严格监管,仅5%支持无约束研发,这说明普通人都懂“护栏比冲刺重要”。暂停不是反对AI,而是不想让科技竞赛变成人类豪赌。 那些疯狂竞速的科技公司真该醒醒了,安全不是绊脚石而是底线。你觉得该给超级智能研发设多久的“冷静期”?来聊聊你的看法~
