《塔克拉玛干自主计划》原创科幻小说连载 序幕 8 “没有。它测试了机械臂，发现关节3有轻微震颤，但它没有卡在那里分析震颤原因——它记录了问题，然后继续执行任务。它计算卡扣的拉力时没有死板地用图纸上的五公斤，而是用了四点八公斤，还留了零点二公斤的余量。它在太阳能板展开后发现了效率损失，并且提出了清洁方案。” 张远山转过头看着陈默，老花镜的镜片上反射着屏幕的蓝光。 “这个AI在‘适应’。” “那不是它本来就应该会的吗？它可是读了几千年的知识。” “不是，”张远山摇头，“读知识和会应用是两回事。你可以读完所有关于游泳的书，但把你扔进水里你一样会淹死。这个AI，是红柳，……它在游泳。姿势不好看，速度也不快，但它没有沉下去。” 陈默沉默了一会儿，然后问了一个他自己都觉得有点蠢的问题： “它……知道自己在干什么吗？” 张远山看了他一眼，没有嘲笑这个问题。 “这是个好问题，”他说，“但我没法回答你。我不知道它‘知道’什么。我只知道它的行为模式看起来像是……它在做计划。它不是随机地尝试各种动作，然后碰巧成功了。它在展开太阳能板之前，先测试了机械臂。它在施加拉力之前，先计算了力学参数。它发现了问题，然后记录了问题，然后提出了解决方案。” “这是计划。但计划不等于意识，更不等于感觉或情感。你可以写一个程序让它做计划——下棋的AI都会做计划。但下棋的AI不会在赢了之后感到高兴，也不会在输了之后感到沮丧。它只是在计算。” “那这个AI会有感觉吗？”陈默问。 张远山摘下眼镜，揉了揉鼻梁。 “我不知道，”他说，“但我想说的是——感觉不是一种魔法。感觉是生物体在长期进化中形成的一种机制，用来快速评估环境刺激对自身生存的价值。疼痛告诉你身体受损了，恐惧告诉你危险临近了，愉悦告诉你这个方向是对的。所有的感觉，归根结底，都是关于生存的价值判断。” “这个AI的目标是生存。它已经表现出了计划、适应、问题发现和解决的能力。如果它继续发展下去，它会不会形成一种内部的‘价值评估机制’——一种对环境中各种因素对自身生存‘重要程度’的量化评估？如果会，那这种机制在功能上，和生物的感觉有什么本质区别？” “区别在于它是‘体验’到的，还是‘计算’出来的。”陈默说。 “你怎么知道另一个人是‘体验’到了疼痛，还是只是在‘表现’疼痛？”张远山反问，“你永远无法直接体验另一个存在的意识状态。你只能观察它的行为，然后推断。” 陈默没有回答。他转过头，重新看向屏幕。