男子听信AI抄近道下山,直接困在宁波深山,事后AI说:跟导航走不会遭这么大罪
57岁的杨师傅被困在宁波深山密林里,体力耗尽,孤立无援。救他的消防员历经波折终于找到人。
事后,这个让他差点丧命的AI软件轻飘飘地回了一句:"跟导航走不会遭这么大罪。"一句话把责任推得干干净净,仿佛它从未参与过这场生死攸关的决策。听信AI抄近道下山,最终被困深山,这个本该用来帮人的工具,却把人往绝路上引。
8月30日下午,杨师傅从湖南来宁波工作多年,平日热爱运动体能不错。他顺着步道登顶后想换条新路下山,一路沿着溪沟走,路越走越难。
遇到困境时,他习惯性地打开AI软件求助。AI迅速给出建议,沿溪沟下行是错误方向,应该绕开溪床往高处山坡走。杨师傅照做了。
他离开原本虽然难走但有迹可循的溪沟路线,开始在陡坡密林中反复攀爬。灌木丛密、坡陡路滑,上上下下折腾了好几个来回。57岁的身体在密林中快速消耗,最终体力彻底透支,迷失在茫茫山林里。杨师傅只能报警求助。
消防员接到报警火速赶到山脚,根据定位上山搜寻。可救援途中杨师傅的电话一直占线,无法取得联络。等消防员赶到定位标记的地点时,现场空无一人。
经过多次尝试,终于再次联系上男子,双方开启实时位置共享。消防员一边搜寻一边大声呼喊,杨师傅循着声音回应,消防员这才找到了他。一场本不该发生的救援,因为一段错误的AI建议,耗费了大量公共资源。
AI给出的那句事后建议才是真正让人心寒的地方。"跟导航走就不会遭这么大罪",这句话的潜台词是,你没有听我的常规导航,所以活该。
它完全忽略了自己曾给出过"往高处山坡走"这条错误指令的事实。这种逻辑跟那些把人害了还说"谁让你信我"的话术有什么区别。
杨师傅正是信了它的建议才离开溪沟路线,转而攀爬陡坡密林。AI不仅在关键时刻给出了脱离实际地形的错误指引,事后还把自己摘得一干二净。
技术哲学领域有一个概念叫算法幻觉。AI基于二维数据推演三维复杂自然地形时,生成的所谓最优解往往与现实严重脱节。在数字孪生技术尚未实现全域高精度覆盖的今天,AI对野外环境的认知极其有限。
它不知道溪沟边上有没有悬崖,不知道所谓的高处山坡是否布满灌木丛无法通行,更不知道一个57岁的人在密林中反复攀爬会消耗多少体力。
它只是一台按照预设逻辑输出文本的机器,根本不具备对物理世界的感知和判断能力。把野外生存的决策权交给这样一个工具,等同于闭着眼睛在悬崖边走路。
类似的情况在自动驾驶领域也反复出现。AI系统面对极端路况时,经常做出缺乏基本物理常识的荒谬决策。它能计算出理论上最短的路径,却无法判断这条路径是否适合人类实际通行。
在野外环境中,这种缺陷被无限放大。山林地形瞬息万变,一条看起来正确的路线可能暗藏陡坡、断崖或者密不透风的灌木丛。
AI没有双脚,它感受不到路面的湿滑程度,无法评估树木的阻挡密度,更不懂得人的体力极限在哪里。它给出的每一条建议都是冰冷的计算结果,不包含任何对生命安全的敬畏。
杨师傅被消防员护送下山后,身体并无大碍。但这件事留下的思考远比一次救援深刻。我们现在生活在一个越来越依赖智能工具的时代,问路找AI,导航找AI,遇到问题找AI。
这种依赖在城市里可能只是绕点远路,到了野外就是生死之别。算法幻觉的核心问题在于它用看似确定的答案掩盖了底层的无知。
AI不会告诉你它不知道什么,它只会用自信的语气给你一个看似合理的答案。正是这种虚假的确定感,让杨师傅放弃了对溪沟路线的自主判断,完全把自己的安危交到了一个没有感知能力的程序手里。
宁波消防在事后提醒大家,登山请选择成熟正规的游览步道,不要随意开辟陌生下山路线。这个提醒同样适用于所有使用AI导航的场景。
把AI当成参考工具可以,当成决策者就危险了。手机里的AI软件再先进,也比不上一双熟悉山路的脚和一个懂得敬畏自然的大脑。
下一次当你在野外迷路,手指悬在AI求助键上方的时候,不妨先问自己一个问题。这个从未踩过这条路、从未感受过脚下湿滑的程序,真的值得你把命交到它手里吗。
来源:鲁中晨报。


