DC娱乐网

AI 曙光之下,最值得警惕的,是工具异化



静下心读完黄仁勋做客 Joe Rogan 播客那篇四万多字的深度访谈,一组宏大的图景缓缓铺展:算力持续迭代、物理 AI 落地、机器人重构生产链条、合成数据重塑知识生产方式。站在长期视角看,机器能够源源不断产出物资,标准化商品、基础服务的边际成本持续走低,物质供给有望走向更加充裕的状态。
访谈里一个被反复讨论、极具说服力的案例,是医疗影像 AI:技术刚问世的时候,行业普遍恐慌影像医师会被批量替代;等到落地一段时间再复盘,事实走向了另一条路径 ——AI 承接阅片、病灶初筛、样本标注这类重复机械的任务,并没有把医生取代。放射科医师从无休止的读图劳动中解放出来,转向复杂病例研判、风险权衡、模型质控、临床方案验证,还催生出 AI 标注、算法核验、医疗 AI 合规等一批新岗位。
很多人由此形成一个乐观判断:AI 替代的只是任务,不是人;当下的冲击只是短期阵痛,生产力进步终将解放人类。
这套逻辑自洽,有案例支撑,也符合技术进步的理想叙事。但当我们把视线从海外科技产业的叙事,拉回到国内各行各业数字化落地的真实场景,再对照广为流传的《置身钉内》《置身钉外》两篇文章,一层尖锐的疑问,慢慢浮上心头:这份美好的预期,会不会仅仅是我们一厢情愿的想象?
两篇文章以钉钉的起落为样本,剖开了数字化产品异化的底层逻辑。钉钉创始人陈航(无招)当年把产品做起来,能够突围的核心是契合了管理者对风险可控、全程可追溯、权责可锁定的诉求。这套设计在管理端收获认可,却一直伴随着一线使用者的抵触:已读回执、DING 消息、全天候推送、随时在线的要求,让协同工具慢慢变成了大家口中的 “赛博监工”。 后续寄予厚望的 ONE 项目,立项初衷本是 “事找人、为人减负,做智能超级秘书”,最终却没能走通。究其根源,不在于技术能力达不到,而在于它延续了优先管控、优先确定性的底层设计思路,价值取向没有转向劳动者减负。文中一个极具象征意义、读来让人唏嘘的细节,流传很广:项目团队晚间下班,判断标准不是任务闭环、问题解决,而是隔着楼宇,观望对面飞书办公室的灯光。对面灯不灭,这边便没有人敢先走。
这是一个非常典型的组织样本:工作的标尺,不再是成果、效能、问题的化解,转而变成熬时长、拼在线、耗生命的内卷。人的思考、创意、解决问题的才华,消耗在无意义的等待和陪伴式加班之中。工具本是用来降低成本、提升效率,最后反而制造焦虑、捆住人的时间。
值得留意的是,这种现象并非互联网大厂独有。放眼全国,在不少企业、事业单位、各类组织推进数字化建设的过程里,都能看到相似的同构逻辑,它不是某一个行业、某一地的特例。不少数字化平台在设计之初,初衷都是提质增效、降低风险;但在落地迭代的过程中,考核的标尺慢慢向容易量化、一键统计、横向对比的数字指标倾斜。于是就出现了类似的现象:系统优先保障过程留痕、实时上报、随时调度,而对任务本身的价值、人的工作边界、弹性处置空间考虑不足。
这里藏着一个值得深思的分寸问题:数字化追求精准,但过度精细化、全链条无差别管控,往往会压缩事务本身需要的弹性、灵活参与的空间,慢慢消耗组织内生的活力。任何一件复杂的事务,都有灰色地带、突发变数、需要临场权衡的场景。如果所有环节都被指标、台账、实时上报层层框定,大家的精力会从 “解决真实问题” 转向 “满足系统指标”,这也是工具异化的共性路径。
问题的根源,需要我们有一个清晰的判断:AI、数字化工具本身是中性的,它没有自主意志,不会主动去束缚、奴役任何人。工具走向赋能还是走向捆绑,决定性因素,是设计者、建设者植入其中的价值取向,是组织配套的考核导向。 一旦设计理念剑走偏锋,优先追求管控的确定性、考核的便捷性,而不是优先解决真实问题、守住人的基本边界,再先进的数字化系统,都会变成放大内卷的放大器。人和人之间的管理,尚有沟通、容错、弹性调整的空间;算法驱动的数字化管理,执行标准统一冰冷,那些模糊、隐性、很难量化的人文边界,很容易在这套流程里被抹平。
顺着这个逻辑,我们可以直面两层递进的深层矛盾。
第一层,是就业转型的现实矛盾。黄仁勋访谈里的乐观叙事,有一个很容易被忽略的前提:岗位的市场需求持续扩容,同时风险、决策权、法定责任牢牢保留在人的手里。医疗影像行业刚好满足这个条件:老龄化持续推高影像检查的总量,法规上明确 AI 不能独立承担诊断责任。但大量标准化岗位并不具备这个前提:标准化制图、批量内容处理、重复性台账、常规核查,责任链条弱、市场增量有限。AI 把单人效率放大数倍之后,旧岗位消失的速度,常常快于新岗位生长的速度。K 型分化随之而来:财富持续向掌握算力、数据、模型、资本的群体汇聚;依靠标准化劳动换取报酬的从业者,议价空间不断收窄。我们沿用多年的 “劳动换取报酬” 的循环,正在被新一代生产力持续冲击。
第二层,是更加细思极恐的长期追问:如果沿着管控优先的路径持续演化,智能化会不会慢慢形成一套自我闭环的运行秩序?我们自以为手握设计权、是系统的主人,久而久之,人仅仅变成这套智能循环里面,负责采集信息、标注反馈、校准现实偏差的供给单元。
太多美好的愿景,走着走着就容易变味。我们翘首期盼技术带来解放,这份曙光,会不会只是一种幻觉,更深的束缚反而层层笼罩?
我们需要区分两类风险,不能混为一谈。
当下我们感受到的被裹挟、休息边界被持续侵蚀,本质上属于工具应用的异化:配套的制度、考核规则、人本约束机制,跟不上技术上线的节奏,是转型期的阵痛。这套系统的告警阈值、推送规则、考核权重、响应分级,理论上始终掌握在人的手中。我们完全可以建立分级响应的机制:涉及紧急安全、生命风险的事项,执行全天候响应,这是不可退让的责任底线;常规核查、台账补录、一般性调度,则限定在工作时段处置,非工作时段静默推送、不纳入负面考核。在数字化项目立项、验收的环节,把减负成效、工作边界保护,和业务成效、风险防控指标一并纳入评估。
更远一层,是 AI 目标对齐这个带有文明属性的长期难题。如果长期只把效率、产出、可量化指标作为系统唯一的目标函数,人的安宁、陪伴、闲暇、家庭幸福,因为难以数字化打分,权重会被持续压低。久而久之,组织的资源调度、人的时间分配,优先服务于系统迭代,而不是服务于人的美好生活。这已经不是简单调整考核细则就可以化解的,它是整个社会在拥抱智能时代时,需要持续思考、审慎选择的方向。
黄仁勋对 AI 风险的判断,恰好可以呼应这一层思考。他并不认同机器觉醒、主动作恶的末日叙事。在他看来,现实中最高发、最值得警惕的风险,来自目标设定偏差、权限边界失控。AI 是放大器:既可以放大风险识别、高效协同、精准处置的能力,同样也会放大组织里面偷懒式管理、唯痕迹论、重形式轻实效的弊病。钉钉 ONE 项目、飞书灯光下的内卷,就是这套放大效应提前上演的鲜活样本。
面对 AI 浪潮,我们不能走向两个极端。不要天真地相信技术天然向善,算力越强就自动带来解放,美好的未来会自动到来;也不能全盘否定数字化,退回信息闭塞、风险感知滞后、依靠人海盲跑的老路,放弃技术带来的巨大红利。
“人是数字化、智能化的主人”,从来不是写在方案开篇的一句口号,它不会自动兑现。它是一场漫长、持续、需要主动争取的博弈,藏在每一次平台需求梳理、每一组算法参数配置、每一轮考核规则修订、每一条告警分级机制的设计之中。
技术可以不眠不休,可以值守监测、跑算模型、完成初筛;但是定义目标、权衡矛盾、承担风险、守住人文边界这件事,只能由人完成。机器可以源源不断产出物资,但是分配规则、组织秩序、人的价值与意义,终究要由人类共同构建。
理想的人机关系,应当清晰克制:AI 承接枯燥、重复、海量、不间断的值守;人保有闲暇、思考、陪伴家人的空间,只在真正需要良知、综合智慧、重大决断的时候出场。
只是这条路,天然是费力的。顺着惯性滑向管控、内卷、唯数字考核,阻力最小;守住人的主体性,划定边界、校正导向、保留弹性与活力,是逆流而上的选择。恰恰是这种费力的坚持,才是我们拥抱 AI 时代,最该守住的初心。
往后,当我们启动任何一套数字化、智能化方案的时候,不妨反复问自己三个问题: 第一,这套系统,到底是为了解决真实风险、真实问题,还是仅仅为了产出可供考核、排名的数字痕迹? 第二,它有没有给使用者留下休息边界、熔断开关、免于无意义打扰的空间? 第三,这套系统最终服务的对象,是人更好的生活,还是系统本身的持续运转?
读完访谈、回望钉钉起落的故事,这三问,留给所有数字化的建设者、管理者共同思考。
文末小记:技术是舟,不是彼岸;AI 是助手,而非主宰。工具的温度,从来不在代码里面,而在写下需求、设定规则的人的心中。
互动留言: 在数字化协同、线上平台使用的过程里,你有没有体会过这种工具跑偏、被指标裹挟的感受?欢迎理性交流。