【大模型/评测】近期大模型发布与评测要点如下:
《在日子还能过的时候,人还能做什么》 ——回应上一篇《AI 时代的人类自主权之死》 上一篇说,最坏的结果不是机器统治人类,而是人类自主性丧失。这一篇回答:在“日子还能过”的时候,人还能做什么。思路很直接——让代价回到决策桌上,给指标装刹车,禁止自己给自己发合格证,保留能停的能力。虽然不能消除最坏结果,但能争取减少这个坏结果的概率。 一、让代价回到决策桌上 P1 的失效,是目标漏了代价。AI 在许可空间里选最省力的路,副作用落在目标函数之外,落在别人身上。 1. 副作用强制披露。 AI 上线前除合规审查外,须评估高效路径会把代价转给谁。推荐算法把“用户停留时长”做到极致,代价是注意力碎片化、青少年睡眠被挤占——这些要写进评估项,不能是不违法就可以做。 2. 代价承担者参与目标评审。 受显著影响的群体对目标设定有否决权,而不只是事后投诉。外卖平台 AI 优化配送时长,骑手和沿线居民要有代表参与规则评审;信贷 AI 优化通过率,被拒贷群体要有申诉与参与评估的通道;医院分诊 AI 优化周转率,患者代表和一线医护要能叫停。 3. 对“最省力路径”制度性怀疑。 高效路径若系统性绕开产品改进、转向榨取或套利,本身即风险信号。企业 AI 发现“把合规成本转嫁给供应商”比“改进工艺”更省力,这种路径要被标记,而不是被当作效率成就。 二、给指标装刹车和备份 P2 的失效,是代理目标与真实目标偏差,尤其人类依赖AI能力退化。 1. 保留无 AI 冗余。 电网、物流、医院分诊保留人工接管能力,定期实操演练。医院每季度做一次“断掉分诊 AI、纯人工分诊”的演练;电网每年做一次“调度 AI 离线、人工顶班”的压力测试。不停留在纸面。 2. 反向审计代理指标。 定期测“离开 AI 后的任务完成度”“独立决策能力”。导航 AI 用户每年做一次“无导航找路”测试;AI 助手用户测“无建议情况下独立完成决策”的比例。作为满意度的对冲指标。 3. 默认选项可逆。 每个“同意”可撤回,撤回后系统行为可预期。推荐流关掉后首页回到时间序,不是换个算法继续推;自动续费取消后不能藏入口;AI 代填的表单要能一键退回手动模式。 三、禁止自己给自己发合格证 P3 的失效,是规则制定权被竞争结构扭曲。头部企业不能同时是规则制定者、能力评估者和被评估者。 1. 评估能力去集中化。 美国几家头部大模型公司若既参与监管标准起草、又承担技术可行性评估、又是被评估对象,就等于自己给自己发合格证。评估机构与受评企业股权、合同、人员往来强制隔离;监管评估由公共评测池或多家无利益关联方交叉执行;企业自评报告只能作参考,不能作结论。 2. 保留低成本退出通道。 关键系统保留互操作性和可替换性。政务、医院、电网的 AI 模块采用可替换接口,换掉一家供应商不至于系统停摆;数据格式开放,迁移成本可控。 3. 公开透明可追责。 AI企业的技术评估要公开、可申诉、可追责。评估机构须公开与受评企业的股权、合同关系;评估结论附异议通道;偏袒被证实要有实质后果,不是发个声明了事。 四、保留“能停”的能力三层的共同前提,是人还能按暂停键。 1. 降级预案可验证。 关键基础设施 AI 有可验证的降级运行预案,定期演练。城市交通 AI 每年一次“全人工调度日”,验证没有 AI 也能运转。 2. 重大变更设分阶段闸门。 某类 AI 全面嵌入社保、医疗、教育前,先小范围试点,设独立评估节点,不一次到位。 3. “不采用”是正当选项。 学校、医院可以选择不部署某类 AI 而不被扣“落后”帽子;公共采购里保留“不采购 AI 方案”的合规选项。 五…
给大家带来 DeepSeek-v4.1-Flash-1017 的实测! 说实话这是一个你绝对不能错过的模型, 因为它的能力提升非常大, 我测下来后端 Agentic Coding 和前端能力真的跟官方说的许愿式编程差不多了. 但是在我测试中也发现了一个问题, 它的 Agent 能力似乎被训练得过于抠门了 (表现就是如果做事情有代价, 倾向于不做). 不知道是不是为了适配 DSH 调整成这样的. 但是这个表现跟上一个 flash 版本可是一点也不一样了, 所以用 flash 接到自己的 Agent 框架里的同学, 一定记得单独做适配, 否则大概率会翻车. 详情请看视频. HOW I AI号迎新计划deepseekflashdeepseekv41flash1017deepseek
💡 训练100B参数大模型,每小时只需1.25美元? Orion-100B项目证明了低成本训练大模型是可行的——使用16个流水线并行阶段、商品化硬件和开放互联网数据,成功训练了一个1000亿参数