DC娱乐网

硅谷真相:企业AI没法评估,开源模型不敢用 Box CEO Aaron Levi

硅谷真相:企业AI没法评估,开源模型不敢用
Box CEO Aaron Levie 最近和银行、媒体、保险、咨询等行业的20多位技术负责人聊了一圈企业 Agent。

几个观察很有意思:
1️⃣ 多模型正在成为常态
大企业很难统一到一个模型。不同团队、不同场景各有所爱。
但有意思的是:依然集中在少数几家头部闭源厂商,开源反而不敢用。
过早 All in 某个模型,可能反而是一种风险。

2️⃣ Agent带来了新的身份和权限问题
现在要回答的问题:这个Agent是谁?代表谁?能干什么?出了事算谁的?
Agent Identity、权限、审计,很可能成为新的基础设施。

3️⃣ ⭐️ 最大的ROI,不是给旧流程加AI
真正高ROI的企业,不是在原来的10步流程里塞两个Agent,而是直接把10步变成3步。

Agent真正改变的不是效率,而是工作本身。

4️⃣ 企业AI开始变成组织问题
谁来重新设计这些流程,IT?业务?AI团队?
一种有效模式是把FDE直接嵌入业务部门。

未来稀缺的是同时懂业务、流程、数据和Agent工程的人。

5️⃣ 企业正在“无情换架构”
“我们试了X,不行,现在换Y”这样的故事越来越多。
AI变化太快,企业已经不愿意等供应商慢慢追上。
而在 SaaS 时代选完型后,一般都会用很久。

6️⃣ ⭐️ Evals还是巨大空白
很多企业已经部署Agent,却回答不了一个问题:它到底做得好不好?

越来越觉得,Evals会成为AI时代的Observability。没有持续评测,Agent规模越大,风险越大。

7️⃣ 遗留系统成为阻碍

数据散落在CRM、ERP、文档、审批和各种老系统里。
不是Agent不会干活,而是:企业的软件和数据,从来没有为Agent准备过。

8️⃣ 安全会成为长期主题
Agent越有用,就需要进入越多系统、拥有越多权限。而权限越大,风险也越大。

把这8点连起来,会发现一个很明显的变化:企业AI的竞争,正在从“模型能力”转向“企业改造能力”。

模型会越来越强。真正拉开差距的是:你的流程、数据、架构和组织,接得住这么强的AI吗?

企业AI AIAgent Agent 人工智能 大模型 AI落地 硅谷观察 AI趋势 AaronLevie