DC娱乐网

Agent Loop 就是个"大模型调工具”的循环?其实还有很多事情要做 我在

Agent Loop 就是个"大模型调工具”的循环?其实还有很多事情要做

我在写 Covonaut 的 Agent Loop 时,光是让它稳定跑下去,就费了不少功夫。几个绕不开的点:

轮次上限:不设上限的话,Agent 可能能会一直空转,等把 token 烧完了才可能被发现。
上下文自动压缩:对话长了要做 compaction,默认到窗口 80% 就触发,不然可能因为撑爆上下文报错。
失败重试:模型偶尔抽风返回 429,所以做了指数退避策略的重试机制,不加重试的话健壮性会差很多。
推理预算(thinking):支持原生推理的大模型,基本都支持控制推理投入,省 token 也能控质量。
多模态内容块:文本、图片、推理过程要分块、流式聚合,不是简单拼字符串。
画流程图炫技看着挺唬人,真正费劲的,是这些没人爱写、但缺了就跑不稳的细活。

做 Agent 的朋友这几条建议先收着,能避免走不少弯路。

全能 Go Agent 框架 Covonaut 的 Github 仓库是 covoyage/covonaut。