很多人聊 Agent,第一反应都是 Prompt、模型、Function Calling、MCP 这些。但真要让 Agent 稳定上线,靠的其实不是某个模型有多强,而是模型外面那一整套 Harness。一个成熟的 Agent Harness,一般由八个关键部分组成。
会话管理器管用户会话和上下文生命周期,多轮状态怎么维护、什么时候清理,都是它的事。任务编排器负责拆解,把复杂目标拆成一步步可执行的动作,决定下一步做什么、该调什么能力。提示词与策略层管 System Prompt、业务规则、角色设定和上下文拼装,不同任务用不同策略。工具路由器连接 LLM、内部 API、外部工具、数据库和知识库,还得判断什么时候该调哪个工具。记忆/状态存储负责长期记忆、任务状态、用户偏好和中间结果,让 Agent 不至于一问一答就断片。安全与护栏包括权限控制、输入输出审核、工具调用限制和敏感操作拦截。执行运行时是真正干活的地方,推理、工具调用、重试、超时、并发、异步任务都在这里跑。可观测性/日志记录 Prompt、模型响应、工具调用、Token、延迟、异常和任务链路,线上排障和优化全靠它。
光有这八个还不够,一套成熟的 Agent Harness 通常还得配上评测框架、监控与指标、配置与密钥管理、CI/CD。这些东西看着不起眼,但缺了哪一个,系统都很难真正跑稳。
所以我的感受是:Agent 工程不是接个大模型 API 就完事。你得在模型外面搭一套能编排、能执行、能观测、能评测、能治理的运行系统。模型决定 Agent 的能力上限,Harness 决定它能不能稳定工作。如果你正在做 AI Agent、Agent Platform 或者企业智能体,这套架构可以直接拿来当设计 Checklist 用。
