编排模式
“Harness”是围绕@llm_chat Agent 的代码,负责管理状态、上下文规划和编排。框架为你提供 ReAct 循环;你来构建让它达到生产级别的 Harness。
核心理念
Agent 不是人。它是一种为每个推理步骤构建正确上下文的方法。Harness 工程师的职责:
- 确保模型在每一步都看到最短且完整的上下文
- 持久化状态,使会话可以确定性地恢复
- 将经验编码到环境中,而不是操作者的记忆中
模式 1:TUI 通用 Agent
来自examples/tui_general_agent_example.py 的标准模式:
agent)包装核心 Agent 以实现:
- 当上下文过大时注入压缩指令
- 构建动态模板参数(环境检测、工作区信息)
- 准备历史格式
- 路由中止信号
- 连接到 TUI
模式 2:上下文窗口管理
模式 3:动态环境块
通过模板参数注入运行时上下文:模式 4:Supervisor Agent
由外层 Agent 将任务分派给专门的内层 Agent:- 不同任务使用不同模型(廉价模型负责路由,高性能模型负责实现)
- 每个专家有独立的上下文(各自从零开始)
- 清晰的委托边界
模式 5:会话持久化
将历史记录持久化到外部存储以便恢复:模式 6:自定义工具运行时覆盖
根据上下文动态调整 Agent 可见的工具集:核心洞察
Harness 是上下文工程发生的地方:- 模型看到的 = 你放入模板参数、历史记录和工具结果中的内容
- 模型遗忘的时刻 = 你未能进行压缩或持久化的时刻
- 模型失败的原因 = 通常是缺少上下文,而非缺少能力