Skip to main content

编排模式

“Harness”是围绕 @llm_chat Agent 的代码,负责管理状态、上下文规划和编排。框架为你提供 ReAct 循环;你来构建让它达到生产级别的 Harness。

核心理念

Agent 不是人。它是一种为每个推理步骤构建正确上下文的方法。
Harness 工程师的职责:
  1. 确保模型在每一步都看到最短且完整的上下文
  2. 持久化状态,使会话可以确定性地恢复
  3. 将经验编码到环境中,而不是操作者的记忆中

模式 1:TUI 通用 Agent

来自 examples/tui_general_agent_example.py 的标准模式:
Harness 层(agent)包装核心 Agent 以实现:
  • 当上下文过大时注入压缩指令
  • 构建动态模板参数(环境检测、工作区信息)
  • 准备历史格式
  • 路由中止信号
  • 连接到 TUI

模式 2:上下文窗口管理

该模式无需手动干预即可保持上下文精简。

模式 3:动态环境块

通过模板参数注入运行时上下文:

模式 4:Supervisor Agent

由外层 Agent 将任务分派给专门的内层 Agent:
Supervisor 模式的优势:
  • 不同任务使用不同模型(廉价模型负责路由,高性能模型负责实现)
  • 每个专家有独立的上下文(各自从零开始)
  • 清晰的委托边界

模式 5:会话持久化

将历史记录持久化到外部存储以便恢复:

模式 6:自定义工具运行时覆盖

根据上下文动态调整 Agent 可见的工具集:

核心洞察

Harness 是上下文工程发生的地方:
  • 模型看到的 = 你放入模板参数、历史记录和工具结果中的内容
  • 模型遗忘的时刻 = 你未能进行压缩或持久化的时刻
  • 模型失败的原因 = 通常是缺少上下文,而非缺少能力
构建让正确上下文成为必然而非可选的 Harness。