Skip to main content

可观测性

SimpleLLMFunc 集成了 Langfuse,用于追踪 LLM 生成、工具调用和 Agent 会话。

设置

1. 安装(已包含在 SimpleLLMFunc 中)

Langfuse 客户端已内置,无需额外安装。

2. 配置环境变量

3. 正常使用即可

配置完成后,追踪是自动进行的。每次被 @llm_function@llm_chat 装饰的调用都会创建:
  • 一个 Trace,对应完整的调用生命周期
  • Generation 记录,对应每次 LLM 调用
  • Span 记录,对应每次工具执行

追踪内容

Trace ID

每次调用都会获得一个唯一的 trace_id,贯穿所有嵌套操作:

自定义 Trace 名称

Trace 名称默认为被装饰函数的函数名。可通过以下方式覆盖:

刷新

观测数据会被批量异步发送。在关闭时可强制刷新:

禁用

设置 LANGFUSE_ENABLED=false 或不配置密钥即可。框架会优雅降级——不会报错,只是不产生 trace。

日志级别

独立控制框架日志:
可用级别:DEBUGINFOWARNINGERRORCRITICAL 仅在排查框架行为时使用 DEBUG。生产环境推荐使用 WARNING 作为默认级别。