Langfuse：用于 AI 应用观测与评估的平台

原站网页截图，页面可能随时间更新。

• 分类：AI 编程与 Agent
• 名称：Langfuse: Open Source Agent Evals & Observability
• 来源：langfuse.com

Langfuse 将追踪、监控、提示词、数据集、实验、评估和人工反馈放在同一套工作流中，帮助开发团队从生产运行数据出发定位问题、验证改动，并持续优化 AI 应用。

核心用途

Langfuse 面向使用大语言模型构建的应用和智能体。它可以记录层级化运行轨迹，覆盖模型调用、工具调用和检索步骤，并支持按用户、会话、成本、延迟及自定义元数据筛选。借助这些信息，团队能够了解一次请求经过了哪些环节，以及异常、变慢或成本升高可能发生在哪里。

评估与改进闭环

平台支持使用模型评审、启发式函数或人工复核来评估结果，既可以针对生产数据运行，也可以在实验期间执行。团队能够创建测试用例和回归数据集，对不同配置进行并排比较；人工标注流程则可用于复核轨迹并沉淀高质量数据。这样的组合适合验证提示词、模型或流程调整是否真正改善了应用表现。

提示词、实验与成本分析

Langfuse 将提示词与代码分离，支持部署和回滚，便于团队协作维护生产提示词。其 Playground 可用真实生产输入测试提示词并比较模型，实验功能则用于组织测试用例和对照结果。成本与延迟仪表板以及自动提醒，可帮助团队分析令牌消耗、运行时间和质量之间的关系；如果需要控制预算或响应时间，建议结合这些指标制定改动方案。

接入方式与部署选择

Langfuse 支持通过 OpenTelemetry 接入，也提供多种语言的原生 SDK，并兼容多个智能体框架和模型提供商。平台强调不绑定特定框架，另有多种集成可用于已有技术栈。需要自行管理数据和基础设施的团队，可以考虑使用 Docker Compose、Kubernetes Helm 或云基础设施模板进行自托管；平台同时提供 REST API、查询 SDK 和对象存储导出能力。

适合的使用场景

它适合需要调试生产轨迹、分析工具与检索链路、管理提示词版本、构建评估集或持续观察成本和延迟的开发团队。对于希望把观测数据接入脚本、持续集成流程或 IDE 智能体的团队，命令行工具、API 和 MCP 服务也可作为操作入口。若应用尚处于原型阶段，建议先从关键请求的追踪和少量测试用例开始，再逐步扩展到人工反馈与自动化评估。

访问网站 · 查看资料来源