LLM 可观测性的探索与思考

近两年来，**LLM（Large Language Model，大语言模型）**以极快的发展速度改变着我们的工作和生活。它们能够理解复杂的语境，生成流畅且富有创造力的文本、代码、音乐、视频等内容，在某些情况下甚至能展现出接近人类的推理能力。

不过，虽然 LLM 展现出了卓越的计算能力，但其背后有一个十分重要的问题：**模型的运行就像是在黑盒中进行一般，很难被外部理解和验证。**这种不透明性很可能引发大众对模型可靠性、偏见和潜在错误的担忧。

因此，企业需要 **LLM Observability（大语言模型可观测性）**来展示和监控模型内部工作机制，确保 LLM 能够在各种应用场景中安全公正地运行，为企业提供性能监控、成本控制、透明度提升和故障排除等多方面的价值，帮助企业优化模型性能，提升系统稳定性，推动技术创新，实现更加智能和高效的业务应用。

▍LLM 可观测性的意义

**可观测性（Observability）的概念来源于几十年前的控制论，近年来在软件开发和运维领域得到了长足发展。目前，它在该领域内的定义为通过收集和分析系统产生的数据（如日志、指标和调用链）**来理解系统内部状态的能力。

**对于 LLM 而言，可观测性代表从外部理解模型做出特定决策的过程。**通过 Prompt 输入输出交互信息、Token 消耗、模型响应时间、异常错误、Agent workflow和用户反馈等信息，完成对模型内部工作机制的深度洞察。

LLM 可观测性不仅能够提高模型的透明度，还能够及时发现并纠正潜在的问题，确保模型的安全及准确性，减少错误，提高用户信任，从而推动人工智能技术走上安全且可持续发展的道路。

▍LLM 可观测性实践的思路

与系统可观测性在 DevOps 体系里的作用类似，LLM 可观测性也在 LLMOps 体系中发挥自己独特的重要作用。正如上文提到的内容，LLM 可观测性能够给予人工智能技术十分有益的贡献。

数据采集是可观测性的前提与核心，为了落实 LLM 可观测性，我们具体应该关注哪些方面？

Part.1

Prompt 输入输出交互信息

与分布式应用系统的字节码注入、代码剖析等开发视角不同，LLM 系统所产生的数据类型更加偏向上层应用和用户视角。

无论是直接调用外部的模型（如 OpenAI/Claude ），还是调用本地私有化部署的模型（如 Llama ），Prompt 都是和模型交互的唯一入口。

因此， Prompt 输入输出信息的记录和采集非常重要。

Part.2

Token 消耗

Token 是模型处理文本数据的基本单元。对于模型推理来说，所需要处理的 Token 越长，所消耗的资源也就越多，响应速度也就越慢。

因此，Token 消耗的记录和采集也是必不可少的，一来这涉及到外部模型的计费（没有企业想面对天价账单），二来也对本地模型的性能优化有影响。

合理地优化 Token 的大小，就可以保证模型的效率、性能、准确性和费用之间的平衡状态。

Part.3

模型响应时间

与 Token 消耗类似，模型响应时间也是衡量模型性能的重要指标。记录和采集模型响应时间，能够帮助企业及时发现性能瓶颈，并制定优化方案。

Part.4

Agent workflow

分解复杂任务，让多个智能体（Agent）完成特定工作，实现 Agent 间的协同工作——随着 LangChain 这类 LLM 应用开发框架的流行，Agent workflow 已经成为 LLM 应用开发的主流模式，因此评估 Agent workflow 的性能就非常必要了。

进行 Agent workflow 性能评估，一方面需要考虑每个 Agent 的性能是否存在瓶颈或故障，另外一方面需要掌握整个 workflow 的调用链（Trace）的调用情况是否存在延迟或阻塞。

通过两方面的考察，共同了解 Agent workflow 的运作情况，提升工作效率和质量，带来全面的效益提升。

Part.5

用户反馈

即使上述内容都已详尽记录，大模型仍然有很大概率出现胡言乱语的情况，因此也要验证回答内容的准确性。

不管是人工标注还是模型交叉验证，都要精准理解用户的需求和期望，优化和迭代模型性能，提升用户体验。

▍面临的挑战与机遇

实现 LLM 可观测性，首先面临模型复杂性、实时性监控等问题。

模型复杂性增加了系统的不透明性，使得理解和验证模型的决策过程变得困难，实时性监控数据的即时处理和分析难度，需要高效的算法和计算能力，二者对系统的响应速度、准确性和安全性提出了更高要求。

其次，由于 LLM 的复杂性，理解和解释模型的决策过程变得困难，可解释性分析也是实现 LLM 可观测性的重要挑战。

另外，定义适合 LLM 的综合性能指标也不容易，传统运维监控的评估方法主要侧重于系统的实时性能指标监控，如CPU使用率、内存使用情况、网络流量等，以及对系统运行状态的实时反馈。

然而，这些方法在评估大型语言模型时存在一定局限性，它们无法全面评估模型的准确性、生成文本的质量等更深层次的性能指标，可能导致监控的疏漏。

随着 LLM 在各种场景的应用普及，上述问题变得越来越迫切，解决这些挑战将对人工智能的发展和应用将产生极大的正面影响。

▍塞讯验证 Lighthouse

Lighthouse 是塞讯验证精心打造的可观测性平台，专注于为数字化转型的企业提供强大的数据洞察能力。

Lighthouse 全面覆盖了从 基础设施（ITIM）、网络性能（NPM）、应用性能（APM） 到 用户行为（RUM） 的全栈可观测（Full-Stack Observability） 解决方案。在新一轮 AI 的浪潮下，Lighthouse 不仅拥有强大的 LLM 可观测能力，保证 AI 应用安全可感知，也将深入结合客户业务场景，借助 LLM 的强大能力，提供更深层次的业务洞察。