[深入探讨Datadog Tracing：LangChain应用的APM优化指南]

最新推荐文章于 2024-10-02 10:53:34 发布

tt_jishu

最新推荐文章于 2024-10-02 10:53:34 发布

阅读量322

点赞数 3

文章标签： langchain python

本文链接：https://blog.csdn.net/tt_jishu/article/details/142666892

版权

引言

在现代应用中，性能监控和优化至关重要。Datadog的ddtrace库为LangChain应用提供了一种强大的APM（应用性能监控）解决方案。本文旨在介绍如何使用ddtrace集成LangChain以实现实时监控和性能分析。

主要内容

ddtrace集成的关键特性

Traces: 捕捉LangChain请求及其参数，帮助可视化操作。
Metrics: 捕捉请求延迟、错误及令牌/成本使用情况。
Logs: 存储每个操作的提示完成数据。
Dashboard: 将指标、日志和追踪数据结合为一个监控平面。
Monitors: 提供针对请求延迟或错误率激增的警报。

安装和设置

启用Datadog Agent的APM和StatsD，并设置Datadog API密钥。例如，在Docker中：

docker run -d --cgroupns host \
              --pid host \
              -v /var/run/docker.sock:/var/run/docker.sock:ro \
              -v /proc/:/host/proc/:ro \
              -v /sys/fs/cgroup/:/host/sys/fs/cgroup:ro \
              -e DD_API_KEY=<DATADOG_API_KEY> \
              -p 127.0.0.1:8126:8126/tcp \
              -p 127.0.0.1:8125:8125/udp \
              -e DD_DOGSTATSD_NON_LOCAL_TRAFFIC=true \
              -e DD_APM_ENABLED=true \
              gcr.io/datadoghq/agent:latest

安装Datadog APM Python库：

pip install ddtrace>=1.17

通过ddtrace-run命令前缀启动LangChain应用：

DD_SERVICE="my-service" DD_ENV="staging" DD_API_KEY=<DATADOG_API_KEY> ddtrace-run python <your-app>.py

编程方式启用

为了编程方式启用LangChain集成，需在首次导入langchain前调用patch_all()或patch(langchain=True)：

from ddtrace import config, patch

# 确保在调用patch()前配置集成
config.langchain["logs_enabled"] = True

patch(langchain=True)  # 追踪同步HTTP请求

配置

查看APM Python库文档获取所有可用配置选项。

日志提示与完成采样

启用日志提示和完成采样，通过设置DD_LANGCHAIN_LOGS_ENABLED=1环境变量。默认情况下，10%的追踪请求会生成日志。调整日志采样率参考APM库文档。

代码示例

from ddtrace import config, patch
from langchain import Chain

# 配置并启用LangChain集成
config.langchain["logs_enabled"] = True
patch(langchain=True)

chain = Chain(...)
response = chain.run("Hello, world!")  # 调用LangChain操作