进阶岛--Lagent 自定义你的 Agent 智能体

What?

by https://github.com/InternLM/lagent

Lagent is a lightweight open-source framework that allows users to efficiently build large language model(LLM)-based agents. It also provides some typical tools to augment LLM…
The overview of Lagent framework

实操

系统环境(仅参考)

  • ubuntu 22.04
  • anaconda 4.5.11
  • GPU: Tesla V100-SXM2-32GB

环境配置

教程

https://github.com/InternLM/Tutorial/tree/camp3/docs/L2/Lagent 这篇教程写的很详细,流程概述如下

  • 新建一个conda环境用于实验
  • 装各种依赖包
  • git clone https://github.com/InternLM/lagent
  • 下载internlm/internlm2_5-7b-chat模型,并用lmdeploy部署
  • streamlit启动app并在网页端体验
    • 不做任何修改即可体验Arxiv搜索插件
    • 为了体验文生图插件,需要跟着教程对InternLM/lagent代码库做相应修改

注意事项

  • 如果streamlit能启动app,但运行时报这类错误ModuleNotFoundError: No module named 'griffe.enumerations', 检查下是否griffe版本过高, >=1.0.0的版本都会报这个错,我是回退到0.49.0解决的
  • 从网页端访问时,几个配置项必须填对
    • 模型名称
    • 模型IP
    • 插件选择

配置&运行过程截图

不做任何修改体验Arxiv搜索插件

终端–LMDeploy部署7b模型 & 启动Streamlit app

在这里插入图片描述

Web端–体验Lagent

在这里插入图片描述

修改代码,体验文生图插件

终端–LMDeploy部署7b模型 & 启动Streamlit app & git diff

在这里插入图片描述

体验文生图插件+Arxiv(动图😄)

在这里插入图片描述

opentelemetry-javaagent.jar 是一个用于自动化和 Java 应用程序的分布式跟踪的工具。我们可以使用自定义 instrument 来扩展其功能。 自定义 instrument 可以帮助我们实现一些自定义的行为,例如,我们可以在代码中插入额外的标记信息,或者在特定的函数或方法中加入额外的追踪逻辑。 要实现自定义 instrument,我们需要进行以下步骤: 1. 创建一个 Java 类,并继承 `OtelInstrumenter` 类。这是一个由 OpenTelemetry 提供的接口,用于定义自定义 instrument 的行为。 2. 在该类中,我们需要实现 `applyInstrumentation` 方法。该方法会被调用来应用自定义的 instrument 到目标应用程序中。 3. 在 `applyInstrumentation` 方法中,我们可以使用 OpenTelemetry 提供的 API 来修改目标应用程序的代码,例如,在特定的函数或方法调用前后插入追踪代码。 4. 编译并打包自定义 instrument 的代码,并将其作为 `-javaagent` 参数传递给 `opentelemetry-javaagent.jar`。当目标应用程序启动时,这个自定义 instrument 会被加载和应用。 通过使用自定义 instrument,我们可以根据自己的需求对目标应用程序的代码进行修改和增强。这样,我们就能够更好地实现跟踪和监控,并获得更加详细和准确的跟踪数据。 总结起来,opentelemetry-javaagent.jar 提供了一种灵活和可扩展的方式来实现自定义 instrument。我们可以通过创建自定义 instrument 类,并在其中实现特定的逻辑来修改目标应用程序的代码,从而实现更精确和详细的分布式跟踪。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值