LLM的局限性
幻觉,时效性,可靠性,
什么是智能体:可以感知,思考推理,动作
- 输入目标任务。
- 将目标任务发送给执行客户端(Execution Agent),底层使用 GPT-4,只是这个执行客户端专门用于理解任务、拆分任务以及查询任务结果。
- 返回任务列表给任务创建客户端(Task Creation Agent),底层同样使用 GPT-4,会基于返回的任务结果再自主创建任务,这里就体现了自主性。
- 将自主创建的任务作为目标任务,递归调用实现 。
- 所有的任务会基于 GPT-4 进行优先级排序 。
- 任务返回的结果会作为上下文存储起来以用于下次任务的创建。
- 我们简单将其理解为递归调用。将其理解为模型堆叠:模型向下调用,即将一个模型的结果作为另一个模型的输入,然后一层层调用。
4 AutoGPT 体验入口与注意事项 项目地址:https://github.com/Torantulino/Auto-GPT
开源项目,可直接 clone 下来部署运行,部署的步骤在项目的 README.md 中非常详细,也很简单。
- AgentGPT
地址:https://agentgpt.reworkd.ai/
体验地址:https://github.com/reworkd/AgentGPT
开源项目,可以本地部署,与 Auto-GPT 效果基本一致
cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..
pip install -e . 是 pip 命令的一种使用方式,它表示在当前目录下安装一个可编辑包。具体含义如下:
pip 是 Python 的软件包管理器,用于安装、卸载和管理 Python 包;
install 是 pip 命令的一个子命令,用于安装 Python 包;
-e 表示使用可编辑模式安装包,即把包安装到当前目录,并且可以通过编辑包代码实时调试;
. 表示安装当前目录下的包。
因此,pip install -e . 的含义是:在当前目录下安装一个包,并创建一个软连接引用该包(而不是将包复制到 site-packages 目录下)。这个软连接是一个指向包代码的符号链接,它可以使包的修改直接反映到当前目录下的项目中,从而方便开发和调试。
需要注意的是,只有包含 setup.py 文件(Python 包的打包脚本)的包才能使用 pip install -e . 命令安装。另外,为了避免环境冲突,建议在虚拟环境中使用该命令。
基础作业
1.1 使用 LMDeploy 部署
由于 Lagent 的 Web Demo 需要用到 LMDeploy 所启动的 api_server,因此我们首先按照下图指示在 vscode terminal 中执行如下代码使用 LMDeploy 启动一个 api_server。
conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
--server-name 127.0.0.1 \
--model-name internlm2-chat-7b \
--cache-max-entry-count 0.1
1.2 启动并使用 Lagent Web Demo
conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860
完成 AgentLego 直接使用部分
RTMDet-Large 权重下载并推理完成后
进阶作业
完成 AgentLego WebUI 使用
使用 Lagent 或 AgentLego 实现自定义工具并完成调用
体验自定义工具效果
Lagent 自定义工具, 实现天气查询
获取 API KEY
为了获得稳定的天气查询服务,我们首先要获取 API KEY。首先打开 开发文档 | 和风天气开发服务 后,点击右上角控制台。(如下图所示)
输入相关项目名称,选择免费订阅,Web API 以及输入 key 的名称。(项目名称和 key 的名词自由输入即可,如下图所示)
有点问题,问的是松江,然后变成了江江。。。。。