️LangGraph实现基于管理者Agent的Multi-agent(多代理)

最新推荐文章于 2025-03-16 09:15:00 发布
最新推荐文章于 2025-03-16 09:15:00 发布
阅读量2.7k 收藏 11
点赞数 5
文章标签： 人工智能 深度学习 chatgpt 大模型 LLM Agent langchain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang9604/article/details/139435693
版权

Multi-agent

Multi-agent 翻译为多代理,在Agent中人们通常希望单个代理具备很高的职能与很强的推理能力,由于单Agent的能力受大语言模型限制与执行过程过于黑盒,没有足够精确的控制能力,应用效果往往达不到期望。多Agent则可以弥补这些缺点.

AotuGen是一个早于LangGraph出现的基于对话(Conversation)实现多代理的框架.而LangGraph是一个基于图论的多代理框架,在一个有向有环图中,节点可以是可执行函数或者runnable对象或者是一个Agent.与AotuGen的实现过程比较起来就复杂得多了.既要考虑图中的结构又要梳理图的逻辑.在实际应用中可能需要借助某些工具来梳理其中的关系(绘制图的物理模型与节点之间的关系).

在图的执行过程中借助langsmith可以更好的看到程序的执行过程与节点之间的关系

在LangGraph中实现多代理

使用LangGraph构建图比较简单,但在图中实现多代理,如何将Agent放入节点和如何实现节点间的方向关系以及图的状态机该如何定义是多代理的难点.

基于管理者的多代理

在多代理中,一个Agent只负责一件事情,那就是经过推理思考选择合适的工具进行解决问题(工具一般只配备一个).那么将这些Agent进行抽象看成是配备给管理者Agent的工具函数,管理者Agent通过推理思考选择合适的工具函数(Agent)进行解决问题,

再通过图的边将每个Agent与管理者Agent进行联系,每一次执行都要给管理者反馈,是否结束也是由管理者决定,这样就实现了一个简单的多代理.

具体实现

实现多代理必定要创建代理,那么先实现几个帮助函数来创建代理与代理节点

python
复制代码
#代理构造工具
def create_agent(llm: ChatOpenAI, tools: list, system_prompt: str):
    prompt = ChatPromptTemplate.from_messages(
        [
            (
                "system",
                system_prompt,
            ),
            MessagesPlaceholder(variable_name="messages"),
            MessagesPlaceholder(variable_name="agent_scratchpad"),
        ]
    )
    agent = create_openai_tools_agent(llm, tools, prompt)
    executor = AgentExecutor(agent=agent, tools=tools)
    return executor
#代理节点构造工具
def agent_node(state, agent, name):
    result = agent.invoke(state)
    return {"messages": [HumanMessage(content=result["output"], name=name)]}

使用create_openai_tools_agent代理构造方法,将必要的llm,prompt,tool作为参数传递给create_agent函数以及构建代理节点,"状态"将作为参数在图中进行流转传递执行工具函数与更新等操作.接下来就尝试构建这个图

  1. 创建图的状态机

状态接收一个消息并添加到消息列表中,同时还有一个next字段指定下一个节点.

python
复制代码
# The agent state is the input to each node in the graph
class AgentState(TypedDict):
    # The annotation tells the graph that new messages will always
    # be added to the current states
    messages: Annotated[Sequence[BaseMessage], operator.add]
    # The 'next' field indicates where to route to next
    next: str
  1. 创建Agent节点

创建Agent需要传入llm,tool,prompt等参数,再将Agent作为参数传入给Agent节点构造工具创建节点

python
复制代码
#构建图中的节点
research_agent = create_agent(llm, [tavily_tool], "You are a web researcher.")#创建一个代理,传入搜索工具
research_node = functools.partial(agent_node, agent=research_agent, name="Researcher")#通过partial函数,将代理和名字绑定在一起,创建出节点

partial 函数是 functools 模块中的一个工具函数，用于创建一个新的函数，该函数是对原函数进行部分应用（partial application）后得到的。部分应用是指固定函数的一部分参数，然后返回一个接受剩余参数的新函数。例如

python
复制代码
from functools import partial

def add(a, b):
    return a + b

increment = partial(add, 1)
result = increment(5)  # 等同于调用 add(1, 5)print(result)  # 输出 6

在这个例子中，partial(add, 1) 创建了一个新函数 increment，它是对原函数 add 进行了部分应用，固定了第一个参数为 1。然后，我们只需调用 increment(5)，即可得到等同于调用 add(1, 5) 的结果，即 6

  1. 创建管理者节点

管理者节点更像是一个超级大脑,指挥身体的各部分工作.

python
复制代码
#创建管理者节点
members = ["Researcher", "[tool_name]"]#成员列表,节点的名字
system_prompt = (
    "You are a supervisor tasked with managing a conversation between the"
    " following workers:  {members}. Given the following user request,"
    " respond with the worker to act next. Each worker will perform a"
    " task and respond with their results and status. When finished,"
    " respond with FINISH."
)
# Our team supervisor is an LLM node. It just picks the next agent to process
# and decides when the work is completed
options = ["FINISH"] + members#选项列表
# Using openai function calling can make output parsing easier for us
function_def = {#定义的一个路由函数,用于决定下一个节点
    "name": "route",
    "description": "Select the next role.",
    "parameters": {
        "title": "routeSchema",
        "type": "object",
        "properties": {
            "next": {
                "title": "Next",
                "anyOf": [
                    {"enum": options},
                ],
            }
        },
        "required": ["next"],
    },
}
prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system_prompt),
        MessagesPlaceholder(variable_name="messages"),#将历史消息存储到消息列表中
        (
            "system",
            "Given the conversation above, who should act next?"
            " Or should we FINISH? Select one of: {options}",#提示词,根据对话历史,选择下一个节点
        ),
    ]
).partial(options=str(options), members=", ".join(members))
  1. 设置管理者节点与普通节点

设置节点就正常使用add_node方法就行

python
复制代码
workflow.add_node("Researcher", research_node)#搜索节点
workflow.add_node("Coder", code_node)#编码节点
workflow.add_node("supervisor", supervisor_chain)#管理者节点
  1. 设置边的关系

所有的节点都要指向管理者节点,管理者节点有条件的指向其他节点

python
复制代码
#普通边
for member in members:#将所有的成员节点和管理者节点连接起来
    # 所有的节点完成工作后都需要向管理者节点进行反馈
    workflow.add_edge(member, "supervisor")
# 管理者节点根据结果的选择,选择下一个节点

#条件边
conditional_map = {k: k for k in members}
conditional_map["FINISH"] = END
workflow.add_conditional_edges("supervisor", #节点名称
                               lambda x: x["next"],#条件函数,根据输入的x,获取next字段的值也就是state中的next字段,state在这里被管理者节点更新
                                 conditional_map#映射关系,存储的下一个节点的信息
                                )
  1. 设置入口以及编译图

所有的输入都要经过管理者节点,管理者节点管理边的方向,所以入口节点就是管理者节点

ini
复制代码
workflow.set_entry_point("supervisor")#设置入口节点
#编译图
graph = workflow.compile()
  1. 运行图

LangGraph图在编译后同样是一个runnable对象,就可以使用invoke与stream方法执行.

arduino
复制代码
graph.invoke({"messages": [HumanMessage(content="LangGraph的最新信息")]})

完整流程

python
复制代码
import os
from dotenv import find_dotenv, load_dotenv
load_dotenv(find_dotenv())
OPENAI_API_BASE=os.environ['OPENAI_API_BASE'] 
OPENAI_API_KEY=os.environ['OPENAI_API_KEY'] 
TAVILY_API_KEY=os.environ['TAVILY_API_KEY']

#设置langSmith的环境变量
LANGCHAIN_TRACING_V2=os.environ['LANGCHAIN_TRACING_V2']
LANGCHAIN_ENDPOINT=os.environ['LANGCHAIN_ENDPOINT']
LANGCHAIN_API_KEY=os.environ['LANGCHAIN_API_KEY']

from langchain_openai import ChatOpenAI
from langchain_community.tools.tavily_search import TavilySearchResults
from langchain_core.tools import tool
from langchain_experimental.tools import PythonREPLTool
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain_core.messages import BaseMessage, HumanMessage
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.output_parsers.openai_functions import JsonOutputFunctionsParser
import operator
from typing import Annotated, Any, Dict, List, Optional, Sequence, TypedDict
import functools
from langgraph.graph import StateGraph, END

tavily_tool = TavilySearchResults(max_results=5)

python_repl_tool = PythonREPLTool()#Python交互工具

#代理构造工具
def create_agent(llm: ChatOpenAI, tools: list, system_prompt: str):
    prompt = ChatPromptTemplate.from_messages(
        [
            (
                "system",
                system_prompt,
            ),
            MessagesPlaceholder(variable_name="messages"),
            MessagesPlaceholder(variable_name="agent_scratchpad"),
        ]
    )
    agent = create_openai_tools_agent(llm, tools, prompt)
    executor = AgentExecutor(agent=agent, tools=tools)
    return executor
#代理节点构造工具
def agent_node(state, agent, name):
    result = agent.invoke(state)
    return {"messages": [HumanMessage(content=result["output"], name=name)]}

#创建管理者节点
members = ["Researcher", "Coder"]#成员列表,节点的名字
system_prompt = (
    "You are a supervisor tasked with managing a conversation between the"
    " following workers:  {members}. Given the following user request,"
    " respond with the worker to act next. Each worker will perform a"
    " task and respond with their results and status. When finished,"
    " respond with FINISH."
)
# Our team supervisor is an LLM node. It just picks the next agent to process
# and decides when the work is completed
options = ["FINISH"] + members#选项列表
# Using openai function calling can make output parsing easier for us
function_def = {#定义的一个路由函数,用于决定下一个节点
    "name": "route",
    "description": "Select the next role.",
    "parameters": {
        "title": "routeSchema",
        "type": "object",
        "properties": {
            "next": {
                "title": "Next",
                "anyOf": [
                    {"enum": options},
                ],
            }
        },
        "required": ["next"],
    },
}
prompt = ChatPromptTemplate.from_messages(
    [
        ("system", system_prompt),
        MessagesPlaceholder(variable_name="messages"),#将历史消息存储到消息列表中
        (
            "system",
            "Given the conversation above, who should act next?"
            " Or should we FINISH? Select one of: {options}",#提示词,根据对话历史,选择下一个节点
        ),
    ]
).partial(options=str(options), members=", ".join(members))

llm = ChatOpenAI()

supervisor_chain = (
    prompt
    | llm.bind_functions(functions=[function_def], function_call="route")
    | JsonOutputFunctionsParser()
)

'''构建图的状态机'''
# The agent state is the input to each node in the graph
class AgentState(TypedDict):
    # The annotation tells the graph that new messages will always
    # be added to the current states
    messages: Annotated[Sequence[BaseMessage], operator.add]
    # The 'next' field indicates where to route to next
    next: str

#构建图中的节点
research_agent = create_agent(llm, [tavily_tool], "You are a web researcher.")#创建一个代理,传入搜索工具
research_node = functools.partial(agent_node, agent=research_agent, name="Researcher")#通过partial函数,将代理和名字绑定在一起,创建出节点
#partial 函数是 functools 模块中的一个工具函数，用于创建一个新的函数，该函数是对原函数进行部分应用（partial application）后得到的。部分应用是指固定函数的一部分参数，然后返回一个接受剩余参数的新函数。

# NOTE: THIS PERFORMS ARBITRARY CODE EXECUTION. PROCEED WITH CAUTION警告信息
code_agent = create_agent(
    llm,
    [python_repl_tool],
    "You may generate safe python code to analyze data and generate charts using matplotlib.",
)
code_node = functools.partial(agent_node, agent=code_agent, name="Coder")

workflow = StateGraph(AgentState)
workflow.add_node("Researcher", research_node)#搜索节点
workflow.add_node("Coder", code_node)#编码节点
workflow.add_node("supervisor", supervisor_chain)#管理者节点

#创建边
for member in members:#将所有的成员节点和管理者节点连接起来
    # 所有的节点完成工作后都需要向管理者节点进行反馈
    workflow.add_edge(member, "supervisor")
# 管理者节点根据结果的选择,选择下一个节点

conditional_map = {k: k for k in members}
conditional_map["FINISH"] = END
workflow.add_conditional_edges("supervisor", #节点名称
                               lambda x: x["next"],#条件函数,根据输入的x,获取next字段的值也就是state中的next字段,state在这里被管理者节点更新
                                 conditional_map#映射关系,存储的下一个节点的信息
                                )
'''
    lamda x: x["next"]是一个函数,这个函数的作用是从输入的x中获取next字段的值
    这里的x是一个字典,包含了messages和next两个字段,也就是AgentState
'''

# Finally, add entrypoint
workflow.set_entry_point("supervisor")#设置入口节点
#编译图
graph = workflow.compile()

#执行图
res = graph.invoke({"messages": [HumanMessage(content="LangGraph最新资讯")]})
print(res["messages"][-1].content)

总结

多Agent在实现中要比单Agent的实现要复杂的多,但由于LangGraph还处于早期阶段,在后期发展中应该会把构建图的操作简化.AotuGen与LangGraph各自有各自的优劣,在实际应用或者学习中,需要根据需要进行选择

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

img

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

在这里插入图片描述

四、AI大模型商业化落地方案

img

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。
  • 内容：
    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
      - L1.4.1 知识大模型
      - L1.4.2 生产大模型
      - L1.4.3 模型工程方法论
      - L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
  • 内容：
    • L2.1 API接口
      - L2.1.1 OpenAI API接口
      - L2.1.2 Python接口接入
      - L2.1.3 BOT工具类框架
      - L2.1.4 代码示例
    • L2.2 Prompt框架
      - L2.2.1 什么是Prompt
      - L2.2.2 Prompt框架应用现状
      - L2.2.3 基于GPTAS的Prompt框架
      - L2.2.4 Prompt框架与Thought
      - L2.2.5 Prompt框架与提示词
    • L2.3 流水线工程
      - L2.3.1 流水线工程的概念
      - L2.3.2 流水线工程的优点
      - L2.3.3 流水线工程的应用
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
  • 内容：
    • L3.1 Agent模型框架
      - L3.1.1 Agent模型框架的设计理念
      - L3.1.2 Agent模型框架的核心组件
      - L3.1.3 Agent模型框架的实现细节
    • L3.2 MetaGPT
      - L3.2.1 MetaGPT的基本概念
      - L3.2.2 MetaGPT的工作原理
      - L3.2.3 MetaGPT的应用场景
    • L3.3 ChatGLM
      - L3.3.1 ChatGLM的特点
      - L3.3.2 ChatGLM的开发环境
      - L3.3.3 ChatGLM的使用示例
    • L3.4 LLAMA
      - L3.4.1 LLAMA的特点
      - L3.4.2 LLAMA的开发环境
      - L3.4.3 LLAMA的使用示例
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
  • 内容：
    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

学习计划：

  • 阶段1：1-2个月，建立AI大模型的基础知识体系。
  • 阶段2：2-3个月，专注于API应用开发能力的提升。
  • 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
  • 阶段4：4-5个月，专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

全套 《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

LangChain 2024 最新发布：LangGraph 多智能体工作流（Multi-Agent Workflows）
段智华的博客
01-27 3258
当我们谈论“多智能体”时，我们谈论的是多个独立的参与者，这些参与者由以特定方式连接的语言模型提供支持。每个代理都可以有自己的提示、LLM、工具和其他自定义代码，以便与其他代理进行最佳协作。什么是多个独立代理？这些代理是如何连接的？这种想法非常适合图表示，例如由LangGraph 提供的图表示。在此方法中，每个智能体都是图中的一个节点，它们的连接表示为一条边。控制流由边管理，它们通过添加到图的状态进行通信。注意：这里一个非常相关的概念是状态机的概念，我们明确地将其称为认知架构的一个类别。
超越单兵作战：多智能体 Multi-Agent System (MAS)---多智能体框架实战
丨汀、的博客
07-10 2217
超越单兵作战：多智能体 Multi-Agent System (MAS)
LangGraph入门（一）为什么要用LangGraph
qq_46094651的博客
10-14 4431
大语音模型LLMs是非常强大的，特别是LLMs与外部API或者检索数据库结合时，将使得的大模型如虎添翼。所以，在调用LLM之前或之后我们通常会插入一些控制流程。例如，经典的RAG结构，我们会先检索出与问题相关的资料，将资料作为输入prompt的一部分，传递给LLM来生成。又比如将输出的内容格式化，变成程序可以执行的参数，调用程序执行后续逻辑。通常，在这些流程控制被称链（chain），chain是LLM应用开发中常见的编程范式。每次chain的调用都会运行相同的控制流。
用LangChain还是LangGraph？官方终于站出来表态了
最新发布
Androiddddd的博客
03-16 1994
仅使用 LangChain仅使用 LangGraph同时使用 LangChain 和 LangGraph此外，你也可以将 LangGraph 的图结构编排能力与其他 Agent 框架（如微软的 AutoGen）结合，例如：将 AutoGen 的 Agent 作为 LangGraph 的节点LangChain 和 LangGraph 各有优势，选择合适的工具可能会让人感到困惑。那么，应该在什么情况下使用？线性任务（Linear Tasks）：文档检索、文本生成、摘要等预定义的工作流。
Multi Agent System学习笔记
纯月部落
11-03 3604
Ontology:本体　实体，Concept的集合Concept:例如一个Person  对象相当于domain modelThe general peer-to-peer intelligent agents approach permits to model systems that represent environment in which independent autonomo
LangGraph - Multi-agent network 多代理网络
AI工程化、开源分享、文档翻译、代码笔记
10-18 118
LangGraph - Multi-agent network 多代理网络
langchain入门系列之八 langgraph多agent示例
笑笑布丁的博客
08-30 1459
langgraph多agent系统示例
如何用LangGraph构建多Agent系统架构，收藏这一篇就够了！！
嘴巴吃糖了
10-26 1368
在这种架构中，我们添加个别Agent作为图节点，并提前定义Agent被调用的顺序，以自定义工作流。显式控制流（普通边）：LangGraph允许你通过普通图边显式定义应用程序的控制流（即Agent通信的顺序）。这是上述架构中最确定性的变体——我们总是提前知道接下来将调用哪个Agent。动态控制流（条件边）：在LangGraph中，你可以允许LLM决定应用程序控制流的部分。这可以通过使用条件边实现。一个特殊情况是监督者工具调用架构。
多代理编排（Multi-Agent Orchestration）：构建智能协作系统的关键技术
llm_way的博客
12-02 1426
多代理编排涉及对多个自主代理的协调，以达成共同的目标。在一个多代理系统中，每个代理都拥有独特的能力和角色。例如，在一个智能客服系统中，可能有专门负责解答常见问题的代理，也有处理复杂技术问题的代理，还有负责引导客户流程的代理等。这些代理虽然各自独立，但通过有效的编排，它们能够协同工作，共同为客户提供全面、高效的服务。与传统的单代理系统相比，多代理系统的优势在于其能够处理更为复杂的任务。复杂问题往往可以分解为多个子问题，每个子问题由最适合的代理来解决。
LLM-based Multi-Agent System
AI天才研究院
06-20 1521
随着人工智能技术的不断发展，基于大语言模型（LLM, Large Language Model）的多智能体系统（Multi-Agent System, MAS）成为研究的热点。多智能体系统通过多个智能体的协同工作，可以解决单一智能体难以应对的复杂问题。然而，传统的多智能体系统在处理自然语言理解、生成和交互方面存在一定的局限性。大语言模型的引入为多智能体系统带来了新的可能性，使其在自然语言处理（NLP）任务中的表现得到了显著提升。
Multi-agent System
09-20
挺不错的一本介绍multi-agent的书
multi-agent
11-26
multi-Agent systemAgent技术来源于分布式人工智能DAI领域。也有人将其翻为智能主体或智能体。
langchain中实现多Agent的利器-基于图论的️ LangGraph
瓦罗兰特顶级C位的博客
05-25 1305
LangChain中的智能体从数据结构的角度来讲等同于一个有向无环图,也就是说,chain在推理过程中无法被循环调用.而尽管AgentExecutor(代理执行器)支持'循环'.但是缺乏精确控制能力,时常发生失控陷入死循环的情况.
Multi Agent 多agent协同，不仅好玩还很实用，给你一个完整的demo
qkh1234567的博客
09-16 2077
定义：Multi-Agent系统是一种分布式人工智能模型，其中每个Agent都具有自主决策和交互能力。这些Agent可以分布在不同的物理位置或逻辑层次上，通过网络进行通信和协作。分布性：Agent可以分布在不同的物理位置或逻辑层次上，这使得系统能够更好地适应复杂、动态的环境。自主性：每个Agent都具有自主决策和执行能力，能够根据自身的知识、目标和环境信息做出独立的决策。
使用LangGraph构建多Agent系统架构！
JavaEdge全是干货的技术号
10-18 1395
Agent是一个使用大语言模型决定应用程序控制流的系统。随着这些系统的开发，它们随时间推移变得复杂，使管理和扩展更困难。Agent拥有太多的工具可供使用，对接下来应该调用哪个工具做出糟糕决策上下文过于复杂，以至于单个Agent无法跟踪系统中需要多个专业领域（例如规划者、研究员、数学专家等）。为解决这些问题，你可能考虑将应用程序拆分成多个更小、独立的代理，并将它们组合成一个多Agent系统。这些独立的Agent可以简单到一个提示和一个LLM调用，或者复杂到像一个ReActAgent（甚至更多！
大模型入门实战：通过 HuggingFace 调用 Llama3
python12345_的博客
01-10 1461
至此，我们成功演示了如何通过 Hugging Face 的 Transformers 调用 Llama 模型，并获取了模型的回答。但是如果你的需求只是简单地调用模型，而无需进行微调或复杂的部署，可以尝试使用 Ollama。它不仅操作更加便捷，还提供了开箱即用的 RESTful 接口，适合快速集成到生产环境中。下一篇，我将会讲解如何通过 Ollama 下载部署 Llama 模型并调用。
小学生也能听得懂的大模型 - Transformer 1
2401_85325557的博客
07-29 1265
参考 [小学生也能听得懂的大模型 Transformer 1]
总结：Multi-Agent框架
w2009211777的专栏
07-03 1626
二、Multi-Agent框架一、介绍最近开发项目遇到问答匹配的agent不对的问题，后来考虑方案是多个agent都去查看并处理，最终都给出答案，然后选一个最好的或者选TOP2作为返回。这个思路就涉及到了。本文主要介绍下。二、Multi-Agent框架MetaGPTAgentVerseAutoGenAgentsCamelXAgentChatDev。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值