AgentKit: 快速构建高质量AI代理应用的全栈启动套件

AgentKit简介

AgentKit是由BCG X开发的一款基于LangChain的启动套件,旨在帮助开发者快速构建高质量的AI代理应用。它为开发者提供了一套完整的工具和框架,使其能够:

  1. 通过漂亮的UI快速实验受约束的代理架构
  2. 构建可扩展到生产级MVP的全栈聊天式代理应用

AgentKit的主要优势包括:

  • 🚀 快速构建高质量代理应用: 利用基于FastAPI/Nextjs的模块化、易配置技术栈和实用的GenAI工具库,在几小时内构建出强大的演示应用。
  • 💻 为代理设计的灵活、响应式UI/UX: 基于React/Nextjs的聊天式UI易于配置,具有流式传输、表格/可视化/代码渲染、代理操作状态等功能。
  • 🛡️ 注重可靠性: 易于配置的路由架构可控制代理可能采取的路径,提高可靠性,适合实际使用场景。
  • 📈 可扩展设置: 具备队列管理、身份验证、缓存、监控等功能,可扩展至MVP。

AgentKit logo

技术栈

AgentKit基于最新技术,以实现最佳性能、安全性和开发体验:

  • 💫 Nextjs 14 with tailwind and daisyui
  • 🔥 Python 3.10 with fastapi, sqlmodel and pydantic 2.x
  • 🦜 Langchain and Langsmith端到端配置
  • 🗝 身份验证: NextAuth集成FastAPI
  • 🥬 Celery和redis用于长时间运行的任务、缓存等
  • 💾 带pgvector扩展的本地Postgres
  • ⬆️ Docker-compose用于简单部署和开发体验
  • 🖍 预配置的代码检查、测试和预提交钩子

需要注意的是,这是一个启动套件 - 对于生产部署,建议添加企业级安全功能。特别是在使用LLM时,要注意已知风险,如提示注入。

快速开始

要快速设置AgentKit,请按以下步骤操作,后端和前端应用都在Docker容器中运行:

先决条件

安装步骤

  1. 克隆包含后端和前端应用源代码的存储库。

  2. 复制frontend/.env.example文件并重命名为.env。同样,复制根目录中的.env.example文件并重命名为.env

    • 将OPENAI_API_KEY和OPENAI_ORGANIZATION更改为您自己的(注意:OPENAI_ORGANIZATION应为您的OpenAI 'Organization ID')
  3. 在终端中,导航到克隆存储库的根目录。使用以下命令构建并启动Docker容器:

docker-compose -f docker-compose.yml up -d

等待容器构建和启动,这可能需要几分钟,具体取决于您的系统。容器启动并运行后,您可以在浏览器中访问 http://localhost 来使用应用。

Chinook音乐数据库演示

  • 如果Docker容器正在运行,请运行docker-compose down --volumes
  • 按照上述安装说明进行操作,但将docker-compose.yml替换为docker-compose-demo.yml来运行应用
  • 尝试输入提示"数据库中有多少艺术家和歌曲?"来体验AgentKit的功能!

您还可以查看更高级的演示构建,请参阅教程

设置您自己的应用

  • 配置您的代理和工具 链接
  • (可选) 根据您的用例调整UI 链接
  • (可选) 使用LangSmith设置评估 链接

工作原理

可靠性

AgentKit试图通过将代理可能采取的潜在路径限制为预先配置的路径集(称为行动计划)来解决ReAct代理等代理的可靠性问题。由于在许多用例中,代理可能采取的潜在路径是已知的,我们可以利用人类的领域专业知识来引导代理朝正确的方向发展,减少其进入意外方向或陷入死胡同的可能性。这是通过将元代理行动计划相结合来实现的:一组线性和并行执行的工具,类似于链。元代理接收用户提示并输出最适合生成答案的行动计划。注意:可以实现多个元代理,生成可能路径的树。

用户体验

为了优化用户体验,可以向用户显示行动计划中每个步骤的中间输出。例如,考虑一个由2个工具集组成的行动计划:[[sql_tool, pdf_tool], [generate_summary_tool, visualize_tool]]。在第一个操作步骤中,并行检索SQL数据库和嵌入PDF的向量数据库中的信息。一旦第一个操作步骤完成,检索到的数据和最相关的PDF就会流式传输到UI。在第二个操作步骤中,步骤1的输出被传递给一个生成文本摘要的工具和一个从数据创建JSX可视化的工具,这些内容被流式传输到UI以创建最终答案。

AgentKit framework

附加可选功能

AgentKit还提供了一些额外的可选功能,以增强应用的功能和用户体验:

  1. 反馈集成: 从用户收集对生成答案的反馈

    Feedback

  2. 用户设置: 允许用户在应用中指定默认设置,这些设置可用于为用户自定义提示

    Settings

  3. 用户认证: 在您的应用中启用NextAuth,以通过Github或电子邮件/密码对用户进行身份验证

    Authentication

有关这些可选功能的更详细信息,请参阅可选功能文档

文档

您可以在这里找到托管的文档。主要内容包括:

支持与维护

AgentKit项目源于多个模板的组合。一个重要的灵感来源是fastapi-alembic-sqlmodel-async,它为FastAPI设置提供了基础。

非常感谢所有贡献者的努力,包括@kaikun213@drivian@ielmansouri等多位开发者。您可以在项目的GitHub页面上找到完整的贡献者列表。

如果您有兴趣为AgentKit做出贡献,请阅读CONTRIBUTING.md以了解更多详情。我们欢迎PR ❤️

许可证

AgentKit项目采用MIT许可证

总之,AgentKit为开发者提供了一个强大、灵活且易于使用的工具包,用于构建高质量的AI代理应用。无论您是想快速构建演示应用还是开发可扩展到生产级别的MVP,AgentKit都能为您提供所需的工具和框架。通过其模块化设计、注重可靠性的架构和丰富的功能集,AgentKit有望成为AI代理应用开发领域的重要工具。

文章链接:www.dongaigc.com/a/agentkit-quick-build-quality-ai-apps
https://www.dongaigc.com/a/agentkit-quick-build-quality-ai-apps

https://www.dongaigc.com/p/BCG-X-Official/agentkit

www.dongaigc.com/p/BCG-X-Official/agentkit

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值