今晚教你动手做出一个 Code Interpreter

▼最近直播超级多,预约保你有收获

今晚直播:基于从原理到实现教你做出一个 Code Interpreter

 1

怎么才能动手做出一个 Code Interpreter ? 

Code Interpreter 本质是一个 AI Agent,准备的说是 LLM Copilot Agent。它的核心能力是通过运行代码的方式完成用户的多模态 Prompt 请求。因此它有以下几个子能力构成。

第一、对用户输入的 Prompt 提示词进行规划拆解,并生成对应的可执行 Pyhton 代码;

第二、提供了对 Python 代码可以执行的沙箱 SanbBox 环境;

第三、对 Python 代码进行执行,并对代码执行异常进行处理;

第四、通过引入 Python 的语音库、图像库等,实现了多模态的支持。

4d3784584f78fb924d73c93b40df9603.png

需要重点强调的一点是,Code Interpreter 的推理引擎并不是 GPT-4,而是gpt-4-code-interpreter,这个大模型推理引擎是基于 GPT-4 通过大量 Python 代码微调(Fine-tuning)出来的新模型,此模型更擅长 Python 代码的生成。

那么怎么才能实现一个 Code Interpreter 呢?主要有以下几个核心步骤:

第一、架构设计,采用 LLM + Planning + Memory + Use Tools 的组合 Copilot Agent 架构设计,其中 LLM 选用 GPT 4 Turbo。

第二、支持 Python 代码运行,因此 Python 代码执行器采用本地的 iPython 运行环境或者云端的 CodeBox。

第三、Copilot Agent 的 Agent 框架,我们采用 LangChain 最新的 OpenAIFunctionAgent 框架。

第四、Planning 规划模块,我们采用类似人类对复杂问题思考拆解的 ReAct 模式(Thought-Aciton-Observation 模式)。

第五、Memory 记忆模块采用 Milvus 向量数据库来存储长期记忆数据,短期记忆数据我们直接存储在 Code Interpreter 内存里。

370ca0be52d27bec171800cc97a3fd6a.png

更详细的架构设计细节和代码实现,为了更充分给同学们讲解,今晚我会会开一场直播详细来剖析,请同学点击免费预约

总之,掌握好 Coder Interpreter 的技术架构和落地实现,对于 IT 人来说是一项非常重要的技能,它可以让您的 LLM 业务研发更高效和创新。

2

超干货 Code Interpreter 技术实战直播

为了帮助同学们掌握好 Code Interpreter 技术架构和落地实现细节,今晚20点,我会开一场直播和同学们深度聊聊:

    第一、Code Interpreter 应用场景解析

    第二、Code Interpreter 技术架构深度剖析

    第三、基于 LangChain 实现 Code Interpreter 

    第四、Code Interpreter 架构实践中的难点及解决方案

请同学点击下方按钮预约直播,咱们今晚20点不见不散哦~~

近期直播:基于从原理到实现教你做出一个 Code Interpreter

END

  • 10
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值