Langchain

本文详细介绍了LangChain的基础概念,包括prompt的标准化、ModelIO与PromptTemplate的使用,以及Retrieval、Chains、Memory和Agents模块的功能。还涉及了如何通过多种方式调用LLM、处理流式数据和存储向量。
摘要由CSDN通过智能技术生成

是参考知乎 鹅厂架构师的 文章

小白上手LangChain学习说明书(上篇)

langchain介绍

将LLM中的prompt通过函数调用进行标准化。

官方文档如何学习

langchain六个分类 

Model IO、Retrieval、Chains、Memory、Agents和Callbacks

Model IO

prompt

两种不同的 prompt :

Propmpt template :根据接口将prompt格式化

和 Selectors:按照不同的条件选择不同的提示词

模板格式

f-string

jinja2

Propmpt Template

基本提示模板

部分提示词模版:

自定义提示模板:官方给了创建一个给定名称函数的英语解释例子

少量提示模板:就是few-shot

独立化prompt

Selectors

如何用代码实现筛选提示词

总结

主要介绍了常用的构建prompt的方式

LLM

如何调用

有单个调用

批量调用

异步接口调用

自定义语言模型调用

大预言模型的调用测试

跟踪token的使用i情况

 序列化配置大语言模型:将模型运行的系数保存在配置文件中以便下次运行加载

流式处理

OutputParasers

列表解析器

日期

枚举

自动修复解析器

Retrieval:检索

向量数据库

存储方式

高维记录

通过乘积量化将高维向量分解为多个子向量,然后用聚类将每个子向量分成簇

突破方向 

检索方式

检索变成了最近邻问题

DataLoaders

如何用代码加载不同类型格式的文本文件

文本拆分DataTransformers

文中提到的工具为langchain提供的RecursiveCharacterTextSplitter类

向量检索应用

Memory

多轮对话信息 拼接

Memory的基本实现原理

有三种方式

buffer

所有历史存储ConversationBufferMemory

截断窗口存储ConversationBufferWindowMemory

通过token限制

summary

调用ConversationSummaryBufferMemory这个api进行对话总结

vector

Chains

LLMChains

单输入输出

多输入单输出

多输入多输出

RouterChains

进行内容选择

Agents

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值