定义
LLM开发框架,它把AI程序开发中的常见操作,封装成API了,进而将AI程序的开发标准化,提升构建大语言模型相关软件的效率
组成
Prompts
提示词,我们给大模型的输入文本
Chains
链式操作:当我们多次对话时,后面的对话内容依赖于前面的对话结果,就可以用chain可以把它们串起来
例如:
①请你告诉我,中国最大的湖在哪个地方
②我想要去这个地方旅游,请根据这个地方的地理位置和气候,给出一份旅游建议
第②个操作的结果是依赖于第①个的,就可以用chain把他们串起来
其实有点类似于设计模式里的责任链模式
最简单的,一般问答直接使用qa_chain就可以了
data augmented generation(数据增强生成)
也就是AI生成器(用的哪个大模型)
它可以是open-ai的gpt模型,也可以是自己部署的chatGLM,或者llama模型等
agents
可以把其他工具和lang chain结合起来使用,比如结合python脚本跑python代码,或者结合搜索引擎来搜索,结合计算器来做计算
Memory
记忆/知识
短期记忆
也就是多轮对话的上下文
长期记忆/知识
两种方式实现:①微调②询问大模型时,把知识也写到prompts里面