第三节课笔记

1. 大模型开发范式

大模型的局限性

• 仅仅包含训练时间点之前的数据，无法回答更新的知识，且训练成本很高。
• 回答问题只有广度没有深度。
• 非定制模型解决客户需求能力受限。

核心大模型开发范式

• RAG：检索、增强、生成

方式：模型外挂知识库提高大模型知识备。

局限：单次回答有限总结性回答表现不佳

• Finetun: 微调

特点：对回答风格模拟特别好，对算力要求高。

2.LangChain简介

首先加载各类格式本地文档->统一转化纯文本->分割成Chunk->准换为词向量存到Chroma数据库->将用户输入转化为同纬度向量->进行相似度对比->将相关文本段嵌入prompt->大模型回答

3.构建向量知识库

4.搭建知识库助手

问答性能有局限

5.Web Demo部署

6.动手实践