书生·浦语大模型第二期实战营第三课笔记+作业

1. 笔记

RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。

RAG overview

拉取环境,studio-conda命令网上没搜到,估计是谱语自己的?

studio-conda -o internlm-base -t InternLM2_Huixiangdou

# 与 studio-conda 等效的配置方案
# conda create xxxx
# conda activate xxxx
# conda install  xxxxxxxxxxxxxx

数据库向量化的过程应用到了 LangChain 的相关模块,默认嵌入和重排序模型调用的网易 BCE 双语模型,如果没有在 config.ini 文件中指定本地模型路径,茴香豆将自动从 HuggingFace 拉取默认模型。

作业1 Web版使用

简单上传文件而后直接询问即可,如果遇到文件上传不上去,可以尝试切换浏览器。

image-20240421130637268

image-20240421131812424

image-20240421131929202

附一个问gpt4

image-20240421132012697

作业2 开发机使用

按教程运行茴香豆:

image-20240421124435106

image-20240421124403664

  • 6
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值