书生大模型-基础岛1-书生大模型全链路开源体系

原视频:https://www.bilibili.com/video/BV18142187g5
大模型成为发展通用人工智能的重要途径:
由专用模型向通用大模型的转变。

发展历程

在这里插入图片描述在这里插入图片描述

书生·浦语2.0 概览

在这里插入图片描述

核心技术思路

基于数据质量进行迭代优化
在这里插入图片描述
可以使用开源的label LLM对数据进行标注
在这里插入图片描述

在这里插入图片描述
大海捞针实验:检测对于超长上下文,准确定位所需信息的能力
之前需要进行RAG,对问题和文档分块,进行向量化并匹配,在跨文档需求、逻辑推理、超长文档方面存在不足
可能是一个可以替换RAG的方向。
在这里插入图片描述
模拟人的解决思路,分析问题,收集并整合信息
MindSearch项目:搜索100+网页
在这里插入图片描述
不同规模的InternLM模型
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
预训练:提高性能,节省硬件成本
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
大模型性能评价体系:OpenCompass
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
模型部署:LMDeploy
在这里插入图片描述在这里插入图片描述
搭建智能体:
在这里插入图片描述
在这里插入图片描述
调用外部插件的能力:
python解释器,多模态的Image Descripter+文字转语音插件
在这里插入图片描述
MindSearch:基于搜索结果的智能体
在这里插入图片描述
RAG工具:茴香豆
在这里插入图片描述在这里插入图片描述

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值