书生 浦语大模型实战营-作业 1

已于 2024-01-10 15:46:49 修改
阅读量420 收藏 8
点赞数 10
文章标签： 语言模型
于 2024-01-10 15:46:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kuangkaiming/article/details/135457808
版权

书生 ⋅ \cdot ⋅ 浦语大模型实战营-作业

作业一：书生·浦语大模型全链路开源体系

文章目录

大模型背景介绍

  1. 大模型成为热门关键词

  2. 大模型成为发展通用人工智能的重要途径
    从专用模型到通用模型

  3. 书生大模型的开源历程
    在这里插入图片描述

从模型到应用

介绍了大模型应用的流程的策略
在这里插入图片描述

书生 全链条开源开放体系

在这里插入图片描述

数据

书生万卷 数据集

  • 多模态 （文、图-文、视频）
  • 精细化处理
  • 价值观对齐

opendata

预训练

在这里插入图片描述

微调

需要注意，可能在训练垂类数据时候加上基础对话数据进行配置，防止造成基础文本理解和对话能力的下降

增量续训

让基座模型学习到一些新知识，如某个垂类领域知识训练数据:文章、书籍、代码等

有监督微调

使用场景:让模型学会理解和遵循各种指令，或者注入少量领域知识
训练数据:高质量的对话、问答数据
在这里插入图片描述

评测

在这里插入图片描述

OpenCompass

评测数据集官方地址
在这里插入图片描述
在这里插入图片描述

部署

在这里插入图片描述
在这里插入图片描述

应用

在这里插入图片描述
在这里插入图片描述

AgentLego Agent可以调用的工具结构

在这里插入图片描述

Scorpion_free
关注
  • 10
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
书生 浦语大模型实战营-作业2
kuangkaiming的博客
01-10 399
书生浦语大模型实战营-课程作业（6）
dooooos的修炼之地
02-20 358
这次作业比较简单，用现成的模型和测试集跑一下推理就行了。主要熟悉一下OpenCompass用于评测模型性能。
书生浦语大模型实战营-课程作业（5）
dooooos的修炼之地
02-20 322
之前作业里尝试过web_demo的部署方式了，这次直接简单点用了命令行本地对话。
书生浦语大模型实战营-课程作业（3）
dooooos的修炼之地
02-15 480
不知道为啥我这里是白色的，看视频是黑色的。但猜测应该是gradio框架设置的问题，导致前端显示不太一样，反正不影响模型，问题不大。下载sentence_transformer的代码运行情况。sentence_transformer用于embedding（转向量）本地构建持久化向量数据库。就是把txt和md文件抽取出纯文本，分割成定长（500）后转换成向量，保存到本地，称为知识库构建。把InternLM 接入 LangChain，然后构建检索问答链。最后用Gradio做成一个网页的demo。
书生浦语大模型实战营-课程作业（4）
dooooos的修炼之地
02-18 383
作业教程里的文件路径好像有点小问题，遇到了点坑。
书生浦语大模型实战营-课程作业（2）
dooooos的修炼之地
02-14 368
hugging face下载模型（过年在家实在没电脑用，只好用开发机了抱歉。生成了一个DOTA2的小故事。玩黑鸟使人目光呆滞.jpg。
书生浦语大模型实战营----第一节作业
jz13180368180的博客
04-18 188
2、compasskit--大模型评测全栈工具链：数据污染检测、长文本能力评测、更丰富的模型推理接入、双语主观评测。2、智能体工具箱--AgentLego：前沿算算法、支持主流智能体系统、灵活接口调用、易部署。1、compassRank--中立全面的性能榜单：大语言模型+多模态模型评测。1、智能体框架--Lagent：支持多类型智能体能力、支持多种大模型、易拓展。1、部署框架LMDeploy：全流程解决方案、高效推理引擎、工具链易用。1、增量续训：无需制作数据，只需添加文章、代码等内容。
书生 浦语大模型实战营-作业3
kuangkaiming的博客
01-10 393
复现课程知识库助手搭建过程 (截图)
书生 浦语大模型实战营 - 笔记&作业4 大模型单卡微调
kuangkaiming的博客
01-11 412
计算全文的loss让基座模型学到一些领域内新的知识。
书生浦语大模型实战课 第二课作业（更新）
04-04
书生浦语大模型实战课 第二课作业（更新）
书生浦语大模型实战课（第二期） 第二课作业
04-04
书生浦语大模型实战课（第二期） 第二课作业
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生·浦语大模型第二课
03-04
书生·浦语大模型第二课
HTML+CSS制作的个人博客网页.zip
最新发布
05-22
如标题所述，内有详细说明
基于MATLAB实现的SVC PSR 光谱数据的读入，光谱平滑，光谱重采样，文件批处理；+使用说明文档.rar
05-22
CSDN IT狂飙上传的代码均可运行，功能ok的情况下才上传的，直接替换数据即可使用，小白也能轻松上手 【资源说明】 基于MATLAB实现的SVC PSR 光谱数据的读入，光谱平滑，光谱重采样，文件批处理；+使用说明文档.rar 1、代码压缩包内容 主函数：main.m； 调用函数：其他m文件；无需运行 运行结果效果图； 2、代码运行版本 Matlab 2020b；若运行有误，根据提示GPT修改；若不会，私信博主（问题描述要详细）； 3、运行操作步骤 步骤一：将所有文件放到Matlab的当前文件夹中； 步骤二：双击打开main.m文件； 步骤三：点击运行，等程序运行完得到结果； 4、仿真咨询 如需其他服务，可后台私信博主； 4.1 期刊或参考文献复现 4.2 Matlab程序定制 4.3 科研合作 功率谱估计： 故障诊断分析： 雷达通信：雷达LFM、MIMO、成像、定位、干扰、检测、信号分析、脉冲压缩 滤波估计：SOC估计 目标定位：WSN定位、滤波跟踪、目标定位 生物电信号：肌电信号EMG、脑电信号EEG、心电信号ECG 通信系统：DOA估计、编码译码、变分模态分解、管道泄漏、滤波器、数字信号处理+传输+分析+去噪、数字信号调制、误码率、信号估计、DTMF、信号检测识别融合、LEACH协议、信号检测、水声通信 5、欢迎下载，沟通交流，互相学习，共同进步！
基于MATLAB实现的有限差分法实验报告用MATLAB中的有限差分法计算槽内电位+使用说明文档
05-22
CSDN IT狂飙上传的代码均可运行，功能ok的情况下才上传的，直接替换数据即可使用，小白也能轻松上手 【资源说明】 基于MATLAB实现的有限差分法实验报告用MATLAB中的有限差分法计算槽内电位；对比解析法和数值法的异同点；选取一点，绘制收敛曲线；总的三维电位图+使用说明文档 1、代码压缩包内容 主函数：main.m； 调用函数：其他m文件；无需运行 运行结果效果图； 2、代码运行版本 Matlab 2020b；若运行有误，根据提示GPT修改；若不会，私信博主（问题描述要详细）； 3、运行操作步骤 步骤一：将所有文件放到Matlab的当前文件夹中； 步骤二：双击打开main.m文件； 步骤三：点击运行，等程序运行完得到结果； 4、仿真咨询 如需其他服务，可后台私信博主； 4.1 期刊或参考文献复现 4.2 Matlab程序定制 4.3 科研合作 功率谱估计： 故障诊断分析： 雷达通信：雷达LFM、MIMO、成像、定位、干扰、检测、信号分析、脉冲压缩 滤波估计：SOC估计 目标定位：WSN定位、滤波跟踪、目标定位 生物电信号：肌电信号EMG、脑电信号EEG、心电信号ECG 通信系统：DOA估计、编码译码、变分模态分解、管道泄漏、滤波器、数字信号处理+传输+分析+去噪、数字信号调制、误码率、信号估计、DTMF、信号检测识别融合、LEACH协议、信号检测、水声通信 5、欢迎下载，沟通交流，互相学习，共同进步！
gara.ttf，字体下载
05-22
gara.ttf字体下载
国内大语言模型还有哪些？
06-06
国内目前比较知名的大型语言模型主要包括： 1. 百度的ERNIE（Enhanced Representation through Knowledge Integration） 2. 阿里巴巴的ALBERT（A Lite BERT） 3. 华为的GPT（Generative Pre-trained Transformer） 4. 腾讯的XLNet（eXtreme Language understanding NETwork） 5. 中科院计算所的GShard（Globally Shared Transformer） 这些模型都有着很强的自然语言处理能力，在各自的领域和场景中得到了广泛的应用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值