书生浦语大模型实战营-作业 1

Scorpion_free

已于 2024-01-10 15:46:49 修改

阅读量471

点赞数 10

文章标签：语言模型

于 2024-01-10 15:46:12 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/kuangkaiming/article/details/135457808

版权

本文详细介绍了浦语大模型在实战营中的应用，包括其背景、从模型到应用的流程、全链条开源开放体系，特别是数据集（如书生万卷数据集）的处理方法，以及预训练、微调（如增量续训和有监督微调）和评测（如OpenCompass）等内容。还涉及了如何部署和使用AgentLego工具进行应用部署。

摘要由CSDN通过智能技术生成

书生 $\cdot$ 浦语大模型实战营-作业

作业一：书生·浦语大模型全链路开源体系

文章目录

书生 $\cdot$ 浦语大模型实战营-作业
大模型背景介绍
从模型到应用
书生全链条开源开放体系

大模型背景介绍

大模型成为热门关键词
大模型成为发展通用人工智能的重要途径
从专用模型到通用模型
书生大模型的开源历程

从模型到应用

介绍了大模型应用的流程的策略
在这里插入图片描述

书生全链条开源开放体系

在这里插入图片描述

数据

书生万卷数据集

多模态（文、图-文、视频）
精细化处理
价值观对齐

opendata

预训练

在这里插入图片描述

微调

需要注意，可能在训练垂类数据时候加上基础对话数据进行配置，防止造成基础文本理解和对话能力的下降

增量续训

让基座模型学习到一些新知识，如某个垂类领域知识训练数据:文章、书籍、代码等

有监督微调

使用场景:让模型学会理解和遵循各种指令，或者注入少量领域知识
训练数据:高质量的对话、问答数据
在这里插入图片描述

评测

在这里插入图片描述

OpenCompass

评测数据集官方地址
在这里插入图片描述

部署

在这里插入图片描述

应用

在这里插入图片描述

AgentLego Agent可以调用的工具结构

在这里插入图片描述

关注

10
点赞
踩
8

收藏

觉得还不错? 一键收藏
1
评论
书生浦语大模型实战营-作业 1

大模型成为热门关键词大模型成为发展通用人工智能的重要途径从专用模型到通用模型书生大模型的开源历程。
复制链接

扫一扫

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。