【AI大模型】羊驼大模型详解_零基础入门到精通，看完这篇就足够了~

heaven522

于 2024-10-06 14:01:38 发布

阅读量928

点赞数 16

文章标签：人工智能前端学习自然语言处理机器人

本文链接：https://blog.csdn.net/heaven522/article/details/142726438

版权

LLaMa模型结构：前面的词预测后面的词，经典的解码结构。位置编码用的是旋转自编码。

大语言模型为什么取名为LLaMa（美洲鸵）？
LLM发音困难。两个LL跟绕口令一样挑战舌头。大家想给它加点原音，帮助发音。有人加了A，就是LLaMa。

LLaMa是2023年Meta发布的基础LLM模型，该模型有四个版本，分别是7B、13B、33B、65B参数的模型。（LLaMa模型是从零开始训练的基础模型，国内大多数模型都是套壳LLaMa模型）

2.模型的优点：

3.模型的训练和数据：
65B的模型使用2048块A100 80G的GPU，训练21天左右。（训练成本还是比较高的，训练的数据集同GPT一样）

LLaMa模型训练的数据集

Alpaca是斯坦福从Meta的LLaMA 7B微调而来的全新模型（套壳是微调模型，LLaMA是全调的基础模型），仅用了52k数据，性能约等于GPT-3.5。
训练成本奇低，不到600美元。（大模型屌丝化）
在8个80GB A100 上训练了3个小时，不到100美元;
生成数据使用OpenAl的API，500美元。（正常是人工来标注数据，人工的成本很高；这里数据标注使用了OpenAl的接口，问题问ChatGPT3，用它的回答作为标注数据来进行微调，训练出Alpaca模型）

国内很多大模型都是学Alpaca模型的玩法，套壳LLaMA模型低成本训练出自己的模型。

Alpaca模型的训练流程

Alpaca模型使用了GPT3来标注数据

Vicuna模型简介

Vicuna模型训练流程

Vicuna模型使用了GPT4来做评估（效果更好）

GPT5短时间暂时不会有，因为GPT4已经突破了人类现在的硬件资源的一个极限。

华驼大模型

LLaMa + 中文数据

业内有句俗话：一开源就自主研发，不开源就卡脖子

模型的提升一般模型本身没有多大的进化，主要的提升是堆数据和堆算力，使模型进行进化。

LLaMa2.0的训练也使用了ChatGPT的训练那套方法：

第一步：首先对LLaMa模型通过问答对进行有监督的训练
第二步：训练一个排序模型（就是通过人来标注这个模型输出的数据，让这个模型输出的答案更加符合人类的认知；通过人来对这些输出的结果打分，来调整这个模型，让这个模型的输出结果更加符合人的认知）；这个强化模型，就相当于具备了人的情商，理解了人类的喜好。
第三步：用具备人类喜好的这个模型，再来去微调LLaMa，让这个LLaMa模型输出的结果更加符合人的认知（相当于具备了情商），这样就训练出LLaMa2.0。