“ 学习是一个从围观到宏观，从宏观到微观的一个过程 ”
今天整体梳理一下大模型技术的框架，争取从大模型所涉及的理论，技术，应用等多个方面对大模型进行梳理。
01
—
大模型技术梳理
这次梳理大模型不仅仅是大模型本身的技术，而是一个以大模型为核心的涉及到多个方面的理论，技术和应用实践，也可以说是对自己学习大模型技术的总结吧。
话不多表，下面开始进入正题。
首先，大家应该明白一件事，大模型技术是人工智能技术的一个分支，是目前主流的一个研究方向，但并不是唯一的方向。
人工智能技术是一个通过某种技术手段人为的创建一个具有类人智能的系统(软件或硬件)，而大模型技术是一种仿造人类学习进化的一种方式，使用深度学习(机器学习)算法模仿人类大脑神经元，来实现智能的一种方式，其主要载体是神经网络。
神经网络之所以得到发展的原因是因为，基于神经网络架构进行预训练之后，神经网络会产生一种无法解释的_涌现_能力，而这个涌现能力特别像是具有了智能一样。
针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓
👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈
_神经网络模型架构_
既然是模仿神经网络，那么就需要一种深度学习模型来模仿人类大脑神经系统，比如CNN(卷积神经网络)，RNN(循环神经网络)，以及目前主流的Transformer模型，还有LSTM，ResNet，GANs等。
神经网络的主要结构为一个输入层，一个输出层，以及隐藏层(一个或多个层组成)，不同网络层之间使用_全连接_的方式进行连接，每一个圆都代表着一个神经元，如下图所示：
在神经网络中，除了输入/输出层之外，每一个神经元都有其参数，神经网络的效果就是由这些参数值决定的。
神经网络模型通过一种叫正向传播，损失计算和反向传播的方式来调整神经网络模型中每个神经元的参数。
通过把大量的训练数据输入到神经网络中，让神经网络进行“学习”(不断的调整参数)，来达到类智能的能力。
不同神经网络的架构和实现有所不同，但其核心点都是基于此模型实现的，对想学习神经网络的朋友来说，先学会基础的神经网络架构，然后再针对不同的神经网络模型进行深化是最好的选择。
目前的大模型主要采用的是预训练的方式来实现智能的，简单来说就是给神经网络模型一堆资料，让它自己学，自己看，自己总结；其中给答案的叫做监督学习，没答案的叫无监督学习。
然后根据不同的任务需求，又设计出用来解决不同类型任务的神经网络，比如分类任务，图片处理任务，自然语言处理任务等。
至于大模型技术细节方面的东西，就不详细描述了，感兴趣的可以自己学习，比如编码器，损失计算和反向传播怎么实现等。
再有，设计并训练一个完整可用的神经网络模型是一个复杂的工程，比如模型的设计，训练数据的收集与处理，损失函数与反向传播算法的设计，模型过拟合，欠拟合等问题。
而且随着模型规模的增大，模型的训练难度成几何式增长，比如分布式训练，并行计算等问题；以及为了提升大模型的学习效率，节约成本而设计的强化学习，迁移学习等。
最后，为了使得大模型更像人，也为了实现真正的AGI(通用人工智能)，现在多模态大模型大行其道，而多模态大模型技术比传统大模型的技术复杂度又上升了不止一个台阶。
_基于知识库的向量检索——RAG_
大模型技术虽然很强大，但其有几个明显的缺点，第一就是知识是有限制的，因为采用的是预训练方式，因此大模型的知识最多只能到训练开始的时间节点，之后产生的新的知识大模型无法获取。
其次，由于训练大模型的成本问题，导致很多企业无法承担大模型的训练成本，因此只能使用第三方的大模型，但第三方大模型没有在特定领域的数据上进行训练或微调，因此，其表现能力一般。
这时RAG就出现了，RAG中文是检索增强，是通过外挂知识库的方式，提问大模型之前先从向量数据库中查询数据，然后一起输入到大模型，这样大模型就相当于有了一个外部资料库，遇到不懂的问题就可以通过查资料的方式解决。
以目前的技术来说，RAG是大模型技术的一个重要节点，即是大模型能力范围的扩展，也是对大模型短板的补充。
微调与提示词工程
我们一般使用的大模型都是预训练模型，也就是用某些数据集训练过的模型；但这些模型一般情况下只会在特定领域表现出色，但如果用来解决自己的实际问题可能就不太好用了。
这时怎么让预训练模型在其它任务中表现更好就是一个值得思考的问题，而这就是微调与提示词工程存在的意义。
微调
微调从技术手段上来说和模型训练没有区别，只不过微调是在相似任务的预训练模型的基础之上，通过少量的数据对模型参数进行调整，使得其能够更加适应当前任务的一种方式。由于其成本低，对资金和技术要求要比完全重新设计和训练一款模型要低的多。
因此，微调存在的意义是为了节约成本和降低门槛，如果资金充足的情况下，根据任务需求设计并训练一款模型是最好的选择，微调是退而求其次的一种方式。
提示词工程
如果说微调是为了让大模型去适应特定的任务，那么提示词的作用就是怎么更好的使用一个大模型。
根据研究发现，对待同样的问题使用不同的提示词有时会得到完全不一样的效果，因此根据这一现象就提出了提示学习的方法，具体的可以看之前的问题——提示学习。
用人类来举例就是，假如有人问你吃饭了吗这种简单的问题，你可以下意识的回答，而且可以回答的很好；大模型也是如此，如果你问大模型很简单的问题，它也能回答的比较好。
但如果问到一些复杂的问题就需要更加准确的描述，比如说根据当前的就业环境，从经济，市场，贸易，国际局势等多个方面来分析一下产生当前情况的原因，以及后续的应对方法。
这种复杂的问题，不论是问人还是问大模型，你说的越准确，它回答的才能更好，这就是提示词存在的意义。
_智能体Agent_
在前面的描述中，神经网络架构讲的是怎么构建一个大模型，知识库是怎么补充和强化大模型，微调和提示词是怎么更好的使用大模型，那么智能体就是真正的使用大模型，研究大模型的具体应用。
如果把大模型比做人类的大脑，那么智能体就是大模型的手和脚。
在此之前使用大模型，我们能够让它回答问题，写文章，生成图片和视频，但这都是大模型天生具备的能力，就类似于人类可以写写画画一样。
但如果让大模型完成更加复杂的任务，这时就需要借助外部工具，比如外出旅行需要设计旅行路线，定酒店和车票等。
这种任务就完全超出大模型或者人类本身的能力圈，如果想完成这些任务就需要借助外部工具，比如说手机APP。
智能体就是大模型+外部工具实现的一种能够独自分析和解决复杂任务的一种载体，利用大模型的独立规划能力，让它根据自己的判断去调用外部工具完成任务。
使用的技术主要有function call，langchain等；如上图所示，大模型使用function call的方式调用外部工具，使用自身能力完成规划和行动，并且由于大模型没有足够的记忆能力，需要增加记忆模块来记录对复杂任务的分析过程。
目前，大模型解决复杂任务，主要通过思维链(CoT)的方式来实现对复杂问题的分解。
langchain是一种人工智能开发框架，它封装了大部分调用大模型的细节，以及其它辅助功能，比如文档的加载，多个大模型的链式调用，提示词模板的封装等，与其类似的还有LlamaIndex等。
_总结_
从大的方向上来说，大模型从技术到应用，主要涉及到以上几个大的模块；而每个模块又涉及到大量的技术和细节。比如打造不同任务的神经网络模型，强化学习，迁移学习，知识蒸馏，分布式训练与存储等；以及RAG使用的向量检索，向量数据库，语义理解等，还有复杂任务的思维链(CoT)，模型训练使用的LoRa等微调方法。
还有多模态模型中的知识对齐，数据融合等复杂技术。
因此，大模型技术到应用到学习是一个系统性的复杂过程，中间涉及到无数的技术细节和理论，并且还在不断的产生新的技术和理论。
千里之行，始于足下。
如何学习AI大模型？
大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。
不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！
但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高
针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓
👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈
学习路线
第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；
第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
9487
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
