作为普通程序员，我们该如何学习大模型（LLM），附学习路线和知识体系

本篇文章面向对大模型领域感兴趣，又不知如何下嘴的程序员。

看一下围绕大模型的应用场景和人才需求：

Prompt工程：基于提示词对大模型的使用，会问问题就行。

基于大模型的应用（狭义的）：通过预设一些Prompt的方式做业务层应用，俗称大模型套壳。AI主播、AINPC、AI小助手。。。之前是会调API就行。现在有了GPTs，连调用API都可以不用了，动动嘴就可以实现应用生成。

私有知识库：用RAG技术给大模型配个“资料袋”——大模型外挂向量数据库。

AI Agent：给大模型“大脑”装上记忆体、手和脚，让它可以作为智能体进行自主决策、任务拆解和执行。

微调大模型：基于基座大模型的Fine Tuning。

训练大模型：大模型训练，高端赛道的角逐。

因此普通程序员研究大模型，不妨选择从外到内的思路，从套壳应用，再了解部署、微调和训练。

前导篇

Python

Python：AI领域最常用的编程语言。要学会基础语法、数据结构等。Python不难，对于一般程序员来说很容易上手。

向量数据库

随着AI的发展进入新的时代，知识的存储和表示就和向量分不开了。向量这个数学表达，在目前是人与AI交互的中间媒介。 向量数据库是一种特殊的数据库，它以多维向量的形式保存信息。让大模型拥有“记忆”，就需要用到向量数据库。

常见的向量数据库包括：Chroma、ES、FAISS、Milvus等，需要了解和会用。

实战篇

LangChain

要将大语言模型的能力开发成产品，就需要LangChain帮忙了。LangChain 是一个 LLM 编程框架，它提供了一套工具、组件和接口，借助LangChain，我们可以更加便利地给大模型这个“大脑”装上记忆和四肢，更轻松地完成基于大模型的应用开发。

比如带有私有知识库的办公助手等AI Agent，都可以借助LangChain来完成。

LangChain主要支持6种组件：

• Models：模型，各种类型的模型和模型集成
• Prompts：提示，包括提示管理、提示优化和提示序列化
• Memory：记忆，用来保存和模型交互时的上下文状态
• Indexes：索引，用来结构化文档，以便和模型交互
• Chains：链，一系列对各种组件的调用
• Agents：代理，决定模型采取哪些行动，执行并且观察流程，直到完成为止

最近又更新了LangGraph，用于创建多Agent应用。

可以结合市面上的一些开源项目学习Langchain。

在本地搭建部署开源模型

从零入门大模型技术，其实还是有点门槛的，硬件资源就是一关，性能一般有限。但还是可以从参数规模较小的7B左右开源模型开启尝试。比如清华的GLM系列，meta的llama系列都可以。

另外也可以用Ollama工具，Ollama旨在简化在Docker容器中部署和管理大型语言模型（LLM）的过程。Ollama支持的模型库，连包Llama3都包括了，还是很香的。

提高篇

机器学习基础

了解分类算法、回归算法、聚类算法、降维算法等经典的机器学习算法；
模型评估：交叉验证、偏差和方差、过拟合和欠拟合、性能指标（准确率、召回率、F1分数等）。

深度学习基础

掌握CNN,RNN等经典网络模型，然后就是绕不开的Transformer。

Transformer是一个引入了 Self-attention 机制的模型，它是大语言模型的基石，支撑着庞大的大语言模型家族。

在代码层面，必须掌握的就是神经网络的框架，主流框架有tenorflow,Pytorch等。

NLP 基础知识

NLP、NLU、NLG的差别；

自然语言处理中的基本任务和相关的应用；

TF-IDF、word2vec、BERT等基本算法和技术；

预训练语言模型：模型的输入、模型的结构、训练的任务、模型的输出；

可以直接从word2vec开始了解，然后到transformer，bert。

了解LLM的3个分支和发展史

根据使用的 Transformer 的方式不同，有3种常见的主流架构：encoder-only，encoder-decoder和decoder-only。

这张图清晰地展示了LLM的3个分支：

• encoder-only：BERT
• encoder-decoder：T5, GLM-130B, UL2
• decoder-only：GPT系列, LLaMA, OPT, PaLM,BLOOM

了解典型 Decoder-only 语言模型的基础结构和简单原理。

深入篇

掌握 Continue Pre-train、Fine-tuning 已有开源模型的能力；
掌握 Lora、QLora 等最小化资源进行高效模型训练的PEFT技术；
掌握强化学习基础；
Alignment与RLHF；
数据处理技术；
压缩模型、推理加速技术；
分布式训练并行技术；
分布式网络通信技术；
生产环境部署大模型的相关技术。

零基础如何学习大模型 AI

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型实际应用案例分享

①智能客服：某科技公司员工在学习了大模型课程后，成功开发了一套基于自然语言处理的大模型智能客服系统。该系统不仅提高了客户服务效率，还显著降低了人工成本。
②医疗影像分析：一位医学研究人员通过学习大模型课程，掌握了深度学习技术在医疗影像分析中的应用。他开发的算法能够准确识别肿瘤等病变，为医生提供了有力的诊断辅助。
③金融风险管理：一位金融分析师利用大模型课程中学到的知识，开发了一套信用评分模型。该模型帮助银行更准确地评估贷款申请者的信用风险，降低了不良贷款率。
④智能推荐系统：一位电商平台的工程师在学习大模型课程后，优化了平台的商品推荐算法。新算法提高了用户满意度和购买转化率，为公司带来了显著的增长。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。

学习资料领取

如果你对大模型感兴趣，可以看看我整合并且整理成了一份AI大模型资料包，需要的小伙伴文末免费领取哦，无偿分享！！！
vx扫描下方二维码即可
加上后会一个个给大家发

部分资料展示

一、 AI大模型学习路线图

整个学习分为7个阶段

二、AI大模型实战案例

涵盖AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，皆可用。

三、视频和书籍PDF合集

从入门到进阶这里都有，跟着老师学习事半功倍。

如果二维码失效，可以点击下方链接，一样的哦
【CSDN大礼包】最新AI大模型资源包，这里全都有！无偿分享！！！

😝朋友们如果有需要的话，可以V扫描下方二维码联系领取~