让天下没有难学的大模型！我整理一份大模型技术知识图谱！

大模型的预训练技术

大模型的预训练技术（Pre-traning）是大模型性能的根基，这部分技术门槛和成本门槛都很高，我们需要了解以下几个核心技术：

• Transformer 人工神经网络架构
• MOE 多专家架构
• Supervised Fine-tuning、Reinforcement Learning from Human Feedback（RLHF 基于人类反馈的强化学习）
• 数据工程
• 分布式预训练并行技术（数据并行、流水线并行、张量并行、序列并行、多维混合并行、自动并行、MOE 并行等）、
• 分布式预训练并行框架（PyTorch、Megatron、DeepSpeed、Ray）
• 分布式预训练网络通信（点对点通信、集体通信、AllReduce、AllGather、梯度分桶、计算与通信重叠、跳过梯度同步
• 分布式预训练流程（前向传递、损失计算、梯度计算、梯度通信、后向传递、优化器更新模型参数、保存模型
• 分布式预训练策略（Batch Size、epoch、损失精度、梯度方法
• 预训练评估技术。

大模型的微调技术

大模型微调技术是增强通用大模型能力，降低幻觉的核心技术，也是构建企业私有大模型两大技术手段之一（RAG、微调），因此需要好好掌握，包含以下几个核心技术：

• 微调方法（LoRA、QLoRA、Prompt Tuning、Prefix Tuning、P-tuning V2 等）
• 高效微调框架（Hugging Face PEFT）
• 数据工程（数据获取、数据清洗、数据结构化、数据存储、数据查询）
• 微调评估技术。

大模型的检索增强技术

大模型检索增强生成技术是增强通用大模型能力，也是降低幻觉的大模型微调技术、同样是构建企业私有大模型两大技术手段之一（RAG、微调），因此需要好好掌握，包含以下几个核心技术：

• RAG 整体架构
• Embedding Model
• 向量数据库
• 数据工程（数据获取、数据清洗、数据结构化、数据存储、数据查询）
• RAG 开发框架（LlamaIndex）
• RAG 增强评估技术
• RAG 增强框架（C-RAG）

大模型的推理技术

大模型推理是在线完成用户 Prompt 请求的技术架构，主要由推理效果和推理速度构成，也是必须要掌握的关键技术之一、主要包含以下几个核心技术：

• 推理优化加速服务化框架（vLLM、TensorRT-LLM、Triton）
• 推理优化技术（PageAttenion、FlashAttention）

大模型的压缩技术

大模型压缩是平衡推理效果和推理成本的主要实施技术，特别是预算有限的中心型公司，大模型的压缩技术就显得更加重要，包含技术如下：

• LLM 训练量化技术（LLM-QAT、QLoRA）、
• LLM 推理量化技术（GPTQ、LLM.int8()、SmoothQuant、AWQ、AutoAWQ、SpQR、ZeroQuant）、
• LLM 结构化剪枝技术（LLM-Pruner）、
• LLM 非结构化剪枝技术（SpareGPT、LoRAPrune、Wanda）、
• LLM 知识蒸馏技术（Standard KD、学生模型、老师模型、EA-based-KD（In-Context Learning 上下文学习、Chain-of-Thought 思维链、Instruction Following 指令跟随））、
• 低秩分解技术（ZeroQuant-FP + 量化、LoRAPrune + 剪枝）。

大模型的应用技术

基于大模型的应用开发是每个 IT 同学都需要掌握的基本技能，这也是构建 AGI 时代新的应用形态 Agent 和产业应用升级的基本条件。主要包含以下几个核心技术：

• 开发框架（LangChain、LlamaIndex、Semantic Kernel）
• 开发架构模式（面向过程架构设计、面向目标架构设计）
• Agent 开发模式（Planing、Action、Observation）
• 向量数据库（Pinecone、Milvus、PgVector、Faiss、Redis、Elasticsearch 等）
• 应用部署硬件（GPU 选型、GPU / CPU 资源评估）
• LLMOps（评估、测试、调试、监控、问题定位等）

大模型的基础设施技术

大模型的基础设施技术是大模型应用运行的基座，非常重要。主要包含以下几个核心技术：

• 大模型加速卡（AI 芯片技术、英伟达 GPU 技术、谷歌 TPU 技术）、
• AI 编译技术、AI 编译优化技术、AI 编译框架（ MLIR、XLA、TVM）、
• LLMOps（Docker、Kubernetes、可观测平台）
• 基础环境安装（英伟达 A800、英伟达 A100、英伟达 H800、昇腾 910/910B 安装）、
• 常用工具

  • Linux 常见命令大全

  • Conda 常用命令大全

  • Poetry 常用命令大全

  • Docker 常用命令大全

  • Docker Dockerfile 指令大全

  • Kubernetes 常用命令大全

  • 集群环境 GPU 管理和监控工具 DCGM 常用命令大全

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓