大模型学习路线与建议

第一章 深度学习基础

深度学习基础
深度学习经典模型解析
深度学习模型优化策略解析
深度学习GPU原理与应用方法
深度学习GPU并行训练策略解析
深度学习模型多GPU训练实战

第二章 智能对话系统基础

智能对话系统综述
多轮对话系统架构解析
QA系统架构解析
知识图谱系统架构解析
KBQA系统架构解析
生成式对话系统架构解析
智能对话系统发展展望
知识图谱系统实战

第三章 大模型基础

大模型技术概述
GPT 系列模型核心原理详解（GPT1/GPT2/GPT3/GPT4/InstructGPT）
LLaMA 系列模型核心原理详解（LLaMA/Alpaca/Vicuna/BaiChuan/LLaMA2/BaiChuan2）
LLaMA 系列模型源码详解
BLOOM 系列模型核心原理详解（BLOOM/BLOOMZ）
ChatGLM 系列模型核心原理详（ChatGLM/ChatGLM2）
Langchain 框架核心原理详解
Langchain-LLM部署应用实战

第四章 大模型应用实践

大模型微调概述
大模型微调中的核心要素
大模型微调中的数据收集与评估
大模型微调中ChatGPT的使用
大模型Tuning技术详解（Prompt-Tuning/Instruction-Tuning/P-Tuning）
大模型PEFT技术详解（Adapter/LoRA）
大模型全参数微调技术详解（DeepSpeed）
大模型RLHF技术详解（PPO/DeepSpeed-Chat）
基于常规NLP任务的大模型微调实战

第五章 大模型实战项目

大模型训练环境搭建
大模型数据收集与 instruction 设计
通用大模型微调代码开发（支持多模型/多框架）
Baichuan-13B多GPU LoRA微调实现
Baichuan-13B多GPU 全参数微调实现
大模型性能评估体系搭建
大模型部署与服务接口开发
大模型界面化调用系统开发