本文介绍了帮助众多学生进阶LLM的团队及其课程，涵盖基础知识、数据工程、预训练、微调、推理优化等内容，强调性价比和持续学习。文章还提及了适合群体、服务时长和报名方式。
我们从2024.1月底到现在已经帮助大几十个同学进阶LLM了，课程优化了数遍，好评不断，期待你的加入~
介绍下我们的小团队，分别是：
23年面试近50场国内LLM大厂通过率100%拿到多个大厂人才计划offer的毕业生（试听课就是他~）
上海某985本硕、外企算法工程师、知乎NLP领域万粉博主，近百篇LLM文章使很多同学受益
某985一线95后年轻副教授，每年LLM论文发到手软，横向、纵向项目的领头人、LLM落地创业ing
我们训练营是一个降低LLM门槛，极致性价比，持续学习的地方
内容大纲
所有LLM几乎所有内容都会讲解，新出现的知识也会不断更新~
目前已有的知识如下~
1. 基础知识
磨刀不误砍柴工，LLM基础知识还是需要的。会按照历史梳理LM，详解BERT、GPT系列、长文本编码、kimi等各种预备核心知识点，并带着进行GPT预训练实战等。
2. 数据工程
数据很重要，数据是天花板，算法只是无限接近天花板。LLM的第一步就是数据处理，国外的很多SoTA研究都基于此。最后以最近几个月提出来的Deita方法作为实战结尾。
3. 大模型预训练
在这里会讲解预训练的常用框架，以及大语言模型的“大”，就离不开分布式。ZeRO的三个级别、Deepspeed理论与实战等等是必备技能。
4. 大模型微调
LLM微调最费机器，所以也是知识点最多的地方，比如详解各种PEFT方法、LoRA、QLoRA（两种量化、Page Optimizer等）、RLHF（强化学习基础、RW、PPO和PPO-max）等，以及Llama-Factory实战、LLaMA2-QLoRA实战和RLHF实战来巩固所学。
5. 推理和部署优化
LLM模型搞定，就需要考虑如何快速推理了。这里会详解Flash Attention、Speculative Decoding、KV-Cache、Paged Attention、Dynamic Batching和Contiuous Batching、稀疏attention和MoE等。
6. 评测和分析
LLM有输出啦，那么如何评测呢，又该评测哪些呢？这些问题又是哪里导致的呢？这里会一一进行讲解。
7. RAG&Agent应用
目前应用最火的就是Agent、langchain、RAG了，我们会对其进行详解，并最后以langchain-RAG实战收尾。
8. Transformer的结构改进与替代方案
所有LLM课程都讲完了，那么就要带有批判思维回顾下Transformer架构是否有哪些问题？那里需要改进？是否有新的模型替代，比如最近刚火的MoE和Mamba在这里都会详细讲解。
试听课
我们做了试听课，内容为：
LLM找工作/搞科研需要具备的能力
LLM的整体概览
注：试听课基本上与实际讲课一致，但是方法日新月异，可能会存在某些方法过时被放弃，而添加新技术的情况。
内容细节展示
1. LLM理论与实践
目前已有十多次课程录播，涵盖100多个知识点、全套知识理论讲解、代码精读、课下学习文档、多项项有趣实战内容（notebook等形式）。
课程都在实时更新和优化中，比如mamba、kimi、llama3等出现，我们会及时添加进入~
项目实践内容不断优化中~
2. 课后作业
除了已定的实战项目外，还会有额外的发散性思维作业等。
3. 答疑
课下群里随时文字答疑（每天群里都异常活跃~）
每周一次的直播在线答疑（meeting答疑是不可或缺哒~）
其他服务
面经
我们陆续已经已经收集+自己整理的LLM面试题+答案已经100+页了，目前还在每天更新中~
面向群体是哪些？
适合群体：
在校：NLP方向的学生，自己没有规划 or 导师无法手把手指导自己，在LLM时代略有迷茫，想快速掌握前沿理论与实践，并顺带得到一些学术指导，可以直接提供可做的idea
校招：前几年有些荒废 or 身边环境和资源阻碍了自己学习LLM，想快速掌握LLM理论与实践，并通过面试指导和真实面试复盘，大大提高拿到高薪offer的机会
社招：传统NLP方向想跳槽转高薪LLM岗位，但时间匆忙，想找个快速进阶的通道，外加面试指导与复盘，为跳槽做好充分跳槽
不适合群体：
不适合NLP零基础想直接进阶LLM的
不适合其他专业想短时间转行LLM的
不适合已经是P7及以上大佬要进阶的
一定能进大厂吗？
我们不做这个保证的，保证这个的绝对是割韭菜。如果跟着我们制定的路线走，我们能保证你从10分提到80分；如果你本身就已经有基础了，我们有信心帮你从80分提到95分，这几分可是相当具有含金量。
服务时长
当然，任何事都有具体服务时长，我们内定的服务时长是4个月，但是即使过了这个时间，依然能正常参加文字答疑和直播答疑（主要是为了不必要的麻烦，比如学了一年了说不想参加了~ 尬住了）
报名
我们从2024.1月底到现在已经帮助大几十个学员进阶LLM了，课程优化了数遍，好评不断，期待你的加入~
加我咨询报名~
LLM这种技术，越早开始越好，比如现在！
扫一扫
602
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
