一个月带你手撕LLM理论与实践，并获得面试or学术指导！

江湖人称麻花滕

已于 2024-05-06 15:09:13 修改

阅读量923

点赞数 10

文章标签：面试职场和发展大数据人工智能 AI大模型

于 2024-04-26 20:39:19 首次发布

本文链接：https://blog.csdn.net/m0_59235699/article/details/138229762

版权

本文介绍了LLM求职者应具备的能力，如预训练、微调、强化学习等理论知识，以及Transformer模型的实战经验，包括GPT、LoRA等。文章还详细说明了不同群体的学习需求，提供了一个从初级到高级的学习路径，旨在帮助求职者快速掌握大模型AI并提高就业竞争力。

摘要由CSDN通过智能技术生成

内容介绍

LLM找工作需要具备哪些能力

整体概览 - LLM找工作/搞科研需要具备哪些能力？

现阶段LLM市场上的哪些岗位，比如基座模型训练（预训练和对齐）、应用方向、AI Infra等
LLM工程师/学者需要的能力
LLM基础点（课程重点），比如预训练知识、微调、强化学习、优化、应用、评估等
代码能力（课程重点）
其他基础，包括计算机基础+数学功底等

手撕理论+实践

手撕理论+实践

梳理整个transformer基础（手撕Transformer、BERT、GPT等经典模型）
实战：GPT预训练
LLaMA（数据处理、SFT、CoT、手撕LLaMA和LLaMA2）
实战：LLaMA预训练
LoRA（包括手撕LoRA和QLoRA等）
实战：LLaMA2+QLoRA
RLHF（手撕DQN&A2C、SFT、RW、RW-PPO等）
实战：RLHF训练实战
decoding算法（手撕Flash Attention等）
实战：flash attention和 flash decode等对比实验验证效果
分布式训练（分布式并行、分布式集群、DeepSpeed）
实战：deepspeed实战
长文本问题（详解位置编码等）
实战：拓宽上下文窗口实践
推理优化（详解Vllm等）
国内有名LLM模型（详解ChatGLM、Baichuan、MOSS、零一、千问等）
Agent&RAG（详解Agent和RAG理论）
实战：langchain

**备注：**细节的点很多很多，上面只是粗略的列举了一些~

面向群体是哪些？

适合群体

在校：NLP方向的学生，自己没有规划 or 导师无法手把手指导自己，在LLM时代略有迷茫，想快速掌握前沿理论与实践，并顺带得到一些学术指导，可以直接提供可做的idea
校招：前几年有些荒废 or 身边环境和资源阻碍了自己学习LLM，想快速掌握LLM理论与实践，并通过面试指导和真实面试复盘，大大提高拿到高薪offer的机会
社招：传统NLP方向想跳槽转高薪LLM岗位，但时间匆忙，想找个快速进阶的通道，外加面试指导与复盘，为跳槽做好充分跳槽

不适合群体

不适合NLP零基础想直接进阶LLM的
不适合其他专业想短时间转行LLM的
不适合已经是P7及以上大佬要进阶的

其他问题

直播上课期间可以当场提问吗？
当然可以，在课程当中会有提问环节，直接与老师面对面提问即可。
课后会有录播吗？
直播后会将该直播视频+所有课上的材料放入群中，供同学课后学习
课后答疑会是怎么样的？
答疑直接在群里提问即可，老师会及时回答，如果大家疑惑点一致的话，会额外安排答疑meeting细细解答。
模拟面试和真实面试复盘和学术指导是什么时候开始？
一般默认为课程结束后进行面试指导 or 学术指导，如果想提前与我们说即可，一般没问题。
课程结束后新的技术还会继续同步群里吗？
之后新的课程如果有新的技术加入，会更新到群里的哈。
一定能进大厂吗？
我们不做这个保证的，保证这个的绝对是割韭菜。如果跟着我们制定的路线走，我们能保证你从10分提到80分；如果你本身就已经有基础了，我们有信心帮你从80分提到95分，这几分可是相当具有含金量。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述