传统AI算法工程师转型指南：如何成功切入大模型领域赛道-CSDN博客

本文链接：https://blog.csdn.net/2301_82000445/article/details/141825638

本人读研还有实习时一直做的cv方向，毕业后转到语言大模型方向上。此前对于nlp方面了解很少，全靠自学，在此分享一下自己转方向的经历。
在这里插入图片描述

1.从多模态入手

一开始我完全没有纯语言模型的相关经验，因此首先做了一个图文多模态的项目。通过这个项目了解到了文本的大致编解码流程，以及一些常见的文本预训练任务（mlm等等）。
在做项目的过程中，为了节省训练成本，阅读了很多peft（参数高效微调）的文献，并且实践了lora之类的常用方法，给后续训llm打了基础。
体会：可以从交叉方向开始入手，发挥自己原有的基础，逐渐上手。

2.入门llm领域

做完第一个项目后，我学了llm的一些基础知识，包括分词、常见的三阶段训练、常见的模型架构、各种decode策略等等，学习了huggingface的transformers库的使用。这里推荐huggingface官方做的视频教程，还有官方文档，内容很不错，且新手友好。
这个阶段建议也不要一直沉迷于补基础知识，比如rlhf比较复杂可以先不看，毕竟模型不做rlhf也勉强能用，关键是尽快上手实践，在实践中碰到问题再去学习，加深理解。
我当时用huggingface仓库里的run_clm.py脚本（预训练gpt类模型用）训了一个开源模型，单步调试，搞懂核心代码，基本就对transformers库和训练流程有个大致的了解。

3.逐渐深入

基本流程掌握的差不多了以后，我就开始做垂直领域模型的项目。用开源模型做基座，我做了数据处理、继续预训练、sft、性能测试的整个流程。

这个过程中进一步加深了对于llm训练的认识，对于各种分布式策略、数据格式（bp16 fp16）及一些相关技术（混合精度 loss scale 梯度累积等等）有了了解，这里再次推荐多看huggingface官方文档。

同时跟进最新论文和社区（某乎，蓝鸟，🍠，绿色窗口）上的讨论，了解前沿的方向。llm领域进展太快，等文章被录用可能已经过去太久了，需要多刷arxiv，甚至社区中的聊天吹水内容，或许就是下一个best paper。
总的来说，我认为转入llm赛道的难度没有那么高，但也没有那么低，有很多技术细节必须动手实践了才能体会到。

零基础如何学习大模型 AI

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。

⑤AI+零售：智能推荐系统和库存管理优化了用户体验和运营成本。AI可以分析用户行为，提供个性化商品推荐，同时优化库存，减少浪费。

⑥AI+交通：自动驾驶和智能交通管理提升了交通安全和效率。AI技术可以实现车辆自动驾驶，并优化交通信号控制，减少拥堵。

…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。