Author: [ybq]
======================
Link: [https://www.zhihu.com/question/635761315/answer/3608088928]
我推荐选 pretrain,理由如下:
pretrain 提高工程能力,sft 提高认知能力
作为校招新人,你的当务之急只有一条:**提升工程代码能力!**我们拆解一下两个团队所需要的技能,你判断下哪个提升代码能力更快。
在 pretrain 团队,你的必修课有:爬取互联网数据,大规模数据清洗与去重(hadoop、spark等),配置各种 torch 和 cuda 环境,搞懂、修改、优化 megatron 的代码,熟练 debug 多机通讯报错,成熟的炼丹技巧(数据配比,学习率,优化器,课程学习,分析 loss 曲线、scaling_law),跑通各 benchmark 验证模型能力;
在 sft 团队,训练框架和炼丹技巧只属于选修课,往往公司不给你时间学习,你的必修课大概只包含以下内容:手动标数据,用 gpt4 标数据,教会标注人员标数据,利用用户反馈标数据,根据实验结果优化数据,参考论文去合成数据。
pretrain 转 sft 的难度,小于 sft 转 pretrain 的难度
基于两个方向的必修课不一样,pretrain 团队的同学能轻松上手 sft 的工作,sft 团队的同学则不能快速接手 pretrain 的工作。毕竟,两个团队核心技术不同:
-
pretrain 的核心技术:训练代码
-
sft 的核心技术:训练数据
所以,当你从 pretrain 转去做 sft,花一天时间看一下训练数据,就可以开始干活了;但当你从 sft 转去做 pretrain,你可能得花两周时间学习 megatron,才能开始干活。
pretrain 的杂活比 sft 的杂活更能锻炼新人
前面列举了两个方向的工作内容,假设你作为新人只配去做数据工作这种杂活,那我们就再来仔细看下两个团队的杂活都是什么?
-
pretrain 的杂活是从海量较脏的互联网数据中清洗出有意义的、干净的训练数据。大概包括:训个小模型给数据打分,写大量规则去除网页文档里的垃圾语料,研究某个 domain 数据的数据特征并想办法过滤该 domain 数据;
-
sft 的杂活大概是:手动标数据,不断拿 GPT4 试出效果最好的 prompt 来标数据。
言尽于此,哪个杂活更能锻炼人我就不再分析了。
新人应该选最难的工作
pretrain 方向的最大痛点是什么?
短期内没有收益、长期训不过 llama、qwen,老板会选择拥抱开源。但是,你是校招新人,他不敢裁你。趁着你有“校招生”这个护身符,去做最难的工作、快速成长自己,丰满羽翼,有社会舆论和国家政策保护在,你只要别乱执行 rm -rf *,就都是安全的。
再过三两年,可能你就不能选有技术的活,而只能选有收益的活了。
我并没有说 sft 都是标数据的没意义的工作,我曾在另一个回答中力挺 sft 是有技术含量的。我只不过是认为,pretrain 能快速提升工程能力,这对新人非常可贵。成熟一点的程序员,写 hadoop、训 BERT 已经玩得滚瓜烂熟了,多跑一些 sft,找一找大模型的 feel 非常重要,但新人只需要去学习扎实的基本功。
很多人都说,新人只会被分配去打杂,与其去 pretrain 洗数据,不如去 sft 拿收益。但是,孟母三迁的故事并没有过时,人是有眼有腿的啊,可以主动去学习的,在 pretrain 团队,老板不让你做 scaling_law,但是总不能不让你看 scaling_law 的 wiki 吧,总不能不让你请教同事吧。(这段话同样说给选 sft 工作的新人,我们是可以主动去选择学习 pretrain 相关的知识的,不要被工作内容桎梏了眼界和学习范围)
不管选择哪个团队,记得抱紧大佬同事大腿,多学多问,“喊声爸爸,换一份 megatron 的训练代码与教程”,这买卖不亏,我就干过。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/f69112cf2fdea3dc3fb42afe4b928546.jpeg)
👉1.大模型入门学习思维导图👈
要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。
对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
👉2.AGI大模型配套视频👈
很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
👉3.大模型实际应用报告合集👈
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)
👉4.大模型落地应用案例PPT👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)
👉5.大模型经典学习电子书👈
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
👉6.大模型面试题&答案👈
截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
😝有需要的小伙伴,可以Vx扫描下方二维码免费领取🆓
![](https://img-blog.csdnimg.cn/img_convert/f69112cf2fdea3dc3fb42afe4b928546.jpeg)