大模型来自面试的体会和分享 2024版

大模型来自面试的体会和分享 2024版

去年大概这个时候写了文章大模型来自面试的一些体会和分享,当时正值大模型的热情巅峰,市场上处于严重的供小于求的状态,一年过去了,情况有所变化,觉得这是一个合适的节点给大家汇报一下。

大模型的赛道逐渐清晰,主要分为基座和应用两派,且两派的特点鲜明,下面我们分开讲讲。

基座赛道上,成为有钱人和巨头的游戏,主要玩家分布在明星创业公司,顶尖大厂,和不差钱的国央企。前两者不分伯仲,不过明星创业公司的人才密度相对更高一点。

基座赛道上,目前各家还保持着高涨的投入,主要原因是OpenAI给出了一个指路明灯,与第一名还存在明显差距,并且这个差距是可度量的,大家相信持续不遗余力投入,就有希望的迎头赶上。但客观情况是竞技场总榜前10想进去都十分不容易,更别提gpt4o这种明显存在技术代差的东西,基座还任重道远。

基座赛道的分工更细,有强烈的工业化大兵团作战的特点,招聘的画像也非常细分,代码,推理,数学等,恨不得一个能力标签一个负责人,再搭建各自的数据,训练,对齐团队。

基座赛道算法方向上,infra方向技术含量更高,人也更值钱,需要CS科班底子融合算法背景,门槛相对较高。但操盘训练的,主要工作精力在洗数据,配数据,训练技巧上,相对infra没太有硬性门槛,更经验驱动。infra方向,靠技术实力说话。训练和对齐方向,靠实验量和实验认知说话。

但是,训练方向的需求量更大,所以从供给分析的角度,所以相对容易找工作一点。

再说应用赛道,除了大模型本身,现在市面上还没有太成功的C端落地应用,去年比较火热的几个方向,角色扮演,characterAI创始人携团队跑路。众多电商助手,也没有做出点什么门道。反而最近的搜索产品,把大模型当成效果不错的生成模型来用,卡着多轮的能力不开放,简化技术难度,反而看着有活下来的苗头。

当然,也不是都不太行,大模型写个代码,翻译总结个文章,还是挺不错的。然后做的比较好的有,各种非助手的形态,互联网C端的比如评论区机器人,视频总结摘要,文章总结,搜索总结,从用户量维度看,算是相对成功,也能在很多APP上看到全量开放。虽然这些应用看起来都没那么炫酷,也很简单。

这些应用共有的特点有,**接近基座原生能力,场景数据丰富,或者场景数据方便构造。**在落地应用上,离原生能力越远,需要大模型能力越高,需要越多的场景优质数据。

应用方向上,目前看到的简历都有点千篇一律,xx助手,xxAgent,用了COT和function call,一个小小的垂场景,也说不出什么亮点。简历供给量很大,但有技术亮点和项目成功经验的不太多。

应用赛道往往无法向基座赛道转化,但基座赛道由于表现出良好的功底,可以向应用赛道转化。基座的赛道,人才逐渐走向小圈子化,社招互相挖人和顶尖的校招人才作为补充。

当然,基座赛道也不都是高枕无忧,常见的问题就是过于螺丝钉了,甚至有些厂,让每个人都负责一小块工作,信息单向流动,有完整认知和可泛化经验的不多,人才逐渐工具化

再看整个大模型市场的供给情况,从去年严重供小于求,已经逐渐变成供给多,需求也多的情况,处于高水位平衡状态。去年中期,大模型市场上offer涨幅150%都有,到年底还有70%的可能,现在,正常能有30%就很不错了。

比较危险的是需求开始收缩的那一刻**,高水位的平衡,就像蓄满水的大坝,一旦需求收缩,后果非常严重。**类似几年前,在万众创业背景下的客户端开发,走向终局,最终APP的竞争格局清晰,市场上惨绝人寰,培训班3个月出来35k的客户端神话就不再存在了。现在市面上真的是人人都在搞大模型,除了希望那一刻来的晚一点,也希望openAI多画点饼,让从业者和资金都有盼头。

定价主要靠市场规律,大模型算是短暂地出了一段技术红利期,这是15年之后,罕见的一次技术红利了,而目前来看,这个红利正在逐渐消失之中。

如果说用一个曲线来描绘的画,目前还处在愚昧之颠之后的下坡阶段,未来如果没有持续的突破,大概率要走向绝望之谷。

图片除了大环境的变化,我们再看看微观的变化。

1.候选人简历开始丰沛起来,校招大模型paper也不是稀罕物了,但有影响力和可泛化的工作不多,雕花较多。

2.候选人基本人手两个大模型项目了,虽然数量比较多,但成功可以说道的不太多。

3.大家的技术选型都更规范了和趋于统一了,megatron,deepspeed,vllm以及其魔改成为标准答案。

4.计算资源更丰富了,在千卡集群上跑过几千小时卡时实验的候选人也有。值得说道的训练和数据经验能很快吸引面试官。

5.有影响力的工作,扎实的成果,科学的认知判断,相对急缺的岗位成为特批offer的标配。

6.各家基座团队除了国外两家top 2,也没啥秘密可言了,充分的内部流动性让经验互相穿透。国内的差距逐渐缩小,与国外的差距依然存在。

用一句话总结来说:大模型人才市场,目前从一个供小于求的状态,逐渐走向高水位平衡。应用落地赛道相对不太乐观,基座仍有差距,继续保持高投入追赶的状态。各位任重道远

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值