这篇推送完成于2021.6.29 17:00
上一篇文章:从杉数到滴滴——未入门算法工程师工作日记(快手篇)
大家好!
《从杉数到滴滴》这个系列记载了猹哥这一年来,在不同的互联网公司,做不同的工作的时候,所得到的各种心得体会与经验。时间转瞬即逝,在字节呆了近四个月的时间,也和几个同事们一起度过了一段辛苦而充实的时光。如今也到了要离开字节跳动的时候,所以《从杉数到滴滴》的字节篇,也就应运而生啦。
这一篇是这个系列的第4篇,并且短期来看,这一个系列会告一段落,因为猹哥结束实习后,就要离开北京,结束北漂,回家准备下一年的留学了。我们在这一篇中会主要围绕字节跳动这一家公司,以及我所做的工作来介绍。值得一提的是,我的上一段实习经历(从杉数到滴滴——未入门算法工程师工作日记(快手篇))位于快手,是抖音的竞品。同时,做的工作也在广告这个大的领域,因此其实很多方面是可以进行对比的,相信这样的话,大家会对两家公司具体做的事情更加了解,也会更容易加深对两家短视频互联网公司的印象吧hhh
在这之前,还是要先做一个免责声明(disclaimer)。就像我在快手的文章只能说明快手商业化的情况一样,在字节也只能说我自己的部门的情况,不能够推广到全公司。事实上这个对比完全是基于个人经验,属于一个公司的不同的组,可能会有完全不同的工作体验,因此大家从中各取所需就可以了,千万不要把我的想法当成正确的结论……
那么我们开始吧~
01
字节跳动简介
北京字节跳动科技有限公司,成立于2012年3月,是最早将人工智能应用于移动互联网场景的科技企业之一,是中国北京的一家信息科技公司,地址位于北京市海淀区知春路甲48号。公司以建设“全球创作与交流平台”为愿景。字节跳动的全球化布局始于2015年,“技术出海”是字节跳动全球化发展的核心战略 ,其旗下产品有今日头条,西瓜视频,抖音,火山小视频,皮皮虾,懂车帝,悟空问答等。
字节跳动人工智能实验室成立于2016年,旨在针对人工智能相关领域的长期性和开放性问题进行探索,帮助公司实现对未来发展的构想。其独立研发的“今日头条”客户端,通过海量信息采集、深度数据挖掘和用户行为分析,为用户智能推荐个性化信息,从而开创了一种全新的新闻阅读模式。
截至2020年8月,抖音日活跃用户数已经突破6亿,字节跳动旗下全线产品总MAU(月活跃用户)超过15亿。
2021年5月20日,张一鸣宣布卸任字节跳动CEO,联合创始人梁汝波将接任。
提到字节跳动,大家第一印象还是抖音和Tiktok,不过实际上字节跳动的产品可远不止这些。诸如更加本土化的火山视频,投放广告的穿山甲,投身教育的瓜瓜龙等等,其实都是字节跳动的产品。也就是说实际上字节跳动的短视频业务只是它的一个部分(虽然确实是利润的绝对大头),它的业务线的广阔,可以保证互联网的几乎所有的业务,都能够在够在字节跳动找到应用的场景。并且得益于字节跳动研发线的高标准严要求,字节的内部具有相对较强的中层力量,换句话说在infra侧上,字节的总体水平是处于互联网公司相对比较高的水平的,但是如果说超过BAT什么的,这个可能还是都去过的人体验一下才有发言权,我就先闭麦了hhh。
总之如果想来到字节跳动的研发线,严格的面试准备是必不可少的。这一点各有利弊,利在于筛选进来的人一定都是水平较高的人,弊则在于招人的高要求,会对应导致符合要求的候选人的减少,这样一定程度上会限制业务的扩张,同时在缺人的时候,项目的压力就会相对较大。当然,如果真的是少之又少的人才,进入字节之后,也要匹配比较高的薪资,不然可能就真的招不了人了……即使是我自己已经来到了字节目前的组(Adscore,后面会介绍)呆了几个月,我也对高难度的面试持保留态度。但是事实上真正通过“千军万马独木桥”来到了字节研发线的朋友,可能处于不同的部门,做着不同的业务,但是都没有对自己所做的决定感到后悔。
02
我在字节跳动做了什么?
要说自己做的事情,其实是一个非常非常小的零件一样的存在。不过在这之前,我想先唠唠我所在的部门的大概的组织架构(因为细节的架构业务是涉及机密的,这里就不能多说了)。毕竟字节跳动是非常强调扁平化的公司,所以他们的架构也一定程度上体现了这一点,就是有的时候让人摸不着头脑……
|PART 1|
首先说说大部门,我通过的实习部门是字节跳动的Adscore,Adscore这个部门,就是Ads+core,是一个非常纯粹的广告算法部门(虽然最近大leader也开始招一些数据分析师,用来支持这里算法的工作)。也就是说,基本上所有的广告相关的算法与业务,其实都会落在这个部门,因此其实很多时候,我们会说这个组是一个中台组,就像中间件或者架构中的一些中间层,用于支撑一些实际业务。
|PART 2|
当然了,Adscore是一个非常大的组,内部有非常多的业务细划。因为涉及架构等敏感信息,这里不详谈。但是大体上来说,算法这边可以作简单的三个部分的区分,就是模型,策略和生态。但是如果按照功能分的话,分为两个模块会比较好,就是模型和策略。我自己属于的是策略组,所以相比较快手模型组的任务来说,就又是一块全新的领域。策略组和模型组的区别,我之前写过一个想法,就是说
搞模型的,数错了,数仓有问题,表有问题,就你没问题。
搞策略的,数错了,数仓没问题,表没问题,就你有问题。
事实上就说明了,相比较模型来说,策略不是一个黑盒子,每一步都是可以被我们所定制化和追踪的。这样的话,从落表开始,到最终产品的策略上线结束,中间的每一步都是有可能有错的和设计不合理的。这也是为什么相比较而言,策略算法不容易受模型算法那么受欢迎的缘故。因为策略算法的细节太多,要管的事情很多,不像模型你调好一个参数/结构,剩下的事情就是排队等候训练了……当然了,也是因为这一点,策略相比较模型来说,对于心细程度的要求是更高的,这也很好理解。
|PART 3|
终于可以说我自己做的事情了!我自己参与做的产品叫作bid landscape(大家可以在Google上搜索这个词)。思考一下,广告主在投放广告之后,这一个广告会经过哪些步骤?互联网公司比较传统的广告链路一定包括召回,粗排,精排等,具体细节可能不同公司设计的略有不同,但是一定是有这些步骤的。在这个步骤下,一个广告到真正拿到收益(我们会说消耗),它的因素会和什么有关?随便一想肯定都会很多。那么这个产品要做的事情,就是考虑
当我们固定其他变量不变,只考虑广告主的出价(bidding)的话,我们可以如何给广告主提出价建议(提价?降价?提价多少?还是说因为各种settings不合理,我们不提供建议?),使得广告主的收益可以被优化。
这个事情相对来说是一个非常新的事情,即使是在国外,能够说这一个任务做的很好的,也就Google和Facebook两家。因此我所在的这四个月,虽然大家通力合作,做出了一个产品。但是实际上的效果,要想说“赶英超美”,还是有点异想天开了。但不可否认这个过程是极为充实和具有挑战性的,对于一个实习生来说,也算没有留下遗憾。
03
对比:快手和字节的算法有何差别?
再次强调:这个对比完全是基于个人经验,事实上属于一个公司的不同的组,可能会有完全不同的工作体验,因此大家从中各取所需就可以了~
03-01
“没有内卷,只有合作”
首先第一点,就是至少我所在的地方,可能因为要做一个产品的缘故,因此内部大家只管你的职责是什么,而不管你是实习生还是正式员工。但是这一点又不能等同于“如果你的工作没完成,你就需要加班把它完成”,因为正如我在这里的mentor所说
如果一个项目block在了一个实习生那里,那么担责的应该是分配任务的人,而不是这个实习生。
比方说我们在做出价相关的事情,那么我们要看表,表是全量的吗(因为离线表的数据大概率都要采样,否则无法落入Hive)?数据里面有哪些字段?广告的settings有哪些限制条件?这一块大概率是需要数仓和开发来帮忙一起看和做的。再往后,你的策略是什么?这就需要寻找其他人的文档,去学习去讨论,再看可能的问题是什么,优化点是什么?再往后,效果不好,那么为什么不好,你可不可以解释?如果可以解释,有明显的问题,这个问题可不可以量化?可以看出,策略算法是与实际业务,广告链路紧密结合的,决定了全过程一定不只是算法工程师在闷头苦干,而是算法,开发和产品的通力合作。
我们组的模型侧也是很类似的,因为不管是在快手还是字节,资源都是非常紧张的,并且对于一个比较复杂的模型,很多时候出错的往往不是模型架构本身,或者训练,而是serving的部分。有的时候可能制约速度的也并不是模型本身的问题,而是其背后的推理架构,这些严格来说都是开发要做的事情,与模型算法工程师本身其实关系不大。因此引用leader的话,就是
组内没有内卷,只有合作。
一定程度上也体现了字节这种“团结办大事”的作风。
在快手(快手商业化)的话,这一点相对来说不会有那么明显。其实如果你看了上一篇
的话,你会发现,我在快手的工作时间其实是相对自由的(虽然论实际的工作时长,快手商业化平均是比字节Adscore要长的),因为可以自己一个人,在一个相对比较初级的业务上去调研自己的东西,在这过程中mentor会努力辅助你,但是你的业务是相对独立的。但是在字节现在的部门,很多模型已经不再是看paper或者照搬paper可以了解的了,它们都根据实际的业务做了一些个性化的改造。这就使得“调参”这个事情变得几乎不可能了,大家更多的是关心它与业务的交合(比方说,是否使用了正确的数据流,label是否使用了正确的计算公式,等等)。这就使得“合作”两个字变得尤为重要。
当然事实上如果是快手的核心部门(例如社区科学部),情况可能就完全不一样,但是因为我当时不在,这里不详谈。
03-02
放眼全球,而不是全国
第二点就是字节在全球(注意,不是全国)各个地方其实都有分部(虽然研发线还是主要在北京,上海,深圳,杭州,山景城,西雅图等),这就使得出差这个事情变得普遍,也使得业务上绝大部分时间的沟通,都需要依赖远程。比方说Adscore本身其实是有小部分人是在北美的,在北美的朋友如果要和国内合作,就必须要挑选一个两个地方都合适的时间。因此事实上有很多组会都会安排在一大早,或者中午这样的时间,这都是为了照顾两边的时间。当然这也使得相对来说,北美的成员的上班时间就会比国内更晚。我们这里的上班时间平均是11点到晚上九点半,放到北美那里,有很多人可能就是下午才开始上班,一直上到凌晨,然后早上做自己的事情……虽然听上去其实挺不可思议的,但是毕竟美国的COVID-19还在肆虐,所以大家都是WFH(work from home)的,倒也无所谓了。
这一点快手就没什么好说的了,绝大部分人都是在北京的,最多也就是几个工区不一样。虽然也有合作(比方说之前在的时候,社区科学部的一个人就会到商业化的部门去debug一个训练样本的问题),但是相对来说距离不远,也不是特别需要依赖远程。当然个人感觉,虽然线上的效率不如线下,但有远程的backup肯定是好的(这里安利一波飞书,还有它的飞书妙记,开会和分享都会很快有录屏,以后有空学习也会很方便),COVID-19的出现,就非常明白的说明了这一点……
03-03
讨论时间很多……
最后就是,这里的会议是真的多……快一百人的大组有会议,非中国区的小组有会议,和mentor的项目也有几个会议(这其实也可以算是远程的坏处了,啥大事小事都得靠远程电话解决,但是这也是业务不断扩张之后带来的必然吧,毕竟北京再大,也就地球上的一小块233)。这也使得相比较快手商业化,你还可以理一个日程表出来,但是在字节Adscore,由于项目在驱动,每天的工作时间其实并不是很固定。临近sync或者项目会议的时候,你的数跑不出来,你的策略还在运行,那你一定是会十分紧张的。但是如果你没有在这个时候,可能你的压力就还好(当然了,压力还好的意思就是,你可以按照自己的节奏正常下班。虽然说网络上总说互联网公司加班严重,但是事实上一个好的公司,对于员工的生活平衡必然是要有尊重和考虑的,虽然项目在忙的时候真的会很累,但是总体上来看,大家还是做到了相对比较好的一个平衡,没有网上说的那么玄乎。至于你想十一点来,然后六点七点就下班,可能和公司关系不大,而要看个人头不头铁)。
04
字节Adscore面试题
叙述过拟合和欠拟合的表现和常见解决方案。
叙述FbProphet的关键参数。
代码题:二维数组,每一个元组内是一个整数,从左上角往右下角走,只能够向右或者向下,要求经过的数的和最少,空间复杂度为O(max(m, n)),其中m为行数,n为列数。
叙述GBDT与随机森林的区别。
概率题:给定一棵决策树,输出1的概率为p,0的概率为1-p。问如何使用两棵决策树进行组合,使得输出1,0的概率分别为1/2。
代码题:有序数组查到target元素的最左边和最右边,要求复杂度O(logn)
代码题:消除字符串的pattern(比方说字符串为baba,pattern为ba,那么会返回一个空字符串),要求只遍历一次数组。
解释一下wide & deep。
xgb的并行化做在了哪里?
给10min,上网查资料,解释xgb如何去拟合一条单调上升的曲线。
给10min,上网查资料,解释如果遇到了10^9维的数据,xgb如何做建模和特征工程。
代码题:最长上升子序列。
可以看出,这一次面试在代码题上,没有遇到hard,但是其实覆盖面上也是很广的。传统的机器学习,深度学习都有考察,还有考察一些开放题。关于面试会考察什么,在之前的这一篇文章中已经介绍的极为详尽,这里我们也不多说啦~
05
发个内推链接吧
没办法,实在是太缺人了……
TikTok广告算法工程师
北京 上海
职位简介
职位描述:
--TikTok Global Ads全链路模型(CTR/CVR/LTR等)的优化与基础技术创新,从模型结构、特征工程、训练效率等多个维度迭代优化;
--TikTok Global Ads召回/粗排/精排/混排等检索全链路Ranking策略&模型优化,极致提升广告分配与投放变现效率;
--TikTok Global Ads冷启动与生命周期优化、智能出价策略、拍卖机制策略等的优化,极致提升客户投放效果与体验,建设健康市场生态;
--业界领先的广告模型与投放策略的创新&突破,持续保持state-of-the-art的技术水平;
职位要求:
1、有扎实的编程基础、良好的编程风格和工作习惯,扎实的数据结构和算法功底;
2、有扎实的机器学习/深度学习理论和丰富的实践经验,熟悉至少一种主流深度学习编程框架;
3、在计算广告、推荐系统、搜索引擎等相关领域有经验者优先。
4、有较强的逻辑分析与问题解决能力,对解决挑战性问题充满激情;
5、善于沟通,工作积极主动,责任心强,具备良好的团队协作能力;
也欢迎各种推荐,内推链接如下(可备注tiktok ads):
北京:https://job.toutiao.com/s/emt6PtB
上海:https://job.toutiao.com/s/emtkPJx
06
一些想法:算法工程师对工程能力的要求体现在哪里?
事实上,我们一直在说,算法工程师不是调参工程师。但是如果反过来问,说算法工程师是什么工程师?其实就有点难回答了,我自己也不例外。事实上,为了搞清楚这个问题,不仅仅是要亲自去体验不同种算法工程师做的工作,前人的经验也是很重要的。因此我在这段时间还问了一下我们部门的mentor和兄弟部门的leader(Ads Infra,一个业务中台部门,主要会做后端和数据流的工作,是一个开发部门),他们在做什么,怎么理解这个工作。最后,其实可以得到下面这一个结论。
算法工程师对工程能力的要求不亚于计算机本科。
如果你是一位转码选手,那么最方便的方法自然是刷题刷题刷题,然后拿到实习/正式offer了,对应的补一块的知识。比方说你去做网络相关的内容,那么计算机网络这一门课肯定是必不可少了。但是这样的做法其实限制也很明显,毕竟你也不知道你是不是就一直喜欢,或者可以胜任做某一个方向的工作。
对于算法来说,其实这种受制会更加明显,因为我们根本不关心底层设计什么样,但是我们却需要使用它们。举个例子,我们在做策略算法的项目的时候,我们设计好策略,需要上线,需要实验,那么实验平台代码怎么写,业务逻辑是什么?这些是不是都会接触到后端的内容?我的mentor最忙的时候,会同时打开三个屏幕,一个屏幕放Python代码,一个屏幕放C++代码,一个屏幕放Golang的代码。为什么有三种语言呢?这是因为遥远的模块就是用这三种不同的语言写的,所以他每次看都很崩溃……
有人可能会问,那既然如此,我把这一部分交给开发部门不就好了嘛?事实上这就是职责所在了。思考一个问题,如果一个策略算法工程师只会写Python策略,那它值得和一个开发工程师一个价嘛?事实上,除了这个原因,还有一个原因是,实际的业务中,我们要对结果负责,这个过程遇到什么坑,其实每一个人都不知道。而你身处互联网公司,你的模型/策略要上线,你不可避免要涉及到公司的架构。所以无论如何,或许你可以不需要背计网的各种术语,或许你可以不需要明白各种架构设计会带来什么优化,但是你不能看代码的时候毫无章法,或者在修改调试的时候一头雾水。而这,对应的恰恰好就是我们所说的工程能力。
事实上,我们在实际做项目的时候,遇到的各种block的问题基本上都是涉及到后端的。一个例子是,我们要对广告计划的策略做测试,这会涉及到一个循环。循环加速的方法是并行,这个如果做过项目的人可能也都听说过。那么进一步问,并行可以用多少核?在并行的时候开启其他的项目,是否会对其他项目的性能产生影响?以及会不会触发核的熔断机制?这些都是操作系统的东西,你可以不懂,但是一旦遇到这个问题,真的会毫无头绪。遇事不决走oncall,oncall虽然一下子就知道问题是什么,可是时间可能也就这么浪费掉了……至于各种落表的操作,打jar包,写Redis,调网络接口什么的,这就实在是太常见了hhh。
所以,如果你仔细观察一下身边的同事的话,你会发现绝大部分的人都是CS,EE,自动化这种工科专业,而这些专业不可避免的都会学习很多软硬件相关的课程。所以我自己认为,算法工程师对于工程能力要求其实真的很高。这个想法固然是有些学生思维,毕竟你不可能到了工作场合之前,要把所有可能的内容都学习完,你也来不及。但是这一点要提示的是,如果现在有空,要努力学习一些算法工程师底层的内容,而不是上层的内容。而如果到了工作场合,也要养成持续学习的习惯,并且适当的去拓展自己在这一块的边界。如果想在算法工程师这一块有自己的成果,而不只是做螺丝钉的话,那么对工程能力的把握不可含糊,这一点,无论是我的mentor,还是我的leader,还是我们组的leader,还是兄弟组的leader,都给出了一致的意见。
所以最后其实可以补一句话,就是
算法工程师和开发工程师都是互联网的工程师,只是他们的思考角度不同,对技术栈的要求其实大同小异。
但是事实上目前算法相关的面试,几乎不考察后端相关的内容。这个当然可以理解,毕竟只考算法和leetcode都没办法招足够的人了……但是事实上,如果有幸可以加入这个行业,做这一份工作,那么千万不要忽视开发,毕竟我们身处互联网公司,CS基础就是你的根基,根基不稳,摇摇欲坠,哪一天突然掉入深渊,深渊可能早就期待你很久了。
07
小结
终于把这一篇字节篇写完啦!从杉数篇到字节篇,这一个系列今年写了四篇文章,自己也去了四家公司,有startup有大厂,有算法有开发,有机器学习有深度学习,有模型有策略。虽然前前后后跳的厉害,也确实把自己给跳累了。但是每一次认识不同的朋友,了解不同的业务,同时也能够感受不同厂的氛围,其实本身也是很有挑战性和很有成就感的事情了。当然,也衷心希望每一篇文章,都是一个好的对于公司的宣传,对于工作内容的一个朴素的介绍,也是一个好的,帮助大家了解互联网公司的一个机会。
完结撒花!希望这一年北漂经历能够让我真正有所记忆,不留遗憾。当然如果有人可以因自己的文章对互联网产生兴趣,或者通过自己的努力进入了这个行业,那就更好啦~