情况介绍:我主要做nlp,也涉及到多模态和强化学习。现在大环境比较差,能投的公司不是很多,比如腾讯,主要还是高级别的,所以腾讯我就没投
抖音一面
1、聊项目。
2、AUC的两种公式是?你能证明这两种等价的吗?
3、BERT-CRF中,为什么要加CRF?好处是?
4、self-attention为什么要用QKV三个矩阵,不用有什么问题?有没有哪个模型的Q和K矩阵是一样的?
5、reinforce属于on-policy还是off-policy?为什么?
6、reinforce带上baseline好处是?reinforce的loss写一下?
7、策略梯度会推导吗?简单写一下?
8、代码题(代码题一般别着急写,先跟面试官说下思路,确定了再写):
lc 46,全排列(lc表示leetcode,下同)。
lc 73,矩阵置0。
这一面我以为面试官只会问多模态,不会问强化学习,没想到这个面试官好厉害,强化学习也很懂,真的很强啊,我比较好奇,他们哪里来那么多时间看那么多领域的东西
抖音二面
1、介绍项目。
2、知识蒸馏有哪几种?你觉得哪种效果最好?
3、nlp的数据增强方法,主要有哪几种?每一种举个例子?
4、分类的损失函数为什么是交叉熵而不是mse?
5、BERT对输入文本的长度有什么限制,为什么要限制长度呢?
6、BigBird里面有哪几种注意力机制?相比原始transformer的self-attention的优势?
7、场景题:如何根据拼多多的商品数量,估计淘宝的商品数量?
8、给出emb_size, max_len, vocab_size, ff_inner_size,num_heads, 12层,求BERT参数量。
9、代码题:n皇后问题。
给我来了一道hard题目,我以为我要挂了,结果没几分钟HR告诉我过了。
抖音三面
1、简单聊项目。
2、CRF和HMM区别?CRF为什么比HMM效果好?
3、如果BERT词表很大,比如vocab_size达到几百万,怎么办?
4、快速手写一些transformer的mha(多头注意力),伪代码意思一下就行。
5、为什么对比学习中,temperature很小,而知识蒸馏的temperature比较大?
6、你觉得在抖音买东西,和淘宝、拼多多他们的区别是?(我没在抖音买过,就只能现场编。)
7、你最近看到过哪些paper?简单介绍下?
8、你觉得自己有那些优缺点?平时喜欢怎么缓解压力?
这一面的面试官很和蔼,一直笑呵呵的,后面就是闲聊了,体验很不错。
附上技术清单
在这里,我们想要强调的是:成功求职并不是一件难事,关键在于你是否做好了充分的准备。通过学习和掌握AI技术的相关知识和技能,了解面试中可能出现的问题和技巧,你就能够在面试中展现出自己的专业素养和实力,赢得面试官的青睐和认可。因此,让我们一起努力,用知识和技能武装自己,迎接AI时代的挑战和机遇吧!
有需要的朋友可以扫描下方二维码,免费获取更多相关资料!
最后,祝愿所有转行、求职的同学都能够在AI产品面试中取得优异的成绩,找到心仪的工作!加油!