腾讯PCG搜索中心，内容技术组-知识图谱组，实习一面

2021.06.11

问项目：

详细地问了项目，负责什么，做了什么事情，达到了什么效果。很关心项目做的深度。问项目花了很多时间，约25分钟，问得很具体。

(以后要考虑一下怎么把项目吹完美)

问基础：

• 什么是过拟合，处理过拟合的办法。没答出dropout，然后问dropout训练和预测的时候有什么区别。

• earlystop有了解过没。

• layernorm和batchnorm怎么做的，有了解吗。要清楚地知道具体是怎么做的，而不是停留在概念上。

• 关系抽取，分类里面你用的是什么损失函数，答用交叉熵损失函数，问为什么不用其他损失函数，为什么交叉熵损失函数可以用，表达式是什么。

• bert和transformer的关系。transformer里面的encoder和decoder在结构上有什么区别。decoder的注意力层的q、k、v分别是从哪里过来的。有看过它的结构吗。

• 项目里面你用了bert的CLS那个token，为什么可以用呢。你有了解过RoBERTa吗，RoBERTa没用预测下一句的任务了，那他的CLS的token还有用吗。

• bert是怎么处理OOV(Out-of-vocabulary)问题的，bert里面会出现OOV这种问题吗，有其他技巧去环节这种问题吗，你有看过源码吗，源码是怎么去解决这个问题的，wordpiece有了解吗，还记得他是干嘛的吗，如果是中文怎么处理的呢。

很新的组，很有前景的组，转正HC充足，然而我挂了，留下了没有技术的眼泪.jpg 。。。