(1)介绍dropout,为什么可以起到防止过拟合的作用
答 : Dropout是什么?为什么Dropout可以防止过拟合?
(2). 使用的模型的计算量,Flops
(3)共享参数,为什么可以提升效果(起到正则化的作用)
(4)LSTM和transformer的各自的优缺点,以及复杂度分析
(5)BN层和LN层的区别,为什么自然语言处理里面用LN层
关于batch normalization和layer normalization的理解
(6)有什么神经网络的语言模型,不用dropout的结果更好(Albert)
(7)介绍bert系列的模型,预训练的任务有什么变化,是否是下一句分类换成句子顺序是否正确有什么好处,
(8) 在分类任务中AUC=0.5 是什么意思,如何通过数据或者模型的手段,来控制p值和r值之间的tradeof
(9) 如何处理样本不均衡问题,focal_loss是设计用来解决什么问题
具体项目
- 项目中使用的数据流是怎样的?
- grpc的通信过程,以及与http的区别
- gprc主要用到probuf存储输入输出数据,除probruf和json之外还有什么其他的工具吗(考虑IO效率)
计算机基础
1.介绍单例模式和工厂模式
2. redis里面的数据类型,列表的底层实现是怎样的?是如何扩容的
写代码
- python实现生产者消费者
- 判断是否是回文字符串,找出最长回文子串
https://blog.csdn.net/ltochange/article/details/121531825