机器学习、深度学习、NLP面试常见问题汇总

机器学习

1. 全概率公式、贝叶斯公式
2. 模型训练为什么引入偏差和方差
3. CRF、朴素贝叶斯、最大熵模型、马尔科夫随机场、混合高斯模型
4. 如何解决过拟合问题
5. ONE-HOT的作用，为什么不用数字直接表示
6. 决策树和随机森林
7. 朴素贝叶斯为什么“朴素naive”
8. kmeans初始点除了随机选取之外的方法
9. LR逻辑回归
10. 梯度下降如何并行化
11. LR的L1/L2正则
12. 决策树原理及优缺点
13. Gini系数
14. 出现估计概率值为0
15. xgboost/gdbt/boosting
16. 最优超平面
17. 支持向量机SVM
18. 核函数
19. 怎么去除datafrom中的缺失值
20. 特征无量纲化的常见操作
21. 如何对类别变量进行独热编码
22. LDA、PSA

深度学习

1. batch-normalization
2. 激活函数的用途及常见的激活函数
3. softmax原理及应用
4. CNN的平移不变性
5. Alexnet,VGG,GoogleNet,Resnet
6. 残差网络怎么解决梯度消失的问题
7. LSTM怎么解决梯度消失的问题
8. attention原理，对比CNN,RNN，优势有哪些
9. self-attention为什么可以替代seq2seq

NLP

1. glove的损失函数
2. glove为啥不如word2vec常用
3. 层次softmax流程
4. 负采样流程
5. 怎么衡量学到的embedding的好坏
6. CRF/LDA原理
7. 马尔科夫链收敛性质
8. MCMC
9. 给定平稳矩阵如何得到概率分布样本表
10. 坐标转换采样
11. EM算法
12. bert原理
13. CNN/RNN/LSTM/GRU/gpt/elmo/BERT/GNN/GCN