机器学习算法面试资源汇总

传送门1

1、各种评价指标

• 分类：auc、logloss、f1
  1、auc和logloss区别？
• 回归：mae、mse、rmse、r2
• 多分类：softmax
• 准确率、精确率、召回率

2、机器学习算法推导

• 线性回归
  线性回归面试总结1

• 逻辑回归
  1、LR如何加入非线性？
  feature map，即手动构造交叉特征
  LR面试总结1
  LR面试总结2
  LR面试总结3
  LR面试总结4

• svm
  1、SVM介绍一下？为什么可以使用对偶来求解原始问题？
  2、核函数解决什么问题？
  3、SVM怎么解决多分类，一对多和一对一的优缺点，正则化的作用，SVM中正则化怎么起的作用，核函数有哪些，多项式核函数可以拟合无限维吗？为什么高斯核函数可以拟合无限维
  svm面试总结1
  svm面试总结2
  svm面试总结3

• 决策树
  回归树
  1、分类树连续值如何处理？
  2、回归树类别变量如何处理？
  决策树面试总结1
  决策树面试总结2
  决策树面试总结3
  决策树面试总结4
  决策树面试总结5

• 贝叶斯
  贝叶斯面试总结1
  贝叶斯面试总结2
  贝叶斯面试总结3

• GBDT
  1、如何做二分类？多分类？
  GBDT面试总结1
  GBDT面试总结2
  GBDT面试总结3
  GBDT面试总结4

• xgboost
  1、xgboost如何使用MAE作为评价函数？
  使用huber loss、fair loss、log-cosh函数近似代替
  2、xgboost推导过程
  （1）写出第t轮的预测函数
  （2）写出代价函数，对代价函数做二阶泰勒展开
  （3）将对样本的遍历转换为对叶子节点的遍历
  （4）求导找到代价函数最小值
  （5）遍历找到最佳分割点
  3、xgboost如何做2分类和多分类？
  二分类：输入一个原始数据，经过n个树打分，分数相加得到的数值要经过logictic function映射，然后就得到概率值了。
  多分类：二分类对每轮的输出做simoid变换，多分类对输出做softmax变换
  xgboost面试总结1
  xgboost面试总结2

• lightgbm
  1、和xgboost分裂原理区别？
  2、如何做分类？
  lightgbm面试总结1
  lightgbm面试总结2
  lightgbm面试总结3

• catboost
  机器学习算法之Catboost
  Catboost原文解读
  XGBoost、LightGBM和CatBoost的同与不同
  boosting系列之CatBoost算法详解

• 几个区别
  （1）RF和GBDT、GBDT和xgboost区别
  （2）xgboost和lightgbm区别
  （3）lightgbm和catboost区别
  （4）lr和svm区别

• 推荐系统&深度学习系列
  （1）FM
  （1）FFM
  （3）DeepFM
  （4）DCN
  （5）PNN
  （6）NFM
  （7）AFM
  （8）GBDT+LR
  （9）XDeepFM
  （10）DeepCTR汇总(官网）

• 生成模型和判别模型
  理解1
  理解2

• SVD&PCA
  理解1
  理解2

• 聚类
  理解1
  理解2

3、竞赛相关

• xgboost源码解读
• lightgbm源码解读

4、深度学习

5、竞赛

特征选择

6、问题汇总

1、朴素贝叶斯公式
2、RF,GBDT,LR,XGBOOST区别
3、tensorflow的计算图
4、判别式模型和生成式模型
5、各种聚类算法的优缺点
6、欧氏距离、曼哈顿距离
7、数据不平衡的解决？上采样、下采样、SMOTE、权重分配
8、lgb缺失值处理过程？计算损益，选择填充
9、feature important评价原理或者公式
10、快速排序，多种排序对比
11、GDBT和随机森林的区别
12、set背后实现原理，map：底层红黑树，一种O(log(n)的查找插入和删除数据结构
13、Dropout为什么能防止过拟合？具体实现
14、特征筛选都有哪种方式
15、GBDT和RF哪个树比较深
16、XGB特征重要性程度是怎么判断的？gain 增益、cover 覆盖度、freq 频率（频率）
17、XGB很容易理解它的回归和二分类，如何理解多分类呢？
18、哪些学习器是凸优的呀？LR sigmoid logloss 凸优 。线性回归，最小二乘凸优。SVM凸优。NN肯定不凸优，因为往往收敛到鞍点。PCA无数学解，但是利用特征值反而得到最优解，注意sigmoid 平方损失不是凸优化

7、coding

1、字符串左移K位
2、图的查找算法
3、Top k，堆排序实现，快排实现
4、N*N矩阵，值为铺路成本，求最短连通N个城市的铺路成本
5、1000以内的最大素数
6、给定括号流，找到字串中合法匹配的连续对数
7、不用除法实现除法
8、数组旋转
9、10进制转K进制
10、一个是奇偶排序、一个是前序中序重建树
11、n的二进制表示中有1的个数，复杂度，log(1+n)
12、建个链表，打印链表，反转链表，排序链表

8、面试总结

总结1
总结2
总结3
总结4
总结5
总结6
总结7
总结8