1、各种评价指标
- 分类:auc、logloss、f1
1、auc和logloss区别? - 回归:mae、mse、rmse、r2
- 多分类:softmax
- 准确率、精确率、召回率
2、机器学习算法推导
-
逻辑回归
1、LR如何加入非线性?
feature map,即手动构造交叉特征
LR面试总结1
LR面试总结2
LR面试总结3
LR面试总结4 -
svm
1、SVM介绍一下?为什么可以使用对偶来求解原始问题?
2、核函数解决什么问题?
3、SVM怎么解决多分类,一对多和一对一的优缺点,正则化的作用,SVM中正则化怎么起的作用,核函数有哪些,多项式核函数可以拟合无限维吗?为什么高斯核函数可以拟合无限维
svm面试总结1
svm面试总结2
svm面试总结3 -
决策树
回归树
1、分类树连续值如何处理?
2、回归树类别变量如何处理?
决策树面试总结1
决策树面试总结2
决策树面试总结3
决策树面试总结4
决策树面试总结5 -
xgboost
1、xgboost如何使用MAE作为评价函数?
使用huber loss、fair loss、log-cosh函数近似代替
2、xgboost推导过程
(1)写出第t轮的预测函数
(2)写出代价函数,对代价函数做二阶泰勒展开
(3)将对样本的遍历转换为对叶子节点的遍历
(4)求导找到代价函数最小值
(5)遍历找到最佳分割点
3、xgboost如何做2分类和多分类?
二分类:输入一个原始数据,经过n个树打分,分数相加得到的数值要经过logictic function映射,然后就得到概率值了。
多分类:二分类对每轮的输出做simoid变换,多分类对输出做softmax变换
xgboost面试总结1
xgboost面试总结2 -
lightgbm
1、和xgboost分裂原理区别?
2、如何做分类?
lightgbm面试总结1
lightgbm面试总结2
lightgbm面试总结3 -
catboost
机器学习算法之Catboost
Catboost原文解读
XGBoost、LightGBM和CatBoost的同与不同
boosting系列之CatBoost算法详解 -
几个区别
(1)RF和GBDT、GBDT和xgboost区别
(2)xgboost和lightgbm区别
(3)lightgbm和catboost区别
(4)lr和svm区别 -
推荐系统&深度学习系列
(1)FM
(1)FFM
(3)DeepFM
(4)DCN
(5)PNN
(6)NFM
(7)AFM
(8)GBDT+LR
(9)XDeepFM
(10)DeepCTR汇总(官网)
3、竞赛相关
4、深度学习
5、竞赛
6、问题汇总
1、朴素贝叶斯公式
2、RF,GBDT,LR,XGBOOST区别
3、tensorflow的计算图
4、判别式模型和生成式模型
5、各种聚类算法的优缺点
6、欧氏距离、曼哈顿距离
7、数据不平衡的解决?上采样、下采样、SMOTE、权重分配
8、lgb缺失值处理过程?计算损益,选择填充
9、feature important评价原理或者公式
10、快速排序,多种排序对比
11、GDBT和随机森林的区别
12、set背后实现原理,map:底层红黑树,一种O(log(n)的查找插入和删除数据结构
13、Dropout为什么能防止过拟合?具体实现
14、特征筛选都有哪种方式
15、GBDT和RF哪个树比较深
16、XGB特征重要性程度是怎么判断的?gain 增益、cover 覆盖度、freq 频率(频率)
17、XGB很容易理解它的回归和二分类,如何理解多分类呢?
18、哪些学习器是凸优的呀?LR sigmoid logloss 凸优 。线性回归,最小二乘凸优。SVM凸优。NN肯定不凸优,因为往往收敛到鞍点。PCA无数学解,但是利用特征值反而得到最优解,注意sigmoid 平方损失不是凸优化
7、coding
1、字符串左移K位
2、图的查找算法
3、Top k,堆排序实现,快排实现
4、N*N矩阵,值为铺路成本,求最短连通N个城市的铺路成本
5、1000以内的最大素数
6、给定括号流,找到字串中合法匹配的连续对数
7、不用除法实现除法
8、数组旋转
9、10进制转K进制
10、一个是奇偶排序、一个是前序中序重建树
11、n的二进制表示中有1的个数,复杂度,log(1+n)
12、建个链表,打印链表,反转链表,排序链表