面试知识点总结2

1. 决策树怎么解决回归问题?
   切分点选择：最小二乘法;
   输出值：单元内均值。
   示意图：
   假设X和Y分别为输入和输出变量，并且Y是连续变量，给定训练数据集为 D = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . , ( x N , y N ) } D=\left \{ (x_1,y_1 ),(x_2,y_2 ),...,(x_N,y_N) \right \} D={(x1​,y1​),(x2​,y2​),...,(xN​,yN​)}，其中$x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(n)})$为输入实例(特征向量)，n为特征个数，i=1,2,…,N, N为样本容量。
   对训练集中第j个特征变量$x^{(j)}$和它的取值s，作为切分变量和切分点，并定义两个区域$R_1(j,s)=\left\{x|x^{(j)}⩽s\right\}$和$R_2(j,s)=\left\{x|x^{(j)}>s\right\}$，为找出最优的$j$和$s$，最小化目标函数：
   $$L(j,s)=\sum _{x_i\in R_1(j,s)}(y_i-\widehat{c_1}{)}^2+\sum _{x_i\in R_2(j,s)}(y_i-\widehat{c_2}{)}^2$$
   其中$\widehat{c_1}=\frac{1}{N_1}{\sum }_{x_i\in R_1(j,s)}{y}_i$，$\widehat{c_2}=\frac{1}{N_2}{\sum }_{x_i\in R_2(j,s)}{y}_i$，为切分后区域的均值. 原文链接

2. XGBoost 过拟合了，怎么调参数？

3. 直方图均衡化知道吗？说下算法思路？

4. softmax和arcface的损失是怎样的？

5. lstm和RNN对于哪些问题题更擅长？

6. 从2w条样本中采样2000条点赞数最高的怎么做？

7. pytorch中多卡训练的过程是怎样的？说下gather scatter是怎么做的？