算法一些题目

1	简单	为什么要对特征做归一化	理解清楚特征归一化所适用的模型场景
2	中等	什么是组合特征？如何处理高维组合特征？	这里的特征组合主要指的是类别特征(Categorical Feature)之间的组合
3	中等	请比较欧式距离与曼哈顿距离？	比较曼哈顿距离和欧式距离的数值特点，并结合一两个具体例子做分析
4	中等	为什么一些场景中使用余弦相似度而不是欧式距离	比较余弦相似度和欧式距离的数值特点，并结合一两个具体例子做分析
5	中等	One-hot的作用是什么？为什么不直接使用数字作为表示	理解清楚并比较One-hot编码和数字编码的特点

 

1.为什么要特征归一化？

        各个字段特征因单位尺度不同对计算结果的影响不同，比如身高和体重，比如摄氏度和华氏度，比如房屋面积和房间数，一个特征的变化范围可能是[1000,10000][1000,10000]，另一个特征的变化范围可能是[−0.1,0.2][−0.1,0.2]，在进行距离有关的计算时，单位的不同会导致计算结果的不同，尺度大的特征会起决定性作用，而尺度小的特征其作用可能会被忽略，为了消除特征间单位和尺度差异的影响，以对每维特征同等看待，需要对特征进行归一化。

     提升模型的收敛速度   

原始特征下，因尺度差异，其损失函数的等高线图可能是椭圆形，梯度方向垂直于等高线，下降会走zigzag路线，而不是指向local minimum。通过对特征进行zero-mean and unit-variance变换后，其损失函数的等高线图更接近圆形，梯度下降的方向震荡更小，收敛更快

 

2：组合特征是离散特征的组合，处理高维离散特征需要用到embeding方法，就是离散特征向量化。

3.

欧氏距离虽然很有用，但也有明显的缺点。它将样本的不同属性（即各指标或各变量量纲）之间的差别等同看待，量纲大的就会对模型造成大的影响，例如，在教育研究中，经常遇到对人的分析和判别，个体的不同属性对于区分个体有着不同的重要性。因此，欧氏距离适用于向量各分量的度量标准统一的情况。

 

曼哈顿距离，我们可以定义曼哈顿距离的正式意义为L1-距离或城市区块距离，也就是在欧几里得空间的固定直角坐标系上两点所形成的线段对轴产生的投影的距离总和。例如在平面上，坐标（x1, y1）的点P1与坐标（x2, y2）的点P2的曼哈顿距离为：，要注意的是，曼哈顿距离依赖座标系统的转度，而非系统在坐标轴上的平移或映射。当坐标轴变动时，点间的距离就会不同。

 

通俗来讲，想象你在曼哈顿要从一个十字路口开车到另外一个十字路口，驾驶距离是两点间的直线距离吗？显然不是，除非你能穿越大楼。而实际驾驶距离就是这个“曼哈顿距离”，这也是曼哈顿距离名称的来源， 同时，曼哈顿距离也称为城市街区距离(City Block distance)。

One-hot 主要用来编码类别特征，即采用哑变量(dummy variables) 对类别进行编码。它的作用是避免因将类别用数字作为表示而给函数带来抖动。直接使用数字会给将人工误差而导致的假设引入到类别特征中，比如类别之间的大小关系，以及差异关系等等。