梯度下降中的归一化、标准化问题

简述

　　在我上一篇完结的Tianic测试中，我曾提到了一个在使用sklenlearn包中出现的一个问题，这成为了我们这里预留的一个悬念，也就是为了防止不拟合时而使用了scaling，但是当时我在scaling的时候报错了，这一下就十分尴尬了，因此我在网上查找了一些相关的资料，最终我找出了问题的所在。当然没读过上一篇的童鞋也不需要担心，这一篇文章的内容我将结合查找到的资料，简要的介绍一下梯度下降过程中的归一化问题，其中涉及到相关特征的缩放（scaling），同时，我也会在下一节介绍sklenlearn包中的相关操作。

归一化和标准化

　　归一化这个问题，在我前面的多元线性回归算法的优化中曾有提到过这个问题，但是当时因为懒没有做相关的详细介绍，同时，当时我们并不是这样说的，当时我们是称该算法为缩放。但是这里其实是有一些问题的，我们来先看一下官方的概念，来加深一下了解。
　　归一化方法：归一化方法有两种形式，一种是把数变为（0，1）之间的小数，一种是把有量纲表达式变为无量纲表达式。
　　我们在查看后发现这里并没有提到缩放这个问题。但是当我查找一些资料后发现一个问题就是，每当我们提及到归一化问题时，总会见到另外一个概念就是数据标准化 那么我们就来在看一下数据标准化的这个概念
　　数据的标准化是将数据按比例缩放，使之落入一个小的特定区间。由于信用指标体系的各个指标度量单位是不同的，为了能够将指标参与评价计算，需要对指标进行规范化处理，通过函数变换将其数值映射到某个数值区间。 <