机器学习入门（三）：特征工程——特征预处理

特征工程
一.为什么需要特征工程？
因为“数据和特征决定机器学习的上限，而模型和算法只是逼近这个上限而已”，使用专业背景知识和技巧处理数据，使算法变得更好。
二.什么是特征工程
sklearn库用于做特征工程
pandas库用来做数据清洗、数据处理。

特征预处理

定义：通过一些转换函数将特征数据转换成更加适合算法模型的特征数据的过程
使用sklearn.preprocessing（）函数
为什么要做归一化/标准化？：特征的单位或大小相差较大，或者某特证的方差相比其他特征大出几个数量级，容易影响（支配）目标结果，所以要做无量纲化是不同规格转换成同一规格

1.归一化

定义：对原始数据进行变换，把数据映射到（默认（0,1））之间


实例：

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction import DictVectorizer
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.preprocessing import MinMaxScaler
import pandas as pd
def minmax_demo():
    """归一化
     :retur:"""
    #使用pandas读取数据
    data0=pd.read_csv('C:/Users/Admin/Desktop/a.TXT')
    print('data0:\n',data0)
    #txt中的数据，行都要，列只要前三列
    data=data0.iloc[:,:3]
    print('data:\n',data)
    #实例化一个转换器类
    transfer=MinMaxScaler()
    #调用fit_transform
    data_new=transfer.fit_transform(data)
    print('data_new:\n',data_new)
if __name__=='__main__':
    minmax_demo()

缺点：

归一化公式使用最大值最小值进行计算，但最大值最小值非常容易受到异常点的影响，所以这种方法鲁棒性较差，只适合传统小数据场景

2.标准化

定义：对原始数据进行变换，把数据变换到均值为0，标准差为1范围内

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.feature_extraction import DictVectorizer
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.preprocessing import MinMaxScaler,StandardScaler
import pandas as pd
def Stand_demo():
    """归一化
     :retur:"""
    #使用pandas读取数据
    data0=pd.read_csv('C:/Users/Admin/Desktop/a.TXT')
    print('data0:\n',data0)
    #txt中的数据，行都要，列只要前三列
    data=data0.iloc[:,:3]
    print('data:\n',data)
    #实例化一个转换器类
    transfer=StandardScaler()
    #调用fit_transform
    data_new=transfer.fit_transform(data)
    print('data_new:\n',data_new)
if __name__=='__main__':
    Stand_demo()

优点：在已有样本足够多得情况下比较稳定，适合现代嘈杂大数据场景