机器学习实战（代码部分）-- k近邻算法（Ⅲ 归一化特征值）

2-3 归一化特征值

一. 使用场景

        当我们处理不同取值范围的特征值时，我们通常需要采用将数值归一化的方法，如将数值范围处理为0到1之间或者-1到1之间。

        将任意取值范围的特征值转化到0到1区间内的值的方法：newValue = (oldValue - min) / (max - min)

        这样最大值就变为1，最小值变为0，其他数据都能落在0到1之间。

 

二. 函数实现

# 数据归一化处理
def autoNorm(dataSet):
    minVals = dataSet.min(0)  # min(0)：从当前列中取最小值
    maxVals = dataSet.max(0)
    ranges = maxVals - minVals

    normDataSet = np.zeros(np.shape(dataSet))
    m = dataSet.shape[0]    # 计算样本个数
    normDataSet = (dataSet - np.tile(minVals, (m, 1))) / np.tile(ranges, (m, 1))
    return normDataSet, ranges, minVals

三. 完整案例

如上节（将文本记录转化为Numpy的函数）的数据案例，进行归一化处理。

（1）代码：

import numpy as np

# 读取文本内容到Numpy数组
def fileToMatrix(filename, featuresCount):
    file = open(filename)
    contents = file.readlines()  # 读取文本内容
    contentLines = len(contents)  # 读取文本内容的行数
    returnMat = np.zeros((contentLines, featuresCount))  # zeros((3,4))：构造3*4的零矩阵
    classLabelVector = []  # 用于存放类别
    index = 0

    for line in contents:
        line = line.strip()
        listFromLine = line.split('\t')
        returnMat[index, :] = listFromLine[0:featuresCount]
        catagory = listFromLine[-1]

        catagoryNum = -1
        if catagory == 'largeDoses':
            catagoryNum = 1
        elif catagory == 'smallDoses':
            catagoryNum = 2
        else:
            catagoryNum = 3
        classLabelVector.append(catagoryNum)
        index += 1
    return returnMat, classLabelVector

# 数据归一化处理
def autoNorm(dataSet):
    minVals = dataSet.min(0)  # min(0)：从当前列中取最小值
    maxVals = dataSet.max(0)
    ranges = maxVals - minVals

    normDataSet = np.zeros(np.shape(dataSet))
    m = dataSet.shape[0]
    normDataSet = (dataSet - np.tile(minVals, (m, 1))) / np.tile(ranges, (m, 1))
    return normDataSet, ranges, minVals


if __name__ == "__main__":
    returnMat, classLabelVector = fileToMatrix('1.txt', 3)
    normDataSet, ranges, minVals = autoNorm(returnMat)
    print(normDataSet)

（2）运行结果：

 

查看下一节： 机器学习实战（代码部分）-- k近邻算法（Ⅳ 分类器针对约会网站的测试代码）