机器学习实战第三章KNN学习笔记1

最新推荐文章于 2023-11-15 21:41:33 发布
最新推荐文章于 2023-11-15 21:41:33 发布
阅读量240 收藏
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43751489/article/details/115335007
版权

https://github.com/wzy6642/Machine-Learning-in-Action-Python3
在此向本书的作者，代码整理者致敬。

监督学习使用两种类型的目标变量
    标称型：真假，动物分类集合{爬行类，鱼类}
    数值型：0.100,4200,100.43

# -*- coding: UTF-8 -*-
import numpy as np
import operator
def createDataSet():
    #四组二维特征
    group = np.array([[1,101],[5,89],[108,5],[115,8]])
    #四组特征的标签
    labels = ['爱情片','爱情片','动作片','动作片']
    return group, labels

"""
函数说明:kNN算法,分类器

Parameters:
    inX - 用于分类的数据(测试集)
    dataSet - 用于训练的数据(训练集)
    labes - 分类标签
    k - kNN算法参数,选择距离最小的k个点
Returns:
    sortedClassCount[0][0] - 分类结果
Modify:
    2017-07-13
"""
#             测试集，训练集，分类标签，k
def classify0(inX, dataSet, labels, k):
    #numpy函数shape[0]返回dataSet的行数
    dataSetSize = dataSet.shape[0]
    #  inX = [101,20]复制四次
    '''[
    [101  20]
    [101  20]
    [101  20]
    [101  20]
       ]
    然后减去测试集
    '''
    diffMat = np.tile(inX, (dataSetSize, 1)) - dataSet
    
    #平方
    sqDiffMat = diffMat**2
    '''
    [[10000  6561]
     [ 9216  4761]
     [   49   225]
     [  196   144]]
    '''
    #sum()所有元素相加，sum(0)列相加，sum(1)行相加
    #[16561 13977   274   340]
    sqDistances = sqDiffMat.sum(axis=1)
    #开方，计算出距离
    distances = sqDistances**0.5
    #返回distances中元素从小到大排序后的索引值
    #[2 3 1 0]
    sortedDistIndices = distances.argsort()
    
    
    #定一个记录类别次数的字典
    classCount = {}
    for i in range(k):
        #取出前k个元素的类别
        voteIlabel = labels[sortedDistIndices[i]]
        #动作片  动作片  爱情片
        
        #dict.get(key,default=None),字典的get()方法,返回指定键的值,如果值不在字典中返回默认值。
        #计算类别次数 {'动作片': 2, '爱情片': 1}
        classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1
        
    #key=operator.itemgetter(1)根据字典的值进行排序
    #key=operator.itemgetter(0)根据字典的键进行排序
    #reverse降序排序字典
    sortedClassCount = sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)
    print(sortedClassCount)
    #返回次数最多的类别,即所要分类的类别
    return sortedClassCount[0][0]

group, labels = createDataSet()
#测试集
test = [101,20]
#                      测试集，训练集，分类标签，k
test_class = classify0(test, group, labels, 3)
#打印分类结果
#print(test_class)

[('动作片', 2), ('爱情片', 1)]

#case 2 约会网站使用K-近邻算法
from matplotlib.font_manager import FontProperties
import matplotlib.lines as mlines
import matplotlib.pyplot as plt
import time
import numpy as np
import operator

"""
函数说明：打开解析文件，对数据进行分类，1代表不喜欢，2代表魅力一般，3代表极具魅力

Parameters:
    filename - 文件名
    
Returns:
    returnMat - 特征矩阵
    classLabelVector - 分类label向量
    
Modify:
    2018-07-13
"""
def file2matrix(filename):
    # 打开文件
    fr = open(filename)
    # 读取文件所有内容
    arrayOlines = fr.readlines()
    # 得到文件行数
    numberOfLines = len(arrayOlines)
    # 生成矩阵numberOfLines行，3列的零元素矩阵
    returnMat = np.zeros((numberOfLines, 3))
    # 创建分类标签向量
    classLabelVector = []
    # 行的索引值
    index = 0
    # 读取每一行
    for line in arrayOlines:
        # 去掉每一行首尾的空白符，例如'\n','\r','\t',' '
        line = line.strip()
        # 将每一行内容根据'\t'符进行切片,本例中一共有4列
        #['40920', '8.326976', '0.953952', 'largeDoses']
        listFromLine = line.split('\t')
        # 将数据的前3列进行提取保存在returnMat矩阵中，也就是特征矩阵
        returnMat[index,:] = listFromLine[0:3]
        # 根据文本内容进行分类1：不喜欢；2：一般；3：喜欢
        if listFromLine[-1] == 'didntLike':
            classLabelVector.append(1)
        elif listFromLine[-1] == 'smallDoses':
            classLabelVector.append(2)
        elif listFromLine[-1] == 'largeDoses':
            classLabelVector.append(3)
        index += 1
    # 返回标签列向量以及特征矩阵
    return returnMat, classLabelVector

file_dating,file_label=file2matrix('C:/Users/18578/Desktop/Machine-Learning-in-Action-Python3-master/kNN_Project1/datingTestSet.txt')


file_dating

array([[4.0920000e+04, 8.3269760e+00, 9.5395200e-01],
       [1.4488000e+04, 7.1534690e+00, 1.6739040e+00],
       [2.6052000e+04, 1.4418710e+00, 8.0512400e-01],
       ...,
       [2.6575000e+04, 1.0650102e+01, 8.6662700e-01],
       [4.8111000e+04, 9.1345280e+00, 7.2804500e-01],
       [4.3757000e+04, 7.8826010e+00, 1.3324460e+00]])

file_label[0:20]

[3, 2, 1, 1, 1, 1, 3, 3, 1, 3, 1, 1, 2, 1, 1, 1, 1, 1, 2, 3]

import matplotlib
import matplotlib.pyplot as plt
fig = plt.figure() 
ax = fig.add_subplot(111) 
#ax.scatter(file_dating[:,1],file_dating[:,2]) 
ax.scatter(file_dating[:,1], file_dating[:,2],
15.0*array(file_label), 15.0*array(file_label))
plt.show()

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-XVXBpsdq-1617107010640)(output_7_0.png)]

#归一化
"""
Parameters:
    dataSet - 特征矩阵
Returns:
    normDataSet - 归一化后的特征矩阵
    ranges - 数据范围
    minVals - 数据最小值
"""
# 函数说明:对数据进行归一化
def autoNorm(dataSet):
    #获得数据的最小值
    minVals = dataSet.min(0)
    maxVals = dataSet.max(0)
    #最大值和最小值的范围
    ranges = maxVals - minVals
    #shape(dataSet)返回dataSet的矩阵行列数
    normDataSet = np.zeros(np.shape(dataSet))
    #返回dataSet的行数
    m = dataSet.shape[0]
    #原始值减去最小值
    normDataSet = dataSet - np.tile(minVals, (m, 1))
    #除以最大和最小值的差,得到归一化数据
    normDataSet = normDataSet / np.tile(ranges, (m, 1))
    #返回归一化数据结果,数据范围,最小值
    return normDataSet, ranges, minVals


if __name__ == '__main__':
    #打开的文件名
    filename = "C:/Users/18578/Desktop/Machine-Learning-in-Action-Python3-master/kNN_Project1/datingTestSet.txt"
    #打开并处理数据
    datingDataMat, datingLabels = file2matrix(filename)
    normDataSet, ranges, minVals = autoNorm(datingDataMat)
    print(normDataSet)
    print(ranges)
    print(minVals)




[[0.44832535 0.39805139 0.56233353]
 [0.15873259 0.34195467 0.98724416]
 [0.28542943 0.06892523 0.47449629]
 ...
 [0.29115949 0.50910294 0.51079493]
 [0.52711097 0.43665451 0.4290048 ]
 [0.47940793 0.3768091  0.78571804]]
[9.1273000e+04 2.0919349e+01 1.6943610e+00]
[0.       0.       0.001156]

# -*- coding: UTF-8 -*-
import numpy as np
import operator

"""
函数说明:kNN算法,分类器

Parameters:
    inX - 用于分类的数据(测试集)
    dataSet - 用于训练的数据(训练集)
    labes - 分类标签
    k - kNN算法参数,选择距离最小的k个点
Returns:
    sortedClassCount[0][0] - 分类结果

Modify:
    2017-03-24
"""
def classify0(inX, dataSet, labels, k):
    #numpy函数shape[0]返回dataSet的行数
    dataSetSize = dataSet.shape[0]
    #在列向量方向上重复inX共1次(横向),行向量方向上重复inX共dataSetSize次(纵向)
    diffMat = np.tile(inX, (dataSetSize, 1)) - dataSet
    #二维特征相减后平方
    sqDiffMat = diffMat**2
    #sum()所有元素相加,sum(0)列相加,sum(1)行相加
    sqDistances = sqDiffMat.sum(axis=1)
    #开方,计算出距离
    distances = sqDistances**0.5
    #返回distances中元素从小到大排序后的索引值
    sortedDistIndices = distances.argsort()
    #定一个记录类别次数的字典
    classCount = {}
    for i in range(k):
        #取出前k个元素的类别
        voteIlabel = labels[sortedDistIndices[i]]
        #dict.get(key,default=None),字典的get()方法,返回指定键的值,如果值不在字典中返回默认值。
        #计算类别次数
        classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1
    #python3中用items()替换python2中的iteritems()
    #key=operator.itemgetter(1)根据字典的值进行排序
    #key=operator.itemgetter(0)根据字典的键进行排序
    #reverse降序排序字典
    sortedClassCount = sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)
    #返回次数最多的类别,即所要分类的类别
    return sortedClassCount[0][0]

"""
函数说明:打开并解析文件，对数据进行分类：1代表不喜欢,2代表魅力一般,3代表极具魅力

Parameters:
    filename - 文件名
Returns:
    returnMat - 特征矩阵
    classLabelVector - 分类Label向量

Modify:
    2017-03-24
"""
def file2matrix(filename):
    #打开文件
    fr = open(filename)
    #读取文件所有内容
    arrayOLines = fr.readlines()
    #得到文件行数
    numberOfLines = len(arrayOLines)
    #返回的NumPy矩阵,解析完成的数据:numberOfLines行,3列
    returnMat = np.zeros((numberOfLines,3))
    #返回的分类标签向量
    classLabelVector = []
    #行的索引值
    index = 0
    for line in arrayOLines:
        #s.strip(rm)，当rm空时,默认删除空白符(包括'\n','\r','\t',' ')
        line = line.strip()
        #使用s.split(str="",num=string,cout(str))将字符串根据'\t'分隔符进行切片。
        listFromLine = line.split('\t')
        #将数据前三列提取出来,存放到returnMat的NumPy矩阵中,也就是特征矩阵
        returnMat[index,:] = listFromLine[0:3]
        #根据文本中标记的喜欢的程度进行分类,1代表不喜欢,2代表魅力一般,3代表极具魅力
        if listFromLine[-1] == 'didntLike':
            classLabelVector.append(1)
        elif listFromLine[-1] == 'smallDoses':
            classLabelVector.append(2)
        elif listFromLine[-1] == 'largeDoses':
            classLabelVector.append(3)
        index += 1
    return returnMat, classLabelVector

"""
函数说明:对数据进行归一化

Parameters:
    dataSet - 特征矩阵
Returns:
    normDataSet - 归一化后的特征矩阵
    ranges - 数据范围
    minVals - 数据最小值

Modify:
    2017-03-24
"""
def autoNorm(dataSet):
    #获得数据的最小值
    minVals = dataSet.min(0)
    maxVals = dataSet.max(0)
    #最大值和最小值的范围
    ranges = maxVals - minVals
    #shape(dataSet)返回dataSet的矩阵行列数
    normDataSet = np.zeros(np.shape(dataSet))
    #返回dataSet的行数
    m = dataSet.shape[0]
    #原始值减去最小值
    normDataSet = dataSet - np.tile(minVals, (m, 1))
    #除以最大和最小值的差,得到归一化数据
    normDataSet = normDataSet / np.tile(ranges, (m, 1))
    #返回归一化数据结果,数据范围,最小值
    return normDataSet, ranges, minVals


"""
函数说明:分类器测试函数

Parameters:
    无
Returns:
    normDataSet - 归一化后的特征矩阵
    ranges - 数据范围
    minVals - 数据最小值

Modify:
    2017-03-24
"""
def datingClassTest():
    #打开的文件名
    filename = "C:/Users/18578/Desktop/Machine-Learning-in-Action-Python3-master/kNN_Project1/datingTestSet.txt"
    #将返回的特征矩阵和分类向量分别存储到datingDataMat和datingLabels中
    datingDataMat, datingLabels = file2matrix(filename)
    #取所有数据的百分之十
    hoRatio = 0.10
    #数据归一化,返回归一化后的矩阵,数据范围,数据最小值
    normMat, ranges, minVals = autoNorm(datingDataMat)
    #获得normMat的行数
    m = normMat.shape[0]
    #百分之十的测试数据的个数
    numTestVecs = int(m * hoRatio)
    #分类错误计数
    errorCount = 0.0

    for i in range(numTestVecs):
        #前numTestVecs个数据作为测试集,后m-numTestVecs个数据作为训练集
        classifierResult = classify0(normMat[i,:], normMat[numTestVecs:m,:],
            datingLabels[numTestVecs:m], 4)
        print("分类结果:%d\t真实类别:%d" % (classifierResult, datingLabels[i]))
        if classifierResult != datingLabels[i]:
            errorCount += 1.0
    print("错误率:%f%%" %(errorCount/float(numTestVecs)*100))

"""
函数说明:main函数

Parameters:
    无
Returns:
    无

Modify:
    2017-03-24
"""
if __name__ == '__main__':
    datingClassTest()


分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:3	真实类别:1
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:3	真实类别:3
分类结果:3	真实类别:1
分类结果:3	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:2	真实类别:3
分类结果:1	真实类别:1
分类结果:2	真实类别:2
分类结果:1	真实类别:1
分类结果:3	真实类别:3
分类结果:3	真实类别:3
分类结果:2	真实类别:2
分类结果:2	真实类别:1
分类结果:1	真实类别:1
错误率:4.000000%
Xiaoweidumpb
关注
专栏目录
《机器学习实战》学习笔记第二章-KNN
isla77的博客
07-26 446
以近邻K个点为参考，多数是什么特征，未知点就是什么特征。即采用测量不同特征值直接的距离方法来进行分类。
机器学习实战笔记2——KNN及其实现
weixin_44916097的博客
04-14 1656
任务安排 1、机器学习导论      8、稀疏表示 2、K-means聚类      9、核方法 3、KNN及其实现     10、高斯混合模型 4、主成成分分析     &nbs...
Python实现线性回归、逻辑回归、KNN、SVM、朴素贝叶斯、决策树、K-Means7种机器学习算法的经典案例——亲测可用
08-04
Python实现线性回归、逻辑回归、KNN、SVM、朴素贝叶斯、决策树、K-Means7种机器学习算法的经典案例——亲测可用
Python入门到实战（十）机器学习中分类问题，逻辑回归、KNN、决策树、朴素贝叶斯、商场异常消费数据预测、判断员工是否适合相关工作、预测学生录取及奖学金情况
A793539835的博客
05-12 1252
Python入门到实战（十）机器学习中分类问题，逻辑回归区分回归任务和分类任务：回归：连续性数值预测模型输出：连续型数值分类：非连续性判断类别模型输出：非连续型标签名二级目录三级目录 区分回归任务和分类任务： 回归：连续性数值预测 模型输出：连续型数值 分类：非连续性判断类别 模型输出：非连续型标签 名 1 特征信息 2 数据类别 3 寻找关系 二级目录 三级目录 ...
机器学习示例总结（线性回归、逻辑回归、KNN算法、朴素贝叶斯、SVM算法、决策树）
qq_57099024的博客
03-17 3560
以下所有内容均为在华为云学习的总结 AI技术领域课程--机器学习_在线课程_华为云开发者学堂_云计算培训-华为云 (huaweicloud.com) 线性回归第三方库实现 # 导入sklearn下的LinearRegression 方法 from sklearn.linear_model import LinearRegression import numpy as np model = LinearRegression() # 构造用于训练的数据集 x_train = np.array([[..
数据回归分类预测的基本算法及python实现
angan3830的博客
07-29 1086
数据回归分类预测的基本算法及python实现 关于数据的回归和分类以及分析预测。讨论分析几种比较基础的算法，也可以算作是比较简单的机器学习算法。 一． KNN算法 邻近算法，可以用来做回归分析也可以用来做分类分析。主要思想是采取K个最为邻近的自变量来求取其应变量的平均值，从而做一个回归或者是分类。一般来说，K取值越大，output的var会更小，但bias相应会变大。...
四种经典机器学习算法测试——Bayes, SVM, 决策树, K-Means
Moon小木
05-07 1477
个人博客：wyxogo.top 给定数据集“Sort_1000pics”，该数据集包含1000张彩色图片，分为10类。使用Bayes，SVM，决策树，K-Means四种算法对该数据集进行分类，输出各算法的混淆矩阵，准确率，时间效率等测试结果。 数据集 Sort_1000pics数据集由1000图片组成，分为人、沙滩、建筑、卡车、恐龙、大象、花朵、马、山峰、食物10大类。 实验方案 生成数据与标签 import cv2 import numpy as np class DataLoader(obje...
《机器学习实战》笔记——第二章：k-近邻算法（kNN）实战
San Siro
03-25 1340
def classify0(inX, dataSet, labels, k): dataSetSize = dataSet.shape[0]#获取训练样本集的行数，即样本个数 diffMat = tile(inX, (dataSetSize,1)) - dataSet#利用tile()函数将inX向量构造成一个和dataset有相同行数列数的矩阵，并与之相减 sqDiffM...
机器学习实战笔记—KNN
kaguyam的博客
04-22 110
def classify0(inx,dataSet,labels,k): dataSetSize = dataSet.shape[0] diffMat = tile(inx,(dataSetSize,1)) - dataSet sqDiffMat = diffMat**2 sqDistances = sqDiffMat.sum(axis=1) distances = sqDistances**0.5 sortedDistIndicies = distances
机器学习实战笔记--kNN
sinat_26230689的博客
05-10 729
本文为《机器学习实战》学习笔记 1. 相关数据类型&函数介绍SciPy 基于Python生态系统提供了数学运算、科学和工程的开源软件，主要包括基本N维数组包NumPy，科学计算基本库SciPy library， 用于2D绘图的Matplotlib，交互式控制台IPython，用于符号数学Sympy，用于数据结构和分析的pandas。1.1 NumPyNumPy是python科学计算的基础包。包括强
【机器学习】贝叶斯线性回归代码实现（Python）
最新发布
sdksdf的博客
11-15 782
上一篇贝叶斯线性回归，我们已经从贝叶斯派的角度去推导了线性回归的参数表达式。本文，我们将对线性回归的的预测问题就行Python代码实现。
K近邻算法
skullFang的博客
01-14 1176
前言 这是机器学习最简单的算法，当然并不是说简单就没人用。knn算法的优点就是简单而且便于实现，并且有一定好的效果。 算法原理 K近邻的算法思路很简单。 背景 假设 有两个类别散落在这个特征空间中。 现在有一个新的样本需要预测它属于哪个类别。 思路介绍 step1: 暴力的求出新样本与其余所有样本的“距离”。 step2: 找到距离它最近的k的点。（这就是k近
机器学习_1:K-近领算法
chuxiao_scx的博客
10-03 505
机器学习_1:K-近领算法 文章目录实验背景1.k-近邻算法1.1算法原理1.2算法解析1.3算法实验2.基于k-近邻算法的手写体识别 实验背景 本次实验基于机器学习经典的k-近邻算法，我会先介绍k-近邻算法的原理和基础的分类实验，然后介绍如何使用k-近邻算法进行手写体识别。 1.k-近邻算法 1.1算法原理 什么是k-近邻算法，就是根据给定的要判断的点，找出k个与它距离最近的点，而这k个点中，哪种标签出现次数最多，这个要判断的点就属于那个标签。如图所示，这里的k取值为5，而这5个点中，有四个w1，所以这
机器学习模型代码自我复现：贝叶斯线性回归
thorn_r的博客
06-08 771
贝叶斯建模与传统频率派不同，将参数视作符合某一分布的随机变量，并且可以考虑先验分布使得在建模时能够有更高的可信度；然而由于计算复杂度大，必须使用采样法或变分法，可能会使得计算精确度下降，并且增加时间成本。
29-贝叶斯线性回归
scar2016的博客
08-19 655
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
机器学习项目实战--基于鸢尾花数据集（python代码，多种算法对比：决策树、SVM、k近邻）
热门推荐
qq_40683479的博客
04-18 2万+
机器学习项目实战----基于鸢尾花数据集（python代码，多种算法对比：决策树、SVM、k近邻） 1、项目介绍 鸢尾花数据集是机器学习入门的一个十分经典的数据集，这里依然简单的介绍一下这个项目是做什么的，通过花萼长度，花萼宽度，花瓣长度，花瓣宽度4个属性预测鸢尾花卉属于（Setosa，Versicolour，Virginica）三个种类中的哪一类。在这篇博客中，我们将在此数据集上同时构建多个机器...
scikit-learn的基本回归方法（线性、决策树、SVM、KNN）和集成方法（随机森林，Adaboost和GBRT）...
ande6905的博客
04-21 607
本文来自 https://blog.csdn.net/u010900574/article/details/52666291，写的太好了。 前言：本教程主要使用了numpy的最最基本的功能，用于生成数据，matplotlib用于绘图，scikit-learn用于调用机器学习方法。如果你不熟悉他们（我也不熟悉）,没关系，看看numpy和matplotlib最简单的教程就够了。我们...
机器学习实战 K近邻算法（附数据集）
枫林晚的博客
06-24 4809
机器学习实战 K近邻算法 1.前言 k近邻是一种基本分类与回归方法。k近邻法的输入为实例的特征向量，对应于特征空间的点，输出为实例的类别，可以取多类。k近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其K个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，k近邻不具有显示的学习过程（训练时间开销为0）。k值的选择，距离度量及分类决策规则是k近邻法的三个基本要素。...
机器学习之KNN算法，朴素贝叶斯，决策树，SVM算法比较
qq_46556714的博客
04-30 1531
KNN算法 knn = KNeighborsClassifier ( ) 朴素贝叶斯 gnb = GaussianNB ( ) 决策树 dtc = DecisionTreeClassifier ( ) SVM算法 svm = SVC () 代码： import numpy as np import matplotlib.pyplot as plt from itertools import product from sklearn import datasets from sklearn.neigh
机器学习实战：KNN算法应用与参数优化
本篇文档主要介绍了机器学习中的KNN分类实验，结合Python库sklearn进行实战操作。实验的目标在于深入理解KNN分类的基本原理，并通过实践掌握如何使用该算法以及调整其参数。首先，实验要求参与者在计算机上实现KNN...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值