读《scikiit-learn机器学习》黄永昌第四章

最新推荐文章于 2024-07-25 15:49:32 发布
最新推荐文章于 2024-07-25 15:49:32 发布
阅读量227 收藏 1
点赞数 1
分类专栏： 黄永昌 文章标签： 机器学习 黄永昌
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39309652/article/details/90382602
版权

                                       第4章_k-近邻算法

请用一句话描述k-近邻算法的原理

未标记样本的类别，由距离其最近的k个邻居投票来决定

k-近邻算法有那些变种

1：增加邻居的权重，越紧权重越高 2:使用一定半径内的点取代最近的k个点，主要数据采集样本不均匀时，效果较好

使用不同的算法参数k,观察针对同一个数据，拟合曲线有什么变化

k偏小容易过拟合

使用selectKBest选择出4个相关性最高的特征，并吧这4个特征作为输入来训练模型，看模型准确性是否有提高？为什么

没有，反而降低，因为2个是最好的，图形更容易分析

本章实例：使用k-近邻算法进行分类

                  使用k-近邻算法进行回归拟合

                  糖尿病预测

 

 

 

Happy丶lazy
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
入门Sciki-learn网站资料
qq_43569210的博客
04-09 740
官网： Scikit-learn官网 Scikit-learn快速入门教程和实例（一） sklearn学习总结（超全面） SciKit-learn快速入门教程和实例（二） 【Scikit-learn】【入门】简介 + Scikit-learn六大功能 scikit-learn sklearn 0.18 官方文档中文版（推荐） （持续更新） ...
Machine-Learning-by-scikit-learn-Algorithms-and-Practices:scikit-learn机器学习常用算法原理及编程实战黄永昌编着
05-17
scikit-learn机器学习 常用算法原理及编程实战...第4章k-近邻算法，介绍了一个有监督的机器学习算法，即k-近邻算法。该算法可以解决分类问题，也可以解决回归问题。 第5章线性回归算法，介绍了单变量线性回归算法和多变
读《scikiit-learn机器学习》黄永昌第三章
lzay的博客
05-20 455
第三章_机器学习理论基础 什么是过拟合，什么是欠拟合？怎么去诊断算法是否过拟合或欠拟合 过拟合是指模型能很好地拟合训练样本，但对新数据的预测准确性很差，欠拟合是指模不能很好地拟合训练样本，且对新数据的预测准确性也不好 分别用一阶多项式,三阶多项式,十阶多项式,来拟合这个数据集 %matplotlib inline import matp...
读《scikiit-learn机器学习》黄永昌第二章
lzay的博客
05-08 180
第二章python机器学习软件包 机器学习任务的一般步骤有那些 1：评估模型对象 2：模型接口 3：模型检验 4：模型选择 扩展学习资源 http://scipy-lectures.org 科学计算工具包的集合 蒙特卡罗方法求圆周率 n_dots = 1000000 x = np.random.random...
读《scikiit-learn机器学习》黄永昌第五章
lzay的博客
05-22 300
线性回归算法 线性回归模型是用来解决什么问题的 使用线性方程对数据集进行拟合的算法，通过属性的线性组合进行预测 2.线性回归模型的预测函数是什么样的？其矩阵形式的写法是什么样的？ h(x)=a+bx h(x)=[a b]*[1 x]T 3.线性回归模型的成本函数是什么样的？ J(θ)=1/(...
人工智能（Machine Learning）—— 机器学习
迷途无归的博客
09-01 5560
机器学习 一、人工智能、机器学习与深度学习 人工智能        机器学习               经典机器学习               基于神经网络的机器学习                      浅层学习                      深层学习(深度学习)               强化学习               迁移学习 二、机器学习基本类型 1.有...
sklearn机器学习（三）k值近邻算法进行回归拟合
永远的小白虾的博客
05-27 2029
这是第三个，是k值近邻算法的一个示例。 实现其中的回归拟合 以下是生成数据集 import numpy as np import matplotlib.pyplot as plt n_dots=40#数据个数 X=5*np.random.rand(n_dots,1)#生成0-5之间的（40，1）数组 y=np.cos(X).ravel()#生成扁平化之后的（40，）数组 y+=0.2*np.ran...
Scikit-learn实战之最近邻算法
学习AI算法，请关注微信公众号：机器学习算法全栈工程师……
12-22 3506
1. 最近邻的概念       sklearn.neighbors 提供了基于最近邻的无监督和有监督学习方法的功能。无监督最近邻是许多其他学习方法的基础，尤其是流型学习和谱聚类。有监督的最近邻学习有两种形式：对离散类标的数据进行分类，对连续类标的数据进行回归。       最近邻方法背后的原理是找到一个预定义数量的离新的观测点距离最近的训练样本，并从这些最近点来预测新的观测点的标签。样本的数量可以是
k-近邻算法进行回归拟合
lzay的博客
05-20 1816
%matplotlib inline import matplotlib.pyplot as plt import numpy as np # 生成训练样本 n_dots = 40 X = 5 * np.random.rand(n_dots, 1) y = np.cos(X).ravel() # 添加一些噪声 y += 0.2 * np.random.rand(n_dots) - 0.1 # ...
乳腺癌支持向量机
lzay的博客
05-22 1298
%matplotlib inline import matplotlib.pyplot as plt import numpy as np # 载入数据 from sklearn.datasets import load_breast_cancer cancer = load_breast_cancer() X = cancer.data y = cancer.target print('da...
糖尿病预测
lzay的博客
05-20 948
%matplotlib inline import matplotlib.pyplot as plt import numpy as np import pandas as pd # 加载数据 data = pd.read_csv('datasets/pima-indians-diabetes/diabetes.csv') print('dataset shape {}'.format(data...
使用k-近邻算法进行分类
lzay的博客
05-20 815
%matplotlib inline import matplotlib.pyplot as plt import numpy as np from sklearn.datasets.samples_generator import make_blobs # 生成数据 centers = [[-2, 2], [2, 2], [0, 4]] X, y = make_blobs(n_samples=...
乳腺癌检测_逻辑回归
lzay的博客
05-22 665
%matplotlib inline import matplotlib.pyplot as plt import numpy as np # 载入数据 from sklearn.datasets import load_breast_cancer cancer = load_breast_cancer() X = cancer.data y = cancer.target print('dat...
决策树_预测泰坦尼可号幸存者
lzay的博客
05-22 353
%matplotlib inline import matplotlib.pyplot as plt import numpy as np import pandas as pd def read_dataset(fname): # 指定第一列作为行索引 data = pd.read_csv(fname, index_col=0) # 丢弃无用的数据 data....
线性回归_测算房价
lzay的博客
05-22 281
%matplotlib inline import matplotlib.pyplot as plt import numpy as np from sklearn.datasets import load_boston boston = load_boston() X = boston.data y = boston.target X.shape (506, 13) X[0] arra...
读《scikiit-learn机器学习》第七章_决策树
lzay的博客
05-22 207
什么是信息熵，其计算公式是什么 一条信息的信息量和它的不确定性有直接关系，一个问题不确定性越大，要搞清这个问题，需要了解的信息量就越多，其信息熵就越大 什么是信息增益？ 信息熵变换幅度 在决策树创建过程中，用什么方法来选择特征，从而经行数据划分 选择信息增益最大得特征，并用这个特征作为数据集划分节点来划分数据 决策树如何处理连续值得特征 需要经行离散化处理，要离散化成几个类 除了信...
读《scikiit-learn机器学习》支持向量机
lzay的博客
05-22 199
支持向量机的最大特点 能构造出最大间距的决策边界，从而提高分类算法的鲁棒性 在支持向量机里，为什么吧类别标识定义为[-1,1] 为了让数学表达式尽量简洁，通过符号判断 什么是松弛系数，它有什么用 类似与逻辑回归算法成本函数引入正则项，目的是为了纠正过拟合问题，让支持向量机对噪声数据更强的适应性。 什么是核函数，他们和相似性函数，两者有什么关系 核函数：特征转换函数，相似性函数：由于只...
Python编程、机器学习与深度学习技术
2301_78164062的博客
07-24 821
Python编程、机器学习与深度学习技术
实战机器学习--决策树分类器在蘑菇分类中的应用
最新发布
mmd666的博客
07-25 544
通过以上步骤，我们成功地使用决策树分类器对蘑菇图片进行了分类。这种方法可以扩展到其他图像分类任务中，只需调整数据路径和相应的处理逻辑即可。决策树是一种简单但有效的分类方法，适合初学者理解和应用。然而，对于更复杂的任务，可能需要更高级的模型，如深度学习模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值