【机器学习】【KNN】kd树，详解+Python实现手写数字的识别系统

最新推荐文章于 2021-09-18 16:54:05 发布
最新推荐文章于 2021-09-18 16:54:05 发布
阅读量820 收藏 5
点赞数
分类专栏： 人工智能 机器学习 跟我一起学机器学习 Machine Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012421852/article/details/79840419
版权
CV_ML_DP
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
一看就懂的K近邻算法(KNN)，K-D树，并实现手写数字识别！
mantch
08-02 1433
文章目录1. 什么是KNN1.1 KNN的通俗解释1.2 近邻的距离度量1.3 K值选择1.4 KNN最近邻分类算法的过程2. KDD的实现：KD树2.1 构建KD树2.2 KD树的插入2.3 KD树的删除2.4 KD树的最近邻搜索算法2.5 kd树近邻搜索算法的改进：BBF算法2.6 KD树的应用3. 关于KNN的一些问题4. 参考文献5. 手写数字识别案例 1. 什么是KNN 1.1 KNN的...
Python 纯手写 实现KNN KD树算法
ZJRN1027的博客
08-08 864
《统计学习方法》第三章中的算法3.2与算法3.3 实现KD树的构造级最邻近点搜索 算法3.2： 构造KD树 输入：空间数据集T 输出：KD树 Python代码： def creat_ketree(data,depth=0): """ 创建KD树 axis为坐标轴 num为中位数节点 depth为树的深度 median为父节点 ...
基于KNN分类算法手写数字识别的实现（二）——构建KD树
qq_33361618的博客
09-30 1191
上一篇已经简单粗暴的建立了一个KNN模型对手写图片进行了识别，所以本篇文章采用构造KD树的方法实现手写数字的识别。 上一篇链接：https://blog.csdn.net/qq_33361618/article/details/82887121 （一）构造KD树 构造KD树的基本原理网上都有介绍，所以废话不多说，直接上代码。 #Knn KD_Tree算法 import math fro...
KNN分类算法实现手写数字识别
weixin_34019929的博客
07-11 627
需求： 利用一个手写数字“先验数据”集，使用knn算法来实现对手写数字的自动识别； 先验数据（训练数据）集： ♦数据维度比较大，样本数比较多。 ♦数据集包括数字0-9的手写体。 ♦每个数字大约有200个样本。 ♦每个样本保持在一个txt文件中。 ♦手写体图像本身的大小是32x32的二值图，转换到txt文件保存后，内容也是32x32个数字，0或者1，如下： 数据集压缩包解压后有...
山东大学数据结构课程设计 —— KNN分类器应用于手写数字识别、数据结构KD树的实现以及其K近邻搜索
SongyangJi
03-05 1035
基于KD Tree的K近邻分类器实现 1.自学K近邻分类器算法的原理并实现； 2.随机生成二维、不同类别的数据，测试基本K近邻算法的实现； 3.自学并实现KD Tree； 4.基于KD Tree实现K近邻分类器算法； 5.比较使用和不使用KD Tree的K近邻分类器算法的差异。 ...
机器学习python实战之手写数字识别
09-21
在本篇内容中，我们将深入探讨如何使用Python结合机器学习技术实现手写数字识别。该主题不仅具备实际应用价值，而且对于理解机器学习基本原理及其实践操作非常有帮助。接下来，我们将详细阐述整个流程，包括数据...
机器学习方法朴素贝叶斯模型、knn实现手写数字识别
07-22
本项目通过这两种方法实现了一个手写数字识别系统，这在图像识别和模式识别领域具有重要的实际应用价值。 首先，朴素贝叶斯模型是一种基于概率的分类方法，其基础是贝叶斯定理。它假设特征之间相互独立，这就是...
基于Python实现手写数字识别的KNN算法实例
最新发布
07-27
总之，通过Python实现的手写数字识别KNN算法实例是一个很好的学习平台，涵盖了数据预处理、模型构建、预测和评估等多个环节，有助于提升我们在机器学习领域的技能。同时，这个实例也揭示了在实际应用中如何解决分类...
实验二_knnpython_python_车牌_手写数字识别_
10-02
7. 应用到车牌识别：将这个手写数字识别模型与车牌识别系统相结合，当检测到车牌上的手写数字时，用KNN模型进行识别。 在这个实验中，"通信1701袁照顺20170204010"可能是实验者的名字和日期，表示这是某个学生的...
matlab：KNN实现手写数字识别
05-18
本资源实现了KNN算法应用手写数字识别案例，利用KNN算法的简单原理解决如何识别数字。本资源利用数字图片的二值化值作为特征，进行特征提取。通过训练集的二值化特征与测试集的二值化特征的欧式距离，通过排序，选取...
机器学习实例代码-手写数字识别.ipynb
08-10
练一个简单的全连接神经网络，即多层感知机（MLP），实战Python代码，下载即可使用，练一个简单的全连接神经网络，即多层感知机（MLP），实战Python代码，下载即可使用，
手写数字识别.贝叶斯分类算法
12-06
MATLAB源码实现手写数字识别，模式识别经典分类算法，识别率有待提高，思路清晰，适合新手入门学习使用
python实现KNN手写字体识别Demo
11-11
python实现K进邻算法对手写数字识别的一个小Demo，含代码和数据集。适合刚入门的小白。棒棒棒棒棒棒棒棒棒棒棒棒
用 Python 实现一组手写数字识别.zip
04-20
用 Python 实现一组手写数字识别。使用keras+opencv进行简单的实现。首先进行图像中数字的目标检测与分割，将图片中的数字分离出来然后进行单独识别。使用的数据集为mnist手写数字识别库，采用卷积神经网络进行识别
KNN实现手写数字识别
weixin_41643663的博客
08-15 196
import operator import datetime import numpy as np from numpy import * from os import listdir from skimage import io print('程序处理的图片大小,建议不要超过200*200\n') N = int(input('需要处理的图片的大小(100至200)，N=')) #N = 1...
机器学习：（1）k-近邻算法及手写数字识别系统
qq_45802659的博客
09-18 1041
（一）kNN算法概述 1.k邻近算法基于距离的测量，选取距离最近的特征值，即为预测的结果。该算法属于监督学习中的分类算法，基于大量数据的基础上，做出相应的预测，一般运用于手写数字识别，约会网站的大量数据匹配等等。 2.其优点是：精度高，对异常值不敏感，无数据输入假定. 3.其缺点是：计算复杂度高，空间复杂度高。 4.适用数据范围是：数值型和标称型。 （二）原理 kNN算法的工作原理：存在一个样本数据集合，也称作训练样本集，并且样本集中每一数据与所属分类的对应关系。输入没有标签的新数据后，将新数据的每个特征与
手写数字识别mnist改进版本实现及代码
mercies的博客
02-27 470
手写数字识别，损失函数是CrossEntropyCost，初始化weights，biases是服从于N（0，1/sqrt（x）），其中还有save函数，精度比之前的几种更高 import random import json import sys import numpy as np def sigmoid(z): return 1.0 / (1.0 + np.exp(-z)) d...
Python knn 对手写数字分类
NO CODE NO LIFE
11-08 544
Python knn 对手写数字分类
kd树 python实现_用python手写KNN算法+kd树及其BBF优化（原理与实现）（上篇）
weixin_39767386的博客
11-26 136
用python手写KNN算法+kd树及其BBF优化（原理与实现）（上篇）初学python和机器学习，突然兴起想动手用python实践一下KNN算法，本来想着这个算法原理很简单明了，应该实现起来没什么大问题，然而真正上手的时候问题频出，花了好一些功夫挨个排除各种奇怪的bug，总算是大功告成。接下来我会介绍一下算法的手写实现和在此过程中亲遇的各种问题，希望能够帮到大家。实验所需数据链接在文章最后。ps...
基于python的手写数字识别knn_KNN分类算法实现手写数字识别
05-13
手写数字识别是机器学习中经典的问题之一，KNN（K-最近邻）算法是一种常用的分类算法。下面给出基于Python的手写数字识别KNN算法的实现过程。 1. 数据集准备 首先，我们需要一个手写数字的数据集。MNIST数据集是一个经典的手写数字数据集，可以从http://yann.lecun.com/exdb/mnist/下载。下载后，将数据集解压缩到本地文件夹中。 2. 数据预处理 将数据集中的图片转换成向量形式，以便于计算机处理。这里我们将每张图片转换成一个784维的向量（28*28像素），并将像素值归一化到[0,1]范围内。 ```python import os import struct import numpy as np def load_mnist(path, kind='train'): labels_path = os.path.join(path, '%s-labels-idx1-ubyte' % kind) images_path = os.path.join(path, '%s-images-idx3-ubyte' % kind) with open(labels_path, 'rb') as lbpath: magic, n = struct.unpack('>II', lbpath.read(8)) labels = np.fromfile(lbpath, dtype=np.uint8) with open(images_path, 'rb') as imgpath: magic, num, rows, cols = struct.unpack('>IIII', imgpath.read(16)) images = np.fromfile(imgpath, dtype=np.uint8).reshape(len(labels), 784) return images, labels X_train, y_train = load_mnist('mnist/', kind='train') X_test, y_test = load_mnist('mnist/', kind='t10k') # 数据归一化 X_train = X_train / 255.0 X_test = X_test / 255.0 ``` 3. KNN算法实现 KNN算法的基本思路是：对于一个未知样本，计算它与训练集中每个样本的距离，选择距离最近的K个样本，将它们的标签作为预测结果。 ```python from collections import Counter def knn(X_train, y_train, X_test, k): pred_labels = [] for i in range(len(X_test)): # 计算测试样本与训练集样本的距离 distances = np.sqrt(np.sum((X_train - X_test[i])**2, axis=1)) # 选择距离最近的K个样本 nearest = np.argsort(distances)[:k] # 统计K个样本的标签 counter = Counter(y_train[nearest]) # 将出现次数最多的标签作为预测结果 pred_labels.append(counter.most_common(1)[0][0]) return pred_labels ``` 4. 测试效果 将KNN算法应用到手写数字识别问题上，测试其效果。 ```python pred_labels = knn(X_train, y_train, X_test[:100], 5) accuracy = np.sum(pred_labels == y_test[:100]) / len(y_test[:100]) print('Accuracy:', accuracy) ``` 输出结果如下： ``` Accuracy: 0.97 ``` 可以看出，KNN算法在手写数字识别问题上的表现还是比较不错的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值