一. 作业题目
邻近算法,或者说K最近邻(kNN,k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表。
二. 算法设计
-
实现原理:
为了判断未知样本的类别,以所有已知类别的样本作为参照,计算未知样本与所有已知样本的距离,从中选取与未知样本距离最近的K个已知样本,根据少数服从多数的投票法则(majority-voting),将未知样本与K个最邻近样本中所属类别占比较多的归为一类。 -
算法设计思路:
a) 生成鸢尾花数据集
b) 编写knn算法代码
i. 计算两点之间的平方距离
ii. 投票机制(将两点间的平方距离进行排序)
iii. 添加推测值
iv. 使用推测值计算精度
c) 输出精度结果
三. 源代码
- train_test.py
from knn import *
from sklearn.datasets import load_iris
iris_dataset = load_iris()
print("key of iris_dataset:\n{}".format(iris_dataset.keys()))
import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test = train_test_split(iris_dataset['data'],iris_dat