【Python机器学习】感知器进行信用分类和使用KNN进行图书推荐实战（附源码和数据集）

需要源码和数据集请点赞关注收藏后评论区留言私信~~~

一、KNN进行图书推荐

KNN算法思想简介

KNN 可以说是最简单的分类算法之一，同时，它也是最常用的分类算法之一。注意：KNN 算法是有监督学习中的分类算法，它看起来和另一个机器学习算法 K-means 有点像（K-means 是无监督学习算法），但却是有本质区别的。

KNN 的全称是 K Nearest Neighbors，意思是 K 个最近的邻居。从这个名字我们就能看出一些 KNN 算法的蛛丝马迹了。K 个最近邻居，毫无疑问，K 的取值肯定是至关重要的，那么最近的邻居又是怎么回事呢？其实，KNN 的原理就是当预测一个新的值 x 的时候，根据它距离最近的 K 个点是什么类别来判断 x 属于哪个类别。

要度量空间中点距离的话，有好几种度量方式，比如常见的曼哈顿距离计算、欧式距离计算等等。不过通常 KNN 算法中使用的是欧式距离。这里只是简单说一下，拿二维平面为例，二维空间两个点的欧式距离计算公式如下：

该如何确定 K 取多少值好呢？答案是通过交叉验证（将样本数据按照一定比例，拆分出训练用的数据和验证用的数据，比如6：4拆分出部分训练数据和验证数据），从选取一个较小的 K 值开始，不断增加 K 的值，然后计算验证集合的方差，最终找到一个比较合适的 K 值。 

 

描述：下面比表7.5中是一个图书网站的数据，有5位用户对4本图书进行了评分。详细评分的值越大表示喜好越强烈。使用KNN模型找出与用户F最相似的用户。

预测结果如下 用户C与用户F喜好最为相似

 

部分代码如下

# -*- coding: utf-8 -*-
import numpy as np
from sklearn import neighbors
knn = neighbors.KNeighborsClassifier(1)   #取得 knn 分类器
data = np.array([[1.1, 1.5, 1.4, 0.2],
                 [1.9, 1.0, 1.4 ,0.2],
                 [1.7, 1.2, 1.3, 0.2],
                 [2.6, 2..2]])
labels = np.array(['A','B','C','D','E'])
knn.fit(data)
print("预测结果：",knn.predict(np.array([[1.6, 1.5, 1.2, 0.1]]).reshape(1,-1)))

 二、使用感知器Perceptron进行信用分类

感知机（perceptron），又称“人工神经元”或“朴素感知机”，由Frank Rosenblatt于1957年提出。作为神经网络的起源算法，通过深入学习可以帮助我们更好的理解神经网络的部分工作原理。

感知机接受多个输入信号，输出一个信号。感知机的信号只有“0（不传递信号）”和“1（传递信号）”两种。

单个感知机的局限性就在于它只能表示由一条直线分割的空间，对于非线性问题（即线性不可分问题）仅用单个感知机无法解决。

使用感知器对信用分类结果如下

可以看出有一条很明显的分界线将信用分成两个部分 

 

 部分代码如下

# -*- encoding:utf-8 -*-
from sklearn.linear_model import Perceptron
from sklearn.cross_validation import train_test_split
from matplotlib import pyplot as plt
import numpy as np
import pandas as pd

def loaddata(): 
    people = pd.read_csv("credit-overdue.csv", header=0) # 加载数据集
    X = people[['debt','income']].values
    y = people['overdue'].values
    return X,y 

print("Step1:read data...")
x,y=loaddata() 

#拆分为训练数据和测试数据
print("Step2:fit by Perceptron...")
x_train,x_test,y_train,y_test=train_test_split(x,y,test_size=0.2,random_state=0) 

#将两类值分别存放、以便显示
positive_x1=[x[i,0]for i in range(len(y)) if y[i]==1]
positive_x2range(len(y)) if y[i]==0] 

#定义感知机
clf=Perceptron(n_iter=100)
clf.fit(x_train,y_train)
print("Step3:get the weights and bias...")

#得到结果参数
weights=clf.coef_
bias=clf.intercept_
print('  权重为：',weights,'\n  截距为：',bias)
print("Step4:compute the accuracy...")    

#使用测p5:draw with the weights and bias...")
plt.scatter(positive_x1,positive_x2, marker='^',c='red')
plt.scatter(negetive_x1,negetive_x2,c='blue')

#显示感知机生成的分类线 
line_x=np.arange(0,4)
line_y=line_x*(-weights[0][0]/weights[0][1])-bias
plt.plot(line_x,line_y)
plt.show()

创作不易 觉得有帮助请点赞关注收藏~~~