《统计学习方法》学习笔记 （第二章）

第二章 感知机

二分类模型

源代码出处：https://github.com/fengdu78/lihang-code/blob/master/code/第2章 感知机(Perceptron)/Iris_perceptron.ipynb

$f(x)=sign(w\ast x+b)$
损失函数 $L(w,b)=-\Sigma y_i(w\ast x_i+b)$

算法：
随即梯度下降法 Stochastic Gradient Descent
随机抽取一个误分类点使其梯度下降。

$w=w+\eta y_i{x}_i$
$b=b+\eta y_i$

当实例点被误分类，即位于分离超平面的错误侧，则调整w, b的值，使分离超平面向该无分类点的一侧移动，直至误分类点被正确分类。

• iris数据集（鸢尾花数据集）

数据集中属性feature_names包括四个：Sepal.Length（花萼长度）、Sepal.Width（花萼宽度）、Petal.Length（花瓣长度）、Petal.Width（花瓣宽度），特征值都为正浮点数，单位为厘米。
iris.target为目标值，目标值为鸢尾花的分类（Iris Setosa（山鸢尾）、Iris Versicolour（杂色鸢尾），Iris Virginica（维吉尼亚鸢尾））。

拿出iris数据集（鸢尾花数据集）中两个分类的数据和[sepal length，sepal width]作为特征。

• Pandas

Pandas，是python的一个数据分析包，Pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的工具。Pandas提供了大量能使我们快速便捷地处理数据的函数和方法。
DataFrame是Python中Pandas库中的一种数据结构，它类似excel，是一种二维表，单元格可以存放数值、字符串等。
pd.DataFrame(data,index,columns)：其中第一个参数是存放在DataFrame里的数据，第二个参数index是行名（行索引），第三个参数columns是列名（列索引）；
value_counts()：计算series里面相同数据出现的频率（次数）；
iloc取数据：iloc[行位置，列位置]，可以把冒号改成几列列名，只取满足条件的某几列数据。

• Matplotlib中的scatter()函数

scatter(x, y, s=None, c=None, marker=None, cmap=None, norm=None, vmin=None, vmax=None, alpha=None, linewidths=None, verts=None, edgecolors=None, hold=None, data=None, **kwargs)

x，y：大小为(n,)的输入数据，即将绘制散点图的数组
s：标量或者是一个数组大小为(n,)，可选的参数， 点数^ 2
c：颜色，可选。默认是蓝色’b’,表示的是标记的颜色，或者可以是一个表示颜色的字符，或者是一个长度为n的表示颜色的序列等
marker：标记的样式，默认的是’o’
cmap：colormap实体或者是一个colormap的名字，cmap仅仅当c是一个浮点数数组的时候才使用
norm：Normalize实体来将数据亮度转化到0-1之间，也是只有c是一个浮点数的数组的时候才使用vmin,vmax：实数，当norm存在的时候忽略。用来进行亮度数据的归一化
alpha：实数，0-1之间
linewidths：标记点的长度

#二分类 f(x) = sign(w*x + b)
import pandas as pd 
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt
%matplotlib inline

#load data 
iris = load_iris()
df = pd.DataFrame(iris.data,columns=iris.feature_names)
df['label'] = iris.target

df.columns = ['sepal length', 'sepal width', 'petal length', 'petal width', 'label']
df.label.value_counts()

#画两分类散点图
plt.scatter(df[:50]['sepal length'], df[:50]['sepal width'], label='0')
plt.scatter(df[50:100]['sepal length'], df[50:100]['sepal width'], label='1')
plt.xlabel('sepal length')
plt.ylabel('sepal width')
plt.legend()

data = np.array(df.iloc[:100, [0, 1, -1]])
X, y = data[:,:-1], data[:,-1]
y = np.array([1 if i == 1 else -1 for i in y])

自己定义模型

#数据线性可分，二分类数据，此处为一元一次线性方程
class Model:
    def __init__(self):
        self.w = np.ones(len(data[0])-1,dtype=np.float32)
        self.b = 0
        self.l_rate = 0.1
        # self.data = data
        
    def sign(self,x,w,b):
        y = np.dot(x,w) + b
        return y
    
    #随机梯度下降法
    def fit(self,X_train,y_train):
        is_wrong = False
        while not is_wrong:
            wrong_count = 0
            for d in range(len(X_train)):
                X = X_train[d]
                y = y_train[d]
                if y * self.sign(X,self.w,self.b)<=0:
                    self.w = self.w + self.l_rate*np.dot(y,X)
                    self.b = self.b + self.l_rate*y
                    wrong_count += 1
                    
            if wrong_count == 0:
                    is_wrong = True
        return 'Perceptron Model!'
                
    def score(self):
        pass

perceptron = Model()
#使用训练数据进行训练
perceptron.fit(X, y)

x_points = np.linspace(4, 7,10)
y_ = -(perceptron.w[0]*x_points + perceptron.b)/perceptron.w[1]
plt.plot(x_points, y_)

plt.plot(data[:50, 0], data[:50, 1], 'bo', color='blue', label='0')
plt.plot(data[50:100, 0], data[50:100, 1], 'bo', color='orange', label='1')
plt.xlabel('sepal length')
plt.ylabel('sepal width')
plt.legend()

scikit-learn Perceptron 定义一个感知器

from sklearn.linear_model import Perceptron
clf = Perceptron(fit_intercept=False,n_iter=1000, shuffle=False)
#使用训练数据进行训练
clf.fit(X, y)
#得到训练结果，权重矩阵
print(clf.coef_)
# 截距 
print(clf.intercept_)
x_ponits = np.arange(4, 8)
y_ = -(clf.coef_[0][0]*x_ponits + clf.intercept_)/clf.coef_[0][1]
plt.plot(x_ponits, y_)

plt.plot(data[:50, 0], data[:50, 1], 'bo', color='blue', label='0')
plt.plot(data[50:100, 0], data[50:100, 1], 'bo', color='orange', label='1')
plt.xlabel('sepal length')
plt.ylabel('sepal width')
plt.legend()