r语言 svm 大样本_r语言基于SVM模型的文本分类研究 附数据代码

1 Perceptron

与

SVM

概念介绍

1.1

感知机

(Perceptron)

感知机(

perceptron

)

1957

年由

Rosenblatt

提出，是神经网络与支持向

量机的基础

†

感知

机，

是二类分类的线性分类模型，

其输入为样本的特征向量，

输

出为样本的类别

出为样本

的类别，

取

+1

和‐

1

二值，

即通过某样本的特征

即通过某样本的特征，

就可以准确

判断该

样本属于哪一类。感知机能够解决的问题首先要求特征空间是

线性可分的，再者是二类分

类，即将样本分为

{+1,

‐

1}

两类。由输入空间到输出空间的符号函数

:

其中，

w

和

b

为感知机参数，

w

为权值(

weight

)，

b

为偏置(

bias

)。

在感知机的定义中，

线性方程对应于问题空间中的

1

个超平面

(二维空间中为直线)

S

，

位于这个超平面两侧的样本分别被归为两类，例如下图，红色作为一类(正类)，蓝色作为

另一类(负类)，它们的特征很简单，就是它们的坐标。

作为有监督学习的一种方法，

感知机学习由训练集，

求得感知机模型，

即求得模型参数

w

，

b

，这里

x

和

y

分

别是特征向量和类别(也称为目标)。基于此，感知

机模型可以对

新的输入样本进行分类。