** 如有错误,感谢指正**
如有错误,感谢指正,请私信博主,有辛苦红包,拜“一字之师”。
请根据目录寻找自己需要的段落
导语:本博客为个人整理数模算法学习记录帖,如有错误,感谢指正。系统学习,欢迎持续关注,后续陆陆续续更新
Java 交流qq群 383245788
序
本文旨在记录个人数模美赛备赛经历。转载请注明出处。
本文所涉及的感知机模型仅为简单介绍和数模用法,且应用范围较小,比较偏门
感知机模型
感知机Pereptron)是二分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和1。 感知机对应于输入空间(特征空间)中将实例划为正负两类的分离超平面,属于判别模型。
机器学习发展历史
感知机模型生物机制
Input:实例的向量,每一列- -个特征
Weight:权重,设置初始值,并使用梯度下降法进行更新
Bias:偏置,允许分类器左右移动决策边界,有助于更好,更快的训练模型。
Weighted sum:加权求和是Input向量和weight的乘积和
Output:输出为类别,取+1,-1
简单说,感知机模型就是 数据提取特征后,乘权重,求和利用梯度下降,训练,加偏置辅佐分类,最后二分。
感知机模型的数学模型
给定训练数据集:
T={ (x1,y1) ,(x2,)2)…(x.n,yn) }
其中xi∈Rn, yi ∈{+1-1},i=1,2,.,.n,
输入x表示实例的特征向量,对应输入空间的点,输出的y代表样本的类别。.
则感知机模型为:
符号函数为:
几何解释
线性方程:wx+b=0
对应超平面S,w为法向量,b截距,分离正负类
仅可以解决二分,如果区别不明显或者交叉,很难求解。典型的错误驱动算法。
模型求解
输入:训练数据集T={(x1,y1),(x2,)2)…(xn,yn)}
</
其中xi∈R, yi∈{-1,+1}, i=12…N
学习率η (0<n<=1) ;
输出: w,b
感知机模型: f(x)=sign(wx+b)
(1)选择初始值w0,b0
(2)在训练集中选取数据(xi,yi)
(3)如果yi(w*xi+b)<=0
(4)求偏导,更新参数
(5)重复(2)直到训练集中没有误分类点