机器学习第一篇----感知机

本文基于《统计学习方法》第三遍阅读的感悟,介绍并实现感知机算法。感知机通过线性或非线性划分空间,将样本分为两类。文中探讨了最优参数w和b的求解过程,并提供了算法的简化更新步骤。参考文献包括《统计学习方法》和《python 机器学习》。
摘要由CSDN通过智能技术生成

《统计学习方法》看到第三遍,准备给大家分享一下感悟,已经一些算法的代码实现

首先来看下《统计学习方法》对感知机的定义
感知机的定义

其实我们想象一下,就是一条线(直线<线性可分>,曲线都可以<非线性可分>),把空间一分为二,很容易理解。
f(x) 是一个激励函数,经过拟合的参数w,b计算,输入的x,然后就可以将X的空间分为{+1,-1}。

但是w,b什么时候达到最优呢?看下面的算法:
感知机算法

注意:yi 在程序中是update = self.eta * (yi - self.predict(xi)) 做的,其实每次都是更新两个步长,比如eta设置为0.01 则更新的实际更新的时候是0.02
程序如下

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值