感知机--Python实现

本文介绍了感知机模型,它是用于二类线性分类的模型,适用于线性可分数据集。文章详细阐述了感知机的原始形式和对偶形式,包括学习算法、损失函数和范数概念,并提供了Python实现的概述。在原始形式中,通过梯度下降法更新权重和偏置;而在对偶形式中,以Gram矩阵的形式存储实例内积。当训练集线性可分时,感知机可能存在多种解。
摘要由CSDN通过智能技术生成

感知机简介

感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分成正负两类的分离超平面,属于判别模型。感知机学习指在求出将训练数据进行线性划分的分离超平面。

  • 前提条件:线性可分的数据集。
  • 损失函数:基于误分类的损失函数。
  • 学习算法:梯度下降法。
  • L0范数:向量中非0的元素个数。
  • L1范数:向量中各元素绝对值之和。
  • L2范数:向量中各元素的平方和之后开根号。

原始形式

输入:训练数据集 T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , … , ( x N , y N ) } T=\{(x_1,y_1),(x_2,y_2),\dots,(x_N,y_N) \} T={ (x1,y1),(x2,y2),,(xN,yN)},学习率 η ( 0 &lt; η ≤ 1 ) \eta(0&lt;\eta\leq1) η(0<η1)
输出:w,b
感知机模型
f ( x ) = s i g n ( w ⋅ x + b ) f(x) = sign(w \cdot x + b) f(x)=sign(wx+b)

  1. 选取初值 w 0 , b 0 w_0,b_0 w0,b
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值