机器学习西瓜书第五章

5.1 神经元模型

MP-神经元(一个用来模拟生物行为的数学模型):接收n个输入(通常是来自其他神经元),并给各个输入赋予权重计算加权和,然后和自身特有的阈值θ进行比较(做减法),最后经过激活函数(模拟“抑制”和“激活”)处理得到输出(通常是给下一个神经元)
在这里插入图片描述

单个M-P神经元:感知机(sgn(阶跃函数)做激活函数)、对数几率回归(sigmoid做激活函数)
多个M-P神经元:神经网络
感知机模型:激活函数为sgn(阶跃函数)的神经元:
在这里插入图片描述

其中,在这里插入图片描述为样本的特征向量,是感知机模型的输入,在这里插入图片描述是感知机模型的参数,w为权重,θ为阈值。
再从几何角度来说,给定一个线性可分的数据集 ,感知机的学习目标是求得能对数据集中的正负样本完全正确划分的超平面,其中在这里插入图片描述即为超平面方程。
n维空间的超平面( 在这里插入图片描述 ):

  • 超平面方程不唯一
  • 法向量w垂直于超平面
  • 法向量w和位移项b确定一个唯一超平面
  • 法向量w指向的那一半空间为正空间,另一半为负空间

神经网络反向传播算法

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值