感知机/LR为线性模型,神经网络非线性

  1. 线性模型可以是用曲线拟合样本,但是分类的决策边界一定是直线的,例如logistics模型
  2. 区分是否为线性模型,主要是看一个乘法式子中自变量x前的系数w,如果w只影响一个x,那么此模型为线性模型。或者判断决策边界是否是线性的

并不是用了非线性函数就是非线性模型!!LR,感知机均用了非线性函数,sigmoid,sign,但是线性分类器,因为他们的决策边界都只能是线性的,他们只能够处理线性可分的问题,无法处理非线性问题。

神经网络是多个感知机组合,一个自变量X被多个W影响。

激活函数确实可以产生非线性的变换,但对于神经网络模型而言,整个处理非线性可分的能力关键不在于激活函数,而是神经网络之间的多层叠加,使得只能处理线性可分问题的感知机(神经元)可以处理非线性可分问题。但激活函数同样是必不可少的。如果神经网络中的神经元都不带激活函数,那么神经元无论怎么样堆叠,都只能够处理线性问题。虽然没有激活函数时,每个变量也被多个权值所影响,但不同的是,此时每个变量都以独立于其它变量区分开来。而当引入非线性的激活函数时,每个变量是无法与其它变量所独立开来的

参考链接:

https://blog.csdn.net/qq_32742009/article/details/81384837

https://blog.csdn.net/program_developer/article/details/78704224

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值