证:单层感知机不能表示异或逻辑

转载于http://blog.csdn.net/panda07100/article/details/38580993

对于a XOR b ,其真值表为:

aby
0
0
1
1
0
1
0
1
0
1
1
0


从数据集线性可分性的角度证明XOR逻辑是非线性的:

设数据集T为:
    这里写图片描述

其中:
    这里写图片描述
假设T是线性可分的,则存在超平面这里写图片描述对T中的4个实例正确分类

  这里写图片描述
注:这里的大于小于零与y的取值无关,它与参考系有关,表示两个类别,所以也并不要求y的取值是正1和负1.

这里写图片描述
对上式进行化简
  这里写图片描述
四个式子相互之间是矛盾的,所以异或逻辑是非线性问题,得证。
 另外,感知机的学习策咯是极小化误分类点到超平面S的总距离,即经验风险最小化。对于线性不可分数据集,由于总是存在误分类点,算法将不能够收敛。事实上,最后的迭代(随机梯度下降)将发生震荡,证明过程见Novikoff定理。
 这里写图片描述
异或逻辑图像
这里写图片描述
综上所述:单层感知机不能表示异或逻辑。

参考资料:《统计学习方法》 李航

  • 3
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值