线性判别函数

线性判别函数通过寻找特征空间中的超平面进行分类,将数据分为两个区域。超平面由向量w和常数w0确定,其性质包括与原点的距离、方向等。对于多分类问题,可以通过一一对比或使用广义线性判别处理。在不可分情况下,可通过非线性映射或核方法转化为线性问题。线性判别方法适用于线性可分数据集。
摘要由CSDN通过智能技术生成

  线性判别,是想在特征空间内,找到一个超平面 g(x) ,能够区分开数据。空间内的超平面表示为:
   g(x)=ni=1wixi+w0=wtx+w0=0

线性判别函数

由超平面到分类问题

  假设特征空间内存在某一超平面为 g(x)=wtx+w0=0 ,则空间内某一点 x 到其的距离 r=g(x)||w|| ,其推理如下:
   x=xp+r
  其中 xp 是点 x 在平面 g(x) 上的垂直投影点, r 表示 x 在超平面上的正交投影(即点到平面的距离)。
  将 x 带入 g(x) 得到:
   g(x)=wtx+w0
   g(x)=wt(xp+r)+w0
   g(x)=g(xp)+wtr
   xp 在平面上,所以 g(xp)=0
  故上式得: g(x)=wtr=<w,r>=||w||||r||cos(w,r)
  线性判别函数 g(x) 是特征空间中某点 x 到超平面的距离的一种线性度量。
  超平面的性质:
  1. w 与超平面 H 正交。证明提示,设两个点在超平面上,点在平面上则满足 g(x)=0
  2. ||r||=g(x)||w|| 。证明如开始。
  3. 原点到超平面 H 距离 d=w0||w||
  4. 若 w0>0 ,则超平面在原点正侧;否则反之。若 w0=0 ,则超平面通过原点。
  结论:
  1. 超平面的方向 w 确定。
  2. 超平面的位置 w0 确定。
  3. 超平面 g(x) 正比于点 x 到超平面 H

  • 6
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值