数学基础知识(1) 点到超平面距离

摘要

        本文给出点到超平面的距离公式,并进行了推导证明。该距离用于深度学习中感知机损失函数的计算,将误差点带入该距离即可计算该点与超平面间的损失距离。

符号说明

        记 n n n维欧式空间下一点 M 0 : x 0 = ( x 0 ( 1 ) , x 0 ( 2 ) , x 0 ( 3 ) , . . . , x 0 ( n ) ) M_0:x_0=(x^{(1)}_0,x^{(2)}_0,x^{(3)}_0, ...,x^{(n)}_0) M0:x0=(x0(1),x0(2),x0(3),...,x0(n))
        超平面 L : w ⋅ x + b = 0 L:w\cdot x+b=0 Lwx+b=0,其中 w = ( w ( 1 ) , w ( 2 ) , w ( 3 ) , . . . , w ( n ) ) w=(w^{(1)},w^{(2)}, w^{(3)}, ...,w^{(n)}) w=(w(1),w(2),w(3),...,w(n)) w ⋅ x w\cdot x wx是二者的内积, b b b为常数。
        则点 M 0 M_0 M0到超平面 L L L的距离为 d = 1 ∣ ∣ w ∣ ∣ ∣ w ⋅ x 0 + b ∣ d=\displaystyle{\frac{1}{||w||}}|w\cdot x_0+b| d=∣∣w∣∣1wx0+b。下面给出简要推导。

证明

  • 取超平面 L L L上的一点 M 1 : x 1 = ( x 1 ( 1 ) , x 1 ( 2 ) , x 1 ( 3 ) , . . . , x 1 ( n ) ) M_1:x_1=(x^{(1)}_1,x^{(2)}_1,x^{(3)}_1, ...,x^{(n)}_1) M1:x1=(x1(1),x1(2),x1(3),...,x1(n)),有 x 1 ⋅ w + b = 0 x_1\cdot w+b =0 x1w+b=0
  • 超平面 L L L的法向量为 w = ( w ( 1 ) , w ( 2 ) , w ( 3 ) , . . . , w ( n ) ) w=(w^{(1)},w^{(2)}, w^{(3)}, ...,w^{(n)}) w=(w(1),w(2),w(3),...,w(n))
  • d = ∣ ∣ M 0 M 1 → ∣ ∣ c o s ( M 0 M 1 → , w ) = ∣ ∣ M 0 M 1 → ∣ ∣ ∣ M 0 M 1 → ⋅ w ∣ ∣ ∣ M 0 M 1 → ∣ ∣   ∣ ∣ w ∣ ∣ = ∣ ( x 1 − x 0 ) ⋅ w ∣ ∣ ∣ w ∣ ∣ = ∣ x 1 ⋅ w − x 0 ⋅ w ∣ ∣ ∣ w ∣ ∣ = ∣ − b − x 0 ⋅ w ∣ ∣ ∣ w ∣ ∣ = 1 ∣ ∣ w ∣ ∣ ∣ w ⋅ x + b ∣ \begin{aligned} d&=||\overrightarrow{M_0M_1}||cos(\overrightarrow{M_0M_1},w)=||\overrightarrow{M_0M_1}|| \displaystyle{\frac{\overrightarrow{|M_0M_1}\cdot w|}{||\overrightarrow{M_0M_1}||\space||w||}}\\ &=\displaystyle{\frac{|(x_1-x_0)\cdot w|}{||w||}}=\displaystyle{\frac{|x_1\cdot w-x_0\cdot w|}{||w||}}=\displaystyle{\frac{|-b-x_0\cdot w|}{||w||}} \\ &=\displaystyle{\frac{1}{||w||}}|w\cdot x+b| \end{aligned} d=∣∣M0M1 ∣∣cos(M0M1 ,w)=∣∣M0M1 ∣∣∣∣M0M1 ∣∣ ∣∣w∣∣M0M1 w=∣∣w∣∣(x1x0)w=∣∣w∣∣x1wx0w=∣∣w∣∣bx0w=∣∣w∣∣1wx+b
    证明完毕。
    该公式的使用参见我的博文 机器学习(2) 感知机原理及实现
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ProfSnail

谢谢老哥嗷

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值