Machine Learning Course-CS 156 笔记 4

Lecture 4 : Error and Noise

视频地址:https://www.youtube.com/watch?v=L_0efNkdGMc


非线性变换(续)

X=(x0,x1,...,xd)ΦZ=(z0,z1,......,zd~)X1,X2,...,XNΦZ1,Z2,...,ZNWX.W~=(w0,w1,......,wd~)g(X)=sign(W~TΦ(X))=sign(W~TZ) X = ( x 0 , x 1 , . . . , x d ) ⟶ Φ Z = ( z 0 , z 1 , . . . . . . , z d ~ ) X 1 , X 2 , . . . , X N ⟶ Φ Z 1 , Z 2 , . . . , Z N 权 重 W 不 在 X 域 . W ~ = ( w 0 , w 1 , . . . . . . , w d ~ ) g ( X ) = s i g n ( W ~ T Φ ( X ) ) = s i g n ( W ~ T Z )


误差衡量

hf h ≈ f 意味着什么?
误差衡量: E(h,f) E ( h , f )
大部分都是逐点定义: e(h(x),f(x)) e ( h ( x ) , f ( x ) )
例如:

e(h(x),f(x))=(h(x)f(x))2 平 方 误 差 : e ( h ( x ) , f ( x ) ) = ( h ( x ) − f ( x ) ) 2

e(h(x),f(x))=[h(x)f(x)] 二 值 误 差 : e ( h ( x ) , f ( x ) ) = [ h ( x ) ≠ f ( x ) ]

由逐点到总体:
总体误差是逐点误差的平均。

  • 样本内误差
    Ein(h)=1Nn=1Ne(h(xn),f(xn)) E i n ( h ) = 1 N ∑ n = 1 N e ( h ( x n ) , f ( x n ) )
  • 样本外误差
    Eout(h)=Ex[e(h(xn),f(xn))] E o u t ( h ) = E x [ e ( h ( x n ) , f ( x n ) ) ]

如何选取误差衡量?
指纹识别的例子, +1 + 1 表示正确, 1 − 1 表示错误。
有两种类型的误差 :错误的接受 以及 错误的拒绝。

对每种类型的惩罚:

hf h ∖ f +1-1
+1无错错误的接受
-1错误的拒绝无错

对误差的选取取决于问题是什么。

比如在超市中,验证指纹通过的顾客可以获得折扣。此时,错误的拒绝是代价大,而错误的接受代价则没那么大。惩罚可以采取:

hf h ∖ f +1-1
+101
-1100

而在CIA的指纹验证上(可以进入政府部门等等),错误的接受是灾难!错误的拒绝则是可以容忍的。可能采取下面这种惩罚:

hf h ∖ f +1-1
+101000
-110

误差的衡量应该由使用者界定。
但不总是这样,一般用这些替代:

  • Plausible measures: 平方误差 高斯噪声
  • Friendly measures: 封闭解 ,凸优化

含噪目标

目标函数不总是一个函数
例如银行信用例子里,通过与否并不是一个函数。

目标分布
用目标分布 P(y|x) P ( y | x ) 代替 y=f(x) y = f ( x )
含噪目标= 确定的目标 f(x)=E(y|x) f ( x ) = E ( y | x ) 加上噪声 yf(x) y − f ( x )

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值