模型假设
最简单模型:y=x
克服限制:t=f(x;w0;w1)=w0+w1*x
定义最佳参数:
(tn-f(xn;w0;w1))^2 数值越小越接近tn
平方损失函数:
(其它损失函数也可,
例绝对损失:Ln=l tn-f(xn;w0;w1) l
0-1损失:L(Y,fx)=【1(Y不等于fx);0(Y等于fx)
对数损失:L(Y, P(Y|X)= - log P(Y l X)
L(Y, P(Y|X))这个对数损失函数的意思是指分类为Y的情况下,使P(Y|X)达到最大。Y是代表分类为正确的分类,而P(Y|X)则是代表正确分类的概率,那对数取反是 不是P(Y|X)越大,损失函数就越小
)
)
Ln(tn,f(xn;w0;w1))=(tn-f(xn;w0;w1))^2
平均损失(风险函数)~-训练误差
L=求和(Ln(tn,f(xn;w0;w1)))/N
模型化归为: