本文探讨了在曲线拟合问题中，如何从极大似然估计的角度理解均方误差最小化。通过假设输出值遵循以参数为均值的正态分布，推导出均方误差最小化等价于正态分布的极大似然估计，这一过程在机器学习和概率论中有重要应用。
问题背景
曲线拟合问题，给定参数 w w w和输入 x x x，用多项式函数来拟合曲线，其中 M M M表示多项式的次数：
y ( x , w ) = w 0 + w 1 x + w 2 x 2 + . . . + w M x M y(x,w) = w_0 + w_1x+w_2x^2+...+w_Mx^M y(x,w)=w0+w1x+w2x2+...+wMxM
如下图所示：
推导
我们都知道曲线拟合问题，可以用均方误差最小化来解决，也就是使以下函数的值最小化：
E ( w ) = 1 2 ∑ n = 1 N ( y ( x n , w ) − t n ) 2 E(\textbf{w}) = \frac{1}{2}\sum_{n=1}^{N}{(y(x_n,\textbf{w} )-t_n)}^2 E(w)=
最低0.47元/天 解锁文章
扫一扫
2593
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
