PRML读书笔记（一）

从多项式拟合开始

机器学习中的有监督学习

机器学习中的有监督学习，是指训练样本包含输入向量以及对应的目标向量。即$(\mathrm{x},\mathrm{y})$,$\mathrm{x}$和$\mathrm{y}$为向量。

对于向量$\mathrm{y}$，若它由离散变量组成，则被称为分类(classification)问题。如对数字识别，输入$\mathrm{x}$为包含数字的图像向量，$\mathrm{y}$为对应的真实值类别$0,1,2,\cdots,9$;

若$\mathrm{y}$由连续变量组成，则被称为回归(regression)问题。如多项式拟合问题；

多项式拟合例子

现在有函数$t =\sin(2\pi x)$,想用一种简单的方式进行曲线拟合，如下函数：

$$y(x,\mathrm{w})=w_0+w_1x+w_2x^2+\cdots+w_Mx^M=\sum_{j=0}^Mw_jx^j$$
M是多项式的阶数，