机器学习

Andrew NG的前三节课。

第一节，对于机器学习给出了概念。

如图，通过学习算法将训练集归纳整理，从多维里找到数据之间的联系。从而得到相关权重。*

第二节，对于样本训练中找最小值问题进行了数学分析

寻找最小的权数（weight）。讲了线性回归（Linear Regression）、梯度下降（gradient descent）.LMS algorithm (least mean square)*

$$J(\theta)=1/2\sum_{i=0}^m (h_\theta(x^i)-y^i)^2$$
$$J(\theta)的最小值\Rightarrow$$
$$\theta=(X^TX)^{-1}X^Ty$$

Repeat until convergence {

$$\theta_j:=\theta_j+\alpha \sum_{i=0}^m (y^i-h_\theta(x^i))x_j^i$$

}

---

Loop{

for i=1 to m,{ $$\theta_j:=\theta_j+\alpha (y^i-h_\theta(x^i))x_j^i$$

} (for every j)

}

---

上式两个循环，一个是样本数， 一个是输入变量数

第三节，对拟合问题做出解释

对于一些模型的建立需要合适。