机器学习套路

机器学习的核心是一个目标函数，一个loss fuction，再加上一个优化的算法。一个目标函数可以用不同的优化算法，不同的目标函数也可以用相同的优化算法。

1.目标函数

2.loss function

3.优化方法

常见的优化方法有：梯度下降，牛顿法
是用来求解最小损失函数的一种优化方法。

最小二乘法和极大似然估计法可以用来求解参数。

二、概率图模型

概率图模型建模方式和上面的不一样
一般P(Y|X)
例如：HMM，CRF