机器学习（六）

一 似然函数

1）似然函数定义

用来求什么样的参数和数据组合后恰好得到真实值。参数由数据验证

2）对数似然函数：

似然函数前面的符号为累乘符号，用对数函数将其转换成累加。对数函数会改变函数，但是函数的极值点不变，要求的就是极值点，所以可以使用对数似然函数来简化运算

3）参数求解

由对数似然函数展开化简得到参数，式中除了θ以外都为常数，把常数项都拿出来，将似然函数化简，让似然函数越大越好

4）目标函数

由似然函数参数求解得到目标函数，在目标函数中的x不是简单的数，是特征值的矩阵，同时θ也是一个矩阵

二 梯度下降

1）优化算法：真正机器学习求解思路

2）优化过程

由于参数之间是独立的，所以在得到目标函数参数是是分别用数据得出参数