通俗的理解机器学习

目录

1 什么是机器学习？

2 机器学习的三要素

2.1 模型

2.2 学习准则

2.3 优化

3 正则化 

---

1 什么是机器学习？

机器学习：通过算法使得机器能从大量数据中学习规律从而对新的样本做决策。

规律：决策（预测）函数

常见的机器学习类型:

 

2 机器学习的三要素

2.1 模型

(1)线性方法：

                

(2)广义线性方法：

如果ϕ(x)为可学习的非线性基函数，f(x,θ)就等价于神经网络。

2.2 学习准则

期望风险：

 

2.3 优化

梯度下降:

 

搜索步长α中也叫作学习率（Learning Rate）

学习率是十分重要的超参数！

        

3 正则化