目录
1 什么是机器学习?
机器学习:通过算法使得机器能从大量数据中学习规律从而对新的样本做决策。
规律:决策(预测)函数
常见的机器学习类型:
2 机器学习的三要素
2.1 模型
(1)线性方法:
(2)广义线性方法:
如果ϕ(x)为可学习的非线性基函数,f(x,θ)就等价于神经网络。
2.2 学习准则
期望风险:
2.3 优化
梯度下降:
搜索步长α中也叫作学习率(Learning Rate)
学习率是十分重要的超参数!
3 正则化