《深度学习 第四章 机器学习基础》

1.机器学习分类

1.监督学习
2.无监督学习
3.自监督学习
4.强化学习

2.评估机器学习

1.留出验证集
2.k折验证
3.打乱顺序的看折验证

3.数据预处理，特征工程，特征学习

1.神经网络的数据预处理
1.向量化
2.标准化
3.缺失值处理

2.特征工程

4.过拟合，欠拟合

降低过拟合的方法：1.做正则化（regularization）2.减小网络大小

正则化
1.权重正则化
强制让模型权重只能取较小的值，从而限制模型的复杂度（L1正则化，L2正则化）
2.dropout正则化

减小网络大小
网络越大，网络容量越大，拟合训练数据（即得到很小的训练损失）的速度越快，但也更容易过拟合

5.机器学习通用工作流程