Machine Learning Yearning读书笔记(1)

1 为什么使用机器学习策略？

机器学习是很多应用的基础：如网页搜索，垃圾邮件分类，语言识别，推荐系统等。

猫图片的推荐
假如要建立一个向爱猫人士推荐猫图片的系统，现在系统性能不好，要怎样改进？

• 增加训练数据：收集更多的猫图片。
• 增加训练数据的多样性：如收集不同角度拍摄的图片、不同颜色的猫图片。
• 增加训练时间：增大迭代次数。
• 用更复杂更深的网络结构：如增加网络层数，每层的神经元个数。
• 用更简单的网络。
• 增加正则项：如L2正则化，防止过拟合。
• 改变网络结构：超参数的调整。

对于这么多的策略，如何调整系统才是有助于性能提升的？这本书主要讲的是如何调整机器学习系统，从而使得系统性能提升。
从这个例子中可以看出，神经网络的调整主要是针对数据、训练时间、网络结构（CNN，RNN等）、超参数（层数，神经元个数，学习率等）、过拟合和欠拟合（L2，dropout）来进行的。
对系统的表现进行分析，可以合理选择调整的地方，快速提升性能。

2 怎样用这本书

多看多实践。。。

3 预备知识和符号约定

这里没啥好写的，主要是要了解监督学习、无监督学习等基本概念。
监督学习包括线性回归、logistic回归、神经网络等。

4 机器学习的进步

大数据和计算能力的提升驱动了机器学习的进步。
如果使用传统机器学习方法，性能到达一定程度，就算有再多数据，性能也不会提升了。

但是，如果采用深度学习，随着神经网络逐渐变得复杂，系统的性能会有非常大的提升。

所以，当训练一个复杂的神经网络，或者有非常大的数据量的时候，系统性能会提升。

本书的前四讲类似于前言，主要是介绍一下书的内容和使用，没有太多干货。