03.结构化机器学习项目 第一周 机器学习（ML）策略（1）：1.1 为什么是 ML 策略

目录

第一章、简介

第二章、ML策略

---

第一章、简介

• 本文基于吴恩达人工智能课程做学习笔记、并融入自己的见解(若打不开请复制到浏览器中打开)https://study.163.com/courses-search?keyword=吴恩达。
• 本文第二章介绍ML策略。

第二章、ML策略

• 本文介绍说机器学习的策略，即学习如何更快速高效地优化机器学习系统。
• 那么 什么是机器学习策略？如图2-1所示，我们从一个启发性的例子开始讲，假设你正在调试你的猫分类器，经过一段时间的调整，你的系统达到了90%准确率。
• 但是，90%准确率对你的应用程序来说还不够好，你可能有很多想法去改善你的系统，比如你可能去收集更大量的训练数据(数量角度)；
• 或者说你的训练集的多样性还不，你应该收集更多不同姿势的猫咪图片
• (多样性角度);
• 或者更多样化的反例集(反例角度);
• 或者你想再用梯度下降训练算法 训练久一点(训练时间角度);
• 或者你想尝试用一个完全不同的优化算法，比如Adam优化算法(算法角度)；
• 或者尝试使用规模更大或者更小的神经网络(网络规模角度)；
• 或者你想试试 dropout 或者 L2正则化；
• 或者你想修改网络的架构，比如修改激活函数，改变隐藏单元的数目 之类的方法。
• 当你尝试优化一个深度学习系统时，你通常可以有很多想法可以去试。问题在于，如果你做出了错误的选择，你完全有可能白白浪费6个月的时间，往错误的方向前进，在6个月之后才意识到这方法根本不管用。
• 比如，吴恩达见过一些团队花了6个月时间收集更多数据，却在6个月之后发现，这些数据几乎没有改善他们系统的性能。
• 所以，假设你的项目没有6个月的时间可以浪费，如果有快速有效的方法，能够判断哪些想法是靠谱的，或者甚至提出新的想法，判断哪些是值得一试的想法，哪些是可以放心舍弃的。
• 因此，本文及后文，将学习一些分析机器学习问题的方法，可以指引你们朝着最有希望的方向前进。
• 同时，本文将学习吴恩达在搭建和部署大量深度学习产品时，学到的经验和教训，这些内容是这门课程独有的，比如说，很多大学深度学习课程，很少提到这些策略。
• 事实上，机器学习策略在深度学习的时代也在变化，因为现在对于深度学习算法来说，能够做到的事情，比上一代机器学习算法大不一样，希望这些策略能帮助你们提高效率，让你们的深度学习系统更快投入实用。