吴恩达深度学习笔记(60)-深度学习中的正交化

正交化（Orthogonalization）
搭建建立机器学习系统的挑战之一是，你可以尝试和改变的东西太多太多了。

包括，比如说，有那么多的超参数可以调。

我留意到，那些效率很高的机器学习专家有个特点，他们思维清晰，对于要调整什么来达到某个效果，非常清楚，这个步骤我们称之为正交化，让我告诉你是什么意思吧。

这是一张老式电视图片，有很多旋钮可以用来调整图像的各种性质，所以对于这些旧式电视，可能有一个旋钮用来调图像垂直方向的高度，另外有一个旋钮用来调图像宽度，也许还有一个旋钮用来调梯形角度，还有一个旋钮用来调整图像左右偏移，还有一个旋钮用来调图像旋转角度之类的。

电视设计师花了大量时间设计电路，那时通常都是模拟电路来确保每个旋钮都有相对明确的功能。如一个旋钮来调整这个（高度），一个旋钮调整这个（宽度），一个旋钮调整这个（梯形角度），以此类推。

相比之下，想象一下，如果你有一个旋钮调的是0.1x表示图像高度，+0.3x表示图像宽度，-1.7x表示梯形角度，+0.8x表示图像在水平轴上的坐标之类的。

如果你调整这