吴恩达老师DeepLearning系列课程最详细学习笔记之7—二分类Binary Classification

教程是本人学习吴恩达老师DeepLearing系列课程中整理的最为详细的学习笔记。学习视频主要来自B站[双语字幕]吴恩达深度学习deeplearning.ai_哔哩哔哩_bilibili?，以及DeepLearning官方网站Deep Learning by deeplearning.ai | Coursera。该系列课程总共有180多个，我会将学习笔记陆续分享出来，为有兴趣深度学习的同仁提供便利。再次由衷感谢吴恩达老师的精彩讲解和无私奉献！

特别说明：图片来源于吴恩达老师视频截图。

欢迎回来。本周我们将会重温神经网络编程的基础知识。我们发现当你实现一个神经网络的时候，一些技巧是非常重要的。比如你有一个含有m个训练样本的训练集，你可能习惯于用一个for循环来处理这m个训练样本。但当你实现一个神经网络的时候，你一般想训练整个训练集，如何不显式地使用for循环来遍历整个训练集呢？那么，你将在本周的资料中看到如何实现这一点。另外，当你在你的网络中组织计算的时候，经常使用所谓的前向传播以及所谓的反向传播 。在本周的资料中，你还将了解到为什么在训练神经网络时计算可以被正向传播组织为一次前向传播过程以及一次反向传播过程。在本周的材料中，我想使用逻辑回归（logistic regression）算法作为例子，以使其更容易理解。即使你之前已经了解过逻辑回归算法，我想在这周的材料中你仍然会收获一些新的有趣的想法。所以让我们开始吧。

逻辑回归是一个用于二分分类的算法。我们从一个问题开始，这有一个二分分类问题的例子。假如你有一张图片作为输入，这样子的，你想输出识别此图的标签，如果是猫，则输出1，不是猫则输出0。我们用y来表示输出的结果标签。我们先来看看一张图片在计算机中是如何表示的。计算机保存一张图片，需要保存三个独立的矩阵，分别对应图片中的红、绿、蓝三个颜色通道的亮度信息。如果输入图片是64×64像素的，就有3个64×64的矩阵分别对应图片中的红、绿、蓝三种像素的亮度。为了方便表示，这里我用3个小矩阵，它们是5×4的，并不是64×64的（但代表的是64×64）。为了把这些像素亮度值放进一个特征向量x中，就要像下面这样定义特征向量x以表示这张图片。我们把所有的像素值都取出来，例如255、231等等直到列完所有的红色像素，接着是255、134等等，接着是255,134等等。最后得到一个很长的特征向量，把图片中所有的红、绿、蓝像素强度值都列出来。如果图片是64×64的，那么向量x的维度就是64×64×3，因为这是三个矩阵的元素数量总和，是12288。我们用 来表示输入的特征向量x的维度。

在二分分类的问题中，目标是训练出一个分类器，它以图片的特征向量x作为输入，预测输出的结果标签y是1还是0，也就是预测图片中是否有猫。

现在我们来看看后面课程中需要用到的一些符号。用一对（x,y）表示一个单独的样本，x是 维的特征向量，标签y的值为0或1，训练集由m个训练样本构成，（x(1),y(1)）表示样本1的输入和输出，（x(m),y(m)）表示样本m的输入和输出，这些一起就表示整个训练集，用小写字母m表示训练样本的个数。有时为了强调这是训练样本的个数，也可以写作mtrain，当说到测试集时用mtest来表示测试集的样本数。

最后，用更紧凑的符号来表示训练集。我们定义一个矩阵，用大写的X表示 ​​​​​​​，它是由训练集中的x(1), x(2)这些组成。像这样写成矩阵的列，我们把x(1)放进矩阵的第一列，把x(2)放进矩阵的第二列，x(m) 是第m列，最后得到矩阵X，这个矩阵有m列，m是训练集的样本数，这个矩阵的高度为 。

 要注意的是，有时候矩阵X的定义会将训练样本作为行向量堆叠，而不是这样的列向量堆叠，即x(1)转置…x(m) 转置。构建神经网络时，用左边的这个约定形式会让构建过程简单的多。

现在回顾一下，X是一个 矩阵，当你用python实现时，你会看到X.shape，这是一个python命令，用来输出矩阵的维度 ，表示X是一个 矩阵。这就是如何将训练样本即输入x，用矩阵表示。

那输出标签y呢？事实证明，要使你应用神经网络时更简单，你同样应该将y按列排列。因此 ，Y是一个 大小的矩阵。同样的，使用Python命令Y.shape，将会输出(1,m) ，表示Y这是一个 大小矩阵。在后面的课程要实现神经网络时，你会发现好的惯例符号能将不同训练样本的数据联系起来。这里的数据不仅有x和y，还会有之后的其他量。将不同的训练样本数据取出来，放在不同的列上，就像刚刚我们处理x和y那样。

以上就是我们之后会在回归算法和神经网络中使用到的一些符号。

如果你忘记了某个符号的意义，比如m代表什么，n代表什么，或者其他什么的，我们已经在课程网站贴出了符号指南。你可以用它快速的查找特定符号的意义。就这样，让我们开始进入下一节课。