学习笔记——吴恩达-机器学习课程 1.2 什么是神经网络

1.2 什么是神经网络

        “深度学习”指的是训练神经网络，有的时候 规模很大，那么神经网络是什么呢？我们从一个房价预测的例子开始，假设有一个六间房屋的数据集已知房屋的面积，单位是平房英尺或者平方米，已知房屋价格，想要找到一个函数，根据房屋面积，预测房价的函数，如果你懂线性回归，你可能会得到这样一条直线，但是，你可能也知道，价格永远不能为负，因此，直线不太合适，它最后会让价格为负数，我们会在这里弯曲一点，让它结束于0，这条粗的蓝线就是你要的函数，根据房屋面积预测价格，你也许可以把这个房屋加个拟合函数 看成是一个非常简单的神经网络，这 几乎是最简单的神经网络了，让我画在这里，我们把房屋的面积作为神经网络的输入，称之为x，通过这个节点 这个小圈圈，最后输出了价格，用y来表示，这个小圆圈就是一个独立的神经元，你的网络实现了左边这个函数的功能，这个神经元所做的，就是输入面积，完成线性运算，取不小于0的值，最后得到的输出预测价格，神经网络的文献中，经常看到这个函数，这个函数一开始是0，然后就是一条直线，这个函数被称作ReLU函数，全称是“修正线性单元”即ReLU,"，修正"指的是取不小于0的值，这就是这个函数长成这样的原因，不理解ReLU函数的话不用担心，这门课的后面还会看到它的，这是一个单神经元网络。

规模很小的神经网络，大一点的神经网络，是把单个神经元堆叠起来形成的，你可以把这些神经元 想象成单独的乐高积木，你通过搭积木来构建一个更大的神经网络，来举个例子，不仅仅用房屋的面积来预测价格，现在你还用一些房屋的其它特征，知道了一些别的信息，比如卧室的数量，这样记下来，你可能想到，有一个很重要的因素会影响房屋价格，就是“家庭人数”，这个房屋能住下一个三口之家，四口之家，五口之家，这个性质和面积大小相关，还有卧室的数量，能否满足住户的家庭人数需求，你可能知道邮编，在一些国家，或许能作为一个特征，说明了步行化程度，这附近是不是高度步行化？你是否能步行去杂货店 或者是学校，是否需要开车？有些人喜欢高度步行化的地方，另外根据邮政编码还有富裕程度，在美国是这样的，其它国家也可能一样，邮编体现了附近学校的质量，我画的每一个小圆圈都可能是一个ReLU，即“修正线性单元”，或者其它的不那么线性的函数，基于房屋面积和卧室数量，你可以估算家庭人口，基于邮编 可以评估步行化程度，基于邮编也可以评估学校质量，最后，你可能会想，人们愿意在房屋上话费多少钱，和他们关注什么 息息相关，在这个例子，家庭人口、步行化程度以及学校质量，都能帮助你预测房屋的价格，在这个例子中，x 是所有的这四个输入，y是预测的价格，把这些独立的神经元叠加起来，上一张幻灯片里面，简单的预测器（神经元），现在有了稍微大一点的神经网络，神经网络的一部分神奇之处在于，当你实现它之后，你要做的只是输入x，就能输出y，不管训练集有多大，所有中间过程它都会自己完成，那么你实际上做的就是，这有四个输入的神经网络，输入的特征，可能是卧室的数量，邮政编码，和周边的富裕程度，已知这些输入的特征，神经网络的工作就是预测对应的价格，同时，也注意到这些圈圈，在一个神经网络中他们被叫做“隐藏单元”。

         每个的输入都同时来自四个特征，比如说 我们不会具体说 ，第一个节点表示家庭人口，或者说家庭人口仅取决于特征x1和x2，我们会说：神经网络 你自己决定这个节点是什么，我们只给你四个输入特征，随便你怎么计算，因此我们说这一层 ，输入层在中间的这一层，在神经网络中 连接数是很高的，因为输入的每一个特征，都链接到了中间的每个圈圈，值得注意的是，神经网络只要你喂给它足够多的数据，关于x和y 的数据，给到足够的x，y训练样本，神经网络非常擅长于计算从x到y 的精准映射函数，这就是基本的神经网络，你可能发现自己的神经网络在监督学习的环境下是如此有效和强大，也就是说 你只要尝试输入一个x，即可映射成y，像我们在刚才房价预测的例子中看到的，在下一个视频中，你会看到更多监督学习的例子，有些例子会让你觉得你的神经网络对你的应用场合非常有帮助。

       学习总结：神经网络是由神经元构成，每个神经元可以理解成一个简单的函数（一个线性模型），每个输入参数都有对应的输出结果与之相对应，随着输入参数的增多，神经元随之增多，各个神经元之间相互连接相互，相互影响，构成神经网络，神经网络分为输入层、隐藏层和输出层。在监督学习环境下，给到的数据越多，那么训练的效果越精确。