MachineLearning学习——0219——深度学习之多层感知机

参考：https://github.com/apachecn/vt-cs4624-pyml-zh/blob/master/docs/21.md

多层感知机Multilayer Perceptron

介绍：

• 多层感知机是深层的神经网络，神经网络由节点层构成，这些节点根据先前层的节点在不同级别上激活。
• 由至少三大层组成：输入层，中间层，输出层
• 超级好玩的调参游戏：在线网站

动机：

        多层感知机是学习高级模型的基础；而且我们不能小看它，仅具有单个隐藏层的网络可以近似任何连续函数。

关于节点：

        节点是神经网络中的单个单元。节点的输入，是上一层所有节点的加权输出之和。因此权重决定输出，也是同一层节点的唯一区别。

什么定义了多层感知机：

        多层感知机是前馈网络的一种，使用反向传播进行训练。前馈是指后一层的输入只能是前一层的输出，数据流动不存在循环。多层感知机的特征在于输入层，中间层和输出层都是完全连接（类似全连接层）的。

 

什么是反向传播？

        输出层的每个节点与我们想要的label一 一对应，根据对比节点输出和label，可以计算出成本。反向传播就是利用成本，帮我们调整权重。

预测过程的计算我理解，但是反向传播的底层实现不了解，应深入研究。但是最近实验室任务较多，更新会变慢。。。