吃瓜教程第五章学习笔记

一、M-P神经元

M-P神经元（一个用来模拟生物欣慰的数学模型）：接受n个输入，并给各个输入赋予权重计算加权和，然后和自身特有的阈值进行比较，最优经过激活函数处理得到输出。

二、感知机

单个M-P神经元，激活函数为sgn（阶跃函数）的神经元。

三、神经网络

多个M-P神经元。

可以处理线性不可分割的数据集，通用近似定理：只需一个包含足够多神经元的隐层，多层前馈神经网络就能以任意精度逼近任意复杂度的连续函数。

问题：

神经网络该做多宽多深。

神经网络的结构该如何设计才最合理。

神经网络的输出结果该如何解释。

当输入特征足够多，神经网络足够大，神经网络可以自动发现有用的特征，并通过梯度下降或其他方法走到局部极小值点，从而向自动数据分析的目标前进。