1. 神经元模型
神经网络是一个多学科交叉的领域,比较常见的定义是:“”神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能模拟生物神经系统对真实世界物体做出的交互反应“”。
神经网络中最基本的成分是神经元模型,典型的为m-p神经元模型,从生物角度可以形象的理解为下图。
从模型角度而言,m-p神经元接收n个输入信号,并通过权重连接形成总输入值,将总输入值与神经元的阈值相比较,然后通过激活函数(activation function)处理以产生神经元的输出。
神经网络就是将多个神经元按照一定的层次结构连接起来。
2. 感知器与多层网络
感知器由两层神经元组成,即输入层和输出层。单个感知器通过设置连接权重就可以实现“与”,“或“,”非”等线性问题,两层感知器可以解决“异或”问题,中间一层叫做隐含层。具体而言,在感知器学习时,将阈值视为“哑节点”,权重总为-1,即可采用“负反馈”的修正思想统一学习权重:,其中为学习率,控制修正权值的步长。
虽然单个感知器可以有效解决线性可分问题,但是解决非线性可分问题需要使用多层功能神经元,即拥有激活函数的神经元。更一般的,若每层神经元只与下一层神经元互连,同层或跨层之间没有互连,则可称之为“多层前馈神经网络”(multi-layer feedorward neural networks)。
分享一段单个感知器的代码段,来源:https://blog.csdn.net/xmu_jupiter/article/details/2