人工神经网络
1.它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。
2.神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。
3.每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。
4.网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。
单个神经元的作用:把一个n维向量空间用一个超平面分割成两部分(称之为判断边界),给定一个输入向量,神经元可以判断出这个向量位于超平面的哪一边。
方程:
Wp+b=0
W权向量
b偏置
p超平面上的向量
人工神经网络原理图
四个基本特征:
非线性: 非线性关系是自然界的普遍特性
非局限性: 一个神经网络通常有多个神经元广泛连接(联想记忆)
非常定性: 人工神经网络具有自适应、自组织、自学习能力
非凸性: 一个系统的演化方向,在一定条件下将取决于某个特定的状态函数
神经元处理单元:
特征、字母、概念、有意的抽象模式
网络中处理单元:
输入单元
外界世界信号与数据
隐单元
实现系统处理结果的输出
输出单元
存在输入单元和输出单元之间,不能由系统外部观察
人工神经网络方法在蛋白质二级结构预测中的应用
1.人工神经网络可以有效地进行蛋白质结构预测,从数学的角度出发,由蛋白质的氨基酸线性序列到蛋白质所有原子三维坐标的映射构成了蛋白质结构预测问题。
2.有监督的误差反向传播算法(BP)算法。
3.蛋白质序列是由各种氨基酸字符序列所构成,输入氨基酸残基片段,表现为一串语言字符,二级结构即为对应的输出。
隐含层:
此神经网络模型中,隐含层的神经元是完成从氨基酸序列到蛋白质二级结构映射的关键,这种映射是非线性映射。
隐含层神经元个数一般从两个变化到几十个,神经网络对训练实例的记忆能力和神经网络的推广能力与其神经元个数有关,神经元个数越多,对训练实例的记忆能力越强,但是神经网络的推广能力越弱,预测新蛋白质二级结构的精度越差。
如何选择适当的隐含层神经元?
1.经验公式求解
2.fangfaGorman指出隐层结点数s与模式数N的关系是:s=log2N;
3.Kolmogorov定理表明,隐层结点数s=2n+1(n为输入层结点数);
4.s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51 (m是输入层的个数,n是输出层的个数)。
5.尝试法:try-error-try
6.构造法:从小规模的网络开始学习,根据网络性能,逐步增加网络结构规模或复杂度