神经网络NN
bellajo
这个作者很懒,什么都没留下…
展开
-
感知器训练算法----离散多输出
与离散单输出相似,不同在于若j层输出与期望输入不同,则调整j层的所有权值W(ij)i=1,2,...n,调整方法与离散单输出相同,多输出的本质就多个单输出:1.初始化权矩阵W;2.重复下列过程,直到训练完成: 2.1 对每个样本(X,Y),重复如下过程: 2.1.1 输入X; 2.1.2 计算O=F(XW); 2.1.3 for j=1 to m转载 2013-11-27 10:16:07 · 2159 阅读 · 0 评论 -
基本BP算法
BP算法 又称为BP网络.BP学习算法是一种有效的学习方法,但由于在权值调整上采用梯度下降法作为优化算法,容易陷入局部最小,不能保证得到全局最优解。非循环多级网络的训练算法弱点:训练速度非常慢、局部极小点的逃离问题、算法不一定收敛。优点:广泛的适应性和有效性。 网络的构成神经元的网络输入:转载 2013-11-28 12:31:08 · 1863 阅读 · 0 评论 -
基本BP算法的实例----蚊子的分类
已知的两类蚊子的数据如表1:表1规定目标为: 当t(1)=0.9 时表示属于Apf类,t(2)=0.1表示属于Af类。输入数据有15个,即 , p=1,…,15; j=1, 2; 对应15个输出。即对应的(X,Y)对为:([1.78,1.14],0.9),([1.96,1.18],0.9)......([2.08,1.56],0.1)由于此时的X有两个属性,故输入端为转载 2013-11-28 13:13:20 · 12845 阅读 · 2 评论 -
感知器训练算法-----连续多输出
用公式wij=wij+α(yj-oj)xi取代了离散输出中是否是错误(若实际输出与期望输出不同,则为错误)的判断yj与oj之间的差别对wij的影响由α(yj-oj)xi表现出来,不管是否错误都进行修正,只是在正确的时候,修正要加减的数为0好处:不仅使得算法的控制在结构上更容易理解,而且还使得它的适应面更宽 1.用适当的小伪随机数初始化权矩阵W;2.初置精度控制参数ε,学习率转载 2013-11-27 10:32:59 · 1248 阅读 · 0 评论 -
感知器训练算法----离散单输出
感知器是一种早期的神经网络模型,由美国学者F.Rosenblatt于1957年提出。由于在感知器中第一次引入了学习的概念,使人脑所具备的学习功能在基于符号处理的数学模型中得到了一定程度的模拟,所以引起了广泛的关注。简单感知器模型实际上仍然是M-P模型的结构,但是它通过采用有监督学习来逐步增强模式划分的能力,达到学习的目的感知器处理单元对n个输入进行加权和操作,即:感知器在形转载 2013-11-27 09:46:00 · 2811 阅读 · 0 评论 -
Hebb学习规则 以及 Hebb网络
Hebb学习规则代表一种纯向前的非监督学习。这里用一个简单的例子来说明具有简单网络的二进制和连续激活函数的Hebb学习情况。先上图: 假定具有以下初始权向量的网络如上图所示。初始权向量 W1 = [1, -1, 0, 0.5]T输入X= [x1, x2, x3, x4]T训练集用以下三个输入向量X1 = [1, -2, 1.5, 0]T X2 = [转载 2013-11-27 09:15:42 · 17129 阅读 · 1 评论 -
M-P模型
所谓M-P模型,其实是按照生物神经元的结构和工作原理构造出来的一个抽象和简化了的模型。简单点说,它是对一个生物神经元的建模。它实际上是两位科学家的名字的合称,1943年心理学家W.McCulloch和数学家W.Pitts合作提出了这个模型,所以取了他们两个人的名字(McCulloch-Pitts)。生物神经元的结构在谈M-P模型的内容之前,我们先得了解一下人脑中的神经元的结构,然后转载 2013-11-27 09:05:23 · 16099 阅读 · 0 评论 -
Adaline:Least-Mean-Square (LMS)
Training sample: input signal vectorx(n)desired responsed(n)User selected parameter: ata>0Initializationset ŵ(1) = 0Computation:for n = 1, 2, … compute e(n) = d(n) -ŵT(n)x(n)转载 2013-11-27 14:48:40 · 1299 阅读 · 0 评论 -
感知器训练算法在多类中的应用
对于C类问题,应建立C个判别函数 所属类的判别函数的值大于所有其他类判别函数对于x(k)的值,注意是所有!而在第二个规中是只要存在至少一个j类判别函数的值比本身判别函数的值大就需要运用第二个规则,这其中包括比其值大(或者等于)的类判别函数以及比其值小的判别函数,此时不仅对于自身判别函数进行修正,也要对比其值大(或者等于)的类判别函数进行修正,而对于比其值小的判别函数则不进行修转载 2013-11-29 11:03:05 · 1467 阅读 · 0 评论