2018年12月_黑榆

12月 11月 10月 06月 05月 04月 03月 02月 01月

原创神经网络收敛标准与准确率之间的数学关系

制作一个带一个3*3卷积核的神经网络，测试集是minst的0和2图片集，将28*28的图片缩小成9*9，隐藏层30个节点所以网络的结构是S（minst0）-（con3*3）49-30-2-（1,0）画成图表示成这个网络分成两个部分左边的是让minst 0向1,0收敛，右边的是让minst 2向 0,1收敛。但是让左右两边的权重实现同步更新，实现权重共享。实现对0和2的分...

2018-12-29 14:07:56 5066

原创带卷积核的神经网络的迭代次数与收敛标准的关系

制作一个带有卷积核的神经网络让这个网络向1,0收敛,y[0]向1收敛，y[1]向0收敛。收敛标准用δ表示,当满足条件 while(Math.abs(y[0]-1)> δ || Math.abs(y[1]-0)> δ )网络开始迭代，本文尝试了1e-3到9e-7共21个收敛标准，记录每个收敛标准对应的收敛迭代次数n，并观察δ和n的关系。这次测试用的是3*3的卷积核，用...

2018-12-27 10:49:20 4582

原创 3x3,5x5,7x7卷积核识别效率对比

一个卷积核可以更快的提升准确率很显然表明这个卷积核把握图片特征的能力更强。本文比较了3x3，5x5，7x7卷积核识别9x9的图片的识别效率和性能。本文的数据集用了minst的0和2中的前500张图片，经过池化变成9x9的尺寸。只用一个卷积核所以网络结构是：3x3卷积核的网络结构是9x9-7x7-30-25x5卷积核的网络结构是9x9-5x5-30-27x7卷积核的网...

2018-12-25 17:22:38 5287 1

原创学习对象对神经网络迭代次数的影响

制作一个81*30*2的神经网络输入minst数据集的1的图片，让这个网络向1,0收敛，y[0]=1,y[1]=0收敛标准while (Math.abs(f2[0] - y[0]) > δ || Math.abs(f2[1] - y[1]) > δ )这个网络用S（minst1）81*30*2-（1,0）表示本文尝试了从δ=1e-5到δ=1e-10...

2018-12-23 19:53:43 1308

原创用收敛标准计算神经网络迭代次数

在上一篇文《神经网络的迭代次数有可能被计算出来吗？》中模拟了可以将两个输入分类的神经网络，并得到了一个经验公式现在做一个对三个输入实现分类的网络这个网络由三部分构成，第一部分让一个输入是sigmoid（0.1）隐藏层是11个节点输出层是11个节点的网络，向一个输入是sigmoid（7）隐藏层是7个节点，输出层是7个节点的网络收敛，让两个网络同时向对方学习。表示成S（0.1）*1...

2018-12-20 14:05:18 5828

原创神经网络与定态薛定谔方程

定态薛定谔方程是如果是定态的自由粒子，这个方程的解是因为是定态的波函数与时间无关，这个粒子的能量E不随时间变化假设E=1，让t→0 所以波函数变成让A和都等于1 让神经网络里的节点都是在位形空间中 Sigmoid函数在x足够小的时候可以进行近似的化简因为已经假定了这是一个定态的自由粒子群而且粒子的能量E=1，所以位置X处的电子数...

2018-12-18 12:58:09 1212 2

原创神经网络的迭代次数有可能被计算出来吗？

制作一个网络这个网络由两部分组成左边的S（11）*11*11-7*7*s（7）右边的是S（0.1）*11*11-7*7*s（7）让左右两个网络里的上下两个网络相互之间同时向对方收敛同时让s（11）*11*11和s（0.1）*11*11的网络的第一二三层权重同步相等，实现权重共享。这个结果就相当于让11学习一个7*7*s（7）的网络，让0.1也学习一个7*7*...

2018-12-09 15:24:22 4386

原创一个用于推算神经网络理论收敛迭代次数的方法

神经网络的收敛过程就是输出值从0或者1逐渐逼近0.5的过程，也就是1-δ→0.5或者0+δ→0.5，所以用δ表示收敛标准，假设神经网络收敛迭代次数n与δ的关系为n=r*δ^( -1*π/2)r是系数，如果让网络收敛到0.518则δ就是0.019为了验证这个关系做了一个网络让上下两个网络同时向对方收敛,停止标准是|a-b|<δ ,为了方便把这个网络写成S（11...

2018-12-07 12:41:42 6484

原创用反向传导模拟共振并用共振频率作分类

物体的共振频率是物体的内在特性，像每个琴键发出的声音总是不同的，那可不可以用这个办法来做分类？做了一个网络上面的结构是169*11*11输入minst数据集的0-9，用Sigmoid（minst 0）169*11*11表示下面的结构是11*11*1输入sigmoid（11）用Sigmoid(11)*11*11表示让两个网络向对方收敛反向传导计算的就是差值a-b，直到 |...

2018-12-01 10:55:55 1771