用特征迭代次数的方法构造神经网络的光谱,
网络结构是
(mnist 2 ,mnist x)81-30-2-(1,0) || (0,1)
将28*28的图片压缩到9*9,三层网络的节点数量分别是81*30*2,让2向(1,0)收敛让x向(0,1)收敛,让x分别等于3-9.网络的迭代停止的标准是
|输出函数-目标函数|<δ
让δ=1e-6,重复收敛999次,统计平均值和分布,然后用得到的迭代次数的分布数据画图
数据统计表
f2[0] | f2[1] | 迭代次数n | 平均准确率p-ave | δ | 耗时ms/次 | 耗时ms/999次 | 最大值p-max | |
2-3 | 0.913913 | 0.086087 | 56675.627 | 0.977424 | 1.00E-06 | 1069.11 | 1068062 | 0.984329 |
2-4 | 0.928928 | 0.071072 | 71943.62 | 0.986349 | 1.00E-06 | 1356.499 | 1355143 | 0.99007 |
2-5 | 7.84E-07 | 0.999999 | 27194.14 | 0.971512 | 1.00E-06 | 514.979 | 514495 | 0.985447 |
2-6 | 0.999999 | 7.33E-07 | 30048.023 | 0.9688 | 1.00E-06 | 568.1522 | 567600 | 0.981407 |
2-7 | 0.971971 | 0.028029 | 61644.72 | 0.979414 | 1.00E-06 | 1155.844 | 1154704 | 0.98622 |
2-8 | 0.999999 | 7.28E-07 | 19264.944 | 0.963022 | 1.00E-06 | 371.6276 | 371287 | 0.973579 |
2-9 | 0.954954 | 0.045046 | 57314.104 | 0.981244 | 1.00E-06 | 1058.758 | 1057728 | 0.988731 |
峰值分布表
2-3 | 42075 | 42731 | 44717 | 49921 | 52071 | 52727 | 53179 | 53601 | 54713 | 57351 | 57805 | 59917 | 62067 | 62723 | 63558 | 63597 | 64657 | 64709 |
1 | 2 | 159 | 4 | 21 | 34 | 1 | 12 | 425 | 13 | 18 | 7 | 6 | 18 | 1 | 6 | 2 | 96 | |
2-3 | 64738 | 64912 | 65317 | 65540 | 66102 | 67347 | 67396 | 67672 | 67782 | 67801 | 69913 | 70957 | 72116 | 72719 | 72823 | 73554 | 74179 | 74653 |
37 | 16 | 1 | 1 | 2 | 7 | 1 | 3 | 4 | 54 | 3 | 2 | 1 | 8 | 1 | 3 | 2 | 2 | |
2-3 | 74705 | 74714 | 74734 | 74908 | 77565 | 77778 | 82184 | |||||||||||
7 | 1 | 11 | 2 | 1 | 2 | 1 | ||||||||||||
2-4 | 56539 | 57381 | 58403 | 58449 | 59255 | 59267 | 60049 | 61983 | 62581 | 63327 | 63587 | 63643 | 64589 | 64703 | 66535 | 67273 | 67365 | 67377 |
3 | 2 | 1 | 15 | 1 | 8 | 6 | 5 | 2 | 4 | 9 | 10 | 2 | 106 | 30 | 2 | 11 | 6 | |
2-4 | 67620 | 67711 | 67877 | 68399 | 68445 | 69251 | 69263 | 69335 | 69439 | 69747 | 69913 | 69993 | 70045 | 71012 | 71979 | 72577 | 73049 | 73219 |
5 | 7 | 22 | 6 | 55 | 7 | 122 | 4 | 4 | 1 | 14 | 1 | 24 | 1 | 11 | 8 | 1 | 1 | |
2-4 | 73323 | 73485 | 73583 | 73639 | 74585 | 74699 | 75001 | 75526 | 75716 | 76531 | 77269 | 77361 | 77373 | 77616 | 77707 | 77873 | 78441 | 79162 |
35 | 5 | 8 | 14 | 4 | 192 | 1 | 4 | 1 | 3 | 2 | 7 | 5 | 29 | 5 | 15 | 6 | 2 | |
2-4 | 79170 | 79247 | 79259 | 79291 | 79331 | 79743 | 79909 | 79989 | 80041 | 80135 | 80640 | 81008 | 82573 | 83319 | 83481 | 83635 | 84695 | 85522 |
1 | 2 | 36 | 1 | 3 | 1 | 8 | 1 | 9 | 1 | 2 | 15 | 1 | 19 | 2 | 2 | 22 | 5 | |
2-4 | 87369 | 87869 | 89158 | 89166 | 89255 | 89327 | 89905 | 90636 | 93315 | 95518 | ||||||||
1 | 2 | 1 | 3 | 1 | 1 | 1 | 1 | 1 | 1 | |||||||||
2-5 | 14052 | 23446 | 24048 | 26666 | 28436 | 31790 | 31864 | 33238 | 33442 | 33472 | 34044 | 34314 | 34894 | 36662 | 38432 | 41786 | 43234 | 44890 |
2 | 31 | 536 | 3 | 205 | 12 | 8 | 17 | 103 | 1 | 36 | 1 | 16 | 1 | 18 | 5 | 1 | 3 | |
2-6 | 18465 | 26861 | 27425 | 28243 | 28343 | 28379 | 28461 | 28489 | 30383 | 30423 | 30443 | 31227 | 35375 | 36169 | 36231 | 36483 | 36549 | 36857 |
85 | 13 | 1 | 5 | 1 | 6 | 603 | 2 | 4 | 2 | 3 | 18 | 3 | 11 | 49 | 11 | 29 | 15 | |
2-6 | 36889 | 37403 | 38375 | 38457 | 38485 | 40377 | 40379 | 40439 | 40455 | 41213 | 41223 | 42301 | 46165 | 46227 | 46545 | 46885 | ||
55 | 1 | 21 | 6 | 26 | 1 | 4 | 1 | 1 | 1 | 3 | 1 | 1 | 7 | 4 | 5 | |||
2-7 | 43651 | 46025 | 46107 | 47577 | 48407 | 50702 | 51619 | 52727 | 53067 | 53647 | 53937 | 56021 | 57573 | 57583 | 57791 | 58230 | 58403 | 58449 |
4 | 3 | 2 | 7 | 49 | 1 | 16 | 2 | 1 | 88 | 19 | 29 | 87 | 1 | 7 | 1 | 188 | 28 | |
2-7 | 60698 | 61615 | 62723 | 63063 | 63597 | 63643 | 63749 | 63933 | 64709 | 66017 | 66099 | 67569 | 67579 | 67787 | 68226 | 68399 | 68445 | 70694 |
5 | 25 | 2 | 4 | 2 | 65 | 2 | 42 | 1 | 25 | 1 | 66 | 1 | 21 | 3 | 62 | 14 | 15 | |
2-7 | 71611 | 72719 | 73059 | 73593 | 73639 | 73745 | 73929 | 76013 | 77565 | 77783 | 78395 | 78441 | 80690 | 83635 | 83925 | 86009 | 87561 | 88391 |
2 | 1 | 1 | 1 | 49 | 1 | 5 | 1 | 17 | 2 | 11 | 1 | 3 | 9 | 1 | 1 | 1 | 1 | |
2-7 | 88437 | 93631 | ||||||||||||||||
1 | 1 | |||||||||||||||||
2-8 | 12467 | 16911 | 17599 | 18363 | 18465 | 19447 | 20079 | 20529 | 21563 | 22463 | ||||||||
13 | 19 | 64 | 292 | 303 | 17 | 5 | 60 | 67 | 159 | |||||||||
2-9 | 44711 | 45953 | 45985 | 48351 | 48453 | 49447 | 51235 | 53591 | 53647 | 53831 | 54040 | 54593 | 54707 | 54907 | 55949 | 55981 | 56013 | 57571 |
1 | 2 | 40 | 1 | 71 | 35 | 1 | 3 | 13 | 12 | 6 | 6 | 96 | 2 | 78 | 208 | 12 | 14 | |
2-9 | 58347 | 58449 | 59443 | 61231 | 63587 | 63643 | 63827 | 64036 | 64186 | 64589 | 64703 | 64903 | 65937 | 65945 | 65977 | 67567 | 68445 | 69439 |
1 | 96 | 58 | 8 | 1 | 7 | 11 | 15 | 21 | 1 | 66 | 1 | 8 | 35 | 47 | 7 | 4 | 5 | |
2-9 | 73639 | 74032 | 74182 | 75973 | 77563 | |||||||||||||
1 | 1 | 2 | 1 | 1 |
2-3的谱
这张谱强度大于10%的只有两个峰,一个是44717强度是15.9%,一个是54713强度是42.5%。这张谱例有一个明显的等距关系
64709-54713=54713-44717=9996
这张谱和分子光谱高度相似,所以神经网络是否可能给我们理解微观粒子什么有益的启示?
比如把网络的输入理解成是原子核对核外电子的电磁力作用,而把网络学习分类的耦合过程理解成是核外的电子之间的耦合成键作用。
最终得到的迭代次数的分布谱线就是的分子AB的光谱。
体现的是这个体系对权重组成的随机序列的分类。比如这个网络一共有81*30+30*2共两组权重的随机数列,但只有43个峰,也就是这两组随机数列最多只能被分成43个不同的类别。表明一个随机数列即便每个数都是随机产生的,但整体上仍然可能表达一个完整的信息。
2-4的谱
这张谱里三个明显的主峰64703,69263,74699,强度分别是10.6%,12.2%,19.2%
2-5的谱
这张谱的三个主峰分布在低频区分别是24048,28436,33442.强度分别是53.6%,20.5%,10.3%。
2-6的谱
2-6的谱虽然有34个峰值但60.3%集中于一个峰28461,第二强的峰18465占比只有8.5%。特征很明显。
2-7的谱
这张谱里只有一个强度大于10%的峰,58403强度是18.8%。这张谱里有很细致的二级精细的结构
58403-57573=68399-67569=830,两组等距的伴峰。
2-8的谱
这张图的特征非常明显有一对差不多等强度的双子峰18465,18363强度分别是30.3%,29.2%
2-9的谱
这张谱的最强峰55981强度是20.8%。在这张谱里有两组等距关系
55981-54707=65977-64703=1274第一组不等高伴峰
49447-48453=59443-58449=994 第二组不等高伴峰。