(A,B)---4*4*2---(1,0)(0,1)
用神经网络分类A和B,让A和B都是2*2的矩阵,A和B中都只有1个1,有两种情况分布如图。现在分类这两张图片,让这两张图片不断迭代直到收敛。在收敛误差一致的条件下,统计迭代次数并比较。
得到迭代次数如下
111 | 112 | |
δ | 迭代次数n | 迭代次数n |
5.00E-04 | 43820.64 | 43577.67 |
4.00E-04 | 54009.51 | 53538.16 |
3.00E-04 | 70470.45 | 70364.63 |
2.00E-04 | 104635.6 | 103999.7 |
1.00E-04 | 203890.9 | 203603.8 |
42 | 42 |
将两组迭代次数画成图
数据表明这两组数据是重合的并与前面42系列的迭代次数相同。
再一次用移动距离和的假设,
把参与分类的A和B中的数字看作是组成A和B的粒子,设分类的过程就是让A和B中的粒子互相交换位置,寻找最短移动路径的过程。而熵与最短移动距离和成正比,迭代次数和熵成反比。
111
考虑111的情形,A中只有1个粒子,最短移动方式就是(0,1)→(1,1),移动距离是1.同样B中也只有1个粒子,最短移动距离也是1,因此A和B的最短移动距离和为2.
112
在112的A这中只有1个粒子,这个粒子只能向(1,0)移动,同样B中的一个粒子也只能向(0,1)移动。两次移动的距离相同为d。因此移动距离和为2d。因为实验表明112和111的迭代次数相同,因此只能认为2d=2.因此只能假设沿对角线移动的最短距离不是1.141,而是1.
进行第二组实验,让A只有1个1,而B有两个1.
得到迭代次数
121 | 122 | 123 | 124 | |
δ | 迭代次数n | 迭代次数n | 迭代次数n | 迭代次数n |
5.00E-04 | 49812.65 | 50531.71 | 41267.64 | 41495.61 |
4.00E-04 | 61462.27 | 61789.53 | 51119.07 | 51030.22 |
3.00E-04 | 79621.4 | 80378.71 | 67389.99 | 68108.31 |
2.00E-04 | 117159.6 | 116352.1 | 98341.1 | 99026.33 |
1.00E-04 | 223555.5 | 224502.2 | 192987.4 | 193759.6 |
43 | 43 | 41 | 41 |
其中121和122与43系列的迭代次数相同,而123和124与41系列的迭代次数相同。再次应用最短移动距离和的假设。
121
在121A中的1个粒子因为位置重合无需移动,因此移动距离为0.而B中的两个粒子,(0,1)位置重合无需移动,而(1,1)粒子向(0,1)移动,移动距离为1,因此总的移动距离为1.
122
同样A粒子无需移动,而B中只有(1,0)粒子需要移动。
(1,0)→(0,1)
按照对角线假设,这个移动距离也是1,因此总的移动距离为0+1=1.
因此121和122的最短移动距离和都是1.和43系列的相同,所以迭代次数也相同。
123
在123中A粒子有两种移动方式
(0,1)→(0,0)
(0,1)→(1,1)
这两种方式的移动距离都是1,两种选择概率相同,因此1*0.5+1*0.5=1.
而B中的两个粒子都只能向(0,1)移动,
(0,0)→(0,1)
(1,1)→(0,1)
移动距离都是1,因此B的移动距离为2.总的移动距离为1+2=3.和41系列的相同。
124
在124中A的唯一的一个粒子最短移动距离是1,B的两个粒子按照对角线假设,移动距离都是1,因此总的移动距离是1+2=3.
再去做第三组实验,让A有1个1,B有3个1.得到迭代次数如下
131 | 132 | 133 | 134 | |
δ | 迭代次数n | 迭代次数n | 迭代次数n | 迭代次数n |
5.00E-04 | 44402.06 | 40255.25 | 43931.96 | 44277.57 |
4.00E-04 | 54021.34 | 49310.99 | 54550.33 | 54116.32 |
3.00E-04 | 72179.21 | 65411.42 | 71664.52 | 70963.16 |
2.00E-04 | 104228.6 | 95004.2 | 104332.6 | 103147.5 |
1.00E-04 | 202004.9 | 190698.3 | 203441.7 | 204762.9 |
42 | 42 | 42 |
其中131,133,134的迭代次数和42系列相同,132是一组新的迭代数值。
131
A中的粒子的移动距离为0,B中有两个粒子需要移动(1,0)和(1,1),按对角线假设移动距离都是1,因此132的移动距离为2.
132
A中的粒子有两种移动方法
(0,1)→(0,0)
(0,1)→(1,1)
概率相同,移动距离相同都是1,因此A的移动距离为1.而B中有3个粒子都需要移动
(0,0)→(0,1)
(1,0)→(0,1)
(1,1)→(0,1)
移动距离都是1,因此B的移动距离为3,总的移动距离为4.所以132的迭代次数不同于以往的实验值。
414 | 132 | 414-132 | |
δ | 迭代次数n | 迭代次数n | |
5.00E-04 | 41667.75 | 40255.25 | 1412.497 |
4.00E-04 | 51861.47 | 49310.99 | 2550.472 |
3.00E-04 | 66872.62 | 65411.42 | 1461.201 |
2.00E-04 | 99056.68 | 95004.2 | 4052.487 |
1.00E-04 | 192974.1 | 190698.3 | 2275.744 |
并且比较41系列的实验值和132的实验值,发现41系列的迭代次数大于132的迭代次数,这与132的熵4大于414的熵3的关系相一致。
133
133和131相对于A是对称的,因此移动距离都是2.
134
A无需移动,B中有两个粒子需要移动,移动距离都是1,因此134总移动距离为2.所以131,133,134的总移动距离都是2和42系列的相同,因此迭代次数也相同。
所以移动规则汇总
每个粒子移动一次,位置重合不移动,0不动,沿对角线移动距离为1。