一张图片相对神经网络可能有几种属性？

如果假设每张图片相对神经网络都至少有两个属性分别是频率和质量，频率和点的分布有关，而质量和点的数值大小有关。

本文通过实验验证图片对于神经网络应该有质量属性。

比如一张图片只有4个像素

当r1>0&&r2>0为排斥子

当r1>0&&r2<0为鞍点

很显然排斥子和鞍点都是对角线他们的频率应该是相同的，如果排斥子和鞍点可以分类就表明图片相对神经网络有一种与点的分布无关的属性存在。

实验过程

制作一个4*4*2结构的神经网络，向这个网络输入排斥子并让这个网络向1，0收敛

将这个网络简单表示成

s（p）-4-4-2-（2*k）,k∈(0,1)

用同样的办法制作一个4*4*2的网络向这个网络输入鞍点，并让这个网络向0，1收敛将这个网络表示成

s（a）-4-4-2-（2*k）,k∈(0,1)

现在用这两个网络组成一个网络，并让4*4*2部分的权重共享，前面大量实验表明这种效果相当于将两个弹性系数为k1，k2的弹簧并联成一个弹性系数为k的弹簧，并且让k1=k2=k/2的过程。

将这个网络简写成

d2（p，a）-4-4-2-（2*k）,k∈(0,1)

这个网络的收敛标准是

if (Math.abs(f2[0]-y[0])< δ  &&  Math.abs(f2[1]-y[1])< δ   )

因为对应每个收敛标准δ都有一个特征的迭代次数n与之对应因此可以用迭代次数曲线n(δ)来评价网络性能。

本文尝试了δ从0.5到1e-7在内的35个值.

具体进样顺序
进样顺序	迭代次数
δ=0.5
P	1		判断是否达到收敛
a	2		判断是否达到收敛
梯度下降
P	3		判断是否达到收敛
a	4		判断是否达到收敛
梯度下降
……
达到收敛标准测量准确率,记录迭代次数，将这个过程重复199次
δ=0.4
…
δ=1e-7

 

其中排斥子为

Random rand1 =new Random();

int ti1=rand1.nextInt(98)+1;

x[0]=1+((double)ti1/100);

 

Random rand2 =new Random();

int ti2=rand2.nextInt(98)+1;

x[3]=1+((double)ti2/100);

鞍点为

Random rand1 =new Random();

int ti1=rand1.nextInt(98)+1;

x[0]=1+((double)ti1/100);

 

Random rand2 =new Random();

int ti2=rand2.nextInt(98)+1;

x[3]=((double)ti2/100);

f2[0]	f2[1]	迭代次数n	平均准确率p-ave	δ	耗时ms/次	耗时ms/199次	耗时 min/199
0.559472171	0.498098619	97.62311558	0	0.5	0.743718593	150	0.0025
0.604735251	0.396864624	579.8090452	0	0.4	1.552763819	312	0.0052
0.599203607	0.408847791	806.7085427	0	0.3	2.065326633	411	0.00685
0.451248905	0.557567908	921.5075377	0	0.2	2.477386935	494	0.008233333
0.279545683	0.725122071	1201.055276	0	0.1	3.060301508	612	0.0102
0.008971715	0.991081138	2548.542714	0	0.01	4.768844221	952	0.015866667
9.24E-04	0.999090755	5639.366834	0	0.001	10.57788945	2109	0.03515
9.23E-05	0.999908755	12599.11558	0	1.00E-04	20.11557789	4006	0.066766667
8.29E-05	0.999917373	12531.57789	0	9.00E-05	19.43718593	3871	0.064516667
7.37E-05	0.999926705	13018.40201	0	8.00E-05	20.05025126	3995	0.066583333
6.48E-05	0.999935456	13185.96985	0	7.00E-05	20.67336683	4117	0.068616667
5.54E-05	0.999944992	14087.8392	0	6.00E-05	21.89447236	4358	0.072633333
4.62E-05	0.999954152	14697.69849	0	5.00E-05	22.98492462	4579	0.076316667
3.66E-05	0.999963408	15529.22613	0	4.00E-05	25.54773869	5085	0.08475
2.73E-05	0.999972908	17176.1608	0	3.00E-05	27.35175879	5447	0.090783333
1.80E-05	0.999982054	18380.91457	0	2.00E-05	29.17085427	5811	0.09685
9.10E-06	0.999990938	21252.09045	0	1.00E-05	33.39698492	6652	0.110866667
8.21E-06	0.999991841	21359.44724	0	9.00E-06	33.2160804	6621	0.11035
7.34E-06	0.999992806	21614.13065	0	8.00E-06	33.88944724	6751	0.112516667
6.36E-06	0.99999372	22877.41709	0	7.00E-06	37.72361809	7525	0.125416667
5.42E-06	0.999994615	23357.9799	0	6.00E-06	36.67336683	7301	0.121683333
4.54E-06	0.999995475	24004.46231	0	5.00E-06	37.4321608	7454	0.124233333
3.62E-06	0.999996403	24231.49749	0	4.00E-06	37.92964824	7554	0.1259
2.73E-06	0.999997315	26105.23618	0	3.00E-06	40.67336683	8099	0.134983333
1.79E-06	0.999998215	27608.83417	0	2.00E-06	44.49748744	8856	0.1476
9.01E-07	0.999999113	30251.55779	0	1.00E-06	48.63819095	9695	0.161583333
8.01E-07	0.9999992	31501.21608	0	9.00E-07	52.09547739	10367	0.172783333
7.17E-07	0.999999284	32857.14573	0	8.00E-07	53.54773869	10656	0.1776
6.21E-07	0.999999381	33769.78894	0	7.00E-07	55.09547739	10964	0.182733333
5.36E-07	0.999999467	34067.96985	0	6.00E-07	55.87939698	11135	0.185583333
4.47E-07	0.999999557	34494.55276	0	5.00E-07	55.91959799	11144	0.185733333
3.50E-07	0.999999651	35388.1206	0	4.00E-07	57.90954774	11541	0.19235
2.63E-07	0.999999739	37896.22111	0	3.00E-07	61.75376884	12289	0.204816667
1.75E-07	0.999999827	41354.17085	0	2.00E-07	68.03015075	13541	0.225683333
8.73E-08	0.999999913	45871.40704	0	1.00E-07	77.80904523	15487	0.258116667

 

迭代次数随着δ的减小不断增加。

也就是表明排斥子和鞍点是可以被分类的，表明图片相对神经网络存在一个与排布规律无关的属性。

 

实验参数

学习率 0.1

权重初始化方式

Random rand1 =new Random();

int ti1=rand1.nextInt(98)+1;

tw[a][b]=xx*((double)ti1/1000);