晋中路桥建设集团网站网络优化工具
( A, B )---3*30*2---( 1, 0 )( 0, 1 )
( A, B )---4*30*2---( 1, 0 )( 0, 1 )
做4个训练集尺寸分别为3行3列,3行4列,4行3列和2行4列的网络。简写为3*3,3*4,4*3,2*4.
保持这4个网络差值结构的形态一致,观察图片尺寸的变化对迭代次数的影响。
第一组
3*3 | A-B | 迭代次数 | 3*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*2*7-0*0*0 | 10096.64 | 0 | 0 | 0 | 0 | 0*2*7-0*0*0 | 10096.73 | |
0 | 1 | 0 | 0*2*7-0*0*0 | 10096.64 | 0 | 0 | 1 | 0 | 0*2*7-0*0*0 | 10096.73 | |
1 | 1 | 1 | 0*2*7-0*0*0 | 10096.64 | 0 | 1 | 1 | 1 | 0*2*7-0*0*0 | 10096.73 | |
4*3 | A-B | 迭代次数 | 2*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*0*2*7-0*0*0*0 | 14571.38 | 0 | 0 | 1 | 0 | 2*7-0*0 | 7074.94 | |
0 | 0 | 0 | 0*0*2*7-0*0*0*0 | 14571.38 | 0 | 1 | 1 | 1 | 2*7-0*0 | 7074.94 | |
0 | 1 | 0 | 0*0*2*7-0*0*0*0 | 14571.38 | |||||||
1 | 1 | 1 | 0*0*2*7-0*0*0*0 | 14571.38 |
3*3的迭代次数与3*4的迭代次数相同,2*4的最小而4*3的最大。
4*3>3*3=3*4>2*4。表明在差值结构一致的前提下,增加列对迭代次数没有影响,而增加行会使迭代次数变大。
第二组
3*3 | A-B | 迭代次数 | 3*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*3*3-0*0*0 | 23068.75 | 0 | 0 | 0 | 0 | 0*3*3-0*0*0 | 22997.26 | |
0 | 1 | 1 | 0*3*3-0*0*0 | 23068.75 | 0 | 0 | 1 | 1 | 0*3*3-0*0*0 | 22997.26 | |
0 | 1 | 1 | 0*3*3-0*0*0 | 23068.75 | 0 | 0 | 1 | 1 | 0*3*3-0*0*0 | 22997.26 | |
4*3 | A-B | 迭代次数 | 2*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*3*3*0-0*0*0*0 | 30993.99 | 0 | 0 | 1 | 1 | 3*3-0*0 | 22693.3 | |
0 | 1 | 1 | 0*3*3*0-0*0*0*0 | 30993.99 | 0 | 0 | 1 | 1 | 3*3-0*0 | 22693.3 | |
0 | 1 | 1 | 0*3*3*0-0*0*0*0 | 30993.99 | |||||||
0 | 0 | 0 | 0*3*3*0-0*0*0*0 | 30993.99 |
迭代次数的大小顺序为4*3>3*3=3*4>2*4,这个顺序与第一组一致,4*3,3*3和3*4的迭代次数是第一组的约2.2倍,而2*4的迭代次数是第一组的3.2倍。2*4的迭代次数增长的更快。
第三组
3*3 | A-B | 迭代次数 | 3*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*3*6-0*0*0 | 25780.67 | 0 | 0 | 0 | 0 | 0*6*12-0*0*0 | 25814.85 | |
0 | 1 | 1 | 0*3*6-0*0*0 | 25780.67 | 0 | 1 | 1 | 0 | 0*6*12-0*0*0 | 25814.85 | |
1 | 1 | 0 | 0*3*6-0*0*0 | 25780.67 | 1 | 1 | 0 | 0 | 0*6*12-0*0*0 | 25814.85 | |
4*3 | A-B | 迭代次数 | 2*4 | A-B | 迭代次数 | ||||||
0 | 0 | 0 | 0*0*3*6-0*0*0*0 | 35068.68 | 0 | 1 | 1 | 0 | 6*12-0*0 | 24266.91 | |
0 | 0 | 0 | 0*0*3*6-0*0*0*0 | 35068.68 | 1 | 1 | 0 | 0 | 6*12-0*0 | 24266.91 | |
0 | 1 | 1 | 0*0*3*6-0*0*0*0 | 35068.68 | |||||||
1 | 1 | 0 | 0*0*3*6-0*0*0*0 | 35068.68 |
这组的顺序依然是4*3>3*3=3*4>2*4其中3*3,3*4,4*3的迭代次数为第二组的约1.1倍,而2*4的迭代次数是第二组的1.06倍,所以这个迭代次数的变化趋势并不均匀。
第4组
3*3 | A-B | 迭代次数 | 3*4 | A-B | 迭代次数 | ||||||
1 | 0 | 0 | 4*4*3-0*0*0 | 30860.98 | 0 | 1 | 0 | 0 | 4*4*3-0*0*0 | 30802.33 | |
1 | 0 | 0 | 4*4*3-0*0*0 | 30860.98 | 0 | 1 | 0 | 0 | 4*4*3-0*0*0 | 30802.33 | |
0 | 1 | 1 | 4*4*3-0*0*0 | 30860.98 | 0 | 0 | 1 | 1 | 4*4*3-0*0*0 | 30802.33 | |
4*3 | A-B | 迭代次数 | |||||||||
0 | 0 | 0 | 0*4*4*3-0*0*0*0 | 28928.27 | |||||||
1 | 0 | 0 | 0*4*4*3-0*0*0*0 | 28928.27 | |||||||
1 | 0 | 0 | 0*4*4*3-0*0*0*0 | 28928.27 | |||||||
0 | 1 | 1 | 0*4*4*3-0*0*0*0 | 28928.27 |
第4组规律与前三组不同,4*3的迭代次数要小于3*3和3*4.
3*3 | 457 | 512 | 0.89258 | |
3*4 | 3954 | 4096 | 0.96533 | |
4*3 | 3855 | 4096 | 0.94116 |
在3*3的网络中共有512组不同的训练集,其中迭代次数比30860小的有457组,占89.3%, 其余两组的数据是96%,94%。
所以如果认为在差值结构不变的条件下增加列不改变迭代次数,增加行使迭代次数变大,尽管这里的统计并不完全但似乎暗示了,这个假设可以有效的覆盖这3个网络的大多数结构。
而且这一现象可以很容易的用质心的假设去理解,质心的高度显然不会随着列的增加而增加,但是行的增加虽然不会改变质心的绝对高度但相对高度变小了。因为相对质心变小使迭代次数变大。