2017-5-6 做了整体图像2x2 blocks 的卷积验证。有初步效果已经是惊喜了。
今天完成 4x4blocks卷积 并连接 2x2block卷积,这样形成了两级卷积pooling。这里的卷积不是传统的卷积乘加结果,而是适用聚类的思想,计算欧式距离。
4x4卷积pooling之后 需要重新形成一个二维图像才可进一步卷积。这里稍微花了一些心思才做到。
结果比预期还好(提取特征之后使用svm进行训练分类):
mnist10(每个种类训练和识别分别选10个图像),卷积之后svm分类结果为76.667%, 而svm对原始数据分类为74.16%
mnist100(每个种类训练和识别分别选100个图像),卷积之后svm分类结果为91.3725%, 而svm对原始数据分类为90.8824 %。
目前的结果已经完全验证开始的推测: 深度学习之cnn 本质是卷积和pooling带来的效果,而非深度。 这个只是简单的验证这种思想,和模型。要提高准确度可以进一步设计即可。。
1 这种聚类卷积方式形成的cnn完全能正常工作。
2 可以在此基础上进行扩展模型。
3 可以尝试金字塔状自顶向下的方式生成模型。
2017-5-19