需要从https://github.com/tensorflow/models/tree/master/research下载slim的相关代码。
对slim下面的文件进行相应的权限的修改,chmod +x *
同时对slim/scripts里面的权限也做相应的修改
更改train_cifarnet_on_cifar10.sh,数据的保存的路径
以及对其函数的具体说明
但是在执行前,tensorflow如果用cpu执行,需要修改里面脚本的指令
将其参数改为true
执行脚本
每过100个step会输出相应的loss,每个step执行多少的时间,以及每过120s会把相应的checkpoint 指定到输入的目录中去
此时可以使用tensorboard监控训练的过程。
tensorboard的安装
然后启动tensorboard
total_loss走到一定的程度开始走平了,可以尝试将learning_rate进行相应的降低,将其降为原来的1/4再尝试一下
sparsity稀疏性
稀疏性一般处在30%-70%之间都是可以接受的
此时的第二层卷积稀疏达到了90%.说明其中100个神经元的输出有90个输出为0,能够为下一次提供的有效特征很少,可能正则项的惩罚过大,过于稀疏或者不合适的正则,也可能是神经元设置过多
验证数据集的使用:
以上的脚本输入到命令行里面执行。
查看checkpoint
进入到
如果再一次运行脚本
就会从断点开始训练。