MATLAB ——matconvnet ——multi loss function
最近在学习深度学习matlab程序,网上大部分都是对单个目标函数的操作,关于多个目标函数的示例非常少,所以我想在这里分享给大家。
首先,运用了dagnn模块,这个模块可以更好的扩充网络和修改网络:
net = dagnn.DagNN.fromSimpleNN(net, ‘canonicalNames’, true) ;
对于目标函数而言,我运用了两个目标函数,一个是L1一个是L2,在网络的最后两层分别定义两个目标函数:
net.addLayer(‘objective’, dagnn.Loss(‘loss’, ‘l2’), {‘prediction’,‘label’}, ‘objective’) ;
net.addLayer(‘objective’, dagnn.Loss(‘loss’, ‘l1’), {‘prediction’,‘label’}, ‘objective’) ;
其中dagnn,Loss(‘loss’,‘l2/l1’) 是作为参数传入到LOSS函数并在里面选择到底是是使用L1还是L2,具体的求LOSS的函数需要自己定义。网络中的主要体现就是这样。
接下来就是对于两个目标函数各自占比例的控制,需要在训练函数中对其进行初始化。传入训练模块中:
opts.derOutputs = {‘objective1’ , a , ‘objective2’ , b } ;其中objective1,objective2为两个分别的目标函数,而后面的a,b为其各自占的权重,相加为1.这个opts.derOutputs的具体作用为每次反向传播的时候体现出来,每个Loss乘上对应的权重。