可以转载,请务必注明链接和作者名。花了好久的心血~
方法1 破坏封装
qwer在目前能找到的几个pytorch版本里面,大家都是用nn.Functional写的
这种实现方式很繁琐,在两次计算loss的时候都需要重新构建,要自己收东西写前向传播,还要自己初始化权重,(虽然用for循环可以避免)
因为pytorch中的网络参数不能继续反向传播下去(下面有详细解释)。
pytorch的作者写了一个小工具,破坏了module中parameters的封装,使得网络参数可以继续反传。所以就可以用sequential的方式来实现maml了,代码量也大大减少
但是目前仍存在问题,不能多卡并行和apex半精度加速。还不清楚问题出在哪里~~很烦~
有人想看的话,我传到github上,再把链接贴出来~
效果的话大概在MiniImagenet能跑到46(大致调了一下参数,已经差不多是48%, 和原作者的结果就差不多了。)
![f99370d3bf60d2ffec1597993a5efe36.png](https://i-blog.csdnimg.cn/blog_migrate/c1686e48125cb99ff9cac10bdd064b48.jpeg)