Introduce
Continual Learning关注两件事：
- 对新任务不断学习且不断的积累知识
- 避免灾难性的遗忘
Memory Aware Synapses方法：
核心思路是对每个task，训练完该任务后计算网络模型中每个参数θ对该任务的重要性Ω。
在训练过程中，对于Ω大的参数theta，在梯度下降过程中尽量的减少它的改变幅度，因为该参数对于过去某个任务很重要，需要保留他的值来避免灾难性的遗忘。相反，对于Ω很小的参数θ，我们可以使用较大的幅度对梯度进行更新。
重要性Ω以正则项的形式添加到loss损失函数中。
对于如何计算Ω：将收敛后的模型向前传递过程视为对一个真实函数F的近似F'。每个参数对于任务的重要性Ω相当于该函数对该参数的敏感程度。若θ产生一个很小的改变，而output发生了很大的变化，则我们认为该参数是重要的。对于每个数据点xk，有：
且有：
就是函数在该数据点上对每个参数的偏导数
对于每个数据点，我们求得他们的偏导的均值作为最后的重要性Ω
若output是多维度的，有多个类别时，作者采用了L2范数的平方替代，将output所有维度合为一个标量，最终只需一次反向计算，公式如下：
Loss函数改动：每进来一个task时，在原loss函数上添加一个正则项来限制各个参数的更新幅度：
θ*时有前n-1个任务得到的模型，是用于训练第n个任务的初始模型参数，λ是正则项的超参数，默认为1，每次训练结束一个任务后，Ω都会进行更新。
由文章总结2018 Memory Aware Synapses 随笔 - 知乎 (zhihu.com)
在这里写下一些心得，感谢原作者的分享
3341
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
