原标题:Tree-CNN:一招解决深度学习中的「灾难性遗忘」
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考。
在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果。
这是 PaperDaily 的第 64篇文章
本期推荐的论文笔记来自 PaperWeekly 社区用户@Cratial。深度学习领域一直存在一个比较严重的问题——“灾难性遗忘”,即一旦使用新的数据集去训练已有的模型,该模型将会失去对原数据集识别的能力。
为解决这一问题,本文提出了树卷积神经网络,通过先将物体分为几个大类,然后再将各个大类依次进行划分、识别,就像树一样不断地开枝散叶,最终叶节点得到的类别就是我们所要识别的类。
关于作者:吴仕超,东北大学硕士生,研究方向为脑机接口、驾驶疲劳检测和机器学习。
■ 论文 | Tree-CNN: A Deep Convolutional Neural Network for Lifelong Learning
■ 链接 | https://www.paperweekly.site/papers/1839
■ 作者 | Deboleena Roy / Priyadarshini Panda / Kaushik Roy
网络结构及学习策略
网络结构
Tree-CNN 模型借鉴了层分类器,树卷积神经网络由节点构成,和数据结构中的树一样,每个节点都有自己的 ID、父亲(Parent)及孩子(Children),网(Net,处理图像的卷积神经网络),LT("Labels Transform",就是每个节点所对应