智能突触《Continual Learning Through Synaptic Intelligence》(SI)

已于 2022-10-26 16:27:30 修改
阅读量1k 收藏 2
点赞数 1
文章标签： 深度学习 机器学习 人工智能 python
于 2022-10-26 11:32:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liushuping528/article/details/127527380
版权

Abstract

  ANN的参数在训练阶段对数据集中学习，在部署和召回阶段对新数据进行冻结和静态使用，为了适应在数据分配的改变，ANN必须重新训练全部的数据集来避免灾难性遗忘

  在研究中，作者引入了智能突触将生物的复杂性带到人工智能神经网络中

避免灾难性遗忘的方法
  通过巩固重要的突触来预防他们在未来任务中的改变 ，因此对于新任务的学习由那些对过去不太重要的突触所介导，从而避免额对过去任务的灾难性遗忘

  为了解决神经网络持续学习的问题，我们试图构建了一个结构化的正则器，它可以在线计算并在每个突触处局部实现
突触

  引进了一种在线的方法，通过整合对解决过去任务很重要的参数变化来避免灾难性遗忘，同时只允许不重要的参数学习解决新的新的任务

Conclusion

EWC 和 SI 是比较经典的计算网络参数不同重要性的方法，具体来说：

  • EWC 通过估计 Fisher Information Matrix 的对角线值来计算参数重要性。
  • SI 估计损失函数对于参数的敏感性来计算参数重要性。

正则化惩罚与EWC类似，不同的是，他们以现在的方法和参数空间中的整个学习轨迹计算每个突触的整合强度，而EWC是指定任务的最小损失Fisher离线计算

Metaverse_P
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【持续学习系列(八)】《Continual Learning Through Synaptic Intelligence》
weixin_45225032的博客
01-05 961
论文通过引入智能突触的概念，提出了一种新的持续学习方法，该方法通过让每个突触估计其对解决过去任务的重要性，并惩罚变化最重要的突触，从而在不断变化的数据分布中实现新任务的学习，同时最小化对旧任务的遗忘。实验结果表明，这种方法在多个数据集上都表现出了良好的性能，为解决灾难性遗忘问题提供了一种新的视角。
【博士每天一篇论文-算法】Continual Learning Through Synaptic Intelligence，SI算法
最新发布
BetterBench的博客
02-01 986
1. 引入了 intelligent synapses（智能突触）的概念，智能突触通过累积与任务相关的信息来存储新的记忆，同时不会忘记旧的记忆，从而降低遗忘，同时保持计算效率。通过单个突触估计其对过去任务的重要性，并对最重要突触的变化惩罚来解决灾难性遗忘。 2. 这篇论文指出，ANNs的问题在于它们未能融入生物突触的复杂性，而生物突触使用复杂的分子机制来影响各种时间和空间尺度上的可塑性。因此，论文提出了三种缓解灾难性遗忘的方法：架构、功能和结构方法。
PRN（20210421）：Task-Free Continual Learning
昔风不起，唯有努力生存！
04-22 1961
写这篇博客前，我又重新阅读了之前的博客（ 利用突触智能实现连续学习|从原理到代码解析（人生好难呀！））的内容，以及文后的那段笔（tu）记(cao)。一直没有放弃关注增量式学习的近况，比如：最近ICLR2021的大会论文公布，我迫不及待的在主页搜索栏中键入incremental learning（检索结果为0篇），continual learning（检索结果为9篇）。文献不算多，准备都粗略过一下，然后挑一些自己感觉不错的精读。但是，这篇博客暂且不涉及ICLR2021，而是关于CVPR2019的一篇论文《T.
连续学习入门（三）：Permuted MNIST/Split MNIST/Sequential MNIST 数据集
学习 & 分享 ~
11-16 2645
本文介绍： 1. 连续学习常用的评估数据集：Permuted MNIST，Split MNIST； 2. 两个变种 MNIST 数据集在三种连续学习场景下（Task-IL，Domain-IL，Class-IL）的使用
利用突触智能实现连续学习|从原理到代码解析（人生好难呀）
昔风不起，唯有努力生存！
09-28 3713
利用突触智能实现连续学习|从原理到代码解析 问：读完这篇博客能学到什么？ 答：1）掌握利用历史训练的累积梯度信息来缓解人工神经网络（深度学习）灾难性遗忘问题；2）能够自己在keras框架下写自己新提出的损失函数对应的优化器。 我在上一篇博客神经网络之灾难性遗忘问题中尝试对深度学习灾难性遗忘问题的研究进行综术。方法何其多，由怎么能综述的完全呢。但是那篇博客里已经把解决深度学习灾难性遗忘问题的统一思...
人工神经网络持续学习的脑激励重放
weixin_45584255的博客
08-24 1995
目录Brain-inspired replay for continual learning with artificial neural networksResults比较连续学习方法 Brain-inspired replay for continual learning with artificial neural networks 作者：Gido M. van de Ven, Hava T. Siegelmann， Andreas S. Tolias solution1：不断学习以前的例子（效率低）
通过任务间突触映射持续学习_Continual Learning via Inter-Task Synaptic Mapping
02-09
通过任务间突触映射持续学习_Continual Learning via Inter-Task Synaptic Mapping.pdf
人工智能-基于突触计算的神经网络情景记忆模型研究.pdf
07-03
人工智能-基于突触计算的神经网络情景记忆模型研究.pdf
Continual-Learning-Benchmark:使用流行的持续学习算法评估三种类型的任务转移
05-13
SI： ，（通过突触智能持续学习） MAS： ，书面（“内存感知突触：学习（不）忘记的内容”） 创业板： ，（用于持续学习的梯度情景记忆） （更多即将到来） 将以上所有算法与具有相同静态内存开销的以下基准进行...
synaptic:突触包管理器
05-04
突触的 Synaptic是基于GTK +和APT的图形化软件包管理工具。 Synaptic使您能够以用户友好的方式安装，升级和删除软件包。 除了这些基本功能，还提供以下功能： 搜索和过滤可用软件包列表 执行智能系统升级 修复损坏...
可解释的人工智能 = 三维结构芯片 + 仿突触运动
11-26
可解释的人工智能 = 三维结构芯片 + 仿突触运动
增量学习——文章汇总
Chris_zhangrx的博客
12-27 3313
Workshops Continual learning workshop NeurIPS 2018 Papers 2018 Memory Replay GANs: learning to generate images from new categories without forgetting (NIPS2018) [paper] [code] Rotate your Networks:...
online learning / continual learning / Incremental Learning / Lifelong learning相关论文列表
mary1992630的博客
01-03 2410
2018 Knowledge Distillation by On-the-Fly Native Ensemble（NIPS2018） Memory Replay GANs: learning to generate images from new categories without forgetting (NIPS2018)  Rotate your Networks: Better W...
Life Long Learning
boooiaji的博客
10-26 540
抄自 Frank Tian 李宏毅 Life Long Learning Life Long Learning (LLL)说的是，用同一个模型进行持续不断的学习。在我的理解中这个LLL有不同层次的含义。 用分类问题举例，模型在最开始学习的时候可以用不同类别的图片，但是接下来，如果我们又拿到了一些训练数据，这些训练数据和之前的图片有些差别，我们想让模型通过学习新的数据提升能力，但是又不想让模型降低处理原来问题的能力。 例如开始时见到的手写数字是有背景噪音的： 后来新增加的训练数据是没有背景噪音的： 在不
李宏毅机器学习课程笔记
godblesstao的博客
02-28 1033
李宏毅机器学习课程笔记，持续更新~1. Convolutional Neural Network2. Recurrent Neural Network3. Graph Neural Network4. Generative Adversarial Network5. Auto-encoder6. Transformer7. ELMO, BERT, GPT1. Transfer Learning2. Anomaly Detection3. Attack Machine Learning Models4. Ex
灾难性遗忘_面向超网络的连续学习：新算法让人工智能不再“灾难性遗忘”
weixin_36256707的博客
01-04 509
作者 | 十、年编辑 | Camel人脑显然是人工智能追求的最高标准。毕竟人脑使得人类拥有了连续学习的能力以及情境依赖学习的能力。这种可以在新的环境中不断吸收新的知识和根据不同的环境灵活调整自己的行为的能力，也正是深度学习系统与人脑相差甚远的重要原因。想让传统深度学习系统获得连续学习能力，最重要的是克服人工神经网络会出现的“灾难性遗忘”问题，即一旦使用新的数据集去训练已有的模型，该模型将会失去对原...
Lifelong Learning
Forlogenの解忧杂货铺
05-26 5200
Lifelong Learning https://www.forbes.com/sites/kpmg/2018/04/23/the-changing-nature-of-work-why-lifelong-learning-matters-more-than-ever/#4e04e90e1e95 终身学习（Lifelong Learning或Continuous Learning、 Nev...
Continual Learning 经典方法：Memory Aware Synapses (MAS)
Jingyang.Zhang的博客
11-03 3435
1. 顾名思义 Synapses 是神经元的突触，在人脑中负责连接不同神经元结构。Hebb’s rule 表示在脑生理学中，突触连接常常满足 “Fire Together, Wire Together”，即同时被激活或者同时失活。所以不同的任务对应潜在的不同突触——不同的记忆，因此选择激活或者改变某些神经元突触即可称为 Memory Aware Synapses (MAS)。在基于深度模型的终身学习任务中来说，可以通过计算网络中神经元的重要性，来选择保持重要的神经元在终身学习过程中相对不变，而不重要的神经
终生学习(增量学习)概述
陈建驱的博客
08-20 2431
概念 终生学习(Life Long Learning,LLL)，又称为Continuous Learning、Never Ending Learning、Incremental Learning，就是机器可以不断学习新知识，而不会忘记学过的知识。LLL需要解决三个问题：Knowledge Retention、Knowledge Transfer、Model Expansion。本文内容总结自李宏毅的PPT。 1.Knowledge Retention 问题提出 Knowledge...
突触权重向量的初始化
12-28
突触权重向量的初始化是神经网络中非常重要的一步，它决定了神经网络的初始状态和学习过程中的收敛性。通常情况下，突触权重向量的初始化可以使用以下几种方法： 1. 随机初始化：将突触权重向量初始化为一个小的随机数。这种方法适用于大多数情况，可以帮助网络避免陷入局部最优解。常见的随机初始化方法包括从均匀分布或高斯分布中随机采样。 2. 零初始化：将突触权重向量初始化为零。这种方法适用于某些特定情况，例如当网络的输入特征已经被预处理为具有零均值的情况。 3. Xavier初始化：根据突触权重向量的输入和输出维度，使用特定的公式来初始化权重。Xavier初始化方法可以帮助网络在前向传播和反向传播过程中保持梯度的稳定性。 4. He初始化：类似于Xavier初始化，但是根据突触权重向量的输入维度来初始化权重。He初始化方法适用于使用ReLU激活函数的网络。 下面是一个使用随机初始化方法初始化突触权重向量的例子： ```python import numpy as np # 初始化突触权重向量 input_size = 784 hidden_size = 100 output_size = 10 # 随机初始化隐藏层和输出层的权重 W1 = np.random.randn(input_size, hidden_size) * 0.01 b1 = np.zeros(hidden_size) W2 = np.random.randn(hidden_size, output_size) * 0.01 b2 = np.zeros(output_size) # 打印初始化后的权重 print("隐藏层权重：", W1) print("隐藏层偏置：", b1) print("输出层权重：", W2) print("输出层偏置：", b2) ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值