- 博客(2)
- 收藏
- 关注
翻译 《Activation Learning by Local Competitions》(通过局部竞争进行激活学习)论文笔记
1 摘要 赫本规则 通过神经元之间的局部竞争发现特征 利用该局部学习规则学习的无监督特征可以作为预训练模型,提高一些有监督学习任务的性能 这种局部学习规则使得我们能够构建一种新的学习范式,称为激活学习 神经网络的输出激活大致测量输入模式的可能性 激活学习能够从少量输入模式中学习丰富的局部特征,在训练样本量较少时,性能优于反向传播 这种学习范式统一了无监督学习,有监督学习和生成模型,可以抵御对抗攻击,为创建通用任务神经网络铺平了道路。 2 介绍 反向传播算法是训练神经网络目标函数的有效方法,但是与人类学习规
2022-11-01 10:02:48 350
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人