Representation theory学习笔记
文章平均质量分 67
课程学习笔记
Lyra717
这个作者很懒,什么都没留下…
展开
-
Representation theory之稀疏编码和自然图像
自然图像在统计学上 与视觉系统相适应的相似的统计结构自然图像如何分布?不是随机,不是uniform,是highly non-uniform(redundancy很高)自然图像的大部分统计模型基于计算特征,利用图像的redundancy图像建模: 用线性权重加和...原创 2021-03-27 22:45:12 · 119 阅读 · 0 评论 -
Representation theory之稀疏编码
Neural codebinay active/inactive units 产生或者不产生outputspikesindividual spike(sequence of times)frequency coding(low number->low frequency)spike pattern, timing(spike inter时间段,relative timing 很小,可省略)建立binay 神经码, 看每行或者每列有多少1每一列的1有多少个->breath of原创 2021-03-23 16:53:07 · 143 阅读 · 0 评论 -
Representation theory之图论
图论帮助定义和可视化不同成分之间的关系:vertex/node,edges1图G=(V,E)edge(u,v)是各顶点之间的链接两点至neighbors 如果两点之间由edge链接degree of v等于连接到v点的edges的个数2path是一系列由edge连起来的点path length 是一个path所含的edge数3cycle 起始和结束点是同一点4connectivity两点连接 if他们之间存在path如果某图中所有点都连接了,称连接图连接成分:一组(子集)是原创 2021-02-20 22:10:18 · 157 阅读 · 0 评论 -
Representation theory之信息论
Introduction针对信息在神经网络(人工和自然)的表示方式和学习方式不仅仅关注输出,更作用于广泛tasks关注生成原来和形成表示的基础关注无监督和自监督学习重要性监督学习的有标签数据少强化学习的reward/publishment 少无监督学习中,representations应该反映环境的结构,大量的observation(无标签数据)。学习类型| Table | 有老师 | 没老师 || 主动的 | 强化学习 |内部motivation原创 2021-02-09 22:11:22 · 419 阅读 · 2 评论