神经网络
小帆97
通信工程
展开
-
动态生成卷积核加速卷积神经网络Dynet
利用动态生成的卷积核加速卷积神经网络ICLR2020文章:DYNET: DYNAMIC CONVOLUTION FOR ACCELERATING CONVOLUTION NEURAL NETWORKS(一)文章的核心思想:adaptively generate convolution kernels based on image contents通过 image的内容动态的生成卷积核经...原创 2020-04-23 18:49:40 · 1444 阅读 · 1 评论 -
利用KL-散度衡量两个高斯分布的相似度
KL 散度又叫相对熵KL 散度是一种衡量两个概率分布的匹配程度的指标,两个分布差异越大,KL散度越大KL散度是恒大于等于零的,等于零时说明两个分布一样用KL散度来衡量两个高斯分布的相似度公式具体的推导可以看添加链接描述自己用tensorflow实现了一下def calculate_gaussian_kl_divergence(m1,m2,v1,v2): ###m1,m2 指两...原创 2020-03-03 00:03:14 · 8682 阅读 · 1 评论 -
卷积神经网络中Attention注意力机制(CBAM)
论文:cbamCBAM: Convolutional Block Attention Moduleattention机制,简单说就是从特征中学习或者提取出权重分布,再拿这个权重分布施加在原来的特征之上,改变原有特征的分布,增强有效特征抑制无效的特征或者是噪音attention可以作用在原图上,也可以作用在特征图上可以在空间尺度上也可以在channel尺度上加权论文中将空间尺度和chann...原创 2020-02-26 12:21:21 · 14416 阅读 · 1 评论 -
CNN反向传播实现
写了一周多,终于把cnn的前向传播和BP算法写完了,加入了正则化,滑动平均等。。(还是个初学者,很多能有写错的地方)收货很多,对于tensorflow框架的认识也更深了一些相比于tensorflow,速度还是慢了很多。。。import numpy as npimport threadingimport timeimport cv2import randomstart=time.c...原创 2018-12-16 16:32:25 · 483 阅读 · 0 评论