2021.3.10学习记录

2 篇文章 0 订阅
  1. ubuntu截屏:ctrl+shift+printscreen

  2. ubuntu设置主屏幕:

    xrandr   #查看显示器信息
    xrandr --output name --primary# 设置主屏幕
    
  3. 如果想要freeze某些层或参数,用self.register_buffer(name, tensor)。这个函数在反向传播时不会更新参数。

  4. 读了coordinate Attention for Efficient Mobile Network Design(https://arxiv.org/pdf/2103.02907.pdf)
    CA(Coordinate attention)是SEnet的优秀改进版本.SEnet 在计算通道注意力的时候仅仅做了简单的Global average pooling,这样会丢失feature map的空间信息。CA的作者从此入手,首先在feature map的X、Y方向上分别挤压,形成了Cx1xW和CxHx1的两个matrix,将他们concatenate起来,然后用fc层降纬,然后分开,再升纬,分别得到宽高的attention后,乘到原来的feature map上。
    在这里插入图片描述
    文中将这种结构加在了Mobilenet的inverted residual block 和 sandglass residual block中,第二种的效果更好,且引入的参数量很少,很轻。

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值