「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。
本期 AI Drive,我们邀请到香港科技大学研究助理教授沈志强,为大家在线解读其发表在 AAAI 2022 的最新研究成果:Un-Mix: Rethinking Image Mixtures for Unsupervised Visual Representation Learning。对本期主题感兴趣的小伙伴,2 月 22 日(本周四)晚 7 点,我们准时相约 PaperWeekly 直播间。
直播信息
本工作探究了在自监督学习常用的双子结构网络中,通过在输入空间做图像融合来学习更加细粒度的特征表示。文章的核心内容讨论了如何来设计数据采样,融合策略和构建对应的损失函数,从而去匹配图像融合之后新的输入空间。具体而言,本文通过在对比学习模型的单个分支上做图像融合,使得最后两个分支的距离度量变为一个 0~1 之间的软化系数的倍数,从而使两个分支之间的距离变得更加细微和敏感(该工作首次在自监督双子模型中引入了软距离的概念),进而让模型学习到更加细粒度的输入信息的隐空间表达。
论文标题:
Un-Mix: Rethinking Image Mixtures for Unsupervised Visual Representation Learning
论文链接:
https://arxiv.org/abs/2003.05438
代码链接:
https://github.com/szq0214/Un-Mix
本次分享的具体内容有:
研究背景和动机
研究方法介绍
结果分析和代码实现
理论及可视化分析
结论
嘉宾介绍
沈志强 / 香港科技大学研究助理教授
沈志强目前是香港科技大学的研究助理教授,他之前是 CMU 博士后,也是复旦大学和 UIUC 联合培养博士。他的早期研究工作主要聚焦于传统的计算机视觉任务,包括目标检测(首次提出了learning object detection from scratch的任务),自监督学习等。目前他也关注如何为这些视觉任务通过机器学习算法进行加速和优化。
直播地址 & 交流群
本次直播将在 PaperWeekly 视频号和 B 站直播间进行,扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道。
视频号直播间:
扫描下方二维码关注 PaperWeekly 视频号,第一时间获取开播提醒。
B 站直播间:
https://live.bilibili.com/14884511
合作伙伴
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
·