一.CVPR2019论文分类汇总(CV)
链接:http://bbs.cvmart.net/topics/302/cvpr2019paper
二.ICLR2019论文排名汇总
链接:https://chillee.github.io/OpenReviewExplorer/index.html?conf=iclr2019
最佳论文:Ordered Neurons: Integrating Tree Structures into Recurrent Neural Networks
本文提出通过对神经元排序的方式添加此类归纳偏置;master input 向量和遗忘门确保在给定神经元更新时,紧随其后的所有神经元也都得到更新。这一新型循环架构 ordered neurons LSTM (ON-LSTM) 在四种不同任务上获得了优秀性能,分别是:语言建模、无监督解析、目标句法评估和逻辑推理。
论文链接:https://openreview.net/forum?id=B1l6qiR5F7
三.ACL2019收录论文列表(NLP)
链接:http://www.acl2019.org/EN/program.xhtml
四.ACL2018收录论文列表(NLP)
链接:https://acl2018.org/programme/papers/
论文解读:https://zhuanlan.zhihu.com/p/61303661
五.2018各会议热门论文
链接:https://github.com/zziz/pwc#2018
六.2019深度学习论文top
计算机视觉领域(CV)
1.基于PyTorch Geometric的快速图像表征学习
该文研究介绍了PyTorch Geometric——一个基于PyTorch的不规则结构化输入数据(如图形、点云和流形)深度学习库。除了通用的图形数据结构和处理方法,PyTorch Geometric还包含了各种最新发布的关系学习方法和3D数据处理方法。利用稀疏 GPU 加速,提供专用的 CUDA 内核,并为不同大小的输入样本引入高效的小批量处理,通过这些方法,PyTorch Geometric 实现了很高的数据吞吐量。
(1)github:https://github.com/rusty1s/pytorch_geometric
(2)论文链接:https://arxiv.org/abs/1903.02428v2
2.Mask Scoring R-CNN
华中科技大学的这篇文章针对这个问题进行了研究,他们提出了一种新的打分方法:蒙版得分(mask score)。不仅仅直接依靠检测得到分类得分,Mask Scoring R-CNN模型还单独学习了一个针对蒙版的得分规则:MaskloU head。同时考虑分类得分和蒙版得分,MS R-CNN就能更加公正地评估算法质量,提高实例分割模型的性能。
(1)github:https://github.com/zjhuang22/maskscoring_rcnn
(2)论文链接:https://arxiv.org/abs/1903.00241v1
3.DeepFashion2:用于服装图像检测、姿势估计、分割和重新识别的时尚数据集
DeepFashion2是一个综合时尚数据集,它拥有491k张流行服饰图片,既有卖家秀,也有买家秀。同时,801k种服装在图像中被标注了出来。这个数据集还提供了873k个商业-消费者图像对。DeepFashion2的训练集包含391k张图片,验证集有34k张图片,测试集则分到了67k张图片。所以,用它来完成衣服检测、姿势估计、分割和检索这样的任务再合适不过了。
(1)github:https://github.com/switchablenorms/DeepFashion2
(2)论文链接:https://arxiv.org/abs/1901.07973v1
4.新的自适应优化算法AdaBound
AdaBound是由北大、浙大等名校学霸提出的全新优化算法,是Adam和AMSGrad的新变体,兼具Adam和SGD两者之美,速度快且性能佳。
(1)github:https://github.com/Luolc/AdaBound
(2)论文链接:https://openreview.net/forum?id=Bkg3g2R9FX
二.自然语言处理领域(NLP)
1.Lingvo:用于序列到序列模型的模块化和可扩展的框架
Lingvo是Google出品的一个Tensorflow框架,为协作深度学习研究提供完整的解决方案,侧重于序列到序列模型。Lingvo模型具有模块化、易扩展的特点,实验配置集中且高度可定制。该框架支持分布式训练和量化推理,包含大量实用程序,辅助函数和最新研究的现有实现。
(1)github:https://github.com/tensorflow/lingvo
(2)论文链接:https://arxiv.org/abs/1902.08295v1
2.ALiPy: Active Learning in Python
因为有监督的机器学习方法通常需要大量带标签的例子来进行模型训练。然而,在许多实际应用中,有大量的未标记数据,这大大增加了机器学习的成本。而主动学习能通过反复迭代选出最有价值的数据,只将有价值的数据加入训练集,从而降低了标记成本。这篇论文主要介绍了ALiPy的各个模块和使用方法。在工具箱中,学习框架的每个组件都有多个可选项,包括数据处理、主动选择、标签查询、结果可视化等。除了20多种最先进的主动学习算法的实现之外,ALiPy还支持用户轻松配置和实施自己的方法。
(1)github::https://github.com/NUAA-AL/ALiPy
(2)论文链接:https://arxiv.org/abs/1901.03802v1
3.Dropout是SDR的特殊情况:更快,更准确的深度学习
SDR把神经网络中的每个权重重新定义为随机变量,并且为随机变量中的每个参数提供了更新规则。而Dropout就是一个具有带固定参数的二项随机变量的SDR特例。在论文中,作者还用SDR修改了DenseNet框架,并在标准基准(CIFAR-10和CIFAR-100)中进行了测试 ,结果说明SDR相对于二项分布的 Dropout 具有很大的优势。