AMiner会议论文推荐第六十二期

AMiner平台由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。

CVPR 2021 论文推荐

Exploring Complementary Strengths of Invariant and Equivariant Representations for Few-Shot Learning（探讨少镜头学习中不变量和等价表示的互补优势）

论文链接：https://www.aminer.cn/pub/603f60c191e011cacfbda2d9/?conf=cvpr2021

推荐理由： 在许多现实世界的问题中，收集大量的标签样本是不可行的。而少镜头学习（Few-Shot Learning, FSL）是解决这一问题的主流方法，其目标是在有限数量的样本存在下快速适应新的类别。FSL任务一般利用基于梯度的元学习和度量学习方法的思想来解决。然而，近期的工作已经证明了强大的特征表示与一个简单的嵌入网络的重要性，能够超越现有的复杂的FSL算法。在这项工作中，作者在上述见解的基础上，提出了一种新的训练机制，它同时强制执行几何变换集的等价性和不变性。在以前的工作中，等价性或不变性未曾联合使用。对这两个对立目标同时进行优化，模型能够联合学习独立于输入变换的特征以及编码几何变换结构的特征。大量实验表明，即使缺少知识蒸馏，作者提出的方法也可以在五个流行的基准数据集上优于当前最先进的FSL方法。

Learnable Companding Quantization for Accurate Low-bit Neural Networks（准确的低位神经网络的可学习强制量化技术）

论文链接：https://www.aminer.cn/pub/604f318391e01127d2b6e857/?conf=cvpr2021

推荐理由： 量化深度神经网络是降低内存消耗、提高推理速度的有效方法，因此在资源受限的设备中的情况下非常有用。然而，对于极低位模型来说，它仍然很难达到与全精度模型相当的精度。为了解决这个问题，作者提出了可学习编译量化(learnable companding quantization, LCQ)作为一种新型的非均匀量化方法。LCQ联合优化了模型权重和可学习编译函数，能够灵活地、非均匀地控制权重和激活的量化水平。作者还提出了一种新的权重归一化技术，使量化训练更加稳定。实验结果表明，LCQ的性能优于传统的最先进的方法，缩小了图像分类和物体检测任务中量化模型和全精度模型之间的差距。

Searching by Generating: Flexible and Efficient One-Shot NAS with Architecture Generator（通过生成器进行搜索：架构生成器灵活高效的一键式NAS）

论文链接：https://www.aminer.cn/pub/604f371691e01127d2b6e8dc/?conf=cvpr2021

推荐理由： 在单例NAS中，为了满足不同的硬件约束条件，需要从超网中搜索子网，但搜索成本较高。在这项工作中，作者提出了一种新型的搜索策略，称为架构生成器，它通过生成子网络来搜索子网络，使得搜索过程更加高效和灵活。通过训练好的架构生成器，给定目标硬件约束作为输入，只需一次正向传递就可以为给定约束生成框架，而无需重新搜索和超网再训练。此外，作者还提出了一种新型的单路径超网，称为统一超网，以进一步提高搜索效率，降低架构生成器的GPU内存消耗。

AMiner，一个具有认知智能的学术搜索引擎：https://www.aminer.cn/

#AMiner# #论文#