最新论文阅读（20）

TensorQuant - A Simulation Toolbox for Deep Neural Network Quantization

- 2017年10月
- TensorQuant toolbox   
- Fraunhofer ITWM（一个研究所）；凯泽斯劳滕工业大学(TU Kaiserslautern)【德】    

　　基于tensorflow的量化工具箱，github上已开源。

---

Manifold Regularization for Kernelized LSTD

- 2017年10月  
- 流形学习的正则化；用于增强学习   
- google

　　政策评价或价值函数或函数逼近（Policy evaluation or value function or Q-function approximation），三种是强化学习中的关键环节。本篇论文就是一种针对迭代的政策评价的新方法。

---

VGGFace2: A dataset for recognising faces across pose and age

- 2017年10月
- 不同姿态和年龄的人脸识别数据集
- 牛津大学  

　　3.31M张图像，9131类人脸，每类平均有362.6张图像

---

Dynamic Routing Between Capsules

- 2017年10月  
- Hinton所说的capsule
- Geoffrey E. Hinton，Google Brain

　　在“胶囊”之间的动态路由。
　　在mnist上的性能好于CNN；每一个capsule输出都是向量，它由2个conv+1个FC组成（感觉像mlp），用一致性路由代替了最大池化。
　　以前CNN每个节点的权值是标量，而capsule改为用向量。
　　有文档。

---

Multi-Bias Non-linear Activation in Deep Neural Networks

- 
- 
-

　　这类似于用了很少的计算量（batch-norm layer）来得到更丰富的 feature map。都可以看到即便去掉 BN， 深层 DenseNet 也可以保证较好的收敛率。

---

Adversarial Learning of Structure-Aware Fully Convolutional Networks for Landmark Localization

- 2017年11月
- 
- 

　　用GAN的策略训练；面部特征点定位+2D姿态估计的多任务。

---

A multitask deep learning model for real-time deployment in embedded systems

- 2017年10月  
- multitask learning（MTL）
- 皇家理工学院【瑞典】；加泰罗尼亚理工大学【西班牙】

　　多任务学习的网络，网络结构就是ResNet-50（基础网络）+FCN（语义分割）+SSD（目标检测）。
　　比一个一个地使用FCN和SSD要快1.6倍，且内存更少。

---

Deep Subspace Clustering Networks

- 2017年9月   
- 自编码器  
- 阿德莱德大学（阿大）【澳】；澳大利亚国立大学

　　用于无监督的聚类（包括人脸聚类）；要点是在编码器和解码器之间引入一个新的自我表现层（Self-Expressive Layer）。

---

Rethinking Feature Discrimination and Polymerization for Large-scale Recognition

- 2017年10月
- congenerous cosine loss（COCO Loss）
- 香港中文大学

　　用于大规模识别任务（论文中是人脸识别、人类识别）。用于高维空间中的特征的余弦距离应该在一个类中足够接近并且在类别之间很远，我们提出了同余余弦（COCO）算法来同时优化数据间的余弦相似性。它继承了softmax属性，使类间特征具有判别性，并在度量学习中共享类中心的思想。即拉近同类样本的特征（类内方差小），拉远不同分类样本的特征（类间方差大）。
　　优于softmax、Center Loss、Triplet loss。

---

Multi-label Image Recognition by Recurrently Discovering Attentional Regions

- 2017年11月
- 多标签学习；识别任务；CNN+ST(spatial transformer)+LSTM
- 商汤；中山大学；教育部高级计算软件研究中心

---

SegICP-DSR: Dense Semantic Scene Reconstruction and Registration

- 2017年11月
-       
- 3D语义场景重建数据集

---

Moonshine: Distilling with Cheap Convolutions

- 2017年11月
- distilling（蒸馏）；a pointwise Bottleneck；Grouped+Pointwise conv
- 爱丁堡大学【苏格拉】    

---

NeST: A Neural Network Synthesis Tool Based on a Grow-and-Prune Paradigm

- 2017年11月
- 开发工具NeST
- 普林斯顿大学（Princeton University）【美】

　　大学的官网：https://scholar.princeton.edu/
　　论文的网址：https://scholar.princeton.edu/hongxu/publications/nest-neural-network-synthesis-tool-based-grow-and-prune-paradigm
　　但暂未开源。
　　开发工具NeST，可以为给定的数据集自动生成非常紧凑的体系结构。NeST从种子NN架构开始。它通过基于梯度的增长和基于量值的神经元和连接的修剪迭代地调整架构。
　　例如，对于从MNIST数据集派生的LeNet-300-100（LeNet-5）NN架构，我们将网络参数减少了34.1倍（74.3倍）和浮点运算（FLOP）35.8倍（43.7倍）。对于从ImageNet数据集派生的AlexNet NN架构，我们将网络参数减少了15.7倍，FLOP减少了4.6倍。所有这些结果都是目前这些架构的最新技术。

---

Focal FCN: Towards Small Object Segmentation with Limited Training Data

- 2017年11月
-       
- 帝国理工学院【伦敦】

　　医学分割；小目标语义分割；FCN；Focal loss（就是ICCV2017最近论文中提出的那个），比Fully-weighted FCN（即WCE-loss）好。
　　感觉从思想到网络结构就是融合了以前的多种技术。