Deep Cluster：Deep Clustering for Unsupervised Learning of Visual Features

       DeepCluster，一种联合学习神经网络参数和结果特征的聚类分配的聚类方法。DeepCluster使用标准聚类算法kmeans对特征进行迭代分组，并使用后续分配作为监督来更新网络的权重。

       预训练的卷积神经网络(convnets)产生优秀的通用特征，可用于提高在有限数据量上学习到的模型的泛化能力[5]。ImageNet相对较小；它“仅仅”包含了一百万张图像，涵盖了物体分类的特定领域。建立一个更大、更多样化的数据集将需要大量的手动注释。用原始元数据代替标签会导致视觉表现中的偏差，并带来不可预测的后果[11]。这需要可以在没有监督的情况下在互联网规模的数据集上训练的方法。

       无监督学习成功的一个关键原因是，它们可以应用于任何特定的领域或数据集，如卫星或医学图像，或者用新的模式捕获的图像，如深度，其中人工标注并不总是大量可用。一个问题是，聚类方法主要是为固定特征之上的线性模型设计的，如果必须同时学习这些特征，它们几乎不起作用。例如，用k-means学习一个convnet将导致一个不重要的解决方案，其中特征被置零，并且聚类被折叠成单个实体。

       与自我监督方法[25，26，27]不同，聚类的优势在于需要很少的领域知识，并且没有来自输入的特定信号[28，29]。

       使用ImageNet作为无监督模型的训练集。虽然它有助于理解标签对网络性能的影响，但ImageNet有一种特殊的图像分布，这种分布继承自它对细粒度图像分类挑战的使用:它由均衡well-balanced的类组成。