Evolving Deep Neural Networks by Multi-objective Particle Swarm Optimization for Image Classificatio

摘要：

近年来，为了在图像分类中获得更好的分类精度，卷积神经网络已经变得更加深入。然而，由于人工微调超参数的困难以及分类精度和计算成本之间的权衡，很难将最先进的DNNs用于工业用途。本文提出了一种新的多目标优化方法，用于在现实应用中进化最先进的深度神经网络，该方法在帕累托前沿自动进化非支配解。主要贡献有三点:第一，设计了一种新的编码策略来编码最先进的中枢神经系统之一；以分类精度和浮点运算次数为目标，提出了一种多目标粒子群优化算法来进化非支配解；最后但同样重要的是，设计了一个新的基础设施，通过在多台机器上的多个GPU上同时运行实验来促进实验，并开发和发布了一个Python库来管理基础设施。实验结果表明，该方法发现的非支配解形成了清晰的帕累托前沿，并且该基础设施能够几乎线性地减少运行时间。

CCS概念
Computing methodologies → Search methodologies; Computer vision; Machine learning; 计算方法→搜索方法；计算机视觉；机器学习；

关键词：

多目标优化，粒子群优化，卷积神经网络

1.简介

由于图像在数量和分辨率上的指数增长，以及从图像中提取的有意义的信息，图像分类已经引起了学术界和工业界研究者越来越多的兴趣。卷积神经网络被用来解决