#今日论文推荐# 什么是进化深度学习?东北大学等最新《进化深度学习:原理、算法、应用》综述,34页pdf阐述EDL概念以及技术体系

#今日论文推荐# 什么是进化深度学习?东北大学等最新《进化深度学习:原理、算法、应用》综述,34页pdf阐述EDL概念以及技术体系

近年来,深度学习(deep learning, DL)在业界和学术界都有了迅速的发展。然而,寻找DL模型的最优超参数往往需要很高的计算成本和人类的专业知识。为了缓解上述问题,进化计算(EC)作为一种强大的启发式搜索方法,在DL模型的自动化设计中显示出了显著的优点,即进化深度学习(EDL)。本文旨在从自动化机器学习(AutoML)的角度分析EDL。具体地说,我们首先从机器学习和EC两个方面阐述了EDL,并将EDL视为一个优化问题。在此基础上,我们系统地介绍了特征工程、模型生成、模型部署和新的分类(即,什么和如何进化/优化)的EDL方法,并重点讨论了EC处理优化问题时的解决方案表示和搜索范式。最后,提出了该技术的关键应用、有待解决的问题和未来的研究方向。本调研回顾了EDL的最新发展,并为EDL的发展提供了有见地的指导方针。

深度学习(Deep learning, DL)作为一种很有前景的技术,已被广泛应用于各种具有挑战性的任务,如图像分析[102]和模式识别[104]。然而,DL的实践者努力手动设计深度模型,并通过试错找到合适的配置。如图1所示,在特征工程(feature engineering, FE)[225]、模型生成[257]和模型部署[29,31]等不同阶段,将领域知识输入DL。然而,专家知识的难以获取使得深度学习的发展面临着巨大的挑战。相比之下,深度神经网络(DNNs)的自动设计在最近几十年趋于流行[71,257]。主要原因在于自动机器学习(AutoML)在FE[225]、参数优化(PO)[242]、超参数优化(HPO)[185]、神经结构搜索(NAS)[71,230,257]和模型压缩(MC)[78]中的灵活性和计算效率。因此,无需人工干预的AutoML技术引起了人们的极大关注,并取得了很大的进展。

论文题目:Survey on Evolutionary Deep Learning: Principles, Algorithms, Applications and Open Issues
详细解读:https://www.aminer.cn/research_report/6312042b7cb68b460f1255adicon-default.png?t=M7J4https://www.aminer.cn/research_report/6312042b7cb68b460f1255ad
AMiner链接:https://www.aminer.cn/?f=cs

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值