AutoML paper
写在前面
知乎有一篇博文《非常全面的AutoML论文汇总》mark了https://github.com/hibayesian/awesome-automl-papers开源项目,最后的编辑时间为2019.06,让我们看下23年的auto世界~~
深度学习模型具有巨大的参数搜索空间,机器学习专家往往需要大量的时间构建模型。往往AI工程师的成本相对较高,在快节奏的商业环境中,如何降本增效,降低深度学习模型的设计成本和难度、提高模型的构建效率is a question。 AutoML(automated Machine Learning)通过使用AutoML方法,使用户只需要想模型输入数据,之后模型会完成架构选择和参数训练。 git地址开源项目提供了AutoML和传统的深度学习特点的对比,提供了先关AutoML的相关论文、教程、模型、项目以及ppt
概述
在传统深度学习的模型构建中,主要包含以下步骤:数据处理、特征工程、模型架构选择、超参数优化、模型后处理、结果分析。这些步骤往往会耗费大量人力和时间。在 AutoML 中,则可以对大部分步骤进行自动处理。
自动学习方法已经足够成熟,可以与人类机器学习专家竞争,有时甚至超过他们。简而言之,AutoML可以提高性能,同时节省大量的时间和金钱,因为机器学习专家既难找又贵。因此,近年来对AutoML的商业兴趣急剧增长,一些主要的科技公司和初创公司现在正在开发自己的AutoML系统。其中一些的概述比较可以总结为下表。
在该git项目中,作者对相关的 AutoML 类别进行了总结,包括:
- 自动数据清洗(Automated Data Clean, Auto Clean)
- 自动特征工程(Automated Feature Enginnering, Auto FE)
- 超参数优化(Hyperparameter Optimization, HPO)
- 元学习(Meta-Learning)
- 神经网络架构搜索(Neural Architecture Search, NAS)
[项目](https://github.com/hibayesian/awesome-automl-papers#papers)中包含最新的研究成果,并且附带了论文原文的地址,以及对该项目做出贡献的大佬们的联系方式。
参考:https://github.com/hibayesian/awesome-automl-papers#papers