AutoML和AutoDL

1 AutoML和AutoDL：简化

http://blog.itpub.net/29829936/viewspace-2649301/

2 解读百度AutoDL：打破SOTA纪录的神经架构搜索是如何炼成的

http://www.ijiandao.com/2b/baijia/223045.html

3 PaddlePaddle升级解读 | AutoDL Design自动化网络结构设计

https://www.paddlepaddle.org.cn/support/news?action=detail&id=1012

文章3中的部分叙述摘录在此：

自动化网络结构设计的技术难点

 目前已知的在各个领域中广泛应用的各种神经网络，都可以看成由若干个层（layer）或者由操作（op）组成的。每个独立的层或者是操作都分别完成一个相对简单的计算，如乘法（multiplication）、卷积（convolution）、池化（pooling）等等。而一个神经网络可以包括几个、几十个甚至上百个或者更多的这些组件，并且组件之间的连接方式也并不是类似于一条直线，中间会包含有多种分叉和合并，构成一个有向无环图（Directed Acyclic Graph，DAG）。因此试图通过类似暴力（Brute Force）的方法来尝试大量的新的网络结构是不现实的。

 为了有效减少计算量，也可以采用部分固定网络范式的方式，即将网络结构中的整体框架或者层与层之间的连接方式固定，而用自动化的方式选择每个层的类型。这种方式的确可以缩小搜索空间，但是在一定程度上仍然严重依赖于人们对现有已知的优秀的网络结构的认知程度，也就限制了更多更新种类结构的发展。