![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
NAS论文学习
文章平均质量分 79
学习NAS领域的优秀文章,然后争取打磨出自己的成绩
W.CS
这个作者很懒,什么都没留下…
展开
-
Homogeneous Architecture Augmentation for Neural Predictor------ICCV2021
通常来说NAS分为三部分:搜索空间、搜索策略、性能评估。给定一个预定义的搜索空间,当搜索停止的时候搜索策略一般可以找到一个性能表现良好的架构。文献中主要有三种技术作为搜索策略:强化学习、基于梯度的算法和进化计算。然而,无论使用哪种技术,所有NAS算法都需要估计搜索到的DNN的性能,以便有效地进行搜索。在大多数NAS算法中,搜索策略都是对解进行单独评估,这不可避免地带来了巨大的计算开销。例如,在常用的CIFAR10基准数据集上,大规模进化NAS算法使用了250台GPU计算机,运行时间为11天。原创 2023-09-25 09:29:26 · 140 阅读 · 0 评论 -
A Survey on Evolutionary Neural Architecture Search------CCF-B
DNNs应用广泛且前景不错,DNNs性能依赖本身结构和相关层次的权重,二者达到最合适状态,DNNs的性能才能达到最好。后续指出DNN的普遍实现方法中,架构都是人为设计的。所以NAS是一种很有前途的方法,但是在NAS的设计过程中需要测量架构在适应度评估数据集 Dfitness上的性能,找到其中适应度的最小值,然而L函数通常是不凸不可微的。(为后续引出EC做出铺垫)即使在目标函数的数学形式不可用的情况下,EC方法依然具有对局部极小值不敏感且不需要。原创 2023-09-21 22:32:33 · 82 阅读 · 0 评论