NAS论文学习
学游泳的笨猫
上帝欲其灭亡,必先令其膨胀
展开
-
AdaResU-Net论文笔记,MOEAD + 网络架构训练
最近在准备开题,研究方向与MOEAD 和 神经网络架构搜索有关,想了解一下两者具体是怎么结合的。看到一篇论文:《AdaResU-Net:Multiobjective adaptive convolutional neural network for medical image segmentation》地址:https://www.sciencedirect.com/science/article/pii/S09252312193046791.简介多目标进化算法(MOEA)已成功且广..原创 2020-11-05 09:23:27 · 470 阅读 · 0 评论 -
NAS 多目标论文笔记
最近,想要了解一下,在 NAS 中如何进行多目标的搜索,读了一些论文,以及网上的一些论文笔记,想要做一个总结。《Efficient Multi-Objective Neural Architecture Search via Lamarckian Evolution》为了降低计算开销,提高搜索速度,将待优化目标按搜索成本分为廉价和昂贵两类。例如FLOPS数、model size等被认为是廉价的,而validation error被认为是昂贵的。 LEMONADE在每次迭代中,首先根据基..原创 2020-10-08 00:19:15 · 792 阅读 · 1 评论 -
NAS论文笔记:代理模型篇:NSGA Net V2: Evolutionary Multi-Objective Surrogate-Assisted Neural Architecture Sear
写这个博客,主要是想做一下这方面的工作,想要使用代理模型来提高NAS效率。运用代理模型求解优化问题是优化领域的一个重要思想,该思想是:(1)将一个复杂的函数通过采集特征点构造一个相对简单的新的函数,我们称之为代理模型。(2)再对代理模型进行优化求得最优解。(3)由于该代理的模型只能一定程度上代表真实模型,它到最优解并不能直接代表原目标函数的最优解,所以需要对代理模型进行更新.(4)通常是以一定的判据来重新采点,重新构造代理模型,直到满足收敛条件,便停止对代理模型的更新,所得的最优解即视为原创 2020-09-23 11:13:58 · 2540 阅读 · 0 评论 -
查找文献的小 tips
一个菜鸡,在听到师哥讲如何查找文献,利用文献,趁着热乎赶紧记下来 !1. 查找文献的几个网站:(1)DBLP(DataBase systems and Logic Programming)是计算机领域内对研究的成果以作者为核心的一个计算机类英文文献的集成数据库系统,网址:https://dblp.uni-trier.de/db/ 。(2)IEEE Xplore是一个学术文献数据库,主要提供计算机科学、电机工程学和电子学等相关领域文献的索引、摘要以及全文下载服务。它基本覆盖了...原创 2020-09-20 19:31:52 · 181 阅读 · 0 评论 -
NAS论文笔记:Regularized Evolution for Image Classifier Architecture Search
Regularized Evolution for Image Classifier Architecture Search图像分类器结构搜索的正则化进化算法原创 2020-09-16 22:17:01 · 911 阅读 · 0 评论 -
NAS 论文笔记:NSGANetV2: Evolutionary Multi-Objective Surrogate-Assisted Neural Architecture Search
NSGANetV2:进化的多目标代理辅助神经体系结构搜索这篇论文提出了一个高效的NAS算法,用于生成在多个竞争目标下具有竞争力的特定任务。 包含两个代理模型:(1)一个在体系结构级别,来提高的效率。(2)一个在权重级别,通过超网,来提高梯度下降的训练效率。1. 简介神经体系结构搜索(NAS)尝试自动执行神经网络架构搜索过程,以找到给定数据集的良好体系结构。人们希望使用NAS在自定义非标准数据集上获得高性能模型,优化可能的多个竞争目标,并在没有现有NAS方法繁重的计算负担的情况..原创 2020-09-10 11:13:21 · 1542 阅读 · 0 评论