NASNet

NASNet是Google Brain团队提出的基于神经网络架构搜索(NAS)的升级版,使用强化学习来寻找最优网络结构。通过在小数据集上学习网络单元(Cell),然后在大规模数据集如ImageNet上应用。NASNet的核心是Proximal Policy Optimization (PPO)算法,它预测可堆叠的单元,而非整个网络结构,降低了搜索成本并提高了泛化能力。论文还介绍了Scheduled Drop Path正则化技术以增强泛化性能。
摘要由CSDN通过智能技术生成

最近在看NASNet,但是NASNet是基于NAS来的,于是还得先看NAS的论文,学习过程中看到几篇好的文章,mark下
论文笔记NAS
NAS综述
NAS详解

NASNet论文理解
NASNet详解
解读NASNet
NASNet
NASNet学习笔记
NASNet
NASNet论文笔记

但觉得还是自己总结下,才能更好地消化。

背景
NASNet网络的提出源于Learning Transferable Architectures for Scalable Image Recognition,这篇文章是由Google Brain的大佬们Barret Zoph, Vijay Vasidevan, Jonathon Shlens, Quoc V.Le发表的,开源了源码。它是NAS(Neural Architecture Search)的升级版。

NAS讲的是利用强化学习(Reinforcement Learning)来学习一个好的网络结构,具体讲就是利用RNN来生成神经网络模型的描述,然后使用强化学习来训练这个RNN,使得生成的神经网络模型精度最大化。

但是用NAS进行计算的代价是相当昂贵的,仅仅在CIFA

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值