最简单的基于遗传算法的Neural Architecture Search(NAS)代码

https://github.com/joeddav/devol

基于遗传算法,对于任意一个神经网络搜索任务,只要能把能够代表搜索空间中所有神经网络的染色体序列(即super graph)给写出来,就能基于这个代码来延申到自己想要构造的神经网络。

Deep Neural Network Evolution的代码理解;通过代码理解该遗传算法比较简单,网络结构基本固定,先是卷积再全连接(整体顺序固定),只不过卷积的次数或全连接的次数会变化,卷积层和全连接层后会随机消除或增加batchnorm,dropout,max pooling;其他的常规操作就是换换激活函数,卷积核数目,优化器;有两步变异的步骤,第一步是取最好的5%的网络,剩余的95%由把任意两个网络随机拼接在一起得到第二步是再把第一步所有的网络再做随机网络层数目的网络层基本变化(第二步感觉还是有点缺陷,因为经过第二步变异后,第一步中的原始最好的5%的网络可能会变差);
在这里插入图片描述

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值