神经架构搜索 原理与代码实例讲解

神经架构搜索 原理与代码实例讲解

1.背景介绍

1.1 深度学习的发展历程

1.2 手工设计网络架构的局限性

1.3 自动化神经架构搜索(NAS)的提出

2.核心概念与联系

2.1 神经架构搜索(NAS)的定义

2.2 NAS与AutoML、超参数优化的区别与联系

2.3 NAS的基本框架

2.3.1 搜索空间(Search Space)

2.3.2 搜索策略(Search Strategy)

2.3.3 性能评估(Performance Estimation)

3.核心算法原理具体操作步骤

3.1 基于强化学习的NAS

3.1.1 策略梯度(Policy Gradient)

3.1.2 近端策略优化(Proximal Policy Optimization, PPO)

3.2 基于进化算法的NAS

3.2.1 遗传算法(Genetic Algorithm)