利用进化在自动超参数优化中的应用实现指南

0. 前言

我们已经学习了使用进化策略 (Evolutionary Strategies, ES) 和差分进化 (Differential Evolution, DE) 调整超参数，并取得了不错的结果。在本节中，我们将应用 ES 和 DE 作为神经进化优化器，并且继续使用圆圈或月亮数据集。

1. 利用进化计算优化深度学习模型

我们已经通过遗传算法优化简单深度学习 ( Deep learning, DL) 网络的权重/参数，除了遗传算法之外，我们还有更强大的进化方法，比如进化策略 (Evoluti