YOLOv5的Tricks | 【Trick5】遗传算法实现超参数进化（Hyperparameter Evolution）

---

如有错误，恳请指出。

---

Hyperparameter evolution超参数演化是一种使用遗传算法（GA）进行优化的超参数优化方法。ML 中的超参数控制训练的各个方面，为它们找到最佳值可能是一个挑战。由于 1) 高维搜索空间 2) 维度之间的未知相关性，以及 3) 评估每个点的适应度的昂贵性质，网格搜索等传统方法很快就会变得难以处理，这使得 GA 成为超参数搜索的合适候选者。

以上是官方文档的介绍：Hyperparameter Evolution，其实简单的来说，就是使用遗传算法来对超参数已经交叉变异以获得更好的结果，而不需要传统的网格搜索。这个想法其实在之前yolov3-spp中也介绍过，对于anchor聚类结果使用遗传算法来获取更好的anchor设置，笔记见：使用kmeans与遗传算法聚类anchor

至此，在整个yolov5项目中，其实对遗传算法使用了在两个地方中，一个是对anchor进行变异优化；另外一个就是这篇笔记所介绍的，对超参数进行变异优化。

---

1. 遗传算法介绍

具体介绍可以参考：遗传算法详解 附python代码实现，这里稍微提取一些概念。