协方差自适应调整的进化策略（CMA-ES）转载自知乎

最新推荐文章于 2024-04-13 21:43:33 发布
最新推荐文章于 2024-04-13 21:43:33 发布
阅读量1.6w 收藏 99
点赞数 19
分类专栏： 算法
原文链接：https://zhuanlan.zhihu.com/p/31193293
版权

因为毕设原因需要学习CMA-ES算法，放在自己的博客留作学习，内容转载自：https://zhuanlan.zhihu.com/p/31193293

本文仅作个人学习用，若有侵权请联系删除

 

协方差自适应调整的进化策略(Covariance Matrix Adaptation Evolution Strategy, CMA-ES)是最有名，应用最多，性能最好的ES之一，在中等规模（变量个数大约在 3-300范围内）的复杂优化问题上具有很好的效果。是Google Vizier: A Service for Black-Box Optimization 包含的四种用于调hyper-parameter 的方法之一。

按照惯例，先列举几个应用文章：

Path Integral Policy Improvement with Covariance Matrix Adaptation, ICML, 2012.

Optimizing Walking Controllers for Uncertain Inputs and Environments, ACM Transactions on Graphics 29. 4 (2010)

Flexible Muscle-Based Locomotion for Bipedal Creatures ， ACM Transactions on Graphics 32.6 (2013)

在强化学习和不确定环境下的行走控制取得了极好的效果。视频2013年 Flexible Muscle-Based Locomotion for Bipedal Creatures

CMA-ES 算法的基本特点有：

  • 无梯度优化，不使用梯度信息,
  • 局部搜索中无梯度算法通常比梯度算法慢，通常需要 [公式] 倍的评估,
  • 在复杂优化问题non-separable, ill-conditioned, or rugged/multi-modal 上表现良好。

1. CMA-ES 算法步骤

CMA-ES的核心想法是通过对正态分布 [公式] 中协方差矩阵 [公式] 的调整来处理变量之间的依赖关系和scaling。算法基本可以分成以下三步

  • 采样产生新解；
  • 计算目标函数值；
  • 更新分布参数 [公式]

ES算法设计的核心就是如何对这些参数进行调整，尤其是步长参数和协方差矩阵的调整，以达到尽可能好的搜索效果。对这些参数的调整在ES算法的收敛速率方面有非常重要的影响。CMA-ES调整参数的基本思路是，调整参数使得产生好解的概率逐渐增大（沿好的搜索方向进行搜索的概率增大）。

 

CMA-ES 的搜索过程

1. 1 采样产生新解

在CMA-ES中，每一次迭代从 [公式] 中产生 [公式] 个解(一般 [公式]取值为log(n)的量级)

[公式]

这里的每一个 [公式] 是一个搜索方向。一般的， [公式] 可以通过协方差矩阵C的特征分解 [公式] 或者Cholesky 分解由标准正态分布得到，即

[公式]

1. 2 计算目标函数值

对新产生的解计算对应的目标函数值 [公式] ，并对这些目标函数值排序

[公式]

其中的下标表示在这些样本中排第i位。对于截断选择来说，取前 [公式] 个解用于更新分布参数。还存在其他的选择方式，这里为方便使用截断选择。值的注意的是，这里的顺序只依赖于目标函数值的比较，而不依赖于目标函数值本身，即comparison based，或者说 objective value-free。

 

1.3 分布参数更新

使用所选择的解分别对分布参数 [公式] 分别进行独立的更新。大体来说，对 [公式] 的更新使用的是最大似然估计 (ML-update)

 

1.3.1 均值

分布的均值即为所选择的 [公式] 个解的加权的最大似然估计

[公式]

此式表明，均值沿着平均搜索方向移动一步.

  • 这里通过组合所选择的部分解得到下一代的均值的做法称为multi-recombination， 类似于其他进化算法中的交叉(crossover operation)，即不同的解之间进行交换信息multi-recombination。
  • 如果权重系数取相同的 [公式], 那么此式就是使用所选择的解的最大似然估计。在实际算法中，通常取 [公式] 以强调排在最前面的那些解。
  • 更新项 [公式] 可以理解为对 [公式] 的自然梯度信息几何优化，随机优化, 与进化策略.

采样，选择和更新

1.3.2 进化路径/搜索路径(evolution path)

CMA-ES中，对协方差矩阵C 的更新包含rank-1 和rank- [公式] 两项，其中的rank-1 项使用的是历史搜索信息——进化路径，其构造方式为

[公式]

它描述了分布均值的移动，并且将每次迭代中移动方向 [公式] 做加权平均，使得这些方向中相反的方向分量相互抵消，相同的分量则进行叠加。这类似于神经网络优化中常用的Momentum。在神经网络中momentum起什么做用？因此，进化路径代表了最好的搜索方向之一。

这里面的系数因子是按照如下方式设计的：

  • 因子 [公式] 的设计是根据 [公式] .这是因为 [公式] ，因此可以看成是一个从上述分布采样得到的随机向量（确切的说，如果 [公式]是随机选择的）。
  • 因子 [公式] 的设计原理是 [公式] .这两条被称为平稳性条件(stationarity condition)，使得 [公式] 本身看起来像一个从当前分布 [公式] 产的搜索方向 [公式] 。所以 [公式] 可以像一个mutation一样用来更新协方差矩阵。
  • 变化率/学习率 [公式] 的设计原理是 [公式] ，即学习率与所调整的变量自由度（参数个数）成反比。

 

1.3.3 协方差矩阵

协方差矩阵的更新的原理是

[公式]

实际调整中是对此做一步迭代（一步迭代本身没有实现上式的最大化）。在此基础上，协方差的更新方式为

[公式]

或者更加简洁的写成(由于前面采样中 [公式] 和 [公式] 的关系)

[公式]

其中：

  • [公式] 的更新原理是增大沿成功搜索方向的方差，即增大沿这些方向采样的概率.
  • 第一项 rank-1 update 可以理解成直接把进化路径看作一个成功的搜索方向. 最初的CMA-ES只包含 rank-1 更新( [公式] )，这对小规模种群是性能优异，例如 [公式] , 以及极限情形的每一次只产生一个新解的(1+1)-CMA-ES.
  • 更新的第二项的秩为 [公式] ，由于通常 [公式] 所以这一项常被称为rank- [公式]update。这实际上是使用所选择的 [公式] 个解的加权的最大似然估计（去除步长参数）。这一项rank [公式] update可以解释为对 [公式] 的自然梯度信息几何优化，随机优化, 与进化策略，但是和前面对 [公式] 的自然梯度使用的步长不同。当种群规模较大的时候 [公式] ，这项更新起着更加重要的作用。
  • 学习率 [公式] 的设计原理和上面一样，也就是 [公式] ，即学习率与所调整的变量自由度（参数个数）成反比。

 

1.3.4 步长更新

CMA-ES默认使用累积式步长调整(Cumulative step size adaptation， CSA) 。CSA是当前最成功、用的最多的步长调整方式。CSA的原理可以从方面来理解：相继搜索的方向应该是共轭的。

  • 如果相继的搜索方向之间正相关（夹角小于pi/2），那么表明步长太小，应该增大；
  • 如果相继搜索方向之间是负相关的，那么表明步长太大，应该减小。

进化路径

与前面的进化路径相似，构造另一个进化路径（有些文献里面称为共轭路径conjugate evolution path）

[公式]

其中

  • 更新项在很多论文里写成 [公式] ，其中的 [公式] 。因此，这个方向实际上是去掉尺度因子D之后的搜索方向。
  • 在平稳性条件下有 [公式] ，即搜索路径可以看成是一个n维标准正态分布的随机向量。因此 其模长服从卡方分布[公式] ，并且 [公式] ，而 [公式] .因此，如果模长大于平均值，则指数上是正的，步长变大，否则指数上是负的，步长减小。这实现了前面的intuitive idea.
  • 考虑另一种解释. 在上述路径中取 [公式] ，即不进行累积。这时候 [公式] 实际上是“平均搜索方向”，并且“大致”服从标准正态分布。从这个角度来说，步长调整可以理解为，如果所选择的这些解的平均长度大于全体的平均长度，那么长度就增加，反之如果较好的这部分的平均长度小于全体的平均，那么长度应减小。这类似于xNES中步长调整的含义。在 [公式] 情况下的累积则代表通过历史平均来消除/减小随机性。
  • [公式] 是调整步长变化幅度的控制参数，通常设置为 [公式] . 此外实验上来说，算法对 [公式]的设置不敏感，可以取到 [公式] 以进行快速调整，大部分情况下效果相差不大。

注：在如果每次迭代步长几乎不变，大致有 [公式] , 那么会有如下近似

[公式]

即相继的搜索方向关于协方差矩阵的逆 [公式] 是共轭的，而在二次函数上，这个 [公式] 收敛于Hessian矩阵（相差一个标量因子）。从这个角度来说， [公式] 被称为共轭进化路径。这个是很好的性质。

 

1.4 实验：A Case Study on Rosenbrock

在12-d 的Rosenbrock 函数上的一次典型运行，横轴为目标函数的评估次数(function evaluation)，纵轴分别为目标函数值，各个自变量的值， 各轴向上的scaling和 [公式] . 可以看出，算法逐渐逼近最优点的过程（右上，最优点的位置在(1,...,1)）就是算法逐渐学得各个轴向和轴向上的scaling的过程（左下和右下）。

2. CMA-ES的一些性质

  • 在二次函数上，CMA-ES中的协方差矩阵收敛于Hessian矩阵的逆，并且收敛速率是(指数)线性的 [公式] 。因此CMA-ES 是一种不使用梯度和函数值的variable-metric 方法。
  • 相较于传统数学优化方法，CMA-ES 的算法行为在目标函数的单调变换下保持不变；相较于大部分进化算法，则保持了variable metric的多种不变性，其中最重要的就是在搜索空间的正交变换（旋转）下保持不变。
  • 在算法中使用一个独立的步长参数是为了可以快速调整整个搜索区域的尺度。由于C的更新公式中的变化率因子都非常小（与变量个数的平方成反比），使用独立的步长因子可以在不需要对C进行精细调整的情况下快速搜索到最优点附近。
  • 从变换的角度来说，实际上是用 [公式] 将目标函数变成尽可能可分的（separable），并且更加接近球函数（条件数减小）。经过变换之后的函数相比原有的目标函数更加容易优化。这个过程被进一步抽象为一种自适应编码(Adaptive encoding, AE-CMA). 一个非常有意思的算法是将坐标下降法和自适应编码结合起来，得到一种自适应坐标下降 (adaptive coordinate descent).
  • 很大程度上，ES算法可以看成一个局部搜索。ES中实现全局搜索的主要方式是使用Restart 策略启发式优化算法中，如何使之避免陷入局部最优解？简单来说，就是如果算法在某个位置不再改进，那么直接重新初始化换一个位置进行搜索。由于大多数多峰问题上使用较大的采样规模（即种群规模）总是有益的，因此每次初始化通常会增大采样规模（IPOP），或者交替使用较大的和较小的种群进行全局搜索和局部搜索（Bi-Pop）。

注：有些作者指出，这里的 [公式] 不应该称为步长，而应该称为 scale factor 或者mutation strength，原因是有时候即使 [公式] 算法仍然能很好的收敛，只要 [公式] 并且更快。这里为了方便我们就称为步长了。

自适应坐标下降=坐标下降+自适应编码

3. 关于ES理论方面

ES本身是进化计算领域相对来说理论比较完善的。早年间，随机优化（包含模拟退火这类算法）常常声称的优势是全局收敛性，即在 [公式] 时算法以概率一收敛到全局最优。但是在ES领域则有不同的看法。

We believe that global convergence is rather meaningless in practice. The pure random search converge with probability one to the global optimum of functions belonging to a broad class, where the main assumption is that a neighborhood of the global optimum should be reachable by the search distribution with a positive probability. However, the convergence rate is sub-linear with degree 1/n, therefore, the running time is proportional to  [公式]. Even for moderate dimension, e.g., n=10, this is prohibitively slow in practice.

 

He (M. Powell) believed that local optimality is all one can get in the nonconvex case.

因此，ES领域的理论研究主要关注算法的收敛速率方面。ES领域通常认为，全局收敛性实际上没什么意义，我们从来不可能真的让 [公式] ，而且这往往是通过牺牲局部搜索的效率换来的. 真正重要的是给定初始化之后，能够快速地收敛到局部最优。如果这个局部最优仍然太差不可接受，那么通过restart 重新搜索。

ES领域的理论分析（大部分情况下不包含协方差调整部分）主要包含以下三个方面（方法）：

  • Progress rate：这个是ES领域传统的理论分析方法，H.-G. Beyer的整本书The Theory of Evolution Strategies都是基于此方法。Progress rate考虑的是算法一步迭代中对目标函数的改进幅度的期望。在只考虑步长调整的情况下，通过对维度n取极限能极大的简化问题的复杂性。目前这仍然是最重要的理论分析方法之一。
  • Convergence rate：收敛速率的定义方式基本类似于经典优化里面收敛速率，除了搜索的点的序列是随机的。近年来在这个方向有较大的进展Linear Convergence of Comparison-based Step-size Adaptive Randomized Search，最主要的结论之一就是证明了这种基于比较的算法(comparison-based adaptive randomized search) 在一大类问题上能够线性收敛，并且收敛速率 [公式] ，即与变量数目成反比(这是无梯度优化的普遍特点Some Comments on Gradient-Free Optimization)。
  • Runtime lower bound: 考虑的是为达到某个给定的精度所需要的迭代（function evaluation）的次数。由于不对维度取极限，能够对较低维度的问题给出更加准确的bound，如 [公式] -ES在1/5法则的步长调整下runtime bound为 [公式] 。这方面的很多文章发在Theoretical Computer Science上。

除此之外，随着对自然梯度和ES的关系认识的逐步加深，近年来有一些从自然梯度流（正态分布流形上的微分方程）的角度来分析算法在极限情形下的收敛性质。这方面主要的结论有，在二次函数上

[公式]

即梯度流方程是线性收敛的，并且收敛速率 [公式] 。这个速率远大于前面提到的以及实际观察到的 [公式] ，目前没有很好的解释. 这方面更多内容和资料可参考信息几何优化，随机优化, 与进化策略

注：ES的理论研究主要集中于步长调整方面，大部分情况下不涉及协方差矩阵的调整。这主要是由于协方差矩阵的变量参数太多，难以控制。另一方面，从变换的角度来说，协方差矩阵的调整（或者协方差矩阵的平方根矩阵）将一个不可分的椭圆等高面 （f-value sub-level set）映射成一个球函数的等高面，然后在这个球函数上使用步长调整方式。而在球函数上，自适应调整的步长是线性收敛的。所以从这个角度来说，研究球函数上步长调整方式的收敛速率具有重要性。

4. CMA-ES 的一些改进

在前面的算法步骤中，每一次迭代产生新解都需要进行矩阵分解。矩阵分解的复杂度与变量个数的三次方成正比，这使得算法每次迭代需要耗费的计算非常多。实际算法中通过隔一些迭代次数才进行一次分解以降低计算复杂度（能这么做的原因在于C的学习率都很小，变动缓慢）。同时注意到，在采样中实际使用的并不是协方差矩阵本身，而是它的“平方根”，即满足 [公式] 的矩阵A。因此，一种更高效的方案是不直接更新和分解协方差矩阵，而是直接迭代更新矩阵A，从而将复杂度降到二次方。这就是Cholesky CMA-ES。值的注意的是，这里并不一定要求A是上三角的。使用上三角矩阵的更新方式写起来更加复杂，不便于向量化编程，但在采样过程中的矩阵-向量乘法计算会少一半。

 

上面指出协方差矩阵的更新中，rank- [公式] 部分可以解释成自然梯度。那么更直接的，如果考虑以平方根A为参数的正态分布，使用自然梯度下降就得到自然进化策略（natural evolution strategies, NES）. 这一思路下，一个更加有效、避免估计Fisher矩阵的方案是使用局部坐标系和指数映射的exponential NES。

 

为进一步降低算法的内部复杂度，近年来有一些工作使用特殊形式的协方差矩阵，避免使用稠密矩阵造成的计算量。后面我们会单独介绍这部分工作。

 

步长调整方式CSA具有极好的数学性质和性能，但是仍然有一些缺点。其一，CSA强烈依赖于标准正态分布，如果基础不是标准的正态分布，CSA可能就会不成立，算法性能会严重下降。其次，如果采样规模（即种群规模）很大，CSA的性能会变差。近年来，开始有一些将传统的1/5法则推广到population的情形的方法，并且性能很好。不过目前这些方法普遍还缺少理论分析。

注：1/5法则是早期基于对(1+1)-ES最大改进的理论分析提出的一种步长调整方式，直观来说就是要使目标函数的改进幅度(progress)最大，那么步长的设计应该使得产生一个由于当前解的概率大约是1/5左右。具体来说：In order to obtain nearly optimal (local) performance of the (1 + 1)-ES with isotropic mutation in real-valued search spaces, tune the mutation strength σ in such a way that the (estimated) success rate is about 1/5.

5. 程序

下面列举一些CMA-ES的程序：

  • 一个python的库pypi-cma，是N. Hansen本人更新维护的，安装和使用特别简单.
  • CMA-ES 源代码的主页CMA-ES Source Code，包含各种语言写的程序，尤其是多种C++的实现（包含并行libcmaes）和Matlab的版本CMA-ES Matlab。
  • Shark Machine Learning Library，这个包含着上面的网页中，单独拿出来说是因为这是一个广泛的包含多种机器学习和进化计算方面的C++库。这个库在Windows上安装略有不便，在Linux上一次编译完成感觉太好了。

Wiki 主页上有一个非常简短的Matlab 程序CMA-ES - Wikipedia，只有最基本的算法实现，可以用于了解算法。如果使用的话，应该尽可能使用上面的完整的Code，包含了多种变体，对约束、噪声的处理，以及restart 策略处理复杂优化问题。

 

部分参考文献

[1] The CMA Evolution Strategy: A Tutorial

[2] Adaptive Coordinate Descent

[3] The Theory of Evolution Strategies

[4] Theory of Evolution Strategies: a New Perspective

[5] Linear Convergence of Comparison-based Step-size Adaptive Randomized Search

[6] Convergence Analysis of Evolutionary Algorithms That Are Based on the Paradigm of Information Geometry

[7] Impacts of invariance in search: When CMA-ES and PSO face ill-conditioned and non-separable problems

python协方差阵转为相关阵_cmaes-python3的轻量级协方差矩阵自适应进化策略（CMA-ES）实现。-Masashi Shibata Installation Usage Benchmar...
weixin_30647853的博客
02-20 1019
作者:Masashi Shibata作者邮箱:shibata_masashi@cyberagent.co.jp首页:https://github.com/CyberAgent/cmaes文档:None下载链接CMA-ESLightweight Covariance Matrix Adaptation Evolution Strategy (CMA-ES) [1] implementation. R...
matlab代码缺少协议-SwiftCMA:协方差矩阵适应进化策略（CMA-ES）的纯快速实现
05-25
协方差矩阵适应进化策略（CMA-ES）算法的纯Swift实现。 SwiftCMA是（CMA-ES）的从头实现。 CMA-ES是一种出色的基于总体的优化技术，可以优化非凸，非平滑，不可微分的函数。 尽管CMA-ES在概念上很简单，但在数学上却...
【智能优化算法】协方差矩阵自适应进化算法CMAES附matlab代码
m0_60703264的博客
10-21 1038
智能优化算法在解决复杂问题和优化函数方面发挥着重要作用。其中，协方差矩阵自适应进化算法（Covariance Matrix Adaptation Evolution Strategy，简称CMA-ES）是一种高效的优化算法。本文将详细介绍CMA-ES算法的步骤和原理。CMA-ES算法是一种进化策略（Evolution Strategy，简称ES），它通过模拟自然进化的过程来优化目标函数。与其他进化策略相比，CMA-ES算法具有自适应性，能够自动调整搜索策略以适应问题的特性。
CMA-ES协方差矩阵自适应
12-16
提供了CMAES的详细matlab代码,并且包含测试函数，希望对做优化的同学有一定帮助
The CMA（Covariance matrix Adaptation） Evolution Strategy
rui307的专栏
12-13 9145
The CMA Evolution Strategy 最近，学习一些优化算法，看到一种自适应协方差矩阵进化算法，抽点时间研究一下。CMA是一种随机的，不需要计算梯度的数值优化算法。主要用来解决非线性、非凸的优化问题，属于进化算法的一类，具有随机性。本文主要翻译的：The CMA Evolution Strategy: A Tutorial，代码参见CMA-ES主页，个人理解，欢迎批评指针。 主...
（CMA-ES源码）协方差自适应进化策略（Covariance Matrix Adaptation Evolution Strategy，CMA-ES）——最好的单目标进化算法？
热门推荐
松间沙路的博客
09-27 1万+
获取更多资讯，赶快关注公众号(名称：智能制造与智能调度，公众号：deeprlscheduler)吧！ 文章目录0 (μ/μW,λ)\left(\mu / \mu_{\mathrm{W}}, \lambda\right)(μ/μW​,λ)-CMA-ES1 Set parameters参数设置2 Initialization初始化3 迭代优化过程3.1 采样新种群3.2 选择和重组：均值移动3.3 自适应协方差矩阵3.3.1 估计协方差矩阵3.3.2 秩μ\muμ更新3.3.3 秩1更新3.3.3.1 不同的视
协方差自适应调整的进化策略（CMA-ES）转载自知乎——补充——补充matlab代码
weixin_50084948的博客
05-18 3285
写的挺好，居然看懂了，转载一下，随后贴上相应的matlab代码。 之前转载的原文好像挂了，于是在知乎上又找了一篇相关的文章，原文链接为：进化策略及其在深度学习中的应用 - 知乎 本文仅作个人学习用，若有侵权请联系删除 本文翻译自：https://lilianweng.github.io/lil-log/2019/09/05/evolution-strategies.html,这篇博文很早就看过，但是每次都是似懂非懂，各种数学公式，虽然我做这个方向的研究很久，但是仍然不能全懂。这个端午，闲来无事，便萌生
如何通过正交协方差矩阵自适应进化策略（CMA-ES）解决高维多模态问题并提高全局优化性能？
10-25
在处理高维多模态问题时，传统的自适应进化策略（CMA-ES）可能会面临早熟收敛和搜索精度不足的挑战。为了克服这些问题，可以通过结合量化正交设计（OD/Q）的方法来提升CMA-ES的全局优化性能。具体操作如下： 首先，...
如何利用正交设计增强的协方差矩阵自适应进化策略（CMA-ES）来解决高维多模态函数优化问题，并提升算法的收敛速度与搜索精度？
最新发布
10-25
通过深入学习该文档，读者可以更全面地掌握正交协方差矩阵自适应进化策略，进一步提升自身在优化问题解决方面的能力。 参考资源链接：[正交协方差矩阵进化策略：提升全局优化性能]...
求解全局优化问题的正交协方差矩阵自适应进化策略算法 (2012年)
05-13
针对协方差矩阵自适应进化策略(CMAES)求解高维多模态函数时存在早熟收敛及求解精度不高的缺陷，提出一种融合量化正交设计(OD/Q)思想的正交CMAES算法。首先利用小种群的CMAES进行快速搜索，当算法陷入局部极值时，依据当前最好解的位置动态选取基向量，接着利用OD/Q构造的试验向量探测包括极值附近区域在内的整个搜索空间，从而引导算法跳出局部最优。通过对6个高维多模态标准函数进行测试并与其他算法相比较，其结果表明，正交CMAES算法具有更好的搜索精度、收敛速度和全局寻优性能。
source-archive_CMA-ES_
10-01
CMA-ES Java 代码:CMA-ES是Covariance Matrix Adaptation Evolutionary Strategies的缩写，中文名称是协方差矩阵自适应进化策略，主要用于解决连续优化问题，尤其在病态条件下的连续优化问题。进化策略算法主要作为求解参数优化问题的方法，模仿生物进化原理，假设不论基因发生何种变化，产生的结果（性状）总遵循这零均值，某一方差的高斯分布。注意这里进化策略和遗传算法不同，但是都是进化算法（EAs）的重要变种
CMA-ES的matlab实现
12-24
进化策略算法的最新，最强大的版本之一是协方差矩阵适应进化策略（CMA-ES），该算法由Nikolaus Hansen和Andreas Ostermeier于2001年提出。在本文中，我们将与您分享MATLAB中CMA-ES的结构化开源实现。
智能优化算法-协方差矩阵自适应进化算法Covariance Matrix Adaptation Evolution Strategy(附Matlab代码)
weixin_44028734的博客
06-28 510
进化策略(ES)是最早也是最古老的一种基于适应和进化的进化算法。特别地，用来描述进化策略如何工作的主要概念是进化的进化。事实上，进化策略是一个相关的算法家族，正因为如此，在社区中，进化策略的复数名称也被广泛使用。Covariance Matrix Adaptation evolution strategy (CMA-ES)是一种最新的、功能强大的进化策略算法，由Nikolaus Hansen和Andreas Ostermeier在2001年在提出。
基于协方差矩阵自适应进化策略的函数寻优算法
心升明月的博客
05-04 2239
文章目录一、理论基础1、CMA-ES算法结构（1）产生新个体（2）计算适应度（3）参数更新2、CMA-ES算法流程图二、仿真实验与结果分析三、参考文献 一、理论基础 协方差矩阵自适应进化策略(Covariance matrix adaptive evolution strategy, CMA-ES)是Nikolaus Hansen等人提出的一种新的无约束优化算法，已成功应用于全局优化、多峰优化、多目标优化、大规模优化和结构工程等领域。 1、CMA-ES算法结构 （1）产生新个体 CMA-ES在每一代中从N(
协方差矩阵自适应调整的进化策略(CMA-ES)
2401_84185145的博客
04-12 662
biC{{b}_{i}}=d_{i}^{2}{{b}_{i}}Cbi​=di2​bi​，C的正交分解为：C=BD2BT\text{C=B}{{\text{D}}{\text{2}}}{{\text{B}}{\text{T}}}C=BD2BT，其中B是正交矩阵，满足BTB=BBT=I{{B}{T}}B=B{{B}{T}}=IBTB=BBT=I,BBB的列向量构成一个标准正交基的特征向量，D2D^{2}D2是对角矩阵，其主对角元素为矩阵C的特征值。C−1=(BD2BT)−1=BT−1D−2B−1=BD−2BT=
【特征选择】CMA-ES（协方差矩阵适应进化策略）
weixin_46287760的博客
03-06 2781
但仅更新分布的平均值非常简单，其工作原理如下：计算每个测试点的目标函数后，为这些点分配权重，目标值更好的点赋予较大的权重，并根据它们的位置计算加权和，这成为新的平均值。我使用的模型是线性回归，并且试图最小化的目标函数是 BIC（贝叶斯信息准则），这是一种信息损失的度量，因此 BIC 越低越好。该算法是随机的，不需要计算目标函数的导数（与依赖于偏导数的梯度下降不同）。标准差将收敛到 0。在这种情况下，启发式方算法便是很好的解决方案：以有效的方式探索搜索空间，寻找能够最小化用于执行搜索的目标函数的特征组合。
协方差矩阵自适应调整的进化策略(CMA-ES)，大数据开发面试题大全
UYruihu的博客
04-13 1017
w1​≥⋯≥wμ​>0≥wμ+1​≥wλ​，并且通常∑i1μwi1∑i1λwi≈0。
协方差自适应调整的进化策略（CMA-ES）转载自知乎——补充
小唐要努力的博客
10-29 1万+
之前转载的原文好像挂了，于是在知乎上又找了一篇相关的文章，原文链接为：https://zhuanlan.zhihu.com/p/150946035 本文仅作个人学习用，若有侵权请联系删除 进化策略及其在深度学习中的应用 本文翻译自：https://lilianweng.github.io/lil-log/2019/09/05/evolution-strategies.html,这篇博文很早就看过，但是每次都是似懂非懂，各种数学公式，虽然我做这个方向的研究很久，但是仍然不能全懂。这个端午，闲来无事.
评论 11
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值