![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
最优化
冠切云之崔嵬
这个作者很懒,什么都没留下…
展开
-
最优化方法 —— 绪论
目录运输问题建模非线性方程组求解的优化模型聚类问题的优化建模方法最优化问题的基本概念1、单目标优化问题2、多目标优化问题3、双层规划4、优化问题求解方法分类运输问题建模 优化模型:非线性方程组求解的优化模型聚类问题的优化建模方法假设样本集包含n个无标记样本,对于任意样本是一个d...转载 2019-07-01 18:32:18 · 144 阅读 · 0 评论 -
面试总结——优化
1、梯度下降的优缺点;主要问最优化方面的知识,梯度下降法的原理以及各个变种(批量梯度下降,随机梯度下降法, mini 梯度下降法),以及这几个方法会不会有局部最优问题,牛顿法原理和适用场景,有什么缺点,如何改进(拟牛顿法)2、常用优化算法:1.梯度下降法:又有随机梯度下降和负梯度下降,2.牛顿法 主要是问了各自的优缺点,速度,能不能得到全局最优解,牛...原创 2019-09-20 11:39:04 · 464 阅读 · 0 评论 -
启发式算法和元启发式算法
链接:https://www.zhihu.com/question/36635796/answer/70528089启发式策略(heuristic)是一类在求解某个具体问题时,在可以接受的时间和空间内能给出其可行解,但又不保证求得最优解(以及可行解与最优解的偏离)的策略的总称。许多启发式算法是相当特殊的,依赖于某个特定问题。启发式策略在一个寻求最优解的过程中能够根据个体或者全局的经验来改变其搜...转载 2019-07-03 22:28:46 · 17377 阅读 · 2 评论 -
启发式算法
链接:https://www.jianshu.com/p/e2aec624106a什么是启发式算法启发式算法一般用于解决NP-hard问题,其中NP是指非确定性多项式。例如,著名的推销员旅行问题(Travel Saleman Problem or TSP):假设一个推销员需要从南京出发,经过广州,北京,上海,…,等 n 个城市, 最后返回香港。 任意两个城市之间都有飞机直达,但票价不等...转载 2019-07-03 22:32:01 · 3166 阅读 · 0 评论 -
贪心算法1
链接:https://www.cnblogs.com/steven_oyj/archive/2010/05/22/1741375.html一、基本概念:所谓贪心算法是指,在对问题求解时,总是做出在当前看来是最好的选择。也就是说,不从整体最优上加以考虑,他所做出的仅是在某种意义上的局部最优解。贪心算法没有固定的算法框架,算法设计的关键是贪心策略的选择。必须...转载 2019-07-03 17:05:41 · 151 阅读 · 0 评论 -
动态规划和贪心算法的区别
动态规划具有两个性质:1)重叠子问题2)最优子结构贪心算法:1)贪心选择性质2)最优子结构最优子结构性质是指问题的最优解包含其子问题的最优解时,就称该问题具有最优子结构性质,重叠子问题指的是子问题可能被多次用到,多次计算,动态规划就是为了消除其重叠子问题而设计的。其实贪心算法是一种特殊的动态规划,由于其具有贪心选择性质,保证了子问题只会被计算一次,不会被多次计算,因此贪心算...转载 2019-07-03 17:56:00 · 17447 阅读 · 2 评论 -
动态规划2
链接:https://www.zhihu.com/question/23995189/answer/35429905动态规划的本质不在于是递推或是递归,也不需要纠结是不是内存换时间。理解动态规划并不需要数学公式介入,只是完全解释清楚需要点篇幅…首先需要明白哪些问题不是动态规划可以解决的,才能明白为神马需要动态规划。不过好处时顺便也就搞明白了递推贪心搜索和动规之间有什么关系,以及帮助那些...转载 2019-07-03 16:50:07 · 105 阅读 · 0 评论 -
数据+进化算法=数据驱动的进化优化?进化算法PK数学优化
链接:https://mp.weixin.qq.com/s/4OLVkewljf7o5hrC5BCmngⅠ先说一说 数据驱动进化优化的 Motivation简单来说,数据驱动的进化优化(Data-driven evolutionary computation)就是借助数据和进化算法求解优化问题。首先为什么用进化算法呢?举几个例子,一些优化问题很难获...转载 2019-07-08 14:38:20 · 1331 阅读 · 0 评论 -
动态规划1
动态规划:把多阶段过程转化为一系列单阶段问题,利用各阶段之间的关系逐个求解。算法步骤:1、描述最优解的结构2、递归定义最优解的值3、按照自底向上的方式计算最优解的值4、由计算出的结果构造一个最优解最优子结构:问题的一个最优解包含了子问题的最优解。最优子结构在问题域中以两种方式变化:1、原问题的一个最优解中使用了多少个子问题,2、在决定一个最优解中使用哪些子问题时有多少种...翻译 2019-07-03 16:28:52 · 106 阅读 · 0 评论 -
最优化方法——梯度 Jacobian矩阵 Hessian矩阵
一维f(x):多维f(x):转载 2019-07-01 18:32:34 · 410 阅读 · 0 评论 -
最优化方法 —— 基础知识
目录1 多元函数的泰勒公式2 多元函数的极值(判别条件)3 方向导数与最速下降方向4 凸集与凸函数5 可行方向、边界点为极值点的条件、凸规划1 多元函数的泰勒公式 2 多元函数的极值(判别条件)3 方向导数与最速下降方向 4 凸集与凸...转载 2019-07-01 18:32:59 · 190 阅读 · 0 评论 -
机器学习相关优化算法
目录0.梯度下降法深入理解一.优化器算法简述1.Batch Gradient Descent (BGD)2.Stochastic Gradient Descent (SGD)3.Mini-Batch Gradient Descent (MBGD)[应对挑战 1]4.Momentum5.Nesterov Accelerated Gradient[应对挑战 2]...转载 2019-09-20 12:00:36 · 280 阅读 · 0 评论