Math-优化理论
数学理论,优化理论
goodluckcwl
有价值、有影响力的研究
展开
-
凸优化学习系列笔记
最近闲暇时间又重温了一遍《凸优化》,颇有感触。借此机会搜罗了一番优化相关的书籍,整理了优化学习路径。如下:入门:《Convex Optimization Algorithms and Complexity》入门:《Optimization Methods for Large-Scale Machine Learning》从机器学习角度,年代比较新初级:《Convex Optimizati...原创 2017-06-01 09:28:46 · 1004 阅读 · 1 评论 -
优化理论(二)凸集、保凸运算、广义不等式与对偶锥
本节主要讲凸集的概念以及保凸运算,这对于判断优化问题是否是凸的非常有帮助。这一节有一部分概念比较抽象,需要仔细研读。凸集(Convex Set)凸集通过集合的任意两个点的线段还在集合中,即仿射集(Affine Set)通过集合的任意两个点的直线还在集合中线性方程组的解集是一个仿射集。凸组合(Convex Combination)凸包(...原创 2018-03-22 18:11:38 · 8010 阅读 · 0 评论 -
优化理论(三)凸函数、拟凸函数和保凸运算
这一节主要学习凸函数的定义以及性质。了解保凸运算,以及上镜图与下水平集等。这些基础知识看似零乱,然而却是后面的基础。特别是,在实际应用中如果我们能把一个问题转化为凸优化问题,是非常好的一步。而能够这样做的前提,是知道基本的函数的凸性以及有哪些保凸运算。上镜图有助于我们从集合的角度理解这个函数为什么是凸的(集合的保凸运算);水平集是以函数的形式表示集合,类似于等高线,在历史上是重要的方法。这里我们通...原创 2018-03-23 18:21:11 · 14191 阅读 · 0 评论 -
优化理论(一)线性优化、组合优化与网络流问题
本节主要学习线性优化问题。线性优化是最简单的一种优化问题。在我们系统地学习凸优化之前,先回顾下线性优化的知识。虽然最优化可以追溯到十分古老的极值问题,但是它成为一门独立的学科是在本世纪40年代末,是在求解一般线性规划问题的单纯形法提出之后。线性优化问题(Linear Optimization Problems)目标函数是线性的且等式约束和不等式约束都是线性的:minimize&...原创 2018-03-22 11:56:20 · 4570 阅读 · 0 评论