![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数学
文章平均质量分 68
chenhch8
这个作者很懒,什么都没留下…
展开
-
拉格朗日函数、对偶上升法、对偶分解法
拉格朗日函数拉格朗日乘子法KKT条件对偶上升法共轭函数拉格朗日对偶函数线性约束下拉格朗日函数对偶函数的共轭形式对偶问题对偶上升法对偶分解法拉格朗日函数用于解决满足约束条件的最值问题 注意,该方法均只能保证求得的结果是必要条件。只有当原函数是凸函数时,才能保证求得的结果是充要条件拉格朗日乘子法适用于具有等式约束的最大值/最小值问...原创 2018-02-21 01:40:35 · 14907 阅读 · 6 评论 -
增广拉格朗日乘子法、ADMM
增广拉格朗日乘子法关于拉格朗日的定义,具体见:http://mp.blog.csdn.net/mdeditor/79341632概述 增广拉格朗日乘子法(Augmented Lagrange Method),是用于解决等式约束条件下的优化问题。相对于朴素拉格朗日,它增加对偶上升法的鲁棒性和放松函数f的强凸约束,使得转换后的问题能够更容易求解,不至于因条件数变大不好求形式:...转载 2018-02-22 01:04:04 · 44168 阅读 · 0 评论 -
欧几里得算法求解最大公约数
这里主要要介绍的欧几里得算法,主要是用于求解两个整数的最大公约数的问题。 传统的求解方法是采用暴力枚举的方法,即枚举所有可能值取其最大。其算法描述如下:给定两个整数a,bc = min{a, b}max = 0; // 保存最大公约数for i:0->c if (a % i == 0) And (b % i == 0) // '%'表示取模运算 if...原创 2018-03-16 22:43:52 · 2952 阅读 · 0 评论 -
余弦距离与欧式距离
二者在机器学习中的使用很广泛,都可用于计算两个向量间的相似度,各自的计算公式如下: 假设两个向量:x=(x1,x2,…,xn)T,y=(y1,y2,…,yn)T∈Rn×1x=(x1,x2,…,xn)T,y=(y1,y2,…,yn)T∈Rn×1x=(x_1,x_2,\dots,x_n)^T,y=(y_1,y_2,\dots,y_n)^T \in R^{n×1}。 欧式距离为: dist(x,y...原创 2018-06-05 10:26:25 · 3275 阅读 · 0 评论 -
最小二乘法数学原理推导
问题定义Ax=b(1)(1)Ax=bAx=b \tag{1} 在实际问题中,该方程组可能不存在真正的解,这时我们就希望可以求解它的一个近似解 x∗x∗x^*,使得其能尽可能地接近 (1) 的真正解,其中 A∈Rk×n,b∈RkA∈Rk×n,b∈RkA \in R^{k×n}, b \in R^k 是已知的,而 x∈Rnx∈Rnx \in R^n 是未知量。注意,这里假定 k≥nk≥nk ...原创 2018-09-03 11:43:50 · 1031 阅读 · 0 评论