math
文章平均质量分 76
孤鸿子_
just for fun/前ACMer/前MSRAer/ZJUer/编程爱好者/学生/
展开
-
凸优化简单学习笔记
本文来源于个人的凸优化学习笔记参考cs229 cvxoptnote,写成笔记的原因仅仅是想通过个人的笔记自己讲述与推导一下这些数学公式,内容可能会很简单,强力建议想得到一手资料的人好好学习文末参考资料凸集合定义就直接跳过了,这里简单写一些常见的凸集凸集的交, 设 Ci,i=1,2,3,...,nC_i,i = 1,2,3,...,nCi,i=1,2,3,...,n 是凸集,那么我们有...原创 2019-01-24 23:21:04 · 619 阅读 · 0 评论 -
Introduction to Optimization(三): 共轭梯度算法
基本概念共轭: QQ 是一个对称实矩阵,对于方向向量 d1,d2,…dm,∀i≠j,dTiQdj=0d_1,d_2,\dots d_m,\forall i\neq j,d_i^TQd_j =0 则他们关于QQ 共轭Q正定 如果对于矩阵Q,Q>0Q,Q>0,若一组向量d1,d2,…dm,m≤n−1d_1,d_2,\dots d_m,m\le n-1,关于QQ 共轭,则他们线性无关。(直接用定义原创 2017-10-18 10:46:28 · 1108 阅读 · 0 评论 -
Introduction to Optimization(二):基于梯度的优化
这篇文章主要讲:梯度下降梯度最速降梯度下降相信这个对于大部分人来说并不陌生,听过吴恩达公开课的都知道(escape….) 我们知道梯度方向是函数下降最快的方向(书上有证明).梯度下降就是沿着梯度负方向构造一个点: xx−αxx\pmb x-\alpha \pmb x (粗体表示列向量),将其泰勒展开我们有 f(xx−αxx)=f(xx)−α||∇f(xx)||2+o(α)f(\pmb x原创 2017-10-12 23:06:34 · 652 阅读 · 0 评论 -
Introduction to Optimization(一):一维最优化方法
最近经常用到scipy.optimize 想来一直把它当成黑箱实在是不舒服,所以还是决定去了解一下其中的算法,幸来看见《an Introduction to Optimization》这本书里讲了很多优化方法。便于让自己燕过流痕故这里做个笔记.仅用于个人回顾.这里是正文……..第7章: 一维搜索方法. 这里主要说一下这个黄金分割方法原来这就是以前听ACM大佬说的3分.算法描述对于函数: f(x原创 2017-10-12 19:49:04 · 2263 阅读 · 0 评论 -
线性规划:单纯形算法
作者 dylanFrank(滔滔)转载请联系作者 原文链接:http://blog.csdn.net/Dylan_Frank/article/details/77876006这里简要总结一下线性规划的单纯形算法,做如下几个方面的总结,其余以后再来填坑.几何表示标准型的代数解法其他情形与标准型的互换退化情形几何表示先看这样一个问题 我们很容易用下面的数学语言来原创 2017-09-07 00:18:58 · 9697 阅读 · 1 评论 -
线性方程组的直接解法
GAUSS列主消元法求解nn元线性方程组的最简单直接求解方法,学过线性代数的人都应该知道,即求解线性方程组 ⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪a11x1+a12x2+...+a1jxi+...+a1nxn=b1...ai1x1+ai2x2+...+aijxi+... +ainxn=bi...an1x1+an2x2+...+aijxi+...+ainxn=bn \begin{equation原创 2016-09-21 00:31:07 · 4639 阅读 · 0 评论 -
阶乘中末尾0的个数和及其扩展--记一道牛客小白月赛题
题目描述题目链接求 1!2!…n!1!2!…n!1!2!\dots n! 中末尾0的个数。分析首先需要解决的是 n!n!n! 末尾0 的个数,我们记 : f(n):n!f(n):n!f(n):n! 中末尾0 的个数那么原问题就变成了: ans=∑ni=1f(i)ans=∑i=1nf(i)ans = \sum_{i=1}^nf(i), 记 S(n)=∑ni=1f(...原创 2018-07-23 14:11:36 · 359 阅读 · 0 评论 -
[java 源码思考] O(1)时间找到一个数的最小二次幂(Find the best power of two)--ArrayDeque
就是说给定一个数 nnn, 找到 x,s.t.n<x,x=2kx,s.t.n<x,x=2kx,s.t. n < x, x = 2^k打开 ArrayDeque,我看见在分配元素的时候有这样一段代码 private void allocateElements(int numElements) { int initialCapacity = MIN_INITI...原创 2018-07-27 11:22:15 · 369 阅读 · 0 评论 -
点到超平面的距离简单证明
这是一个简单的问题,定义如下:设, y(X)=WTX+b,X∈Rn,b∈Ry(X) = W^TX +b, X \in R^n,b \in Ry(X)=WTX+b,X∈Rn,b∈R, 是一个 affine function(这个不重要,是个函数就行),超平面为 h:WTX+b=0h:W^TX +b=0h:WTX+b=0, 证明: RnR^nRn 中任意一点 XXX 到 hhh 的距离为 ∣y(X)...原创 2019-01-23 01:21:15 · 3192 阅读 · 2 评论 -
Introduction to Optimization(四): 拟牛顿法
本节介绍:hessian matrix 近似DFP算法bfgs算法hessian matrix 近似牛顿法的基本思路是用二次函数来局部逼近目标函数 ff 并解近似函数的极小点作为下一个迭代点,迭代公式 但是牛顿法的缺陷是需要原创 2017-10-19 17:51:48 · 614 阅读 · 0 评论