Math
文章平均质量分 90
-柚子皮-
╰☆ゞ不染纤尘,不忘初心ゞ☆╮
展开
-
平面几何和立体几何
http://blog.csdn.net/pipisorry/article/details/73294222平面几何余弦定理和勾股定理余弦定理和勾股定理的几何图形解释[震惊!余弦定理和勾股定理竟然有这样的关系]点间距离、点线距离、线间距离两点间的距离已知平面上两点P1(x1,y1), P2(x2,y2)。分别过两点作x轴 和 y轴的垂线,在Rt△P1 QP2中,|P1 P2|2 = |P1 Q|原创 2017-06-15 17:21:25 · 2991 阅读 · 0 评论 -
概率论:高斯/正态分布
http://blog.csdn.net/pipisorry/article/details/49516209正态分布(高斯分布)若随机变量X服从一个数学期望为μ、方差为σ^2的高斯分布,记为N(μ,σ^2)。其概率密度函数为正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。正态随机变量概率密度函数[正态分布- 维基百科]皮皮blog原创 2015-10-30 20:31:21 · 99945 阅读 · 0 评论 -
矩阵论:向量求导/微分和矩阵微分
http://blog.csdn.net/pipisorry/article/details/68961388复杂的矩阵函数求导。著名的matrix cookbook为广大的研究者们提供了一本大字典,里面有着各种简单到复杂矩阵和向量的求导法则。布局(Layout)矩阵求导有两种布局,分子布局(numerator layout)和分母布局(denominator layout)。...原创 2017-04-03 16:51:05 · 50834 阅读 · 8 评论 -
概率论:常见概率分布
http://blog.csdn.net/pipisorry/article/details/39076957常见离散概率分布Note: 一般的二项分布是n次独立的伯努利试验的和。它的期望值和方差分别等于每次单独试验的期望值和方差的和。皮皮blog常见连续概率分布常见的概率分布_文库下载http://www.wenkuxiazai.com/d原创 2014-09-05 09:54:52 · 34955 阅读 · 0 评论 -
数据散布的度量
http://blog.csdn.net/pipisorry/article/details/72820982考察评估数值数据散布或发散的度量。这些度量包括极差、分位数、四分位数、百分位数和四分位数极差。五数概括可以用盒图显示,它对于识别离群点是有用的。方差和标准差也可以指出数据分布的散布。集中趋势集中趋势(central tendency)在统计学中是指一组数据向某一中心值靠拢的程度...原创 2017-05-31 16:35:46 · 14922 阅读 · 0 评论 -
概率论:假设检验-t检验、卡方检验和AD-Fuller test
http://blog.csdn.net/pipisorry/article/details/51184556卡方检验 Chi-Squarethe chi-square test measures dependence between stochasticvariables, so using this function “weeds out” the features that are ...原创 2016-04-18 23:04:22 · 27543 阅读 · 0 评论 -
最优化方法:梯度下降(批梯度下降和随机梯度下降)
http://blog.csdn.net/pipisorry/article/details/23692455梯度下降法(Gradient Descent)梯度下降法是一个一阶最优化算法,通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值,必须向函数上当前点对应梯度(或者是近似梯度)的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的局部极大值点;原创 2014-04-14 17:36:28 · 22478 阅读 · 1 评论 -
递推关系中的数列通项
http://blog.csdn.net/pipisorry/article/details/78142983普通方法叠加法/叠乘法公式法阶差法待定系数法辅助数列法归纳、猜想倒数法[求解数列通项公式的常用方法]某小皮特征方程法(一阶线性递推式)设已知数列的项满足,其中求这个数列的通项公式?特征方程法:针对问题中的递推关系式作出一个方程称之为特征方程;借助这个特征方程的根快速求解通项公式.定理1:设原创 2017-09-30 15:14:50 · 2415 阅读 · 0 评论 -
最优化方法:深度学习最优化方法
http://blog.csdn.net/pipisorry/article/details/52135832深度学习最优化算法深度学习框架中常见的最优化方法,如tensorflow中的最优化方法及相关参数如下:tf.train.Optimizer tf.train.GradientDescentOptimizer tf.train.AdadeltaOptimizer tf.tr...原创 2016-08-18 14:33:32 · 11374 阅读 · 1 评论 -
概率论:均值、方差与协方差矩阵
http://blog.csdn.net/pipisorry/article/details/48788671要理解协方差矩阵,从以下几个步骤来说 期望 ——> 方差——>协方差——>协方差矩阵,这样更能理解它的由来和意义。本文主要讲意义和python里的使用,其实协方差矩阵有很强的实际意义和应用实例,有机会再补充。均值、方差和标准差给定一个含有n个样本的集合,可以得到样本的均值,方差和标准差。...原创 2015-09-28 19:58:15 · 44950 阅读 · 3 评论 -
信息论:熵与互信息
熵/信息熵http://这篇文章主要讲:熵, 联合熵(joint entropy),条件熵(conditional entropy),相对熵(relative entropy,KL 距离),互信息(mutual information),交叉熵(cross entropy),困惑度(perplexity)。熵/信息熵在信息论中,熵是接收的每条消息中包含的信息的平均量,又被称为信息熵、信源熵、平均自信息量。这里, 消息代表来自分布或数据流中的事件、样本或特征。原创 2016-11-25 21:18:43 · 95539 阅读 · 15 评论 -
矩阵论、组合数学基础
http://blog.csdn.net/pipisorry/article/details/49180221{计算机相关编程、论文中遇到的与概率论、矩阵、微积分、组合数学相关的常见知识}二次方程的根为:矩阵论二次型Note: x是1*n的vec且L是n*n矩阵时。xTLx是一个二次型,其列出了所有x1, x2...xn的可能二次项,故称为二次型:矩阵形式和标量形式的转换这实际上是奇异值分解的一个原创 2015-10-16 16:21:33 · 4340 阅读 · 0 评论 -
最优化方法:L1和L2正则化regularization
http://blog.csdn.net/pipisorry/article/details/52108040机器学习和深度学习常用的规则化方法之一:L范数正则化(规格化)。一般来说,监督学习可以看做最小化下面的目标函数):θ∗=argminθ1N∑i=1NL(yi,f(xi;θ))+λ原创 2016-08-18 17:06:31 · 50249 阅读 · 6 评论 -
数据标准化/归一化normalization
http://blog.csdn.net/pipisorry/article/details/52247379这里主要讲连续型特征归一化的常用方法。连续型特征还有一种处理方式是,先分桶/分箱(如等频/等距的分)[待写]进行离散化后再使用离散数据的处理方法。离散数据处理参考[数据预处理:独热编码(One-Hot Encoding)]。基础知识参考:[均值、方差与协方差矩阵][...原创 2016-08-19 09:42:40 · 441320 阅读 · 69 评论 -
最优化方法:非线性方程的求极值方法
http://blog.csdn.net/pipisorry/article/details/23553263非线性方程求根方法中的数学定义零点1 如果 x * 使 f( x * )=0,则称 x * 为方 程的根,或称为 函数f( x )的零点;当 f( x )为多项式时,即其中0这里我们要求解的就是非线性方程的解(即零点)x*。一般情况下,用计算机求解非线性方程步骤第一步:对方程 f( x原创 2014-04-12 20:43:48 · 10237 阅读 · 0 评论 -
最优化方法:牛顿迭代法和拟牛顿迭代法
http://blog.csdn.net/pipisorry/article/details/24574293牛顿法和拟牛顿法(Newton's method & Quasi-Newton Methods)牛顿法(Newton's method) 又称为牛顿-拉弗森方法(Newton-Raphson method),单变量下又称为切线法。它是一种在实数域和复数域上近似求解方程的方法。方法使用函数原创 2014-04-27 09:18:18 · 50126 阅读 · 2 评论 -
线性代数:特征值和特征向量
http://blog.csdn.net/pipisorry/article/details/38662887对称矩阵的特征值和特征向量Let M be a square matrix. Let λ be a constant and e a nonzero column vector with the same number of rows as M. Then λ is an eigenval原创 2014-08-18 16:50:15 · 5034 阅读 · 0 评论 -
常用三角公式
基本公式两角和与差公式及规律二倍角公式及规律 半角公式三倍角公式积化和差与和差化积公式万能公式皮皮blog诱导公式同角三角函数基本关系皮皮blog应注意的问题1、两角差的余弦公式是本章中其余公式的基础,应记准该公式的形式. 2、倍角公式有升、降幂的功能,如果升幂,则角减半,如果降幂,则角加倍,根据条件灵活选用. 3、公式的“三用”(顺用、逆用、变用)是熟练进行三角变形的前提.3、整体原则-----原创 2016-08-13 17:22:46 · 4688 阅读 · 1 评论 -
矩阵论:向量范数和矩阵范数
http://blog.csdn.net/pipisorry/article/details/51030563向量范数0-范数,向量中非零元素的个数。1-范数:,即向量元素绝对值之和,matlab调用函数norm(x, 1) 。2-范数:,Euclid范数(欧几里得范数,常用计算向量长度),即向量元素绝对值的平方和再开方,matlab调用函数norm(x, 2)。∞-范数:,即所有向量元素绝对值中原创 2016-03-31 21:55:58 · 10330 阅读 · 1 评论 -
数值分析:矩阵求逆-奇异性、条件数
http://blog.csdn.net/pipisorry/article/details/52241141本blog主要内容有:矩阵的奇异性、条件数与病态矩阵、矩阵求逆。奇异矩阵和非奇异矩阵singular matrix&nonsingular matrix概念和定义若n阶矩阵A的行列式不为零,即 |A|≠0,则称A为非奇异矩阵或满秩矩阵,否则称A为奇异矩阵或降秩矩阵。奇异矩阵是线性代数的概念原创 2016-08-18 15:59:06 · 32965 阅读 · 0 评论 -
非负矩阵分解NMF
http://blog.csdn.net/pipisorry/article/details/52098864非负矩阵分解(NMF,Non-negative matrix factorization)NMF的发展及原理 著名的科学杂志《Nature》于1999年刊登了两位科学家D.D.Lee和H.S.Seung对数学中非负矩阵研究的突出成果。该文提出了一种新的矩阵分解思想——非负矩阵分解(Non原创 2016-08-03 12:37:26 · 85251 阅读 · 25 评论 -
数值分析:Hermite多项式
Hermite埃尔米特多项式在数学中,埃尔米特多项式是一种经典的正交多项式族,得名于法国数学家夏尔·埃尔米特。概率论里的埃奇沃斯级数的表达式中就要用到埃尔米特多项式。在组合数学中,埃尔米特多项式是阿佩尔方程的解。物理学中,埃尔米特多项式给出了量子谐振子的本征态。前4个(概率论中的)埃尔米特多项式的图像The Hermite polynomials are set of ort原创 2015-10-23 20:54:43 · 16084 阅读 · 0 评论 -
概率论:基本概念
http://blog.csdn.net/pipisorry/article/details/40709187分布函数/累积分布函数CDF(CDF – Cumulative distribution function或直接就叫 distribution function)定义CDF函数表示随机变量小于或等于其某一个取值x的概率。设X是一个随机变量,x是任意实数,函数称为X的分布函数。有时也记为X原创 2014-11-02 14:05:26 · 30812 阅读 · 0 评论 -
数值分析:数据插值方法
http://blog.csdn.net/pipisorry/article/details/62227459插值、拟合和逼近的区别据维基百科,科学和工程问题可以通过诸如采样、实验等方法获得若干离散的数据,根据这些数据,我们往往希望得到一个连续的函数(也就是曲线)或者更加密集的离散方程与已知数据相吻合,这过程就叫做拟合。通过拟合得到的函数获得未知点的数据的方法,叫做插值。其中,拟合函数经过所有已知原创 2017-03-15 16:53:22 · 82435 阅读 · 12 评论 -
参数估计:最大似然估计MLE
http://blog.csdn.net/pipisorry/article/details/51461997最大似然估计MLE顾名思义,当然是要找到一个参数,使得L最大,为什么要使得它最大呢,因为X都发生了,即基于一个参数发生的,那么当然就得使得它发生的概率最大。最大似然估计就是要用似然函数取到最大值时的参数值作为估计值,似然函数可以写做相乘因为它们之间是独立同分布的。由于有连乘运算,通常对似然原创 2016-05-21 16:57:50 · 46520 阅读 · 0 评论 -
微积分:常用公式、微分方程、级数
http://blog.csdn.net/pipisorry/article/details/52200140微积分一.基本初等函数求导公式函数的和、差、积、商的求导法则反函数求导法则复合函数求导法则皮皮blog二、基本积分表 皮皮blog常用凑微分公式[常用的求导和定积分公式(完美)]分部积分不定积分的分部积分设 及 是两个关于 的函数,各自具有连续导数 及 ,则按照乘积函数求微分法则,则原创 2016-08-13 17:03:32 · 319400 阅读 · 19 评论 -
概率论:假设检验
http://blog.csdn.net/pipisorry/article/details/51182843假设检验假设检验问题分为两类,一类是参数的假设检验,一类是分布的假设检验! 设总体X的分布未知,或 X的某个分布参数 theta未知,对总体分布或分布参数 theta 提出一个假设 "H0" ,然后根据样本所提供的信息,运用统计分析的方法进行判断,从而作出是接受还是拒绝 "H0"原创 2016-04-18 22:10:07 · 12921 阅读 · 0 评论 -
图论
http://blog.csdn.net/pipisorry/article/details/52518118最大团给定无向图G=(V,E),其中V是非空集合,称为顶点集;E是V中元素构成的无序二元组的集合,称为边集,无向图中的边均是顶点的无序对,无序对常用圆括号“( )”表示。完全子图complete subgraph如果U∈V,且对任意两个顶点u,v∈U有(u,v)∈E,则称U是G的完全子图。原创 2016-09-12 22:28:03 · 2720 阅读 · 0 评论 -
最优化方法:拉格朗日乘数法
解决约束优化问题——拉格朗日乘数法拉格朗日乘数法(Lagrange Multiplier Method)应用广泛,可以学习麻省理工学院的在线数学课程。1. 拉格朗日乘数法的基本思想 作为一种优化算法,拉格朗日乘子法主要用于解决约束优化问题,它的基本思想就是通过引入拉格朗日乘子来将含有n个变量和k个约束条件的约束优化问题转化为含有(n+k)个变量的无约束优化问题。拉格朗日乘子背后的数学意义是其为约原创 2016-08-18 14:34:38 · 64258 阅读 · 2 评论 -
PGM:概率论基础知识
http://blog.csdn.net/pipisorry/article/details/52459847概率图模型PGM:概率论基础知识独立性与条件独立性独立性条件独立性也就是表示给定 c 的条件下 a 与 b 条件独立,等价于公式p(a | b, c) = p(a | c)随机变量的独立性 等价于 条件独立性的性质这里是前面的独立性可以导出后面的独立性,而不是等价于后面的独立性。条件独立的原创 2016-09-07 15:20:48 · 2136 阅读 · 0 评论 -
概率论:p(x|theta)和p(x;theta)的区别
http://blog.csdn.net/pipisorry/article/details/42715245求解最大似然估计时发现有两种表示方法 from:Gregor Heinrich - Parameter estimation for text analysisfrom:http://blog.csdn.net/pipisorry/article原创 2015-01-14 20:19:25 · 21747 阅读 · 0 评论