Mathematics
lf14
学习者
展开
-
协方差的意义和计算公式
协方差的意义和计算公式学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。均值:标准差:方差:很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的转载 2015-04-23 20:54:52 · 632 阅读 · 0 评论 -
浅谈协方差矩阵
浅谈协方差矩阵今天看论文的时候又看到了协方差矩阵这个破东西,以前看模式分类的时候就特困扰,没想到现在还是搞不清楚,索性开始查协方差矩阵的资料,恶补之后决定马上记录下来,嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵。统计学的基本概念学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合X={X1,…,X转载 2016-03-21 23:25:11 · 357 阅读 · 0 评论 -
矩阵特征值分解与奇异值分解含义解析及应用
矩阵特征值分解与奇异值分解含义解析及应用old / xiahouzuoxinTags: 数学转载请注明出处: http://xiahouzuoxin.github.io/notes/特征值与特征向量的几何意义特征值分解奇异值分解奇异值分解与PCASVD其它参考特征值与特征向量的几何意义矩阵的乘法是什么,别只告诉我只是“前一个矩阵的行乘以后一个矩阵转载 2015-11-22 23:32:28 · 523 阅读 · 0 评论 -
Precision和Recall
原文出自:http://blog.csdn.net/wangran51/article/details/7579100最近一直在做相关推荐方面的研究与应用工作,召回率与准确率这两个概念偶尔会遇到,知道意思,但是有时候要很清晰地向同学介绍则有点转不过弯来。召回率和准确率是数据挖掘中预测、互联网中的搜索引擎等经常涉及的两个概念和指标。召回率:Recall,又称“查全率”转载 2015-10-29 19:43:51 · 1009 阅读 · 0 评论 -
麻省理工公开课:线性代数
矩阵右乘代表对列向量线性组合。左乘表示对行进行线性组合。AB=C C中的列是A中列的线性组合,C中的行是B中行的线性组合。求方程可看做求线性组合的向量,采用消元法,把曾广矩阵化成下三角,然后回代。方阵,只要有逆,放哪边都行。非方阵,左逆不等于右逆。矩阵不可逆,可认为存在列的线性组合违为零。求逆的过程看做求未知数的过程。初始矩阵的逆矩阵为转置。AX=b有解,当且仅当b是转载 2015-10-06 20:50:40 · 1329 阅读 · 0 评论 -
常见向量范数和矩阵范数
1、向量范数1-范数:,即向量元素绝对值之和,matlab调用函数norm(x, 1) 。2-范数:,Euclid范数(欧几里得范数,常用计算向量长度),即向量元素绝对值的平方和再开方,matlab调用函数norm(x, 2)。∞-范数:,即所有向量元素绝对值中的最大值,matlab调用函数norm(x, inf)。-∞-范数:,即所有向量元素绝对值中的转载 2015-11-06 14:59:13 · 665 阅读 · 0 评论 -
bias和variance
在A Few Useful Thingsto Know about Machine Learning中提到,可以将泛化误差(gener-alization error)分解成bias和variance理解。 Bias: a learner’s tendency to consistently learn the same wrong thing,即度量了某种学习算法的平均估计结果所转载 2015-08-24 09:14:50 · 639 阅读 · 0 评论 -
先验概率、似然函数、后验概率、贝叶斯公式
10.8.1 先验概率、似然函数、后验概率、贝叶斯公式联合概率的乘法公式:(如果随机变量是独立的,则)由乘法公式可得条件概率公式:,全概率公式:,其中(,则可轻易推导出上式)贝叶斯公式:又名后验概率公式、逆概率公式:后验概率=似然函数×先验概率/证据因子。解释如下,假设我们根据“手臂是否很长”这个随机变量(取值为“手臂很长”或“手臂不长”)的观测样本数据来分析远处一转载 2015-07-27 14:59:16 · 878 阅读 · 1 评论 -
矩阵求导公式
今天推导公式,发现居然有对矩阵的求导,狂汗--完全不会。不过还好网上有人总结了。吼吼,赶紧搬过来收藏备份。基本公式:Y = A * X --> DY/DX = A'Y = X * A --> DY/DX = AY = A' * X * B --> DY/DX = A * B'Y = A' * X' * B --> DY/DX = B * A'1. 矩阵Y对标量x转载 2015-06-14 19:31:11 · 588 阅读 · 0 评论 -
用ADMM实现统计学习问题的分布式计算
用ADMM实现统计学习问题的分布式计算19 Jan 2016 (文章类别: 机器学习 )最近研读了 Boyd 2011 年那篇关于 ADMM 的综述。这是由两件事情促成的:一是刘鹏的《计算广告》中 CTR 预测技术那部分提到了用 ADMM 框架来并行化 LR 问题的求解;二是我的一个本科同学在读博士期间做的东西恰好用到了 ADMM,我们曾经谈到过这个框架。我从这篇综述里整理出了一个条思转载 2016-03-23 10:14:03 · 2097 阅读 · 0 评论