![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
matrix
enthwxq
这个作者很懒,什么都没留下…
展开
-
1.0线代相关:基,变换
线性代数的起点有两个,1是解线性方程组,2是线性变换。这里从线性变换开始。一、首先,就是对于一个向量的描述,向量本身是和空间在一起的。想要给于向量给出一个确切描述,就必须选择它所在空间的一组(极大无关)基向量,对于一个完备的向量空间来说,所有的向量都可以通过它的基向量线性表出,即:, 那么所对应的我们就称为向量的坐标。要注意到的是:基向量组只能是以抽象的形式表示出来,即以这种形...原创 2018-11-10 19:33:51 · 699 阅读 · 0 评论 -
1.13矩阵微分与求导相关
0.相关记法与规定:本篇博客所涉及到数都是在实数域,不涉及复数。本博客中出现的所有向量不加说明时都默认列向量。是标量,是列向量,是矩阵。是标量函数,这里“标量”是指是一个实数,即是标量函数,这里“标量”是指是一个实数,即是向量函数,这里“向量“是指是一个向量,即是向量函数,这里“向量“是指是一个向量,即是矩阵函数,这里“矩阵“是指是一个矩阵,即是矩阵函数,这里“矩阵...原创 2019-01-06 22:33:52 · 2701 阅读 · 1 评论 -
1.11 Regression-linear regression
0.目录:序号 优化/矩阵方程角度 ,, 概率学解释 1 普通最小二乘:向量存在加性误差,即,问题转化为: 的每一个分量,即: 2 数据最小二乘:b向量无观测误差,A存在加性误差 暂时未总结 3 Tikhonov正则化: 贝叶斯的角度下,引入先验知识 1.普通最小二乘与极大似然解释记,m为训练样本个数,n为特征...原创 2018-12-23 14:43:28 · 123 阅读 · 0 评论 -
1.7 稀疏表示
1.稀疏向量与稀疏表示:一个含有大多数零元素的向量/矩阵叫做稀疏向量/稀疏矩阵。在传统的思路下,信号向量最多可以分解为m个正交基向量,这些正交基的集合称为完备正交基,分解的表示如下:,G是列向量的集合,c是在此基下的坐标。一定是非稀疏的。若将信号向量分解为n个m维的向量的线性组合,则n(>m)个向量不可能是正交基的集合。为了和基区别,这些列向量所形成的集合被称为:字典(codeb...原创 2018-12-02 09:24:57 · 772 阅读 · 0 评论 -
1.3补充 协方差矩阵计算
本文是对1.3中自相关和自协方差矩阵的补充。是一个m维随机向量,其中每一个分量都是一个随机变量。由1.3中自相关矩阵的定义,有:,。以三维的详细来看:,,,构造了6个随机变量。最后再取这六个随机变量的均值,就得到了自相关矩阵。如果随机变量已经归一化处理后后,那么自相关就变成了协方差。自相关矩阵和协方差矩阵有两种方式计算:(1)当给出的是每一个随机变量的分布律时,比如x1的取值有两种(0...原创 2018-11-27 13:42:51 · 922 阅读 · 0 评论 -
1.5 PCA/SVD/MCA
1.PCA引入和推导:引例:有5个二维空间的点(以列向量形式给出):,如图:,可以很清晰地发现:它们可以由一个斜向量近似表示出来,这个斜向量就是,因为原先的5个2维向量中,第一个维度和第二个维度有着比例关系,所以可以进行降维处理,方法就是投影到这个斜向量上,以这个斜向量重新作为一个基,也能恢复保存原先的结构不发生大的变换。如果作为基的向量是一组标准基,那么投影之前的向量投影到这组新基后的坐标就...原创 2018-11-26 22:18:30 · 797 阅读 · 0 评论 -
1.8 谱聚类
1.绪论在此篇文章中,对于谱聚类的解释基于图论,并不涉及Random walks(在参考的文章中(1)中有详细解释)在叙述理论推导的同时,还需要给出简单的例子进行计算以加深理解。给定一个带权无向图,是结点集合,是边的集合。在谱聚类中,所有的样本构成了结点集合V,结点之间的相似度就是对应边的权重。聚类的目标就是将这些结点分成不同类,类与类之间有着较小的相似度,而类中的结点有着较大的相似度...原创 2018-12-02 09:26:26 · 371 阅读 · 0 评论 -
1.1 范数,内积
一、内积在向量空间上定义一种运算,内积,就成了内积空间。定义在n维实向量空间的标准内积为:,是一个从的映射,满足三条性质(共轭对称,第一变元线性性,非负性)。两个向量的内积可以度量它们的夹角:,注意到,此处并没有定义范数。以上是向量的内积。对于矩阵来说,做以推广,定义在mxn实矩阵集合上的标准内积为:,公式太抽象,给个例子:,(对称是巧合而已),。仔细观察矩阵内积的计算,因...原创 2018-11-19 22:15:27 · 12705 阅读 · 0 评论 -
1.2 矩阵的性能指标及范数的相关应用
紧接着上文1.1,接下来梳理一下相关的性能指标。(很多东西都有先成的一大堆,这里之列自己有问题的点)一、矩阵的性能指标1.矩阵的二次型实对称矩阵是唯一的,衡量的是矩阵的正定性与负定性。2.矩阵的行列式刻画方阵的奇异性3.方阵的迹定义:并且.迹反应的是特征值之和。3.方阵的特征值/非方阵的奇异值对于方阵来说,它的特征值集合叫做它的谱,记为,谱半径是矩阵最大...原创 2018-11-22 13:52:02 · 2447 阅读 · 0 评论 -
1.3.随机变量,随机向量的自相关与自协方差
一、变量与随机变量什么是变量?变量是指没有固定的值,可以改变的数。我们记成等等,与之相应的就是常量,等。什么是随机变量?这里并不讨论随机变量的标准数学定义,给一个直观的理解就是:当一个变量有某一个概率取特定的值时,即,它就是随机变量。可以很清晰的感受到,随机变量与普通的变量区别就是它多了一个特点,这个特点就是它取某一个确定的值是有确定概率的。并且随机变量的所有取值对应的概率之和(离散)或是...原创 2018-11-20 19:06:10 · 14440 阅读 · 2 评论 -
1.25 推荐系统(矩阵补全)与盲矩阵求解
1.概论:推荐系统应该有不同种的模型,就我现在所知道的,有以下两种:第一种就是在监督学习下,预测出的概率,推荐出概率最大的物品。其中,表示物品的特征,表示事件:用户会点击物品。第二种应该多和电影推荐有关,属于无监督学习:给出电影以及用户的评分矩阵(每一行代表一个电影,不同用户对其的评分组成的一行;每一列代表一个用户,一个用户对不同电影的评价组成的每一列),其中的元素有些是空缺的,推荐系统...原创 2019-01-22 14:38:35 · 3270 阅读 · 0 评论