本文详细介绍了统计学习方法中的关键数学概念，包括范数（L1和L2）、特征分解EVD、奇异值分解SVD及其应用、各种距离公式（曼哈顿、欧氏、闵可夫斯基、切比雪夫距离）以及夹角余弦。此外，还讨论了贝叶斯概率、Lagrange乘子法和极大似然估计。最后，探讨了空间中的概念，如凸集和超平面。
范数
L1范数：为x向量各个元素绝对值之和；
L2范数：为x向量各个元素平方和的开方。类比距离
特征分解EVD
注意不是任何矩阵都能写成这样，A必须可对角化
奇异值分解SVD
假设A是一个(m,n)矩阵，那么U是一个(m,m)矩阵，D是一个(m,n)矩阵，V是一个(n,n)矩阵。
其中U和V都是正交矩阵UU^t=E，D是对角矩阵（注意，D不一定是方阵）。对角矩阵D对角线上的元素被称为矩阵A的奇异值。矩阵U的列向量被称为左奇异向量，矩阵V 的列向量被称右奇异向量。
运用范围：图像压缩。
距离
设有两个n维变量A=\left[ x_{11}, x_{12},…,x_{1n} \right] 和B=\left[ x_{21} ,x_{22} ,…,x_{2n} \right] ，则一些常用的距离公式定义如下：
1、曼哈
最低0.47元/天 解锁文章
1549
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
