最近写文章时,有些公式尤其涉及到概率论的内容发现掌握得不牢靠,特花些时间复习下基础知识,
分为四个部分:线性代数 概率与信息论 数值计算 机器学习基础
具体整理如下:
线性代数:
1.矩阵的对应乘积/Hadamard乘积 A⊙B
表示A与B中的元素按位置对应相乘
2.标量 / 向量 / 矩阵 / 张量的区别
其中张量是表示多维度的数据网格
3.矩阵奇异
非满秩
4.L1 L2 L∞ Frobenius范数
5.每个实对称矩阵都可以分解为一个实对称向量和实特征值
6.所有特征值都是正数的矩阵成为正定
7.奇异值分解