机器学习，数学统计常用数学符号

通用字体，符号规则

• $x$ 标量
• $\mathbf{x}$ 向量
• $\mathbf{X}$ 随机向量、矩阵
• $\chi$ 集合
• $\hat{x}$ 估计或近似值
• $x^{\ast }$ 最优值
• $\bar{x}$ 平均值

常见的数学符号

• $\forall$ 对任意
• $\exists$ 存在
• $\propto$ 与…成正比
• $\perp$ 垂直于
• ～服从分布
• iid或 iid 独立同分布
• approx. 近似服从分布
• $\nabla f$ 的梯度
• ${\nabla }^{2}f$ 的Hessian矩阵
• $f\in C^{p}f$ 具有 $p$ 阶连续导数
• $\approx$ 约等于
• $\simeq$ 渐进等于
• $\ll$ 远小于
• $\oplus$ 直和
• ๑ 对应元素乘积
• ก 交
• U 并
• :=或=：定义
• 

矩阵或向量表示

• ${\mathbf{A}}^{\top }$ 或 ${\mathbf{x}}^{\top }$ 矩阵 $\mathbf{A}$ 或向量 $\mathbf{x}$ 的转置
• ${\mathbf{A}}^{-1}$ 矩阵 $\mathbf{A}$ 的逆
• ${\mathbf{A}}^{+}$矩阵 $\mathbf{A}$ 的伪逆
• ${\mathbf{A}}^{-\top }$ 矩阵 ${\mathbf{A}}^{\top }$ 的逆或 ${\mathbf{A}}^{-1}$ 的转置
• $\mathbf{A}>0$ 矩阵 $\mathbf{A}$ 是正定的
• $\mathbf{A}\ge 0$ 矩阵 $\mathbf{A}$ 是半正定的
• $\dim (\mathbf{x})$ 向量 $\mathbf{x}$ 的维数
• $\det (\mathbf{A})$ 矩阵 $\mathbf{A}$ 的行列式
• $|\mathbf{A}|$ 矩阵 $\mathbf{A}$ 的行列式的绝对值
• $\mathrm{tr}(\mathbf{A})$ 矩阵 $\mathbf{A}$ 的迹

保留字母和保留词

• C 复数集合
• d 微分符号
• E 期望
• e $2.71828\dots$
• $f$ 概率密度 (离散或连续)
• $g$ 预测函数
• 1 { A } 1\{A\} 1{A} 或 $1A$ 集合 $A$ 的指示函数
• i -1 的平方根
• $\ell$ 风险：预期损失
• Loss 损失函数
• In 自然对数
• $N$ 自然数集合 { 0 ， 1 ， … } \{0 ， 1 ， \ldots\} {0，1，…}
• O 大O阶符号：对于某个常数 $\alpha$ ，当 $x\to \alpha$ 时，如果 $|f(x)|\le \alpha g(x)$ ，则 $f(x)=O(g(x))$
• o小O阶符号: 对于某个常数 $\alpha$ ，当 $x\to a$ 时，如果 $f(x)/g(x)\to 0$ ，则 $f(x)=o(g(x))$

P 概率测度

• $\pi 3.14159\dots$
• $\mathrm{R}$ 实数集合 (一维欧氏空间)
• ${\mathrm{R}}^{n}n$ 维欧氏空间
• $R_{+}$正实数线性空间: $[0,\infty )$
• $\tau$ 确定性训练集
• T 随机训练集
• $\mathbf{X}$ 模型 (设计) 矩阵
• Z 整数集合 { … , − 1 , 0 , 1 , … } \{\ldots,-1,0,1, \ldots\} {…,−1,0,1,…}

概率分布

• Ber 伯努利分布

• Beta 贝塔分布

• Bin 二项分布

• Exp 指数分布

• Geom 几何分布

• Gamma 伽马分布

• F F分布

• N 正态分布或高斯分布

• Pareto 帕雷托分布

• Poi 泊松分布

• t 学生分布

• U 均匀分布

缩与和缩略语

• cdf 累积分布函数(cumulative distribution function)

• CMC 朴素蒙特卡罗(Crude Monte Carlo)

• CE 交叉熵(Cross-Entropy)

• EM 期望最大化(Expectation-Maximization)

• GP 高斯过程(Gaussian Process)

• KDE 核密度估计/估计器(Kernel Density Estimate/Estimator)

• KL 库尔贝克-莱布勒(Kullback-Leibler)

• KKT卡罗需-库恩-塔克(Karush-Kuhn-Tucker)

• iid 独立同分布(independent and identically distributed)

• MAP 最大后验概率(Maximum A Posteriori)

• MCMC　　马尔可夫链蒙特卡罗(Markov Chain Monte Carlo)

• MLE　　极大似然估计/估计器(Maximum Likelihood Estimate/Estimator)

• OOB　　袋外(Out-Of-Bag)

• PCA　　主成分分析(Principal Component Analysis)

• pdf　　概率密度函数(probability density function)（离散或连续）

• SVD　　奇异值分解(Singular Value Decomposition)

---

注：摘自《数据科学与机器学习：数学与统计方法》