随
机
向
量
  
a
  
的
第
  
i
  
个
元
素
随机向量\;{\bf{a}}\;的第\;i\;个元素
随机向量a的第i个元素
线性代数中的操作
A
T
\boldsymbol{A}^{\sf{T}}
AT
矩
阵
  
A
  
的
转
置
矩阵\;\boldsymbol{A}\;的转置
矩阵A的转置
A
+
\boldsymbol{A}^{+}
A+
A
  
的
  
M
o
o
r
e
−
P
e
n
r
o
s
e
  
伪
逆
{\boldsymbol{A}}\;的\;Moore-Penrose\;伪逆
A的Moore−Penrose伪逆
A
⊙
B
\boldsymbol{A}\odot\boldsymbol{B}
A⊙B
A
  
和
  
B
  
的
逐
元
素
乘
积
(
H
a
d
a
m
a
r
d
  
乘
积
)
{\boldsymbol{A}}\;和\;{\boldsymbol{B}}\;的逐元素乘积(Hadamard\;乘积)
A和B的逐元素乘积(Hadamard乘积)
det
(
A
)
\det(\boldsymbol{A})
det(A)
A
  
的
行
列
式
\boldsymbol{A}\;的行列式
A的行列式
微积分
d
y
d
x
\frac{dy}{dx}
dxdy
y
  
关
于
  
x
  
的
导
数
y\;关于\;x\;的导数
y关于x的导数
∂
y
∂
x
\frac{\partial y}{\partial x}
∂x∂y
y
  
关
于
  
x
  
的
偏
数
y\;关于\;x\;的偏数
y关于x的偏数
∇
x
y
\nabla_{\boldsymbol{x}}y
∇xy
y
  
关
于
  
x
  
的
梯
度
y\;关于\;\boldsymbol{x}\;的梯度
y关于x的梯度
∇
X
y
\nabla_{\boldsymbol{X}}y
∇Xy
y
  
关
于
  
X
  
的
矩
阵
导
数
y\;关于\;\boldsymbol{X}\;的矩阵导数
y关于X的矩阵导数
∇
X
y
\nabla_{\sf{X}}y
∇Xy
y
  
关
于
  
X
  
求
导
后
的
张
量
y\;关于\;\sf{X}\;求导后的张量
y关于X求导后的张量
∂
f
∂
x
\frac{\partial f}{\partial \boldsymbol{x}}
∂x∂f
f
:
R
n
→
R
m
 
的
  
J
a
c
o
b
i
a
n
  
矩
阵
  
J
∈
R
m
×
n
f:\Bbb{R}^n\rightarrow\Bbb{R}^m\,的\;Jacobian\;矩阵\;\boldsymbol{J}\in \Bbb{R}^{m\times n}
f:Rn→Rm的Jacobian矩阵J∈Rm×n
∇
x
2
f
(
x
)
o
r
H
(
f
)
(
x
)
\nabla_{\boldsymbol{x}}^2f(\boldsymbol{x}) or \boldsymbol{H}(f)(\boldsymbol{x})
∇x2f(x)orH(f)(x)
f
  
在
点
  
x
  
处
的
  
H
e
s
s
i
a
n
  
矩
阵
f\;在点\;\boldsymbol{x}\;处的\;Hessian\;矩阵
f在点x处的Hessian矩阵
∫
f
(
x
)
d
x
\int f(\boldsymbol{x})d\boldsymbol{x}
∫f(x)dx
具
有
分
布
  
P
  
的
随
机
变
量
  
a
具有分布\;P\;的随机变量\;\rm{a}
具有分布P的随机变量a
E
x
∼
P
[
f
(
x
)
]
  
o
r
  
E
f
(
x
)
\Bbb{E}_{\rm{x}\sim P}[f(x)]\;or\;\Bbb{E}f(x)
Ex∼P[f(x)]orEf(x)
f
(
x
)
  
关
于
  
P
(
x
)
  
的
期
望
f(x)\;关于\;P(\rm{x})\;的期望
f(x)关于P(x)的期望
Var
(
f
(
x
)
)
\operatorname{Var}(f(x))
Var(f(x))
f
(
x
)
  
在
分
布
  
P
(
x
)
  
下
的
方
差
f(x)\;在分布\;P(\rm{x})\;下的方差
f(x)在分布P(x)下的方差
Cov
(
f
(
x
)
,
g
(
x
)
)
\operatorname{Cov}(f(x),g(x))
Cov(f(x),g(x))
f
(
x
)
  
和
  
g
(
x
)
  
在
分
布
  
P
(
x
)
  
下
的
协
方
差
f(x)\;和\;g(x)\;在分布\;P(\rm{x})\;下的协方差
f(x)和g(x)在分布P(x)下的协方差
y
(
i
)
  
或
  
y
(
i
)
y^{(i)}\; 或\; \boldsymbol{y}^{(i)}
y(i)或y(i)
监
督
学
习
中
与
  
x
(
i
)
  
关
联
的
目
标
监督学习中与\;\boldsymbol{x}^{(i)}\;关联的目标
监督学习中与x(i)关联的目标
X
\boldsymbol{X}
X
m
×
n
  
的
矩
阵
,
其
中
行
  
X
i
,
:
  
为
输
入
样
本
  
x
(
i
)
m\times n\;的矩阵,其中行\;\boldsymbol{X}_{i,:}\;为输入样本\;\boldsymbol{x}^{(i)}
m×n的矩阵,其中行Xi,:为输入样本x(i)