好好掌握 calculus 微积分 linear algebra 线性代数 probability theory 概率论
1 Vector 向量使用小写粗体罗马字 x 所有向量默认为列向量column vector。
xT
。 x的转置则为 行向量 row vector
2 大写罗马字体 M 表示矩阵
3
ω1,...,ωM
表示一个行向量 有M个元素
列向量表示为
w=(ω1,...,ωM)T
4 [a,b] 闭区间 , (a,b)开区间 ,[a,b) 半开半闭 包含a 不包含 b
5 M * M 的单位矩阵 表示为
IM
6 当y(x)是某个函数时,f[y]是它的泛函。泛函的概念在附录D进行了讨论
7 符号g(x)=O(f(x))表示当x→∞时,|f(x)/g(x)|是有界的。例如g(x)=3x2+2,则g(x)=O(x2)。
8 函数f(x,y) 随机变量 x 的期望表示为
E[f(x,y)]
没有歧义的话可以表示为
E[x]
如果x的分 布受另一个随机变量z的制约,则相应的条件期望被写为
Ex[f(x)|z]
9 方差 var[f(x)] 向量变量的协方差被写为cov[x,y] 我们同样把cov[x]作为cov[x,x]的速记符号。
10 如果我们有N个值x1,…, xN,每个值是一个D维向量x=(x1,…,xD)T,我们可以把这些观测结合起来组成一个数据矩阵X,X的第n行对应的是行向量 。因此X的n,i元素对应的就是X的第n个观察xn的第i个元素。例如我们把一维变量表示为矩阵X,则矩阵X为一个列向量,它的第n个元素为xn。注意X(维度为N)用不同的字体以区别于x(维度为D)。