目录描述
1.向量的外积
1.1 实例一
存在三个向量:
将三个向量相乘:
作用:大大地降低了参数的维度。(将原本需要存储的12个数降低为7个数)
1.2 实例二
有三个向量:
第一种:
第二种:
第三种:
2.张量内积
已知两个张量:
和
则两个张量的内积可以表示为:
3.张量积(直积)
- 张量积(积张量):有两个任意阶张量,第一个张量的每一个分量乘以第二个张量中的每一个分量,它们组合的集合仍然是一个张量,称为第一个张量乘以第二个张量的乘积。
- 张量积的阶数等于因子张量阶数之和
例如:
a
i
b
j
k
=
c
i
j
k
a_ib_{jk} = c_{ijk}
aibjk=cijk
则:
4.Kronecker乘积(Kronecker Product)
Kronecker乘积定义在两个矩阵
A
∈
R
I
×
J
A\in R^{I\times J}
A∈RI×J,
B
∈
R
K
×
L
B\in R^{K\times L}
B∈RK×L的运算:
例如:
5.Hadamard乘积(Hadamard Product)
Hadamard乘积定义在两个相同大小的矩阵
A
∈
R
I
×
J
A\in R^{I\times J}
A∈RI×J,
B
∈
R
I
×
J
B\in R^{I\times J}
B∈RI×J的运算:
6.Khatri-Rao乘积(Khatri-Rao Product)
Khatri-Rao乘积定义了两个相同列数的矩阵
A
∈
R
I
×
K
A\in R^{I\times K}
A∈RI×K,
B
∈
R
J
×
K
B\in R^{J\times K}
B∈RJ×K的运算:
其演示图为:
例如:
即:
7.张量乘法
可以定义三种不同的张量乘法,分别为:
- 同样大小的张量相乘
- 张量乘以矩阵
- 张量乘以向量
7.1 张量内积
7.2 张量乘以矩阵
张量乘以矩阵步骤如下:
- 将张量矩阵化
- 再将张量和矩阵相乘
注意:这部分需要先了解 张量学习(10) 中的张量展开
例如:
有一个张量和矩阵:
对张量进行
m
o
d
e
−
1
M
a
t
r
i
c
i
z
a
t
i
o
n
mode-1 Matricization
mode−1Matricization得到:
再将得到的矩阵和矩阵
A
A
A相乘:
其过程可以用一个图演示:
8.个人思考
张量的乘积与矩阵的乘积还是部分相对应的,其具体的物理意义可能再后面运用中才慢慢展现。