向量/矩阵的特殊乘法运算

向量乘法

• 标量积（inner product）

        标量积（又称内积、点乘、点积、数量积）：两个向量相乘得到一个标量。

        几何意义：

        代数定义： 

• 向量积（cross product）

        向量积（又称叉乘、叉积、矢量积）：两个向量相乘得到一个向量。

        向量积定义：

        其中t向量大小：

• 外积（outer product）

        下文克罗内克积的一种特殊情况，也称张量积。

        两个向量a,b维度分别为(n,1),(1,n)，外积结果为一个矩阵，维度为(n,n)

 矩阵乘法

• matmul product（内积）

        线性代数学学的，左行乘以右列：

•  Hadamard product (哈达马积)

        哈达马积其元素定义为两个矩阵对应元素的乘积。

• Kronecker product(克罗内克积) 

        克罗内克积是两个任意大小的矩阵间的运算,以德国数学家利奥波德·克罗内克命名。

        如果A是一个m×n的矩阵，而B是一个p×q的矩阵，克罗内克积则是一个mp×nq的分块矩阵.

克罗内克积

克罗内克积的例子

•  Khatri-Rao积

        两个具有相同列数的矩阵  和  的积记作：

它由两个矩阵对应的列向量的积排列而成。因此，积又叫做对应列积。  

 其他乘法

•  笛卡尔积

        笛卡尔乘积是指在数学中，两个集合X和Y的笛卡尔积（Cartesian product），又称直积，表示为X × Y，第一个对象是X的成员而第二个对象是Y的所有可能有序对的其中一个成员。

        举个栗子：假设集合A={a, b}，集合B={0, 1, 2}，则两个集合的笛卡尔积为{(a, 0), (a, 1), (a, 2), (b, 0), (b, 1), (b, 2)}。

百度百科的案例

参考：

[1] 向量：向量乘法（标量积、向量积）和向量插值

[2] 几种矩阵乘法总结

[3] 笛卡尔乘积