总是傻傻分不清，是时候总结一下numpy，tensorflow，keras的乘除法了

前言

乘除法好理解，但是一维向量，二维矩阵，三维+张量的乘除法就不一定能招架了，为了以后碰到类似问题不抓狂，本文总结罗列一下numpy，tensorflow，keras几种工具对各种乘除法的定义和api。

一维向量

一维向量的乘除法，有元素元素之间的乘除法，也有向量的点积运算，以及向量的模运算。

numpy

乘法符号 $\ast$

numpy中的$\ast$号表示向量元素与元素之间的成绩，这要求参与点乘的两个向量长度（维度）一致。

>>> import numpy as np
>>> a1 = np.array([2,3])
>>> a1
array([2, 3])
>>> a2 = np.array([4,5])
>>> a2
array([4, 5])
>>> a1*a2
array([ 8, 15])

numpy函数 dot()和 matmul()

这两个在一维中是一样的，点积就是乘完了还要累加， matmul似乎直接做了转置处理。

>>> import numpy as np
>>> a1 = np.array([2,3])
>>> a1
array([2, 3])
>>> a2 = np.array([4,5])
>>> a2
array([4, 5])
>>> np.dot(a1,a2)
23
>>> np.matmul(a1,a2)
23

除法符号$/$和$//$

这两个符号一个是浮点除法，一个是整数+余数除法

>>> a2/a1
array([2.        , 1.66666667])
>>> a2//a1
array([2, 1])

numpy函数divide、true_divide和floor_division

三者还是有差别的，但从结果看前两个更像$/$，最有一个像$//$

>>> np.divide(a2,a1)
array([2.        , 1.66666667])
>>> np.true_divide(a2,a1)
array([2.        , 1.66666667])
>>> np.floor_divide(a2,a1)
array([2, 1])

tensoflow的乘除法

tensorflow在做张量运算的方面功能非常强大，能实现numpy的大部分乘除功能，2.0以后支持eager模式，可以向numpy一样运行，下面是例子

>>> a1 = tf.constant([2, 3], dtype=tf.int32)
>>> a1
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([2, 3], dtype=int32)>
>>> a2 = tf.constant([4, 5], dtype=tf.int32)
>>> a2
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([4, 5], dtype=int32)>
>>> a1 * a1
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([4, 9], dtype=int32)>
>>> a1 * a2
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([ 8, 15], dtype=int32)>
>>> tf.math.multiply(a1,a2)
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([ 8, 15], dtype=int32)>
>>> a2/a1
<tf.Tensor: shape=(2,), dtype=float64, numpy=array([2.        , 1.66666667])>
>>> a2//a1
<tf.Tensor: shape=(2,), dtype=int32, numpy=array([2, 1], dtype=int32)>
>>> tf.math.divide(a2,a1)
<tf.Tensor: shape=(2,), dtype=float64, numpy=array([2.        , 1.66666667])>

和numpy类似，经典的数学乘除号和math库里的multiply和divide是通用的，而linalg.matmul是矩阵乘法。可以利用这个函数实现一维数组的点积，但是要注意转置关系

>>> b1 = tf.constant([[2, 3]], dtype=tf.int32)
>>> b1
<tf.Tensor: shape=(1, 2), dtype=int32, numpy=array([[2, 3]], dtype=int32)>
>>> b2 = tf.constant([[4, 5]], dtype=tf.int32)
>>> b2
<tf.Tensor: shape=(1, 2), dtype=int32, numpy=array([[4, 5]], dtype=int32)>
>>> tf.linalg.matmul(b1,tf.transpose(b2))
<tf.Tensor: shape=(1, 1), dtype=int32, numpy=array([[23]], dtype=int32)>
>>> tf.linalg.matmul(tf.transpose(b2),b1)
<tf.Tensor: shape=(2, 2), dtype=int32, numpy=
array([[ 8, 12],
       [10, 15]], dtype=int32)>

多维向量

多维向量是一维的扩展，但理解更烧脑，所以果断放弃。

Keras呢

Keras就是tensorflow，不过backend里有一个batch_dot很好用，好像没找到tensorflwo对应的函数。抽空看看转置矩阵乘是不是等价的。