TensorFlow 中矩阵奇异值分解（Singular Value Decomposition，SVD） tf.linalg.svd 使用实例

一、环境

TensorFlow API r1.14

CUDA 9.0 V9.0.176

Python 3.7.3

二、官方说明

一个或多个矩阵的奇异值分解

https://tensorflow.google.cn/api_docs/python/tf/linalg/svd

tf.linalg.svd(
    tensor,
    full_matrices=False,
    compute_uv=True,
    name=None
)

参数：
tensor：形状为 […, M, N] 的张量。设 P 为 M 和 N 的最小值
full_matrices：布尔型参数，True 表示计算全尺寸的 u 和 v；默认为 False 表示仅计算前导 P 个奇异向量。如果 compute_uv 是 False，则忽略。
compute_uv：布尔型参数，默认为 True 表示计算左、右奇异向量并分别返回到 u、v 中，False 表示计算奇异值，会大幅度提高速度。
name：字符型参数，可选参数，设置操作的名称。

返回：
s：奇异值，形状为 […, P]，数值会倒序排列，所以 s[…, 0] 是最大值，s[…, 1] 是次大值。
u：左奇异向量，如果参数 full_matrix 为默认值 False，则 u 的形状为 […, M, P]；如果参数 full_matrix 为True，则 u 的形状为 […, M, M]。如果 compute_uv 为 False，则不返回 u 值；
v：右奇异向量，如果参数 full_matrix 为默认值 True，则 v 的形状为 […, N, P]。如果参数 full_matrix 为True，则 u 的形状为 […, N, N]。如果 compute_uv 为 False，则不返回 v 值；

三、实例

>>> matrix = tf.constant([1,2,3,4,5,6,7,8,9], shape=[3,3])
>>> matrix_float = tf.dtypes.cast(matrix, tf.float32) # 将矩阵的类型转换为 tensorflow 支持的 float32 形式，否则会报错
>>> s, u, v = tf.linalg.svd(matrix_float)
>>> s
<tf.Tensor: id=7, shape=(3,), dtype=float32, numpy=array([1.6848103e+01, 1.0683696e+00, 2.8763120e-07], dtype=float32)>
>>> u
<tf.Tensor: id=8, shape=(3, 3), dtype=float32, numpy=
array([[ 0.21483716,  0.8872305 , -0.40824857],
       [ 0.5205872 ,  0.24964423,  0.8164965 ],
       [ 0.8263376 , -0.3879429 , -0.4082481 ]], dtype=float32)>
>>> v
<tf.Tensor: id=9, shape=(3, 3), dtype=float32, numpy=
array([[ 0.47967106, -0.77669096,  0.40824836],
       [ 0.5723676 , -0.07568647, -0.81649655],
       [ 0.6650643 ,  0.62531805,  0.40824822]], dtype=float32)>

需要注意的是必须将矩阵的数据类型设为浮点类型，否则会报错：

>>> s, u, v = tf.linalg.svd(matrix)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/******/Anaconda/anaconda3/lib/python3.7/site-packages/tensorflow/python/ops/linalg_ops.py", line 418, in svd
    tensor, compute_uv=compute_uv, full_matrices=full_matrices, name=name)
  File "/******/Anaconda/anaconda3/lib/python3.7/site-packages/tensorflow/python/ops/gen_linalg_ops.py", line 2265, in svd
    _six.raise_from(_core._status_to_exception(e.code, message), None)
  File "<string>", line 3, in raise_from
tensorflow.python.framework.errors_impl.InternalError: Could not find valid device for node.
Node: {{node Svd}}
All kernels registered for op Svd :
  device='CPU'; T in [DT_COMPLEX128]
  device='CPU'; T in [DT_COMPLEX64]
  device='CPU'; T in [DT_DOUBLE]
  device='CPU'; T in [DT_FLOAT]
 [Op:Svd]