张量及张量积的概念

张量及张量积的概念

标签（空格分隔）： 数学基础知识

---

今日阅读论文《Observer-Based Event-Triggered Consensus Control of Two-Layer Networks with Switching Topologies》，见运算符（$\otimes$），只觉眼熟，一知半解，遂查阅。

###协变与反变
从线性空间 $\mathbf{V}$ 和其对偶空间 ${\mathbf{V}}^{\ast }$谈起, 首先介绍张量理论中协变与反变理论。

定义线性空间上的线性函数。设 $V$ 是一个线性空间，映射 $f:V\to \mathbb{R}$, 满足

1. $f(x+y)=f(x)+f(y);$
2. $f(kx)=kf(x)$.
   则称 $f$ 是 $V$ 上的一个线性函数。
   进一步地，将 $V$ 上的全体线性函数看作是一个集合，并且定义线性函数的加法和数量乘法
3. $(f+g)(x)=f(x)+g(x)$;
4. $(kf)(x)=kf(x)$.
   于是可以自行验证，这样的集合构成了一个线性空间，称它为 $V$ 的对偶空间，记为 $V^{\ast }$.

称 $V^{\ast }\to \mathbb{R}$ 的映射为 $V$ 的一个反变，称 $V\to \mathbb{R}$ 的映射为 $V$ 的一个协变。按照上面的观 点，空间 $V$ 的反变就是它自己所属的向量，空间 $V$ 的协变就是 $V^{\ast }$ 所属的向量。
###多重线性函数
将线性空间上的线性函数概念做适当的推广。

设 $V_1,V_2,\cdots ,V_p$ 分别是一个线性空间，它们的维数分别是 $n_1,n_2,\cdots ,n_p$, 映射 $f:V_1\times V_2\times \cdots \times V_p\to \mathbb{R}$ 满足

1. $f(\cdots ,u+v,\cdots )=f(\cdots ,u,\cdots )+f(\cdots ,v,\cdots );$
2. $f(\cdots ,\lambda u,\cdots )=\lambda f(\cdots ,u\cdots )$.
   则称 $f$ 是 $V_1\times V_2\times \cdots \times V_p$ 上的一个 $p$ 重线性函数。
   将 $V_1\times V_2\times \cdots \times V_p$ 上的全体 $p$ 重线性函数构成的集合记为 $\mathcal{L}\left(V_1,\cdots ,V_p;\mathbb{R}\right)$, 特 别地，对偶空间 $V^{\ast }$ 就是关于空间 $V$ 的 $\mathcal{L}(V;\mathbb{R})$.

在有关对偶空间的讨论中，我们指出关于空间 $V$ 的基 { e 1 , ⋯   , e n } \left\{e_{1}, \cdots, e_{n}\right\} {e1​,⋯,en​}, 相应的对偶空间 $V^{\ast }$ 的 对偶基是 { r 1 , ⋯   , r n } \left\{r_{1}, \cdots, r_{n}\right\} {r1​,⋯,rn​} ，其中 $r_1$ 将 $e_1$ 映成 1, 将 $e_2,\cdots ,e_n$ 映成零，以此类推。
作为推广，在集合 $\mathcal{L}\left(V_1,\cdots ,V_p;\mathbb{R}\right)$ 中取出 $n_1{n}_2\cdots n_p$ 个元素 $\left\{r_{i_1,i_2,\cdots ,i_p}\right\}$, 其中满 足 i j ∈ { 1 , ⋯   , n i } i_{j} \in\left\{1, \cdots, n_{i}\right\} ij​∈{1,⋯,ni​}, 元素 $r_{i_1,i_2,\cdots ,i_p}$ 将多重基向量 $\left(e_{1;i_1},\cdots ,e_{p;i_p}\right)$ 映成 1, 这里取空 间 $V_k$ 的基是 { e k ; 1 , ⋯   , e k ; n } \left\{e_{k ; 1}, \cdots, e_{k ; n}\right\} {ek;1​,⋯,ek;n​}, 将其它多重基向量映成零，于是这 $n_1{n}_2\cdots n_p$ 个元素线 性无关，且对于任意 $f\in \mathcal{L}\left(V_1,\cdots ,V_p;\mathbb{R}\right)$, 存在 $n_1{n}_2\cdots n_p$ 个实数，使得
$$f=\sum _{i_1=1}^{n_1}\cdots \sum _{i_p=1}^{n_p}{k}_{i_1},\cdots ,i_p{r}_{i_1,i_2,\cdots ,i_p}$$
所以说，集合 $\mathcal{L}\left(V_1,\cdots ,V_p;\mathbb{R}\right)$ 是一个 $n_1{n}_2\cdots n_p$ 维线性空间。

例：以欧氏空间（其特征是具有内积运算）为例，说明建立多重线性空间概念的价值。
设 $x,y$ 分别是一个 $n$ 维欧式空间上的向量， 则
$$x\cdot y=\sum _{i=1}^n{x}_i{y}_i$$
其中 $x_i,y_i$ 分别是 $x,y$ 的坐标分量。你会发现，这种对向量做内积的运算就是关于欧式空间的 一个二重线性函数
$$f(x,y)=\sum _{i=1}^n\sum _{j=1}^n{k}_{i,j}{r}_{i,j}(x,y)$$
只不过它相当简单，其中的多重坐标分量可以用一个矩阵表示，并且它恰好是一个单位矩阵。

###张量的定义

张量的定义:
对于线性空间 $V$, 构造一个 $p+q$ 重线性函数 $f:{\left(V^{\ast }\right)}^p\times V^q\to \mathbb{R}$ 则称 $f$ 是 $V$ 上的一个 $(p,q)$ 型张量，或者一个 $p+q$ 阶张量，称 $p$ 为 $f$ 的反变阶数，称 $q$ 为 $f$ 的协变阶数。 特别地，空间 $V$ 自身的元素就是 $V$ 上的一个 $(1,0)$ 型张量，空间 $V$ 的对偶空间 $V^{\ast }$ 上的元素就是 $V$ 上的一个 $(0,1)$ 型张量。这说明一阶张量就是我们以往所说的向量。 称 $V$ 上的 $(p,0)$ 型张量为 $p$ 阶反变张量，称 $V$ 上的 $(0,q)$ 型张量为 $q$ 阶协变张量。

采取张量的观点看待欧式空间上的内积。取单位正交基 $e_1=(1,0,\cdots ,0),\cdots ,e_n=(0,\cdots ,0,1)$,
另取两个向量
$$x=\left(x_1,\cdots ,x_n\right),y=\left(y_1,\cdots ,y_n\right)$$
做标准内积运算
$$x\cdot y=\sum _{j_1=1}^n\sum _{j_2=1}^n{x}_{j_1}{y}_{j_2}{e}_{j_1}\cdot e_{j_2}$$
其中
$$e_{j_1}\cdot e_{j_2}=\{\begin{array}{ll}1,& j_1=j_2\\ 0,& j_1\ne j_2\end{array}$$
可以看出标准内积运算是欧式空间上的一个二阶协变张量
$$f=\sum _{j_1=1}^n\sum _{j_2=1}^n{k}_{j_1,j_2}{f}_{j_1,j_2}$$
其中的分量 $k_{j_1,j_2}$ 构成单位矩阵。
而在线性代数课上讨论的 $n$ 维空间 $V$ 上的线性变换
$$f(x)=Ax$$
其中 $A$ 是一个 $n$ 级方阵，是一个 $(1,1)$ 型张量，相应的分量 $k_{i,j}$ 就是方阵 $A$ 的分量。 这两个例子说明，以前用方阵表达的那些事物，可以被看作是二阶张量。
综上，可以直观地把 $r$ 阶张量看作是 $r$ 维的方阵。

张量积

设 $f,g$ 分别是一个 $s,t$ 重线性函数，则 $f$ 与 $g$ 的张量积定义为
$$\begin{array}{rl}& (f\otimes g)\left(x_1,\cdots ,x_s,y_1,\cdots ,y_t\right)\\ & =f\left(x_1,\cdots ,x_s\right)g\left(y_1,\cdots ,y_t\right)\end{array}$$
这里的 $x_i,y_j$ 是向量。于是 $f\otimes g$ 是一个 $s+t$ 重线性函数。容易看出张量积的结合律，也 就是说你可以写 $f\otimes g\otimes h$ 而不必添加括号。 我们给出线性空间的张量积。设 $U,V$ 分别是一个 $m,n$ 维线性空间，取 $u\in U,v\in V$, 则 $u,v$ 可以分别看作是 $U^{\ast },V^{\ast }$ 上的线性函数，于是 $u\otimes v$ 有意义。
定义 U ⊗ V = { u ⊗ v : v ∈ U ∧ v ∈ V } U \otimes V=\{u \otimes v: v \in U \wedge v \in V\} U⊗V={u⊗v:v∈U∧v∈V}， 于是 $U\otimes V$ 成为一个二重线性空间，也是一个 $mn$ 维线性空间。
###张量积的运算
张量积:
$$A\otimes B={\left[\begin{array}{ccc}{a}_{11}B& \dots & a_{1n}B\\ \dots & \dots & \dots \\ a_{m1}B& \dots & a_{mm}B\end{array}\right]}_{m\times p,n\times q}$$
张量积性质:
(1)右进法则:
$$\left[\begin{array}{ll}A& B\\ C& D\end{array}\right]\otimes E=\left[\begin{array}{ll}A\otimes E& B\otimes E\\ C\otimes E& D\otimes E\end{array}\right]$$
(2) 左进法则不成立
(3)吸收公式: $\left(A_1\otimes B_1\right)\left(A_2\otimes B_2\right)=\left(A_1{A}_2\otimes B_1{B}_2\right)$
$$\begin{array}{rl}& \text{ (4) }(A\otimes B{)}^H=A^H\otimes B^H\\ & \text{ (5) }(A\otimes B{)}^{+}=A^{+}\otimes B^{+}\\ & \text{(6) }(A\otimes B{)}^{-1}=A^{-1}\otimes B^{-1}\\ & \text{ (7) }A=A_{m\times m},B=B_{n\times n},\mathrm{tr}(A\otimes B)=\mathrm{tr}(A)\mathrm{tr}(B)\\ & \text{ (8) }A=A_{m\times m},B=B_{n\times n},\det (A\otimes B)=\det (A{)}^n\det (B{)}^m\end{array}$$
张量积的用法:
(1)求广义逆:
(i)
$${\left[\begin{array}{ll}A& 0\end{array}\right]}^{+}={\left(\left[\begin{array}{ll}1& 0\end{array}\right]\otimes A\right)}^{+}={\left[\begin{array}{ll}1& 0\end{array}\right]}^{+}\otimes A^{+}=\left[\begin{array}{l}1\\ 0\end{array}\right]\otimes A^{+}=\left[\begin{array}{c}{A}^{+}\\ 0\end{array}\right]$$
参考：
1、https://zhuanlan.zhihu.com/p/137468781
2、https://zhuanlan.zhihu.com/p/136911724
3、https://zhuanlan.zhihu.com/p/146683399
4、https://zhuanlan.zhihu.com/p/148258749?ivk_sa=1024320u
5、https://www.cnblogs.com/codeDog123/p/10238625.html