十三、张量网络机器学习（二）

十三、张量网络机器学习（二）

1. 等概率假设下的量子懒惰学习

---

       通过之前的讨论我们可知，如果我们知道了用来描述联合概率的多体态 $|\psi ⟩$ ，我们就可以通过联合概率密度计算每张图片出现的概率。概率型机器学习的核心也就是求得概率密度，联合概率密度是由 $|\psi ⟩$ 构成的，所以我们的主要任务就是构造 $|\psi ⟩$ ，一种最简单的方法定义 $|\psi ⟩$ ，就是等概率假设下的量子懒惰学习。

       对于一组图片组成的集合 $\mathbb{X}$ ，这一组图片属于相同的类型，如果我们训练一个量子态 $|\psi ⟩$ ，该量子态使得该类中每一张图片出现的概率非零且相等，也就是用其中的任意一张图片映射为量子态，如果我们将该量子态化的图片和 $|\psi ⟩$ 做内积，都得到一个非零常数。用表达式表示为：
$$\mathrm{P}(\mathbf{X})={\left(\prod _{\otimes l=1}^L\left|⟨x_l\mid \psi ⟩\right|\right)}^2=\text{ const}.\forall \mathbf{X}\propto \mathbb{X}$$

根据概率归一化，其实我们希望该常数为 $\frac{1}{N}$ ，其中 $N$ 为 $|\psi ⟩$ 中图片个数。但是实际上只要满足所有图片的乘积都是常数，它和归一化因子只相差一个常数，这个常数并不会太大的影响我们的计算。

       当上式成立时，我们认为 $|\psi ⟩$ 给出的联合概率分布 $P(\mathbf{X})$ 接近 该类图片 $\mathbb{X}$ 给出的像素的联合概率分布。也就是该概率模型就能够描述图片集像素之间真实的概率分布了。这就是 等概率假设 。

       如果已知图片集 $\mathbb{X}$ ，我们可以直接写出一种满足等概率假设的量子态 $|\psi ⟩$ ，可以用等式表示如下：
$$|{\psi }^{\text{lazy }}⟩=\frac{1}{\sqrt{|\mathbb{X}|}}\sum _{\mathrm{X}\propto \mathbb{X}}\prod _{\otimes l=1}^L|x_l⟩$$

其中 $|\mathbb{X}|$ 表示 $\mathbb{X}$ 中图片的总数量。我们称为 lazy 态 。上式表示将每一张图片对应的直积态等概率叠加起来，这个叠加得到的量子态满足等概率假设，用这个量子态就可以求得 $P(\mathbf{X})$ 。

       由于正交灾难，容易看出 lazy 态满足概率归一化条件：
$$⟨{\psi }^{\text{lazy }}\mid {\psi }^{\text{lazy }}⟩=\frac{1}{|\mathbb{X}|}\sum _{X,X^{\prime }\propto \mathbb{X}}⟨X\mid X^{\prime }⟩\approx \frac{1}{|\mathbb{X}|}\sum _{X,X^{\prime }\propto \mathbb{X}}{\delta }_{X,X^{\prime }}=1$$

       所以只要我们知道训练集，我们就可以通过特征映射计算出 $|{\psi }^{\text{lazy }}⟩$ ，该过程不需要任何的训练，而且 $|{\psi }^{\text{lazy }}⟩$ 也不包含任何的变分参数（被优化的参数）。因此通过 lazy 态实现机器学习任务被称为 量子懒惰学习 ，也就是我们的模型是通过样本直接写出的，没有任何训练的过程。这里面唯一可以调节的超参数时特征映射中的形式与参数。

       例如，我们可以通过 lazy 态实现监督性分类。对于 0 到 9 的手写体数字 MNIST 数据集，从 0 到 9 共十类手写图片，每个数字都有若干张。对于该训练集，我们定义 10 个 lazy 态，分别为：
$$|{\psi }_k^{\mathrm{l}\mathrm{a}\mathrm{z}\mathrm{y}}⟩=\frac{1}{\sqrt{\left|{\mathbb{X}}_k\right|}}\sum _{\mathbf{X}\propto {\mathbb{X}}_k}\prod _{\otimes l=1}^L|x_l⟩$$

其中 $k$ 可以取 0 到 9 ，分别表示数字 $k$ 对应的 lazy 态，${\mathbb{X}}_k$ 表示数字 $k$ 的所有样本。

       有了这 10 个 lazy 态 { ∣ ψ k l a z y ⟩ } \{\left|\psi_{k}^{\mathrm{lazy}}\right\rangle\} {∣∣∣​ψklazy​⟩} ，我们可以根据量子概率定义，估计任意图片 $Y$ 出现在第 $k$ 类的概率，只需要将图片映射为量子态后，与每类图片对应的 $|{\psi }_k^{\mathrm{l}\mathrm{a}\mathrm{z}\mathrm{y}}⟩$ 分别做内积，就可以得到该图片属于该类的概率：
$$P_k(\mathbf{Y})={\left|⟨\mathbf{Y}\mid {\psi }_k^{\mathrm{l}\mathrm{a}\mathrm{z}\mathrm{y}}⟩\right|}^2$$

得到的十个概率中，最大的概率对应的分类就是分类器 { ∣ ψ k l a z y ⟩ } \{\left|\psi_{k}^{\mathrm{lazy}}\right\rangle\} {∣∣∣​ψklazy​⟩} 给出的该图片的分类预测。

       量子懒惰学习的表现虽然不及神经网络，但是超过了其他非参数学习的方法。

2. 非监督张量网络机器学习

---

       量子懒惰学习是非参数的机器学习，因此是没有优化的余地，所以我们可以在 $|\psi ⟩$ 的基础上通过某种方式提高精度。但是 $|\psi ⟩$ 的参数复杂度会随着特征个数 $L$ 呈指数上升，也就是会出现指数墙问题。而张量网络的核心思想之一就是 用张量网络表示 $|\psi ⟩$ ，从而使参数复杂度降低到多项式级别。

       在前面的 lazy 态的表示是指数复杂的，但是如果要求 $P_k(\mathbf{Y})$ ，可以将 $Y$ 和 { ∣ ψ k l a z y ⟩ } \{\left|\psi_{k}^{\mathrm{lazy}}\right\rangle\} {∣∣∣​ψklazy​⟩} 直接带入，两个直积态相乘是多项式级的。

       以非监督的机器学习为例，在给定 $N$ 个训练样本集 { X [ n ] } \{X^{[n]}\} {X[n]} 后，我们可以训练量子态 $|\psi ⟩$，使其满足等概率假设 $P({\mathbf{X}}^{[1]})=P({\mathbf{X}}^{[2]})=\cdots$ ，这被称为 MPS 非监督机器学习。这种非监督学习不需要我们给出指定的标签，其可以对样本进行学习，将样本中的每种图片的联合概率密度算出来。

       为例达到目的，我们定义交叉熵损失函数：
$$f\left(\left\{X^{[n]}\right\}\right)=-\frac{1}{N}\sum _{n=1}^N\ln P\left(X^{[n]}\right)=-\frac{1}{N}\sum _{n=1}^N\ln {\left(\prod _{\otimes l=1}^L|⟨x_l^{[n]}|\psi ⟩|\right)}^2$$

其中 $N$ 为训练集的样本总个数。该定义就是直接对每个图片的 $P({\mathbf{X}}^{[\mathbf{n}]})$ 求 $\ln$ 之后累加求和。当且仅当 $P({\mathbf{X}}^{[1]})=P({\mathbf{X}}^{[2]})=\cdots$ 时，$f$ 达到极小。该函数刻画了 $|\psi ⟩$ 表示的概率分布和我们想要的等概率分布之间的差距。MPS 表示下的损失函数用图形表示如下，其表示为将上面的量子多体态 $|\psi ⟩$ 写成 MPS 态，这样其复杂度仅仅关于 $L$ 为多项式复杂：

       定义损失函数后，我们可以通过梯度更新方法，更新张量网络中的张量，使得损失函数降到极低，梯度更新的公式为：
$$A^{(l)}\leftarrow A^{(l)}-\eta \frac{\partial f}{\partial A^{(l)}}$$

其中梯度步长 $\eta$ 在机器学习中又被称为学习率。

       使用 MPS 表示 $|\psi ⟩$ 时，可以利用 MPS 中心正交形式，逐个更新各个张量，其更新的步骤如下

1. 更新第 $l$ 个张量 $A^{(l)}$ 时，将正交中心移动至该张量。
2. 利用张量网络的微分法则，求出损失函数关于 $A^{(l)}$ 的梯度，梯度的求法可以用图形表示如下：
   

当 $f$ 达到极小时，等概率假设就近似满足了，对应的 MPS 态给出的 $P({\mathbf{X}}^{[\mathbf{n}]})$ 就是我们想要的联合密度，之后我们就可以用联合密度进行分类，分类时对每一类计算一个 MPS 态，就可以用上面相同的方式进行分类了。

       我们还可以使用自动微分的方式进行梯度的计算。中心正则方式下逐个更新张量与自动微分同时通信所有张量相比，前者的精度与收敛速度更好，这是因为前者的更新使用了中心正交形式，满足切空间更新原理。

3. 张量网络图片生成与压缩

---

1. 子体系的联合概率和整个体系的联合概率之间的关系

       如果将特征量分为两个部分 { x l } = { x m [ A ] } ∪ { x m [ B ] } \{x_l\}=\{x_m^{[A]}\}\cup\{x_m^{[B]}\} {xl​}={xm[A]​}∪{xm[B]​}，比如将图片分成两个部分，$\mathrm{P}\left(\left\{x_m^{[\mathrm{A}]}\right\}\cup \left\{x_n^{[\mathrm{B}]}\right\}\right)$ 为整体的联合密度，如果我想要知道其中一部分的联合密度，可以用下面的公式求出，也就是可以通过直接对 $A$ 的自由度求和就可以得到 $B$ 的联合密度：
$$\mathrm{P}\left(\left\{x_n^{[\mathrm{B}]}\right\}\right)=\sum _{\left\{x_m^{[\mathrm{A}]}\right\}}\mathrm{P}\left(\left\{x_m^{[\mathrm{A}]}\right\}\cup \left\{x_n^{[\mathrm{B}]}\right\}\right)$$

       根据上面的公式我们可以将子体系的联合密度分布和对应的约化密度算子联系起来，也就是子体系的联合密度分布，可以由对应体系的约化密度算子求出。

       某一子部分 { x m [ B ] } \{x_m^{[B]}\} {xm[B]​} 对应的 qubit 的约化密度矩阵可以表示如下：

$${\hat{\rho }}^{[B]}={\mathrm{Tr}}_{\left\{x_m^{[A]}\right\}}|\phi ⟩⟨\phi |$$

其表示，对完整的态做外积，得到一个密度算子，之后对子空间 $A$ 部分的自由度求和，${\mathrm{Tr}}_{\left\{x_m^{[A]}\right\}}$ 表示对 { x m [ A ] } \{x_m^{[A]}\} {xm[A]​} 对应的 qubit 的自由度求迹，这样密度算子里就只剩下 $B$ 的自由度。即一个纯态的子体系的密度算子，就是对剩余体系的自由度在外积构成的密度算子下进行求和。

       之后我们就可以直接通过约化密度算符直接求得 $B$ 体系的联合概率密度，即直接对约化密度算符进行概率性的观测，用 $B$ 部分进行映射得到的直积态取观测 $B$ 系统的约化密度算符，就可以得到 $B$ 系统的概率密度，用公式表示如下：
$$\mathrm{P}\left(\left\{x_n^{[\mathrm{B}]}\right\}\right)=\prod _{\otimes n}⟨x_n^{[\mathrm{B}]}\left|{\hat{\rho }}^{[B]}\right|x_n^{[\mathrm{B}]}⟩$$

上面的步骤可以用图形表示如下：

1. 求得 $B$ 部分的约化密度矩阵 ${\hat{\rho }}^{[B]}$ 。下图中 $Tr$ 后的图形表示式子 ${\left({\prod }_{\otimes l=1}^L\left|⟨y_l\mid \psi ⟩\right|\right)}^2$ 中进行平方的两部分，也就是整体的联合概率密度。$Tr$ 表示对全空间的 $A$ 系统进行求和，因为是两部分做外积，因为将图片进行量子化时近似满足正交完备条件，即
   $$\sum _{\left\{x_m^{[\mathrm{A}]}\right\}}\prod _{\otimes m}|x_m^{[\mathrm{A}]}⟩⟨x_m^{[\mathrm{A}]}|\propto I$$
   所以上下相对的两个绿色向量的直积替换为单位阵，就可以直接用竖线相连，得到右边的结果。
   

2. 之后使用 $B$ 部分的量子化直积态和约化密度矩阵相乘，得到 $B$ 部分的概率密度。
   

2. 条件概率进行图像修复

       当我们获得量子态 $|\psi ⟩$ 后，不但可以求出像素的联合概率密度，还可以计算条件概率。

       考虑已知 $|\psi ⟩$ 中的部分像素 { x m [ A ] } \{x_m^{[A]}\} {xm[A]​} ，我们记剩余未知像素为 { x n [ B ] } \{x_n^{[B]}\} {xn[B]​} ，则未知像素的概率分布可由如下的条件概率给出：
$$P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)={\left(\prod _{\otimes n}⟨x_n^{[B]}\mid \tilde{\psi }⟩\right)}^2$$

其中，量子态 $|\tilde{\psi }⟩$ 为通过对 $|\psi ⟩$ 的投影测量获得，其表示将整体 $|\psi ⟩$ 中的 $A$ 部分收缩掉，得到的是 $B$ 部分的联合概率 $|\tilde{\psi }⟩$：
$$|\tilde{\psi }⟩=\frac{1}{Z}\prod _{\otimes m}⟨x_m^{[A]}|\psi ⟩$$

其中的 $Z$ 为归一化系数。$|\tilde{\psi }⟩$ 为 { x n [ B ] } \{x_n^{[B]}\} {xn[B]​} 对应的量子概率模型，其包含的 qubit 数与 { x n [ B ] } \{x_n^{[B]}\} {xn[B]​} 中像素个数一致。我们可以用图形表示 $|\tilde{\psi }⟩$ 如下，也就是将 $A$ 部分的像素和 $|\psi ⟩$ 收缩求和，就得到只剩 $B$ 部分的 $|\tilde{\psi }⟩$ 。

       在等概率的先验分布前提下，上面条件概率的定义与之前子系统的概率公式是自洽的。根据概率论中的全概率公式：
$$P\left(\left\{x_n^{[B]}\right\}\right)=\sum _{\left\{x_m^{[A]}\right\}}P\left(\left\{x_m^{[A]}\right\}\cup \left\{x_n^{[B]}\right\}\right)=\sum _{\left\{x_m^{[A]}\right\}}P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)P\left(\left\{x_m^{[A]}\right\}\right)$$

先验分布近似为等概率分布的前提下，我们可以直接将 $P\left(\left\{x_m^{[A]}\right\}\right)$ 作为一个常数，将 $\frac{1}{Z}$ 提取到求和号外，有
$$P\left(\left\{x_n^{[B]}\right\}\right)=\frac{1}{Z}\sum _{\left\{x_m^{[A]}\right\}}P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)$$

将条件概率公式：
$$P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)={\left(\prod _{\otimes n}⟨x_n^{[B]}\mid \prod _{\otimes m}⟨x_m^{[A]}|\psi ⟩⟩\right)}^2$$

带入上式可得概率公式（ Tr ⁡ { x m [ A ] } \operatorname{Tr}_{\{x_m^{[A]}\}} Tr{xm[A]​}​ 和 ∑ { x m [ A ] } \sum_{\{x_m^{[A]}\}} ∑{xm[A]​}​ 等价）：
$$\mathrm{P}\left(\left\{x_n^{[\mathrm{B}]}\right\}\right)=\prod _{\otimes n}{\mathrm{Tr}}_{\left\{x_m^{[\mathrm{A}]}\right\}}⟨x_n^{[\mathrm{B}]}\mid \phi ⟩⟨\phi \mid x_n^{[\mathrm{B}]}⟩=\prod _{\otimes n}⟨x_n^{[\mathrm{B}]}\left|{\mathrm{Tr}}_{\left\{x_m^{[A]}\right\}}|\phi ⟩⟨\phi |\right|x_n^{[\mathrm{B}]}⟩$$

其中
$${\mathrm{Tr}}_{\left\{x_m^{[A]}\right\}}|\phi ⟩⟨\phi |={\hat{\rho }}^{[B]}$$

       在已知 $|\psi ⟩$ 和 { x m [ A ] } \{x_m^{[A]}\} {xm[A]​} 的条件下，我们可以根据 $P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)$ 对 { x m [ B ] } \{x_m^{[B]}\} {xm[B]​} 进行蒙特卡洛采样，从而根据已知像素来生成未知像素 { z l } \{z_l\} {zl​} ，但是该概率分布中包含的可能性个数会随着未知像素的个数呈指数上升，因此在一般情况下我们不会直接通过 $P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)$ 进行生成 { x m [ B ] } \{x_m^{[B]}\} {xm[B]​} 。

       我们可以采用如下逐点生成的方法避免指数级复杂的 $P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)$ ：

1. 通过 $|\psi ⟩$ 与已知像素 { x m [ A ] } \{x_m^{[A]}\} {xm[A]​} ，利用投影公式计算描述未知像素对应的量子态，记为 $|{\tilde{\psi }}^{(0)}⟩=\frac{1}{Z}{\prod }_{\otimes m}⟨x_m^{[A]}|\psi ⟩$ 。
2. 在第 $t$ 步得到 $|{\tilde{\psi }}^{(t-1)}⟩$ ，之后我们计算在 $B$ 部分中第 $t$ 个未知像素 $x_t^{[B]}$ 对应的 qubit 的约化密度矩阵 ${\tilde{\rho }}^{[t-1]}$ （因为是单个 qubit 的约化密度举着，所以其系数为 $2\times 2$ 的厄密矩阵） ，计算该像素的概率分布 $P(x)=⟨x\left|{\hat{\rho }}^{[t-1]}\right|x⟩$ ，并根据该概率分布进行采样，生成该像素 $x_t^{[B]}$ 。
3. 如果仍有未知像素，则根据生成的像素对 $|{\tilde{\psi }}^{(t-1)}⟩$ 进行投影得到 $|{\tilde{\psi }}^{(t)}⟩=\frac{1}{z}⟨x_t^{[B]}\mid {\tilde{\psi }}^{(t-1)}⟩$ ，并重复执行第二步。每经过一次第二和第三步，就能计算除出来一个像素，循环计算得出所有的像素。

       如果我们仅仅知道 $|\psi ⟩$ 但是不知道任何像素，也可以通过逐点生成法直接生成一张图片，这时直接开始第二步循环生成。

       每次通过约化密度矩阵计算出单个像素的概率分布后，可以通过随机采样生成该像素。

       可以在获得单像素概率分布后，计算最概然的像素值作为生成的像素，也就是在第二步生成 $x_t^{[B]}$ 时选择使 $P(x)$ 达到最大的 $x$ 作为像素值，采用这种方法时，每个量子态 $|\psi ⟩$ 仅生成一张最概然图片，被称为 量子平均图。

       利用最概然生成法，我们可以对图片进行 压缩采样 ，也就是对于目标图片，通过保留尽量少的像素，利用量子态恢复重构出原始图片，也就是在保存时只保留少量像素，当需要整张图片时我们通过量子态将其余像素生成，这被称为 张量网络压缩感知 。

       其中采用的采样方法被称为纠缠次序采样协议（EOSP） ，其核心思想是利用纠缠熵（也就是量子版本的信息熵），衡量不同像素携带的信息量的大小，以此采样出信息量（纠缠熵）大的像素。也就是直接计算每个像素对应的纠缠熵，如果我们需要保留 $n$ 个像素，只需要保留纠缠熵最大的 $n$ 个像素即可。

4. 监督性张量网络机器学习

---

       从量子概率的角度理解非监督张量网络机器学习后，监督性张量网络机器学习可以看作是非监督的自然推广，这点是不同于神经网络等非概率机器学习模型的。

       以分类任务为例，我们需要使用张量网络建立从数据（特征量 { x } \{x\} {x}）到分类标签 $\kappa$ 的函数映射 $f$ ，而对于概率模型而言，该映射可以由条件概率 $P$ 给出：
f : { x } → κ ⇒ P ( κ ∣ { x } ) f:\{x\} \rightarrow \kappa \Rightarrow P(\kappa \mid\{x\}) f:{x}→κ⇒P(κ∣{x})

       我们可以考虑利用张量网络建立该条件概率，一种常用的方法采用非监督学习的方法先获得 $|\hat{\psi }⟩$ ，并计算联合概率分布，再通过投影计算获得条件概率。

        $|\hat{\psi }⟩$ 中含有 $(L+1)$个 qubit ，其中 $L$ 个 qubit 对应于图片像素，一个 qubit 对应于分类标签，因此，MPS 表示中应该含有 $(L+1)$ 个物理指标。也就是将已知的标签信息也看作图像的一个特征，将 MPS 扩展为有 $(L+1)$ 个特征的样本，之后使用标准的非监督张量网络机器学习训练 MPS 态，训练后使用条件概率公式 $P\left(\left\{x_n^{[B]}\right\}\mid \left\{x_m^{[A]}\right\}\right)$ 计算条件概率，之后就可以使用条件概率得到数据到标签的映射。

       其具体步骤为：

1. 将分类标签 $\kappa$ 也当作是特征量，利用训练集进行非监督机器学习，训练量子态 $|\hat{\psi }⟩$ 。

2. 利用投影计算条件概率
   P ( κ ∣ { x } ) = ( ⟨ κ ∣ ∏ ⊗ n ⟨ x n ∣ ψ ^ ⟩ ) 2 P(\kappa \mid\{x\})=\left( \langle \kappa | \prod_{\otimes n}\left\langle x_{n} \mid \hat{\psi}\right\rangle\right)^{2} P(κ∣{x})=(⟨κ∣⊗n∏​⟨xn​∣ψ^​⟩)2

   分类的结果就是最大值的标签 arg max ⁡ κ P ( κ ∣ { x } ) \argmax_{\kappa}P(\kappa|\{x\}) κargmax​P(κ∣{x}) 。

       关于非监督张量网络机器学习，并不一定要按照条件概率建立映射，当矩阵乘积态不满足量子态对应的归一化条件时，条件概率的图景也就丢失了，因为量子态归一化条件是张量网络量子概率可解释性的核心，所有上述算法失效，而矩阵乘积态也就仅仅表示了从特征量到分类标签的映射 f : { x } → κ f:\{x\} \rightarrow \kappa f:{x}→κ 。此时，可直接利用自动微分技术使用梯度下降法训练模型。

       舍去量子态归一化条件的张量网络分类精度要高于量子概率性的张量网络，其牺牲了可解释性，但是有了更高的精度。

       张量网络不但可以作为非概率性的映射进行监督性学习，也可以作为量子态进行量子概率性机器学习，还可以作为经典概率模型进行概率性机器学习。张量网络即可以表示量子模型，也可以表示经典的模型，其作为一种表示模型是不区分经典和量子的，但是我们在加入一些约束条件时才有了量子意义，所以张量网络也可以作为经典概率模型进行机器学习，其中的两个例子为受限波尔兹曼机与贝叶斯张量网络。