RBM到MPS的转换

本文介绍了如何将受限玻尔兹曼机(RBM)转换为矩阵乘积状态(MPS)。首先,解释了RBM的基本概念,包括其网络结构和参数。接着,详细阐述了直接映射法,将RBM转换为MPS的步骤,并涉及长范围连接的处理。最后,探讨了最优映射法,寻找最小集合以降低MPS的维度。全文提供了算法、过程图和解释,适合NLP领域的初学者参考。
摘要由CSDN通过智能技术生成

刚刚踏入NPL的小白哈哈哈哈哈(激动.jpg),最近在读一篇关于量子的论文《Equivalence of restricted Boltzmann machines and tensor network states》,论文中提到了如何将RBM与TNS相互转换,下面就记一下论文中的第二部分“将RBM转换到MPS”。

这是自己用比较易懂的话来解释的,如有不足请多多谅解,我也会继续研究,欢迎指教呀~~~~贴上论文的地址https://arxiv.org/pdf/1701.04831.pdf

 

一、预备知识

1、什么是RBM?

RBM是一种能量模型,用无监督学习的方法,它的目的就是最大可能地拟合训练数据(就是对输入数据的概率分布进行建模,对于一组数据来说如果我们知道了它符合什么分布,就能够确定RBM的参数,网络便能更好地进行学习)。这里放一个介绍RBM的博客,我觉得讲得挺好的http://lib.csdn.net/article/deeplearning/59097?knId=1746 

(1)RBM网络结构                        

图(1)

 

RBM具有可视层和隐层,标准的RBM其可视层单元和隐层单元应该是全连接的,但是在进行RBM—>TNS的转化时,为了更方便地解释他们之间的转化,这里的RBM就采用了稀疏连接。

(2)RBM的参数

:可视层单元的偏置

:隐层单元的偏置

:可视层单元与隐层单元的连接权值

 

二、RBM到MPS的直接映射法

1、步骤

(1)在不改变RBM原有结构的条件下将RBM转化为TNS(RBM的可视单元对应TNS中的实际变量,隐层单元对应TNS中的虚拟变量);

(2)第二通过划分n个片(每个片中包含一个可视单元,隐层单元在这些片中的分配是随意的),将TNS映射到MPS中。

下面给出直接映射的算法、过程图以及详细的过程解释。

2、算法

图(2)

 

 3、过程图

图(3)

 

以图(1)为例,在不改变图(1)结构的条件下,我们将RBM变成了图(3)中的(a)(我们要知道RBM的每个单元是用圆点代表,T

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值