Paper notes（3）:Tensor-Train Decomposition

最新推荐文章于 2022-01-11 10:21:20 发布
VIP文章 最新推荐文章于 2022-01-11 10:21:20 发布
阅读量1.1k 收藏 7
点赞数 1
分类专栏： paper notes 张量分解
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/coldsun233/article/details/106070353
版权

Paper notes（3）:Tensor-Train Decomposition


本文只是个人用于记录论文学习笔记，如有写错的地方还望各位大佬批评指正。

1.文章的主要内容

给出了一种简单的非递归的张量分解形式，避免了“维度诅咒”的影响，该分解形式得到的参数数量与正则分解（canonical decomposition）的参数数量相同，但更稳定，因为该种分解是基于辅助展开矩阵的低秩近似。

2.TTD模型

给定一个 d d d维张量 B B B,如果想用张量 A A A近似张量 B B B，则 A A A的每一个元素可以表示为：
A ( i 1 , i 2 , . . . , i d ) = G 1 ( i 1 ) G 2 ( i 2 ) . . . G d ( i d ) (1.2) \tag{1.2} A(i_1,i_2,...,i_d)=G_1(i_1)G_2(i_2)...G_d(i_d) A(i1​,i2​,...,id​)=G1​(i1​)G2​(i2​)...Gd​(id​)(1.2)

其中 G k ( i k ) G_k(i_k) Gk​(ik​)是一个 r k − 1 × r k r_{k-1}\times r_k r

最低0.47元/天 解锁文章
coldsun233
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
TT-Toolbox-master_decomposition_tensor_train_498tt_
10-01
decompose tensor by tensor train algorithm
浅析张量分解（Tensor Decomposition）
热门推荐
yixianfeng41的专栏
06-10 7万+
一般一维数组，我们称之为向量（vector）,二维数组，我们称之为矩阵（matrix）;三维数组以及多位数组，我们称之为张量（tensor）。 在介绍张量分解前，我们先看看矩阵分解相关知识概念。一、基本概念矩阵补全（Matrix Completion）目的是为了估计矩阵中缺失的部分（不可观察的部分），可以看做是用矩阵X近似矩阵M，然后用X中的元素作为矩阵M中不可观察部分的元素的估计。矩
t3f:TensorFlow上的Tensor Train分解
05-01
用于Tensor Train（TT）分解的库的TensorFlow实现，也称为矩阵乘积状态（MPS）。 文献资料 该文档可通过。 与其他图书馆的比较 还有大约十二个其他库正在实施Tensor Train分解。 t3f与其他库之间的主要区别在于， t3f广泛支持黎曼优化，并且它使用TensorFlow作为后端，因此支持GPU，自动区分和批处理。 要与其他库进行更详细的比较，请参阅文档中的。 测验 nosetests --logging-level=WARNING 建筑文件 该文档由sphinx构建，并托管在readthedocs.org上。 要在本地重建文档，请安装sphinx并通过以下方式编译文档： cd docs make html 引用 如果您在研究工作中使用T3F，我们请您引用描述此库 @article{JMLR:v21:18-008, author = {Alexande
张量分解（四）：Tensor-train Decomposition
Flying_sfeng的博客
02-16 1万+
在讲解Tensor-train Decomposition之前，我们先看一下Tensor-train Decomposition在三阶张量上的分解形式： Tensor-train Decomposition将原来的高维张量分解为多个三维张量的乘积（首尾张量为二维），具体分解形式如下图： Tensor-train Decomposition的参数优化方法为TT-SVD： 参考：Tensor-T...
Tensor Train Decomposition for Recurrent Neural Network环境配置问题
XU_MAN_的博客
01-11 435
https://github.com/philip-bl/tensor_train_rnn 以上为论文链接 1，在pycharm中如何使用wget下载数据 在文件中引用直接使用绝对路径 2，TypeError: add_weight() got multiple values for argument 'name' 解决方法：将add_weight()中的第一个参数命名为shape= 3,AttributeError: 'tuple' object has no attribute.
（9）Tensor-Train分解
keith的博客
12-09 2862
1.tensor-train（TT）分解定义 2.如何实现TT分解 3.TT秩以及TT低秩近似
五、Tensor-train分解
上官永石的博客
08-02 3611
五、Tensor-train分解 1. 量子态与量子算符        我们知道，量子的状态用态矢 ∣φ⟩|\varphi\rangle∣φ⟩ 来表示，可以表示为基态的线性组合的系数构成的列向量，算符表示对态矢的操作，可以通过矩阵来表示。        给定基矢，确定量子态与算子的矩阵表示后，相关的计算变为向量与矩阵的运算。对量子态做的某种操作可以转换为矩阵表示的算子
t-BNE: Tensor-based Brain Network Embedding
02-07
t-BNE: Tensor-based Brain Network Embedding
matlab数据输入代码-Stochastic-Nonparametric-Event-Tensor-Decomposition:NIPS'2
05-27
matlab数据输入代码@ NIPS'2018 要求 麻省理工学院执照 作为运行我们的代码的软件 怎么跑 下载随机非参数事件张量分解存储库 对于我们的（rfp-hp），打开Matlab，运行###“ Test” +“ file_name ...
oseledets/TT-Toolbox:MATLAB 工具箱，用于处理 Tensor-Train (TT) 格式的高维张量-matlab开发
05-31
TT-Toolbox (TT=Tensor Train) 2.2 版TT(Tensor Train) 格式是一种有效的低参数方式高维张量的表示。 TT-工具箱是基本操作的 MATLAB 实现TT 格式的张量。 这包括： * tt_tensor 和 tt_matrix 类用于存储向量和...
xerus:具有高阶张量，Tensor-Train分解矩阵乘积状态和其他Tensor网络的数值计算通用库
05-21
关于 xerus库是用于使用高阶张量，Tensor-Train分解/矩阵乘积状态和其他Tensor网络进行数值计算的通用库。 开发的重点是对需要高阶张量或其分解的任何设置的简单可用性和适应性。 有关教程和文档，请参见。 源代码已根据AGPL v3.0获得许可。 有关更多详细信息，请参见LICENSE文件。 特征 涉及任意度张量的表达式的直观表示法： A(i,j) = B(i,k,l) * C(k,j,l) ; 具有自动优化的收缩顺序的张量表达式的惰性求值。 使用密集或稀疏分量张量完全实现Tensor Train（或Matrix Product State）分解的所有通用功能。 常见算法的实现，例如ALS，（多站点）DMRG，ASD，AFD，CG和一些不太常见的算法，例如，在Tensor列中查找最大条目。 构建Xerus库 复制默认配置并根据需要进行修改 cp config.mk。
张量分解tensor_tool
04-09
利用matlab写的张量分解，可用于高阶张量的分析
张量分解-CP分解
10-10
张量分解-CP分解，一种经典的张量分解的方法。网页截图
Tensor Decomposition
weixin_34178244的博客
10-02 114
1. Tensor Decomposition and its application:http://epubs.siam.org/doi/pdf/10.1137/07070111X 转载于:https://www.cnblogs.com/stoneresearch/p/4336596.html
Tensor Train 分解
abcxyz11111的博客
04-02 2075
这一节主要是讲一下高阶张量的TT分解，由于复合量子系统的基矢对应的系数向量的维数会随着子系统个数的增加呈指数上升，因此我们需要TT分解低秩近似来解决这样的一个“指数墙”的问题。 TT分解的思想是把N阶张量分解成N个二阶和三阶张量的缩并，具体的分解形式，包括辅助指标的定义，上图描述的很清楚，此处不做赘述。 形式是清楚的，但是具体的分解方法其实有很多的细节在里面，这些细节性的东西也是本次博客重点介绍的地方： 我们以画圈的四阶张量为例讲解具体的分解过程（注意这里是四阶张量，红线处的那个指标不能忽略），我们把红
tensor decomposition
weixin_30682415的博客
08-27 107
Tensor Decompositions andApplications 这篇论文里有介绍不少张量分解的survey，我现在正在系统的看tensor decomposition，这个一定要总结 转载于:https://www.cnblogs.com/jilichuan/archive/2012/08/27/2657970.html...
【Towards Efficient Tensor Decomposition-Based DNN Model Compression withOptimization Framework】论文
epic_Lin的博客
11-21 1209
基于张量分解的DNN模型压缩 摘要 先进的张量分解技术，比如tensor train(TT)和tensor ring(TR)。然而，使用TT/TR压缩卷积神经网络(CNNs)总是遭受显著的精度损失。本文提出了一个使用交替方向乘子法的(ADMM)基于张量分解的模型压缩的系统框架。将基于TT分解的模型压缩构造为具有张量秩约束的优化问题（an optimization problem with constraints on tensor ranks），我们利用ADMM技术以迭代的方式(in a iterat.
张量分解（五）：Tensorizing Neural Network
Flying_sfeng的博客
02-16 6940
张量分解系列： 张量分解（一）：张量分解（一）：基础知识 张量分解（二）：张量分解（二）：CP分解 张量分解（三）：张量分解（三）：Tucker分解 张量分解（四）：张量分解（四）：Tensor-train Decomposition Tensorizing Neural Network即张量化神经网络，跟一般神经网络的区别是把输入输出，权重，偏置等转换成张量的形式，反向传播同样使用链式法则。 这...
解释代码 dataset: ref: nas.dataset common: train_portion: 1.0 train: batch_size: 96 shuffle: True transforms: - type: RandomCrop size: 32 padding: 4 - type: RandomHorizontalFlip - type: ToTensor - type: Normalize mean: - 0.49139968 - 0.48215827 - 0.44653124 std: - 0.24703233 - 0.24348505 - 0.26158768 - type: Cutout length: 8 # pipeline scale this number to 8*20/10 val: batch_size: 96 shuffle: False
最新发布
06-03
- `train`: 训练数据集的参数，包括批量大小、是否打乱数据、数据增强的方式等。 - `batch_size`: 批量大小。 - `shuffle`: 是否打乱数据集。 - `transforms`: 数据增强的方式，包括随机裁剪、水平翻转、归一化和...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值