论文笔记 ：Tensor Factorization for Low-Rank Tensor Completion

最新推荐文章于 2023-12-08 00:46:06 发布
最新推荐文章于 2023-12-08 00:46:06 发布
阅读量2.4k 收藏 15
点赞数 2
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/mojingmiao/article/details/105770288
版权

         一、本文创新点

二、符号和定义

三、以前的模型

四、本文的模型

一、本文创新点

1、针对张量补全问题，提出了一种有效的低秩张量分解方法；我们的方法通过把一个张量分解成两个更小张量的乘积来刻画它的低管秩结构，并且在每次迭代中只需要更新两个更小的张量

2、我们提出了一种自适应方法来估计每次迭代的张量低管秩。

3、我们证明了所提出的交替极小化算法可以收敛到一个Karush-Kuhn-Tucker点。

二、符号和定义

1、Discrete Fourier Transformation (DFT)

记\bar{\chi }\in \mathbb{C}^{n_{1}\times n_{2}\times n_{3}}作为\chi \in \mathbb{C}^{n_{1}\times n_{2}\times n_{3}} 的DFT的结果

定义DFT matrix：
 
       
其中：
 
   \bar{\chi }\left ( i,j,: \right )=F_{n3} \chi \left ( i,j,: \right )
 
2、
 
       
 
 
3、the block circulant  matrix 
 
           
 
4、T-product
定义： \chi \in \mathbb{R}^{n_{1}\times n_{2}\times n_{3}}, \gamma \in \mathbb{R}^{n_{2}\times n_{4}\times n_{3}},
即  \chi \ast \gamma =fold\left ( bcirc\left ( \chi \right ) .unfold\left ( \gamma \right )\right )\in \mathbb{R}^{n_{1}\times n_{4}\times n_{3}}
其中  unfold\left ( \chi \right )=\left [ \chi ^{\left ( 1 \right )} ;\chi ^{\left ( 2 \right )};\cdots ;\chi ^{\left ( n \right )}\right ]\in \mathbb{R}^{n_{1}n_{3}\times n_{2}}
 
  \left ( unfold\left ( \chi \right ) \right )=\chi
 
重要性质：
 
 
5、T-SVD
给定：
 
有：
 
 
其中 ，
 
 
6、张量多秩和Tubal秩（Tensor Multi-Rank and Tubal Rank）
 
 
：
 
Tubal Rank: 
 
 
7、张量核规范（Tensor nuclear norm)
 
                                           
 
 
8、引理1
                       
 

三、以前的模型

 

本文的思路是从矩阵填充拓展过来的，

1、SNN:the sum of the nuclear norm

                     

2、matrix factorization method

3、a new tensor nuclear norm (TNN)（使用低管秩）

                                

 

四、本文的模型

                      

算法框架：

                      

 

具体优化原理如下：

             

根据法则1，可以转化为：

          

 

Update :

                    

 

 

:

         

 

 

mojingmiao
关注
  • 2
    点赞
  • 踩
  • 15
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
TuckER：Tensor Factorization for Knowledge Graph Completion.pdf
08-09
Knowledge graphs are structured representations of real world facts. However, they typically contain only a small subset of all possible facts. Link prediction is a task of inferring missing facts based on existing ones. We propose TuckER, a relatively simple but powerful linear model based on Tucker decomposition of the binary tensor representation of knowledge graph triples. TuckER outperforms all previous state-of-the-art models acrossstandardlinkpredictiondatasets. Weprove that TuckER is a fully expressive model, deriving the bound on its entity and relation embedding dimensionality for full expressiveness which is several orders of magnitude smaller than the bound of previous state-of-the-art models ComplEx and SimplE. We further show that several previously introducedlinearmodelscanbeviewedasspecial cases of TuckER.
张量学习：张量补全（tensor completion）
SmartLab307的博客
04-07 4655
目录 一、什么是张量（Tensor）? 二、张量补全（tensor completion） 1 基于张量分解的方法 1.1 基于CP分解 1.2 基于Tucker分解 1.3 基于张量链分解 1.4 基于张量环分解 1.5 基于t-SVD分解 2 秩最小化模型 2.1 Tucker秩最小化模型 2.2 张量链秩最小化模型 2.3 管秩最小化模型 一、什么是张量（Tensor）? 张量这个词英文叫Tensor。很多人有可能觉得比较陌生，但相信大部分人都听说过Tensor...
基于低秩张量填充的图像修复【初尝试】
qq_46401500的博客
12-08 1129
利用低秩张量的概念，构建凸优化问题，对受损图像进行修复
TuckER:Tensor Factorization for Knowledge Graph Completion
qq_42397330的博客
04-30 1413
TuckER: Tensor Factorization for Knowledge Graph Completion 论文来源：ICML2019 论文链接：https://arxiv.org/abs/1901.09590 代码链接：https://github.com/ibalazevic/TuckER 总结：这篇文章利用了一个高级的公式，可能很多人看到这个公式就怕了，确实如此，我看到这个公式就晕了，不知道其中的具体含义，其实如果你实在搞不懂具体的意思，也可以忽略，大致理解作者的想法就行了，我是在看
张量奇异值分解
weixin_44134107的博客
12-23 638
张量奇异值分解
多维图像去噪方法研究
SmartLab307的博客
05-04 2023
因此，HS图像丰富的空间和光谱信息极大地提高了地球观测的感知能力，这使得HS RS技术在精准农业（例如监测农作物的生长和健康）等领域发挥着至关重要的作用，太空探索（例如，寻找其他行星上的生命迹象）、污染监测（例如，检测海洋漏油）和军事应用（例如，识别军事目标）。综合实验证明：（i）BM3D系列用于各种去噪任务的有效性和效率，（ii）与张量算法相比，简单的基于矩阵的算法可以产生类似的结果，以及（iii）用合成高斯噪声训练的几个DNN模型在现实世界的彩色图像和视频数据集上显示出最先进的性能。
张量（三）：张量鲁棒主成分分析（TRPCA）
wwb44444的博客
10-07 7033
基于张量分解，张量鲁棒主成分分析法（TRPCA）是对鲁棒主成分分析（RPCA）的高阶扩展，在数据去噪等领域拥有广泛应用。本篇将对TRPCA以及其最新的改进模型做出介绍。 一、RPCA 在实际应用中，很多数据矩阵往往是低秩或近似低秩的。理想状态下，数据矩阵的行与行之间应当具有极强的相似性，整个矩阵应当是低秩的。但由于数据噪声的存在，破坏了这种低秩性。因此，为了恢复矩阵的低秩结构，可将矩阵D分解为两个矩阵之和，即低秩矩阵A和稀疏矩阵E，D=A+E。低秩矩阵为分离了噪声的真实矩阵，稀疏矩阵为分离出的噪声矩阵。
笔记：Sparse and Truncated Nuclear Norm Based Tensor Completion
Xue Shengke 博客
07-21 6014
本文是这篇 Neural Processing Letter 期刊论文的笔记，主要是对文中的理论方法进行展开详解。本人学术水平有限，文中如有错误之处，敬请指正。
笔记：Tensor RPCA: Exact recovery of corrupted low-rank tensors via convex optimization
qq_26499769的博客
01-16 1209
Lu, C., et al., Tensor robust principal component analysis: Exact recovery of corrupted low-rank tensors via convex optimization, in IEEE Conference on Computer Vision and Pattern Recognition. 2016. p
【CVPR2022】论文列表与下载——PartFour
TomRen
06-12 2645
【CVPR2022】完整论文列表
Hyperspectral Dimensionality Reduction by Tensor Sparse and Low-Rank Graph-Based Discriminant Analysis
02-07
Hyperspectral Dimensionality Reduction by Tensor Sparse and Low-Rank Graph-Based Discriminant Analysis
PyTorch 基础：Tensor（张量）-谢TS的博客.pdf
07-17
torch.Tensor 是包含单一数据类型元素的多维数组，它是 PyTorch 中数据存储和运算的基本单元，类似于 NumPy 的 numpy.ndarray，两者的函数接口和运算方式几乎一样。实际上 PyTorch 内部也是把 ndarray 包装成 Tensor...
T2T：Tensor2Tensor变压器-Python开发
05-25
Tensor2Tensor或简称T2T是一个深度学习模型和数据集的库，旨在使深度学习更易于访问并加速ML研究。 Tensor2Tensor Tensor2Tensor或简称T2T，是一个深度学习模型和数据集的库，旨在使深度学习更易于访问并加速ML研究...
Spatial–spectral total variation regularized low-rank tensor decomposition for hyperspectral image denoising
02-08
Several bandwise total variation (TV) regularized low-rank (LR)-based models have been proposed to remove mixed noise in hyperspectral images (HSIs). These methods convert high-dimensional HSI data ...
基于matlab实现的一种新型的配电网潮流计算,基于前推回代法
05-03
基于matlab实现的一种新型的配电网潮流计算,基于前推回代法，并附有10kv配电网数据，利用新的判别手段，成功解决配电网不收敛的问题.rar
node-v5.3.0.tar.xz
05-03
Node.js，简称Node，是一个开源且跨平台的JavaScript运行时环境，它允许在浏览器外运行JavaScript代码。Node.js于2009年由Ryan Dahl创立，旨在创建高性能的Web服务器和网络应用程序。它基于Google Chrome的V8 JavaScript引擎，可以在Windows、Linux、Unix、Mac OS X等操作系统上运行。 Node.js的特点之一是事件驱动和非阻塞I/O模型，这使得它非常适合处理大量并发连接，从而在构建实时应用程序如在线游戏、聊天应用以及实时通讯服务时表现卓越。此外，Node.js使用了模块化的架构，通过npm（Node package manager，Node包管理器）,社区成员可以共享和复用代码，极大地促进了Node.js生态系统的发展和扩张。 Node.js不仅用于服务器端开发。随着技术的发展，它也被用于构建工具链、开发桌面应用程序、物联网设备等。Node.js能够处理文件系统、操作数据库、处理网络请求等，因此，开发者可以用JavaScript编写全栈应用程序，这一点大大提高了开发效率和便捷性。 在实践中，许多大型企业和组织已经采用Node.js作为其Web应用程序的开发平台，如Netflix、PayPal和Walmart等。它们利用Node.js提高了应用性能，简化了开发流程，并且能更快地响应市场需求。
ASP+ACCESS网上园林设计(源代码+设计说明书).zip
05-03
ASP+ACCESS网上园林设计(源代码+设计说明书).zip
2023-04-06-项目笔记 - 第一百二十二阶段 - 4.4.2.120全局变量的作用域-120 -2024.05.03
05-03
2023-04-06-项目笔记-第一百二十二阶段-课前小分享_小分享1.坚持提交gitee 小分享2.作业中提交代码 小分享3.写代码注意代码风格 4.3.1变量的使用 4.4变量的作用域与生命周期 4.4.1局部变量的作用域 4.4.2全局变量的作用域 4.4.2.1全局变量的作用域_1 4.4.2.120全局变量的作用域_120 - 2024-05-03
node-v10.22.0-linux-ppc64le.tar.xz
最新发布
05-03
Node.js，简称Node，是一个开源且跨平台的JavaScript运行时环境，它允许在浏览器外运行JavaScript代码。Node.js于2009年由Ryan Dahl创立，旨在创建高性能的Web服务器和网络应用程序。它基于Google Chrome的V8 JavaScript引擎，可以在Windows、Linux、Unix、Mac OS X等操作系统上运行。 Node.js的特点之一是事件驱动和非阻塞I/O模型，这使得它非常适合处理大量并发连接，从而在构建实时应用程序如在线游戏、聊天应用以及实时通讯服务时表现卓越。此外，Node.js使用了模块化的架构，通过npm（Node package manager，Node包管理器）,社区成员可以共享和复用代码，极大地促进了Node.js生态系统的发展和扩张。 Node.js不仅用于服务器端开发。随着技术的发展，它也被用于构建工具链、开发桌面应用程序、物联网设备等。Node.js能够处理文件系统、操作数据库、处理网络请求等，因此，开发者可以用JavaScript编写全栈应用程序，这一点大大提高了开发效率和便捷性。 在实践中，许多大型企业和组织已经采用Node.js作为其Web应用程序的开发平台，如Netflix、PayPal和Walmart等。它们利用Node.js提高了应用性能，简化了开发流程，并且能更快地响应市场需求。
torch::Tensor 转为 caffe2::Tensor
03-29
可以使用以下代码将 torch::Tensor 转换为 caffe2::Tensor： ```c++ #include <caffe2/core/tensor.h> #include <torch/script.h> caffe2::Tensor convert_torch_to_caffe2(const torch::Tensor& input_tensor) { // 获取张量的形状和数据类型 auto shape = input_tensor.sizes(); caffe2::TypeMeta data_type; if (input_tensor.dtype() == torch::kFloat) { data_type = caffe2::TypeMeta::Make<float>(); } else if (input_tensor.dtype() == torch::kInt) { data_type = caffe2::TypeMeta::Make<int>(); } else { throw std::runtime_error("Unsupported data type"); } // 创建 caffe2::Tensor caffe2::Tensor output_tensor(data_type, caffe2::DeviceType::CPU); output_tensor.Resize(shape); // 将数据从 torch::Tensor 复制到 caffe2::Tensor if (input_tensor.is_contiguous()) { std::memcpy(output_tensor.mutable_data(), input_tensor.data_ptr(), input_tensor.nbytes()); } else { auto input_tensor_contiguous = input_tensor.contiguous(); std::memcpy(output_tensor.mutable_data(), input_tensor_contiguous.data_ptr(), input_tensor_contiguous.nbytes()); } return output_tensor; } ``` 这个函数将 `torch::Tensor` 转换为 `caffe2::Tensor` 并返回。注意，这个函数只支持 `float` 和 `int` 数据类型。如果需要支持其他数据类型，需要相应地修改代码。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值