论文笔记（3）：Tensor Decompositions and Applications

最新推荐文章于 2024-05-16 10:13:48 发布
最新推荐文章于 2024-05-16 10:13:48 发布
阅读量4.5k 收藏 46
点赞数 13
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/mojingmiao/article/details/105732675
版权
Tensor Decompositions and Applications 算是张量分解的鼻祖论文了，要入门张量领域，这篇文章是一定要看的。这篇文章只要讲解了两种张量分解算法：CANDECOMP/PARAFAC decomposition (CP分解) 和Tucker decomposition（塔克分解）.通过这篇论文， 你能比较清晰的理解这两种算法，它们在张量分解中起到举足轻重的作用。
 
 

一、定义

 
在谈张量分解时，先得知道张量是什么。显浅易懂地说，张量就是矩阵的高维扩充，原本矩阵是二阶的，现在张量变为三阶或更高阶，其中最基本的三阶形式如图1.1所示。
                                                   

往往张量可以看作是一条条纤维组成如图2.1，也可以看作一张张切片组成如图2.2。

除了这些，我们还需要知道一些关于张量的定义

1、秩一张量

如果一个张量能够被写成   

                                        

则称该张量是秩一张量。其中\circ 代表向量的外积，张量的每一个元素都是对应向量元素的积

                 

2、张量乘积：模n 乘积

模n 乘积针对的是一个张量与一个矩阵的乘积，设一个张量\chi \in \mathbb{R}^{I_{1}\times I_{2}\times\cdots \times I_{n}},一个矩阵U\in \mathbb{R}^{J\times I_{n}},

即模n乘积为 \chi _{\times_{n}}U\in \mathbb{R}^{I_{1}\times \cdots \times I_{n-1}\times J \times I_{n+1}\times \cdots \times I_{N}}

同时，模n乘积具有的性质有

            1）</

最低0.47元/天 解锁文章
mojingmiao
关注
  • 13
    点赞
  • 踩
  • 46
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
张量分解与应用-学习笔记[01]
LyWangJapan的博客
12-15 1744
0. 前言 本笔记主要是围绕这篇学术期刊文章进行的: Tensor Decomposition and Applications 此笔记本为笔者接触该领域的第一步，最适合从未接触过该领域的朋友。早期该部分内容以数学为主，但后期将涉及人工智能和高维深度学习网络的压缩，故部分分类于深度学习这块。同样的压缩法可涉及与强化学习等其他领域，计划在很后期提及。 希望能抛砖引玉，吸引更多的爱好者。 （可能第一篇...
张量分解 （Tensor）
nicolexiang的博客
09-06 7762
一般一维数组，称之为向量（vector）, 二维数组，称之为矩阵（matrix）; 三维数组以及多位数组，我们称之为张量（tensor）。 一、基本概念 矩阵补全（Matrix Completion）目的是为了估计矩阵中缺失的部分（不可观察的部分），可以看做是用矩阵X近似矩阵M，然后用X中的元素作为矩阵M中不可观察部分的元素的估计。 矩阵分解（Matrix Factori
Tensor Decompositions and Applications第一、二章翻译
DS_agent的博客
11-14 3780
《张量分解与应用》第一二章翻译：张量是一种多维数组。一个一阶张量就是一个向量，一个二阶张量是一个矩阵，具有三阶或更多阶数的张量称为高阶数组。张量的阶（order）即张量的维数（dimension），也称为way或mode。 向量（一阶张量）用粗体小写字母表示，如. 矩阵（二阶张量）用粗体大写字母表示，如.
【张量分解(二)】CP分解
bqw的博客
03-30 1万+
一、CP分解 1.1 定义 CP分解就是将一个张量分解成多个单秩张量的和。例如，给定一个三阶张量X∈RI×J×K\mathcal{X}\in\mathbb{R}^{I\times J\times K}X∈RI×J×K，则CP分解可以写为 X≈∑r=1Rar∘br∘cr\mathcal{X}\approx\sum_{r=1}^{R}\textbf{a}_r\circ\textbf{b}_r\circ...
浅析张量分解（Tensor Decomposition）
最新发布
05-16 1154
内容概要：这篇文章浅析了张量分解（Tensor Decomposition）在数据分析和机器学习中的应用和原理。张量分解是一种在多维数据中提取特征和降维的方法，通过将高阶张量表示为低秩张量的乘积形式，实现对数据的有效表示和分解。文章介绍了张量分解的基本概念和原理，包括CP分解、Tucker分解和分解的数学表达式。并举例说明了张量分解在图像处理、信号处理和推荐系统等领域的应用场景。
【数学知识】 Tensor Decompositions and Applications
KaelCui的博客
07-24 886
2.符号和预备工作 标量（scalars):用小写字母表示 向量( vectors): 用粗体的小写字母表示 矩阵：用粗体的大写字母表示 高阶张量（order three or higher):用粗体的希腊字母表示 ith: 表示向量里面的第 i 个元素 aij : 表示矩阵(i,j)位置的元素 xijk：表示张量里面的(i, j, k) 位置处的元素 冒号用于指示模式的所有元素 A的第j列用 a:j 表示，矩阵A的第i行用 a i： 表示，或者，矩阵的第j列a：j可以更紧凑地表示为 aj。 纤
Tensor Decompositions and Applications
10-09
This survey provides an overview of higher-order tensor decompositions, their applications, and available software. A tensor is a multidimensional or N-way array. Decompositions of higher-order tensors (i.e., N-way arrays with N ≥ 3) have applications in psychometrics, chemometrics, signal processing, numerical linear algebra, computer vision, numerical analysis, data mining, neuroscience, graph analysis, and elsewhere. Two particular tensor decompositions can be considered to be higher-order extensions of the matrix singular value decomposition:CANDECOMP/PARAFAC (CP) decomposes a tensor as a sum of rank-one tensors, and the Tucker decomposition is a higher-order form of principal component analysis. There are many other tensor decompositions, including INDSCAL, PARAFAC2, CANDELINC, DEDICOM, and PARATUCK2 as well as nonnegative variants of all of the above. The N-way Toolbox, Tensor Toolbox, and Multilinear Engine are examples of software packages for working with tensors.
张量分解和应用（1）
Little-finger
09-20 1116
注： 此文章为对Tamara G.Kolda和Brett W.Bader的<Tensor Decompositions and Applications>摘抄和分析。 介绍 注：定义不敢乱翻译。 The order of a tensor is the number of dimensions, also known as ways or modes. A colon is used to indicate all elements of a mode. Fibers are th
Tensor Decompositions and Applications_tensor_tensorflow_zip_
09-30
3. **应用价值**：Tensor分解在处理高维数据时特别有用，它可以用于特征选择、推荐系统、图像处理、自然语言处理等多个领域。通过降低数据的维度，可以减少计算复杂度，同时保持关键信息，提高模型的预测性能。 **...
Tensor Decompositions and Applications.pdf
09-12
Tensor Decompositions and Applications Tensor 分解是一种多维数组的分解方法，广泛应用于 психометрика、化工分析、信号处理、数值线性代数、计算机视觉、数值分析、数据挖掘、神经科学、图形分析等...
张量分解（一）：基础知识
Flying_sfeng的博客
08-25 2万+
昨天在组里分享了张量分解相关的知识，现在想把它整理成一个系列，供有需要的同学阅读。 下文根据Tensor Decompositions and Applications∗ 整理，原文比较长，我主要整理了一些比较常用的，有需要的同学可以直接阅读原文。 我们知道，一维的数组叫向量，二维的叫矩阵，三维及三维以上的就是张量了。 如下图，就是一个三阶张量： 以下为一些张量相关的基础知识（本文根据...
【张量分解(三)】Tucker分解
bqw的博客
04-28 1万+
本文是对论文Tensor Decompositions and Applications进行了翻译、整理、筛选和适当的补充，如何希望深入理解可以阅读原文。 相关文章： 【张量分解(一)】符号与基础知识 【张量分解(二)】CP分解 一、Tucker分解 1.1 定义 Tucker分解可以看作是主成分分析(PCA)的一种高阶版本，其将张量分解为一个核张量与每一维度上对应矩阵的乘积。具体来说，以三阶张量...
MUTAN:Multimodal Tucker Fusion For Visual Question Answering
snow_maple521的博客
09-19 1779
MUTAN:Multimodal Tucker Fusion For Visual Question Answering 1. 摘要 虽然Bilinear models（双线性模型）在VQA中能够很好的融合信息，帮助学习问题意义和图像内容之间的高级关联，但是存在高维度问题，所以本文引入MUTAN概念——基于多模态张量Tucker分解，能够有效的在视觉和文本的双线性交互（Bilinear models）的模型中进行参数化，除Tucker分解之外，还设计了基于矩阵的低秩分解 来明确限制交互等级。 2. 引言 V
cp分解实现_张量分解-CP分解
weixin_42298064的博客
01-14 898
张量分解-CP分解 2016.06.19CP分解(Canonical Polyadic Decomposition)1927年Hitchcock提出了CP 分解。CP 分解将一个$N$阶的张量$\mathcal{X}\in {\mathbb{R}^{{I_1}{\mathbf{ \times }}{I_2}{\mathbf{ \times }} \cdots {\mathbf{ \times }}...
张量分解算法的Julia实现：从基础原理到实际应用
qq_38334677的博客
08-19 219
张量分解是多维数据结构中的关键操作。在很多应用场景中，例如信号处理、图像处理和机器学习等，我们常常需要处理和存储多维数据。对于这种数据，张量分解提供了一个有效的工具来识别其中的潜在结构和模式。张量是一个多维数组，其可以视为标量、向量、矩阵的高维扩展。例如，一个三维张量可以被视为一个由多个矩阵组成的堆栈。张量分解的目的是将一个高维张量分解为几个低维张量的乘积，这可以帮助我们在高维数据中识别潜在的结构和关系。
张量分解－CP分解
热门推荐
alva_bobo的博客
01-08 2万+
转载文章，有空我好好写一写CP分解哈 一般CP分解的求解都是用迭代最小二乘法（ALS），想详细了解cp算法可以看看tensor toolbox里cp-als的代码，相当详细，哈哈，最开始读用了好久，不过可以详细了解整个算法，里面做了很多的优化，优化部分可以忽略，跳过。 CP分解是将一个高阶张量分解成若干个一维的因子矩阵，例如：三阶张量可以分解成3个一维的因子矩阵，从而可以用更少的数据量表示整个...
张量分解--CP、Tucker分解
BIT_mk的博客
08-26 1450
主要简要介绍了一下CP分解与Tucker分解的基本概念。
torch::Tensor to caffe2::Tensor
03-29
To convert a `torch::Tensor` to a `caffe2::Tensor`, you can use the `caffe2::TensorCPU` class, which provides a constructor that takes a pointer to data and a vector of dimensions. Here's an example: ``` #include <caffe2/core/tensor.h> #include <torch/torch.h> int main() { // Create a torch::Tensor torch::Tensor t = torch::ones({2, 3}); // Convert to a caffe2::Tensor caffe2::TensorCPU c2_tensor((float*)t.data_ptr(), {2, 3}); return 0; } ``` In this example, we create a `torch::Tensor` with dimensions 2x3 and fill it with ones. Then, we pass a pointer to the data and the dimensions to the `caffe2::TensorCPU` constructor to create a `caffe2::Tensor`. Note that we cast the data pointer to a `float*` because `caffe2::TensorCPU` expects a pointer to float data.
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值