OctAttention: Octree-Based Large-Scale Contexts Model for Point Cloud Compression

1. 论文基本信息

发布于： AAAI 2022

2. 创新点

1. 提出了一种树形结构的注意力机制来模拟大规模上下文中节点的依赖关系。

1. 我们采用掩码操作并行对八叉树进行编码，以减轻在大规模上下文中引入兄弟姐妹的缺点。

3. 背景

在点云压缩中的相关工作介绍一般都分为以下几个部分：

1. 基于体素的点云压缩（Voxel-Based Point Cloud Compression）

1. 1. 优势：与八叉树相比，几何模式可以自然地保留在体素表示中。
   2. 缺点：副作用是基于体素的网络对密度变化很敏感，对于稀疏点云可能会失败。

1. 基于树的点云压缩 （Tree-Based Point Cloud Compression）
2. 基于八叉树和深度学习的点云压缩

1. 1. 过去的方法未考虑到八叉树同层级相邻节点之间的关系。

由八叉树量化的LiDAR点云，最大深度为6，7，8，9。八叉树叶节点中的点随着深度的增加而减小。基于体素的方法的感受野是有限的。

VoxelContext-Net 通过使用体素和八叉树混合结构来学习前一个八叉树深度的上下文，部分解决了这个问题（考虑了兄弟节点之间的关系）。然而，高分辨率（即来自兄弟节点）的特征仍然被忽略。（ps：本文指出在八叉树深度足够的情况下，VoxelContext-Net 的局部体素领域的感受野随着八叉树的深度增加而减小，对兄弟节点之间的关系特征的获取不友好）

解决的问题：

1. OctAttention 适应于稀疏的点云数据集。
2. OctAttention 在使用八叉树的方法的情况下，考虑了同层次兄弟节点的相互关系，也考虑了兄弟节点的特征以及其祖先节点的特征。
3. 并且优化了 VoxelContext-Net 的局部体素领域的感受野随着八叉树的深度增加而减小的问题。
4. 还提出了一个掩码操作来抵消由兄弟上下文参与引起的编码时间增加。

4. Pipeline

4.1. 上下文模型

我们通过具有先验信息的网络估计概率 Q(x)，以指导算术编码器。估计概率越接近基本事实，实际比特率 Ex∼P [− log2 Q(x)] 越接近其下限 Ex∼P [− log2 P (x)]。因此，论文的目标是估计准确的占用分布以降低比特率。

论文中首先以广度优先顺序遍历八叉树。然后对于序列中的每个当前编码节点 ni，随后构建了一个上下文窗口 {ni−N +1,。, nk,., ni−1, ni} 长度为 N，目前的编码节点位于窗口的末尾，局部上下文窗口随着当前编码节点向前移动而向前滑动。通过这种方式，选择 N-1 个兄弟节点来利用同一深度节点之间的强依赖关系。考虑到节点与其祖先节点之间的依赖关系，论文分别在上下文窗口中进一步引入了 N 个节点的 K-1 个祖先。总之，论文的方法集成了 N * K 个相关节点并极大地扩展了上下文。具体来说，我们将分布 Q(x) 分解为每个占用符号 xi 的条件概率的乘积：

其中 xi ∈ {1, 2,., 255} 是当前编码节点 ni 的占用符号。高维向量 fk = [h(0)k , h(1)k , h(2)k ,。.., h(K−1)k ] 表示节点 nk 的嵌入特征和其 K-1 个祖先的特征的串联，它们被定义为它们的占用、深度和八分区的嵌入。w 表示上下文模型参数。节点信息分别嵌入到固定长度的向量中，然后连接为hk = [SkW1, LkW2, OkW3]，其中Sk, Lk, Ok为单热编码占用（Occupancy 图中是占用位置的十进制）、级别索引（Level 八叉树的对应层级）和八分区索引（Octant 对应上一层哪一个八叉树位置），W为它们各自的嵌入矩阵。嵌入还用作三种不同比例变量的归一化。

4.2. Tree-Structured Attention （树结构注意力）

上下文窗口中第 m 个和第 n 个兄弟节点之间的注意力图中的注意力分数标量定义为：

n ≤ m, m = i − N + 1, ..., i.

4.3. Mask operation

引入了掩码操作，它为每个节点分配一个不同长度的接受域。每个节点仅限于训练和测试时上下文窗口中先前节点的访问，这样的做法减少编码的时间。

5. 💎实验成果展示

消融实验（证明大上下文窗口的有效性）：