MLP、Share MLP、 conv1d介绍

最新推荐文章于 2025-03-24 17:02:56 发布
最新推荐文章于 2025-03-24 17:02:56 发布
阅读量4.8k 收藏 21
点赞数 4
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/rglkt/article/details/121694565
版权

深度学习 css3 人工智能

在这里插入图片描述
在理解pointnet的时候，有shared mlp这一层，不清楚是什么东西，于是网上查阅了资料，以share mlp为关键词就能查到许多很好的资料，以下只是整理。

MLP参考文章，这一张图应该就够了。
在这里插入图片描述
share mlp（左图）
在这里插入图片描述
我觉的原博主的图画的没有对比的作用

在这里插入图片描述
用这个与MLP的图进行比对，就能发现share MLP本质上就是MLP。不过是点云中的一种叫法而已，强调，所有的点都是用的相同的参数。

一维卷积参考 conv1d是实现share MLP的原理，使用的卷积计算。

在这里插入图片描述
在这里插入图片描述

Visualglm-6b
liguandong
06-06 1770
【官方教程】XrayGLM微调实践，（加强后的GPT-3.5）能力媲美4.0，无次数限制。
WSDM 2022 | 点击率模型特征交叉方向的发展及CAN模型介绍
阿里妈妈技术
03-02 1773
丨目录：· 摘要· 背景· 问题和方法·Co-Action Network方案· 方案扩展· 总结·References· 关于我们▐一、摘要排序模块在广告、推荐和搜索等系统中扮演...
深度学习之图像分类（二十七）-- ConvMLP 网络详解
木卯_THU的博客
10-13 3910
深度学习之图像分类（二十七）ConvMLP 网络详解 目录深度学习之图像分类（二十七）ConvMLP 网络详解1. 前言2. ConvMLP: CNN or MLP?2.1 Convolutional Tokenizer2.2 Conv Stage2.3 Conv-MLP Stage2.4 Classifier head2.5 网络配置参数3. Visualizations4. 反思与总结5. 代码 是传统 CNN 还是 MLP？大家一起来看看这个所谓的层次卷积 MLP。不可否认其在实验上很充分，考虑了下游
Shared MLP的作用是什么
Passersby__的博客
03-18 1万+
MLP是多层感知机的简写，在三维点云处理网络中经常能看到一层Shared MLP . MLP的结构可以简单看成: Output=Input×Weights+biases 其中： Input：N×C1 Weights：C1×C2 biases：C2×1 Output：N×C2 Input一共N行，每行C1个Feature，MLP能够实现将C1维转换为C2维。这C2维中每一维都整合了原来全部C1维的信...
共享MLP Shared MLP
最新发布
qq_50612662的博客
03-24 131
首先第一步N*3*1可以理解为点云中的N个点每个点都被看从二维的图片输入，使用64个1*3*1的卷积核，得到64个N*1的MLP的隐藏层，再根据1*1*64的卷积核进行降维，从64维降到1维，但是有64个所以还是64维。最近开始从二维转向三维的学习，在第一个 点云处理的论文当中遇到了问题，PointNet论文的模型当中出现了SharedMLP，在观看多个资料后发现了如何解释。
浅谈Shared MLP与MLP
vonct的博客
01-08 2511
通过两者对比，就能比较容易理解Shared MLP中shared的意思了。即在点云网络中，强调每个点云都共享同一组参数。这也是为什么要用卷积来进行MLP实现的原因，因为CNN很大的一个特点是在CNN中，卷积层的滤波器参数是共享的，即它们在整个输入上使用相同的权重和偏置。这种参数共享的机制大大减少了模型的参数量，使得CNN具有更好的泛化能力，并能够有效地处理大规模数据这样的特性使得模型能能适应点云的特性。
点云处理网络中的Shared MLP
cccchensir的博客
09-05 6436
在点云处理网络中常看到Shared MLP的网络结构，它和我们认知的多层感知机MLP有什么区别和联系呢？ 结论 被广泛应用的Shared MLP（用于减少网络的训练参数，实现类似CNN的权值共享机制）其本质是用[1,1]大小的卷积核去做卷积操作，减少了大量的参数。 分析PointNet的源代码model/pointnet_seg.py/get_model(): 其中输入为Batch_size x 点数 x 3（点云坐标），输出为Batch_size x 点数 x 50（分类） 具体被用来做shared .
Shared MLP的作用是什么？
Adam897的博客
09-26 2848
网络首先将点云看成一幅Nx3的单通道图片输入，然后通过1x3x1的卷积核将这幅点云的宽度变为1。对应到右侧的神经元结构图，就是将3个输入神经元的信息整合后传到下层神经元的过程，64个神经元对应64个卷积核。Shared MLP 是点云处理网络中的一种说法，强调对点云中的每一个点都采取相同的操作。其本质上与普通MLP没什么不同，其在网络中的作用即为MLP的作用：特征转换、特征提取。MLP是多层感知机的缩写，在三维点云处理网络中经常能看到一层Shared MLP，下面是我关于其作用的分析。
PyTorch实现MLP的两种方法，以及nn.Conv1d, kernel_size=1和nn.Linear的区别
l1076604169的博客
07-07 2万+
PyTorch实现MLP的两种方法，以及nn.Conv1d, kernel_size=1和nn.Linear的区别MLP（Multi-layer perceptron）实现MLP结构方法1:nn.Linear方法2:nn.Conv1d & kernel_size=1nn.Conv1d, kernel_size=1与nn.Linear不同 MLP（Multi-layer perceptron）实现 最近在看PointNet论文，其主要思想为利用MLP结构学习点云特征，并进行全局池化（构造一个对称函数，
PointNet++论文复现（一）【PontNet网络模型代码详解 - 分类部分】
晨的博客
03-22 2115
PointNet++论文复现（一）【PontNet网络模型代码详解 - 分类部分】
最新大模型架构TTT模型代码解析（一）
qq_73990157的博客
07-24 2108
这项来自斯坦福大学、加州大学伯克利分校、加州大学圣迭戈分校和 Meta 的研究提出了一个新颖的序列建模方法，称为测试时训练（Test-Time Training, TTT）层。TTT 层通过用机器学习模型取代 RNN 的隐藏状态，并使用输入 token 的实际梯度下降来压缩上下文。研究表明，这种方法在性能上可以优于现有的 Transformer 和 Mamba 架构。
最新大模型架构TTT模型代码解析（二）
qq_73990157的博客
07-24 1239
类通过这些方法和属性，实现了一个完整的因果语言模型，能够用于文本生成任务，如文本续写、问答等。): 定义了模型的前向传播逻辑，包括处理输入 ID、注意力掩码、位置 ID、输入嵌入、缓存参数等，并计算损失和 logits。): 提供获取和设置模型输出嵌入层的方法，这通常用于调整模型的输出以适应不同的任务。): 定义了因果语言模型的输出格式，包括损失、logits、缓存参数和隐藏状态。): 允许用户设置自定义的解码器，并能够获取当前使用的解码器。): 在生成文本时，更新模型参数，如缓存参数和注意力掩码。
【点云】PointNet中的shared MLP
qq_40731332的博客
05-23 3305
参考：https://zhuanlan.zhihu.com/p/86331508 http://www.cnblogs.com/welhzh/p/6607581.html 本文的重点在于解析被广泛应用的shared mlp。它的本质是用[1,1]大小的卷积核去卷积，减少了大量的参数。 在model/pointnet_seg.py/get_model()函数中我们可以发现下列代码： 其中输入为Batch_size x点数 x 3（点云坐标），输出为Batch_size x 点数 x 50（分类）.
pointnet中shared_mlp过程详细解析
qq_44849479的博客
08-13 2896
pointnet网络模型如下图所示： 暂时不关注input_transform和feature_transform。同时也不关注分割任务。 从输入n×3到n×64的操作： （图中数字仅为示意，不代表具体计算） 首先输入为n×3（n×1×3×1：点数×长×宽×通道数）有64个1×3的卷积核，每个卷积核对点云进行卷积操作，并生成一个通道，64个卷积核共计生成64个通道。（叙述过程省略了加偏置和激活的部分）得到的结果为n×64（n×1×1×64点数×长×宽×通道数）成功将数据升维。 在将64维升到128维的
CONV1D一维卷积神经网络运算过程（举例：n行3列➡n行6列）
热门推荐
养乐多的博客
09-02 2万+
假设我们现在有 n 行，3列数据。n 行可以是 n 个点，也可以是 n 个样本数据。3列可以视为3列特征，即特征向量。具体过程就是让每一行数据点乘一个卷积核，得到一个数，6个卷积核就是6个数，这样就把一个点的3列变成了6列。然后逐行遍历每个点，就可以得到新的得分矩阵。一维卷积的运算过程网上很多人说不清楚，示意图画的也不清楚。因此，本人针对一维卷积的过程，绘制了计算过程，以我的知识量解释一下 pytorch 中 Conv1d() 函数的机理。从6列变成12列，就点乘12个卷积核。③、第n行数据参与卷积。
ConvMLP：你见过长得像CNN的MLP吗？UO&UIUC提出了用于视觉任务的层次卷积MLP
我爱计算机视觉
09-25 669
关注公众号，发现CV技术之美本文分享论文『ConvMLP: Hierarchical Convolutional MLPs for Vision』，由 UO&UIUC 提出 Con...
为什么Shared MLP = Conv+BN+ReLU？从“复印机”到“乐高积木”的生动解析
qq_52852434的博客
03-12 538
Shared MLP通过1x1卷积的参数共享机制，结合BN和ReLU的标准化与非线性能力，完美替代了传统全连接层。这种设计不仅解决了点云的无序性问题，还大幅提升了计算效率。下次在代码中看到时，不妨会心一笑：“这不就是那个聪明的共享复印机吗？
论文阅读笔记 | MLP系列——MLP部分汇总（gMLP，aMLP，ResMLP，RepMLP）
Clichong
01-05 7758
如有错误，恳请指出。 这篇博客是一篇归纳总结性的博客，对几篇mlp结构文章进行汇总。 文章目录1. gMLP2. aMLP3. ResMLP4. RepMLP 1. gMLP MLP-Mixer的增强版，带gating的MLP。有两个版本，分别是gMLP和aMLP。 gmlp的g是“gate”的意思，简单来说gmlp就是将mlp-mixer跟门控机制结合起来。即将输入沿着特征维度分为两半，然后将其中一半传入mlp-mixer，作为另一半的gate。 核心代码： def gmlp_block(x,.
class PointnetFPModule(nn.Module): r"""Propigates the features of one set to another""" def __init__(self, *, mlp: List[int], bn: bool = True): """ :param mlp: list of int :param bn: whether to use batchnorm """ super().__init__() self.mlp = pt_utils.SharedMLP(mlp, bn=bn) def forward( self, unknown: torch.Tensor, known: torch.Tensor, unknow_feats: torch.Tensor, known_feats: torch.Tensor ) -> torch.Tensor: """ :param unknown: (B, n, 3) tensor of the xyz positions of the unknown features :param known: (B, m, 3) tensor of the xyz positions of the known features :param unknow_feats: (B, C1, n) tensor of the features to be propigated to :param known_feats: (B, C2, m) tensor of features to be propigated :return: new_features: (B, mlp[-1], n) tensor of the features of the unknown features """ if known is not None: dist, idx = pointnet2_utils.three_nn(unknown, known) dist_recip = 1.0 / (dist + 1e-8) norm = torch.sum(dist_recip, dim=2, keepdim=True) weight = dist_recip / norm interpolated_feats = pointnet2_utils.three_interpolate(known_feats, idx, weight) else: interpolated_feats = known_feats.expand(*known_feats.size()[0:2], unknown.size(1)) if unknow_feats is not None: new_features = torch.cat([interpolated_feats, unknow_feats], dim=1) # (B, C2 + C1, n) else: new_features = interpolated_feats new_features = new_features.unsqueeze(-1) new_features = self.mlp(new_features) return new_features.squeeze(-1)你可以为我详细讲解一下这个代码吗？
05-24
这是一个 PointNet 的特征传递模块，将一个点云的特征传递给另一个点云。下面我们来详细解释一下代码的实现过程： 首先，我们看到了 `PointnetFPModule` 类的定义，它继承自 `nn.Module`。在构造函数中，我们可以看到有两个参数：`mlp` 和 `bn`，其中 `mlp` 是一个整数列表，表示一个多层感知机，`bn` 表示是否使用 BatchNorm。接着，我们定义了一个 `pt_utils.SharedMLP` 类型的成员变量 `self.mlp`，用于对输入的特征进行多层感知机计算。 接下来，我们看到了 `forward` 函数的实现。这个函数接收四个参数： - `unknown`：表示未知点云的位置信息，形状为 (B, n, 3)。 - `known`：表示已知点云的位置信息，形状为 (B, m, 3)。 - `unknown_feats`：表示未知点云的特征信息，形状为 (B, C1, n)。 - `known_feats`：表示已知点云的特征信息，形状为 (B, C2, m)。 其中，`B` 表示 batch size，`n` 表示未知点云的点数，`m` 表示已知点云的点数，`C1` 和 `C2` 分别表示未知点云和已知点云的特征维度。 接下来的代码实现主要目的是将未知点云的特征传递给已知点云。具体步骤如下： 1. 计算未知点云和已知点云中最近的三个点，使用 `pointnet2_utils.three_nn` 函数实现。得到的 `idx` 是一个形状为 (B, n, 3) 的整数张量，其中每个元素表示当前未知点云中最近的三个点在已知点云中的索引。 2. 计算每个未知点云和已知点云中最近的三个点之间的距离，使用 `pointnet2_utils.three_nn` 函数实现。得到的 `dist` 是一个形状为 (B, n, 3) 的浮点数张量，其中每个元素表示当前未知点云和已知点云之间的距离。 3. 计算每个未知点云和已知点云中最近的三个点之间的距离的倒数，加上一个较小的常数，避免除以零错误，使用 `dist_recip = 1.0 / (dist + 1e-8)` 实现。 4. 对每个未知点云和已知点云中最近的三个点之间的距离的倒数进行归一化，使用 `norm = torch.sum(dist_recip, dim=2, keepdim=True)` 实现。得到的 `norm` 是一个形状为 (B, n, 1) 的浮点数张量，其中每个元素表示当前未知点云和已知点云之间的距离之和。 5. 计算每个未知点云和已知点云中最近的三个点之间的权重，使用 `weight = dist_recip / norm` 实现。得到的 `weight` 是一个形状为 (B, n, 3) 的浮点数张量，其中每个元素表示当前未知点云和已知点云之间的权重。 6. 对已知点云中的特征进行插值，使用 `pointnet2_utils.three_interpolate` 函数实现。得到的 `interpolated_feats` 是一个形状为 (B, C2, n) 的浮点数张量，其中每个元素表示当前未知点云中最近的三个点在已知点云中对应点的特征。 7. 将插值得到的已知点云特征和未知点云特征进行拼接，使用 `torch.cat([interpolated_feats, unknow_feats], dim=1)` 实现。得到的 `new_features` 是一个形状为 (B, C2 + C1, n) 的浮点数张量，其中每个元素表示当前未知点云中最近的三个点在已知点云中对应点的特征和未知点云的特征。 8. 将 `new_features` 维度增加一维，使用 `new_features.unsqueeze(-1)` 实现，得到的 `new_features` 是一个形状为 (B, C2 + C1, n, 1) 的浮点数张量。 9. 将 `new_features` 输入到多层感知机中，使用 `self.mlp(new_features)` 实现。得到的 `new_features` 是一个形状为 (B, mlp[-1], n, 1) 的浮点数张量。 10. 将 `new_features` 维度减少一维，使用 `new_features.squeeze(-1)` 实现，得到的 `new_features` 是一个形状为 (B, mlp[-1], n) 的浮点数张量，表示传递后的特征。 最后，返回传递后的特征 `new_features`。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

rglkt

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值