布尔大学士
工学博士在读,主要从事智能制造、工业精密检测、智能化设备研发等方向研究,已发表二区Top文章一篇、国家级竞赛二等奖一项、已授权软件著作权两项、已发表中文期刊两篇,先后参与国家自然科学基金面上项目、省重点研发计划等课题。
展开
-
【视频讲解】顶级期刊即插即用模块代码共享计划·2024第一期:03:针对2D图像的轴向稀疏连接MLP方案(AAAI中科大开源)
本文提出一种新颖的稀疏MLP模块(sMLP)。sMLP模块在2D图像标记中沿轴向方向应用1D MLP,并在行或列之间共享参数。这种方法通过稀疏连接和权重共享显著降低了模型参数的数量和计算复杂度,从而避免了常见的过拟合问题。 Sparse MLP for Image Recognition: Is Self-Attention Really Necessary?(AAAI 2022)原创 2024-08-18 12:38:28 · 193 阅读 · 0 评论 -
【视频讲解】顶级期刊即插即用模块代码共享计划·2024第一期:02:非相邻层次间语义信息渐进式特征融合策略(2024 1区Top | 浙江大学开源)代码实现
在视觉任务中,多尺度特征对于编码不同尺度的物体至关重要。经典的自上而下和自下而上的特征金字塔网络是多尺度特征提取的常用策略。然而,这些方法都存在特征信息丢失或退化的问题,从而影响了非相邻层次的融合效果。本文提出了一种渐近特征金字塔网络(AFPN),用于解决经典特征金字塔网络中非相邻层次间信息损失或降级的问题。AFPN通过融合相邻低层特征开始,并逐步将更高层次的特征纳入融合过程,从而避免了不同层次间的较大语义差距。此外,为了缓解多对象信息冲突,引入了自适应空间融合操作。原创 2024-08-11 22:31:58 · 572 阅读 · 0 评论 -
【视频讲解】顶级期刊即插即用模块代码共享计划·2024第一期:01:波叠加原理的社会池化方法(AAAI2023)与并行补丁感知注意力模块(2024)代码实现
本文提出了一种基于波叠加原理的社会池化方法(Wave-pooling),用于更有效地捕捉动态和高阶交互,并预测周围车辆的运动轨迹。该方法通过将每个车辆建模为具有振幅和相位的波来表示其动态状态,并通过波的叠加来捕捉它们之间的高阶动态交互。原创 2024-08-08 13:38:54 · 1178 阅读 · 0 评论 -
万字长文详解深度学习中元学习与小样本问题:如何理解模型自己学会学习?传统的监督学习与 Meta Learning 之间的区别?预训练的三个小改进?如何通过孪生网络完成元学习~
元学习希望使得模型获取一种学会学习调参的能力,使其可以在获取已有知识的基础上快速学习新的任务。机器学习是先人为调参,之后直接训练特定任务下深度模型。元学习则是先通过其它的任务训练出一个较好的超参数,然后再对特定任务进行训练。这些超参数可以是初始化参数、选择优化器、定义损失函数、梯度下降更新参数等。Few-shot Learning是Meta Learning中的一种,Meta Learning 的目的在于 学习如何学习,也就是学习方法论。原创 2023-05-29 17:27:19 · 729 阅读 · 0 评论 -
深度学习·理论篇(2023版)·第011篇卷积神经网络计算公式与参数量频域计算:卷积计算详解+卷积层全连接层池化层参数量计算+计算频域卷积
卷积神经网络(CNN)由输入层、卷积层、激活函数、池化层、全连接层组成,即INPUT(输入层)-CONV(卷积层)-RELU(激活函数)-POOL(池化层)-FC(全连接层)原创 2023-04-07 08:00:00 · 605 阅读 · 0 评论 -
深度学习·理论篇(2023版)·第010篇多种卷积与可视化:单通道与多通道卷积可视化+(空间可分离卷积+深度可分离卷积+分组卷积+反卷积+八度卷积)可视化+OctConv模型理论
二维情况下的卷积和一维并没有本质上的不同,下面略过公式,直接来形象理解。深度学习·理论篇:单通道与多通道卷积可视化+(空间可分离卷积+深度可分离卷积+分组卷积+反卷积+八度卷积)可视化+OctConv模型理论原创 2023-04-06 08:00:00 · 438 阅读 · 0 评论 -
深度学习·理论篇(2023版)·第009篇卷积与多维卷积的矩阵频域计算:点积与卷积的可视化+卷积在深度学习中的作用+卷积的理论支撑与公式详解+图像化表示一维卷积的不同情况
卷积神经网络是深度学习中应用最广泛的一种网络,而卷积就是这种网路的基础。本节就来了解卷积的概念,性质和计算方式。点积与卷积的可视化+卷积在深度学习中的作用+卷积的理论支撑与公式详解+图像化表示一维卷积的不同情况原创 2023-04-05 16:27:00 · 290 阅读 · 0 评论