![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
KAN
Phoenixtree_DongZhao
深度学习 图像处理
展开
-
KAN与MLP:一次更公平的较量
KAN是一种新型的神经网络架构,它主要通过两个分支来实现对数据的处理:B-spline分支和捷径分支。B-spline分支通过引入可学习的B-spline激活函数,使得网络能够更灵活地拟合复杂的函数关系。捷径分支则是一个非线性激活函数(如SiLU函数)后接一个线性变换,用于提供额外的非线性能力和信息传递路径。MLP,即多层感知机,是最基本的神经网络架构之一。它通过堆叠多个全连接层,并在每个全连接层之后应用非线性激活函数(如ReLU或GELU),来实现对数据的复杂映射。原创 2024-08-10 10:22:34 · 392 阅读 · 0 评论 -
Kolmogorov-Arnold Convolutions (KAN Convolutions) : 当KAN遇到卷积
ABSTRACT现有深度学习架构的局限性。原创 2024-08-10 07:41:03 · 489 阅读 · 0 评论