KAN
文章平均质量分 97
从源码出发解读KAN框架的基本原理,通过测试用例探索各模块的实际功能,力求全面掌握项目并进行横向应用。
小老弟来喽
佛系科研,随便整点
展开
-
KAN 学习 Day1 —— 模型框架解析及 HelloKAN
不得不说,这个hellokan跑下来,真的很丝滑,而且感受到了作者团队的心思缜密,除了发挥模型自身的优势(理论上),还将模型优化、模型可视化、模型版本等细节都展示出来了。这也是我第一次使用ipynb跑模型,感受到了逐步运行的乐趣。目前在模型训练的体验上我对KAN产生了十分的好感,至于它的功能是否真的强大,还需要其他案例的测试。欢迎感兴趣的小伙伴一起交流!原创 2024-09-02 21:16:46 · 1223 阅读 · 1 评论 -
KAN 学习 Day2 —— utils.py 与 spline.py 代码解读及测试
utils.py 包含了一系列用于处理符号函数、生成数据集、拟合参数、创建稀疏掩码、添加符号函数到库、四舍五入表达式、增强输入、计算模型参数的Jacobian和Hessian矩阵,以及从数据中创建训练和测试数据集的功能。符号函数处理f_invf_inv2f_inv3f_inv4f_inv5f_sqrtf_power1d5f_invsqrtf_logf_tanf_arctanhf_arcsinf_arccosf_exp:这些函数是用于处理不同数学操作的lambda函数,它们通常用于在符号计算中生成表达式。原创 2024-09-03 19:59:03 · 1504 阅读 · 1 评论 -
KAN 学习 Day3 —— KANLayer.py 与 Symbolic_KANLayer.py 代码解读及测试
KANLayer的类,用于构建和操作一种特殊的神经网络层,该层使用分段多项式(B-spline)基函数和残差函数来实现非线性变换。KANLayer初始化参数:初始化函数接受多个参数,包括输入维度、输出维度、网格间隔数、多项式阶数、噪声尺度、基函数参数、网格范围、网格更新策略等。网格生成:生成一个等间距的网格,用于定义B-spline基函数的节点。网格的间距可以通过grid_eps参数进行调整,以在均匀网格和基于样本的非均匀网格之间进行平衡。系数初始化。原创 2024-09-06 01:26:22 · 1327 阅读 · 0 评论 -
KAN 学习 Day4 —— MultKAN 正向传播代码解读及测试
'''Args:-----inputsReturns:--------NoneExample1--------Example2--------'''x: 2D,输入数据。: bool,默认为False。如果为True,则在符号分支中避免奇异点。y_th: float,默认为10.。用于判断是否避免奇异点的阈值。None:方法执行后不返回任何值今天内容主要包括MultKAN网络的初始化、正向传播方法实现、训练方法参数说明。原创 2024-09-09 17:08:42 · 1379 阅读 · 1 评论