模型驱动的深度学习(ADMM-net)

ADMM-net是模型驱动的深度学习方法,它将模型族转换为深度网络,学习模型超参数以提高适应性和精度。相较于传统模型驱动算法,ADMM-net在网络设计上有模型指导,减少数据需求量和训练时间。在核磁共振重建中,ADMM算法通过迭代更新和非线性收缩函数实现。网络结构包含重建、卷积、非线性变换和乘子更新层,使用分段线性函数近似非线性变换。网络学习不同层的超参数,并通过梯度下降法进行训练。
摘要由CSDN通过智能技术生成

流程:模型族->算法族->深度网络->深度学习

模型族:模型中含有超参数,给予不同的参数对应不同的模型,就形成了模型族

算法族:每一个模型对应一个完整算法,整个模型族对应了一个算法族 将算法族展开成一个深度网络,网络层数代表迭代次数,模型的超参数成为网络中的参数(如权重等)。利用少量标记数据就可以训练网络。

相对于模型驱动算法的优势:

   1、可以学习模型超参数,提高了模型的适应能力,提高精度

相对于数据驱动的优势:

   1、网络的设计有模型指导

   2、减少了数据需求量

   3、减小了训练时间

比如核磁共振重建的ADMM算法:

模型:

\(x^*={arg\max}_{x}{\{\frac{1}{2}||Ax-y||^2+\sum_{l=1}^{L}\lambda_{l}g(D_{l}x)\}}\)

ADMM算法求解:

\(g,\lambda,L,D_{l}\)的不同选择形成了不同的模型,构成了模型族。

广义拉格朗日函数:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值