rnn神经网络模型_光学/声学神经网络:从物理原理到神经网络的完美映射【附代码】...

3a6f3f87254099d8c0fd64691f398f23.png

将物理框架引入机器学习是现今最火热的研究趋势之一,全光衍射神经网络就是其一,本人在个人专栏曾通过两篇文章对相关知识进行介绍,并对基础代码进行解析。

CHEN:(四)光学现象的Python实现:老树开新花之光的反射与折射​zhuanlan.zhihu.com
126abeb00b9fccb376b91020023c8589.png
CHEN:(二)光学现象的Python实现:衍射简介及仿真实现​zhuanlan.zhihu.com
2f4ae37360071bc2683fd42e3a30c7ec.png

在光学神经网络被完美实现的同时,科学家逐渐将目光聚焦在声学神经网络。

近期,斯坦福大学发表在《Science Advances》的研究成果,揭示了物理学中光/声波动与 RNN(循环神经网络) 中的计算存在着严格的一一对应关系。

a367eed8bfd536766a5d7ab62c46b529.png

在此,本人将从公式原理角度对这种一一对应关系进行分析,文章的源代码请移步:

www.github.com/fancompute/wavetorch/​www.github.com

原理实现

为了描述光学/声学等物理量的传播过程,我们提出标量波场分布的动力学方程为

,其受二阶偏微分方程支配,可以表示为:

其中,我们用

表示拉普拉斯算子;
表示波速度的空间分布;
代表源项。

如果以RNN为例,考虑时间

的作用,那么标量波场分布的动力学方程
可以表示为:

为了进一步将波动方程更清晰的映射成RNN神经网络的迭代和优化形式,我们将上式改写成矩阵形式:

c65bda43690e042b81d858ce05ec26a6.png

进一步简化书写形式,引入

算符后上式矩阵可以简写成:

1db06ebd88875616a45362ce1083068b.png

其中,

表示矩阵[
],
算符表示:

8130a27f796d453a878e1fa9b3447f74.png

表示
表示矩阵[
]。

这将与RNN的传递函数一一对应 [1]:

900c4ecd53df4a530a0f9f615ec46179.png

总结

该研究证明了波动方程在概念上、原理上完全等价于 RNN。

一方面,该研究梳理出了物理学和神经网络结合的理论内核,另一方面,又为一类新的计算平台提供了思路。

光学/声学神经网络已经到来,热学/力学神经网络还会有多远?


【1】注:个人笔记系列,内容没有展开叙述,供本人时阅时新。RNN的传递函数,详见Wave physics as an analog recurrent neural network

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值