神经网络的物理学解释(一)---权重与概率幅

假设在m,n,k位置上有三个球A,B,C


现在让A撞向B,同时也让C撞向B,无论这三个小球是如何相互作用的,不管是强相互作用,弱相互作用,电磁力,或者是引力,也不管作用方向,作用力的大小,总之这两次碰撞的结果都可以用B球在n点出现概率的变化来表示,B球在n点出现的概率w3=w1+w2




制作一个简单1*2*2的神经网络,B点的输入很显然是A*Wab,按照波动力学,概率幅和电子电荷相乘就代表了电荷在空间的实际分布,把A看作电荷,Wab是归一化的权重当然也可以看作是概率幅,A*Wab就是B点的电荷的分布。

然后用Fermi-Dirac分布函数做激活函数






但是把β=1 ,εF=0

β≡1/(kB*T)

KB是玻尔兹曼常数

T是温度

εF系统中电子的化学势

ε是能量,假设能量是与B点电荷的分布有关,并且考虑电性让B点的能量

ε=(-1)*A*Wab

这样就把Fermi-Dirac分布函数变成了sigmoid分布函数

按照Fermi-Dirac的物理意义,S(x)=1/(1+e^(-A*Wab))的意义就是B粒子占据能量-A*Wab的几率。比如S(x)=0.1的意思就是在B位置能量为-A*Wab的粒子数可能为0.1个

同理C点就是C粒子占据能量 -(B*Wbc+D*Wdc)的几率。



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

黑榆

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值