Mamba In-2.Vision Mamba公式推导

Vision Mamba

从公式推导切入,介绍一下Vision Mamba,论文的第一个公式中表达了连续状态空间方程
在这里插入图片描述
在之后加入 步长∆后,h(t+∆)如何表示呢? 可以在h(t)处做一个切线,此时的h(t+∆)就由红色加蓝色的虚线相加得到了。那蓝色的虚线是h(t)。


红色的虚线如何表示呢?红色的虚线可以表示为 函数在t位置的导数,其实可以表示为tanθ

那红色虚线就可以表示为 ∆·h’(t),那么h(t+∆)可以表示为:

论文拿 Ā 和 B拔来 代替 h(t)和 x(t) 前面的参数
在这里插入图片描述

最后得到下式,是不是和 论文公式三一样呢?

我们整体的推导过程是以连续情况下进行推导的,所以我们需要使用ZOH(Zero-order hold)技术来将连续状态打散为离散状态。

不需要关注这两个式子是什么意思,只需要知道这两个式子是将连续状态打散为离散状态,最终得到公式4.对应于Vision Mamba论文中的公式3.

在Mamba论文中它的block就是这样的,根据这两个公式构建的,h代表状态,x代表输入,y代表输出在这里插入图片描述

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值