论文阅读笔记——STDArm

STDArm 论文
将静态转化为动态时，面临几个问题：1）推理延迟高；2）Action Chunk 的方式导致对环境响应能力差。过去的方法都采用减少扩散策略的去噪步数以提升整体推理频率（加速策略本身推理频率），STDArm 则采用动作管理器和 插值动作补偿。——相比于压缩算法，优化执行架构的方式也可以提升频率。（STDArm 部署在边缘设备 Jetson Xavier 上）

策略网络的输入是 $m_o$ 步观测数据 O，末端执行器的位置坐标（u）。采用 ResNet18作为视觉骨干，然后接 DP， $m_o=2,m_a@5Hz=8$（与 DP 原文一致）。
当策略网络 $\pi$ 在 $t_1$ 时刻读取观测 $O_{t_1-m_o+1}:O_{t_1}$ ，经过 $t_{Inf}$ 时延后生成动作序列 $u_{t_1}:u_{t_1+m_a}$，动作管理器在 $t_2\approx t_1+t_{Inf}$ 时刻将其与缓冲区 $\mathcal{A}$ （ A = { A t , t ∈ N } \mathcal{A}=\{A_t,t\in N\} A={At​,t∈N} 按序存储已执行动作和待执行动作）融合。
在 $t_1$ 与 $t_2$ 对齐的过程中，直接时间戳对齐会导致动作回溯，通过滑动窗口搜索最佳对齐位置：
$$t_u=argmi{n}_t\frac{{\sum }_{k\in K}d(u_{t+k},A_{t2+k})}{|K|},t\in [t2-m_s,t2+m_s]$$
其中 d(·) 表示欧式距离，K 为 u 与 A的重叠区间，$m_s$ 为预设搜设范围。
然后模仿 ACT 的设计，进行时序平滑：
$$A_{t2+k}=\{\begin{array}{ll}{w}_{old}\cdot A_{t2+k}+w_{new}\cdot u_{t_u+k},& 0\le k\le |A|-t2\\ u_{t_u+k},& k>|A|-t2\end{array}$$
$$\begin{array}{rl}& w_{t+i}^{\mathrm{new}}=\exp (-\alpha i),i\in [1,m_a],\\ & w_t^{\mathrm{old}}=w_t^{\mathrm{old}}+w_t^{\mathrm{new}}.\end{array}$$
针对策略输出频率与执行需求之间差距，在相邻动作间实时插值：$A_{\tau }=(\tau -t)A_t+(t+1-\tau )A_{t+1},\tau \in [t,t+1]$

在处理高频动作时，传统方法实时监测机械臂的运动并利用他们来细化动作，但由于计算、通信、控制延迟的问题，数据是过时的。设计了一个基于预测补偿的稳定器，预测平台在短时间内未来的运动，并修改动作以有效抵消运动。
采用实时高频 SLAM（立体相机+IMU）输出位姿序列，以当前位姿 $p_0$ 为基准坐标系，计算过去 $l_0$ 帧的相对位姿序列： Δ P − l 0 : − 1 = { Δ p − l 0 , … , Δ p − 1 } , Δ p − i = p 0 − 1 p − i \Delta P_{-l_0:-1} = \{\Delta p_{-l_0}, \dots, \Delta p_{-1}\}, \quad \Delta p_{-i} = p_0^{-1} p_{-i} ΔP−l0​:−1​={Δp−l0​​,…,Δp−1​},Δp−i​=p0−1​p−i​
预测网络采用 LSTM 与 GRU 并行处理输入，特征为维度拼接后经全连接层输出：（1.2ms，相比纯 LSTM 降低 37% 计算负载）
$$\begin{array}{rl}\Delta P_{1:l_1}^{\ast }& =\mathcal{M}(\Delta P_{-l_0:-1})\\ \mathcal{M}(x)& =\text{FC}(\text{concat}(\text{LSTM}(x),\text{GRU}(x)))\end{array}$$
对于目标动作 $A_{\tau }$ ，计算由机器人运动引起的动作偏移量：$\delta (\tau ,\Delta t,E)=E^{-1}{\left(\Delta p_{\lceil -\Delta t_{\tau }/f\rceil }^{-1}\Delta p_{\lfloor \Delta t/f\rfloor }^{\ast }\right)}^{-1}E$

• E：视觉SLAM坐标系与机械臂坐标系的外参（预先标定）；
• $\Delta t_{\tau }$：策略网络生成 $A_{\tau }$ 到执行的时间间隔；
• f：SLAM系统输出频率；
• Δt：位姿估计到动作执行的总延迟。采用从零开始的延迟线性搜索方法，将标记物移动最小时的延迟确定为系统延迟。为确保机器人运动变化不影响延迟估计的准确性，我们采用标记物像素平面运动速度与VSLAM估计平台运动速度之比作为评估指标。$\rho =\frac{\Vert v_{\text{marker}}{\Vert }_{\text{pixel}}}{\Vert v_{\text{platform}}{\Vert }_{\text{VSLAM}}}$
  补偿后的动作为：$A_{\tau }^{\prime }=\delta (\tau ,\Delta t,E)A_{\tau }$
  设计了三个任务，验证精度：

• 方块投放：抓取3cm宽度的木块并投入直径8cm的笔筒；
• 圆柱堆叠：将两个直径8cm的圆柱体垂直堆叠；
• 外卖取件：准确抓取外卖袋提手并完成提升动作。

实验结果