Background: State Spaces——Addressing Long-Range Dependencies with HiPPO

详细解释和具体数据举例

HiPPO理论简介

HiPPO理论（High-order Polynomial Projection Operator）是一种连续时间记忆的理论，旨在通过特定矩阵A的使用来提升序列数据的记忆效果。LSSL（Linear State-Space Layer）利用该理论，旨在通过将特定的矩阵A整合到状态方程中，从而使状态x(t)能够记忆输入u(t)的历史。

公式2👇👇👇

HiPPO矩阵定义

HiPPO矩阵是LSSL使用的最重要的矩阵，定义如下：
$$A_{nk}=\{\begin{array}{ll}-\sqrt{(2n+1)(2k+1)},& \text{if }n>k\\ -(n+1),& \text{if }n=k\\ 0,& \text{if }n<k\end{array}$$
其中，