Spike Timing Dependent Plasticity（STDP）

Spike Timing Dependent Plasticity（STDP）

1、典型原理：

​ 权重的更新依赖于突触前脉冲到达时间和突触后脉冲发射相对时序。根据上图所示，假设突触j的突触前脉冲到达时间为$t_j^f$,f是自然数，计数突触前神经元的脉冲，$t_i^n$代表突触后神经元的脉冲。

​ $$\Delta {\omega }_1=\sum _{i=1}^N\sum _{i=1}^{n}W(t_i^n-t_j^f)$$

​ W为STDP函数，用于确定突触前脉冲和突触后脉冲的相对时序所对应权重的变化相对率。

​ $W(x)=A_{+}\exp \left(-x/{\tau }_{+}\right)forx>0$

​ $W(x)=-A_{-}\exp \left(x/{\tau }_{-}\right)forx<0$

2、Online-STDP(Variant)：

​ 通过使用突触轨迹来降低计算复杂度，以此可以采用在线更新的规则进行突触权重更新的实现。

​ 每个突触前脉冲的到达都会留下轨迹$x_j(t)$，这条轨迹在脉冲到达时为$a_{+}(x_j)$，在没有脉冲时按指数衰减。同理，每个突触后脉冲到达也会留下轨迹$y(t)$,这条轨迹在脉冲到达时为$a_{(}y)$。轨迹可能的解释是正在反向传播的动作电位引起的突触的电压，或者是反向传播的动作电位引起的钙进入。

​ ${\tau }_{+}\frac{d{x}_j}{dt}=-x+a_{+}(x){\sum }_j\delta \left(t-t_j^f\right)$

​ ${\tau }_{-}\frac{dy}{dt}=-y+a_{+}(y){\sum }_n\delta \left(t-t^n\right)$

​ 权重的变化：

​ $\frac{d{w}_j}{dt}=A_{+}\left(w_j\right)x(t){\sum }_n\hat{\delta }\left(t-t^n\right)-A_{-}\left(w_j\right)y(t){\sum }_f\hat{\delta }\left(t-t_j^f\right)$

​ ※因此，在突触后发射脉冲时权重增加，权重的变化量取决于突触前脉冲留下的轨迹。同样的，权重在突触前脉冲时减少，这个量取决于先前突触后脉冲留下的轨迹。

3、依赖权重的硬边界与软边界：

由于生物合理性，最好将突触权重保持在一个范围内：

​ $w^{min}<w_j<w^{max}$

通过适当的选择函数$A_{+}({\omega }_j)$和$A_{-}({\omega }_j)$可以实现上述目标。即软边界如下：

​ $A_{+}(w_j)=(w^{max}-w_j){\eta }_{+}$

​ $A_{-}(w_j)=(w_j-w^{min}){\eta }_{-}$

另外还有选择被称为硬边界：

​ $A_{+}(w_j)=\theta (w^{max}-w_j){\eta }_{+}$

​ $A_{-}(w_j)=\theta (w_j-w^{min}){\eta }_{-}$

其中$\Theta (x)$ 表示Heaviside阶跃函数。

​ 在实际中，硬边界意味着按照固定参数${\eta }_{+}$,${\eta }_{-}$更新规则，直到到达边界为止；软边界意味着，对于大权重，突触的抑制大于增强；对于小权重，突触的增强大于抑制。

4、all-to-all & Nearest Neighbor：

​ 一般STDP模型的窗函数W的和遍历了所有的突触前脉冲和所有的突触后脉冲，所有的脉冲对的贡献相等，这样的情况被称为all-to-all。

​ 也有可能限制相互作用因此只有最近邻的脉冲作用。突触后脉冲的增强也可能仅依赖于最近的突触前脉冲时间。为了实现这一点，假设轨迹变量x在突触前脉冲的时刻增加到一定量，$a_{+}(x)=1-x_{-}$,$x_{-}$表示更新前变量x的值。换句话说，x的更新不是积累的，而是总是固定的值1，因此以前脉冲的影响将被忽略。

​ 当然也可以考虑加一个时间窗，或者使用k近邻。

5、Triplet-STDP

​ 如果假设STDP实验中的基本的增强不是成对的相互作用，而是两个突触后脉冲和一个突触前脉冲的三重态相互作用，那么STDP实验中的频率依赖性就可以被解释。如果其中一个与两个突触后轨迹与y1和y2按两个不同的时间常数一起工作，而不是单一的轨迹，这样的三重态相互作用可以在模型中实现。这样的模型也与三重态实验兼容，但是基于成对的模型是不行的。

6、自平衡项

​ 除了上面提到的基于paired和triplet-STDP外，人们还可以考虑一种STDP模型，一个孤立的突触前或突触后脉冲即使不和另一个脉冲成对也会导致突触权重的微小变化，该方法在模型中用于产生突触后神经元的总输入的稳态控制。

​ 另一种对STDP模型实现稳态控制的可能是通过设置STDP的窗函数依赖于按秒作为时间尺度运行的平均激发率。