FTRL

FTRL

参考论文：Ad Click Prediction: a View from the Trenches

FTRL是一种在线学习的训练方法，是一种增量的学习方法，即可以保证训练的精度，又可以保证解的稀疏，非常适合大规模的LR在线训练。

FTRL的优化目标为：

$$\begin{equation} w_{t+1} = \arg \min_w (g_{1:t}w + \frac{1}{2}\sum _{s=1}^t \delta_s \lVert w - w_s\rVert_2^2 + \lambda_1 \lVert w\rVert_1) \end{equation}$$

该目标函数可以改写为：

$$\begin{equation} (g_{1:t} - \sum_{s=1}^t \delta_s w_s)w + \frac{1}{2}\lVert w\rVert_2^2 + \lambda_1 \lVert w\rVert_1 \end{equation}$$
其中， $z_{t-1}=g_{1:t-1} -\sum_{s=1}^t\delta_s w_s$，在第 $t$轮迭代开始前，$z_{t} = z_{t-1} + g_t + (\frac{1}{\eta_t} - \frac{1}{\eta_{t-1}})w_t$.

$w_{t+1}$可以求解：

$$\begin{equation} w_{t+1,i}= 0, if |z_{t,i}| < \lambda_1; -\eta_t(z_{t,i} - sgn(z_{t,i})\lambda_1) , otherwise \end{equation}$$

FTRL 伪代码：