nndl-book读书笔记

第二章P37
公式（2.52）及（2.53）
参数$\mathbf{w}$的后验分布为
$$\begin{array}{llc}p(\mathbf{w}|\mathbf{X},\mathbf{y};\nu ,\sigma )& =\frac{p(\mathbf{w},\mathbf{y}|\mathbf{X};\nu ,\sigma )}{{\sum }_{\mathbf{w}}p(\mathbf{w},\mathbf{y}|\mathbf{X};\nu ,\sigma )}& (2.52)\\ & =\frac{p(\mathbf{y}|\mathbf{X},\mathbf{w};\nu ,\sigma )p(\mathbf{w};\nu )}{p(\mathbf{y}|\mathbf{X};\nu ,\sigma )}& \\ & \propto p(\mathbf{y}|\mathbf{X},\mathbf{w};\nu ,\sigma )p(\mathbf{w};\nu )& (2.53)\end{array}$$
其中$p(\mathbf{y}|\mathbf{X},\mathbf{w};\nu ,\sigma )$
//(在非似然解释下 此概率为$\mathbf{X},\mathbf{w}$两事件条件下$\mathbf{y}$的概率)
为$\mathbf{w}$的似然函数（在$\mathbf{y}$已知的条件下不同参数$\mathbf{w}$对其分布的影响）
$p(\mathbf{w},\mathbf{y}|\mathbf{X};\nu ,\sigma )$解释为$\mathbf{X}$事件下$\mathbf{w}，\mathbf{y}$同时发生的概率

$$\begin{array}{ll}{\theta }^{\ast },{\theta }^{{}^{\prime }\ast }& =\underset{\theta ,{\theta }^{{}^{\prime }}}{\mathrm{argmin}}\frac{1}{n}{\sum }_n^{i=1}L\left({\text{x}}^{(i)},{\text{x}}^{{}^{\prime }(i)}\right)\\ & =\underset{\theta ,{\theta }^{{}^{\prime }}}{\mathrm{argmin}}\frac{1}{n}{\sum }_n^{i=1}L\left({\text{x}}^{(i)},g_{{\theta }^{{}^{\prime }}}\left(f_{\theta }\left({\text{x}}^i\right)\right)\right)\end{array}$$

LSTM讲解
Understanding LSTM Networks很好的讲明了理论内容
LSTM细节分析理解（pytorch版）大概讲解了LSTM和pytorch结合的内容