Smoothers and Generalised Additive Models 广义加性模型 （R）

GAM（ Generalised Additive Models ）是什么？

请对glm有一定了解，否则本文看起来会很跳跃。gam 可以看作是 glm 的扩展， 

对于真实世界的数据，可能是更加光滑，在不同阶段有不同光滑程度 的曲线，而不是简单的线性模型。为了应付这种 模型中更光滑部分 （smoother） 的需求，我们引入 ”加性模型“， 譬如 我们使用了 更高的次幂 ，但这个法子有 undesirable properties，于是我们引入了 splines + knots 结构 的加性模型 。这个结构仍然可以通过 使用 线性模型那样 的 least square 方式 得到模型参数的 点估计。

knots 太少就不够 flexible ，过细过多的 knots 会 让模型 less smooth ，也就是 过拟合 ， 所以引入了一些机制来实现这个权衡。

1 How to specify the smooth function ----, one way to go is to use penalised regression splines to represent the functions

2 How smooth should they be -----whereas the appropriate degree of smoothness can be estimated from the data using cross validation （CV）

 

GLM 吸收 加性模型 的 特性，用 加性模型（如下图） 替换了 原来的GLM中 线性模型 的部分，成为了 GAM。也就是：