（一）3. 回归的线性模型（2）

3.4 贝叶斯 模型比较

在这里插入图片描述

过拟合问题的解决方法：1. 通过使⽤交叉验证的方法设置正则化参数的值；2. 从多个模型中选择合适的⼀个。

本节内容：从贝叶斯的角度考虑模型选择的问题
本节结论：与最⼤似然估计相关联的过拟合问题，可以通过对模型的参数求和或者积分（模型证据）来避免。（不是点估计）
无过拟合问题的优点：

1. 模型可直接在训练数据上⽐较，⽽不需要验证集。这使得所有的数据都能够被⽤于训练，并且避免了交叉验证中每个模型要运⾏多次训练过程的问题。
2. 多个复杂度参数可以同时在训练过程中被确定。例如，在第7章的相关向量机（relevance vector machine），这是⼀个贝叶斯模型，它对于每个训练数据点都有⼀个复杂度参数。

3.4.1 模型平均

假设⽐较L个模型 {