本示例描述了不同超参数下RBF核函数的GPC预测概率。第一个图显示了任意选择超参数和最大log-marginal-likelihood(LML)超参数的GPC预测概率。
通过优化LML选择的超参数具有较大的LML,但从试验数据的对数损失来看,其性能稍差。图中显示,这是因为它们在类边界处显示类概率的急剧变化(这是好的),但预测的概率远离类边界的概率接近0.5(这是坏的),这一不良影响是由GPC内部使用的拉普拉斯近似引起的。
第二个图显示了不同内核超参数选择下的log-marginal-likelihood,并用黑点突出显示了第一个图中使用的两个超参数的选择。
输出:
Log Marginal Likelihood (initial): -17.598
Log Marginal Likelihood (optimized): -3.875
Accuracy: 1.000 (initial) 1.000 (optimized)
Log-loss: 0.214 (initial) 0.319 (optimized)