周志华机器学习西瓜书学习笔记(二)下 | 第二章 :模型评估与选择

4. 比较检验

(一) 对单个学习器泛化性能的假设检验

         假设检验中的“假设”是 对学习器泛化错误率分布的某种判猜测,例如“ \varepsilon =\varepsilon _0”。现实任务中我们并不知道学习器的 泛化错误率\varepsilon,只能获知其 测试错误率\widehat{\varepsilon }。泛化错误率与测试错误率未必相同,但直观上,二者接近的可能性应比较高。
        泛化错误率为 \varepsilon的学习器在一个样本上犯错的概率是 \varepsilon;测试错误率 \widehat{\varepsilon }意味着在m个测试样本中恰有 \widehat{\varepsilon }\times m个被误分类。假定测试样本是从样本总体分布中独立采样而得,那么泛化错误率为 \varepsilon的学习器将其中m'个样本误分类、其余样本全都分类正确的概率是 \binom{m}{m'}\varepsilon ^{m'}(1-\varepsilon )^{m-m'}
        由此可估算出其恰将 \widehat{\varepsilon }\times m个样本误分类的概率如下式所示,这也表达了在包含m个样本的测试集上,泛化错误率为 \varepsilon的学习器被测得测试错误率为 \widehat{\varepsilon }的概率:
P(\widehat{\varepsilon };\varepsilon)=\binom{m}{\widehat{\varepsilon }\times m}\epsilon ^{\widehat{\varepsilon }\times m}(1-\varepsilon ^{m-\widehat{\varepsilon }\times m})
        给定测试错误率,则解 \frac{\partial P(\widehat{\varepsilon };\varepsilon)}{\partial \varepsilon }=0可知, P(\widehat{\varepsilon };\varepsilon)\varepsilon =\widehat{\varepsilon }时最大, \left | \varepsilon -\widehat{\varepsilon } \right |增大时 P(\widehat{\varepsilon };\varepsilon)减小。
4.1.1 二项检验
        这符合 二项(binomial)分布,我们可使用 “二项检验”(binomial test)进行检验,考虑假设“ \varepsilon \leq \varepsilon _0”,则在1-α的概率内所能观测到的最大错误率为:

        此时若测试错误率 \widehat{\varepsilon }小于临界值 \overline{\varepsilon },则根据二项检验可得出结论: 在α的显著度下,“\varepsilon \leq \varepsilon _0”不能被拒绝,即能以1-α的置信度认为,学习器的泛化错误率不大于\varepsilon _0;否则该假设可被拒绝。
4.1.2 t 检验
        对于多次重复留出法或是交叉验证法等进行多次训练/测试的情况,这样会得到多个测试错误率,此时可使用 “t检验”(t-test)。假定我们得到了k个测试错误率, \widehat{\varepsilon_1},\widehat{\varepsilon_2},...,\widehat{\varepsilon_k},平均测试错误率μ和方差σ²为

        考虑到这k个测试错误率可看作泛化错误率\varepsilon _0的独立采样,则下面变量服从自由度为 k-1的t分布:

        对假设“μ=\varepsilon _0”和显著度α,我们可计算出当测试错误率均值为\varepsilon _0时,在1-α概率内能观测到的最大错误率,即临界值。这里考虑双边(two-tailed)假设,两边阴影部分各有α/2的面积;假定阴影部分范围分别为[-\infty,t_{-\frac{\alpha }{2}} ][t_{\frac{\alpha }{2}},\infty ]\left | \mu -\varepsilon _0 \right |位于临界值范围[t_{-\frac{\alpha }{2}},t_{\frac{\alpha }{2}} ],则不能拒绝假设“μ=\varepsilon _0”,即可认为泛化错误率为\varepsilon _0,置信度为1-α;否则可拒绝该假设。

(二)对不同学习器泛化性能的假设检验

4.2.1 交叉验证t检验

        对两个学习器A和B,若我们使用k折交叉验证法得到的测试错误率分别为\varepsilon _1^{A},\varepsilon _2^{A},...,\varepsilon _k^{A}\varepsilon _1^{B},\varepsilon _2^{B},...,\varepsilon _k^{B},其中\varepsilon _i^A\varepsilon _i^B是在相同的第i折训练/测试集上得到的结果,则可用k折交叉验证“成对t检验”(paired t-tests)来进行 比较检验,这里的基本思想是若两个学习器的性能相同,则它们使用相同的训练/测试集得到的测试错误率应相同,即\varepsilon _i^A=\varepsilon _i^B

        具体来说,对k折交叉验证产生的k对测试错误率:先对每对结果求差,\Delta_i=\varepsilon _i^A-\varepsilon _i^B;若两个学习器性能相同,则差值均值应为零。因此,可根据差值 \Delta_1,\Delta_2,...,\Delta_k来对“学习器A与B性能相同”这个假设做t检验,计算出差值的均值μ和方差σ²,在显著度α下,若变量\tau_t=\left | \frac{\sqrt{k}\mu }{\sigma} \right |小于临界值t_{\alpha /2,k-1},则假设不能被拒绝,即认为两个学习器的性能没有显著差别;否则可认为两个学习器的性能有显著差别,且平均错误率较小的那个学习器性能较优。这里t_{\alpha /2,k-1}是自由度为k-1的t分布上尾部累积分布为α/2 的临界值。为保证测试错误率均为泛化错误率的独立采样,得到有效的假设检验,常采用“5×2交叉验证”

4.2.2 McNemar检验

        对二分类问题,使用留出法不仅可估计出学习器A和B的测试错误率,还可获得两学习器分类结果的差别,即两者都正确、都错误、一个正确另一个错误的样本数,如“列联表”:

        若我们做的假设是两学习器性能相同,则应有e_{01}=e_{10},那么变量 \left | e_{01}-e_{10} \right |应当服从正态分布,McNemar检验考虑变量\tau_{\chi ^2}=\frac{(\left | e_{01}-e_{10} \right |-1)^2}{e_{01}+e_{10}},服从自由度为1的\chi ^2分布,即标准正态分布变量的平方。给定显著度α,当以上变量值小于临界值\chi_\alpha ^2时,不能拒绝假设,即认为两学习器的性能没有显著差别;否则拒绝假设,即认为两者性能有显著差别,且平均错误率较小的那个学习 器性能较优。

4.2.3 Friedman 和 Nemenyi后续检验

        当有多个 算法参与比较时,一种做法是在每个数据集上分别列出两两比较的结果,而在两两比较时可使用前述方法;另一种方法更为直接,即使用基于算法排序的 Friedman检验。
        假定我们用D₁、D₂、D₃和D₄四个数据集对算法A、B、C进行比较。首先,使用留出法或交叉验证法得到每个算法在每个数据集上的测试结果,然后在每个数据集上根据测试性能由好到坏排序,并赋予序值1,2,..;若算法的测试性能相同,则平分序值。例如,在D₁和D₃上,A最好、B其次、C最差, 而在D₂上,A最好、B与C性能相同,……,则可列出下表,其中最后一行通过对每一列的序值求平均,得到平均序值。

        若算法性能相同,则它们的平均序值也相同。假定我们在N个数据集上比较k个算法,令r_i表示第 i个算法的平均序值,为简化讨论,暂不考虑平分序值的情况,则r_i服从正态分布,其均值和方差分别为(k+1)/2,(k^2-1)/12N。使用变量\tau_F=\frac{(N-1)\tau_{\chi ^2}}{N(k-1)-\tau_{\chi ^2}},其中\tau_F服从自由度为k-1和(k-1)(N-1)的F分布,且:

5. 偏差与方差

        对学习算法除了通过实验估计其泛化性能,人们往往还希望了解它“为什么”具有这样的性能。“偏差-方差分解”(bias-variance decomposition)是解释学习算法泛化性能的一种重要工具。

        对测试样本x,令y_D为x在数据集中的标记,y为x的真实标记,f(x;D)为训练集D上学得模型f在x上的预测输出。

        以回归任务为例,学习算法的期望预测为:

        使用样本数相同的不同训练集产生的方差为:

        噪声为:

        期望输出与真实标记的差别称为偏差(bias)为:

        也就是说,泛化误差可分解为偏差、方差与噪声之和。

注:


         回顾偏差、方差、噪声的含义:

  • 偏差度量了学习算法的期望预测与真实结果的偏离程度,即刻画了学习算法本身的拟合能力;
  • 方差度量了同样大小的训练集的变动所导致的学习性能的变化,即刻画了数据扰动所造成的影响;
  • 噪声则表达了在当前任务上任何学习算法所能达到的期望泛化误差的下界,即刻画了学习问题本身的难度。

6. 参考文献

[1]周志华. 机器学习[M]. 北京:清华大学出版社. 2016.01.

[2]谢文睿、秦州.机器学习公式详解[M].人民邮电出版社.2021.03

本章主要介绍了概率图模型的基本概念和常见类型,以及如何利用Python实现这些模型。下面是一些笔记和代码示例。 ## 概率图模型的基本概念 概率图模型是一种用于表示和处理不确定性的图形化模型,它能够将一个复杂的联合概率分布表示为多个简单的条件概率分布的乘积形式,从而简化概率推理和模型学习的过程。概率图模型主要包括两种类型:有向图模型和无向图模型。 有向图模型(Directed Acyclic Graph, DAG)又称为贝叶斯网络(Bayesian Network, BN),它用有向边表示变量之间的因果关系,每个节点表示一个随机变量,给定父节点的条件下,每个节点的取值都可以用一个条件概率分布来描述。有向图模型可以用贝叶斯公式进行概率推理和参数学习。 无向图模型(Undirected Graphical Model, UGM)又称为马尔可夫随机场(Markov Random Field, MRF),它用无向边表示变量之间的相互作用关系,每个节点表示一个随机变量,给定邻居节点的取值,每个节点的取值都可以用一个势函数(Potential Function)来描述。无向图模型可以用和有向图模型类似的方法进行概率推理和参数学习。 ## 概率图模型的Python实现 在Python中,我们可以使用`pgmpy`库来实现概率图模型。该库提供了一个简单而强大的接口来定义和操作概率图模型,支持有向图模型和无向图模型的构建、概率推理、参数学习等功能。 ### 有向图模型 以下是一个简单的有向图模型的示例: ```python from pgmpy.models import BayesianModel model = BayesianModel([('A', 'B'), ('C', 'B'), ('B', 'D')]) ``` 其中,`BayesianModel`是有向图模型的类,`('A', 'B')`表示A节点指向B节点,即B节点是A节点的子节点,依此类推。我们可以使用以下代码查看模型的结构: ```python print(model.edges()) # 输出:[('A', 'B'), ('B', 'D'), ('C', 'B')] ``` 接下来,我们可以为每个节点定义条件概率分布。以下是一个简单的例子: ```python from pgmpy.factors.discrete import TabularCPD cpd_a = TabularCPD(variable='A', variable_card=2, values=[[0.2, 0.8]]) cpd_c = TabularCPD(variable='C', variable_card=2, values=[[0.4, 0.6]]) cpd_b = TabularCPD(variable='B', variable_card=2, values=[[0.1, 0.9, 0.3, 0.7], [0.9, 0.1, 0.7, 0.3]], evidence=['A', 'C'], evidence_card=[2, 2]) cpd_d = TabularCPD(variable='D', variable_card=2, values=[[0.9, 0.1], [0.1, 0.9]], evidence=['B'], evidence_card=[2]) model.add_cpds(cpd_a, cpd_c, cpd_b, cpd_d) ``` 其中,`TabularCPD`是条件概率分布的类,`variable`表示当前节点的变量名,`variable_card`表示当前节点的取值个数,`values`表示条件概率分布的值。对于有父节点的节点,需要指定`evidence`和`evidence_card`参数,表示当前节点的父节点和父节点的取值个数。 接下来,我们可以使用以下代码进行概率推理: ```python from pgmpy.inference import VariableElimination infer = VariableElimination(model) print(infer.query(['D'], evidence={'A': 1})) # 输出:+-----+----------+ # | D | phi(D) | # +=====+==========+ # | D_0 | 0.6000 | # +-----+----------+ # | D_1 | 0.4000 | # +-----+----------+ ``` 其中,`VariableElimination`是概率推理的类,`query`方法用于查询给定变量的概率分布,`evidence`参数用于指定给定变量的取值。 ### 无向图模型 以下是一个简单的无向图模型的示例: ```python from pgmpy.models import MarkovModel model = MarkovModel([('A', 'B'), ('C', 'B'), ('B', 'D')]) ``` 其中,`MarkovModel`是无向图模型的类,与有向图模型类似,`('A', 'B')`表示A节点和B节点之间有相互作用关系。 接下来,我们可以为每个节点定义势函数。以下是一个简单的例子: ```python from pgmpy.factors.discrete import DiscreteFactor phi_a = DiscreteFactor(['A'], [2], [0.2, 0.8]) phi_c = DiscreteFactor(['C'], [2], [0.4, 0.6]) phi_b = DiscreteFactor(['A', 'C', 'B'], [2, 2, 2], [0.1, 0.9, 0.3, 0.7, 0.9, 0.1, 0.7, 0.3]) phi_d = DiscreteFactor(['B', 'D'], [2, 2], [0.9, 0.1, 0.1, 0.9]) model.add_factors(phi_a, phi_c, phi_b, phi_d) ``` 其中,`DiscreteFactor`是势函数的类,与条件概率分布类似,需要指定变量名、变量取值个数和势函数的值。 接下来,我们可以使用以下代码进行概率推理: ```python from pgmpy.inference import BeliefPropagation infer = BeliefPropagation(model) print(infer.query(['D'], evidence={'A': 1})) # 输出:+-----+----------+ # | D | phi(D) | # +=====+==========+ # | D_0 | 0.6000 | # +-----+----------+ # | D_1 | 0.4000 | # +-----+----------+ ``` 其中,`BeliefPropagation`是概率推理的类,与有向图模型类似,`query`方法用于查询给定变量的概率分布,`evidence`参数用于指定给定变量的取值。 ## 总结 本章介绍了概率图模型的基本概念和Python实现,包括有向图模型和无向图模型的构建、条件概率分布和势函数的定义、概率推理等。使用`pgmpy`库可以方便地实现概率图模型,对于概率模型的学习和应用都有很大的帮助。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值