周志华《机器学习》第一章习题

1.1 表1.1中若只包含编号为1和4的两个样例,试给出相应的版本空间

表1.1

编号 色泽 根蒂 敲声 好瓜
1 青绿 蜷缩 浊响
         
4 乌黑 稍蜷 沉闷

只包含编号1和4的假设空间考虑到取什么值都合适和空集情况 =3*3*3+1=28

版本空间-与训练集一致的“假设集合”,

方法:搜索假设空间删除与正例不一致的假设和与反例一致的假设,最终获得与训练之一致(即对所有训练样本能够进行正确判断)的假设。

假设空间:

1、青绿 蜷缩 浊响
2、青绿 蜷缩 沉闷
3、青绿 稍蜷 浊响
4、青绿 稍蜷 沉闷
5、青绿 蜷缩 *
6、青绿 稍蜷 *
7、青绿  *   浊响
8、青绿  *   沉闷
9、青绿  *   *
10、乌黑 蜷缩 浊响
11、乌黑 蜷缩 沉闷
12、乌黑 稍蜷 浊响
13、乌黑 稍蜷 沉闷
14、乌黑 蜷缩 *
15、乌黑 稍蜷 *
16、乌黑  *   浊响
17、乌黑  *   沉闷
18、乌黑  *   *
19、* 蜷缩 浊响
20、* 蜷缩 沉闷
21、* 稍蜷 浊响
22、* 稍蜷 沉闷
23、* 蜷缩 *
24、* 稍蜷 *
25、*  *   浊响
26、*  *   沉闷
27、* * *

28、空集

表1.1中

1 ((青绿 蜷缩 浊响),好瓜)
4 ((乌黑 稍蜷 沉闷),坏瓜)

正例(即1)的版本空间:





### 习题解析 对于《机器学习周志华一书中的第七章习题7.4,该题目主要考察对贝叶斯分类器的理解以及如何处理实际数据集应用贝叶斯定理。 具体来说,习题7.4通常涉及给定的数据集,在此背景下要求计算不同类别下的条件概率,并利用这些概率来预测新样本所属的类别。根据贝叶斯决策理论,为了最小化风险函数R(c|x),应该选择使得后验概率P(c|x)最大的那个类c作为最终判定的结果[^1]。 考虑到朴素贝叶斯分类器假设特征之间相互独立,则可以简化联合分布的概率估计过程。即对于任意实例\( \textbf{x}=(x_1,x_2,...,x_d)\),其属于某个特定类别C_k的可能性可以通过下面这个公式来进行估算: \[ P(C_k|\textbf{x})=\frac{P(\textbf{x}|C_k)P(C_k)}{\sum_{j=1}^{K}{P(\textbf{x}|C_j)P(C_j)}}\] 其中\( P(C_k) \)表示先验概率;而\( P(x_i|C_k) \)则代表在已知类别为\( C_k \)的情况下各个属性值发生的可能性。当所有可能的类别都进行了这样的计算之后,具有最高后验概率的那个类别就被选作预测结果[^2]。 针对具体的数值型或离散型变量,还需要采用适当的方法(比如高斯模型用于连续变量,多项式分布适用于计数数据等)去近似求解上述表达式的各项成分。最后通过比较各候选类别对应的后验概率大小得出结论。 ```python import numpy as np from sklearn.datasets import load_iris from sklearn.naive_bayes import GaussianNB # 加载鸢尾花数据集为例说明 data = load_iris() X = data['data'] y = data['target'] # 创建并训练一个高斯朴素贝叶斯分类器 gnb = GaussianNB() gnb.fit(X[:100], y[:100]) # 使用部分数据进行训练以便留出测试集 # 预测剩余未见过的数据点标签 predicted_labels = gnb.predict(X[100:]) print(predicted_labels) ```
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值