- 博客(6)
- 收藏
- 关注
RSS订阅原创 西瓜书/南瓜书_学习笔记_6
我们想很好的分隔开两种样本，其实选两种点中间的超平面就很好，因为可以看到它对局部扰动的“容忍性”最好，比如测试集中的点可能很接近分隔界，如果是其他的划分超平面，误差会很大，可以自己在这个图上随便画一些点，其实可以看出来，虽然最中间这条不能说处处最好，但是错误分类的点数相比而言不算多。我们的目的是让目标函数收敛，所以第二个参数也要取使函数变化最大的参数，但是，直接写一个预测变量对应的函数变化值大小的函数复杂度太高，因此，SMO选择选取两变量，使对应样本之间的间隔最大，这样通常会给函数带来更大的变化。
2023-09-27 23:48:26
120
1
原创 西瓜书/南瓜书_学习笔记_5
Elman网络是最常用的递归神经网络之一，其结构如圈5.13 所示，它的结构与多层前馈网络很相似，但隐层神经元的输出被反馈回来，与下一时刻输入层神经元提供的信号一起，作为隐层神经元在下一时刻的输入。这样的结构和与信息反馈过程，使得网络在t时刻的输出状态不仅与t时刻的输入有关，还与t-1时刻的网络状态有关，从而能处理与时间有关的动态变化。机器学习中，同样的数据的不同表达，会直接决定后续任务的难易程度（换言之，表示方法的选择通常依赖于后续任务的需求），因此找到好的数据表示往往是机器学习的核心任务。
2023-09-24 23:38:40
86
1
原创 西瓜书/南瓜书_学习笔记_4
（好瓜和坏瓜），先由样本中正例和反例占总数的比例，算出信息熵，然后针对各特征算出信息增益，选出最大的“脐部”作为第一次分类的依据，在分过一次后，记得就是在各个子集中计算信息增益了，然后再经由这部分中的剪枝，处理一下叶结点。使用第二章的留出法来进行性能评估（把样本分割为两个互斥的集合，一部分用来训练，一部分用来测试），对下表，分成训练集{1，2，3，6，7，10，14，15，16，17}和验证集{4，5，8，9，11，12，13}把当前结点标记为叶结点，但是将其类别设为父结点所含样本最多的类型。
2023-09-21 23:50:04
90
原创 西瓜/南瓜_学习_3
例如图3.5(a)中对测试示例的正确预测编码是(-1，+1，十1，一1，+1)，假设在预测时某个分类器出错了，例如f2出错从而导致了错误编码(-1，-1，+1，一1，+1)，但基于这个编码仍能产生正确的最终分类结果C3。，是S型的函数，通过这个式子，y与z建立了联系，y是关于z的函数，而且符合我们的需要，而z与x有关系，这样就得到了y和x的关系，这里的把y视作x作为正例的可能性，可以理解为单纯的形式合适；注意，这里的i和xi，yi的i不一样，前者只有0或1两种可能，表示正例或负例情况下这个量的取值；
2023-09-16 23:16:00
187
原创 西瓜书/南瓜书_学习_2
我手上现在有一定数量的西瓜，我进行m次随机的放回采样，也就是随便挑个西瓜，记录下特征，然后放回去，这样重复m次，我手上就有了包含m组数据的数据集，初始数据集中有的样本多次出现，有的则从未出现。比如{0，1}的情况下，你设置一个0.5，模型对每个样本预测完后返回的值若大于0.5，则归为正例，否则为负例，这也类似上面提到的，将数据从“最可能为正例”到“最不可能为正例”排序，其中设置一个截断点，用于分开正例和负例。可能的原因有很多，比如学习能力过强，以上图为例，把锯齿这种不算特征的特征也算在了判断标准之内。
2023-09-12 10:27:45
126
原创 西瓜书/南瓜书_学习笔记_1
需注意的是，现实问题中我们常面临很大的假设空间，但学习过程是基于有限样本训练集进行的，因此，可能有多个假设与训练集一致，即存在着一个与训练集一致的"假设集合"，我们称之为"例如对我们已经很熟悉的西瓜问题来说，“假设1:好瓜= (色泽=*) ⋀ (根蒂=蜷缩)⋀(敲声=浊响)”和假设2: "好瓜=(色泽=*) ⋀ (根蒂=蜷缩)⋀(敲声=*)"这两个假设，哪一个更"简单"呢?大致可以理解为，给定一个正例，如（（色泽=浅白，根蒂=*，敲声=浊响），好瓜），以此为基础，去除所有色泽和敲声与好瓜不一致的假设。
2023-09-10 19:54:03
237
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人