- 博客(10)
- 收藏
- 关注
原创 Datawhale大模型夏令营
基于原先的baseline,对数据集进行了清洗。我们现在手头有的是原来给的129条数据,但是里面有很多都是链接之类的没有用的东西,这一部分的主要目的就是先把没用的扔掉,提升训练效率,然后合并发言的对象,合并数据,最后改写格式,形成新的数据。
2024-07-04 18:22:22
264
原创 西瓜书/南瓜书_学习笔记_6
我们想很好的分隔开两种样本,其实选两种点中间的超平面就很好,因为可以看到它对局部扰动的“容忍性”最好,比如测试集中的点可能很接近分隔界,如果是其他的划分超平面,误差会很大,可以自己在这个图上随便画一些点,其实可以看出来,虽然最中间这条不能说处处最好,但是错误分类的点数相比而言不算多。我们的目的是让目标函数收敛,所以第二个参数也要取使函数变化最大的参数,但是,直接写一个预测变量对应的函数变化值大小的函数复杂度太高,因此,SMO选择选取两变量,使对应样本之间的间隔最大,这样通常会给函数带来更大的变化。
2023-09-27 23:48:26
141
1
原创 西瓜书/南瓜书_学习笔记_5
Elman网络是最常用的递归神经网络之一,其结构如圈5.13 所示,它的结构与多层前馈网络很相似,但隐层神经元的输出被反馈回来,与下一时刻输入层神经元提供的信号一起,作为隐层神经元在下一时刻的输入。这样的结构和与信息反馈过程,使得网络在t时刻的输出状态不仅与t时刻的输入有关,还与t-1时刻的网络状态有关,从而能处理与时间有关的动态变化。机器学习中,同样的数据的不同表达,会直接决定后续任务的难易程度(换言之,表示方法的选择通常依赖于后续任务的需求),因此找到好的数据表示往往是机器学习的核心任务。
2023-09-24 23:38:40
104
1
原创 西瓜书/南瓜书_学习笔记_4
(好瓜和坏瓜),先由样本中正例和反例占总数的比例,算出信息熵,然后针对各特征算出信息增益,选出最大的“脐部”作为第一次分类的依据,在分过一次后,记得就是在各个子集中计算信息增益了,然后再经由这部分中的剪枝,处理一下叶结点。使用第二章的留出法来进行性能评估(把样本分割为两个互斥的集合,一部分用来训练,一部分用来测试),对下表,分成训练集{1,2,3,6,7,10,14,15,16,17}和验证集{4,5,8,9,11,12,13}把当前结点标记为叶结点,但是将其类别设为父结点所含样本最多的类型。
2023-09-21 23:50:04
123
原创 西瓜/南瓜_学习_3
例如图3.5(a)中对测试示例的正确预测编码是(-1,+1,十1,一1,+1),假设在预测时某个分类器出错了,例如f2出错从而导致了错误编码(-1,-1,+1,一1,+1),但基于这个编码仍能产生正确的最终分类结果C3。,是S型的函数,通过这个式子,y与z建立了联系,y是关于z的函数,而且符合我们的需要,而z与x有关系,这样就得到了y和x的关系,这里的把y视作x作为正例的可能性,可以理解为单纯的形式合适;注意,这里的i和xi,yi的i不一样,前者只有0或1两种可能,表示正例或负例情况下这个量的取值;
2023-09-16 23:16:00
254
原创 西瓜书/南瓜书_学习_2
我手上现在有一定数量的西瓜,我进行m次随机的放回采样,也就是随便挑个西瓜,记录下特征,然后放回去,这样重复m次,我手上就有了包含m组数据的数据集,初始数据集中有的样本多次出现,有的则从未出现。比如{0,1}的情况下,你设置一个0.5,模型对每个样本预测完后返回的值若大于0.5,则归为正例,否则为负例,这也类似上面提到的,将数据从“最可能为正例”到“最不可能为正例”排序,其中设置一个截断点,用于分开正例和负例。可能的原因有很多,比如学习能力过强,以上图为例,把锯齿这种不算特征的特征也算在了判断标准之内。
2023-09-12 10:27:45
144
原创 西瓜书/南瓜书_学习笔记_1
需注意的是,现实问题中我们常面临很大的假设空间,但学习过程是基于有限样本训练集进行的,因此,可能有多个假设与训练集一致,即存在着一个与训练集一致的"假设集合",我们称之为"例如对我们已经很熟悉的西瓜问题来说,“假设1:好瓜= (色泽=*) ⋀ (根蒂=蜷缩)⋀(敲声=浊响)”和假设2: "好瓜=(色泽=*) ⋀ (根蒂=蜷缩)⋀(敲声=*)"这两个假设,哪一个更"简单"呢?大致可以理解为,给定一个正例,如((色泽=浅白,根蒂=*,敲声=浊响),好瓜),以此为基础,去除所有色泽和敲声与好瓜不一致的假设。
2023-09-10 19:54:03
449
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人