- 博客(7)
- 收藏
- 关注
RSS订阅原创 详读西瓜书 第六章 支持向量机
在实际问题中，训练样本大概率不是线性可分的。对于这样的问题，可以将样本空间映射到一个更高维的特征空间。比如将原来属于二维平面的样本空间，映射到三维空间，它也许就可以实现线性可分了。wd)为法向量，决定超平面的方向，b是位移项，决定了超平面与原点之间的距离。但是涉及到一个问题：由于特征空间的维数可能很高，甚至可能是无穷维，因此直接计算。，后面还涉及到二次规划问题，SMO算法，KKT条件又用了一系列的方法去求解等式里面的w，b。若原始空间是有限维，即属性数有限，那么一定存在一个高维特征空间使得样本可分。
2023-12-25 22:13:41
349
1
原创 西瓜书详读-第五章 神经网络
这些输入信号通过带权重的连接进行传递。神经元接收到的总输入值将与神经元的阈值进行比较，然后通过激活函数处理以产生神经元的输出。激活函数有时用阶越函数，但更多的时候用的是Sigmoid函数。但是只有一层功能神经元，它的输入层负责接收外接输入信号然后传递给输出层。神经网络的学习过程，就是根据训练数据来调整神经元之间的“连接权”以及每个功能神经元的阈值，也就是说神经网络学到的东西蕴含在连接权与阈值当中。感知机要想有一个确切的结果，问题模式得是线性可分的。输入层仅接收外界的输入，隐层以及输出层才是功能神经元。
2023-12-23 11:12:52
388
1
原创 西瓜书第四章决策树-详读-第一部分
决策树：一种常见的机器学习方法：每个测试的结果或者是导出进一步的判定问题，或者是最终结论。决策树：一种常见的机器学习方法：每个测试的结果或者是导出进一步的判定问题，或者是最终结论。一颗决策树通常包含一个根节点、若干个内部节点【属性测试】和若干个叶节点【决策结果】。决策树学习基本算法：是一种有监督学习算法，主要用于解决分类与回归问题。1，当前节点包含的样本都属于同一个类别，已经无须再划分。2，当前属性集为空，或者所有样本在所有属性上取值都相同，无法划分。
2023-12-19 16:38:44
410
1
原创 西瓜书第三章线性模型阅读笔记
找到一条直线，使得所有样本到直线上的欧式距离最小。它是一个sigmoid函数，将z值转化为一个接近0或者1的数。将训练集的数据投影到一条直线上，寻找合适的角度，使得该直线上的同类点集中，异类点相远离。●使得同类样例离得尽可能接近，可以计算各个同类点的协方差，使得协方差取得最小值。●使得异类样例的投影点尽可能的远，就去计算异类样例的协方差，令其取最大值。●线性回归模型的最小二乘 “参数估计”：求解参数w和b，使得均方误差最小化。线性模型：通过属性的线性组合来进行预测的函数。3.3 对数几率回归。
2023-12-18 18:51:05
379
原创 西瓜书概览第二章
β大于1说明查全率有更大的影响，小于1说明查准率有更大的影响。②交叉验证法（k折交叉验证）：将数据集分层划分为k组，k-1组作为训练集，剩下一组作为测试集。③自助法：随机从m个样本的数据集中采一个数据，重复m次，得到一个新的数据集，把这个当做训练集，然后没选到的数据当做测试集。“过拟合”：把训练样本自身的一些特点当做了所有潜在样本都具有的一般性质，泛化能力很低。P-R曲线：完全包裹的曲线更优秀，另外对于有重叠的两个曲线，可以比较平衡点的位置。模型的好坏是相对的，不仅取决于算法和数据，还决定于任务需求。
2023-12-12 17:01:36
309
原创 第一章 绪论 学习笔记
学习任务：分类（预测的是离散值、有监督学习）、回归（预测的结果是连续值、有监督学习）、聚类（无监督学习），没有标记的就是无监督学习。数据集、样本/示例、属性/特征、属性值、属性空间/样本空间/输入空间、特征向量，样本的维数（即它包含多少个属性）标记：有关示例结果的信息，拥有标记信息的示例称为样例，样例张成的空间称为标记空间或者输出空间。机器学习就是通过计算的手段，从已有数据集中产生模型，而这个模型就可以用于对新的情况进行处理。假设的表示一旦确定，假设空间的大小以及规模大小就确定了。
2023-12-11 20:56:46
320
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人