- 博客(5)
- 收藏
- 关注
RSS订阅原创 西瓜书第六章学习笔记
SVR与传统回归模型计算损失的方式不同，相比于线性回归用一条线来拟合训练样本，支持向量回归(SVR)而是采用一个以f(z)=wTx+b为中心，宽度为2e的间隔带，来拟合训练样本。落在带子上的样本不计算损失（类比线性回归在线上的点预测误差为Q），不在带子上的则以偏离带子的距离作为损失（类比线性回归的均方误差），然后以最小化损失的方式迫使间隔带从样本最密集的地方（中心地带）穿过，进而达到拟合训练样本的目的。因此，引入了“软间隔”的概念。当然，在最大化间隔的同时，不满足约束的样本应尽可能少，于是，优化目标可。
2023-10-03 19:29:58
41
1
原创 西瓜树学习第五章
出层，输出后即为上述所说的N-P神经元，亦称國值逻辑单元（threshold logic unit).所以实际上具有处理能力的功能神经元只有一层输出层，学习能力有限.在感知机中，输入的数据集和输出的激活函数都是给定的，感知机需要学习的就是未知的权重w 和國值A来使其有效的工作.但是从输出y=f（Wx-0)中来看，阅值可以被看作 第n+1项 输入，值为-1，这样就。反之，感知机的学习过程将会振荡(fluctuation).难以求得合适的解.1.训练集：D=(21，3：)，(x2，V2)·，(am，ym)】，
2023-09-24 23:07:01
49
1
原创 西瓜书第四章学习
当X的某个取值的概率为一时信息熵最小（最确定），其值为0，当X的各个取值均等时信息熵最大（最不确定），其值为logb｜x｜，其中｜x｜表示x可能取值的个数。从单个属性（特征）a的角度来说，假设其可能取值为{a1,a2..av},Dv表示属性a取值为av的样本集合，｜dv｜/D表示占比，那么在已知属性a的取值后，样本条件D的条件熵是。将样本类别标记y视作随机变量，各个类别在样本集合D的占比pk（k=1，2..｜y｜）视作各个类别取值的概率，则样本集合D（随机变量）的信息熵（底数b取值2）为。
2023-09-21 21:51:15
100
原创 西瓜书学习第三章学习笔记
其中X1，X2，X3，.，Xn是已知量，是未知量，因此以上概率是一个关于的函数，称L(0)为样本的似然函数。极大似然估计的直观想法：使得观测样本出现概率最大的分布就是待求分布，也即使得联合概率（似然函数）L(0)取到最大值的θ*即为θ的估计值。定理设D∈R∧n是非空凸出集f：D∈R∧n->R,并f（小）在D上二阶连续可微，如果f（小）的海塞矩阵在D上是半正定的，则f（x）是D上的凸函数。θ)，其中θ为待估计的参数值(可以有多个)。现有X1，X2，X3，Xn是来自X的n个独立同分布的样本，它们的联合概率为。
2023-09-18 22:01:42
82
原创 周志华老师的西瓜书学习笔记 第一二章
ROC全称是“受试者工作特征”(Receiver Operating Characteristic)曲线，它源于“二战” 中用于敌机检测的雷达信号分析技术， 二十世纪六七十年代开始被用于一些心理学、 医学检测应用中， 此后被引入机器学习Spackman,1989].与2.3.2节中介绍的P-R 曲线相似，我们根据学习器的预测结果对样例进行排序， 按此顺序逐个把样本作为正例进行预测， 每次计算出两个重要量的值，分别以它们为横、 纵坐标作图，就得到了“ROC曲线”。过拟合是无法避免的，我们只能缓解。
2023-09-12 22:01:40
106
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人