- 博客(5)
- 收藏
- 关注
原创 第六章:支持向量机
第六章:支持向量机1. 间隔与支持向量当给定一个线性可分的二分类数据集,往往在数据集样本的特征空间中存在不止一个超平面,可以将数据集中的两类样本分割。此时分割超平面的方程如下:wTx+b=0\boldsymbol{w}^T\boldsymbol{x}+b=0wTx+b=0支持向量机模型需要学习的参数就是决定该超平面角度与位置的 w,b\boldsymbol{w}, bw,b。那么什么样的超平面才是合适的超平面呢?支持向量机采用了两个原则:超平面距离两类样本最近的距离应当相同,即超平面在两
2022-03-31 21:23:16
303
原创 第五章:神经网络
第五章:神经网络神经网络本事自己比较熟悉,所以只记录自己之前印象不深的知识点:局部最优解与全局最优解局部最优解与全局最优解多层神经网络的叠加往往会导致待优化的损失函数非凸,所以基于梯度反向传播的梯度下降法无法保证优化结果收敛到全局最优解。实践中有三种方法帮助神经网络的优化结果尽量跳出局部最优解:使用不同的参数初始值开始优化,多次试验后选择优化结果最好的一组参数。**模拟退化(simulated annealing)**技术,每一步都以一定概率接受比当前解更差的结果,从而有助于跳出局部最小。在迭代
2022-03-19 22:41:46
1498
原创 第四章:决策树
第四章:决策树1. 背景决策树模型其实是在给定数据集的情况下,生成一个用于判断样本类别的树形逻辑图,不同的节点要依据不同的变量的取值来对样本的类别进行进一步的划分。总体来说,决策树的目的是将样本越分越纯,下面给出一个判断高富帅的决策树模型作为例子(例子来源为南瓜书作者谢老师)。#mermaid-svg-FiB0NwxiW9SAQ7ZT {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#merm
2022-03-18 15:07:34
2699
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人