- 博客(5)
- 收藏
- 关注
RSS订阅原创 西瓜书第四章决策树
一、基本流程。决策树包含一个根节点、若干内部结点、若干叶结点，决策树是一个递归过程。叶结点——决策结果其他节点——属性测试根节点——样本全集二、划分选择1.信息增益信息熵：度量样本集合纯度的常用指标。2.增益率减少偏好可能带来的不利影响。C4.5算法：先从候选划分属性中找出信息增益高于平均水平的属性，再从中选择增益率最高的。3.基尼指数CART决策树使用基尼指数划分属性三、剪枝处理解决过拟合问题。预剪枝：在决策树生成过程中，对每个结点在划分前先进行
2022-05-27 00:26:52
134
2
原创 西瓜书第三章（线性模型）笔记
一、线性回归模型，使得 均方误差最常用来度量回归任务，最小二乘法用来是均方误差最小化求解模型的。使得 最小化的过程。多元线性回归引入正则化项。对数线性回归解决非线性函数回归映射。二、对数几率回归 对数几率y是正例的可能性，1-y是反例的可能性。利用极大似然估计法、梯...
2022-05-23 23:55:09
116
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人