机器学习
qq1656254328
这个作者很懒,什么都没留下…
展开
-
决策树学习笔记1
ID31.主体思想是奥卡姆剃刀(小成本办大事)。用信息增益(relative entropy)来度量信息选择,对信息增益大的特征进行分裂。2.大致步骤:初始化特征集合和数据集合计算数据集合信息熵(离散随机事件的出现概率)和所有特征的条件熵(在给定 X 的条件下 Y 的不确定性)选择信息增益最大的特征作为决策节点删除上一步使用的特征,按照特征值来划分不同分支的数据集合重复以上操作...原创 2020-04-20 12:36:29 · 118 阅读 · 0 评论 -
PCA学习笔记
pca主要是定义一个x映射到z,且只能在训练集里使用PCA当定义完之后,就可以进行交叉验证和测试集里使用主要功能:减少存储数据需要的空间加速学习的算法错误1使用pca减少数据维度去解决过拟合应该使用正则化,利用线性回归等去处理因为pca会损失一些维度信息,可能会漏掉重要信息而正则化的y值是已知的错误2不要一开始就使用pca很多时候直接用原始数据也能完成项目如果一开始...原创 2020-04-20 12:23:10 · 122 阅读 · 0 评论