机器学习
关于机器学习的笔记
迦零
Try to do
展开
-
集成学习AdaBoost—原理简述及代码实现
集成学习AdaBoost—知识点简述及代码实现集成学习的简单介绍Boosting简单介绍AdaBoost的工作原理及代码实现弱学习器训练算法:基于错误提升分类器的性能数据说明单层决策树的生成函数完整AdaBoost算法的实现本文为《机器学习》与《机器学习实战》的读书笔记集成学习的简单介绍集成学习通过构建并结合多个学习器来完成学习任务,集成学习的一般过程是:先产生一组 “个体学习器” ,再用某种策略将它们结合起来。这样的个体学习器又称为基学习器或弱学习器,它们通常为决策树、BP神经网络算法等现有的学原创 2020-08-13 17:47:26 · 2204 阅读 · 0 评论 -
朴素贝叶斯—原理简述及代码实现
朴素贝叶斯—知识点简述及代码实现简要知识贝叶斯决策论条件概率朴素的含义模型中的条件概率应用示例及代码实现数据准备朴素贝叶斯算法朴素贝叶斯分类函数测试结果简要知识适用数据类型:标称型数据目标:预测样本所属类别贝叶斯决策论朴素贝叶斯是贝叶斯决策轮的一部分,而贝叶斯决策论的核心思想是:选择计算结果中 高概率 对应的类别。假设现有一木桶:显然,经过计算我们得知从中取得白球的概率P1=1/3,取得黑球的概率为P2=2/3,有P2 > P1。此时从中摸球,则根据贝叶斯决策论我们预测摸得的球为原创 2020-08-06 20:23:46 · 3756 阅读 · 0 评论 -
PCA降维—原理简述及代码实现
PCA降维—知识点简述及代码实现应用数据降维的目的特征值分析PCA的工作原理代码实现应用数据PCA降维适用于特征属性为连续数值型数据,目标变量为标称型数据的数据集,例如下面的西瓜数据集:密度含糖量是否好瓜10.6970.460是20.7740.376是30.6340.264否40.6080.318否50.5560.215否注: 当然这里是假设西瓜“是否好瓜”仅受这两个因素的影响,真实情况下西瓜数据集不适用于此,因为西瓜原创 2020-08-06 15:56:36 · 1841 阅读 · 1 评论 -
决策树—原理简述及代码实现
决策树—代码实现原创 2020-07-29 16:00:53 · 369 阅读 · 0 评论 -
机器学习—决策树基础
决策树基础本文为周志华老师《机器学习》的读书笔记定义决策树是一类常见的机器学习算法,可基于离散型与连续型属性来生成决策树。决策树学习的目的是生成一棵泛化能力强,即处理未见示能力强的决策树。形状如下:决策树通过递归过程来生成,在决策树基本算法中,有三种情况会导致递归返回:当前节点包含的样本全属于同一类别,无需划分;当前属性集为空集,或是所有样本在所有属性上取值相同,无法划分;当前节点包含的样本集合为空,不能划分。划分选择从根节点开始,在每一个节点处我们都需要不断地选择一个最优的划分原创 2020-07-15 21:02:34 · 338 阅读 · 0 评论 -
线性/逻辑回归与随机梯度下降—原理简述
本文整理机器学习算法中的线性回归和逻辑回归算法的笔记,其中利用随即梯度下降更新参数。只整理其中的数学原理,不涉及实现代码。目录线性回归随即梯度下降逻辑回归线性回归输入数据:x(X);输出数据:y(Y);拟合的函数:可写做 y = h(x);对于每一条数据,用x1,x2,x3…xn来表示其各个特征分量,则可以做出一个估计函数:,其中可设x0=1,则有θ0 * x0 = θ0 ,θ0可以充当线性方程中的常数项;将上式用向量的方式来表示:;接下来需要有一个机制去评估函数y = h.原创 2020-07-15 11:40:09 · 287 阅读 · 0 评论