机器学习专栏
在学习过程中,记录机器学习经典算法的笔记,方便自己查阅。
TechArtisan6
集思广益开眼界,处处留心皆学问。坚持你所热爱的,热爱你所坚持的,剩下的交给时间就好。
展开
-
机器学习专栏目录
注:转载请标明原文出处链接:https://xiongyiming.blog.csdn.net/article/details/103140439为了方便查阅复习,将自己原来撰写的博文进行整理,机器学习图像处理专栏目录如下:机器学习(1): 线性回归——最小二乘法 小结机器学习(2): K-means (k均值) 聚类算法 小结机器学习(3): 线性回归中 梯度下降法 和 最小二乘...原创 2019-11-19 13:44:27 · 542 阅读 · 0 评论 -
机器学习(11): FP-growth算法 小结及实验
文章目录1 FP-growth算法简介2 FP-growth算法原理2.1 FP树的表示方式2.2 FP树的构建过程(1) 统计原始事务集中各元素项出现的频率(2) 支持度过滤(3) 排序(4) 构建FP树3 实验实验1 使用简单数据创建FP树实验2 从FP树中挖掘频繁项集参考资料注:转载请标明原文出处链接:https://xiongyiming.blog.csdn.net/article/d...原创 2019-07-30 15:24:28 · 3294 阅读 · 1 评论 -
机器学习(10): Apriori算法 小结及实验
文章目录1 Apriori算法简介2 关联分析简介2.1 关联分析2.2 频繁项集的度量标准2.2.1 支持度2.2.2 置信度2.3 关联规则3 Apriori算法原理3.1 先验原理3.2 Apriori 算法流程4 实验4.1 使用Apriori算法来发现频繁项集4.1.1. 生成候选项集4.1.2 完整的Apriori算法参考资料注:转载请标明原文出处链接:https://xiongy...原创 2019-07-29 16:14:25 · 6160 阅读 · 7 评论 -
机器学习(9): Adaboost算法 小结及实验
文章目录1 Adaboost算法简介2 集成学习2.1 集成学习概念2.2 bagging2.3 boosting2.4 bagging与boosting的区别2.5 组合策略(1) 平均法(2) 投票法(3) 学习法3 Adaboost 算法4 实验实验1 基于单层决策树构建弱分类器实验2 AdaBoost算法的训练与测试实验3 马疝病数据集上应用AdaBoost算法参考资料注:转载请标明原...原创 2019-07-24 21:12:51 · 4795 阅读 · 1 评论 -
机器学习(8): 逻辑回归算法 小结及实验
文章目录1 逻辑回归算法简介2 算法原理2.1 线性回归2.2 逻辑回归2.3 损失函数(cost function)2.4 梯度下降法(1) 直观理解(2) 梯度下降法——代数法(3) 梯度下降的种类2.5 线性回归与逻辑回归的区别3 实验3.1 逻辑回归——批量梯度下降法(BGD)3.2 逻辑回归——随机梯度下降法(SGD)3.3 从疝气病症预测病马的死亡率4 逻辑回归算法的优缺点参考资料...原创 2019-07-23 22:39:23 · 7186 阅读 · 6 评论 -
机器学习(7): 朴素贝叶斯算法 小结及实验
文章目录1 朴素贝叶斯简介2 条件概率与全概率公式3 贝叶斯推断4 引例5 朴素贝叶斯算法分类(1) GaussianNB(2) MultinomialNB(3) BernoulliNB6 朴素贝叶斯算法优缺点7 实验参考资料1 朴素贝叶斯简介贝叶斯分类算法是统计学的一种概率分类方法,朴素贝叶斯(Naive Bayesian)分类是贝叶斯分类中最简单的一种。其分类原理就是利用贝叶斯公式根据...原创 2019-07-22 10:50:42 · 14753 阅读 · 8 评论 -
机器学习(6): 决策树算法 小结与实验
文章目录1 决策树算法简介2 决策树算法2.1 引例例1例22.2 算法分类(1) 信息熵(2) 信息增益(3) 增益率(4) 基尼指数3 决策树算法优缺点4 实验参考资料1 决策树算法简介决策树(Decision Tree) 是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于...原创 2019-07-20 21:39:49 · 8244 阅读 · 4 评论 -
机器学习(5): k-近邻算法(kNN) 小结及实验
文章目录1 k-近邻算法简介2 k-近邻算法原理2.2 引例2.2 算法流程3 k-近邻算法优缺点4 实验参考资料注:转载请标明原文出处链接:1 k-近邻算法简介k-近邻(k-Nearest Neighbor,kNN)分类算法,是一个理论上比较成熟的方法,也是最简单的机器学习算法之一。该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别...原创 2019-07-10 10:57:57 · 7308 阅读 · 0 评论 -
机器学习(4): 支持向量机(Support Vector Machine) 算法小结
文章目录1 SVM 简介2 引例3 SVM背后的最优化问题3.1 自然语言描述3.2 数学语言描述参考资料1 SVM 简介支持向量机 (Support Vector Machine, SVM)是一类按监督学习 (supervised learning)方式对数据进行二元分类(binary classification)的广义线性分类器 (generalized linear classifi...原创 2019-07-03 15:19:16 · 3558 阅读 · 2 评论 -
机器学习(3): 线性回归中 梯度下降法 和 最小二乘法的区别
在机器学习中,常看到线性回归有最小二乘法和 梯度下降法。线性回归——最小二乘法 参见之前的博客:线性回归——最小二乘法小结线性回归——梯度下降法 参见之前的两个博客:1)机器学习简介,单变量线性回归——梯度下降法2)多变量线性回归——梯度下降法那么梯度下降法 和 最小二乘法的区别呢,其实二者主要在求解找到最优解时存在一些区别。二者区别:1 最小二乘...原创 2019-06-26 22:18:35 · 3778 阅读 · 0 评论 -
机器学习(2): K-means (k均值) 聚类算法 小结
目录1 聚类简介2 k-means算法流程3 利用k-means 对数据进行聚类4利用K-means进行图像分割5 小结参考资料1 聚类简介在无监督学习中,训练样本的标记信息是未知的,我们的目标是通过对无标记训练样本的学习来解释数据的内在性质及规律,为了进一步的数据分析提供基础,此类学习应用最多的就是“聚类”(clustering)。聚类(clusteri...原创 2019-04-24 15:08:38 · 16481 阅读 · 1 评论 -
机器学习(1): 线性回归——最小二乘法 小结
目录1 最小二乘法简介2 最小二乘法历史3 基本形式4 一元线性回归5 多元线性回归参考资料1 最小二乘法简介最小二乘法(Least square method,又称最小平方法)是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于...原创 2019-06-26 20:23:39 · 3677 阅读 · 0 评论