![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习算法
文章平均质量分 67
yuanCruise
工科生的笔尖
展开
-
机器学习算法 | PCA(主成分分析)降维算法
一:PCA算法目的根据样本矩阵X={x1,x2,…, Xm},以及当前样本空间中样本个数N,求得样本协方差矩阵XXT,中的最大的K个特征向量,并且利用这K个特征向量组成的矩阵进行低纬度降维,实现数据的主成分分析。二:PCA降维的整体步骤(1)对原始数据减去平均值,实现去中心化。(2)求出样本空间中N个样本的样本协方差矩阵(XXT)。(3)利用SVD奇异值分解(适用于任意矩阵) 或 特征值分解(只适用于方阵)对样本协方差矩阵进行特征向量,特征值的分解。(4)对特征值进行降序排列,选出最大的K个,并原创 2021-06-27 16:04:21 · 3093 阅读 · 3 评论 -
【机器学习算法】:朴素贝叶斯法
朴素贝叶斯法是基于贝叶斯定理的分类方法。朴素贝叶斯分类朴素贝叶斯法之所以叫朴素,因为其做了一个较强的假设,该假设为:用于分类的特征,在类确定的条件下,都是独立分布的。 李航的统计学习方法中是如下介绍朴素贝叶斯分类原理的~ 上述方法中提到,需要我们最大化后验概率,得到最后的结果后验概率最大化的含义也就是等价于期望风险最小化。朴素贝叶斯算法整体流程0.输入训练数据集...原创 2018-05-23 10:17:15 · 345 阅读 · 0 评论 -
【机器学习算法】:极大似然估计
1.极大似然估计在什么情况下用step1:已知一个模型(比如逻辑回归模型,线性回归模型)。 step2:给定已知的数据集D。 step3:用极大似然估计来估计step1中模型的参数。 step4:得到参数后,模型就完整啦~ 可以用完整的模型对未来的结果进行预测。2.为什么可以用极大似然估计来估计模型中的参数似然函数定义: 假设数据集D服从一个参数为w的概率分布f(x)=p...原创 2018-06-15 14:13:27 · 757 阅读 · 0 评论 -
【机器学习算法】:逻辑回归
所谓回归和分类:在深度网络中,分类任务和回归任务的主要区别就在于:loss函数(其模型输出和标签的比较)和标签的区别,和其前边的特征特区部分没有任何关系。而传统的机器学习算法,可以认为没有太多之前的特征处理过程,所以在机器学习算法中回归和分类任务就是模型的输出(和所谓的loss是一样的)和标签的不同。1.为什么叫逻辑回归由于模型的构建思路来源于logistics分布,所以把这个回归...原创 2018-06-15 15:07:47 · 359 阅读 · 0 评论 -
【机器学习算法】:Boosting提升算法(Adaboost)
Boosting提升算法所谓提升算法,即在分类问题中,通过改变训练样本的权重,学习多个分类器,并将这些分类器进行线性组合,提高分类器性能。而AdaBoost是一种典型的提升算法。由于得到弱学习算法比强嘘唏算法更容易获取。而我们有许多将弱学习算法提升为强学习算法的Boosting方法,其中最具代表性的是AdaBoost。大多数的提升方法都是改变训练的概率分布(训练数据的权值分布),针对不同数...原创 2018-06-19 20:12:22 · 1995 阅读 · 0 评论 -
【机器学习算法】:提升树(Boosting tree)
提升树是以分类树和回归树为基本分类器的提升方法。提升树被认为是统计学习中性能最好的方法之一。Boosting方法其实本质上采用的是加法模型(基函数的线性组合)与前向分布算法。以决策树为基函数的Boosting方法被称为提升树(Boosting tree)。对分类问题决策树是二叉分类树,对回归问题决策树是二叉回归树。前向分布算法提升树算法针对不同的问题的提升树学习算法,其主要区别在于...原创 2018-06-20 17:16:40 · 5962 阅读 · 2 评论 -
Python机器学习算法——决策树
决策树简介决策树是常见的机器学习算法之一。主要用于分类和回归。是一种非参数的监督式学习方法。 决策树中的几个词: 属性、特征、属性选择度量、属性特征的拓扑结构、分裂属性特征。原创 2017-07-31 22:57:45 · 1089 阅读 · 0 评论 -
Python——随机森林
随机森林讲解文档(scikit-learn官方文档) scikit-learn的官方文档:http://scikit-learn.org/stable/modules/ensemble.html#forests-of-randomized-trees 主要告诉大家如何使用scikit-learn包中的类方法来进行随机森林算法的预测。其中讲的比较...原创 2017-03-26 13:13:44 · 5260 阅读 · 0 评论