机器学习入门阶段
文章平均质量分 96
xingchengmeng
这个作者很懒,什么都没留下…
展开
-
scikit-learn 笔记之支持向量机
支持向量机说明支持向量机说明 支持向量机是一种经典的分类算法,其原理是找到一条决策边界使其距离两个最近的不同类别的点最远。对于线性可分的数据集,可以使用线性分类器进行分类,对于线性不可分函数,需要将数据集尝试通过函数变换映射到高维空间,利用核函数替代内积,求解最优α\alphaα ,随后求出权重www和截距bbb,最终求得决策边界。支持向量机 在scikit-learn中SVC实现了支持向量机模型,可以用于二分类也可以用于多分类,支持线性和非线性,是比较常用到,对于大数据量的样本并不实用,并其原原创 2021-04-11 20:21:48 · 607 阅读 · 0 评论 -
笔记之支持向量机及python实现
支持向量机算法1 概述2 算法特点1 概述 支持向量机(support vector machines,SVM)主要作为一种二分类模型。它的强大之处在于既可以用作线性分类器又可以作为非线性分类器。2 算法特点优点:泛化错误率低,计算开销不大,结果容易解释。缺点:对参数调节和核函数的选择敏感,原始分类器不加修改仅适用于二分类问题。适用数据类型:数值型和标称型数据。...原创 2021-04-11 20:20:28 · 702 阅读 · 0 评论 -
scikit-learn 笔记之逻辑回归
逻辑回归说明逻辑回归总结说明 逻辑回归(logistic regression)虽然名字里包含的是回归,但却是统计学习中的经典分类算法。因为算法比较简单和经典,一般在比赛分类任务(特别二分类任务)中使用逻辑回归模型作baseline,另外因为逻辑回归的可解释性,一般金融行业中比较青睐。逻辑回归 在scikit-learn中LogisticRegression实现了逻辑回归模型,其原型为:class sklearn.linear_model.LogisticRegression(penalty=原创 2021-04-11 20:19:06 · 553 阅读 · 0 评论 -
笔记之逻辑回归及python实现
逻辑回归算法原创 2021-04-11 20:17:14 · 326 阅读 · 0 评论 -
scikit-learn 笔记之贝叶斯
贝叶斯算法1 高斯贝叶斯分类器(GaussianNB)2 伯努力贝叶斯分类器(BernoulliNB) 在scikit中有多种不同的朴素贝叶斯分类器,它们的区别在于假设了不同的P(X(j)∣y=ck)P(X^{(j)}|y=c_{k})P(X(j)∣y=ck)分布,下面介绍三种常用的朴素贝叶斯分类器。1 高斯贝叶斯分类器(GaussianNB) GaussianNB是高斯贝叶斯分类器,它假设特征条件概率分布满足高斯分布:P(X(j)∣y=ck)=12πσk2exp(−(x(j)−μk)22σk原创 2021-04-11 20:15:03 · 522 阅读 · 0 评论 -
笔记之朴素贝叶斯及python实现
朴素贝叶斯算法1 概述2 算法特点3 算法原理3.1 贝叶斯定理3.1 朴素贝叶斯4 朴素贝叶斯学习与分类1 概述 朴素贝叶斯(naive Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法。2 算法特点优点:在数据较少的情况下仍然有效,可以处理多分类别问题。缺点:对于输入数据的准备方式较为敏感,用于分类的特征之间要求是独立的。适用数据类型:标称型。3 算法原理 对于给定的训练数据集,首先基于特征条件独立假设学习输入输出的联合概率分布,然后基于此模型,对给定的输入xxx,原创 2021-04-11 20:13:00 · 185 阅读 · 0 评论 -
scikit-learn笔记之决策树
决策树算法说明KNeighborsClassifier分类KNeighborsRegressor回归总结说明 在scikit-learn中提供了两类决策树,一个DecisionTreeClassifier类来实现k近邻法分类模型,一个DecisionTreeRegressor类来实k近邻法回归模型。KNeighborsClassifier分类KNeighborsClassifier是分类模型,其原型为class sklearn.tree.DecisionTreeClassifier(*, cri原创 2021-04-11 20:11:10 · 377 阅读 · 0 评论 -
笔记之决策树及python实现
1 概述 决策树是一种基本的分类与回归方法。这里主要讨论用于分类的决策树。2 算法特点优点:计算复杂度不高,输出结果易于理解,对中间值的确实不敏感。可以处理不相关特征数据。缺点:可能会产生过度匹配问题。适用数据类型:数值型和标称型。3 算法原理...原创 2021-04-11 20:04:41 · 60 阅读 · 0 评论 -
scikit-learn 笔记之KNN(K近邻算法)
说明 在scikit-learn中提供了一个KNeighborsClassifier类来实现k近邻法分类模型,一个KNeighborsRegressor类来实k近邻法回归模型。KNeighborsClassifier分类KNeighborsClassifier是分类模型,其原型为class sklearn.neighbors.KNeighborsRegressor(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=3原创 2021-04-11 20:01:56 · 1033 阅读 · 0 评论 -
笔记之K-近邻算法及python实现
K-近邻算法主要用于处理分类问题,采用测量不同特征之间的距离进行分类。算法原理给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实力最近邻的k个实例,这k个实例的多数属于某个类,就把该输入实例划分为这个类。算法特点优点精度高、对异常值不敏感、无数据输入假定缺点计算复杂度高、空间复杂度高适用数据范围数值型和标称型建立模型三要素距离度量k值的选择分类决...原创 2021-04-11 19:57:51 · 219 阅读 · 0 评论