![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习算法
文章平均质量分 93
guieraxbc
知识就是力量
展开
-
机器学习基础篇:K-Means聚类分析
机器学习基础篇:K-Means聚类分析文章目录机器学习基础篇:K-Means聚类分析常用的聚类分析算法K-Means聚类算法导入库及初始化数据集K-Means类实现初始化和拟合模型绘制初始和最终聚类中心常用的聚类分析算法算法名称算法描述K-MeansK-均值聚类也称为快速聚类法,在最小化误差函数的基础上将数据划分为预定的类数K。该算法原理简单并便于处理大量数据K-中心点系统聚类K-Means聚类算法基于距离的非层次聚类算法,在最小化误差函数的基础上将数原创 2021-10-12 18:50:07 · 1129 阅读 · 1 评论 -
机器学习基础篇:支持向量机 - SVM
文章目录支持向量机 - SVM一、简单定义二、基本术语三、线性可分支持向量机四、线性支持向量机五、非线性支持向量机参考支持向量机 - SVM一、简单定义支持向量机(support vector machines,SVM)是一种二类分类模型,它的基本模型是定义在特征空间上的间隔最大的线性分类器,间隔最大使它有别于感知机:支持向量机还包括核技巧,这使它成为实质上的非线性分类器,支持向量机的学习策略就是间隔最大化,可形式化为一个求解凸二次规划的问题,也等价于正则化的合页损失函数的最小化问题,支持向量机的原创 2021-09-10 01:24:30 · 491 阅读 · 0 评论 -
机器学习基础篇:感知机、线性判别、逻辑斯蒂回归、朴素贝叶斯
第二章、第四章、第六章大概了解第二章、第四章、第六章感知机感知机模型解决的问题模型形式学习策略感知机损失函数的由来求解算法线性判别逻辑斯蒂回归朴素贝叶斯感知机感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。感知机学习算法具有简单而易于实现原创 2021-08-31 01:57:02 · 322 阅读 · 0 评论 -
关于线性分类 - 从线性回归到其他机器学习模型到线性分类
关于线性分类 - 从线性回归到其他机器学习模型到线性分类线性分类一、频率派 - 统计机器学习1、线性回归:从三个方面来打破:属性、全局、系数①属性非线性:②全局非线性 :③系数非线性:全局性:数据未加工:2、线性分类线性分类有两种①硬分类:②软分类:3、感知机模型(硬分类)4、线性回归和线性分类的关系从回归到分类二、贝叶斯派 - 概率图模型概率图参考线性分类从两个角度来看机器学习(点击此处 - 频率派和贝叶斯派)一、频率派 - 统计机器学习1、线性回归:f(w,b)=wTx+b,x∈Rpf(原创 2021-09-08 00:58:08 · 385 阅读 · 0 评论 -
机器学习基础篇:关于线性回归-正则化、MLE、MLP
正则化、MLE、MLP三个串联起来阐述线性回归从两个方面:未加正则化的线性回归:①标量的最小二乘法LSE:损失函数是L=∣∣wTxi−yi∣∣2L = ||w^Tx_i-y_i||^2L=∣∣wTxi−yi∣∣2,目标是求其最小值,对其做矩阵变换,变换后对w求导,∂L(w)w=(XTX+XTX)W−XTY−XTY=2XTXW−2XTY=0\begin{aligned}\frac{\partial L(w)}{w} &=(X^TX+X^TX)W-X^TY-X^TY \\原创 2021-08-31 01:49:41 · 1285 阅读 · 0 评论 -
【阅读笔记】使用决策树预测泰坦尼克号幸存者实例 - scikit-learn机器学习
文章目录使用决策树预测泰坦尼克号幸存者实例一、数据获取二、数据探索三、数据预处理四、数据建模五、模型评价使用决策树预测泰坦尼克号幸存者实例代码来自《scikit-learn机器学习:常用算法原理及编程实战》P122import pandas as pdfrom sklearn.ensemble import RandomForestRegressorfrom sklearn.model_selection import cross_val_score一、数据获取导包及二、数据探索三、原创 2021-08-24 23:10:43 · 681 阅读 · 0 评论 -
【阅读笔记】决策树-scikit-learn机器学习
文章目录前言决策树模型概述信息熵信息增益决策树的创建及剪枝算法创建步骤剪枝算法scikit-learn中决策树算法的相关参数使用决策树预测泰坦尼克号幸存者实例scikit-learn中模型参数选择的工具及使用方法聚合算法及随机森林算法的原理分支选择方法ID3C4.5CART优缺点总结前言决策树模型概述信息熵计算公式:信息增益熵差决策树的创建及剪枝算法创建步骤计算数据集划分前的信息熵遍历所有未作为划分条件的特征,分别计算根据每个特征划分数据集后的信息熵选择信息增益最大的特征,并原创 2021-08-03 00:32:16 · 487 阅读 · 0 评论