![](https://img-blog.csdnimg.cn/2019091813595558.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习
文章平均质量分 86
介绍常用的机器学习算法
Clichong
这个作者很懒,什么都没留下…
展开
-
Scikit-learn学习系列 | 5. sklearn特征降维可视化展示(t-SNE、PCA、KernelPCA、MDS、SpectralEmbedding)
如有错误,恳请指出。以下内容将使用一个非常经典的手写数字数据集来进行降维与可视化展示。在原始的数据中,手写数字的维度是64,因为其像素表示是64,以下内容将分别使用不同的算法对其降维到2~3维并展示。所以分别可以实现2D可视化展示降维效果与3D可视化降维效果。文章目录1. t-SNE降维效果1.1 2D可视化1.2 3D可视化2. PCA降维效果2.1 2D可视化2.2 3D可视化3. KernelPCA降维效果3.1 2D可视化3.2 3D可视化4. MDS降维效果4.1 2D可视化4.2 3D可.原创 2022-05-06 11:02:28 · 4993 阅读 · 2 评论 -
Scikit-learn学习系列 | 4. sklearn特征降维方法汇总(方差过滤,卡方,F过滤,互信息,嵌入法)
如有错误,恳请指出。以下内容整理自专栏:博主“文火冰糖的硅基工坊”的专栏——机器学习与scikit-learn,对部分的文章的简化与整理。文章目录1. 常见的降维方法简介1.1 按缺失比率删除特征(Missing Value Ratio)1.2 低方差滤波(Low Variance Filter)1.3 高相关性滤波(High Correlation filter)1.4 随机森林(Random Forest)1.5 反向特征消除(Backward Feature Elimination)1.6 .原创 2022-05-02 16:04:11 · 1155 阅读 · 0 评论 -
Scikit-learn学习系列 | 3. sklearn特征提取方法汇总(包含字典、文本、图像的特征提取)
如有错误,恳请指出。以下内容整理自专栏:博主“文火冰糖的硅基工坊”的专栏——机器学习与scikit-learn,对部分的文章的简化与整理。文章目录1. 特征工程的介绍2. 特征提取的方法3. 字典中提取特征4. 文本中提取特征4.1 特征提取方法:词频向量编码(CountVectorizer)英语词频向量中文词频向量4.2 特征提取方法:权重向量编码(CountVectorizer)4.3 特征提取方法:哈希向量编码(HashingVectorizer)5. 图像中提取特征单通道补丁提取多通道补丁提.原创 2022-05-02 15:48:14 · 3648 阅读 · 1 评论 -
Scikit-learn学习系列 | 2. sklearn数据预处理的相关方法
如有错误,恳请指出。以下内容整理自专栏:博主“文火冰糖的硅基工坊”的专栏——机器学习与scikit-learn,对部分的文章的简化与整理。文章目录1. 数据预处理介绍2. 缺失数据na的预处理2.1 直接丢弃:dropna2.2 用常数填充:fillna2.3 用平均值mean填充: SimpleImputer(strategy='mean')2.4 用频率最高值most_frequent填充:SimpleImputer(strategy='most_frequent')2.5 用中位数median.原创 2022-05-02 12:32:51 · 501 阅读 · 0 评论 -
Scikit-learn学习系列 | 1. sklearn的简要使用介绍与数据集获取
如有错误,恳请指出。以下内容整理自专栏:博主“文火冰糖的硅基工坊”的专栏——机器学习与scikit-learn,对部分的文章的简化与整理。文章目录1. scikit-learn概述1.1 技巧介绍1.2 模型保存1.3 模型优化2. scikit-learn涵盖内容3. scikit-learn数据集获取3.1 生成聚类数据:make_blobs3.2 生成分类数据:make_classification3.3 生成环形数据:make_circles3.4 生成回归数据:make_regressio.原创 2022-05-02 12:04:46 · 2211 阅读 · 0 评论 -
【聚类算法】| Kmeans算法的Python实现(以西瓜数据集为例)
如有错误,恳请指出。任务:无监督聚类西瓜数据集(30样本),数据集如下所示:西瓜书的聚类部分,有一个题目是用30个无标签的西瓜数据集来进行聚类分出3类,这里直接贴上代码。参考代码:"""writing by: Clichongtheme: 机器学习聚类算法的实现data: 2022/4/27"""import numpy as npimport pandas as pdimport matplotlib.pyplot as plt# 功能: .原创 2022-04-27 21:39:02 · 9424 阅读 · 2 评论 -
【线性回归】| Linear Regression实现示例
# 首先观察一下数据的分布import pandas as pd# 读取数据集df = pd.read_csv('E:/学习/机器学习/pytorch教程与数据集/Deep-Learning-with-PyTorch-Tutorials-master/lesson04-简单回归案例实战/data.csv')df.head(5) x y 0 32.502345 31.70原创 2021-03-26 12:22:20 · 308 阅读 · 4 评论 -
机器学习原理与实战 | 线性回归与逻辑回归
文章目录1. 基础概念1.1 学习曲线1.2 L1/L2 范数1.3 正则化2. 线性回归2.1 线性回归拟合正弦函数2.2 线性回归预测房价3. 逻辑回归3.1 逻辑回归模型成本函数3.2 逻辑回归癌症预测实战1. 基础概念1.1 学习曲线通过学习曲线可以观测模型准确度与训练数据集大小的关系,其要表达的内容是当训练数据集增加时,模型对训练数据集拟合的准确性以及交叉验证数据集预测的准确性的变化规律%matplotlib inlineimport matplotlib.pyplot as plti原创 2021-09-13 21:09:32 · 783 阅读 · 0 评论 -
机器学习原理与实战 | SVM(支持向量机)实践
文章目录1. 二维SVM分类例子2. 多维SVM分类例子2.1 高斯核函数2.2. 多项式核函数2.3 多项式 LinearSVC%matplotlib inlineimport matplotlib.pyplot as pltimport numpy as np1. 二维SVM分类例子from sklearn.datasets import make_blobsX, y = make_blobs(n_samples=100, centers=2, ra原创 2021-09-13 20:52:53 · 528 阅读 · 0 评论 -
机器学习原理与实战 | PCA降维实践
%matplotlib inlineimport matplotlib.pyplot as pltimport numpy as np1. PCA介绍1.1 概念思想:dots = np.array([[1, 1.5], [2, 1.5], [3, 3.6], [4, 3.2], [5, 5.5]])def cross_point(x0, y0): """ 1. line1: y = x 2. line2: y = -x + b => x = b/2原创 2021-09-13 20:14:56 · 1082 阅读 · 1 评论 -
机器学习原理与实战 | K近邻算法实践
%matplotlib inlineimport matplotlib.pyplot as pltimport numpy as npKNN算法中,其算法参数是K,参数选择需要根据数据来决定。K值越大,模型的偏差越大,对噪声数据越不敏感,当K值很大时,可能造成模型欠拟合;K值越小,模型的方差就会越大,当K值太小,就会造成模型过拟合。K-近邻算法有一些变种,其中之一就是可以增加邻居的权重。默认情况下,在计算距离时,都是使用相同的权重。实际上,我们可以针对不同的邻居指定不同的权重,如距离越近权重越高。原创 2021-09-13 20:02:54 · 826 阅读 · 2 评论 -
机器学习原理与实战 | K-means聚类算法实践
%matplotlib inlineimport matplotlib.pyplot as pltimport numpy as np1. K-均值算法介绍from sklearn.datasets import make_blobs# 产生聚类数据集X, y = make_blobs(n_samples=200, # 样本数 n_features=2, # 特征数,决定了x的维度 centers=4,原创 2021-09-13 19:57:45 · 1243 阅读 · 1 评论 -
机器学习原理与实战 | 决策树与集成算法实践
以下内容来源互联网与书籍。文章目录1.决策树算法原理1.1 信息增益1.1.1 信息增益计算例子1.1.2 信息增益代码实现1.2 决策树的构建1.2.1 ID3、C4.5、CART算法1.2.2 ID3算法代码实现1.3 决策树剪枝处理1.3.1 前剪枝1.3.2 后剪枝1.4 决策数分类实现1.5 决策树的加载与存储1.5.1 决策树存储1.5.2 决策树的加载2. 决策树算法使用2.1 决策树解决分类问题2.1.1 数据预处理2.1.2 数据拟合与预测2.1.3 决策树可视化2.1.4 模型参数.原创 2021-09-06 22:24:04 · 354 阅读 · 3 评论 -
机器学习——聚类算法
下面是一个例子,根据啤酒中配料含量的不同进行聚类,以划分出不同品牌的啤酒1、导入数据并处理import pandas as pdbeer = pd.read_csv('E:/学习/机器学习/配套代码和数据集/跟着迪哥学.002/第16章:聚类实例/聚类实例/聚类算法/data.txt', sep=' ')beer name calories sodium alcohol cost原创 2021-02-26 15:15:15 · 802 阅读 · 3 评论 -
机器学习——降维算法PCA
文章目录1、导入数据2、展示数据特征3、数据标准化4、计算协方差矩阵5、求特征值与特征向量6、按照特征值大小进行排序7、计算累积结果8、完成PCA降维9、可视化对比降维前后数据的分布以下是使用PCA算法处理实际问题的例子,同样使用鸢尾花数据集,目的依旧是完成降维任务基本的流程如下:1.数据预处理,只有数值数据才可以进行PCA降维2.计算样本数据的协方差方阵3.求解协方差矩阵的特征值和特征向量4.将特征值按照从大到小的顺序排列,选择其中较大的K个,然后将其对应的K个特征向量组成投影原创 2021-02-25 22:02:43 · 1070 阅读 · 0 评论 -
机器学习——降维算法LDA
文章目录1、数据集处理2、不同特征维度上的均值向量3、类内散步矩阵与类间散步矩阵4、特征值与特征向量5、可视化展示主要流程:理论部分的参考文章:1、LDA和PCA降维总结2、详解协方差与协方差矩阵3、期望值、均值向量和协方差矩阵4、如何计算数学期望以下是用一个经典的“鸢尾花”数据集上使用线性判别分析完成降维任务。数据集中含有3类共150条鸢尾花基本数据,其中3个种类山鸢尾,变色鸢尾,维吉尼亚鸢尾各50条数据,包括了萼片长度,萼片宽度,花瓣长度,花瓣宽度4个特征。1、数据集处理# 自己来原创 2021-02-25 18:40:52 · 3066 阅读 · 0 评论 -
机器学习——支持向量机
关于支持向量机的一些基础知识:(支持向量机SVM笔记)[https://zhuanlan.zhihu.com/p/335017540] 这篇文章总结得很好,视频讲解可以查看b站上面的b板推导以下内容是使用代码看看效果%matplotlib inlineimport numpy as npimport matplotlib.pyplot as pltfrom scipy import stats# use seaborn plotting defaultsimport seaborn as原创 2021-02-08 18:50:27 · 424 阅读 · 2 评论 -
机器学习——特征工程
文章目录数值特征1.字符串编码2.二值特征3.多项式特征4.连续指离散化本文特征1.基本预处理2.词袋模型3.常用文本特征构造方法TF-IDF 模型Similarity特征聚类特征主题模型词向量模型下面是做一个学习的归纳# 标签是字符的例子import pandas as pdimport numpy as npimport matplotlib.pyplot as plt%matplotlib inline在建模的过程中,一般会优先考虑算法和参数,但是数据特征吃决定了整体结果的上限,而算法原创 2021-02-03 12:26:42 · 646 阅读 · 0 评论