机器学习：基于KNN算法诊断乳腺癌（末尾有福利）

已于 2023-04-22 12:24:53 修改
阅读量2.2k 收藏 28
点赞数 3
分类专栏： 机器学习 文章标签： r语言 数据挖掘 机器学习
于 2023-04-22 11:20:09 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_64133049/article/details/130277586
版权

作者: ls_本性
专题简介：本专题是关于机器学习与R语言书籍的读书笔记（主要使用的R语言，可能会以别的案例做关于python实现机器学习的文章）
本章是关于机器学习的第一章，会简单的介绍一下机器学习，然后介绍KNN算法，最后以乳腺癌数据集做实战训练
😊😊😊如果觉得文章不错或能帮助到你学习，可以点赞👍收藏📁评论📒+关注哦！👍👍
本文末尾有惊喜哦！

机器学习：基于KNN算法诊断乳腺癌

机器学习简介

无论是人还是机器，基础的学习过程都是类似的，一般分为以下四个部分：

  • 数据存储:利用观测值、记忆存储，以及回忆来提供进一步推理的事实依据。
  • 抽象化:涉及把数据转换成更宽泛的表示(broader representation)和概念.(concept)。
  • 一般化:应用抽象的数据来创建知识和推理，从而使得行动具有新的背景。
  • 评估:提供反馈机制来衡量学习的知识的用处以便给出潜在的改进之处。
    下图展示了学习过程的步骤：
    在这里插入图片描述

KNN算法基本原理

KNN算法是一种有监督的分类算法，又称作k近邻算法。KNN算法源于这样一个事实:它使用关于一个案例的k个近邻的信息来分类无标记的例子。字母k是一个可变选项，表示任意数目的近邻都可以使用。在选定k之后，该算法需要一个已经分成几个类别的案例组成的训练数据集，类别由名义变量来标记。然后，对于测试数据集中的每一个无标记的记录，KNN确定训练数据集中与该记录相似度“最近”的k 条记录，将无标记的测试例子分配到k 个近邻中占比最大的那个类中。

KNN算法的优缺点

在这里插入图片描述

案例分析

案例简介

应用KNN算法判断一个人是否患有乳腺癌

相关数据说明
   我们将使用来自UCI机器学习数据仓库的威斯康星乳腺癌诊断数据集 ( Wisconsin Breast Cancer Diagnostic dataset)，
   该数据可以从网站http: //archive.ics.uci. edu/ml获得。乳腺癌数据包括569例细胞活检案例，
   每个案例有32个特征。一个特征是识别号码，一个特征是癌症诊断结果，
   其他30个特征是数值型的实验室测量结果。癌症诊断结果用编码“M”表示恶性,用编码“B”表示良性。
数据导入

数据链接: kaggle Breast Cancer Wisconsin
这里从kaggle里面下载数据（kaggle的注册需要科学上网）

wbcd <- read.csv("C:/Users/blank/Downloads/data.csv")
#第一列数据的数据为病人的ID是病人的标识符无用应该剔除，否则会造成模型过拟合
wbcd <- wbcd[,-1]

由于因子类型的数据底层是又数字映射而来，故在R语言中分类模型的目标变量大多数应该转换成因为型

wbcd$diagnosis <- factor(wbcd$diagnosis,levels = c("B","M"),labels = c("Benign","Malignant"))
数据处理

下面我们来看一看其他30个特征的大概情况

summary(wbcd)


通过summary（）函数命名我们可以看到变量的基本数字特征，从上图我们发现不同变量之间数值的取值范围差别巨大，为了防止量纲导致问题，我们需要对数据进行规范化处理。

方法一： min-max标准化处理

wbcd_n <- as.data.frame(lapply(wbcd[2:31],normalize))
#lapply函数需要输入一个列表，一个函数返回一个列表，
#这里将数据框的每一个特征变量当场一个列表，最后输出30个列表，
#最后用as.data.frame转化成数据框

方法二： z分数标准化

wbcd_z <- as.data.frame(scale(wbcd[2:31])
#scale是R语言自带的z标准化函数，其输出是一个矩阵或者数组

俩种标准化方式需要注意的点：min-max标准化，需要保证未来的样本的数值不能出现训练原本的数值范围外；z分数标准化，要保证未来样本同训练样本同分布且具有相似的均值和标准差

数据的准备（创建训练数据集和测试数据集）
wbcd_train <- wbcd_n[1:469,]  #取前469行当训练数据集
wbcd_test <- wbcd_n[470:569,]  #取后100行当测试数据集
wbcd_train_labels<- wbcd[1:469,1]  #训练数据集的结果
wbcd_test_labels <- wbcd[470:569,1]  #测试数据集的结果

 注意：wbcd记录已经随机排序，所以我们可以简单地提取100个连续的记录来创建一个测试数据集。
       如果数据是按时间顺序或者以具有相似值的组的顺序排列的，那么这将是不恰当的。
       在这些情况下，需要用到随机抽样方法。
基于数据集训练模型
#在R语言class包中自带knn函数
install.packages("class")
library(class)
wbcd_test_pred <- knn(train = wbcd_train,test = wbcd_test,cl=wbcd_train_labels,k=21)

在这里插入图片描述
关于k值的选取问题：一般来说k过小会受到异常值的影响比较大，会欠 拟合；k过大可能会导致过拟合。一般来说k值的选取可以是训练数据个数的开平方，这里469^0.5=21；除此之外还可以根据自己经验修改k值，或者选取一个较大k值，然后采取权重投票方法

性能评估

将wbcd_test_pred与wbcd_test_labels进行比较

#这里采用gmodel包中的CrossTable()函数
install.packages("gmodels")
library(gmodels)
CrossTable(wbcd_test_labels,wbcd_test_pred,prop.chisq = F)

在这里插入图片描述
从上图结果来看，有4个阳性被预测成了阴性，其实是会造成较大影响的，整体的正确率为95%

代码
wbcd <- read.csv("C:/Users/blank/Downloads/data.csv")
wbcd <- wbcd[,1:32]
wbcd <- wbcd[,-1]
wbcd$diagnosis <- factor(wbcd$diagnosis,levels = c("B","M"),labels = c("Benign","Malignant"))
summary(wbcd)
normalize <- function(x){
  return (x-min(x))/(max(x)-min(x))
}
wbcd_n <- as.data.frame(lapply(wbcd[2:31],normalize))
wbcd_train <- wbcd_n[1:469,]
wbcd_test <- wbcd_n[470:569,]
wbcd_train_labels<- wbcd[1:469,1]
wbcd_test_labels <- wbcd[470:569,1]
install.packages("class")
library(class)
wbcd_test_pred <- knn(train = wbcd_train,test = wbcd_test,cl=wbcd_train_labels,k=21)
install.packages("gmodels")
library(gmodels)
CrossTable(wbcd_test_labels,wbcd_test_pred,prop.chisq = F)

结尾福利

最后谢谢大家能够看完本博客，由于本人也正在学习，可能会有诸多不足和错误，希望大家能够提出，本人也会积极改正。最后为了奖励我写完了本博客，大家也阅读到了最后，看看美女照片奖励一下自己吧！
在这里插入图片描述

ls_本性
关注
专栏目录
机器学习：基于k近邻算法（KNN）和交叉验证诊断乳腺癌，预测患者患有良性肿瘤还是恶性肿瘤
时序笔记
04-27 2807
本文旨在实现一个强大的机器学习模型，该模型可以预测乳腺癌患者是良性肿瘤还是恶性肿瘤。该模型使用k近邻算法 (KNN)，k近邻算法，也称为 KNN 或 k-NN，是一种非参数、有监督的学习分类器，KNN 使用邻近度对单个数据点的分组进行分类或预测。
机器学习：基于KNN对葡萄酒质量进行分类
阿极的博客
03-23 6898
KNN对葡萄酒质量进行分类。该数据集采集于葡萄牙北部“Vinho Verde”葡萄酒，由于隐私和物流问题，只有理化变量特征是可以进行使用的(例如，数据集中没有关于葡萄品种、葡萄酒品牌、葡萄酒销售价格等的数据)。本篇notebook使用了红葡萄酒质量的数据集，并用KNN进行分类模型的训练。
KNN算法诊断乳腺癌
10-11
如果机器学习能够自动识别癌细胞，那么它将为医疗系统提供相当大的益处。自动化的过程很有可能提高检测过程的效率，从而可以让医生在诊断上花更少的时间，而在治疗疾病上花更多的时间。自动 化的筛查系统还可能通过去除该过程中的内在主观人为因素来提供 更高的检测准确性。从带有异常乳腺肿块的女性身上的活检细胞的测度数据入手，应用 kNN 算法，从而研究机器学习用于检测癌症的功效。
机器学习：使用KNN和决策树来预测和评估乳腺癌load_breast_cancer
m0_63483051的博客
05-27 1051
安装pandas模块：pip install pandas -i。安装numpy模块：pip install numpy -i。
机器学习——K近邻算法及乳腺癌检测分类
杨老师的小跟班(*∩_∩*)
09-22 4500
机器学习——K近邻算法及乳腺癌检测分类 KNN可用于分类和回归，用于分类时是多分类方法。
利用sklearn实现KNN--乳腺癌诊断代码实战与分析
嗒獭想睡觉
08-30 3461
这篇文章是利用sklearn实现KNN算法，如何调整参数，实战代码。 如果要看具体原理和python代码实现简单的KNN转这里：https://blog.csdn.net/qq_40589051/article/details/98482987 ---------目录---------- 1. sklearn.neighbors.KNeighborsClassifier参数介绍 2. 利用...
用kNN算法诊断乳腺癌--基于R语言
jd1813346972的博客
08-26 2605
包含讲解分析，以及算法代码和结果等。对运行结果和算法进行了详细分析讲解
KNN算法解决二分类问题（威斯康辛州乳腺癌数据集）
woweibiancheng的博客
03-05 679
本次只是直接使用knn解决二分类问题，只给代码其余不多加赘述，若想了解具体如何使用，可点击。
用KNN算法诊断乳腺癌
10-12
### 使用KNN算法诊断乳腺癌 #### 实验背景与意义 随着医学技术的进步与计算机科学的发展，特别是机器学习领域的突破，使得我们能够利用先进的算法帮助医生进行疾病诊断，提高诊疗效率与准确率。本实验旨在通过KNN...
python:基于KNN算法的电影分类
04-26
使用python实现KNN原理，同时应用到电影分类过程中，训练集和测试集都来自李航的《统计学方法》中KNN那一章。
机器学习分类器在乳腺癌预测和检测中的有效作用-研究论文
05-20
社会上的主要疾病是全世界女性的乳腺癌，其中27％的女性患有癌症。 机器学习分类器适合医师以低成本和时间进行完美诊断。 分类器的比较性能分析需要获得准确的诊断，因为医学数据由本质上嘈杂的高维数据组成。 在这项研究中，将不同的分类器机器学习技术应用于乳腺癌数据集。 印度的癌症发生率在30年代初有所增加，但在50-64岁时达到最高点。 根据NICPR报告，在28名妇女中，有一名妇女患了乳腺癌。 但是这种比例将改变城市人口，其中22名妇女中有1名妇女受到影响。 在农村，该比例增加到每60名妇女中增加1名？ 通过早期诊断和治疗可以提高患者的治愈率，这可以延长他们的寿命。 在这里，我们已经建立了一个模型来识别癌细胞是良性还是恶性的。 我们使用了机器学习技术分类器。 在这里，我们必须确定一种在不同的手术条件和数据集下预测疾病的合适技术。 结果分析表明，SVM被认为是识别不同性能矩阵（例如灵敏度，准确性，误差和特异性）的合适选择。
机器学习案例（一）：基于KNN的手写数字识别（附源码）
12-22
基于KNN的数字识别 源代码及数据的github地址： https://github.com/w1449550206/KNN-Handwritten-digit-recognition-based-on-KNN 点此可直达 import numpy as np # 图片后缀为bmp import matplotlib.pyplot as plt...
通过KNN算法实现对乳腺癌数据集处理
weixin_47994684的博客
03-21 3148
通过KNN算法实现对乳腺癌数据集处理 通过KNN算法实现对乳腺癌数据集处理 通过KNN算法实现对乳腺癌数据集处理 代码如下，pycharm实现 from numpy import * import operator from sklearn import datasets#导入数据库 breast_cancer_data=datasets.load_breast_cancer() features=breast_cancer_data.data#特征 targets=breast_cancer_data.t
【机器学习】基于机器学习的乳腺癌预测模型
热门推荐
MING.MING的博客
12-11 2万+
基于机器学习的乳腺癌预测模型（附Python代码）前提说明项目介绍导入数据概述数据数据可视化评估算法实施预测代码参考 前提说明 此博客内容为2018年山东省人工智能大赛曲阜师范大学青春梦想队所创作，未经授权，禁止使用。 项目介绍 这个项目是针对乳腺癌进行分类的一个项目，使用的乳腺癌数据集，具有如下特点： ①所以特征数字都是数字，不需要考虑如何导入以及如何处理数据 ②特征列第一列为用户ID信息，不...
分别利用scikit-learn库函数和自编函数实现K近邻分类器（选用乳腺癌数据）——机器学习
qq_54000767的博客
11-28 700
分别利用scikit-learn库函数和自编函数实现K近邻分类器（选用乳腺癌数据）——机器学习
KNN算法癌症诊断
Wind_know的博客
06-13 3950
此数据为乳腺癌的癌症，获得的数据属性有乳腺的细胞核的一些特征，【包括半径，质地，光滑度，面积等等，这些都能用仪器测出来】。医生可以根据这些特征判断你是否得病了，同样，算法也一样，通过这些特征判断你是否得病了。比如KNN算法。 导包 import numpy as np import pandas as pd from pandas import Series,DataFrame from sklearn.neighbors import KNeighborsClassifier from sk
机器学习-KNN小实战---乳腺癌预测
最新发布
weixin_74182458的博客
04-25 600
这个乳腺癌的检测实战基于之前的鸢尾花预测，都是一些简单的分类问题，而这个是二分类，比较简单，总体来说，把项目分为三类就可以公式化学习：数据集导入，预处理、模型训练、模型评估。
sklearn常用分类算法分析乳腺癌数据
weixin_40679158的博客
05-13 1万+
模型评估 参考网址:机器学习分类模型评价指标详述 - 知乎 机器学习模型评估的方法总结（回归、分类模型的评估）_人工智能_sinat_16388393的博客-CSDN博客 【机器学习】Sklearn 常用分类器（全）_人工智能_白糖炒栗子-CSDN博客 python-sklearn常用分类算法模型的调用_python_脚本之家 机器学习各种算法怎么调参?—知乎 GBDT、XGBoost、LightGBM-的使用及参数调优—简书 和鲸社区 - Kesci.com 1. 机器学习常用分类模型: 1.最近邻 (
STM32单片机C语言程序使用KNN算法对乳腺肿瘤分类
wanglong3713的博客。
01-12 1601
一、概述 之前在《STM32单片机使用KNN算法实现鸢尾花分类》中使用了KNN算法对鸢尾花进行分类，程序采用C语言编写，运行于STM32F103单片机上，效果较好。本篇文章将采用KNN算法对乳腺肿瘤进行分类，看看单片机处理高维数据的表现。数据来自于UCI，下载地址https://archive.ics.uci.edu/ml/datasets/Breast+Cancer+Wisconsin+%28Diagnostic%29,整理好的数据已上传到资源breast_cancer_wisconsin(diagnos
使用PCA、Isomap对乳腺癌数据集进行降维，使用KNN对数据集进行分类
05-27
好的，我可以为您讲解如何使用PCA、Isomap进行降维，以及如何使用KNN进行分类。 首先，PCA和Isomap都是常用的降维算法，它们可以将高维数据映射到低维空间中，以便更好地进行数据分析和可视化。PCA是一种线性降维算法，它通过找到数据中最大方差的方向进行降维。而Isomap是一种非线性降维算法，它可以在保留数据流形结构的基础上进行降维。 对于乳腺癌数据集，我们可以先使用PCA或Isomap进行降维，然后再使用KNN进行分类。具体步骤如下： 1. 加载数据集 我们可以使用sklearn库中的load_breast_cancer函数来加载乳腺癌数据集。 ```python from sklearn.datasets import load_breast_cancer data = load_breast_cancer() X, y = data.data, data.target ``` 其中，X是特征矩阵，y是标签向量。 2. 数据预处理 在进行数据降维之前，我们需要对数据进行预处理。一般来说，我们需要对数据进行标准化处理，使得每个特征的均值为0，标准差为1。 ```python from sklearn.preprocessing import StandardScaler scaler = StandardScaler() X_scaled = scaler.fit_transform(X) ``` 3. 使用PCA或Isomap进行降维 接下来，我们可以使用PCA或Isomap进行降维。 使用PCA： ```python from sklearn.decomposition import PCA pca = PCA(n_components=2) X_pca = pca.fit_transform(X_scaled) ``` 使用Isomap： ```python from sklearn.manifold import Isomap isomap = Isomap(n_components=2) X_isomap = isomap.fit_transform(X_scaled) ``` 其中，n_components参数表示降维后的维度数。 4. 使用KNN进行分类 最后，我们可以使用KNN进行数据分类。 ```python from sklearn.neighbors import KNeighborsClassifier from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split(X_pca, y, test_size=0.2, random_state=42) knn = KNeighborsClassifier() knn.fit(X_train, y_train) y_pred = knn.predict(X_test) ``` 这里我们以PCA降维后的数据为例。首先，我们将数据集分为训练集和测试集，然后使用KNN进行分类，最后计算预测准确率。 完整代码如下： ```python from sklearn.datasets import load_breast_cancer from sklearn.preprocessing import StandardScaler from sklearn.decomposition import PCA from sklearn.manifold import Isomap from sklearn.neighbors import KNeighborsClassifier from sklearn.model_selection import train_test_split import numpy as np # 加载数据集 data = load_breast_cancer() X, y = data.data, data.target # 数据预处理 scaler = StandardScaler() X_scaled = scaler.fit_transform(X) # 使用PCA进行降维 pca = PCA(n_components=2) X_pca = pca.fit_transform(X_scaled) # 使用Isomap进行降维 isomap = Isomap(n_components=2) X_isomap = isomap.fit_transform(X_scaled) # 使用KNN进行分类 X_train, X_test, y_train, y_test = train_test_split(X_pca, y, test_size=0.2, random_state=42) knn = KNeighborsClassifier() knn.fit(X_train, y_train) y_pred = knn.predict(X_test) accuracy = np.mean(y_pred == y_test) print("PCA + KNN accuracy: {:.2f}%".format(accuracy * 100)) X_train, X_test, y_train, y_test = train_test_split(X_isomap, y, test_size=0.2, random_state=42) knn = KNeighborsClassifier() knn.fit(X_train, y_train) y_pred = knn.predict(X_test) accuracy = np.mean(y_pred == y_test) print("Isomap + KNN accuracy: {:.2f}%".format(accuracy * 100)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值