自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(19)
  • 收藏
  • 关注

原创 集成学习的原理及常用算法的python代码实现

本文讲解了集成学习的原理,分类以及常见的集成学习模型。并基于sklearn使用常见集成学习方法处理回归和分类问题,在文章的最后,对易于混淆的集成算法进行了区分对比。

2023-08-17 20:58:05 722 1

原创 决策树算法处理分类及回归问题的原理及python代码实现

本文讲解了决策树的原理以及信息熵和基尼系数对决策树分类的作用,并通过手写代码进一步阐述了决策树的实现原理。最后通过调用sklearn封装的函数使用决策树算法解决分类及回归问题,以及函数中诸多超参数的含义。

2023-08-16 19:36:42 916 1

原创 支持向量机SVM解决分类问题及回归问题python代码实现

本文基于sklearn对硬间隔SVM、软间隔SVM、非线性SVM分类、核函数SVM分类,以及利用支撑向量机处理线性和非线性回归问题进行了代码示例及原理讲解。

2023-08-14 21:10:46 1078

原创 分类算法的评价指标讲解及python代码实现(基于sklearn自带的load_digits数字识别数据集为例)

本文以sklearn自带的load_digits数字识别数据集为例,讲解了混淆矩阵、准确率、错误率、精准率、召回率、PR曲线、F1度量、TPR、FPR、ROC曲线、AUC等分类算法的评判指标计算公式和基于sklearn的代码计算方法。

2023-08-09 19:46:03 857 1

原创 python基本数据类型分类及代码实现增删改查

本文讲述了按不同分类逻辑,python基本数据类型的分类方式,并通过代码分别举例说明了这些基本数据类型的增删改查操作方法

2023-08-08 18:45:17 311

原创 逻辑回归(Logistic回归又名对数几率回归)原理及python代码实现

本文通过讲解逻辑回归(对数几率回归)从回归模型到分类模型的演变过程以及损失函数的推导过程,然后利用梯度下降编写逻辑回归方法,最后通过调用sklearn封装的逻辑回归方法,分别演示了模型正则化和多分类的超参数使用。

2023-08-04 22:08:06 2670 1

原创 随机梯度下降原理及在线性回归算法中的应用python代码实现

本文讲解了随机梯度下降的原理,并通过自编随机梯度下降代码并应用到线性回归求解中,让读者深入了解随机梯度的原理。最后与Sklearn自带的批量梯度下降和随机梯度下降进行对比,随机梯度下降尽可能的保证了计算精度的同时,能够有效的减少计算量。

2023-08-03 18:38:30 424

原创 模型正则化在多项式回归中的运用:Ridge回归(岭回归)、LASSO回归、弹性网络回归的原理及python代码实现

本文讲解了模型正则化的原理,以及在多项式回归中的应用,通过未经过正则化的多项式回归与三种不同形式的正则化回归模型(Ridge回归(岭回归)、LASSO回归、弹性网络回归)做对比,实验证明,正则化回归后的模型能够更好的抑制过拟合问题,并在测试数据集中有更好的表现。

2023-08-02 16:45:01 1693

原创 交叉验证原理及应用(网格搜索超参数)python代码实现

本文通过讲述k折交叉验证的原理,并基于sklearn提供的方法进行交叉验证的应用,实现了KNN邻近模型的超参数寻找,并针对同样的数据集使用网格搜索的方法寻找超参数,试验证明两种方法得到的超参数组合和模型性能评分结果一致。

2023-08-01 18:41:26 1606

原创 多项式回归(非线性回归)的python代码实现

在解决回归问题中,很多数据集中输入空间与输出空间并非完全呈线性关系,使用线性回归无法解决此类问题。为了解决存在非线性关系的数据集的回归问题,需要进行多项式回归,但sklearn并未提供多项式回归模型的类。多项式回归使用的还是线性回归的思路,它的关键在于我们为原来的数据样本添加新的特征,这些新的特征来源方式是对原来特征的多项式组合,采用这样的方式,便可以完美解决非线性问题,本文提供了三种方式进行多项式回归,在工程实践中,推荐方式三。

2023-08-01 15:34:19 2327

原创 基于opencv与mediapipe的面部跟踪(人脸检测追踪)python代码实现

本文主要利用opencv读取摄像头或视频文件信息,通过mediapipe对opencv读取的图像数据进行人脸检测跟踪。输出结果包含一个边界框坐标:xmin,ymin,width,height 和 6 个关键点(右眼、左眼、鼻尖、嘴巴中心、右耳垂体和左耳垂体)坐标

2023-07-30 21:19:49 1227 1

原创 基于PCA主成分分析应用于数据的降维处理及python代码实现

通过PCA对数据进行预处理,不仅能有效见少数据集特征维度从而提高模型训练和运行效率,而且还能通过去除一部分噪声提高模型精度。

2023-07-28 20:21:17 786 1

原创 基于opencv与mediapipe手势关键点检测,并使用KNN近邻算法手势识别(石头、剪刀、布)的python代码实现

本文主要利用opencv读取摄像头的手势画面数据,利用mediapipe库提供的方法将手势图像画面转化为手部21个关节点的坐标值,通过KNN近邻算法训练坐标值的数据,从而识别石头剪刀布三个手势

2023-07-28 11:50:01 1137 6

原创 线性回归算法中损失函数(误差函数/目标函数)的来历及推导

本文以线形回归为例,利用高斯分布概率密度函数和极大似然估计公式推导出线性回归损失函数通用表达式。

2023-07-23 15:29:09 640

原创 梯度下降法在线性回归中的应用及python代码实现

通过线性回归方程推导出损失函数,并对损失函数求参数向量中每个元素的偏导,参数向量中每个元素的偏导组成的向量即为梯度,根据这个向量的方向进行迭代更新参数,最终找到损失函数的极值。获得线性回归函数的损失函数和损失函数的偏导后,就可以根据梯度下降法对参数向量求解,其主要思想是:通过求损失函数的梯度,根据梯度指引的方向不断更新参数向量,让损失函数不断减小,最终减小到无法再减小位置。是一个m行n+1列的矩阵,这个矩阵内的数据即为样本数据(其中第一列是全为1的列向量)向量中的每个元素进行求偏导,得到的这个新向量。

2023-07-23 15:14:53 415

原创 线性回归中的损失函数的数值表达式及向量表达式推导详解

本文通过一元线性回归为例推导出损失函数,并扩展成通用的多元线性回归方程的损失函数,以实际数据为例,转换为向量的表达形式

2023-07-23 12:12:31 942

原创 多元线性回归的python代码实现(基于sklearn的波士顿房价boston数据集为例)

基于sklearn波士顿房价数据集进行多元线性回归算法代码实现

2023-07-21 23:39:01 1515 2

原创 一元线性回归(简单线形回归)的python代码实现(基于sklearn以广告投入和产品销售预测为例)

基于sklearn模块建立并训练一元线形回归模型,通过广告投入量和产品销售量作为数据集,从而实现给定任意广告投入量,可预测产品销售量。

2023-07-21 21:24:44 935 1

原创 K-近邻算法(KNN算法)的python代码实现(基于sklearn的鸢尾花iris数据集为例)

利用sklearn内置的鸢尾花数据集为例,使用KNN算法进行鸢尾花的品种分类,其中包含了数据集获取,数据集分析,测试数据和训练数据切分,网格搜索最佳超参数等代码实现用例

2023-07-21 18:18:53 1387

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除