2020/11/26 04-机器学习逻辑回归算法实现与应用1

最新推荐文章于 2023-04-18 13:18:39 发布
最新推荐文章于 2023-04-18 13:18:39 发布
阅读量299 收藏 1
点赞数 1
分类专栏： 选修python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42227818/article/details/110202586
版权

在这里插入图片描述
回顾一下线性回归，一般都是用商业数据集，进程数据预测，分析系统，核心是算法为主。
深度学习，主要是图像处理，文本处理，比如云字典
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
最小二乘法的数学推导过程，我们只要知道结果是可靠的就行

在这里插入图片描述
在这里插入图片描述
numpy的实现方式

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
用鸢尾花的数据，分类的例子，对1类和2类的分类

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
现在的分类其实是有一些问题，线性回归分类的时候会存在一些数学基础上的不可靠

在这里插入图片描述
身高和年龄数据也是线性，如果要分类就要采用鸢尾花的数据了，多类分类

从线性回归的缺陷，引申到逻辑回归的意义，线性回归就提出了线性的拟合。机器学习有10大经典算法，神经网络4大算法，自适应谐振理论（ART）网络，学习矢量量化（LVQ）网络，Kohonen网络，Hopfield网络

高中数学偏计算，大学偏推理。
算法模型是什么，算法怎么去求解，算法如何去实现，实现的时候分成三种模式去实现（原生实现，框架实现（一般用sklearn，机器学习的框架，tensorflow），
在这里插入图片描述
地球上无数的曲线，不论你能否表现成方程，里面是可以用分段函数无穷逼近的。后来有人发明了三角分段，成为规律型的来叠加。后面矩阵的叠加不靠谱，又有了正弦波叠加的方式。这样就是把无规律变成有规律

儿女的身高一般比父母的平均身高要低，回归到人类的平均身高，线性拟合或者线性接近
在这里插入图片描述
算法推导后，目标值，是要把算法中的值求出来

最后得到一个误差损失函数，今天用梯度下降法，这个是比较可靠的
在这里插入图片描述
用tensorflow实现一把线性回归，numpy数值计算库（在python内建类型，列表上面，添加了向量，矩阵类型的数据集合，结构化数据里的东西）

之前用最小二乘法得出了一个结论

在这里插入图片描述
an乘以n次方-1乘以x的n-1次方，上标^，下标_
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
可以变成一个矩阵
在这里插入图片描述
这个就是形成矩阵的模型。就是类型
在这里插入图片描述
写成矩阵的方式是便于推理，这个就是鼎鼎大名的线性回归的决策模型，任何一个模型都有决策模型
在这里插入图片描述
在这里插入图片描述

身高在10岁之前成正比，可以当作线性的，但是10岁以后就不行了
在这里插入图片描述
在决策模型和求解模型中间还有过度模型，称为损失函数

在这里插入图片描述
关键是把w求出来，进行分类和回归。
x是身高的数据，y是年龄的数据
在这里插入图片描述
训练的数据就是要求解的数据（w）
在这里插入图片描述
占位定义，使用tensorflow里专门的类型占位符placeholder，tensorflow自己定义了数据类型，跟numpy一样，如果数据样本行数不确定，可以用-1或者None，剩下是数学样本的特征（多列就是多个特征，鸢尾花就是4个特征）

在这里插入图片描述
结果的数据是未知的
在这里插入图片描述
下面定义训练模型，直接使用w
在这里插入图片描述

定义决策模型，求它的逆矩阵，就是xw，w这个模型目前还没有
在这里插入图片描述
先求值再决策，先决策再求值是有区别的，决策模型之前先求解W
在这里插入图片描述
w首先把x转置求出

在这里插入图片描述
然后求内积

在这里插入图片描述
求完内积求逆矩阵
在这里插入图片描述
、再求转置和内积
在这里插入图片描述
tensorflow里有transpose，给x，就得到了一个转置矩阵
在这里插入图片描述
下面需要求内积

在这里插入图片描述
然后求逆矩阵，matrix_inverse 矩阵求逆
在这里插入图片描述
再求和转置矩阵的内积
在这里插入图片描述
在这里插入图片描述
再求内积
在这里插入图片描述
tensorflow里可以用仪表盘的方式展示怎么算的

执行求解的时候首先要把数据格式化
在这里插入图片描述
现在看到的是一行的矩阵，变成一个2*2的矩阵
在这里插入图片描述
输出的数据变成2维
在这里插入图片描述
第一列是x，第二列全是1，定义数组，把数据放进去
在这里插入图片描述

创建一个会话环境，初始化数据（是空的，愿意做可以做，不愿意做也没事）
在这里插入图片描述
下面要计算w，凡是求值或者输出的用v_前缀表示，求w可以用session，计算需要两个值，x和y
在这里插入图片描述
用字典的方式输出数组
在这里插入图片描述
预测模型最后求出来的其实是线性回归的模型
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

这里就是预测的模型
在这里插入图片描述

在这里插入图片描述
做可视化，可以加魔法指令，在线显示
在这里插入图片描述
构建图，构建坐标，绘制样本，绘制线性回归直线，最后显示

边界保留10像素0.1
在这里插入图片描述
y方向也保留10个像素。宽度80%

在这里插入图片描述
在这里插入图片描述
x是年龄，放在0-10之间，y是身高，scatter是散点值。color(0,0,1,1)是蓝色，标签训练样本
在这里插入图片描述
legend主题
在这里插入图片描述
在这里插入图片描述
这个就是样本点
在这里插入图片描述
2位数

在这里插入图片描述
在这里插入图片描述
绘制线性回归直线
在这里插入图片描述
标记可以换成小点

在这里插入图片描述
在这里插入图片描述

48N6E
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
图解机器学习算法(4) | 逻辑回归算法详解（机器学习通关指南·完结）
ShowMeAI研究中心
03-10 1万+
逻辑回归简单有效且可解释性强，是机器学习领域最常见的模型之一。本文讲解逻辑回归算法的核心思想，并讲解sigmoid函数、梯度下降、解决过拟合、线性/非线性切分等重要知识点。
【机器学习】逻辑回归算法
风口IT猪的成长录
07-14 6269
逻辑回归算法学习目标1. 逻辑回归的介绍1.1 逻辑回归的应用场景1.2 逻辑回归的原理1.2.1 输入1.2.2 激活函数1.3 损失以及优化1.3.1 损失1.3.2 优化1.4 小结2. 逻辑回归api介绍3. 案例：癌症分类预测-良／恶性乳腺癌肿瘤预测3.1 背景介绍3.2 案例分析3.3 代码实现4. 分类评估方法4.1 分类评估方法4.1.1 精确率与召回率4.1.1.1 混淆矩阵4.1.1.2 精确率(Precision)与召回率(Recall)4.1.2 F1-score4.1.3 分类评估
机器学习算法--逻辑回归原理介绍
热门推荐
chibangyuxun的博客
11-13 13万+
本博文针对逻辑回归的原理进行了介绍：逻辑回归就是这样的一个过程：面对一个回归或者分类问题，建立代价函数，然后通过优化方法迭代求解出最优的模型参数，然后测试验证我们这个求解的模型的好坏。Logistic回归虽然名字里带“回归”，但是它实际上是一种分类方法，主要用于两分类问题（即输出只有两种，分别代表两个类别）回归模型中，y是一个定性变量，比如y=0或1，logistic方法主要应用于研究某些事件发生的概率
机器学习之逻辑回归算法详解（Sigmoid函数、逻辑回归的损失函数、梯度下降 、逻辑回归的正则化、逻辑回归API中的超参数介绍）
weixin_40247876的博客
06-07 5784
机器学习19_逻辑回归算法详解（2021.06.07 ~） 一. 究极总结 逻辑回归：一个打着回归旗号，却在做分类任务的分类器。 二. 必备知识复习 逻辑回归在本质上其实是由线性回归衍变而来的，因此想要更好地理解逻辑回归，先让我们复习一下线性回归。线性回归的原理其实就是用一个线性回归方程来描述一个线性回归的问题。而线性回归的方程可以写作一个几乎大家都熟悉的方程： 在这个方程中，w0被称作截距，w1 ~ wn 被称作系数，这个线性回归方程也可以用矩阵来表示： 通过求出函数z，线性回归便完成了使用输入的特征
机器学习算法之逻辑回归
m0_52004821的博客
11-01 428
逻辑回归学习笔记
ai-机器学习算法实现之逻辑回归.zip
04-25
逻辑回归是一种广泛应用于分类问题的统计学模型，尤其在机器学习领域中占据着重要的地位。它不仅简单易懂，而且计算效率高，适用于处理中等规模的数据集。在这个"ai_机器学习算法实现之逻辑回归"的压缩包中，很可能...
机器学习算法-基于机器学习回归算法实现过拟合.zip
05-12
在这个“机器学习算法-基于机器学习回归算法实现过拟合”的主题中，我们将深入探讨回归算法以及如何处理过拟合现象。 回归算法主要包括线性回归、逻辑回归、多项式回归、支持向量回归（SVR）、决策树回归、随机森林...
机器学习算法-基于机器学习回归算法实现葡萄酒质量预测.zip
最新发布
05-12
在这个“机器学习算法-基于机器学习回归算法实现葡萄酒质量预测”的项目中，我们将深入探讨如何利用回归算法来预测葡萄酒的质量。葡萄酒质量通常由一系列化学成分和感官评估决定，如酸度、糖分、酒精含量等，这些...
机器学习算法-基于机器学习回归算法实现的波士顿房屋租赁价格预测.zip
05-12
本项目“机器学习算法-基于机器学习回归算法实现的波士顿房屋租赁价格预测”聚焦于如何运用回归算法来预测房屋的租金价格。我们将深入探讨回归的基本概念、常用的回归算法以及如何在波士顿房价数据集上实施这些算法...
《机器学习》算法实例-逻辑回归算法-梯度上升算法
02-25
《机器学习》算法实例——逻辑回归与梯度上升算法 逻辑回归（Logistic Regression）是机器学习中一种广泛应用的分类算法。它虽然名字中含有“回归”，但实际上是一种分类方法，尤其适用于处理二分类问题。在本实例...
SOM：Kohonen的自组织地图的PyTorch实施
02-12
Kohonen的自组织地图（SOM） 背景 Teuvo Kohonen在1990年撰写的原始是第一个能够进行无监督学习的神经网络模型之一。 在算法的不同实现中，该算法几乎完全遵循原始论文。 更新功能定义为 哪里 和 是当前时代。 而且，每个神经元都与其他所有神经元相连，因此该图是 完整的图形，其中 是神经元的数量。 例 from sklearn . datasets import load_iris from sklearn . decomposition import PCA import matplotlib . pyplot as plt import numpy as np from som . mapping import SOM dataset = load_iris () train = dataset . data # Reducing the dimensiona
在python Numpy中求向量和矩阵的范数实例
09-18
今天小编就为大家分享一篇在python Numpy中求向量和矩阵的范数实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
机器学习-逻辑回归算法
qq_63974399的博客
08-12 423
机器学习-逻辑回归算法
机器学习系列 【一】逻辑回归算法
weixin_44710600的博客
03-18 674
机器学习系列 【一】逻辑回归算法内容说明一、Logistic回归算法基本原理二、Logistic回归数学推导（1）梯度下降法求解（2）向量化Vectorization求解 内容说明 本文主要讲解Logistic算法的数学原理、优化方法以及python代码实现，可供机器学习爱好者借鉴学习。文中所给出的python代码，来自于2020年华为软件精英挑战赛官方给出的LR算法源码，读者也可借助本文快速读懂...
机器学习 逻辑回归算法应用案例
qq_43171122的博客
09-12 5780
机器学习 逻辑回归算法应用案例 时间：2020.09.12 出处：https://www.kesci.com/home/project/5bfe39b3954d6e0010681cd1 注明：初学逻辑回归，跟着博客大佬文章过了一遍，自己留个记录以便之后翻阅，也供大家学习。。 1、数据 本次数据为Kaggle著名的公开数据集坦泰尼克号之灾。 数据源地址：https://www.kaggle.com/c/titanic 如果你是第一次进入kaggle，你需要注册一个账号才能下载数据集，进入该链接之后请按下图找数
机器学习算法（一）：逻辑回归模型（Logistic Regression, LR）
weixin_39910711的博客
08-14 10万+
线性分类器：模型是参数的线性函数，分类平面是（超）平面；非线性分类器：模型分界面可以是曲面或者超平面的组合。 典型的线性分类器有感知机，LDA，逻辑斯特回归，SVM（线性核）； 典型的非线性分类器有朴素贝叶斯（有文章说这个本质是线性的，http://dataunion.org/12344.html），kNN，决策树，SVM（非线性核） https://www.cnblogs.com/sparkw...
传统机器学习(二)逻辑回归算法(一)
qq_44665283的博客
04-18 807
传统机器学习(二)逻辑回归算法原理，python手动实现以及sklearn工具包使用详解
逻辑回归
weixin_30298497的博客
08-29 893
Infi-chu: http://www.cnblogs.com/Infi-chu/ 逻辑回归（Logistic Regression）是机器学习中的一种分类模型，逻辑回归是一种分类算法，虽然名字中带有回归，但是它与回归之间有一定的联系。由于算法的简单和高效，在实际中应用非常广泛。 一、简介 1.应用场景 广告点击率 是否为垃圾邮件 是否患病 金融诈骗 虚假账号 ...
机器学习——逻辑回归算法
Luo_LA的博客
10-31 648
逻辑回归
python机器学习--逻辑回归算法原理
10-21
逻辑回归是一种二分类算法，它的原理是通过构建一个线性方程，将输入特征与输出结果之间的关系...逻辑回归算法的特点是结果具有可解释性，只能预测二分类，相比朴素贝叶斯和knn算法，逻辑回归效果更好，但耗时更久。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值