【机器学习期末总结】6-逻辑回归

最新推荐文章于 2024-09-16 16:16:24 发布
最新推荐文章于 2024-09-16 16:16:24 发布
阅读量189 收藏
点赞数
分类专栏： 机器学习 文章标签： 逻辑回归 人工智能
原文链接：https://mooc2-ans.chaoxing.com/mycourse/stu?courseid=215257697&clazzid=65333660&cpi=260393217&enc=e21c700f8c3be42a0eba8f92acbf83f9&t=1670245169480&pageHeader=3&v=0
版权

对数几率
交叉熵
多分类（multi-class）
多标签分类（multi-label）

线性回归

二分类问题

在这里插入图片描述

从线性回归到逻辑回归

在这里插入图片描述

逻辑回归

逻辑回归本质上也是一个线性回归，但使用了更复杂的模型
模型控制输出结果在0到1之间
Logistic Function / Sigmoid Function
在这里插入图片描述

模型

在这里插入图片描述

sigmoid函数

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

模型

在这里插入图片描述

模型参数估计

极大似然估计

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
以对数似然函数为目标函数的最优化问题
逻辑回归学习中通用采用梯度下降法、梯度上升法或拟牛顿法
在这里插入图片描述

梯度下降法

在这里插入图片描述
在这里插入图片描述

梯度下降和梯度上升

在这里插入图片描述

*交叉熵

交叉熵

交叉熵损失函数经常用于分类问题中，特别是在神经网络做分类问题

在这里插入图片描述

函数性质

在这里插入图片描述

二元交叉熵

在这里插入图片描述
在这里插入图片描述

多类别分类

  • 二元分类：在两个类别中区分

  • 多类别分类 （multi-class classification）：区分两个以上的类别

  • 多类别分类学习方法

  • 有些算法可以直接处理多个类别：
    随机森林分类器、朴素贝叶斯分类器

  • 有些算法是严格的二元分类器(逻辑回归，感知机，支持向量机），需要用到拆分策略来进行扩展
    对问题进行拆分，为拆出的每个二分类任务训练一个分类器
    对于每个分类器的预测结果进行集成以获得最终的多分类结果

  • 拆分策略
    一对其余（One vs. Rest, OvR）或 一对全部One vs. All
    一对一（One vs. One, OvO）

一对其余

在这里插入图片描述
在这里插入图片描述

一对一

在这里插入图片描述
在这里插入图片描述

两种策略比较

在这里插入图片描述

Scikit-learn中的多类别分类

Scikit-learn可以检测到你尝试使用二元分类算法进行多类别分类任务，它会自动运行（ OvR ）
SVM分类器除外，它会使用OvO

多标签分类

在这里插入图片描述

多标签 VS 多分类

在这里插入图片描述

softmax回归

在这里插入图片描述
在这里插入图片描述

scikit-learn中的逻辑回归

详见官方文档

实战

《机器学习实战：基于Scikit-learn和TensorFlow》第三、四章

malo12
关注
专栏目录
机器学习笔记之(六)Logistic回归
城南花开的专栏
12-28 280
逻辑回归(Logistic Regression）
机器学习期末考试满分试卷答案
热门推荐
qq_39444290的博客
05-20 1万+
机器学习期末考试 得分：100分(欢迎讨论评论) 1.单选(2分) 一监狱人脸识别准入系统用来识别待进入人员的身份，此系统一共包括识别4种不同的人员：狱警，小偷，送餐员，其他。下面哪种学习方法最适合此种应用需求： A.K-means聚类问题 B.回归问题 C.二分类问题 √ D.多分类问题 2.单选(2分) ‎以下哪种技术对于减少数据集的维度会更好？ √ A.删除缺少值太多的列 B.删除数据差异较大的列 C.删除不同数据趋势的列 D.都不是 3.单选(2分) ‍将原始数据进行集成、变换、维度规约、数值规约是
哈工大2020秋机器学习期末试题
weixin_45406155的博客
11-24 9304
哈工大2020秋机器学习期末试题1.决策树 (8分)2.贝叶斯决策 (8分)3.svm (8分)4.机器学习的方法 (8分)5.逻辑回归 (7分)6.pca (8分)7.k-means (8分)8.线性回归 (5分) 个人觉得题目整体不是很难，但是有几个地方不好写。我考试的时候犯浑读错题目意思了，白白耽误半个小时，最后还有三分钟才读懂题目意思，慌乱一顿写，写的乱七八糟的。 希望老师捞一手。 哭了。 通过这次考试我知道了语文的重要性，语文不好读个题都费事。 1.决策树 (8分) (1)什么是互信息 (2)用互
机器学习（6）-逻辑回归
I ’ m 奥巴马户
04-22 463
逻辑回归： 一般来讲，其实是用于研究某个事件的概率，输出的结果往往是0或者1 而输入又往往不止一个。 就是用几个不同的因素去预测这个事件到底是发生，还是不发生。 在预测的过程中，用到的是神奇的sigmoid函数 还是来看一下购买商品与否的案例：一共有400行数据 第一列是买家的年龄，第二列是买家的薪水，第三列是结果（0代表买过，1代表未买） 我们将数据集分成两部分。300个数...
机器学习6-逻辑回归
dracularking的竹林小屋
02-03 1735
逻辑回归也可以扩展到处理多分类问题，这时通常使用一对多（One-vs-Rest）或一对一（One-vs-One）的方法。对于逻辑回归，常用的损失函数是交叉熵损失函数（Cross-Entropy Loss），也称为对数损失函数。逻辑回归模型假设输出是二进制的，通常表示为0或1。3. 市场营销：预测客户是否购买某个产品或服务，基于客户的购物历史、在线行为等特征。训练完成后，可以使用学到的参数确定决策边界，即在特征空间中将两个类别分开的边界。因为没有画出原始数据，无法直观比较，不过对测试数据的预测还是比较准的。
NJUST机器学习课后作业python实现-朴素贝叶斯-神经网络-感知机-softmax回归-逻辑回归+源代码+文档说明
12-23
1、资源内容：NJUST机器学习课后作业python实现-朴素贝叶斯-神经网络-感知机-softmax回归-逻辑回归+源代码+文档说明 2、代码特点：内含运行结果，不会运行可私信，参数化编程、参数可方便更改、代码编程思路清晰、...
机器学习大作业-利用逻辑回归进行鸢尾花的分类项目源码+实验报告+文档说明.zip
最新发布
09-16
机器学习大作业-利用逻辑回归进行鸢尾花的分类项目源码+实验报告+文档说明.zip，含有代码注释，满分大作业资源，新手也可看懂，期末大作业、课程设计、高分必看，下载下来，简单部署，就可以使用。该项目可以作为...
《机器学习实战》- 约会网站数据的KNN分析-手写数字KNN分析-PLA算法决策树 朴素-贝叶斯-逻辑回归+源代码+文档说明
12-23
1、资源内容：《机器学习实战》- 约会网站数据的KNN分析-手写数字KNN分析-PLA算法决策树 朴素-贝叶斯-逻辑回归+源代码+文档说明 2、代码特点：内含运行结果，不会运行可私信，参数化编程、参数可方便更改、代码编程...
机器学习大作业-3d图+逻辑回归作业
12-23
1、资源内容：机器学习大作业-3d图+逻辑回归作业 2、代码特点：内含运行结果，不会运行可私信，参数化编程、参数可方便更改、代码编程思路清晰、注释明细，都经过测试运行成功，功能ok的情况下才上传的。 3、适用...
基于传统机器学习(朴素贝叶斯 逻辑斯蒂回归 lightGBM)实现中文文本分类python源码+文本数据集+项目说明.zip
05-15
基于传统机器学习(朴素贝叶斯 逻辑斯蒂回归 lightGBM)实现中文文本分类python源码+文本数据集+项目说明.zip 【项目介绍】 中文文本分类 传统机器学习 目录及文件说明 bert_pretrain存放bert预训练的参数及模型 ...
7.sklearn-逻辑回归、精确率和召回率、ROC曲线和AUC指标
ls3614140的博客
09-13 495
Anaconda-创建虚拟环境的手把手教程相关环境配置看此篇文章，本专栏深度学习相关的版本和配置，均按照此篇文章进行安装。 1.逻辑回归 1.1 API介绍 1.3 运行结果 可以看出准确率：98.24% 2.6 运行结果 关注的是阳性的召回率：0.99 3.2 ROC曲线 注：ROC的面积就是AUC的指标 3.4 AUC计算API 注意：y_true的值要求必须是0或1，如果你的数据不符合要求可以使用 3.6 运行结果 可以看出auc = 0.97 接近1，说明这个模型的效果还不错
SRT3D: A Sparse Region-Based 3D Object Tracking Approach for the Real World
weixin_45834800的博客
09-13 1006
基于区域的方法在基于模型的单目3D跟踪无纹理物体的复杂场景中变得越来越流行。然而，尽管它们能够实现最先进的结果，大多数方法的计算开销很大，需要大量资源来实时运行。在下文中，我们基于之前的工作，开发了SRT3D，这是一种稀疏的基于区域的3D物体跟踪方法，旨在弥合效率上的差距。我们的方法在所谓的对应线（这些线模型化了物体轮廓位置的概率）上稀疏地考虑图像信息。由此，我们改进了当前的技术，并引入了考虑定义的全局和局部不确定性的平滑阶跃函数。对于所得到的概率公式，提供了详尽的分析。
【AI大模型】Kimi API大模型接口实现
qq_25888559的博客
09-15 826
Kimi智能助手在效率（免费榜）排名从2024年1月14日的第436名提升至3月19日的第11名。而尚未上线的GPT-4.5 Turbo上下文窗口指定为25.6万个token，能同时处理约20万个单词，Kimi升级后，长文本能力为其10倍。在2023年10月初次亮相时，该模型的处理能力还仅有约20万汉字。2024年3月18日，月之暗面宣布Kimi智能助手启动200万字无损上下文内测。
车辆检测与分类系统源码分享
xuehaikj的博客
09-13 1348
数据集信息展示在本研究中，我们采用了名为“comexit”的数据集，以支持对YOLOv8模型在车辆检测与分类任务中的改进。该数据集专注于交通工具的识别，特别是公共交通和货运车辆，具有明确的应用背景和实用价值。数据集的类别数量为三，具体包括“bus”（公交车）、“car”（小汽车）和“truck”（卡车）。这三类车辆在城市交通和物流系统中扮演着重要角色，因此，准确的检测与分类对于交通管理、智能交通系统以及自动驾驶技术的发展具有重要意义。
Djourney新手入门基础，AI摄影+AI设计+AI绘画-AIGC作图
DAMOXINGHAITAI的博客
09-14 956
（全套教程文末领取哈）从大模型系统设计入手，讲解大模型的主要方法；在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；以SD多模态大模型为主，搭建了文生图小程序案例；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
常见本地大模型个人知识库工具部署、微调及对比选型
09-14 844
由于作者的眼界、精力和能力也有限，并且确实也不是专业的AI研究员，仅仅是一位兴趣使然的爱好者，这里列出的几款也单纯只是作者平常关注到的，所以可能也不全，请各位见谅！文章从起笔写到这里已经过了三天了，这三天也基本把上文提到的大模型侧工具全部体验了一遍，下面说一下主要结论吧。从功能丰富度和性能优化的角度综合评估，LM Studio明显更胜一筹。从工具本身使用及模型部署效率来看，Ollama的上手速度会更快，使用会更便捷，效率也会更高。从企业级稳定性和高可用。
2024.9.16 day 1 pytorch安装及环境配置
m0_58285219的博客
09-16 374
pytorch安装及环境配置
深度学习实战电路板缺陷检测【数据集+YOLOv5模型+源码+PyQt5界面】
weixin_40280870的博客
09-16 1313
深度学习电路板缺陷检测，模型采用YOLOV5作为框架，界面采用PyQt5构建，图像源支持图像、视频、摄像头以及RTSP等主流格式，电路板缺陷数据集一共690张图象左右，包含六种缺陷，missing_hole【缺失孔】, mouse_bite【鼠咬】, open_circuit【开路】, short【短路】, spur【杂散】, spurious_copper【杂铜】
中伟视界：皮带跑偏检测算法及其实现模型和判断方法
yinweicai的专栏
09-13 1557
皮带输送机的跑偏检测技术，包括图像处理算法、机器学习模型和物联网技术的应用，详细阐述了各类判断方法及实际案例，强调实时监测和高精度检测的优势，提高了生产效率和安全管理水平。
期末冲刺必备：简明机器学习实例与要点归纳
本文档是一份针对初学者的机器学习笔记，由作者在临近期末考试时匆匆准备，旨在通过简化示例和实例解析帮助理解课程核心内容。笔记涵盖了多个重要机器学习算法和技术，包括： 1. 线性回归 - 笔者介绍了两种训练方法...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值