[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(4)--逻辑回归

已于 2022-03-12 16:50:49 修改
阅读量469 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 机器学习 学习 逻辑回归
于 2022-03-12 14:21:47 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_46207392/article/details/123404059
版权

不必时时怀念我，也不要指望我回来，我离开以后，你们就是我，
Vive le peuple!

与之前的线性回归不同，logistic回归不会返回连续的值，它只会返回表示类型的数值（如0和1），它主要用于分类问题

使用逻辑回归的原因

如图所示，这是一个分类问题，四个点为0，其他为1
如果使用线性回归，最终的误差会非常大，
同时使用线性回归的话，结果可能会远大于0和1
在这里插入图片描述

逻辑回归

sigmod函数

公式：
在这里插入图片描述
在这里插入图片描述
图像：
在这里插入图片描述

代价函数

如果直接用之前的代价函数的话，图像可能会成这个样子
有很多局部最优解，误差大
在这里插入图片描述
为了解决这个情况，我们换了一种代价函数，对预测算法添加了惩罚机制
在这里插入图片描述
在y=1的情况下：
如果它预测的是1，并且实际结果也为1，则它受到的惩罚越小，反之则越大
在这里插入图片描述
在y=0的情况下：
如果它预测的是0，并且实际结果也为0，则它受到的惩罚越小，反之则越大
在这里插入图片描述

对代价函数进行简化可得
在这里插入图片描述

梯度下降

和线性回归的方式非常接近，唯一的区别是h函数的不同，在这里h函数为sigmod函数
在这里插入图片描述

注：吴恩达提到这几个算法进行代价函数和其偏导进行计算，更高级
在这里插入图片描述

多元分类

如果需要进行多项内容的分类，则可以使用一对多的思想
通过将其他类别当作同一类内容进行分类
在这里插入图片描述
如果要进行预测，则输入x之后，查看分类结果(h(i))哪个最大,则就属于哪一类分类器

在这里插入图片描述

Dhaa_Ryan
关注
专栏目录
ANDREW Ng教授的机器学习（Machine Learning）学习笔记（2）-- 线性回归模型（Linear regression model）
AllenHe1的博客
09-15 570
ANDREW Ng教授的机器学习（Machine Learning）学习笔记（2）– 线性回归模型（Linear regression model）（一）认识线性回归 　　机器学习中，监督式学习算法通常分为分类算法和回归算法。分类算法是对离散型分布的预测，较为经典的算法如支持向量机（SVM）、logistic回归等。回归算法适用于连续型分布的预测，对于给定的样本集，用一个函数去拟合使拟合函数与样本
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(1)--笔记总览
qq_46207392的博客
03-13 1458
吴恩达大佬的机器学习课程笔记
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(2)--最简单的线性回归
qq_46207392的博客
03-12 282
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 线性回归是最简单的机器学习模型，是个人都可以学会 一.引例 使用一组俄勒冈州波特兰市的城市住房价格的数据,通过机器学习的方法来预测住房价格 我们的目标是将一个数据集，通过训练算法训练一个函数h(或者说假设)，通过输入价格x，能输出对应的预测价格e 注：此例子的预测函数是线性函数 二.代价函数 它有什么用： 代价函数用于计算预测值和实际值之间的误差，它用于和后面的梯度下降函数共同配合找到最优解 这是我们.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(5)--过拟合问题
qq_46207392的博客
03-12 188
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple!
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(13)--推荐算法
qq_46207392的博客
03-13 783
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 推荐算法大家都应该知道是什么玩意 引例 通过用户已评测电影的数据来预测其他用户对电影的评测分数 基于内容的推荐算法 计算方法 对于内容进行分析，我们知道AB喜欢爱情片，CD则喜欢动作片 现在我们获得了每个电影的成分比例（爱情内容/动作内容的比例） 我们可以将特征转化为一个特征向量 同时，我们还需要预测用户的喜好向量 就是用户对某个电影的喜欢程度(对目前来说我们可以得到此向量) 如果我们要求A对第三个电影的.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(6)--神经网络初步理解
qq_46207392的博客
03-12 435
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 为什么会有神经网络 如果一个模型的特征过多，最后的结果很有可能出现过拟合, 同时，如果需要的分界线过于复杂的话（如上图），也不能拟合出来 神经网络 这个算法就是模仿人类大脑的神经元得来的 最简单的神经网络 x0为偏置单元，值恒为1 xi为输入端，h为激活函数 下面为比较简单的例子 复杂一点的例子 Layer1为输入层，Layer2为隐藏层，Layer3为输出层 一个复杂的计算例 神经网络的计算过程 .
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(12)--异常检测
qq_46207392的博客
03-13 207
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 例子 以视频的例子为例 一个航天发动机有两个属性 好的发动机的分布如下图 而我们的任务是，给一个发动机，它的好坏未知，给你它的数据，判断它是否正常 如果发动机正常的概率小于某个阈值，则认为这个发动机异常 异常检测 高斯(正态)分布 图像和公式 不同参数下的高斯函数图像 算法实现 首先求出两个参数 之后将x(i)带入参数进行累乘 如果概率小于阈值，则为异常 实现时要注意的地方 判断算法执行的.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(14)--梯度下降拓展
qq_46207392的博客
03-13 1006
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 这个部分不难，就是拓展了几个梯度下降的方法而已 随机梯度下降 这是普通的线性回归的梯度下降（也叫批量梯度下降） 但是有一个问题，当它的m（训练集）数据量很大时，需要消耗很大的计算资源 所以随机梯度下降出来了 在求出损失函数后，我们将数据集随机打乱，之后每次梯度下降时只会取一个随机抽取的数据进行梯度下降 红色为批量梯度下降的学习曲线，粉色的为随机梯度下降的学习曲线 可以看出粉色的曲线非常的。。。但它大体是向最小.
[Machine Learning Course of Andrew-Ng 吴恩达的机器学习课程]机器学习学习笔记(11)--PCA与数据压缩
qq_46207392的博客
03-12 856
不必时时怀念我，也不要指望我回来，我离开以后，你们就是我， Vive le peuple! 基本思想 如果数据很多，并且里面有很多数据冗余，我们就需要一个可靠的办法来将数据进行压缩 对于三维来说，压缩的方法就是将所有的点投影在一个线性平面上 PCA(主成分分析算法) 原理理解 对于二维来说，PCA就是将二维的点投影到直线上，寻找使得点到直线垂直距离的平方最小的直线 对于三维，就是寻找两个向量，让所有点到这两个向量构成的平面的垂直距离最短 与线性回归的区别 线性回归是求预测点和实际点的误差，而.
【斯坦福公开课-机器学习】2.监督学习应用-梯度下降（吴恩达 Andrew Ng）
Wu_Being 的CSDN 博客
05-19 275
1线性代数linear algebra 1-1 符号Notation 1-2 例子房价预测 1-3 假设函数hypothesis 1-3-1 例子中的假设函数 1-3-2 例子中的假设函数的参数 1-3-3 用线性代数-非齐次方程解释参数 1-4 求值最小化算法 1-4-1 梯度下降算法gradient descent algorithm 1-普通梯度下降算法 2-批梯度下降算法batch g
吴恩达深度学习教程——中文笔记网上资料整理
Superstar02的博客
09-27 1124
深度学习笔记目录 课程地址：https://mooc.study.163.com/university/deeplearning_ai#/c 专栏： https://blog.csdn.net/shikong_/article/category/7288516 https://blog.csdn.net/zc...
史上最全机器学习资源整理
bigquant的博客
12-29 1519
机器学习资源浩如烟海，本文对机器学习资源做了相关整理，希望大家能够根据自己的细分研究领域，着重关注某些学习资源。可能某几个网页链接打不开，那说明需要“科学”上网。 机器学习也是一门实践学科，最好的学习就是不断的实践，推荐 BigQuant 人工智能量化投资 一站式的python+机器学习+量化投资平台，打开浏览器就可以使用投资数据和机器学习算法。 书籍 《Programming Collect...
机器学习资源整理（视频、书籍、链接）
DeepLabs的博客
10-14 2166
最全的机器学习资源整理（持续更新） 视频资源:吴恩达创立的深度学习学院、吴恩达的《深度学习》课程、李飞飞：如何教计算机理解图片、斯坦福大学公开课 ：机器学习课程、西安电子科技大学人工智能视频、谷歌人工智能入门、Yann Lecun深度学习公开课、MIT机器学习进阶课程等 Caffe/Tensorflow资源：prototxt网络结构可视化、Alexnet/Resnet/Letnet
深度学习之机器学习
黑黑白白君的博客
03-03 1829
#深度学习 深度学习（英语：deep learning）是机器学习的分支，是一种以人工神经网络为架构，对数据进行表征学习的算法。表征学习的目标是寻求更好的表示方法并创建更好的模型来从大规模未标记数据中学习这些表示方法。深度学习的好处是用非监督式或半监督式的特征学习和分层特征提取高效算法来替代手工获取特征。【https://zh.wikipedia.org/wiki/%E6%B7%B1%E5%BA...
机器学习与神经网络：物理学的新边疆
u013818406的博客
10-11 343
2024年诺贝尔物理学奖的颁发，无疑是对机器学习和神经网络领域研究者的巨大认可。这一决定不仅标志着机器学习与神经网络在科学界的重要地位，也预示着这两个领域在物理学研究中将扮演越来越重要的角色。在这篇文章中，我将探讨机器学习和神经网络的发展前景，以及它们与传统物理学的关系。
6 机器学习之应用现状
此博客内容主要是小可日常工作中的一些问题解决的记录整理而成
10-11 227
事实上，随着科学研究的基本手段从传统的“理论+实验”走向现在的“理论+实验+计算”​，乃至出现“数据科学”这样的提法，机器学习的重要性日趋显著，因为“计算”的目的往往是数据分析，而数据科学的核心也恰是通过分析数据来获得价值。今天，机器学习已经与普通人的生活密切相关。今天，在计算机科学的诸多分支学科领域中，无论是多媒体、图形学，还是网络通信、软件工程，乃至体系结构、芯片设计，都能找到机器学习技术的身影，尤其是在计算机视觉、自然语言处理等“计算机应用技术”领域，机器学习已成为最重要的技术进步源泉之一。
Python 机器学习中的可解释性AI：模型透明度与特征解释
最新发布
weixin_52392194的博客
10-11 775
LIME和SHAP在解释黑箱模型和分析特征重要性方面的强大能力。通过结合局部和全局解释方法，机器学习模型的透明度和公平性得到了显著提升，在关键应用领域中，XAI的引入将大大增强模型的可解释性和信任度。
机器学习框架总结
weixin_42462436的博客
10-04 1089
机器学习框架是用于构建、训练、评估和部署机器学习模型的工具和库的集合。它们简化了模型开发过程，并提供了预构建的功能、优化的计算性能和对深度学习、监督学习、无监督学习等技术的支持。下面是一些主要的机器学习框架的详细介绍：
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值