唐宇迪学习笔记8：逻辑回归算法

最新推荐文章于 2022-07-11 17:28:24 发布
最新推荐文章于 2022-07-11 17:28:24 发布
阅读量1.1k 收藏 4
点赞数 1
文章标签： 逻辑回归
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40890544/article/details/123600813
版权

目录 

一、逻辑回归算法原理

Logistic regression

1、目的

2、机器学习算法选择

3、逻辑回归的决策边界

Sigmoid 函数

1、公式

2、图像

3、解释

二、化简与求解

Sigmoid 函数

1、预测函数

2、分类任务

3、解释

Logistic regression

1、似然函数

2、对数似然

3、求导过程

 4、参数更新

5、多分类的softmax:

逻辑回归算法是一个分类算法，不是一个回归算法。（回归得到一个数、分类得到一个结果。）

一、逻辑回归算法原理

Logistic regression

1、目的

分类还是回归?它是经典的二分类算法!

2、机器学习算法选择

先逻辑回归再用复杂的，能简单还是用简单的。

3、逻辑回归的决策边界

可以是非线性的。

Sigmoid 函数

1、公式

\large g(z)=\frac{1}{1+e^{-z}}

2、图像

 自变量取值为任意实数，值域[0,1]。

3、解释

将任意的输入映射到了[0,1]区间。我们在线性回归中可以得到一个预测值，再将该值映射到Sigmoid 函数中，这样就完成了由值到概率的转换，也就是分类任务。

二、化简与求解

Sigmoid 函数

1、预测函数

其中，

2、分类任务

整合：

3、解释

对于二分类任务(0，1)，整合后y取0时只保留\large (1-h_{\theta}(x))^{1-y}，y取1时只保留\large (h_{\theta }(x))^{y}。

Logistic regression

1、似然函数

2、对数似然


此时应用梯度上升求最大值，引入\large J(\theta )=-\frac{1}{m}l(\theta )转换为梯度下降任务。

3、求导过程

 4、参数更新

5、多分类的softmax:

总结:逻辑回归真的真的很好很好用!

小丑呀~
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
唐宇迪学习笔记6：线性回归算法原理推导
qq_40890544的博客
03-20 573
1-回归问题概述 2-误差项定义 3-独立同分布的意义 4-似然函数的作用 5-参数求解
逻辑回归
qq_38675951的博客
03-23 64
Logistic regression 目的： 分类还是回归？经典的二分类算法！ 机器学习算法选择：先用逻辑回归，再用复杂的，能简单尽量简单 逻辑回归的的决策边界：可以是非线性的 Sigmoid 函数 公式： hθ(x)=g(θTx)=11+e−θTx h_{\theta }(x)=g(\theta ^{T}x)=\tfrac{1}{1+e^{-\theta ^{T}x}} hθ​(x)=g(θ...
Python学习笔记-梯度下降求解逻辑回归（唐宇迪-机器学习）
乐亦亦乐的博客
01-12 1090
建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学管理员，你想根据两次考试的结果 来决定每个申请人的录取机会，你有以前申请人的历史数据，你可以用它作为逻辑回归的训练集。对于每一个培训 例子，有两个考试的申请人的分数和录取决定，为了做到这一点，建立一个分类模型，根据考试成绩估计入学概率。 导入数据，并读取数据 import numpy as np import pan...
逻辑回归（Logistic Regression）原理及推导
qq_21840201的博客
07-25 932
              参考： https://blog.csdn.net/programmer_wei/article/details/52072939 唐宇迪：机器学习  
课程笔记-深度学习之逻辑回归（Regression）pokemon案例分析
yinn
03-26 1128
课程笔记-深度学习之逻辑回归（Regression）案例学习什么是Regression？Regression 是一个逻辑回归，可以简单看出一个function，若干特定输入，得到预测的输出。 例如，Regression的应用场景： —|— | — 股票预测| 给定历史上所有的股票涨跌情况 |预测明天Dow Jones Industrial Average 自动驾驶 | 路况信息|方向盘角度
逻辑回归学习笔记，面向找工作笔记
12-22
自己的机器学习笔记，适合准备找实习或者工作的人自提学习。
逻辑回归算法及Python代码实现,ipynb格式
05-31
资源详细介绍可以看我的博客： 算法笔记（11）逻辑回归算法及Python代码实现 https://blog.csdn.net/li1873997/article/details/124810682
遗传算法学习笔记 -DEAP库学习笔记
最新发布
06-12
DEAP库学习笔记
leetcode：:notebook:算法学习笔记
02-01
简单博弈论等），图论（dfs，bfs，溢流填充，拓扑排序，二分染色，最短，最小生成树等）系统性地学习算法会有事半功倍的效果，于是我归纳了一些基础算法的知识点，引起力扣上的相关变量进行了整理本项目的目的，是...
机器学习笔记–2、回归分析及python实现
12-21
逻辑回归虽然名字中带有“回归”，但它实际上是一种分类算法。逻辑回归通过将线性模型的结果输入到Sigmoid函数中，将其转换为0到1之间，从而用于二分类问题。Sigmoid函数的输出可以解释为事件发生的概率。 **逻辑...
决胜AI-深度学习系列实战150讲
05-21
深度学习系列课程从基本的神经网络开始讲起，逐步过渡到当下流行的卷积与递归神经网络架构。课程风格通俗易懂，方便大家掌握深度学习的原理。课程以实战为导向，结合当下热门的Tensorflow框架进行案例实战，让同学们上手建模实战。对深度学习经典项目，从数据处理开始一步步带领大家完成多个项目实战任务！
机器学习核心算法实战50讲视频教程
05-12
购买课程后，添加小助手微信（微信号：csdnxy68）回复【唐宇迪】进入学习群，获取唐宇迪老师答疑机器学习核心算法实战培训课程概况：本教程以当下人工智能核心模块机器学习为出发点，进行机器学习的学习，对其中经典的机器学习算法进行原理推导与案例实战，旨在帮助同学们掌握机器学习中的核心算法并进行建模任务实战，机器学习建模。
机器学习基础（六）——逻辑回归Logistic Regression
weixin_43172869的博客
07-11 1119
逻辑回归是用来做二分类任务的，输出为：hθ(x)=g(θTx)=11+e−θTx h_\theta(x)=g(\theta^Tx)=\frac{1}{1+e{-\theta^Tx}} hθ​(x)=g(θTx)=1+e−θTx1​g(z)=11+e−z g(z)=\frac1{1+e^{-z}} g(z)=1+e−z1​其中，zzz是线性回归的结果。cost(hθ(x),y)={−log(hθ(x))y=1−log(1−hθ(x))y=0 cost(h_\theta(x),y)= \left\{
机器学习算法——（2）逻辑回归（唐宇迪博士数据分析与机器视频课程学习笔记）
zidingxiangyu1993的博客
07-31 1543
机器学习算法——（2）逻辑回归（Logistic regression） 1、逻辑回归概述        有的同学可能望文生义，以为逻辑回归和线性回归一样，都是返回一个预测值。在这里郑重声明，逻辑回归不是返回一个预测值，是经典的分类器，实现二分类、多分类的算法。         在机器学习的算法选择中，是先用简单的，简单不行的话再用复杂的，所以说，先用逻辑回归再用复杂的算法。       ...
梯度下降求解逻辑回归2（代码编写以及三种梯度下降对比）
学渣的博客
02-18 4945
*上一篇是理论知识、背景介绍以及大体的实现方向，这一篇是具体代码实现 代码编写 我们的功能模块： 写出sigmoid函数，返回被录取的概率，即映射到概率 g(z)=11+e−zg(z)=11+e−z g(z) = \frac{1}{1+e^{-z}} 写出model函数，返回预测结果值，即X（样本值）与theta的矩阵相乘结果 (θ0θ1θ2)×⎛⎝⎜1x1x2...
唐宇迪​​机器学习实战——梯度下降求解逻辑回归（理论基础+源代码实现）
小强博客
09-21 2346
问题的提出 符号问题，这里的lg就是指log2，你的理解是正确的！在计算机科学中有些符号的使用跟我们在数学中使用的有区别。比如有时候log用来表示自然对数(以e为底数)。希望对你有帮助！ 首先计算机科学里的lgn就是数学上的log2(n) 现要实现一个简单的线性回归： 我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员，你想根据两次考试的结果来决定每个申请人...
唐宇迪博士视频课学习-线性回归代码
Cincinnati_De的博客
04-03 1222
用python代码实现线性回归:import matplotlib.pyplot as plt import numpy as np from sklearn import datasets class LinearRegression: #w为θ def __init__(self): self.w = None #获取数据 进行训练 def f...
最简单的梯度下降求解逻辑回归示例
欢迎来到关关雎鸠儿的博客
12-11 542
我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员，你想根据两次考试的结果来决定每个申请人的录取机会。你有以前的申请人的历史数据，你可以用它作为逻辑回归的训练集。对于每一个培训例子，你有两个考试的申请人的分数和录取决定。为了做到这一点，我们将建立一个分类模型，根据考试成绩估计入学概率。 #三大件 import numpy as np import pandas ...
唐宇迪之用信用卡欺诈检测案例讲逻辑回归
zzslearn的博客
06-11 904
逻辑回归案例信用卡欺诈检测 逻辑回归算法原理 前言 逻辑回归是回归算法吗？答：不是，它是最经典的二分类算法。 算法选择原则：先试逻辑回归再用复杂的，能用简单就用简单的，这样模型容易解释 逻辑回归的决策边界可以是非线性的 Sigmoid函数 ...
算法导论 学习笔记.pdf
05-04
第三部分：数据结构 第 8 章：基本数据结构 1. 基本数据结构包括数组、链表、栈、队列和树等，它们是算法设计的基础。 2. 不同的数据结构适用于不同的问题，选择合适的数据结构可以提高算法的效率。 第 9 章：散...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值