LR学习笔记

本文介绍了逻辑回归的基础概念,它适用于分类问题特别是两分类问题。逻辑回归被视作单层神经网络的一个特例。文章讨论了训练过程中,逻辑回归的线性预测输出、成本函数和损失函数的设计,强调了选择凸函数作为损失函数以避免局部最优的重要性。
摘要由CSDN通过智能技术生成

1.基础概念介绍

逻辑回归(Logistic Regression, LR)模型,回归是一种极易理解的模型,就相当于y=f(x),表明自变量x与因变量y的关系。最常见问题有如:通过用户的一些特征,性别,职业,近期购买记录等特征预测用户是否会购买某个商品,其中的用户特征就是自变量x,即特征数据,判断是否购买就相当于获取因变量y,即预测分类。(0不买,1购买)

使用场景:当你的目标变量是分类变量时,才会考虑逻辑回归,并且主要用于两分类问题

2. LR与神经网络的关系

  • Neural Networks:神经网络,由多个神经元构造,可以有多个输入、多个输出
  • Logistic Regression可以看做是仅含有一个神经元的单层的神经网络

3. 训练过程

逻辑回归中,预测值 \hat h=P(y=1\ |\ x) 表示为1的概率,取值范围在[0,1]之间。这是其与二分类模型不同的地方。使用线性模型,引入参数w和b。权重w的维度是( n_x ,1),b是一个常数项。这样,逻辑回归的线性预测输出可以写成:

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值