【深度之眼吴恩达机器学习第四期】笔记(二)

本文介绍了逻辑回归在分类问题中的应用,解释了为什么线性回归不适合分类,详细阐述了Sigmoid函数、决策边界、损失函数(交叉熵损失)以及梯度下降法。同时,讨论了正则化对防止过拟合的作用,包括线性回归和逻辑回归的正则化形式,并探讨了多类别分类问题。
摘要由CSDN通过智能技术生成

逻辑回归

逻辑回归虽然叫回归,但是它是一个分类算法。

线性回归不适合分类问题

之前我们学习了用线性回归解决回归问题(预测房价),现在我们来看看分类问题。给定肿瘤的大小,预测肿瘤是良性的(y=0)还是恶性的(y=1)。我们还想用线性回归来解决这个分类问题。在下面这种情况下线性回归表现的还不错,y=0.5的时候刚好把两个数据集分隔开了。
在这里插入图片描述
但是在下面这种情况下效果就没有那么好了(只添加了一个数据点),在y=0.5的时候,把一部分恶性肿瘤归为良性肿瘤了:
在这里插入图片描述

逻辑回归函数

而且我们知道二分类问题的y只有两种取值,要么是0,要么是1。如果我们使用线性回归来预测的话,得到的结果有可能比1大很多,或者比0小很多,我们想要把值域固定在[0,1]之间,并且以y=0.5为分界线。所以我们使用Sigmoid函数(等同于Logistics函数)作为假设函数,函数表达式如下:
在这里插入图片描述
函数的图形如下:
在这里插入图片描述
下面的公式的前一项代表:给定x和θ,y=1的概率。因为y只能取0或1,所以给定x和θ时,y=1的概率和y=0的概率加起来等于1.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值