DS&ML_分类算法笔记之逻辑回归模型

本文详细介绍了逻辑回归模型,包括其思想、算法、决策边界、代价函数、优点和缺点,以及与朴素贝叶斯和决策树算法的区别。逻辑回归是一种用于分类的机器学习算法,通过对数据拟合sigmoid函数来预测事件发生的概率。尽管名为回归,但它主要用于解决二分类问题。此外,文章还探讨了线性决策边界、非线性决策边界和梯度下降法在优化模型参数中的作用,以及与其他算法的比较。
摘要由CSDN通过智能技术生成

其他相关文章

DS&ML_关联分析笔记
DS&ML_分类算法笔记之支持自动机SVM模型
DS&ML_分类算法笔记之随机森林、梯度提升树、XGBoost模型
DS&ML_分类算法笔记之k-近邻、KD-Tree模型
DS&ML_降维算法笔记之主成分分析PCA模型
DS&ML_分类算法笔记之朴素贝叶斯模型
DS&ML_聚类算法笔记之k-means模型
DS&ML_分类算法笔记之决策树模型

对于逻辑回归模型的相关知识点的总结与整理

简单描述一下逻辑回归的思想,逻辑回归是什么?

逻辑回归虽然叫回归,但是其实是一种分类机器学习算法,原理是将数据拟合到一个预测logistic函数中,预测logistic函数的值表示取1的概率,而取0的概率就是(1-预测函数值),这样就完成对某些事件发生的概率的预测。简单地说,逻辑回归就是一个梯度下降。(Copyright © http://blog.csdn.net/s_gy_zetrov. All Rights Reserved)

具体算法

对于二分类问题,由于线性回归模型的输出值不能很好的介于01之间,所以引入一个函数g,将逻辑回归表示为hθ(x)=g((θ^T)*x),其中(θ^T)*x就是线性回归的表达式,θ是参数。

而这个函数g,就是十分著名的sigmoid函数,神经网络中也有用到它。

g(z)=1/(1+e^(−z))

Sigmoid函数,很漂亮的“S”形

综合上述两式,我们得到逻辑回归模型的数学表达式:

hθ(x)=1/(1+e^((−θ^T)*x)),其中θ是参数。

Decision boun
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值