机器学习--Logistic回归计算过程的推导

最新推荐文章于 2022-12-17 21:15:05 发布

绝对是尺寸

最新推荐文章于 2022-12-17 21:15:05 发布

阅读量99

点赞数

本文链接：https://blog.csdn.net/qq_45019480/article/details/89928588

版权

本文详细介绍了Logistic回归的原理和具体过程，包括构造预测函数、Cost函数、梯度下降法求解最小值，以及代码分析。通过实例解析了《机器学习实战》中的Logistic Regression实现，解释了为何使用梯度上升法和如何实现向量化。

摘要由CSDN通过智能技术生成

(很多讲逻辑回归的文章都没有给出详细的推导，只是列出最后的计算公式，今天在网上看到一篇解释得非常详细的文章，赶紧转载一下：

【机器学习笔记1】Logistic回归总结(http://blog.csdn.net/dongtingzhizi/article/details/15962797)

作者说"未经允许，不得转载"，我这里先冒犯了，如果觉得不合适，请告知。

)

Logistic回归总结

1.引言首先说一下我的感受，《机器学习实战》一书在介绍原理的同时将全部的算法用源代码实现，非常具有操作性，可以加深对算法的理解，但是美中不足的是在原理上介绍的比较粗略，很多细节没有具体介绍。所以，对于没有基础的朋友（包括我）某些地方可能看的一头雾水，需要查阅相关资料进行了解。所以说，该书还是比较适合有基础的朋友。

本文主要介绍以下三个方面的内容：

（1）Logistic Regression的基本原理，分布在第二章中；

（2）Logistic Regression的具体过程，包括：选取预测函数，求解Cost函数和J(θ)，梯度下降法求J(θ)的最小值，以及递归下降过程的向量化（vectorization），分布在第三章中；

（3）对《机器学习实战》中给出的实现代码进行了分析，对阅读该书LogisticRegression部分遇到的疑惑进行了解释。没有基础的朋友在阅读该书的Logistic Regression部分时可能会觉得一头雾水，书中给出的代码很简单，但是怎么也跟书中介绍的理论联系不起来。也会有很多的疑问，比如：一般都是用梯度下降法求损失函数的最小值，为何这里用梯度上升法呢？书中说用梯度上升发，为何代码实现时没见到求梯度的代码呢？这些问题在第三章和第四章中都会得到解答。

文中参考或引用内容的出处列在最后的“参考文献”中。文中所阐述的内容仅仅是我个人的理解，如有错误或疏漏，欢迎大家批评指正。下面进入正题。

如果你觉得这篇文章看起来稍微还有些吃力，或者想要系统地学习人工智能，那么推荐你去看床长人工智能教程。非常棒的大神之作，教程不仅通俗易懂，而且很风趣幽默。点击这里可以查看教程。