Multinomial Logistic Regression

最新推荐文章于 2024-07-16 21:43:08 发布

白马负金羁

最新推荐文章于 2024-07-16 21:43:08 发布

阅读量1.4w

点赞数 11

分类专栏：机器学习之道文章标签：多元逻辑回归 Softmax 最大熵模型条件随机场 MaxEnt

本文链接：https://blog.csdn.net/baimafujinji/article/details/51703322

版权

机器学习之道专栏收录该内容

37 篇文章 1381 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文从二元逻辑回归出发，探讨了如何扩展到处理多分类问题的多元逻辑回归（Multinomial Logistic Regression），也称为最大熵模型（MaxEnt）和Softmax。内容涉及贝叶斯定理、线性模型与概率的关系，并介绍了Multinomial LR的PMF表达式，阐述了它与二元逻辑回归的统一性和与最大熵模型的等价性。

摘要由CSDN通过智能技术生成

之前的文章中我们通过实际的例子和详细的公式推导已经相当直白而详尽地阐明了 Logistic Regression 的相关知识。在过去的介绍中，我们的逻辑回归通常只用来处理二分类问题，所以又称这种逻辑回归为 Binary （或Binomial） Logistic Regression。本文以此为基础，讨论如何处理多分类问题，这也就是通常所说的 Multinomial Logistic Regression。MLR还有很多可能听起来更熟悉的名字，例如最大熵模型（MaxEnt），Softmax，Boltzmann distribution, 条件随机场（conditional random field）等等。

欢迎关注白马负金羁的博客 http://blog.csdn.net/baimafujinji，为保证公式、图表得以正确显示，强烈建议你从该地址上查看原版博文。本博客主要关注方向包括：数字图像处理、算法设计与分析、数据结构、机器学习、数据挖掘、统计分析方法、自然语言处理。

如果你在阅读本文之时感到力不从心或者概念不清，那么强烈建议你参考下面几篇文章来作为阅读本文的基础：