Karinsu的博客

有监督欢迎使用Markdown编辑器你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdown的基本语法知识。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客：全新的界面设计 ，将会带来全新...

1、逻辑回归与线性回归的联系与区别逻辑回归算法实际上是一种分类算法，它适用于标签y取值离散的情况，该算法的输出值永远在0到1之间。线性回归算法假设特征和结果满足线性关系，适用于预测连续输出值的情况。2、逻辑回归逻辑回归模型的假设是：其中，X代表特征向量，g代表逻辑函数是一个常用的逻辑函数为S形函数，公式为：该函数图像为：ℎ

信息论基础（熵联合熵条件熵信息增益基尼不纯度） 熵联合熵两个变量 X 和 Y 的联合信息熵定义为：其中 x 和 y 是 X 和 Y的特定值, 相应地, P(x,y) 是这些值一起出现的联合概率。条件熵在信息论中，条件熵描述了在已知第二个随机变量 X 的值的前提下，随机变量 Y 的信息熵还有多少。基于 X 条件的 Y 的信息熵，用 H (Y|X) 表示...