![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
牛客网刷题
每日坚持,积少成多
UuoO
工作啦
展开
-
3 判别模型和生成模型基本形式
3.1判别模型和生成模型的思想比如男女的二分类问题来说,判别模型就是要找到区分男女的划分边界,而生成模型则是要找到可以描述男女这两类数据分布的模型,可以用下面这张图简单概括一下判别模型学习出来的是这里的划分边界,而生成模型要学习的是男女的数据分布。生成模型本身并不具有分别功能,但由于生成模型详细描述了数据本身的特征,稍加处理便可以推出判别模型进行分类。但是判别模型因为本身只是划分规则,并不包含对数据的描述,所以无法倒推出生成模型。同时,需要注意的是,生成模型因为要估计数据本身的分布,需要数据尽可能转载 2020-07-25 12:49:34 · 286 阅读 · 0 评论 -
2 逻辑回归
逻辑回归本质上是线性回归,只是在特征到结果的映射中加入了一层逻辑函数g(z),即先把特征线性求和,然后使用函数g(z)作为假设函数来预测。g(z)可以将连续值映射到0 和1。g(z)为sigmoid function。则sigmod function 的导数为:逻辑回归用来分类0/1 问题,也就是预测结果属于0 或者1 的二值分类问题。这里假设了二值满足伯努利分布,也就是也可以写成如下形式对于训练数据集,特征数据x={x1, x2, … , xm}和对应的分类标签y={y1, y2, …转载 2020-07-24 10:59:03 · 232 阅读 · 0 评论 -
1 信息熵、交叉熵、KL散度
交叉熵主要用于度量两个概率分布间的差异性信息,原创 2020-07-23 18:08:19 · 264 阅读 · 0 评论