面试官:听说你还不知道条件熵是什么?
大家好,我是Xueliang。
想起来去年我参加秋招的时候有一位面试官问我决策树相关的问题。决策树中有一个概念叫做信息增益,其计算公式如下:
Gain(Y,X)=H(Y)−H(Y∣X)
Gain(Y,X)=H(Y)-H(Y|X)
Gain(Y,X)=H(Y)−H(Y∣X)
面试官问我,在一个具体的问题里,条件熵H(Y∣X)H(Y|X)H(Y∣X)是怎么计算的,以及它的含义是什么呢?
本文内容大约1k字,阅读耗时大约5分钟。
本篇文章主要分为两个部分:
信息熵
条件熵
信息熵
在决策树算法中,熵是一个非常
原创
2021-06-25 12:32:38 ·
877 阅读 ·
0 评论