(
D
)
−
H
(
D
∣
A
)
GainA(D) = H(D) − H(D|A)
GainA(D)=H(D)−H(D∣A)
H
(
D
∣
A
)
=
−
∑
i
=
1
n
P
(
A
i
)
∑
k
=
1
K
P
(
D
k
∣
A
i
)
l
o
g
2
P
(
D
k
∣
A
i
)
H(D|A)=−\sum_{i=1}{n}P(A_i)\sum_{k=1}{K}P(D_k|A_i)log_2P(D_k|A_i)
H(D∣A)=−∑i=1nP(Ai)∑k=1KP(Dk∣Ai)log2P(Dk∣Ai)
其中特征 A 的信息增益是指总体的信息熵与特征 A 的条件熵（ H(D|A) ）之差
2. C4.5 算法：C4.5 算法采用信息增益率最大化作为决策树的划分标准，特征 A的信息增益率是指特征 A 的信息增益与与特征 A 的条件熵之比。
G
a
i
n
R
a
t
i
o
A
(
D
)
=
G
a
i
n
A
(
D
)
H
(
D
∣
A
)
GainRatio_A(D) = \frac{Gain_A(D)}{H(D|A)}
GainRatioA(D)=H(D∣A)GainA(D)
3. CART 算法：CART 算法使用 Gini 系数最小化准则作为划分标准，基尼系数代表了模型的不纯度，基尼系数越小，特征重要性越大。
\qquad
ID3 算法用于处理离散的输入变量，并且在生成树的过程中不考虑数据的概率分布，C4.5 算法是 ID3 的改进版，它能够处理离散和连续的输入变量，并且在生成树的过程中考虑数据的概率分布，而 CART 算法引入基尼系数，CART 算法既可以用于二分类和多分类的问题，也可以用于回归问题。
3.1.2 决策树的构建
自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。
深知大多数网络安全工程师，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！
因此收集整理了一份《2024年网络安全全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上网络安全知识点，真正体系化！
由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新
如果你觉得这些内容对你有帮助，可以添加VX：vip204888 （备注网络安全获取）
学习路线：
这个方向初期比较容易入门一些，掌握一些基本技术，拿起各种现成的工具就可以开黑了。不过，要想从脚本小子变成黑客大神，这个方向越往后，需要学习和掌握的东西就会越来越多以下是网络渗透需要学习的内容：
一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
学习路线：
这个方向初期比较容易入门一些，掌握一些基本技术，拿起各种现成的工具就可以开黑了。不过，要想从脚本小子变成黑客大神，这个方向越往后，需要学习和掌握的东西就会越来越多以下是网络渗透需要学习的内容：
一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-PbUMCQ9W-1712650998189)]
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
