qq_32170843的博客

基于决策树的webshell检测，k-近邻算法是基于实例的学习，使用算法时我们必须有接近实际数据 的训练样本数据，k-近邻算法必须报错全部数据集，如果训练数据集的很大 必须使用大量的存储空间，此外，由于必须对数据集中的每个数据计算距离， 实际使用可能非常耗时 k-近邻算法的另一个缺陷时它无法给出任何数据的基础结构信息，因此我们也无法知晓 平均实例样本和典型实例样本具有什么特征。 决策树也是最经常使用的数据挖掘算法 决策树的优势在于数据形式非常容易理解 决策树的一个重要任务时为了数据中所蕴含的知识信息，因此决策树可以使用不熟悉的 数据集合，并从中提取出一系列规则 决策树 优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感 可以处理不相关特征数据 缺点：可能会产生过度匹配的问题。 适用数据类型：数值型和标称型。 我们必须采用量化的方法判断如何划分数据。 在划分数据集之前之后信息发生的变化称为信息增益，知道如何计算信息增益 我们就可以计算每个特征值划分数据集获得的信息增益，获得信息增益最高的特征 就是最好的选择。 如何计算信息增益，集合信息的度量方式，集合信息的度量方式称为香农熵。或熵。