决策树和随机森林算法

决策树和随机森林都是常用的分类算法，它们的判断逻辑和人的思维方式非常类似，人们常常在遇到多个条件组合问题的时候，也通常可以画出一颗决策树来帮助决策判断。本文简要介绍了决策树和随机森林的算法以及实现，并使用随机森林算法和决策树算法来检测FTP暴力破解和POP3暴力破解，详细代码可以参考：
https://github.com/traviszeng/MLWithWebSecurity

决策树算法

决策树表现了对象属性和属性值之间的一种映射关系。决策树中的每个节点表示某个对象，而每个分叉路径则表示某个可能的属性值，而每个叶节点则对应从根节点到该叶节点所经历的路径所表现的对象值。在数据挖掘中，我们常常使用决策树来进行数据分类和预测。

决策树的helloworld

在这一小节，我们简单使用决策树来对iris数据集进行数据分类和预测。这里我们要使用sklearn下的tree的graphviz来帮助我们导出决策树，并以pdf的形式存储。具体代码如下：

#决策树的helloworld 使用决策树对iris数据集进行分类
from sklearn.datasets import load_iris
from sklearn import tree
import pydotplus
#导入iris数据集
iris = load_iris()
#初始化DecisionTreeClassifier
clf = tree.DecisionTreeClassifier()
#适配数据
clf = clf.fit(iris.data, iris.target)
#将决策树以pdf格式可视化
dot_data = tree.export_graphviz(clf, out_file=None)
graph = pydotplus.graph_from_dot_data(dot_data)
graph.write_pdf("iris.pdf")

iris数据集得到的可视化决策树如下图所示：

通过这个小例子，我们可以初步感受到决策树的工作过程和特点。相较于其他的分类算法，决策树产生的结果更加直观也更加符合人类的思维方式。

使用决策树检测POP3暴力破解

在这里我们是用KDD99数据集中POP3相关的数据来使用