weka使用训练集分类测试集_基于weka的数据分类分析实验报告

基于weka的数据分类分析实验报告

1实验基本内容

本实验的基本内容是通过使用weka中的三种常见分类方法(朴素贝叶斯，KNN和决策树C4.5)分别在训练数据上训练出分类模型，并使用校验数据对各个模型进行测试和评价，找出各个模型最优的参数值，并对三个模型进行全面评价比较，得到一个最好的分类模型以及该模型所有设置的最优参数。最后使用这些参数以及训练集和校验集数据一起构造出一个最优分类器，并利用该分类器对测试数据进行预测。

2数据的准备及预处理

2.1格式转换方法

原始数据是excel文件保存的xlsx格式数据，需要转换成Weka支持的arff文件格式或csv文件格式。由于Weka对arff格式的支持更好，这里我们选择arff格式作为分类器原始数据的保存格式。

转换方法：在excel中打开“movie_given.xlsx”，选择菜单文件->另存为，在弹出的对话框中，文件名输入“total_data”，保存类型选择“CSV(逗号分隔)”，保存，我们便可得到“total_data.csv”文件；然后，打开Weka的Exporler，点击Open file按钮，打开刚才得到的“total_data”文件，点击“save”按钮，在弹出的对话框中，文件名输入“total_data”，文件类型选择“Arff data files(*.arff)”，这样得到的数据文件为“total_data.arff”。

2.2如何建立数据训练集，校验集和测试集

数据的预处理过程中，为了在训练模型、评价模型和使用模型对数据进行预测能保证一致性和完整性，首先要把movie_given.xslx和test.xslx合并在一起，因为在生成arff文件的时候，可能会出现属性值不一样的情况，否则将为后来的测试过程带来麻烦。

通过统计数据信息，发现带有类标号的数据一共有100行，为了避免数据的过度拟合，必须把数据训练集和校验集分开，目前的拆分策略是各50行。类标号为‘female’的数据有21条，而类标号为‘male’的数据有79条，这样目前遇到的问题是，究竟如何处理仅有的21条female数据？为了能在训练分类模型时有更全面的信息，所以决定把包含21条female类标号数据和29条male类标号数据作为模型训练数据集，而剩下的另49条类标号类male的数据将全部用于校验数据集，这是因为在校验的时候，两种类标号的数据的作用区别不大，而在训练数据模型时，则更需要更全面的信息，特别是不同类标号的数据的合理比例对训练模型的质量有较大的影响。