还剩7页未读,继续阅读
文本内容:
一、实验目的使用数据挖掘中的分类算法,对数据集进行分类训练并测试应用不同的分类算法,比较他们之间的不同与此同时了解Weka平台的基本功能与使用方法
二、实验环境实验采用Weka平台,数据使用Weka__目录下data文件夹下的默认数据集iris.arffWeka是怀卡托智能分析系统的缩写,该系统由新西兰怀卡托大学__Weka使用J__a写成的,并且限制在GNU通用公共证书的条件下发布它可以运行于几乎所有操作平台,是一款免费的,非商业化的机器学习以及数据挖掘软件Weka提供了一个统一界面,可结合预处理以及后处理方法,将许多不同的学习算法应用于任何所给的数据集,并评估由不同的学习方案所得出的结果
三、数据预处理Weka平台支持ARFF格式和CSV格式的数据由于本次使用平台自带的ARFF格式数据,所以不存在格式转换的过程实验所用的ARFF格式数据集如图1所示图1ARFF格式数据集iris.arff对于iris数据集,它包含了150个实例(每个分类包含50个实例),共有sepallength、sepalwidth、petallength、petalwidth和class五种属性期中前四种属性为数值类型,class属性为分类属性,表示实例所对应的的类别该数据集中的全部实例共可分为三类IrisSetosa、IrisVersicolour和IrisVirginica实验数据集中所有的数据都是实验所需的,因此不存在属性筛选的问题若所采用的数据集中存在大量的与实验无关的属性,则需要使用weka平台的Filter过滤器实现属性的筛选实验所需的训练集和测试集均为iris.arff
四、实验过程及结果应用iris数据集,分别采用LibSVM、C
4.5决策树分类器和朴素贝叶斯分类器进行测试和评价,分别在训练数据上训练出分类模型,找出各个模型最优的参数值,并对三个模型进行全面评价比较,得到一个最好的分类模型以及该模型所有设置的最优参数最后使用这些参数以及训练集和校验集数据一起构造出一个最优分类器,并利用该分类器对测试数据进行预测
1、LibSVM分类Weka平台内部没有集成libSVM分类器,要使用该分类器,需要下载libsvm.jar并导入到Weka中用“Explorer”打开数据集“iris.arff”,并在Explorer中将功能面板切换到“Classify”点“Choose”按钮选择“functionsweka.classifiers.functions.LibSVM”,选择LibSVM分类算法在TestOptions面板中选择Cross-Validatioinfolds=10,即十折交叉验证然后__“start”按钮使用LibSVM分类算法训练数据集得出的结果参数–S0–K2–D3–G
0.0–R
0.0–N
0.5–M
40.0–C
1.0–E
0.0010–P
0.1结果分析使用该参数指定的LibSVM训练数据集,得到准确率为
96.6667%,其中150个实例中的145个被正确分类,5个被错误分类根据混淆矩阵,被错误分类实例的为2个b类实例被错误分类到c;3个c类实例被错误分类到b该算法P=
0.967,R=
0.967,ROC__为
0.975将模型应用于测试集使用LibSVM分类算法测试数据集得出的结果分类误差结果分析准确率为
98.6667%,只有两个实例被错误分类P=
0.987,R=
0.987,ROC__为
0.
992、C
4.5决策树分类器依然使用十折交叉验证,训练集和测试集相同使用C
4.5决策树分类算法训练数据集得出的结果参数-C
0.25-M2结果分析使用该参数指定的C
4.5决策树分类器训练数据集,得到准确率为96%,其中150个实例中的144个被正确分类,6个被错误分类根据混淆矩阵,被错误分类实例的为2个b类实例被错误分类到c1个b类实例被错误分类到a;3个c类实例被错误分类到b该算法P=
0.96,R=
0.96,ROC__为
0.968将模型应用于测试集使用C
4.5分类算法测试数据集得出的结果分类误差结果分析准确率为98%,有3个实例被错误分类P=
0.98,R=
0.98,ROC__为
0.
9933、朴素贝叶斯分类器使用朴素贝叶斯分类算法训练数据集得出的结果参数无结果分析使用朴素贝叶斯分类器训练数据集,得到准确率为
95.3333%,其中150个实例中的143个被正确分类,7个被错误分类根据混淆矩阵,被错误分类实例的为4个b类实例被错误分类到c;3个c类实例被错误分类到b该算法P=
0.953,R=
0.953,ROC__为
0.994将模型应用于测试集使用朴素贝叶斯分类算法测试数据集得出的结果分类误差结果分析准确率为96%,有6个实例被错误分类P=
0.96,R=
0.96,ROC__为
0.
9954、三种分类算法比较LibSVMC
4.5决策树朴素贝叶斯校验准确率
98.6667%98%96%训练混淆矩阵校验混淆矩阵标准误差
0.
09430.
1080.1483比较结果分析LibSVM算法相比C
4.5决策树算法、朴素贝叶斯算法具有更好的分类性能
五、实验总结通过本次实验,我对Weka平台有了比较完整和深入的认识,掌握了使用Weka平台进行数据挖掘的方法,包括数据预处理、分类、聚类、关联分析等通过实验,对数据挖掘本身也有了比较直观的认识。