说明
受试者工作特征曲线(ROC),这是一种常用的二元分类系统性能展示图形,在曲线上分别标注了不同切点的真正率与假正率。我们通常会基于ROC曲线计算处于曲线下方的面积AUC(area under curve),并以此峰面积来衡量相应分类模型的性能。
操作
继续使用telecom churn数据集作为样例数据集
library(caret)
data(churn)
str(churnTrain)
churnTrain = churnTrain[,!names(churnTrain) %in% c("state","area_code","account_length")]
#生成随机编号为2的随机数
set.seed(2)
#将churnTrain的数据集分为两类,按0.7与0.3的比例无放回抽样
ind = sample(2,nrow(churnTrain),replace = TRUE,prob = c(0.7,0.3))
trainset = churnTrain[ind == 1,]
testset = churnTrain[ind == 2,]
library(gplots)
ibrary(ROCR)
library(e1071)
使用probability参数为TRUE的训练数据集得到一个SVM模型:
svmfit = svm(churn ~ .,data = trainset,prob = TRUE)
基于训练好的模型对测试数据集进行预测,同样将probability参数设置为TRUE
Pred = predict(svmfit,testset[,!names(testset) %in% c("churn")],probability = TRUE )
得到标号为“yes”的概率
pred.prob = attr(pred,"probabilities")
pred.to.roc = pred.prob[,2]
使用prediction函数产生预测结果,
pred.rocr = prediction(pred,testset$churn)
使用preformance完成性能评估
pred.rocr.pref = performance(pred.rocr,"tpr","fpr")
pred.rocr.auc.perf = performance(pred.rocr,measure = "auc",x.measure = "cutoff")
plot(pred.rocr.pref,col = 2,colorize=T,main=paste("AUC:",pred.rocr.auc.perf@y.values))
总结
可以参考titanic(三)的内容学习。