机器学习系列
文章平均质量分 94
迷路的咸鱼
不总结就没有积累
展开
-
机器学习的模型性能度量:评估指标PR对比ROC/AUC
一般,对学习器的泛化性能进行评估,需要有能衡量模型泛化性能的评价标准,即性能度量(performance measure)。性能度量反映了任务需求,在对比不同模型的能力时,使用不同的性能度量往往会导致不同的评判结果,并通过这个指标来进一步调参逐步优化我们的模型。分类常用的性能度量混淆矩阵精准率和召回率ROC/AUC混淆矩阵 对于二分类的模型,可以把预测情况与实际情况的所有结果两两组合,结果就会出现以下4种情况,就组成了分类结果的混淆矩阵(confusion matrix): 令TP、FP原创 2020-09-11 17:15:58 · 3130 阅读 · 0 评论 -
决策树和集成学习(Boosting&Bagging&Stacking)的方法区分
决策树(Decision Tree)是常见的机器学习方法,可以处理分类和回归问题。用于分类的决策树对比逻辑回归和SVM的区别在于:LR适合处理接近线性可分的分类问题,决策边界是线性的;SVM通过把特征空间映射到核空间使得各个类别线性可分,在高维空间的决策面是线性的,映射回原特征空间的决策边界是非线性的;而DT是基于树形结构来进行决策的,将一个个特征按层次进行划分,可以找到非线性的决策边界。LR和SVM原理可以参考博客《机器学习中的分类器:感知机、逻辑回归、支持向量机》。下图是一个简单的二维特征空间的分类原创 2020-05-21 21:39:53 · 1974 阅读 · 0 评论 -
机器学习中的分类器:感知机、逻辑回归、支持向量机
深度神经网络(Deep Neural Networks,DNN)是深度学习的基础,由于神经网路是基于感知机模型的扩展,因此多层感知机(Multi-Layer perceptron,MLP)就可以看作是深度神经网络。在深度学习中,用于分类的卷积神经网络(Convolutional Neural Networks, CNN),一般都会在全连接层(FC)之后使用softmax分类器,softmax函数可以看作是logistic函数(Sigmoid)的一般形式。当然,也有例如目标检测的经典网络RCNN,是将感兴原创 2020-05-16 17:22:38 · 3663 阅读 · 0 评论