earnestbin-CSDN博客

原创机器学习之朴素贝叶斯

朴素贝叶斯朴素贝叶斯简述基本概念朴素贝叶斯分类器sklearn中的朴素贝叶斯朴素贝叶斯面试朴素贝叶斯简述朴素贝叶斯用于分类，是一种生成模型。它利用特征条件独立假设学习联合概率分布，再通过贝叶斯定理求后验概率最大的输出。基本概念先验概率、后验概率、条件概率先验概率也叫事前概率，也就是没有新数据进来计算的事件的概率。而后验概率理所当然是新信息加入后更新的概率。后验概率是事件A在事件B发...

2019-07-11 14:43:10 245

原创机器学习之集成学习

集成学习BaggingRandomForest随机森林和决策树的区别sklearn工具包BaggingBagging模式有以下特点：Bootstrap抽样，也就是有放回弱学习器之间没有依赖关系，可以并行训练RandomForest随机森林和决策树的区别随机森林是最常见的一种Bagging集成算法，它使用决策树作为弱学习器，可以用于分类，也可以用于回归。相比单一的决策树，随机森林有...

2019-06-26 16:58:53 114

原创机器学习之决策树

机器学习之决策树决策树几种常见的生成算法ID3算法决策树几种常见的生成算法ID3算法选择信息增益最大的特征信息增益的定义：已知特征X的信息而使得类Y的信息的不确定性减少的程度。g(D,A)=H(D)−H(D∣A)g\left( {D,A} \right){\rm{ = }}H\left( D \right){\rm{ - }}H\...

2019-06-03 18:25:05 189

原创机器学习之支持向量机

机器学习之支持向量机支持向量机推导过程支持向量机推导过程支持向量机是机器学习中最复杂的内容之一，以下就展示支持向量机具体推导过程。推导分为以下几个部分：数据线性可分对偶问题引入松弛变量以解决数据部分线性可分当数据线性可分时原始优化问题推导支持向量机的核心在于在空间中找到一个超平面(决策平面)：wTx+b=0{w^T}x + b = 0wTx+b=0使得两类样本点分布在超...

2019-05-28 18:14:29 384

原创机器学习之逻辑回归

逻辑回归逻辑回归公式推导逻辑回归公式推导sigmoid函数形式：g(z)=11+e−zg\left( z \right) = \frac{1}{{1 + {e^{ - z}}}}g(z)=1+e−z1当z趋近于负无穷时，g(z)趋近于0，令z=wx，就得到了逻辑回归模型：hw(x)=11+e−wx{h_w}\left( x \right) = \frac{1}{{1 + {e^{ - w...

2019-05-22 16:07:05 131

原创机器学习之模型评价篇

目录带你认识各种评价指标sklearn中的调用方法模型评估的方法A/B测试过拟合和欠拟合超参数调优带你认识各种评价指标常见的指标以及其术语：混淆矩阵、准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1值、真阳性率、假阳性率、查准率、查全率、特异性、敏感性… &n...

2019-05-20 22:21:39 299