分类算法
cy_ariel
这个作者很懒,什么都没留下…
展开
-
LR算法
一、基础介绍1. 逻辑回归(Logistic Regression, LR),是一种二分类算法。2. Logisitic函数,定义域负无穷到正无穷,值域(0,1)$$g\left ( z \right )=\frac{1}{1+e^{-z}}$$logistic函数图像3. 定义输入,利用Logisitic函数将自变量映射到(0,1)上,如下, ...原创 2018-03-29 21:10:39 · 1267 阅读 · 0 评论 -
SVM
一、支持向量机 SVM(Support Vector Machine)SVM是一种二分类算法,旨在寻找最佳平面使得训练集上的正负样本间距最大。模型由简至繁可分为以下三种:线性可分支持向量机(硬间隔支持向量机):线性支持向量机(软间隔支持向量机):非线性支持向量机:二、线性可分支持向量机1. 训练集线性可分,存在无数超平面可将两类数据正确分开,此时线性可分支持向量机利用间隔最...原创 2018-08-09 18:59:07 · 435 阅读 · 0 评论 -
感知机
一、定义1. 统计学习方法一书中感知机有如下定义由上面可知,感知机模型是一种判别模型且是线性的,模型主要任务是求得参数w和b。2. 定义损失函数那么我们最小化损失函数求得的w、b即为最优解。用梯度下降法来最小化损失函数,损失函数的梯度如下: 二、算法三、对偶形式1. 总结w的更新,假设每个训练样本被误分次数为,初始值,最后得到的和可以表示为...原创 2018-07-04 16:31:41 · 192 阅读 · 0 评论 -
朴素贝叶斯法
一、介绍1. 朴素贝叶斯朴素:指各特征之间相互独立贝叶斯公式2. 朴素贝叶斯算法基于贝叶斯定理与特征条件独立假设的分类方法特征条件独立性假设:假设单一样本的 n 个特征彼此之间在各种意义上相互独立【定义】输入:(1)训练数据,其中,是第i个样本的第j个特征,,是第j个特征可能取的第l个值,(2)实例x输出:实例x的分类【分析】求的x的分类即是求满...原创 2018-08-15 19:02:46 · 295 阅读 · 0 评论