![](https://img-blog.csdnimg.cn/20190918140012416.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习算法系列( 正在更新 )
学习机器学习算法的经历
Wwwwhy_
AI安全,坐标武汉
展开
-
距离公式——欧式(L2)、曼哈顿(L1)切比雪夫、夹角余弦
距离度量特征空间中两个实例点的距离可以反映出两个实力点之间的相似性程度,使用的距离可以是欧式距离,也可以是其他距离。欧氏距离(L2距离):最常见的两点之间或多点之间的距离表示法,又称之为欧几里得度量,它定义于欧几里得空间中:曼哈顿距离(L1距离):我们可以定义曼哈顿距离的正式意义为L1距离或城市区块距离,也就是在欧几里得空间的固定直角坐标系上两点所形成的线段对轴产生的投射的距离总和。通俗来讲,想想你在曼哈顿要从一个十字路口开车到另一个十字路口,驾驶距离是两点间的直线距离吗?显然不不是,除非你能原创 2020-10-23 11:29:27 · 8639 阅读 · 0 评论 -
机器学习系列(3):Logistic回归
一、Logistic回归介绍Logistic回归模型之前,首先看一个并不常见的概率分布,即Logistic分布。设X是连续随机变量,X服从Logistic分布是指X具有下列的分布函数和密度函数:式中,µµµ为位置参数,γγγ> 0为形状参数。Logistic的分布的密度函数f(x)和分布函数F(x)的图形如下图所示。其中分布函数属于Logistic函数,其图形为一条S形曲线。该曲线以点(µ...原创 2020-05-01 00:25:15 · 549 阅读 · 0 评论 -
机器学习系列(5):朴素贝叶斯
朴素贝叶斯Naive Bayes是基于贝叶斯定理与特征假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合分布;然后基于此模型,对给定的x,利用贝叶斯定理求出后验概率最大的输出y。朴素贝叶斯实现简单,学习与预测的效率都很高,是一种常用的方法。一、朴素贝叶斯的学习与分类1.1 贝叶斯定理先看什么是条件概率P(A|B)表示事件B已经发生的前提下,事件A发生的概...原创 2020-04-23 22:45:38 · 475 阅读 · 0 评论 -
机器学习系列(4):决策树
本文结合李航博士的《统计学习方法》与周志华老师的《机器学习》决策树部分,《统计学习方法》重理论的证明推导,《机器学习》注重讲解算法的特点与扩展。介绍决策树(Decision Tree)是数据挖掘中一种基本的分类和回归方法,它呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程,可以认为是if − then规则的集合,也可认为是定义在特征空间与类空间上的条件概率分布。下图是一个简单的决策树...原创 2020-04-18 19:01:29 · 686 阅读 · 0 评论 -
机器学习系列(2):线性回归
机器学习系列(2):线性回归一、线性回归模型二、目标函数2.1 目标函数2.2 目标函数的概率解释2.2.1 中心极限定理一、线性回归模型线性回归假设特征和结果满足线性关系。其实线性关系的表达能力非常强大,每个特征对结果的影响强弱可以由前面的参数体现,而且每个特征变量可以首先映射到一个函数,然后再参与线性计算。这样就可以表达特征与结果之间的非线性关系。我们可以有这样的模型表达:其中,x1...原创 2020-04-14 13:37:05 · 1288 阅读 · 0 评论 -
机器学习系列(1):K邻近
机器学习系列(1):K邻近一、K邻近算法二、K邻近模型2.1 模型2.2 距离度量2.3 K值的选择2.4 分类决策规则三、K近邻的优缺点3.1 优点3.2 缺点四、python代码实现一、K邻近算法K近邻算法简单、直观。⾸首先给出⼀一张图,根据这张图来理理解最近邻分类器。根据上图所示,有两类不同的样本数据,分别⽤蓝色的小正方形和红色的小三角形表示,而图正中间的那个绿⾊的圆所标示的数据则是...原创 2020-04-12 00:09:27 · 530 阅读 · 0 评论