机器学习算法系列实现
机器学习算法系列实现,将从原理和实现的角度来介绍相关的机器学习算法
脑机接口社区
这个作者很懒,什么都没留下…
展开
-
统计学习方法笔记(一)-k近邻算法原理及python实现
k近邻法k近邻算法算法原理距离度量距离度量python实现k近邻算法实现案例地址k近邻算法kkk近邻法(kkk-NN)是一种基本分类和回归方法。算法原理输入:训练集T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}T={(x1,y1),(x2,y2),...,(xN,yN)}其中,xi...原创 2019-08-28 18:31:39 · 553 阅读 · 1 评论 -
统计学习方法笔记(二)-kd树原理及python实现
kd树kd树简介构造平衡kd树算法原理kd树代码实现案例地址kd树简介kdkdkd树是一种对kkk维空间中的实例点进行存储以便对其进行快速检索的树形数据结构。kdkdkd树构造方法:构造根结点使根结点对应于kkk维空间中包含所有实例点的超矩形区域;递归生成子结点通过递归方法,不断地对kkk维空间进行切分,生成子结点。在超矩形区域(结点)上选择一个坐标轴和在此坐标轴上的一个切分...原创 2019-08-28 18:48:34 · 1749 阅读 · 0 评论 -
统计学习方法笔记(三)-朴素贝叶斯原理及python实现
朴素贝叶斯条件概率特征条件独立假设朴素贝叶分类器朴素贝叶斯分类算法原理学习与分类算法朴素贝叶斯算法原理模型多项式模型高斯模型伯努利模型多项式模型的朴素贝叶斯分类器实现代码高斯模型的朴素贝叶斯分类器实现代码代码案例地址条件概率朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。要明白什么是贝叶斯定理,则先复习一下几个术语:条件概率、特征条件独立假设.什么是条件概率?P(A∣B)P(A|...原创 2019-08-28 19:09:20 · 741 阅读 · 0 评论 -
统计学习方法笔记(四)-最大熵模型原理及python实现
最大熵模型最大熵模型最大熵原理最大熵模型代码实现案例地址最大熵模型最大熵模型(maximum entropy model)可以用于二分类,也可以用于多分类。其是由最大熵原理推导实现的,所以讲最大熵模型时,绕不开最大熵原理。最大熵原理什么是最大熵原理?最大熵原理认为,学习概率模型时,在所有可能的概率模型(概率分布)中,熵最大的模型就是最好的模型。最大熵原理通常表述为在满足约束条件的模型集合...原创 2019-08-29 09:21:28 · 2848 阅读 · 3 评论 -
准确理解 Precision 准确率, Recall 召回率 , IoU
目录Precision和RecallIOUPrecision和Recall下面是几个常见的模型评价术语,假设我们的分类目标只有两类,计为正例(positive)和负例(negtive)扥别是:True positives(TP):被正确的划分为正例的个数,即实际为正例且被分类器划分为正例的实例数(样本数)False positives(FP):被错误地划分为正例的个数,即实际为负例但被分类器划分为正例的实例数False negatives(FN):被错误地划分为负例的个数,即实际为正例但被分类转载 2020-07-05 16:03:25 · 3289 阅读 · 0 评论 -
统计学习方法笔记(五)-线性可分支持向量机原理及python实现
支持向量机支持向量机线性可分支持向量机最大间隔法代码实现案例地址支持向量机支持向量机(support vector machines,SVM)是一种二分类模型,它的基本类型是定义在特征空间上的间隔最大的线性分类器。支持向量机可以通过核技巧,转换成非线性分类器。支持向量机方法包括: 线性可分支持向量机、线性支持向量机以及非线性支持向量机。当数据线性可分时,通过硬间隔最大化学习一个线性分类器...原创 2019-08-30 15:32:19 · 1706 阅读 · 0 评论 -
统计学习方法笔记(七)-线性支持向量机原理及python实现
线性支持向量机线性支持向量机定义 线性支持向量机线性支持向量机学习算法代码案例 TensorFlow案例地址线性支持向量机实际场景中训练数据往往不是线性可分的,当训练数据近似线性可分时,就需要使用线性支持向量机或软间隔支持向量机。给定训练数据集T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}T={(x...原创 2019-09-04 14:30:25 · 1169 阅读 · 0 评论 -
统计学习方法笔记(八)-逻辑斯谛回归(LogisticRegression)原理及python实现
逻辑斯谛回归LogisticRegression逻辑斯谛回归定义 逻辑斯谛回归模型二项逻辑斯谛回归多项逻辑斯谛回归代码案例LogisticRegression算法案例 python实现(iris数据)sklearn中的LogisticRegression案例代码案例地址逻辑斯谛回归逻辑斯谛回归(Logistic Regression, LR)是统计学习中的经典分类方法。常见的逻辑斯谛回归模型包...原创 2019-09-04 14:47:33 · 1226 阅读 · 0 评论 -
统计学习方法笔记(九)-最大熵原理及python实现
最大熵模型最大熵模型介绍最大熵模型原理代码案例案例地址最大熵模型介绍最大熵模型(maximum entropy model)可以用于二分类,也可以用于多分类。其是由最大熵原理推导实现的,所以讲最大熵模型时,绕不开最大熵原理。什么是最大熵原理?最大熵原理认为,学习概率模型时,在所有可能的概率模型(概率分布)中,熵最大的模型就是最好的模型。最大熵原理通常表述为在满足约束条件的模型集合中选取熵最...原创 2019-09-04 14:56:39 · 865 阅读 · 0 评论 -
统计学习方法笔记(六)-非线性支持向量机原理及python实现
非线性支持向量机非线性支持向量机定义 非线性支持向量机算法 非线性支持向量机学习算法代码案例 TensorFlow案例地址非线性支持向量机定义 非线性支持向量机从非线性分类训练集,通过核函数与软间隔最大化,或凸二次规划,学习得到的分类决策函数f(x)=sign(∑i=1Nαi∗yiK(x,xi)+b∗){f(x)=\operatorname{sign}\left(\sum_{i=1}^{...原创 2019-09-04 14:15:27 · 1818 阅读 · 1 评论