机器学习
qq_37172182
i++, ++i, c++, g++, x++
展开
-
视觉十四讲之代码编译
题目学习了书籍《视觉十四讲》,看完了高博的B站视频课程,完成了书籍对应的代码阅读和调试工作,对个人的能力培养和算法理解有了较大的收获,上传了完全调试通过的代码到github上slam_14_chapters。参考博客:《视觉SLAM十四讲》笔记摘抄...原创 2021-11-08 09:56:20 · 2386 阅读 · 0 评论 -
统计学习方法——第11章 条件随机场(CRF)
条件随机场(Conditional Random Field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场。CRF主要用于不同的预测问题和标注问题。 定义:设与是随机变量,是给定的条件下的条件概率分布。若随机变量构成一个由无向图表示的马尔科夫随机场,即:对任意结点成立,则条件概率分布为条件随机场。表示与结点有连接...原创 2020-02-02 20:42:28 · 616 阅读 · 0 评论 -
统计学习方法——牛顿法和拟牛顿法
牛顿法(Newton Method)和拟牛顿法(quasi-Newton Method)以及梯度下降法是求解无约束最优化问题的常用方法。牛顿法通过每次求解目标函数的Hessian Matixd的逆矩阵迭代求解最优解;拟牛顿法通过正定矩阵近似Hessian Matrix的逆矩阵迭代求解最优解。Hessian Matrix: 设为的多元变量函数,且有二阶连续偏导,则的He...原创 2020-01-11 21:57:00 · 499 阅读 · 0 评论 -
统计学习方法——第10章 隐马尔可夫模型(HMM)
介绍: 隐马尔可夫模型(Hidden Markov Model,HMM)是关于时序的概率模型,描述了由隐藏的马尔科夫链随机生成的不可观测的状态随机序列,再由各个状态生成一个观测而产生的观测随机序列的过程。其中,隐藏的马尔科夫链随机生成的不可观测的状态随机序列称为状态序列(state sequence),每个状态生成一个观测,而由此产生的观测的随机序列称为观测序列(observati...原创 2020-01-01 22:07:00 · 615 阅读 · 0 评论 -
统计学习方法——第8章 提升方法(AdaBoost+)
提升方法: 对于一个复杂的问题,将多个专家的判断进行适当的综合所得出的结果,要不其中任何一个专家单独判断要好。基本概念: 强可学习和弱可学习: 在概率近似正确(Probably Approximately Correct,PAC)学习的框架中,一个概念(一个类别)如果存在一个多项式算法能够学习它,并且正确率很高,那么就称这个概念是强可学习的;一个概念(...原创 2019-11-23 10:16:27 · 281 阅读 · 0 评论 -
VS Code中文输出乱码问题解决方法
问题描述: 对文本处理时会用到大量中文字符(GBK or GB2312编码),当使用encoding=utf-8 打开时出现乱码,控制台输出自然也是乱码。看了很多,包括更改语言区域(差点把电脑软件弄崩了。。。。。),更改json格式文件,下载GBKtoUTF包,Chinese,统统无效,最终在VSCode输出框中文乱码问题中找到了解决方案,记录如下。解决方案: ...原创 2019-11-06 21:29:39 · 1552 阅读 · 0 评论 -
第7章 支持向量机(SVM)
第7章 支持向量机(SVM)背景 支持向量机由简至繁可分为:线性可分支持向量机(linear support vector machine in linearly separable case)、线性支持向量机(linear support vector machine)、非线性支持向量机(non-linear support vector machine)。当训练数据线性可分时,通过硬件个...原创 2019-10-30 10:27:24 · 197 阅读 · 0 评论 -
python利器----Pycharm安装与完全配置
写在前面: 1、ubuntu18.04 尝试过的坑:Ubuntu18.04 SSH & scp 远程传输文件到服务器 2、 windows10 尝试过的坑:win10安装CUDA9.0+CUDANN+Anaconda3+PYTORCH1.x初级阶段: 在ubuntu虚拟机下进行简单数据集训练测试(MNIST、CAFAR10),主要以Ten...原创 2019-09-03 19:14:01 · 175 阅读 · 0 评论 -
统计学习方法——第6章 logistics回归与最大熵模型
介绍(Introduction): logistics回归是统计学习方法中的经典分类方法。最大熵是概率模型学习的一个准则。将其推广到分类问题得到最大熵模型(Maxmium Entorpy Model)。logistics回归和最大熵模型都是线性对数模型。6.1 logistics回归模型:logistics 分布(logistics distribution): ...原创 2019-08-19 17:53:53 · 407 阅读 · 0 评论 -
统计学习方法——第5章 决策树
决策树(Decision Tree): 决策树呈树形结构,在分类问题中表示基于特征对实例进行分类的过程。决策树可以看做if-then规则的集合,也可以认为定义在特征空间与类空间的条件概率分布。决策树学习通常包括3个步骤:特征选择,决策树生成和决策树修剪。5.1 决策树模型 分类决策树由结点和有向边组成。结点有两种类型:内结点和叶节点。内结点表示一个特征或属性,叶节点表示...原创 2019-08-14 10:24:28 · 430 阅读 · 0 评论 -
统计学习方法——第2章 感知机模型
第二章 感知机感知机(perception)是二分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。2.1 感知机模型f(x)=sign(w⋅x+b)f(x)=\operatorname{sign}(w \cdot x+b)f(x)=sign(w⋅x+b)www和bbb为感知机模...原创 2019-07-28 20:12:38 · 391 阅读 · 0 评论 -
统计学习方法——第4章 朴素贝叶斯法
朴素贝叶斯法(naive Bayes): 朴素贝叶斯法是基于贝叶斯理论与特征条件独立假设的分类方法。 对于给定的数据集,基于特征条件独立假设学习输入/输出的联合概率分布,然后基于此模型,对给定的输入,利用贝叶斯定理求解最大化后验概率的输出。4.1 学习策略: 设输入空间为n维向量的集合,输出空间为类别标记的集合,,是定义在输入空间的随机向量,是定义在输出空...原创 2019-08-05 08:09:14 · 225 阅读 · 0 评论 -
机器学习实战之分类篇 一 决策树(高级应用:配镜大师)
问题描述: 隐形眼镜数据集是非常著名的数据集,它包含很多换着眼部状态的观察条件以及医生推荐的隐形眼镜类型。隐形眼镜类型包括硬材质(hard)、软材质(soft)以及不适合佩戴隐形眼镜(no lenses)。数据来源与UCI数据库(dTree目录下存在着info.txt文件记录着24份历史记录)。数据的Labels依次是age、prescript、astigmatic、tearRat...翻译 2019-06-25 10:52:55 · 985 阅读 · 0 评论 -
机器学习实战之分类篇 一 决策树(从银行放贷到相亲的if-else)
决策树(Decision Tree): 决策树模型是一种描述对实例进行分类的树形结构。决策树由结点(node)和有向边(directed edge)组成。结点有两种类型:内部结点(internal node)和叶结点(leaf node)。内部结点表示一个特征或属性,叶结点表示一个类。决策树构建: 通常,这一过程可以概括为3个步骤:特征选择、决策树的生成和决策树的...翻译 2019-06-20 21:19:16 · 1737 阅读 · 0 评论 -
机器学习实战之分类篇 一 k-近邻算法(高级应用:手写数字识别)
任务描述: 在digits目录下存在1934张手写数字训练数据集(trainSet,标签为文本_前数字)和946张手写数字测试训练集(testSet,真实值为标签文本_前数字),使用kNN算法对测试集数字进行识别。 部分图片内容如下: 实现步骤与上一节机器学习实战之分类篇 一 k-近邻算法(从电影分类到海伦约会)基本一致,都是将信息(图像)转...翻译 2019-06-15 07:52:37 · 531 阅读 · 0 评论 -
机器学习实战之分类篇 一 k-近邻算法(从电影分类到海伦约会)
k-近邻算法(kNN): 存在一个样本数据集合,也称作为训练样本集(trainSet),并且样本集中每个数据都存在标签(label),即我们知道样本集中每一个数据与所属分类的对应关系。输入没有标签的新数据(testSet)后,将新的数据的每个特征与样本集中数据对应的特征进行比较,然后算法提取样本最相似数据(最近邻)的分类标签。一般来说,我们只选择样本数据集中前k个最相似的数据,这就...翻译 2019-06-14 08:54:43 · 901 阅读 · 0 评论 -
Ubuntu18.04 Anaconda 安装pydotplus和graphviz可视化工具
Graphviz的是AT&T Labs Research开发的图形绘制工具,他可以很方便的用来绘制结构化的图形网络,支持多种格式输出,生成图片的质量和速度都不错。它的输入是一个用dot语言编写的绘图脚本,通过对输入脚本的解析,分析出其中的点,边以及子图,然后根据属性进行绘制。1.安装pydotplusconda install pydotplus2.安装grap...原创 2019-06-25 08:40:44 · 1145 阅读 · 0 评论 -
统计学习方法——第2章 感知机模型编程实现
在上一篇统计学习方法———第2章感知机模型中介绍了感知机学习模型、策略和算法,这里通过编程实现对iris数据集的萼片长度(sepal length)和萼片宽度(sepal width)进行线性分类。 Iris 鸢尾花数据集是一个经典数据集,在统计学习和机器学习领域都经常被用作示例。数据集内包含 3 类共 150 条记录,每类各 50 个数据,每条记录都有 4 项特征:花...原创 2019-07-29 12:23:43 · 317 阅读 · 0 评论 -
统计学习方法——第3章 k近邻法
3.1 k近邻法介绍k近邻法是一种基本的分类与回归方法。对于分类问题,给定训练数据集和实例标签。分类时,对新的实例,根据k个最近邻的训练实例的类别,通过多数表决等方式进行预测。因此,k近邻法不具有显示的学习过程。k近邻法实际上利用训练数据集对特征空间进行划分,并作为分类的“模型”。k值的选择、距离的度量和分类决策规则是k近邻法的三个基本要素。k值的选择k值的选择对k近邻算法具有较大影响...原创 2019-08-04 18:00:38 · 331 阅读 · 0 评论 -
统计学习方法——第1章 统计学习方法概论
统计学习方法第一章 统计学习方法概论1.1 统计学习 对象:数据。基本假设:同类数据具有一定的统计规律性。 **统计学习方法三要素:**模型、策略、算法 **统计学习的组成:**监督学习、非监督学习、半监督学习、强化学习1.2 监督学习**输入空间:**输入的所有可能的取值的集合**输出空间:**输出的所有可能的取值的集合**特征空间:**每一个具体的实例由一个特征向量表示...原创 2019-07-27 11:54:46 · 216 阅读 · 0 评论 -
机器学习实战之分类篇 一 朴素贝叶斯(从原理到简单词性检测)
朴素贝叶斯(Navie Bayes): 朴素贝叶斯是贝叶斯决策理论的一部分,之所以称之为“朴素”,其原因在于该算法以自变量之间的独立(条件特征独立)性和连续变量的正态性假设为前提。 贝叶斯决策理论 假设数据集由两类数据组成,数据分布如上图,现在用表示数据点属于类别1(图中红色圆点表示的类别)的概率,用表示数据点属于类别2(图中蓝色三角形表示的类别...翻译 2019-06-28 09:47:14 · 388 阅读 · 0 评论