机器学习
进击的路飞桑
我在敲代码,别叫我打游戏~
展开
-
线性回归与逻辑回归
线性回归和逻辑回归是机器学习中的两种算法,它们的目的都是在已知的数据中,建立模型,然后预测/分类新的数据。线性回归是对一个或多个自变量之间关系进行建模的方法。 逻辑回归:线性回归可以预测连续值,但是不能解决分类问题。所以逻辑回归就是找到一个单调可微函数将分类任务的真实标记与线性回归模型的预测值联系起来,例如通过sigmoid函数将线性回归的(−∞,+∞)结果映射到(0,1)之间(代表属于某类...转载 2020-05-06 17:15:06 · 1376 阅读 · 0 评论 -
凸函数
凸函数的定义一元函数f(x),如果对于任意均满足:,则称f(x)为凸函数(convex function)如果对于任意均满足:,则称f(x)为严格凸函数(convex function)我们可以从几何上直观地理解凸函数的特点,如下图所示:即凸函数的割线在函数曲线的上方如何判断一个函数是否为凸函数 对于一元函数f(x),可以通过其二阶导数f′′(x)的符号来判断。如果函数的二...转载 2020-05-06 13:21:11 · 36455 阅读 · 0 评论 -
机器学习架构图
摘抄自:《深度学习之Pytorch物体检测实战》一书原创 2019-12-31 10:20:09 · 1818 阅读 · 0 评论 -
决策树
本文摘抄自《机器学习》一书,作者:周志华 决策树 决策树是基于树结构来进行决策的,决策过程中提出的每个判定问题都是对某个属性的“测试”。一棵决策树包含了一个根结点、若干个内部结点和若干个叶结点。叶结点对应于决策结果,其它每个结点对应于一个属性测试。每个结点包含的样本集合根据属性测试的结果被划分到子结点中。根结点包含样本全集。决策树算法流程如下图所示:决策树学习基本算法 信息增...翻译 2019-11-21 13:32:31 · 263 阅读 · 0 评论 -
贝叶斯分类器
本文摘抄自《机器学习》一书,作者:周志华 贝叶斯分类器 对分类任务来说,在所有相关概率都已知的理想条件下,贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的类别标记。以多分类任务为例进行解释。假设有N种可能的类别标记(好瓜或者坏瓜等类别),即, 是将一个真实分类为的样本误分类为所产生的损失。基于后验概率可获得将样本x分类为所产生的期望损失,即在样本x上的条件风险: ...翻译 2019-11-19 17:02:10 · 1033 阅读 · 0 评论 -
k-均值算法原理与opencv实例
本文来源:转载自贾志刚老师的《opencv学堂》微信公众号(2017年4月6日更新 的文章) KMeans算法的应用范围 KMeans算法是MacQueen在1967年提出的,是最简单与最常见的数据分类方法之一,作为一种常见的数据分析技术在机器学习、数据挖掘、模式识别、图像分析等领域都有广泛应用。 KMeans算法的实现原理 如果从分类角度看KMeans属于硬分类即需...转载 2019-06-12 15:23:36 · 566 阅读 · 0 评论 -
极大似然估计原理解析
本文转载自《知行流浪》的CSDN 博文,感谢大牛的付出,特此收纳,以表敬意。 原文连接:https://blog.csdn.net/zengxiantao1994/article/details/72787849 贝叶斯决策 首先来看贝叶斯分类,我们都知道经典的贝叶斯公式:其中:p(w)为先验概率,表示每种类别分布的概率;类p(x|w)为...转载 2019-06-13 14:10:07 · 23405 阅读 · 0 评论 -
EM算法原理解析
本文引用了如下几篇文章,感谢大牛们的付出https://www.cnblogs.com/wjy-lulu/p/7010258.htmlhttps://www.cnblogs.com/Gabby/p/5344658.htmlhttps://www.cnblogs.com/wjy-lulu/p/7009038.html EM算法的定义及应用范围 EM算法,即最大期望算法(Expe...转载 2019-06-13 16:43:43 · 1800 阅读 · 0 评论 -
支持向量机原理解析
本文摘抄自《机器学习》一书,作者:周志华 支持向量机简介 支持向量机是一种经典的二分类模型,基本模型定义为特征空间中最大间隔的线性分类器,其学习的优化目标便是间隔最大化,因此支持向量机本身可以转化为一个凸二次规划求解的问题。通常SVM用于二元分类问题,对于多元分类通常将其分解为多个二元分类问题,再进行分类。感知机是一个线性分类器,是支持向量机的基础。给定训练样本集D,分类学习的最基本...转载 2019-06-20 09:48:13 · 564 阅读 · 0 评论 -
集成学习简介
本文摘抄并总结自周志华教授的《机器学习》一书。特此声明,以表敬意! 集成学习的概念 通过将多个学习器结合在一起来完成学习任务,有时也被称为多分类器系统、基于委员会的学习(集成学习的原理就像委员会投票一样,少数服从多数,因此得名)等。 集成学习的结构 先产生一组个体学习器,再用某种策略将他们结合起来。如果一个集成中只包含同种类型的个体学习器,例如:决策树集成中全是决策树,...原创 2019-09-25 14:49:24 · 300 阅读 · 0 评论 -
机器学习的种类及其主要任务
根据处理的数据是否具有标签信息,我们可以将机器学习分为监督学习、无监督学习、半监督学习、强化学习等几种类型。 监督学习: 通过让机器学习大量带有标签的样本数据,训练出一个模型,并使该模型可以根据输入得到相应输出的过程。监督学习的主要任务的分类和回归。预测值为离散值的问题为分类,包括决策树、支持向量机、朴素贝叶斯、集成方法、K-近邻等算法,可以预测鸟的种类。预测值为连续值的问题为回...原创 2019-06-12 14:32:45 · 4378 阅读 · 0 评论