零散知识
文章平均质量分 69
爱吃苹果的魚
学习中...
展开
-
【kaggle】北大&百度发起的自动驾驶竞赛的初步了解
前言:{ 最近在kaggle上瞎逛时,忽然看到了一些新竞赛,其中就有北大&百度联合发起的自动驾驶相关竞赛[1]。之前没有了解过自动驾驶,这次趁着这个机会了解一下。}正文:{ 首先是竞赛任务。 此竞赛的任务是预测图片中车辆的型号,朝向和位置。值得一提的是,这次的任务不是分割,而且训练集和测试集都配有mask图片,不过这个mask遮住的是不需...原创 2019-10-27 22:59:24 · 1798 阅读 · 14 评论 -
【零散知识】CatBoost的简单了解
前言:{ 之前把《机器学习》上面的集成学习部分过了一遍,之后就想去做编程习题,但是经过搜索发现了很多新模型。上次介绍的是xgboos,而这次介绍CatBoost。 实际除此之外,我还试了lgbm、xgboost和sklearn(sklearn之后可能会单独介绍),但是在同一个数据集上,这3个模型很快(加起来才几分钟)就出结果了,而CatBoost跑了差不多8个小时(英特尔I...原创 2019-03-27 19:53:31 · 1807 阅读 · 0 评论 -
【零散知识】梯度提升(gradient boosting,GB)的简单记录
前言:{ 之前在kaggle上看到了几个之前没学习过的模型,梯度提升机(gradient boosting machine,GBM)就是其中之一,可是《机器学习》[1]里没有相关介绍,因此我就在网上找了一些资料了解一下gradient boosting。}正文:{ boosting算法: { 首先需要介绍一下boosting算法...原创 2019-03-17 22:06:58 · 919 阅读 · 0 评论 -
【零散知识】gradient boosting的简单实践(xgboost)
前言:{ 昨天简单了解了一下gradient boosting,实际上在机器学习比赛中,gradient boosting的算法非常流行。这次要记录的是gradient boosting的一种实现:xgboost(eXtreme Gradient Boosting)。}正文:{ xgboost的简单介绍: { 论文原文地址:[1...原创 2019-03-20 17:13:24 · 782 阅读 · 0 评论 -
【零散知识】离散傅里叶变换的应用
前言:{ 现在手头有个处理音频的练习,由于之前的在学校学的傅立叶变换只是为了解题,而且基本忘光。这次不会涉及太多公式,主要是通过实例简单了解下离散傅里叶变换的应用。 离散傅立叶变换(DFT)是傅立叶变换的离散形式,因为现实中的数据大多都是离散的,所以我也主要记录离散傅立叶变换。}正文:{ 先说应用。 先看下面的代码:#代码1i...原创 2019-03-05 18:06:44 · 1493 阅读 · 0 评论 -
【零散知识】贝叶斯相关知识(贝叶斯公式)
前言:{ 之前我对贝叶斯概率的相关理论有一些了解,但从来没有系统的记录,这次我就开始记录贝叶斯的相关知识。} 正文:{ 用例1介绍几个术语: 例1:在一款游戏中,O突然遇到了嘤嘤怪,你知道O对嘤嘤怪有90%的概率使用“拳击”,有10%使用“耳光”。“拳击”的命中率为60%,“耳光”的命中率为80%。你听到“嘤嘤嘤”地惨叫,知道嘤嘤怪挨O的打了,但你...原创 2019-02-18 10:47:19 · 496 阅读 · 0 评论 -
【技术分享】机器学习的部分新技术 (2)
前言:{ 之前我浏览过很多机器学习相关专利,其中有些我感觉还是很有质量的,所以我自己有记录一些精选专利。这次也是相关专利的转载。} 正文:{ 卷积+循环网络的序列预测(股票): http://36.7.84.108:9991/pdf/pdfPlugin?patentAppNo=201810469767.7&patentType=%E5%8F...原创 2019-01-05 18:16:24 · 261 阅读 · 0 评论 -
【零散知识】最大类间方差法(大津法,Otsu)
前言:{ 最近特别忙(或者说时间规划出了问题),所以更新的都是短篇。 本次的内容是最大类间方差法(大津法,Otsu)。} 正文:{ 根据[1]中的介绍,大津法的主要作用是二值划分(求阈值)。其原理非常简单,就是求式(1)最大时其中t的值。式(1) 其中两个ω分别代表类0和类1的数据所占比例(权值),两个σ2分别代表类0和类1的数据的方差,...原创 2018-12-24 23:38:15 · 1555 阅读 · 0 评论 -
【零散知识】核密度估计(Kernel Density Estimation)
前言:{ 由于有代码需要调试,这一次也是选择了一部分小内容来更新。 这次更新的内容是我之前见到到但没仔细了解的核密度估计(Kernel Density Estimation)} 正文:{ 按照维基百科对核密度估计的介绍[1],核密度估计是一种估计随机变量的概率密度函数的非参数方法,式(1)是公式。式(1) 其中x是若干数据样本;K()是核...原创 2018-12-18 20:53:37 · 4105 阅读 · 0 评论 -
【零散知识】概率神经网络(Probabilistic Neural Network,PNN)
前言:{ 又到了该更新的时间,这次更新的内容是之前见到了概率神经网络(Probabilistic Neural Network,PNN)。} 正文:{ [1]中对概率神经网络的介绍非常简单,但没有图。 [2]中给出了一张结构图,见图2。 按照[1]的介绍,概率神经网络包括输入层,模式层,求和层和输出层。 输入层接受数据输入,...原创 2018-12-27 22:52:10 · 6829 阅读 · 3 评论 -
【零散知识】流行排序(manifold ranking)和基于流行排序的图像检索
前言:{ 之前在工作中见到了流行排序(manifold ranking),当时只是知道可以用它进行显著性检测,没有太在意其中原理,就先记录下了这个概念。今天打开记录未知概念的记事本后才发现,积累的内容太多了,所以估计最近更新的博客都是零散知识了。 在谷歌搜了一下manifold ranking,之后搜到了[2],所以就借此了解一下流行排序。}正文:{...原创 2018-12-09 20:02:28 · 3822 阅读 · 2 评论 -
【零散知识】径向基函数,径向基神经网络和其与BP神经网络的区别
前言:{ 最近在重新看傅立叶变换,感觉这简直是打开新世界的大门。都怪我之前没学好,现在看起来比较费劲,花了不少时间,所以这次还是零散知识。 这次的主要内容都是围绕径向基神经网络展开的。}正文:{ 根据[1]中的介绍,径向基函数(Radial basis function,RBF)是一类函数。设输入样本为x,一个中心点为c,则任何只依赖x和c之间距离的函...原创 2018-11-27 17:25:17 · 4732 阅读 · 0 评论 -
【零散知识】矩,游程长度,自相关函数以及灰度共生矩阵分析(空域纹理分析)
前言:{ 之前在工作中了解到了纹理分析的相关方法,但也见到了一些从未见过或已经忘记的概念,这次就来记录一下这些概念。} 正文:{ 矩(moment)的一组数据的一种属性,其定义如式1[1]。式1 其中是f(x)的n阶矩;如果没特别说明,c一般为0。 可见,像图像这样的离散数据,其0阶具就是其像素值的总和。 游程长度编码(R...原创 2018-11-21 17:57:48 · 1415 阅读 · 0 评论 -
【零散知识】受限波兹曼机(restricted Boltzmann machine,RBM)和深度置信网络(deep belief network,DBN)
前言:{ 最近一直在想要不要去线下的英语学习机构学英语 (本人的英语口语能力实在是低)。如果我想完成今年的年度计划,那么今年就没时间学英语了。 这次的内容是之前落下的深度置信网络(deep belief network)[1]和其涉及的受限波兹曼机(restricted Boltzmann machine)[2]。不过这次就不看原论文了,而是简单地做一次零散知识的记录。...原创 2018-11-12 23:19:06 · 1375 阅读 · 0 评论 -
【零散知识】模糊C-均值(Fuzzy c-means, FCM)
前言:{ 新买的内存到货了,现在多目标识别是跑起来了,但是由于设计的问题(估计是输出和损失,因为模型的输出没加softmax,并且损失直接是输出与标签的均方差),训练过了几个迭代后模型就只给出全0(磨洋工),见图1。图1 所以这次还是零散知识,是我之前在工作中了解到的一种模糊聚类——模糊C-均值(Fuzzy c-means, FCM)。} 正文:{ ...原创 2018-10-22 23:08:02 · 1657 阅读 · 0 评论 -
【零散知识】t-SNE聚类
前言:{ 神经网络实践部分还是卡在硬件上,之前试了一下华为云里的深度学习服务[1],感觉这只是为训练加速用的,远程调试还是不容易,最好还是在本机上进行。所以我先买了新的内存条,调试还是在本地进行。 这次更新的还是零散知识,涉及到之前在工作的时候见到的t-SNE聚类(t-distributed stochastic neighbor embedding)。} 正文...原创 2018-10-17 00:05:10 · 1798 阅读 · 0 评论 -
【零散知识】字典学习(Dictionary Learning)
前言:{ 之前的神经网络实践还卡在硬件上,不过目前已经打算先使用云设备,下次应该就会继续进行多目标识别的调试。这次就先写一点零散知识。 在专利[1]中我遇到了新的观点——字典学习(Dictionary Learning)。}正文:{ 资料[2]让我想起了之前学习的线性代数知识,当时学线性组成和线性相关时我也是想到了人对事物的理解(或者说我对事物的理解)...原创 2018-10-13 21:44:33 · 3663 阅读 · 0 评论