- 博客(25)
- 资源 (9)
- 收藏
- 关注
RSS订阅原创 机器学习之（四）特征工程以及特征选择的工程方法
关于特征工程（Feature Engineering），已经是很古老很常见的话题了，坊间常说：“数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限而已”。由此可见，特征工程在机器学习中占有相当重要的地位。在实际应用当中，可以说特征工程是机器学习成功的关键。纵观Kaggle、KDD等国内外大大小小的比赛，每个竞赛的冠军其实并没有用到很高深的算法，大多数都是在特征工程这个环节做出了出色的工作
2016-06-24 09:12:11
27218
3
原创 深度学习之（十一）Deep learning中的优化方法：随机梯度下降、受限的BFGS、共轭梯度法
Deep learning中的优化方法 三种常见优化算法：SGD（随机梯度下降），LBFGS（受限的BFGS），CG（共轭梯度法）。 1.SGD（随机梯度下降） 随机梯度下降(Stochastic Gradient Descent, SGD)是随机和优化相结合的产物，是一种很神奇的优化方法，属于梯度下降的一种，适用于大规模问题。
2016-06-22 17:09:12
10920
2
原创 深度学习之（八）决策树与迭代决策树（GBDT）
决 决策树与迭代决策树（GBDT）5阅读目录1. 决策树的模型2. 决策树的基本知识3. ID3、C4.5&CART4. Random Forest5. GBDT6. 参考内容 今天我们来谈一谈机器学习算法中的各种树形算法，包括ID3、C4.5、CART
2016-06-22 16:43:55
9160
1
转载 Deep Learning（深度学习）之（十）神经网络在机器学习分类任务中的应用
关键词：神经网络，正向计算，反向传播，神经元，最大化间隔损失，梯度检验， 参数的哈维初始化， 学习速率， ADAGRAD（自适应梯度法）这是斯坦福CS224d深度学习与自然语言处理的第3课，这节课先会介绍单层和多层神经网络和它们在机器学习分类任务中的应用， 接着介绍如何利用反向传播算法来训练这些神经网络模型（在这个方法中，我们将利用偏导数的链式法则来层层更新神经元参数）。在给出神经网络以及
2016-06-21 10:26:20
11304
原创 Deep Learning（深度学习）之（九）词向量的内部任务评价和外部任务评价方法
关键词：内部任务评价（Intrinsic Evaluation）和 外部任务评价（extrinsic evaluations）。超参数影响下的类比评价任务。人类决策和词向量距离的相关性。结合上下文处理歧义。窗口分类。这个课堂笔记我们将会对词向量（也就是词嵌入）的内部任务评价和外部任务评价方法进行讨论。主要的内容是单词类比(word analogies)技术,我们会把它当做内部任务评价的技术
2016-06-21 10:15:54
9921
2
转载 运动跟踪之CMT算法
CMT（Clustering of Static-Adaptive Correspondences for Deformable Object Tracking），是一套比较新的跟踪算法，诞生于2014年，原名叫Consensus-based Tracking and Matching of Keypoints for Object Tracking ，当时在计算机视觉应用（Applicati
2016-06-20 17:01:53
1932
原创 机器学习之（三）梯度下降法的三种形式BGD、SGD以及MBGD
[Machine Learning] 梯度下降法的三种形式BGD、SGD以及MBGD1. 批量梯度下降法BGD2. 随机梯度下降法SGD3. 小批量梯度下降法MBGD4. 总结 在应用机器学习算法时，我们通常采用梯度下降法来对采用的算法进行训练。其实，常用的梯度下降法还具体包含有三种不同的形式，它们也各自有着不同的优缺点。 下面我们以线性
2016-06-20 16:42:56
6842
原创 Deep Learning（深度学习）之（七）高维数据的机器学习
高维数据的机器学习 Anima Anandkumar 是加州大学埃尔文分校电子工程与计算机科学系的教职人员。她的研究主要集中于『概率隐变量模型』以及『张量算法』的分析和设计，及其在高维数据学习上的应用。核心结论 * 现代的机器学习涵盖了大量的数据以及变量，构成了高维数据问题。 * 张量方法在处理这种高维数据的机器
2016-06-20 13:42:05
27729
1
原创 Deep Learning（深度学习）之（六）【深度神经网络压缩】Deep Compression （ICLR2016 Best Paper）
Deep Compression: Compressing Deep Neural Networks with Pruning, Trained Quantization and Huffman coding这篇论文是Stanford的Song Han的 ICLR2016 的 best paper，Song Han写了一系列网络压缩的论文，这是其中一篇，更多论文笔记也会在后续博客给出。
2016-06-20 08:48:22
13616
原创 机器学习之（二）OpenAI 生成模型聚焦无监督学习
OpenAI 首批研究成果聚焦无监督学习，生成模型如何高效的理解世界引言： 这篇博文介绍了 OpenAI 的首批研究结果。研究人员分别从事的四个研究项目贯穿了一个共同的主题：在机器学习中提升或使用生成模型，无监督学习技术的一个分支。除了描述研究人员的研究工作，这篇博客也介绍了生成模型的基本知识：什么是生成模型，生成模型为什么重要，生产模型可能往哪个方向发展。
2016-06-20 08:14:36
5075
原创 机器学习之（一）LSTM和递归网络基础教程
LSTM和递归网络基础教程目录前馈网络递归网络沿时间反向传播梯度消失与梯度膨胀长短期记忆单元（LSTM）涵盖多种时间尺度资源本页旨在帮助神经网络学习者了解递归网络的运作方式，以及一种主要的递归网络，即LSTM的功能和结构。递归网络是一类人工神经网络，用于识别诸如文本、基因组、手写字迹、语音等序列数据的模式，或用于识别传感器、股票市场、政府机构产生的数值型时间序列数据
2016-06-18 17:17:58
3271
原创 Deep Learning（深度学习）之（五）神经网络训练中的高效BP（反向传播算法）
人工神经网络的能力大家都是有目共睹的，在机器学习领域可是占据了一定的地位。这点应该毋庸置疑。它可以建模任意复杂的函数。虽然能力大了有时候也不是好事，因为容易过拟合。但能力小了，就没办法建模复杂的函数，也就是给你数据，你也消化不了。关于神经网络的介绍，这里就不说了，发展了那么久，介绍神经网络的书籍或者资料太多了。还记得我们要干嘛吗？我们想要知道训练神经网络的Tricks！众所周知（如果你不知道，就先
2016-06-18 09:03:26
11735
原创 图像处理之图像特征提取之（三）Haar特征
1、Haar-like特征 Haar-like特征最早是由Papageorgiou等应用于人脸表示，Viola和Jones在此基础上，使用3种类型4种形式的特征。Haar特征分为三类：边缘特征、线性特征、中心特征和对角线特征，组合成特征模板。特征模板内有白色和黑色两种矩形，并定义该模板的特征值为白色矩形像素和减去黑色矩形像素和。Haar特征值反映了图像的灰度变化情况。例
2016-06-17 17:18:20
3781
1
原创 图像处理之图像特征提取之（二）LBP特征
LBP（Local Binary Pattern，局部二值模式）是一种用来描述图像局部纹理特征的算子；它具有旋转不变性和灰度不变性等显著的优点。它是首先由T. Ojala, M.Pietikäinen, 和D. Harwood 在1994年提出，用于纹理特征提取。而且，提取的特征是图像的局部的纹理特征；1、LBP特征的描述 原始的LBP算子定义为在3*3的窗口内，以窗口中心
2016-06-17 17:13:50
14764
原创 图像处理之图像特征提取之（一）HOG特征
1、HOG特征： 方向梯度直方图（Histogram of Oriented Gradient, HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。Hog特征结合SVM分类器已经被广泛应用于图像识别中，尤其在行人检测中获得了极大的成功。需要提醒的是，HOG+SVM进行行人检测的方法是法国研究人员Dalal
2016-06-17 16:39:04
12420
原创 人脸识别之特征脸方法（Eigenface）
一、特征脸 特征脸EigenFace从思想上其实挺简单。就相当于把人脸从像素空间变换到另一个空间，在另一个空间中做相似性的计算。这么说，其实图像识别的基本思想都是一样的，首先选择一个合适的子空间，将所有的图像变换到这个子空间上，然后再在这个子空间上衡量相似性或者进行分类学习。那为什么要变换到另一个空间呢？当然是为了更好的做识别或者分类了。那为什么变换到一个空间就好识别或者分类了呢
2016-06-17 16:35:06
2475
1
转载 Deep Learning深度学习之（五）CNN卷积神经网络
本文的论文来自：Notes on Convolutional Neural Networks, Jake Bouvrie。 这个主要是CNN的推导和实现的一些笔记，再看懂这个笔记之前，最好具有CNN的一些基础。这里也先列出一个资料供参考：[1] Deep Learning（深度学习）学习笔记整理系列之（七）[2] LeNet-5, con
2016-06-17 16:04:15
4276
转载 图像卷积与滤波的一些知识点
一、线性滤波与卷积的基本概念 线性滤波可以说是图像处理最基本的方法，它可以允许我们对图像进行处理，产生很多不同的效果。做法很简单。首先，我们有一个二维的滤波器矩阵（有个高大上的名字叫卷积核）和一个要处理的二维图像。然后，对于图像的每一个像素点，计算它的邻域像素和滤波器矩阵的对应元素的乘积，然后加起来，作为该像素位置的值。这样就完成了滤波过程。 对图像和滤
2016-06-17 16:00:25
893
原创 基于稀疏矩阵的k近邻（KNN）实现
一、概述 这里我们先来看看当我们的数据是稀疏时，如何用稀疏矩阵的特性为KNN算法加速。KNN算法在之前的博文中有提到，当时写的测试程序是针对稠密矩阵数据的。但实际上我们也会遇到不少的稀疏数据，而且有很多是有意而为之的，因为稀疏数据具有稠密数据无法媲美的存储和计算特性，这对工程应用中的内存需求和实时需求是很重要的。所以这里我们也来关注下稀疏矩阵的存储和其在knn算法中的应用举例。
2016-06-17 15:58:52
2335
原创 Deep Learning（深度学习）之（四）Deep Learning学习资源
十一、参考文献和Deep Learning学习资源 先是机器学习领域大牛的微博：@余凯_西二旗民工；@老师木；@梁斌penny；@张栋_机器学习；@邓侃；@大数据皮东；@djvu9……（1）Deep Learninghttp://deeplearning.net/（2）Deep Learning Methods for Visionhttp://
2016-06-17 15:54:31
3725
原创 Deep Learning（深度学习）之（三）Deep Learning的常用模型或者方法
九、Deep Learning的常用模型或者方法9.1、AutoEncoder自动编码器 Deep Learning最简单的一种方法是利用人工神经网络的特点，人工神经网络（ANN）本身就是具有层次结构的系统，如果给定一个神经网络，我们假设其输出与输入是相同的，然后训练调整其参数，得到每一层中的权重。自然地，我们就得到了输入I的几种不同表示（每一层代表一种表示），这些表
2016-06-17 15:50:58
42300
原创 Deep Learning（深度学习）之（二）Deep Learning的基本思想
五、Deep Learning的基本思想 假设我们有一个系统S，它有n层（S1,…Sn），它的输入是I，输出是O，形象地表示为： I =>S1=>S2=>…..=>Sn => O，如果输出O等于输入I，即输入I经过这个系统变化之后没有任何的信息损失（呵呵，大牛说，这是不可能的。信息论中有个“信息逐层丢失”的说法（信息处理不等式），设处理a信息得到b，再对b处理得到c，那么可以证
2016-06-17 15:45:35
8114
转载 cuda-convnet 卷积神经网络 一般性结构卷积核个数和输入输出的关系以及输入输出的个数的说明
卷积神经网络 一般性结构卷积核个数和 输入输出的关系以及输入输出的个数的说明:以cifar-10为例:Initialized data layer 'data', producing3072 outputsInitialized data layer 'labels', producing1 outputsInitialized convolutional layer 'con
2016-06-14 14:38:17
2160
转载 运动检测（前景检测）之（二）混合高斯模型GMM
目前前景检测的研究还是很多的，也出现了很多新的方法和思路。个人了解的大概概括为以下一些： 帧差、背景减除（GMM、CodeBook、 SOBS、 SACON、 VIBE、 W4、多帧平均……）、光流（稀疏光流、稠密光流）、运动竞争（Motion Competition）、运动模版（运动历史图像）、时间熵……等等。如果加上他们的改进版，那就是很大的一个家族了。
2016-06-07 13:37:52
1046
转载 运动检测（前景检测）之（一）ViBe
目前前景检测的研究还是很多的，也出现了很多新的方法和思路。帧差、背景减除（GMM、CodeBook、 SOBS、 SACON、 VIBE、 W4、多帧平均……）、光流（稀疏光流、稠密光流）、运动竞争（Motion Competition）、运动模版（运动历史图像）、时间熵……等等。如果加上他们的改进版，那就是很大的一个家族了。 对于上一些方法的一点简单的对比分析可以参考下：
2016-06-07 13:31:35
657
斯坦福 兔子3d模型 The Stanford 3D Scanning Repository 用于点云配准、表面重建
2022-08-03
AlphaPose人体姿态识别
2020-12-07
Pytorch深度学习实战教程 包含语义分割基础与环境搭建、UNet语义分割网、UNet模型训练
2020-11-26
Pytorch深度学习实战教程。包含语义分割基础与环境搭建、UNet语义分割网、UNet模型训练
2020-11-26
PyQt5-5.15.0-5.15.0-cp35.cp36.cp37.cp38-abi3-manylinux2014-x86-64.whl
2020-06-30
《神经网络与机器学习》资料，包括课件、课后习题解答以及代码
2016-06-21
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人