机器学习
kaka19880812
这个作者很懒,什么都没留下…
展开
-
神经网络&深度学习
神经网络及深度神经网络的模型和推导原创 2015-10-13 20:40:26 · 340 阅读 · 0 评论 -
k-Means
k-Means的原理和步骤原创 2015-10-14 22:51:37 · 296 阅读 · 0 评论 -
属性特征对机器学习模型的影响
属性特征(幅度差异很大、大部分是对分类无贡献的噪声、具有相关性的属性、组合属性才能很好的分类数据)对各种机器学习模型的影响原创 2015-11-22 18:01:16 · 904 阅读 · 0 评论 -
prml知识点记录
pattern recognition and machine learning知识点记录备忘原创 2016-03-23 11:16:16 · 505 阅读 · 0 评论 -
卷积神经网络训练技巧
卷积神经网络训练技巧,包括:增加数据、预处理、初始化、激活函数、正则化、分析图表、组合方法翻译 2016-03-27 10:04:15 · 6942 阅读 · 1 评论 -
限制波尔兹曼机
1.玻尔兹曼分布玻尔兹曼分布常用在热学中,对于一个有大量粒子的系统,如果系统处于或接近处于平衡,粒子的能量、速度、速率等就服从玻尔兹曼分布。如果系统中有N个粒子,一共有j个能态,每个能态的简并度是gj,则体系的总状态数为:用极大似然估计,需要找到Nj的分布使得W最大,由于有总粒子数和总能量数为定值的限制,这是一个约束最优化问题。使用拉格朗日乘子法:使用斯特灵公式,然原创 2016-06-10 18:58:50 · 709 阅读 · 1 评论 -
隐马尔可夫模型及应用
隐马尔可夫模型(HMM)的定义、推导和应用原创 2017-01-07 16:08:16 · 1066 阅读 · 1 评论 -
条件随机场及其应用
条件随机场(CRF)的定义、推导和应用原创 2017-01-09 11:47:08 · 1076 阅读 · 0 评论 -
caffe代码阅读(持续更新)
caffe代码分析原创 2017-01-10 22:45:01 · 346 阅读 · 0 评论 -
An Empirical Exploration of Recurrent Network Architectures重点
RNN最优结构原创 2017-03-18 17:39:43 · 1676 阅读 · 0 评论 -
Learning Deep Structured Semantic Models for Web Search using Clickthrough Data笔记
用于搜索的DSSM模型原创 2017-02-26 23:59:49 · 2790 阅读 · 0 评论 -
Deep Visual-Semantic Alignments for Generating Image Descriptions摘要
Deep Visual-Semantic Alignments for Generating Image Descriptions(李飞飞等)摘要,生成图片描述的算法原创 2017-03-06 00:26:45 · 1518 阅读 · 0 评论 -
Deep learning笔记(更新中)
Goodfellow和Bengio的Deep Learning一书的笔记原创 2017-02-26 22:29:48 · 2308 阅读 · 0 评论 -
A Latent Semantic Model with Convolutional-Pooling Structure for Information Retrieval笔记
用于搜索的CLSM模型原创 2017-03-16 16:06:19 · 2150 阅读 · 0 评论 -
聚合算法总结
聚合算法是将简单算法混合或组合起来的算法。它既具有限制欠拟合的能力,又具有限制过拟合的能力,合理使用将能获得很好的效果。本文是对聚合算法的总结。原创 2015-09-10 20:42:50 · 4359 阅读 · 0 评论 -
过拟合
过拟合的原因,影响因素及减小过拟合的方法原创 2015-08-18 22:34:40 · 587 阅读 · 0 评论 -
机器学习基础知识
第一章 统计学习方法概率1.1 统计学习1. 统计学习的特点2. 统计学习的对象对象是数据,关于数据的基本假设是同类数据具有一定的统计规律性3. 统计学习的目的对数据进行预测与分析,通过构建概率统计模型实现4. 统计学习的方法监督学习非监督学习 半监督学习 强化学习模型、策略、算法步骤:(1)得到有限训练数据集合(2)确定包含所有可能的模型的假设空间原创 2015-06-08 22:48:32 · 834 阅读 · 0 评论 -
感知机
原创 2015-07-08 22:27:12 · 371 阅读 · 1 评论 -
牛顿法和拟牛顿法
原创 2015-07-12 17:11:12 · 481 阅读 · 0 评论 -
梯度下降法
原创 2015-07-10 23:38:49 · 337 阅读 · 0 评论 -
拉格朗日对偶性
原创 2015-07-14 22:42:34 · 381 阅读 · 0 评论 -
支持向量机
原创 2015-08-09 18:19:10 · 358 阅读 · 0 评论 -
正则化
正则化的原理,各种类型的正则项,以及正则项参数的选择原创 2015-08-22 21:12:18 · 843 阅读 · 0 评论 -
验证
验证的原理,验证集大小的选择,leave-one-out交叉验证法,V-fold交叉验证法原创 2015-08-26 20:05:50 · 540 阅读 · 0 评论 -
逻辑斯谛回归与最大熵模型
原创 2015-07-19 23:11:26 · 475 阅读 · 0 评论 -
L-BFGS算法(有限内存BFGS算法)
原创 2015-08-02 19:26:49 · 2568 阅读 · 0 评论 -
机器学习理论依据
以Hoeffding不等式和VC dimension为基础的机器学习理论依据原创 2015-08-15 13:32:20 · 879 阅读 · 0 评论 -
logistic算法解析
对于《机器学习实战》中逻辑斯谛回归算法,其中有一行不好理解:weights = weights + alpha * dataMatrix.transpose() * error原理推导如下:附:logistic算法def sigmoid(inX): return 1.0/(1+exp(-inX)) def gradAscent(dataMatIn, c原创 2015-07-21 23:10:40 · 2831 阅读 · 3 评论 -
梯度下降算法收敛性
原创 2015-07-24 23:30:14 · 2429 阅读 · 1 评论 -
AdaBoost原理
AdaBoost算法的理论推导,AdaBoost的本质是指数损失函数的梯度下降原创 2015-09-04 08:11:05 · 598 阅读 · 0 评论 -
Interpretable Convolutional Neural Networks笔记
通过mask使得网络部分激活mask是一个连续的区域,可以使用以一点为中心的L1或L2区域最小化的目标是X(feature map)和T(template)的互信息,计算条件概率p(X|T)使用softmax转换的X和T的相似度(X和T的dot)forward过程选择template覆盖区域中x和最大的template,而且要求template的label和数据label一致原创 2017-10-20 22:31:52 · 3633 阅读 · 3 评论