- 博客(12)
- 收藏
- 关注
转载 Adaboost 算法的原理与推导
Adaboost 算法的原理与推导0 引言 一直想写Adaboost来着,但迟迟未能动笔。其算法思想虽然简单:听取多人意见,最后综合决策,但一般书上对其算法的流程描述实在是过于晦涩。昨日11月1日下午,在我组织的机器学习班 第8次课上讲决策树与Adaboost,其中,Adaboost讲得酣畅淋漓,讲完后,我知道,可以写本篇博客了。 无
2017-08-29 20:15:48 334
转载 机器学习中的特征空间
声明:这篇博文主要是对参考文献中的那个PPT的学习之后记下的一些笔记,整理出来与大家一起分享,若笔记中有任何错误还请不吝指出,文中可能会使用到原作者的一些图,若侵犯到作者的权益,还请告知,我会删除,谢谢。一、机器学习的流程应用机器学习算法的流程大致可以分为:收集数据数据处理,提取特征训练模型模型部署模型的应用及反馈具体的衔接关系如下图所示:二、机器学
2017-08-21 14:56:58 775
转载 线性可分 与线性不可分
很多机器学习分类算法,比如支持向量机(svm),假设数据是要线性可分。如果数据不是线性可分的,我们就必须要采用一些特殊的方法,比如svm的核技巧把数据转换到更高的维度上,在那个高维空间上数据可能会变得线性可分。 那么,我们如何判断数据是不是线性可分的?最简单的情况是数据向量是一维二维或者三维的,我们可以把图像画出来,直观上就能看出来。比如Håvard Gei
2017-08-21 13:09:17 3431
转载 简易解说拉格朗日对偶(Lagrange duality)
引言:尝试用最简单易懂的描述解释清楚机器学习中会用到的拉格朗日对偶性知识,非科班出身,如有数学专业博友,望多提意见! 1.原始问题假设是定义在上的连续可微函数(为什么要求连续可微呢,后面再说,这里不用多想),考虑约束最优化问题:称为约束最优化问题的原始问题。现在如果不考虑约束条件,原始问题就是:因为假设其连续
2017-08-20 12:57:20 382
转载 广义拉格朗日函数的理解
1、拉格朗日函数:求极值求函数f(x,y,z)在条件φ(x,y,z)=0下的极值方法(步骤)是:1.做拉格朗日函数L=f(x,y,z)+λφ(x,y,z),λ称拉格朗日乘数2.求L分别对x,y,z,λ求偏导,得方程组,求出驻点P(x,y,z)如果这个实际问题的最大或最小值存在,一般说来驻点唯一,于是最值 可求.条件极值问题也可以化为无条件极值求解,但有些条件关系比较复杂
2017-08-20 12:32:12 68909
转载 支持向量机通俗导论(理解SVM的三层境界)
支持向量机通俗导论(理解SVM的三层境界)作者:July 。致谢:pluskid、白石、JerryLead。说明:本文最初写于2012年6月,而后不断反反复复修改&优化,修改次数达上百次,最后修改于2016年11月。声明:本文于2012年便早已附上所有参考链接,并注明是篇“学习笔记”,且写明具体参考了pluskid等人的文章。文末
2017-08-15 21:15:57 317
原创 回归分析
回归分析(regression analysis)是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。运用十分广泛,回归分析按照涉及的变量的多少,分为一元回归和多元回归分析;按照因变量的多少,可分为简单回归分析和多重回归分析;按照自变量和因变量之间的关系类型,可分为线性回归分析和非线性回归分析。如果在回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分
2017-08-13 17:23:18 937
原创 SOFM 网络的MATLAB实现
MATLAB 的 NN Toolbox 提供了丰富的函数建立神经网络,主要包括神经网络函数、权值函数、网络的输入函数、传递函数、初始化函数、性能函数、学习函数、自适应函数、以及训练函数等。因此熟练掌握好建立、学习、训练网络的 NNToolbox 非常必要,下面以一个具体的实例说明 SOFM 网络实现仿真的全过程。SOFM 网络的建立:MATLAB 中 建 立 SOFM 网 络 的
2017-08-11 17:37:19 4622 1
转载 SOM自组织特征映射神经网络-MATLAB-NCTOOL
SOM自组织特征映射神经网络-MATLAB-NCTOOLIn clustering problems, you want a neural network to group data by similarity.A self-organizing map (newsom) consists of a competitive layer which can classify a
2017-08-10 16:39:12 1363
原创 自组织特征映射网络(SOFM)
自组织特征映射网络(SOFM)一、网络结构二、学习算法%% Matlab神经网络43个案例分析% 单层竞争神经网络的数据分类—患者癌症发病预测%% 清空环境变量clcclear%% 录入输入数据% 载入数据load p;%转置后符合神经网络的输入格式P=P';%% 网络建立和训练%
2017-08-10 11:11:55 2535 2
原创 竞争神经网络
竞争神经网络 竞争型神经网络是基于无监督学习(Unsupervised learning)方法的神经网络的一种重要类型,它经常作为基本的网络形式,构成其它一些具有自组织能力的网络,如自组织映射网络、自适应共振理论网络、学习向量量化网络等。 生物神经网络存在一种侧抑制的现象,即一个神经细胞兴奋后,通过它的分支会对周围其他神经细脑产生抑制,这种
2017-08-08 20:02:13 5346 1
原创 MATLAB中的ind2vec和vec2ind函数
ind2vec和vec2ind比较简单,搞明白其中一个,反之另一个就明白了。 先说容易理解的vec2ind吧,从命令名字上可以看出是“向量变索引”,假设一个3*6的稀疏矩阵T(1,:)=[0 1 0 0 1 0];T(2,:)=[1 0 1 1 0 0];T(3,:)=[0 0 0 0 0 1],通过vec2ind(T)将会得到什么?因为通过矩阵知道T是6列
2017-08-08 09:52:55 1426
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人