- 博客(32)
- 收藏
- 关注
RSS订阅转载 拟牛顿法
转自:ACdreamer今天，我来讲一种在机器学习中常用到的优化算法，叫做BFGS算法。BFGS算法被认为是数值效果最好的拟牛顿法，并且具有全局收敛性和超线性收敛速度。那么接下来将会详细讲解。 Contents 1. 什么是拟牛顿法 2. 拟牛顿法原理 3. DFP算法原理 4. BFGS算法原理 5. BFGS算法的实
2016-03-31 16:10:35
8146
转载 EM及高斯混合模型
转自:EM及高斯混合模型本文就高斯混合模型（GMM,Gaussian Mixture Model）参数如何确立这个问题，详细讲解期望最大化（EM,Expectation Maximization）算法的实施过程。单高斯分布模型GSM多维变量X服从高斯分布时，它的概率密度函数PDF为：x是维度为d的列向量，u是模型期望，Σ是模型方差。在实际应用中u通常用样本均值来代替，Σ通常
2016-03-31 11:36:57
518
转载 混合高斯模型（Mixtures of Gaussians）和EM算法
转自:混合高斯模型（Mixtures of Gaussians）和EM算法这篇讨论使用期望最大化算法（Expectation-Maximization）来进行密度估计（density estimation）。 与k-means一样，给定的训练样本是，我们将隐含类别标签用表示。与k-means的硬指定不同，我们首先认为是满足一定的概率分布的，这里我们认为满足多项式分布，
2016-03-31 11:35:03
570
转载 Levenberg-Marquardt(LM算法)
转自: 翠翠的博客什么是最优化，可分为几大类？答：Levenberg-Marquardt算法是最优化算法中的一种。最优化是寻找使得函数值最小的参数向量。它的应用领域非常广泛，如：经济学、管理优化、网络分析、最优设计、机械或电子设计等等。根据求导数的方法，可分为2大类。第一类，若f具有解析函数形式，知道x后求导数速度快。第二类，使用数值差分来求导数。根据 使用模型不同
2016-03-30 14:18:21
72051
2
转载 梯度下降法，最小二乘法求线性回归
来自知乎内容:最小二乘法和梯度下降法有哪些区别？非线性最小二乘法:百度百科非线性最小二乘的求解样例:转自:LongShaoAn问题：已知数据X、Y， X=[ -0.46,-0.0755,-0.0227,-0.63,-0.435,-0.4] Y=[0.595,0.556,0.44,0.53,0.634,0.551
2016-03-29 21:06:03
1132
转载 机器学习经典算法之-----最小二乘法
原作者:iamccme一.背景 5月9号到北大去听hulu的讲座《推荐系统和计算广告在视频行业应用》，想到能见到传说中的项亮大神，特地拿了本《推荐系统实践》求签名。讲座开始，主讲人先问了下哪些同学有机器学习的背景，我恬不知耻的毅然举手，真是惭愧。后来主讲人在讲座中提到了最小二乘法，说这个是机器学习最基础的算法。神马，最基础，我咋不知道呢！ 看来以后还是要对自己有清晰认识。
2016-03-29 20:16:42
1012
转载 【机器学习】EM算法详细推导和讲解
转载：BigMoyan今天不太想学习，炒个冷饭，讲讲机器学习十大算法里有名的EM算法，文章里面有些个人理解，如有错漏，还请读者不吝赐教。 众所周知，极大似然估计是一种应用很广泛的参数估计方法。例如我手头有一些东北人的身高的数据，又知道身高的概率模型是高斯分布，那么利用极大化似然函数的方法可以估计出高斯分布的两个参数，均值和方差。这个方法基本上所有概率课本上都会讲，我这就不多说了，
2016-03-27 21:33:24
817
转载 EM算法（Expectation Maximization Algorithm）
原文作者：JerryLead下面主要介绍EM的整个推导过程。1. Jensen不等式 回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的（），那么f是凸函数。如果或者，那么称f是严格凸函数。 Jensen不等式表述如下： 如果f是凸函数，
2016-03-27 20:06:18
450
转载 一个封装好的线程类
原文出处class CThread{public: /**//** * Default Constructor */ CThread() { m_pThreadFunction = CThread::EntryPoint; m_runthr
2016-03-25 17:12:58
852
转载 线程的封装
原文出处一个封装好的线程类一.创建线程函数 常用的创建线程的函数是CreateThread,还有MFC中的AfxBeginThread方法.另一种函数是_beginthreadex,其实它在内部调用了CreateThread，在调用之前_beginthreadex做了很多的工作，从而使得它比CreateThread更安全.所以一般使用_beginthread
2016-03-25 17:11:17
346
原创 DWORD与int
有的程序中用DWORD，其实它表示的是无符号整形，占用4个字节，宏定义如下：typedef unsigned int DWORD;int 是有符号的整形，在有些情况下，需要使用无符号整数。
2016-03-25 15:28:16
2728
转载 四种强制类型转换的总结(const_cast、static_cast、dynamic_cast、reinterpreter_cast)
原文出处：youyoulgC风格的强制类型转换(Type Cast)很简单，不管什么类型的转换统统是： TYPE b = (TYPE)a C++风格的类型转换提供了4种类型转换操作符来应对不同场合的应用。 const_cast，字面上理解就是去const属性。 static_cast，命名上理解是静态类型转换。如i
2016-03-25 15:23:00
1378
转载 C语言指针强制类型转换
原文出处：mhjcumt概要：C语言中，任何一个变量都必须占有一个地址，而这个地址空间内的0-1代码就是这个变量的值。不同的数据类型占有的空间大小不一，但是他们都必须有个地址，而这个地址就是硬件访问的依据，而名字只是提供给程序员的一种记住这个地址的方便一点的方法。但是，不同的变量在机器中都是0-1代码，所以，我们不能简单的通过检查一个值的位来判断它的类型。例如，定义如下：
2016-03-25 15:20:09
619
原创 构造函数
C++中，必须定义构造函数，否则在声明实例的时候出错。不会给你生成默认的构造函数A()，所以在声明实例：A a（报错）。Java中，当自己没有定义构造函数时，编译器会给补上一个默认的构造函数A()，声明实例：A a（不会报错）。但是如果我们已经定义了自己的含参的构造函数，则编译器不再给生成默认构造函数，此时声明实例：A a（报错）。
2016-03-25 10:22:22
237
转载 类成员函数参数和类成员变量的可见性
原文出处：EdwardLewis一、如下示例#include "iostream"using namespace std;class point{public:int x;int y;point() {}point(int a,int b){x=a;y=b;}void output(){cout}void input(int a,int
2016-03-20 22:01:47
544
转载 进程间同步和互斥
概念：两个或两个以上的进程，不能同时进入关于同一组共享变量的临界区域，否则可能发生与时间有关的错误，这种现象被称作进程互斥· 也就是说，一个进程正在访问临界资源，另一个要访问该资源的进程必须等待。在多道程序环境下，存在着临界资源，它是指多进程存在时必须互斥访问的资源。也就是某一时刻不允许多个进程同时访问，只能单个进程的访问。我们把这些程序的片段称作临界区或临界段，它存在的目的是有效
2016-03-20 18:37:53
2025
转载 进程间同步和互斥：临界资源
简介各进程采取互斥的方式，实现共享的资源称作临界资源。属于临界资源的硬件有打印机、磁带机等,软件有消息缓冲队列、变量、数组、缓冲区等。 诸进程间应采取互斥方式，实现对这种资源的共享。每个进程中访问临界资源的那段代码称为临界区。显然，若能保证诸进程互斥地进入自己的临界区，便可实现诸进程对临界资源的互斥访问。为此，每个进程在进入临界区之前，应先对欲访问的临界资源进行检查
2016-03-20 18:34:25
4357
转载 C++命名空间详解std
1. 什么是命名空间在编程语言中，命名空间是一种特殊的作用域，它包含了处于该作用域中的所有标示符，而且其本身也是由标示符表示的。命名空间的使用目的是为了将逻辑相关的标示符限定在一起，组成相应的命名空间，可使整个系统更加模块化，最重要的是它可以防止命名冲突。就好比在两个函数或类中定义相同名字的对象一样，利用作用域标示符限定该对象是哪个类里定义的。2. C++中的命名空间定义在
2016-03-13 15:14:30
388
转载 C++命名空间namespace的理解和用法
命名空间(namespace)是一种描述逻辑分组的机制，可以将按某些标准在逻辑上属于同一个任务中的所有类声明放在同一个命名空间中。标准C++库（不包括标准C库）中所包含的所有内容（包括常量、变量、结构、类和函数等）都被定义在命名空 间std（standard标准）中了。定义命名空间有两种形式的命名空间——有名的和无名的。命名空间的定义格式为：（取自C++标准文档）
2016-03-13 15:01:45
1590
转载 蚁群算法
参考两篇文章：http://www.nocow.cn/index.php/%E8%9A%81%E7%BE%A4%E4%BC%98%E5%8C%96%E7%AE%97%E6%B3%95http://www.cnblogs.com/biaoyu/archive/2012/09/26/2704456.html
2016-03-10 19:20:00
350
转载 遗传算法
遗传算法（Genetic Algorithm）又叫基因进化算法，或进化算法。属于启发式搜索算法一种，这个算法比较有趣，并且弄明白后很简单，写个100-200行代码就可以实现。在某些场合下简单有效。本文就花一些篇幅，尽量白话方式讲解一下。 首先说一下问题。在我们学校数据结构这门功课的时候，时常会有一些比较经典的问题（而且比较复杂问题）作为学习素材，如八皇后，背包问题，染色问题等等
2016-03-10 16:51:23
590
转载 win10怎么安装JDK8，怎么配置JDK8的环境变量
配置链接：http://jingyan.baidu.com/article/f96699bbd30ca8894e3c1bdb.html
2016-03-05 15:59:04
769
转载 人工智能和机器学习方面的开源项目
本文简要介绍了10款人工智能和机器学习领域方面的开源项目。 GraphLabGraphLab是一种新的面向机器学习的并行框架。GraphLab提供了一个完整的平台，让机构可以使用可扩展的机器学习系统建立大数据以分析产品，该公司客户包括Zillow、Adobe、Zynga、Pandora、Bosch、ExxonMobil等，它们从别的应用程序或者服务中抓取数据，通过推荐
2016-03-03 18:27:23
455
转载 如何在Linux14.04英文版下安装中文输入法
ubuntu默认的输入法是ibus，综合网上评论，fcitx的支持者更多，而且个人感觉fcitx也的确不错，可以满足日常输入。STEP1： 在Ubuntu Software Center 搜索fcitx，安装fcitx输入法框架，安装好后在任务栏右上角会出现fcitx设置图标（一个键盘）.STEP2: 修改系统输入法：STEP3： 在Terminal 下命令安装拼音输入法：
2016-03-03 18:23:52
1821
转载 10 个值得一试的开源深度学习框架
本周早些时候 Google 开源了 TensorFlow（GitHub），此举在深度学习领域影响巨大，因为 Google 在人工智能领域的研发成绩斐然，有着雄厚的人才储备，而且 Google 自己的 Gmail 和搜索引擎都在使用自行研发的深度学习工具。本周早些时候 Google 开源了 Tens
2016-03-02 17:23:01
666
转载 机器学习算法汇总：人工神经网络、深度学习及其它
摘要：机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。这里我们将为您总结一下常见的机器学习算法，以供您在工作和学习中参考。【编者按】机器学习的算法很多。很多时候困惑人们都是，很多算法是一类算法，而有些算法又是从其他算法中延伸出来的。这里，我们从两个方面来给大家介绍，第一个方面是学习的方式，第二个方面是算法的类似性。学习方式
2016-03-02 16:25:40
679
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人