优化算法
liujun-st
蜗牛!!
展开
-
最小二乘法
概念最小二乘法多项式曲线拟合,根据给定的m个点,并不要求这条曲线精确地经过这些点,而是曲线y=f(x)的近似曲线y= φ(x)。原理[原理部分由个人根据互联网上的资料进行总结,希望对大家能有用] 给定数据点pi(xi,yi),其中i=1,2,…,m。求近似曲线y= φ(x)。并且使得近似曲线与y=f(x)的偏差最小。近似曲线在点pi处的偏转载 2015-08-06 12:04:53 · 966 阅读 · 0 评论 -
最小二乘法-矩阵求导求解
转载来自:http://blog.csdn.net/acdreamers/article/details/44662633关于最小二乘问题的求解,之前已有梯度下降法,还有比较快速的牛顿迭代。今天来介绍一种方法,是基于矩阵求导来计算的,它的计算方式更加简洁高效,不需要大量迭代,只需解一个正规方程组。 在开始之前,首先来认识一个概念和一些用到的定理。矩阵的迹定义如下转载 2016-06-27 16:30:17 · 17415 阅读 · 1 评论 -
牛顿法
来源:http://blog.csdn.net/luoleicn/article/details/6527049平时经常看到牛顿法怎样怎样,一直不得要领,今天下午查了一下维基百科,写写我的认识,很多地方是直观理解,并没有严谨的证明。在我看来,牛顿法至少有两个应用方向,1、求方程的根,2、最优化。牛顿法涉及到方程求导,下面的讨论均是在连续可微的前提下讨论。 1、求解方程。转载 2015-08-06 12:16:33 · 693 阅读 · 0 评论 -
线性回归和梯度下降算法
线性回归与梯度下降算法线性回归与梯度下降算法知识点:线性回归概念梯度下降算法 l 批量梯度下降算法 l 随机梯度下降算法 l 算法收敛判断方法1.1 线性回归在统计学中,线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种转载 2015-08-06 12:02:32 · 923 阅读 · 0 评论 -
OpenMP多线程
OpenMP并行程序设计 转载:http://blog.csdn.net/augusdi/article/details/8807119 OpenMP是一个支持共享存储并行设计的库,特别适宜多核CPU上的并行程序设计。今天在双核CPU机器上试了一下OpenMP并行程序设计,发现效率方面超出想象,因此写出来分享给大家。 在VC转载 2016-10-16 22:51:18 · 5074 阅读 · 0 评论 -
SIMD
SIMD转载:http://blog.csdn.net/conowen/article/details/7255920SIMD单指令流多数据流(SingleInstruction Multiple Data,SIMD)是一种采用一个控制器来控制多个处理器,同时对一组数据(又称“数据向量”)中的每一个分别执行相同的操作从而实现空间上的并行性的技术。在微处理器中,单指令流多数据转载 2016-10-16 23:16:06 · 1235 阅读 · 0 评论 -
SSE
转载:http://blog.csdn.net/gengshenghong/article/details/70071001. 什么是指令集?指令集是为了增强CPU在某些方面(如多媒体)的功能而特意开发出的一组程序代码集合。2.常见的指令集有哪些呢?1)MMX(Multi-Media Extensions,做媒体扩展)指令集:Intel1996年推出的一项多媒体转载 2016-10-16 23:35:33 · 901 阅读 · 0 评论