![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
理论和算法
文章平均质量分 91
本帅哥屏蔽了凡人
谦卦六爻皆吉,恕字终身可行
展开
-
从信源熵到互信息
为了表征信源的信息量,所有符号信息量的期望为H[X]=−k=1∑nPr{X=ak}logPr{X=ak}=E[−logPr{X}]这就是X的熵。符号E代表对于函数−logPr{X}在样本X上遍历。原创 2022-08-03 19:16:49 · 383 阅读 · 0 评论 -
Particle Filter Tutorial 粒子滤波2
Particle Filter Tutorial 粒子滤波 2蒙特卡洛采样假设我们能从一个目标概率分布 P(x)P(x)P(x) 中采样到一系列的样本(粒子)x1:Nx_{1:N}x1:N,然后利用这些样本去估计这个分布的某些函数的期望值。即:E[f(x)]=∫f(x)P(x) dxVar[f(x)−]=E[{f(x)−E[f(x)]}2]=∫{f(x)−E[f(x)]}2P(x) dx\begin{aligned}\mathbb{E}[f(x)] &= \int原创 2021-08-20 16:48:26 · 221 阅读 · 0 评论 -
Particle Filter Tutorial 粒子滤波 1
Particle Filter Tutorial 粒子滤波要解决什么事:两个方程状态方程xk=fk(xk−1,vk−1)x_k = f_k (x_{k-1}, v_{k-1})xk=fk(xk−1,vk−1)测量方程yk=hk(xk,nk)y_k = h_k (x_{k}, n_{k})yk=hk(xk,nk)其中 xxx 为系统状态,yyy 为测量到的数据,f,hf, hf,h 是状态转移函数和测量函数,v,nv, nv,n 为过程噪声和测量噪声,噪声都是独立同分原创 2021-08-18 11:02:06 · 191 阅读 · 0 评论 -
Statistician’s Pythagorean Theorem
Statistician’s Pythagorean TheoremX 和 Y 相互独立Var(X±Y)=Var(X)+Var(Y)then原创 2020-10-13 21:04:34 · 198 阅读 · 0 评论 -
无线功率
无线功率转:https://www.cnblogs.com/jackdong/archive/2010/07/17/1779329.html功率单位 mW 和 dBm 的换算无线电发射机输出的射频信号,通过馈线(电缆)输送到天线,由天线以电磁波形式辐射出去。电磁波到达接收地点后,由天线接收下来(仅仅接收很小很小一部分功率),并通过馈线送到无线电接收机。因此在无线网络的工程中,计算发射装置的...转载 2019-11-17 21:27:55 · 772 阅读 · 0 评论 -
对伪随机码的梳理
伪随机码LFSR在数字通信中,一般使用伪随机序列(Pseudo-Noise,PN)作为训练序列。PN 序列的特点是,尽管其序列产生器有确定的构造方法,但 PN 序列本身具有很多类似随机序列的性质。最常见的二进制 PN 序列是最大长度线性反馈移位寄存器(Linear-Feedback Shift Register,LFSR)序列,简称 m 序列,它是由一个线性反馈的 nnn 级移位寄存器生成的...原创 2019-05-15 21:32:15 · 15948 阅读 · 5 评论 -
无线定位原理:TOA & AOA
无线定位原理:TOA&AOATOA 定位方法TOA 定位方法,主要是根据测量接收信号在基站和移动台之间的到达时间,然后转换为距离,从而进行定位。该方法至少需要三个基站,才能计算目标的位置,其定位示意图如图所示。三个基站测得与 MS 的距离分别为 r1,r2,r3r1,r2,r3r_1,r_2,r_3,以各自基站为圆心测量距离为半径,绘制三个圆,其交点即为 MS 的位置。...原创 2018-09-17 14:50:14 · 62660 阅读 · 10 评论 -
定位基本方法 3
节点定位方法3. 基于移动 BS 的定位在基于静态信标节点的定位方法中,定位系统的定位精度与静态信标节点的部署密度和质量直接相关。为了获得好的定位精度,就需要在部署区域中放置大量的静态信标节点,这势必会导致定位成本的大幅上升。为此,研究者提出了基于移动信标节点的辅助定位方法。移动信标节点沿一定的轨迹扫描整个部署区域,在移动的过程中以一定的频率广播包含自身动态位置信息的虚拟信标;未知节点...原创 2018-09-17 14:47:41 · 1192 阅读 · 1 评论 -
定位基本方法 2
节点定位方法2. 基于静态 BS 的定位在使用静态 BS 节点估计未知节点坐标的 WSNs 定位方法中,节点之间需要进行距离估测的是基于测距(Range-based) 的定位方法,节点之间无需测距的是非测距 (Range-free) 的定位方法。前者通过测量未知节点与信标节点之间的距离或相对方位信息,利用位置计算方法(如三边测量等)计算节点位置。后者无需像前者那样估测节点之间的距离或角...原创 2018-09-17 14:43:53 · 2109 阅读 · 0 评论 -
定位基本方法 1
节点定位方法1. 节点定位的计算在 WSNs 的定位中,未知节点通过一定的技术和方法能够获得定位自身所需的坐标、角度或距离信息,从而利用节点位置的计算方法计算自身位置。下面我们将介绍几种较为典型的位置计算方法:三边测量法、三角测量法、极大似然估计法、最小二乘法等。 1.1 三边测量法在二维空间位置计算中,当未知节点获得三个 BS 节点的位置和距离信息时,可通过三边测量方法计...原创 2018-09-17 14:32:54 · 4471 阅读 · 1 评论 -
阵列信号基础:高阶统计量部分
高阶统计量部分X1,X2,⋯,XnX1,X2,⋯,XnX_1,X_2,⋯,X_n 是从总体XXX中抽取的容量为 nnn 的一个样本,如果由此样本构造一个函数 T(X1,X2,⋯,Xn)T(X1,X2,⋯,Xn)T(X_1,X_2,⋯,X_n),不依赖于任何未知参数,则称函数 T(X1,X2,⋯,Xn)T(X1,X2,⋯,Xn)T(X_1,X_2,⋯,X_n) 是一个统计量。 通常,又称函数...原创 2020-05-19 23:06:13 · 4896 阅读 · 5 评论 -
阵列信号基础:天线阵列模型
天线阵列模型原创 2018-09-08 20:18:34 · 19154 阅读 · 9 评论 -
阵列信号基础之1:MUSIC 算法
无线信道参数估计算法对通信系统分析之前,首先需要建立一个能够完整反映该系统的传输信道的模型,其模型中的参数包括接收端接收信号的时延,发射端和接收端的联合方向分布等,获取这些参数的过程就是无线信道参数估计的过程。方法可以大致分为三类: - 谱估计算法:多重信号分类法 - 参数子空间估计算法:旋转不变技术估计信号参数算法 - 确定性参数估计算法:期望最大算法以及演进的空间交替...原创 2020-03-23 14:33:38 · 38390 阅读 · 55 评论 -
定位算法初探
定位算法初探一、指纹定位算法介绍 指纹定位(finger-printing localization)算法,是基于室内环境复杂,信号反射折射所形成的在不同位置形成的不同的信号强度信息而提出的一套算法。 指纹算法能很好的利用了反射折射所形成的信号信息,离线首先生成指纹信号强度数据库,在线定位中再通过实际测量的一组RSSI值(Received Signal Strength Indicat原创 2018-05-09 11:17:05 · 13636 阅读 · 1 评论 -
看看拟牛顿法
拟牛顿法主要是针对无约束最小化问题的。这里求导其实是把右边项看作 xxx 的函数,只对 xxx 求导, xkx_kxk 看作常数项。昨天刚看到的 line search:注意这里我们取了上一次 xkx_kxk 的值,做了类似于差分的效果。一个矩阵小 trickSherman-Morrison公式设 A∈RnA \in R^nA∈Rn 为非奇异方阵,μ,v∈R...原创 2019-11-19 09:34:15 · 240 阅读 · 0 评论 -
复数的表示
复数的表示复数:首先,复数基本单位是 i=−1i=\sqrt{−1}i=−1。有了这个单位,复数空间中的每个数都可以表示为 a+bia+bia+bi 的形式。其中,a 被称为实部 real part,b 被称为虚部 imaginary part。复数可以在复平面(complex plane)上表示,复平面横纵坐标分别为实部和虚部。事实上,复数是可以用坐标表示的,我们可以在复平面...原创 2018-10-14 14:32:09 · 2219 阅读 · 0 评论 -
子空间:PCA
子空间:从 PCA 到 DNN(一)1. PCA主成分分析算法 (Principal Components Analysis, PCA) 是一种常用的数据分析方法。PCA 通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要特征分量,常用于高维数据的降维。该算法尝试搜寻数据所处的子空间,只需计算特征向量就可以进行降维。问题: 参考链接设想有一个数据集,其中每个元素...原创 2018-10-27 16:59:11 · 2305 阅读 · 0 评论 -
何为 NP-hard
NP-hard 问题 NP-hard problem, NP(Non-deterministic Polynomial) 一、 预备知识1. 时间复杂度表明问题规模扩大后,程序需要的时间长度增长得有多快。 程序的时间复杂度一般可以分为两种级别: 多项式级的复杂度:如 O(1)\text{O}(1),O(logn)\text{O}(\text{log} \ n)、O(na)\t原创 2018-05-09 11:13:54 · 32780 阅读 · 1 评论 -
玩转 EM 算法
$ 参数估计 | 极大似然估计1 参数估计的问题提出 极大似然估计:找出与 样本的分布 最接近的 概率分布模型。最大似然估计是利用已知的样本的结果,在使用某个模型的基础上,反推最有可能导致这样结果的模型参数值。 问题:假设有两点分布的抛硬币游戏,每次抛完为正面向上的概率为 θ\theta,则重复10次实验的得到的结果(即样本)为:+ + - + + + - + - +。 那么可得到如此结原创 2018-01-14 20:39:10 · 748 阅读 · 0 评论 -
凸优化开篇
凸优化(Convex Optimization,Convex简称CVX,Optimization简称OPT) 一、为什么要学习CVX?1. 优化问题生活中你经常会遇到一些这样的问题:怎么走到目的地的路最短;怎么安排效率最高;怎么分配让成本最少或者是利润最高;这些问题可以归属为优化问题或者规划问题。优化问题形式如下: 给定函数f:A→R,寻找一个元素x0∈A,使得对于所有A中的...原创 2017-07-25 09:42:22 · 1943 阅读 · 1 评论 -
从零学习Belief Propagation算法(一)
从零学习Belief Propagation算法(一)本文将记录 Belief Propagation 算法的学习历程,如果您之前没有接触过,而现在刚好需要用到,可以参考我的系列文章。内容稍多将分为几个主题来写。本系列文章将包含以下内容:必备的概率论基础从概率论到概率图模型Bayes 网络Markov 随机场因子图 cBelief Propagation算法1.原创 2017-10-29 13:55:37 · 39223 阅读 · 9 评论 -
唠唠(信息熵)一大家子的事
唠唠(信息熵)一大家子的事 话说林舒是《信道编码》的大牛,最近在看大牛著作《信道编码:经典与现代》,同时也在《模式识别与机器学习》课堂,碰到了同一个理解不好的概念,那就是【熵】,真伤啊! 在码农界里,很多人在做自然语言处理NLP,这块也避免不了被【熵】一下。 来吧,哥们儿姐妹儿们,今天一起用人话,唠唠这烦人的【熵】。 本文参考于多位网上作者的文章总结整合而成,为尊重各位作者特原创 2017-10-23 15:47:06 · 1472 阅读 · 2 评论 -
从零学习Belief Propagation算法(二)
从零学习Belief Propagation算法(二)本文将记录 Belief Propagation 算法的学习历程,如果您之前没有接触过,而现在刚好需要用到,可以参考我的系列文章。内容稍多将分为几个主题来写。本系列文章将包含以下内容:必备的概率论基础从概率论到概率图模型Bayes 网络Markov 随机场因子图 Factor GraphBelief Propagation算法从零学原创 2017-10-29 20:59:16 · 20187 阅读 · 4 评论 -
从零学习Belief Propagation算法(三)
从零学习Belief Propagation算法(三)本文将记录 Belief Propagation 算法的学习历程,如果您之前没有接触过,而现在刚好需要用到,可以参考我的系列文章。内容稍多将分为几个主题来写。本系列文章将包含以下内容:必备的概率论基础从概率论到概率图模型Bayes 网络Markov 随机场因子图 Factor GraphBelief Propagation算法从零学原创 2017-10-29 23:28:05 · 26837 阅读 · 24 评论 -
神秘的 卡尔曼滤波器
强大的卡尔曼滤波器 卡尔曼滤波器,又称为最佳线性滤波器,时域滤波器。卡尔曼滤波是控制系统理论,计算机视觉和图像处理和信道滤波都会有它的身影。为什么需要卡尔曼滤波器参考:http://blog.csdn.net/MangZuo/article/details/711711371 概念 最近养了只小兔子,接下来拿小兔子做个例子。每天喂兔子吃得好好的,看它一天天在长大,就忍不住想了解它的体重原创 2018-01-15 16:19:56 · 809 阅读 · 0 评论 -
小波变换
从傅里叶到小波变换 小波,一个神奇的波,可长可短可胖可瘦(伸缩平移),当去学习小波的时候,第一个首先要做的就是回顾傅立叶变换,因为他们都是频率变换的方法,而傅立叶变换是最基础的,也是最先了解的。 通过傅立叶变换,了解缺点,改进,慢慢的就成了小波变换。主要的关键方向是 傅立叶变换、短时傅立叶变换,小波变换等,第二代小波的什么的就不说了,太多了没有意义。当然,其中会看到很多的名词,例如,原创 2018-04-18 18:38:04 · 2723 阅读 · 0 评论 -
稀疏贝叶斯学习 1
稀疏贝叶斯学习 1稀疏贝叶斯学习(SBL)是贝叶斯统计优化算法中十分重要的一类,它是在贝叶斯理论的基础上发展而来的。现在贝叶斯学习技术已应用到信息的智能检索,数据挖掘等领域。SBL 算法首先将未知的待估计参数向量看作符合某种先验分布的随机向量,并根据以往对所求参数的知识,确定先验分布;然后根据样本信息,运用贝叶斯规则,计算后验概率分布;最后综合先验信息和后验概率,做出对未知参数的推断。研究人员通...原创 2019-05-19 12:28:35 · 19340 阅读 · 10 评论 -
稀疏贝叶斯学习 2
稀疏贝叶斯学习 2对于最原始的稀疏表示问题,其拉格朗日形式可写为:s^=argmins∥y−As∥22+λ∥s∥0\begin{aligned}\hat{\mathbf s} =\underset{\mathbf s}{\arg\min} \Big\Vert \mathbf y - \mathbf A \mathbf s \Big \Vert_2^2 +\lambda \Ve...原创 2019-05-22 11:14:21 · 11380 阅读 · 8 评论 -
稀疏贝叶斯学习 3
稀疏贝叶斯学习 3FSBL 快速贝叶斯学习算法前面已经求得的L(t∣σ2,α)=−12log∣σ2I+ΦΛαΦT∣−12tT(σ2I+ΦΛαΦT)−1t\boxed{\begin{aligned}\mathcal L( \mathbf t \vert \sigma^2, \boldsymbol \alpha) =-\frac{1}{2} \log\Big\vert\sigma^...原创 2019-05-22 22:10:47 · 4359 阅读 · 3 评论