qq_25151621的博客

原创 Linearized ADMM vs ADMM

Linearized ADMM vs ADMM

原创 alternating direction method of multipliers (ADMM) vs alternating minimization algorithm (AMA)

ADMM与 AM算法的区别

原创 半导体激光器与LED （发光二极管）的区别

原创 泊松—高斯噪声建模（Poissonian-Gaussian noise modeling）

理论背景首先考虑一个通用的依赖信号的噪声模型如下：zx=yx+σ(yx)ξxz_{x}= y_{x}+ σ(y_{x}) ξ_{x}zx​=yx​+σ(yx​)ξx​其中E[ξx]=0,STD[ξx]=1E[ξ_{x}]=0,STD[ξ_{x}]=1E[ξx​]=0,STD[ξx​]=1因此，E[zx]=yx，STD[zx]=σ(E[yx])E[z_{x}]=y_{x}，STD[z_{x}]=σ(E[y_{x}])E[zx​]=yx​，STD[zx​]=σ(E[yx​])数学建模...

原创 矩阵的范数和条件数（Norms and Condition Numbers）

矩阵的范数∥A∥=max⁡x≠0∥Ax∥∥x∥\|A\|=\max _{\boldsymbol{x} \neq 0} \frac{\|A \boldsymbol{x}\|}{\|\boldsymbol{x}\|}∥A∥=maxx​=0​∥x∥∥Ax∥​ 对于一个正定对称矩阵（positive definite symmetric matrix ）而言，其范数∥A∥=λmax⁡(A)\|A\|=\lambda_{\max }(A)∥A∥=λmax​(A)不论矩阵是否对称，其范数满足：∥A∥2=m.

原创 贝叶斯统计推断（一）

概率与统计的区别概率论是自我完善的数学课题，通常假设有一个完整的特定概率模型满足这些概率公理．然后运用数学方法对这个概率模型进行量化， 以及回答感兴趣的问题。结论具有唯一性。而对一个具体的问题，统计学存在很多合理的方法，可得出不同的结论． 一般而言， 除非人们可对所研究的问题施加一些假设或者附加约束条件， 在这些条件下进行推断， 得到“理想”的结论，否则没有一个绝对的准则来选择“最好”的方法。贝叶斯统计与经典统计在统计领域内有两个突出的学派：贝叶斯学派和经典学派，他们之间最重要的区别是：如何..

原创 压缩感知（Compressed Sensing）的数学原理

压缩感知与变化编码的区别Leveraging the concept of transform coding, compressed sensing has emerged as a new framework for signal acquisition and sensor design that enables a potentially largereduction in the sampling and computation costs for sensing signals that h.

原创 极大似然估计、最大后验概率估计和贝叶斯估计

We can interpret the Bayes’ Rule

原创 奇异值分解的原理（Singular Value Decomposition (SVD)）

奇异值分解的背景矩阵（方阵）的对角化存在三大问题：（1） 特征向量通常不正交；（2）特征向量的数量通常不足；（3）要求矩阵是方阵。AATAA^{\mathrm{T}}AAT和 ATAA^{\mathrm{T}}AATA的特征分解u和v分别是其特征向量奇异值分解A[v1⋅⋅vr⋅vn]=[u1⋅ur⋅um][σ1⋱σr]A\left[v_{1} \cdot \cdot v_{r} \cdot v_{n}\right]=\left[u_{1} \cdot u_{r} \cdot u_{m..

原创 对称矩阵（方阵）的对角化

矩阵对角化：A=SΛS−1A=S \Lambda S^{-1}A=SΛS−1AT=(S−1)TΛSTA^{\mathrm{T}}=\left(S^{-1}\right)^{\mathrm{T}} \Lambda S^{\mathrm{T}}AT=(S−1)TΛST如果 A=ATA=A^{\mathrm{T}}A=AT，SΛS−1=(S−1)TΛSTS \Lambda S^{-1}=\left(S^{-1}\right)^{\mathrm{T}} \Lambda S^{\mathrm{T}}SΛS−1=

原创 矩阵（方阵）的对角化

假设 n×nn \times nn×n 矩阵 AAA has nnn 线性无关的特征向量x1,…,xnx_{1}, \ldots, x_{n}x1​,…,xn​ ，将这n个特征向量组成特征向量矩阵 SSS. 那么 S−1ASS^{-1} A SS−1AS 是特征值矩 Λ\LambdaΛ。S−1AS=Λ=[λ1⋱λn]S^{-1} A S=\Lambda=\left[\begin{array}{lll}\lambda_{1} & \\ & \ddots \\ & & \lam

原创 最小二乘法的矩阵化表述

对于矩阵方程：Ax=[(row⁡1)⋅x(row⁡2)⋅x....(row⁡m)⋅x]=bA x=\left[\begin{array}{ll}(\operatorname{row} 1) \cdot x \\ (\operatorname{row} 2)\cdot x \\ ....\\(\operatorname{row} m) \cdot x\end{array}\right]=bAx=⎣⎢⎢⎡​(row1)⋅x(row2)⋅x....(rowm)⋅x​⎦⎥⎥⎤​=b当行数m>列数n时，方程

原创 多元标量函数、矢量函数之间的关系

f(x,y)f(x, y)f(x,y)表示R2空间向R空间的映射

原创 正交基的性质

矩阵分块计算A[b1⋯bp]=[Ab1⋯Abp]A\left[\boldsymbol{b}_{1} \cdots \boldsymbol{b}_{p}\right]=\left[A \boldsymbol{b}_{1} \cdots A \boldsymbol{b}_{p}\right]A[b1​⋯bp​]=[Ab1​⋯Abp​][∣∣a1⋯an∣∣][−b1−⋮−bn−]=[a1b1+⋯+anbn]\left[\begin{array}{ccc}| & & | \\ a_{1} .

原创 矩阵的逆和转置

矩阵的逆 （inverse matrix）(AB)−1=B−1A−1(A B)^{-1}=B^{-1} A^{-1}(AB)−1=B−1A−1(ABC)−1=C1B−1A−1(A B C)^{-1}=C^{1} B^{-1} A^{-1}(ABC)−1=C1B−1A−1矩阵的转置 (Transposes)(AB)T=BTAT(A B)^{\mathrm{T}}=B^{\mathrm{T}} A^{\mathrm{T}}(AB)T=BTAT矩阵的逆和转置(A−1)T=(AT)−1\le..

原创 高斯函数FWHM与$\sigma_{g}$之间的关系

高斯函数 exp⁡[−12σg2(x−u)2]\exp \left[-\frac{1}{2 \sigma_{g}^{2}}(x-u)^{2}\right]exp[−2σg2​1​(x−u)2]其FWHM与\sigma_{g}之间的关系：FWHM=22ln⁡2σgF W H M=2 \sqrt{2 \ln 2} \sigma_{g}FWHM=22ln2​σg​

原创 矩阵和矢量的乘积

假设有三个矢量u⃗=[223],v⃗=[137],w⃗=[132]\vec{u}=\left[\begin{array}{l}2 \\ 2 \\ 3\end{array}\right], \vec{v}=\left[\begin{array}{l}1 \\ 3 \\ 7\end{array}\right], \vec{w}=\left[\begin{array}{l}1\\ 3 \\ 2\end{array}\right]u=⎣⎡​223​⎦⎤​,v=⎣⎡​137​⎦⎤​,w=⎣⎡​132​⎦⎤​上述矢

原创 独立同分布 independently identical distribution (iid)

在概率论和统计学中，如果每个随机变量的概率分布与其他随机变量的概率分布相同，且相互独立，则一组随机变量是独立的，且分布相同,简称独立同分布（iid)。如果两个随机变量独立同分布，则当且仅当 独立性条件 同分布参考文献：1.https://en.wi...

原创 CCD和CMOS相机中的噪声

相机中的噪声通常可广泛地分为两大类：固定模式噪声（time-invariant）和 时变噪声（time-variant）固定模式噪声特指不随某帧图像发生变化的特定空间模式；而时变噪声不同帧之间不同。2.1 光到电过程 （from photo to charge）2.1.1 光散粒噪声 （photo shot noise）光电器件在吸收光子的过程中存在一定的不确定度，这种随机涨落是由...

原创 相机中常见的噪声类型

（1）噪声类型相机（CCD或CMOS）在成像过程中存在如下三类噪声：散粒噪声、暗噪声、读出噪声 （本图来源于Photometrics《做成像的你不能不了解的真相》）散粒噪声（photo shot noise）是由于光子离散特性导致的统计涨落；暗噪声（Dark current shot noise）是由于电子的离散特性导致的统计涨落；读出噪声（read...

原创 矩阵列的线性组合公式

Ac是矩阵诸列的线性组合，公式如下上述公式在零空间、基、对角化等操作中具有重要作用！参考书籍：Sheldon Axler 《线性代数应该这样学》

原创 随机变量独立和不相关 续

网上看到了很多关于随机变量“不相关”“独立”两个概念的辨析，其中很多人用如单位元来形象说明，但是大多解释并不清晰附上 陈希孺《概率论和数理统计》中的解释因此：（1）陈希孺书中有“不相关”定义，这点与威廉,费勒中不一样；其实“不相关”就是相关系数；（2）从陈希孺书上分析看，独立是从概率角度判断；而不相关是从协方差或相关系数上判断（3）整体上很难一下子判断是否“不相关”，或判断...

原创 随机变量的独立性和相关性

随机变量的独立性指代概率上无关，或条件概率等于绝对概率随机变量的相关性：很奇怪，我找了一下威廉.费勒的《概率论及其应用》并未找到随机变量相关的定义当然，如很多书籍一样，有相关系数的概念。针对两个正态分布的随机变量：抄一段原话：使用相关系数，无非是给协方差的书写来个花样罢了。很不幸，相关系数并没有相关这个词所暗示的涵义。事实上，甚至Y 是X 的函教时，相关系数p(X ,...

原创 概率论中的独立性

随机事件的独立性若随机事件A和事件B的概率满足关系：P{AB}=P{A}*P{B} ，则称事件A和事件B是随机独立的（或简称独立）随机变量的独立性随机变量：定义在样本空间上的函数（离散或连续的）在同一样本空间内，若随机事件A发生时随机变量X的值已知，可以对随机事件B发生时随机变量Y的值做一些推测，则表明两个随机变量不独立。附上随机变量相互独立的定义：从上述定义上看：随机变量...