服从广义高斯分布样本的参数估计

最新推荐文章于 2022-08-01 21:53:50 发布

k雪痕

最新推荐文章于 2022-08-01 21:53:50 发布

阅读量5.2k

点赞数 1

分类专栏：算法文章标签：广义高斯分布 matlab代码参数估计

本文链接：https://blog.csdn.net/kxuehen/article/details/41743199

版权

算法专栏收录该内容

6 篇文章 1 订阅

订阅专栏

图片经过带通滤波（如DCT变换频域系数、小波变换后的小波系数，gabor方向滤波器滤波后的系数）后，其系数服从广义高斯分布，广义高斯分布公式如下所示：

$f(x;\sigma ,\theta ) = \frac{\theta }{{2\sigma \Gamma (1/\theta )}}{e^{ - |\frac{x}{\sigma }{|^\theta }}}$

参数 $\theta$ 是广义高斯分布的形状参数， $\sigma$ 是与标准差有关的参数，x是带通滤波后的系数。当 $\theta$ =2时广义高斯分布就是正态高斯分布，此时 $\sigma$ 是标准差的 $\sqrt 2$ 倍。其中分母中的gamma函数如下所示：

$\Gamma (x) = \int\limits_0^{ + \infty } {{t^{x - 1}}{e^{ - t}}dt}$

令 $Y = |\frac{X}{\sigma }{|^\theta }$ ，滤波后的系数通过这一变换，转化为变量Y，通过证明可以得出变量Y服从gamma分布其概率密度公式如下所示：

$g(y;\theta ) = {y^{\frac{1}{\theta } - 1}}{e^{ - y}}/\Gamma (\frac{1}{\theta })$

Y的前两阶中心矩为

$EY = \frac{1}{\theta }$ $E{Y^2} = \frac{{1 + \theta }}{{{\theta ^2}}}$

进一步得到关于 $\theta$ 的方程式：

$\frac{{E{Y^2}}}{{{{(EY)}^2}}} = \frac{{E|\frac{X}{\sigma }{|^{2\theta }}}}{{{{(E|\frac{X}{\sigma }{|^\theta })}^2}}} = \frac{{E|X{|^{2\theta }}}}{{{{(E|X{|^\theta })}^{2 }}}} = \theta + 1$

令

$Z(\theta ) = \frac{{E|X{|^{2\theta }}}}{{{{(E|X{|^\theta })}^{2 }}}} - (\theta + 1) = 0$

目前的目的是要求解广义高斯分布形状参数，现在以得到关于 $\theta$ 的方程式，可以利用Newton–Raphson方法迭代求出该数值解。

当有n个服从广义高斯分布的样本时，可以估算出( $\theta$ 这里可以给出一个估算值，后面迭代的时候是逐步收敛到理论值)。

$E|X{|^\theta } = \frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^\theta }}$

$E|X{|^{2\theta }} = \frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^{2\theta }}}$

最终由样本数据得出的关于 $\theta$ 的方程为

$Z(\theta ) = \frac{{\frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^{2\theta }}} }}{{(\frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^\theta }{)^2}} }} - (\theta + 1) = 0$

利用Newton–Raphson迭代方法得出 $\theta$ 更新方程为

${\theta _{k + 1}} = {\theta _k} - \frac{{Z({\theta _k})}}{{\dot Z({\theta _k})}}$

这里运用求导数的除法公式和指数函数求导公式可以求出 $\dot Z({\theta _k})$ 。下面是推导过程：

令

${Y_2} = \frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^{2\theta }}}$ ${Y_1} = {(\frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^2}} )^2}$ $Z = \frac{{{Y_2}}}{{{Y_1}^2}} - (\theta + 1)$

${\dot Y_2} = \frac{2}{n}\sum\limits_{i = 1}^n {|{x_i}{|^{2\theta }}\ln |{x_i}|}$ ${\dot Y_1} = \frac{1}{n}\sum\limits_{i = 1}^n {|{x_i}{|^\theta }\ln |{x_i}|}$ $\dot Z = \frac{{{{\dot Y}_2}{Y_1}^2 - 2{Y_2}{Y_1}{{\dot Y}_1}}}{{{Y_1}^4}} = \frac{{{{\dot Y}_2}{Y_1} - 2{Y_2}{{\dot Y}_1}}}{{{Y_1}^3}}$

得到 $\dot Z({\theta _k})$ 后，利用Newton–Raphson迭代运算便可以得到形状参数理论值近似值。

利用形状参数 $\theta$ 估计 $\sigma$ ：

$\sigma = {(\frac{\theta }{n}\sum\limits_{i = 1}^n {|{x_i}{|^\theta }} )^{\frac{1}{\theta }}}$

下面给出其实现的matlab代码，该代码是在文献“A globally convergent and consistent method for estimating the shape parameter of a generalized Gaussian distribution”基础理论基础之上编写而成。

function [theta, sigma] = ggd_fit(x, theta0)
%
%[theta, sigma] = ggd_fit(x, theta0);
% 根据样本估计单维广义高斯分布的参数值
% x是样本向量
% theta0是形状参数的初始值
% theta是迭代完成后的形状参数值
% sigma是迭代完成后与方差有关的参数值
% 该程序是根据文献    A globally convergent and consistent method for estimating the shape parameter of a generalized Gaussian distribution
% 编写而成，在原作者Lingyun Zhang 基础上修改某些部分 增强了程序的鲁棒性。


% number of sample points
x = x(find(abs(x)>0.001));
n = length(x);

% estimate the shape parameter
theta = theta0;
i=1;
T(1)=theta0;
while (1)
    Y1 = mean(abs(x).^theta);
    Y2 = mean(abs(x).^(2*theta));
    Z = Y2 / Y1 / Y1 - (theta+1);
    U1 = mean(abs(x).^theta.*log(abs(x)));%Y1对theta求导
    U2 = mean(abs(x).^(2*theta).*log(abs(x)));%Y2平方对theta求导
    Z_dot = 2*U2/Y1/Y1 - 2*U1*Y2/Y1/Y1/Y1 - 1;%Z求导结果
    theta = theta - Z/Z_dot;
    i=i+1;
    T(i) = theta;
    if theta<0.001
         theta= theta0+4;
           thta0=theta;
           T(i) = theta;
    
    else if abs(T(i-1)-T(i))<10e-10 
        if theta>0.001
        break; 
        else
           theta= theta0+4;
           thta0=theta;
           T(i) = theta;
        end
        end
    end
end;

% estimate the scale parameter
sigma = ((theta/n) * sum(abs(x).^theta)) .^ (1/theta);

利用该代码对1000个服从均值为0，标准差为2的正态分布样本进行参数估计，得出结果为theta=1.7871，sigma=2.6512；因为标准高斯分布形状参数为2，所以估计值1.7871合适。对于标准高斯分布sigma是标准差的 $\sqrt 2$ 倍，所以估计出的标准差为2.6512/1.412=1,8747,与理论值2接近，所以此次参数估计是成功的。增加样本个数可以提高估计精度。

k雪痕

关注

1
点赞
踩
11

收藏

觉得还不错? 一键收藏
10
评论
服从广义高斯分布样本的参数估计

服从广义高斯分布样本的参数估计图片经过带通滤波（如DCT变换频域系数、小波变换后的小波系数，gabor方向滤波器滤波后的系数）后，其系数服从广义高斯分布，广义高斯分布公式如下所示：参数是广义高斯分布的形状参数，是与标准差有关的参数，x是带通滤波后的系数。当=2时广义高斯分布就是正态高斯分布，此时是标准差的倍。其中分母中的gamma函数如下所示：令，滤
复制链接

扫一扫

专栏目录