【数据压缩8】线性预测器最佳预测系数&最小二乘法

目录

1. DPCM系统的预测器P

2. 优化线性预测器

思想：各自最优也是整体最优，问题的拆解。

3. 推导最佳线性预测系数

最小二乘法

 推导过程

【数据压缩7】Lab4 DPCM压缩系统的实现和分析_yaoyaxuan的博客-CSDN博客DPCM 压缩系统的实现和分析https://blog.csdn.net/m0_46357931/article/details/124555472

1. DPCM系统的预测器P

（1）预测器的输入是已经解码以后的样本，编码器内嵌了解码器，是负反馈系统。

（2）编码端的预测器和解码端的预测其必须相同，否则会产生漂移现象。

（3）一阶为延时器（左侧预测、上方预测 ）；多阶为预测器（相邻块的加权预测）

---

2. 优化线性预测器

思想：各自最优也是整体最优，问题的拆解

在一个DPCM系统中，有两个因素需要设计：预测器P和量化器Q。理想情况下，预测器P和量化器Q应进行联合优化。实际中，采用一种次优的设计方法：分别进行线性预测器P和量化器Q的优化设计。

对于一个预测器的优化，通常的优化目标是使MSE最小。即在最小预测误差均方值的条件下，确定一组预测系数，即为最佳线性预测系数。

预测值：

预测误差：

预测误差均方值：

---

3. 推导最佳线性预测系数

最小二乘法

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

 

最小二乘法求解最优化A矩阵的思想就是对每一个系数的导数求导并使其置零

系数结果：

 推导过程

假定均值为0，误差信号的方差比原信号的方差小。和实际信号的分布相比，预测误差是关于0的高尖峰。因此，预测误差总是具有比原始密度更小的熵。这意味着预测的过程是把样值间的大部分冗余（统计冗余）去掉 。预测器的复杂度取决于n。