最近在做RDOQ算法优化和硬件系统结构设计,建立其时序模型,估算算法的硬件复杂度。在做这部分工作的同时,博主调研了软判决量化SDQ,硬判决量化HDQ,率失真优化量化RDOQ,总结如下:
硬判决量化
- 系数独立、基于四舍五入的量化算法统称为硬判决量化(Hard Decision Quantization ,HDQ )算法。
u — DCT 变换系数 ;q — 量化步长 ;δ— dead‐zone 偏移量 ; floor — 向下取整操作 ;HDQ(u) — 硬判决量化幅值
软判决量化
- 考虑系数间相关性的软判决量化算法(Soft Decision Quantization,SDQ)可获得更加优异的率失真(Rate Distortion,RD)性能。SDQ 算法采用维特比网格搜索,从多个候选较优量化结果中抉择出率失真代价最小的量化候选值,从而实现率失真性能的较大提升。
率失真优化量化rdoq
- SDQ 算法的简化算法,即率失真优化量化(Rate Distortion Optimized Quantization, RDOQ)算法。相比于 SDQ 算法的全网格搜索,RDOQ 只搜索了部分路径,在