实验三-香农编码的MATLAB实现

虎慕

已于 2024-03-21 16:55:45 修改

阅读量1.5w

点赞数 23

分类专栏：信息论编码文章标签：香农编码信息论编码效率概率分布 MATLAB实现

于 2021-06-05 14:09:59 首次发布

本文链接：https://blog.csdn.net/weixin_46258766/article/details/117588365

版权

信息论编码专栏收录该内容

6 篇文章 95 订阅

订阅专栏

信息论编码实验3~9连载，更多看专栏。

香农编码仿真实现

一、香农编码的原理
二、香农编码实例
三、程序及流程图
四、程序运行结果
五、程序自评价

一、香农编码的原理

香农码严格意义上来说不是最佳码，与基于符号概率进行映射的哈夫曼编码不同的地方在于，香农码基于累积概率的二进制数进行编码。

编码步骤：

将概率分布列降序排序；
求出每一行所对应的累加概率 P_i ；
根据累加概率 P_i 计算该符号对应香农码的长度 L_i ；
将累加概率 P_i 转换成二进制数，取其前 L_i 位，即为该符号的香农码。

对于香农码的评价：
香农编码的效率不高，实用性不大，但对其他编码方法有很好的理论指导意义。一般情况下，按照香农编码方法编出来的码，其平均码长不是最短的，即不是紧致码（最佳码）。只有每一个符号的概率都是1/2的整数倍时，编码效率才能达到最高。

二、香农编码实例

以后有空再补充吧~

三、程序及流程图

下面是代码：

%% 实验三：香农编码仿真实验
clear all
clc
% 用户输入符号概率
p = input('请输入离散信源概率分布，例如[0.5,0.5]：\n');
N = length(p);
L = ceil(-log2(p));% 获得码长向量，元素表示每个符号所对应的码长

% 获得累加概率P及对应码字
[p_SortDescend,reflect] = sort(p,'descend');% 将概率从大到小进行排序
%注：reflect所表示的映射关系很重要
P = zeros(1,N);     % 初始化累加概率
CODE = strings(1,N); % 初始化对应码字(字符串形式)
for i=1:N           % i表示排序后第几个符号
    code = zeros(1,L(reflect(i)));% 初始化对应码字（数组形式）
    if i==1         % 定义第一个编码为0
        P(1)=0;
        CODE(reflect(i)) = num2str(code);
    else
        P(i) = sum(p_SortDescend(1,1:i-1)); % 获得累加概率
    end
    % 下面计算香农码（计算累加概率的二进制数，并取前Li位）
    p_count = P(i)*2;       % p_count用于逐步的计算累加概率的二进制数
    for m=1:L(reflect(i))   % m表示这个符号里第几个码字
       if p_count >= 1
            code(m) = 1;
            p_count = p_count-1;
       else
            code(m) = 0;
       end
       p_count = p_count*2;
    end
    % 将香农码赋值给对应的符号
    CODE(reflect(i)) = num2str(code);
end

H = sum(-p.*log2(p));   % 计算信源信息熵
L_ave = sum(L.*p);      % 计算平均码长
yita = H/L_ave;         % 计算编码效率

% 展示输出码字、平均码长和编码效率
fprintf('\n运行结果:\n');
disp(['信号符号: ',num2str(1:N)]);
disp(['对应概率: ',num2str(p)]);
fprintf('对应码字:');disp(CODE);
disp(['平均码长:',num2str(L_ave)]);
disp(['编码效率:',num2str(yita)]);