参考书《数据压缩导论(第4版)》Page 66
2.利用程序huff_enc和huff_dec进行以下操作(在每种情况下,利用由被压缩图像生成的码本)。
(a)对Sena、Sensin、和Omaha图像进行编码。
答:
文件名 | 压缩前大小 | 压缩后大小 | 压缩比 |
Sena | 64k | 57k | 1.12 |
Sensin | 64k | 61k | 1.05 |
Omaha | 64k | 58k | 1.103 |
4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母,概率为p(a1)=0.15,P(a2)=0.04,p(a3)=0.26,P(a4)=0.05,P(a5)=0.50。
(a)计算这个信源的熵。
答: 一阶熵=0.41+0.186+0.505+0.216+0.5=1.817(bit)
(b)求这个信源的霍夫曼码。
答: a5 00
a3 01
a1 10
a4 110
a2 111
(c)求(b)中代码的平均长度及其冗余度。
答:平均长度:P(a5)*2+P(a3)*2+p(a1)*2+p(a4)*3+P(a2)*3=0.50*2+0.26*2+0.15*2+0.05*3+0.04*3=2.09
冗余度:2.09 - 1.817 = 0.273
5.一个符号集A={a1,a2,a3,a4},其概率为p(a1)=0.1,P(a2)=0.3,p(a3)=0.25,P(a4)=0.35,使用以下过程找出一种霍夫曼编码:
(a)本章概述的第一种过程;
答:第一过程霍夫曼码为:
a4 1
a2 01
a3 001
a1 000
(b)最小方差过程。
答:第二过程霍夫曼码为:
a4 00
a2 01
a3 10
a1 11
平均长度为:2*(1)=1
(a)中的方差:0.1+0.25+0.35=0.7
(b)中的方差:0
所以最小方差为(b),霍夫曼码为: a4 00
a2 01
a3 10
a1 11
参考书《数据压缩导论(第4版)》Page 30
6.在本书配套的数据集中有几个图像和语音文件。
(a)编写一段程序,计算其中一些图像和语音文件的一阶熵。
答:EARTH.IMG 4.770801
OMAHA.IMG 6.942426
SENA.IMG 6.834299
SENSIN.IMG 7.317944
BERK.RAW 7.151537
GABE.RAW 7.116338
test.txt 4.315677
(b)选择一个图像文件,并计算其二阶熵。试解释一阶熵与二阶熵之间的差别。
答:
图像名称 | 一阶熵 | 二阶熵 |
SENSIN | 7.317944 | 4.301673 |
SENSIN.IMG文件的一阶熵比二阶熵大近两倍。
(c)对于(b)中所用的图像文件,计算其相邻像素之差的熵。试解释你的发现。
答:SENSIN.IMG的差分熵为:4.541547。它的差分熵和二阶熵相近,一阶熵最大。