第二次作业
1、 参考书《数据压缩导论（第4版）》Page 66
3-2 利用程序huff_enc进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。
（a） 对Sena、Sensin和Omaha图像时行编码。
| 编码 | 压缩前 | 压缩后 | 压缩率 |
| Sena | 64.0 KB (65,536 字节) | 56.1 KB (57,503 字节) | 87.66% |
| Sensin | 64.0 KB (65,536 字节) | 0.2 KB (61,649 字节) | 94.06% |
| Omaha | 64.0 KB (65,536 字节); | 57.0 KB (58,374 字节) | 79.06% |
（b） 编写一段程序，得到相邻之差，然后利用huffman对差值图像进行编码。
我的答案：
3-4 一个信源从符号集A={a1, a2, a3, a4, a5}中选择字母，概率为P（a1）=0.15，P（a2）=0.04，P（a3）=0.26，P（a4）=0.05，P（a5）=0.50。
（a）计算这个信源的熵。
我的答案：
H=(-log20.15)*0.15+(-log20.04)*0.04+(-log20.26)*0.26+(-log20.05)*0.05+(-log20.5)*0.5
=1.817
（b）求这个信源的霍夫曼码。
我的答案：其概率由大到小排列为 0.50，0.26，0.15，0.05，0.04， 即 a５，a３，a１，a４，a２
第一次划分：0.50 ｜ 0.26，0.15，0.05，0.04
第二次划分：0.26 ｜ 0.15，0.05，0.04
第三次划分：0.15 ｜ 0.05，0.04
第四次划分：0.05 ｜ 0.04
故：a１的编码为 １１０
a２的编码为 １１１１
a３的编码为 １０
a４的编码为 １１１０
a５的编码为 ０
（c）求（b）中代码的平均长度及其冗余度。
平均长度为：l=1.87 冗余度为:l-H=0.053
3-5 一个符号集A={a1, a2, a3, a4,}，其概率为P（a1）=0.1，P（a2）=0.3，P（a3）=0.25，P（a4）=0.35，使用以下过程找出一种霍夫曼码：
（a）本章概述的第一种过程：
（b）最小方差过程。
(a) a1,a2,a3,a4这个信源按第一个过程得到的霍夫曼码为:a1=010 a2=00 a3=011 a4=1
(b)a1,a2,a3,a4这个信源按第二个过程得到的霍夫曼码为:a1=00 a2=10 a3=01 a4=11
两种编码的平均长度为:l=2
第一种的方差为:s12=(0.1+0.25)*(3-2)2+0.3*(2-2)2+0.35*(1-2)2=0.7
第二种的方差为:s22=(0.1+0.25+0.3+0.35)*(2-2)2=0
所以由上可知：根据最小方差过程：a1,a2,a3,a4的霍夫曼码为：a1=00 a2=10 a3=01 a4=11
解释这两种霍夫曼码的区别。
我的答案：两种编码的长度一样 但是第二种的方差比第一种的小为0，所以第二种的才是最优码。
2.参考书《数据压缩导论（第4版）》Page 30
6.在本书配套的数据中有几个图像和语音文件。
(a) 编写一段程序，计算其中一些图像和语音文件的一阶熵。
(b) 选择一个图像文件，计算其二阶熵。试解释一阶熵与二阶熵的差别。
他的一阶熵远远大于二阶熵。
(c) 对于(b)中所有的图像文件，计算其相邻像素之差的熵，试解释你的发现
第一题的程序老师已经给出下面是各种文件运行的调试结果
| 文件名 | 一阶熵 | 二阶熵 | 差分熵 |
| BERK.RAW | 7.151537 | 6.705169 | 8.976150 |
| EARTH.IMG | 4.770801 | 2.568358 | 3.962697 |
| GABE.RAW | 7.116338 | 6.654578 | 8.978236 |
| OMAHA.IMG | 6.942426 | 4.488626 | 6.286834 |
| SENA.IMG | 6.834299 | 3.625204 | 3.856899 |
| SENSIN.IMG | 7.317944 | 4.301673 | 4.541547 |
结论：RAW的差分熵>一阶熵>二阶熵、IMG格式的一阶熵>差分熵>二阶熵、