信息:消息中包含的有效内容
度量信息量的原则:
- 能度量任何消息,并且与消息的种类无关。
- 度量方法应该与消息的重要程度无关。
- 消息中所含信息量与消息内容的不确定性有关。
消息所表达的事件越不可能发生,信息量越大。
度量信息量的方法:
事件的不确定程度可以用其出现的概率来描述。
消息出现的概率越小,则消息中包含的信息量就越大。
信息量的定义:
在工程应用中,习惯将一个二进制码元称作1比特。
用熵的概念:
连续消息的信息量:
通信系统主要性能指标:
模拟通信系统
数字通信系统
消息所表达的事件越不可能发生,信息量越大。
事件的不确定程度可以用其出现的概率来描述。
消息出现的概率越小,则消息中包含的信息量就越大。
在工程应用中,习惯将一个二进制码元称作1比特。