信息论讲座PDF电子书下载

1．通信与信息 1

1.1 信息技术和信息论的发展史 1

1.2 物质、能量和信息 3

1.3 通信系统 5

1.4 编码和译码 8

1.5 消息和信息的提取 9

2．信息源和信息量 11

2.1 信息与认识 11

2.2 信息源 13

2.3 信息量 15

2.4 信息的组合 17

2.5 信息源的熵和信码的平均信息量 19

2.6 日常语言的熵和多余度 21

3．通信的可靠性 26

3.1 噪声与干扰 26

3.2 抗噪声干扰的一些方法 29

3.3 纠错码 31

4．信道容量和信道定理 34

4.1 传信率和码的效率 34

4.2 信道容量 40

4.3 无噪声信道的信道定理 41

4.4 有噪声信道的信道容量和信道定理 42

4.5 失真和保真度 46

5.信号的分析和处理 49

5.1 滤波 49

5.2 信号的检测 50

5.3 信号估计 51

6.广义信息论 53

6.1 广义信息 53

6.2 语义信息 55

6.3 信息加工的可逆性与不可逆性 57

6.4 信息化时代 59