- 科学出版社
- 9787030291585
- 2版
- 402895
- 48242326-6
- 平装
- 小16开
- 2010-10
- 315
- 256
- 工学
- 信息与通信工程
- TN911.2
- 信息工程
- 本科
内容简介
本书主要介绍信息论和编码理论的基本内容， 其特点是简明扼要， 可读性强， 既具有较严谨的数学描述与推导， 又注意到信息论的实用背景， 其中许多典型问题已在通信工程中得到实际应用.
全书共分12章. 主要内容包括：信息的度量、信源编码、信道编码定理、编码理论中用到的基本抽象代数知识、编码理论的基本概念和基本问题、线性码、Hamming码、循环码、
CH码、
eed-Solomon码、Golay码、
eed-Mulle
码、平方剩余码、Goppa码以及信息论和编码理论的应用. 本书每章末均附有习题， 其中部分习题是对正文内容的补充.
本书可作为高等院校信息科学专业、计算机科学专业、通信专业以及相关专业的本科生教材， 也可供相关领域的研究生、教学与科研人员， 以及工程技术人员参考.
全书共分12章. 主要内容包括：信息的度量、信源编码、信道编码定理、编码理论中用到的基本抽象代数知识、编码理论的基本概念和基本问题、线性码、Hamming码、循环码、
CH码、
eed-Solomon码、Golay码、
eed-Mulle
码、平方剩余码、Goppa码以及信息论和编码理论的应用. 本书每章末均附有习题， 其中部分习题是对正文内容的补充.
本书可作为高等院校信息科学专业、计算机科学专业、通信专业以及相关专业的本科生教材， 也可供相关领域的研究生、教学与科研人员， 以及工程技术人员参考.
目录
第1 章引言. 1
1.1 信息论的发展概况. 1
1.1.1 信息论的早期酝酿1
1.1.2 Shannon 信息论的建立与发展. 2
1.1.3 信息论的近期发展4
1.1.4 信息论在信息技术领域中的应用. 5
1.2 信息论与编码理论的主要内容. 7
1.2.1 信息的度量问题7
1.2.2 通信系统的基本模型8
1.2.3 通信系统中信息的传递过程. .9
1.2.4 通信系统的概率统计模型. .9
1.2.5 通信系统的序列模型.12
1.3 本书内容简介与文献介绍. 13
1.3.1 内容简介. 14
1.3.2 有关著作和文献介绍.14
1.3.3 对有关记号的说明. 16
习题1 17
第一部分信息论
第2 章信息量. .18
2.1 熵. 18
2.1.1 离散随机变量的不肯定性.18
2.1.2 不肯定性的特征与表示.19
2.1.3 熵的简单性质与例子.23
2.2 联合熵和条件熵.24
2.2.1 联合熵的记号. 24
2.2.2 条件熵的定义与性质.25
2.3 熵的基本性质. 28
2.3.1 对数函数的基本不等式与熵函数的最大值28
2.3.2 熵函数的可加性. 30
2.3.3 Fano 不等式32
2.4 互熵与互信息. 32
2.4.1 互熵. 33
2.4.2 互信息. 33
2.4.3 条件互信息. 34
2.5 凸函数及其应用.35
2.5.1 凸函数的定义与它的判别.35
2.5.2 Jenson 不等式与它的应用36
2.6 连续型随机变量的信息量. 38
2.6.1 连续型随机变量的Shannon 熵. 38
2.6.2 多维连续型随机变量的Shannon 熵. 39
2.6.3 其他连续型随机变量的信息量42
2.7 最大熵原理. 43
2.7.1 有限区间情形的最大熵.43
2.7.2 半开区间情形的最大熵.44
2.7.3 全直线情形的最大熵.45
2.7.4 多维连续型随机变量的最大熵46
习题2 47
第3 章信源编码. 51
3.1 信源编码问题. 51
3.1.1 信源编码. 51
3.1.2 定长编码与变长编码.51
3.1.3 信源变长码的编码问题.53
3.1.4 信源序列的定长编码问题.54
3.2 前缀码和即时码.56
3.2.1 唯一可译变长码的构造.56
3.2.2 K
aft 不等式. .57
3.3 信源变长码的编码定理. 60
3.3.1 最优变长码平均码长的下界估计61
3.3.2 最优变长码平均码长的上界估计62
3.3.3 无记忆信源平均码长的上界和下界估计63
3.4 Hu&
eg;man 信源编码算法. .63
3.4.1 Hu&
eg;man 编码的实例分析64
3.4.2 Hu&
eg;man 编码的一般算法65
3.5 Hu&
eg;man 信源编码性能分析. 67
3.5.1 Hu&
eg;man 编码的前缀性67
3.5.2 Hu&
eg;man 编码的最优性68
3.6 信源定长码的编码定理. 74
习题3 78
第4 章信道编码定理.80
4.1 信道编码问题. 80
4.1.1 通信系统的编码误差.80
4.1.2 信道序列的编码问题.82
4.2 离散无记忆信道.83
4.2.1 离散无记忆信道的一般定义83
4.2.2 几种特殊的离散无记忆信道84
4.3 无记忆信道的信道容量. 87
4.3.1 信道容量的一般定义.87
4.3.2 无记忆信道序列的容量性质90
4.4 信道容量的计算.93
4.4.1 凸函数的极大值性质.93
4.4.2 信道容量的计算. 97
4.5 信道的编码和译码问题102
4.6 信道的正编码定理和反编码定理. 106
4.7 可加高斯（Gaussian） 信道. .113
习题4 .115
第二部分抽象代数
第5 章抽象代数的基本知识117
5.1 群117
5.2 环和域. 121
5.3 理想和商环123
5.4 域上的多项式124
5.5 有限域. 130
5.6 域上的线性代数. .134
习题5 .138
第三部分编码理论
第6 章编码理论的基本知识140
6.1 码的基本概念140
6.1.1 码的定义140
6.1.2 Hamming 距离和Hamming 重量141
6.1.3 译码策略142
6.1.4 系统码142
6.2 码的检错和纠错能力.143
6.3 编码理论的基本问题.145
6.3.1 码的等价变换146
6.3.2 编码理论的一些界. .149
习题6 .154
第7 章线性码.156
7.1 线性码的定义156
7.2 线性码的对偶码.157
7.3 线性码的译码方法. 161
7.4 线性码的重量分布. 164
习题7 .168
第8 章Hamming 码. 171
8.1 Hamming 码的定义171
8.2 Hamming 码的性质172
8.3 Hamming 码的译码方法. 172
8.4 二元Hamming 码的对偶码175
习题8 .177
第9 章循环码.179
9.1 循环码的定义179
9.2 循环码的性质181
9.3 循环码的校验矩阵及其对偶码. 184
9.4 循环码的编码方法. 188
9.5 循环码的检错性能. 189
习题9 .190
第10 章
CH 码和
eed-Solomon 码193
10.1
CH 码及其基本性质.193
10.2
eed-Solomon 码及其基本性质. 197
10.3
CH 码和
eed-Solomon 码的译码方法.198
10.4
eed-Solomon 码和最大距离可分码的重量分布. 202
习题10. .203
第11 章几种重要的线性码. 205
11.1 Golay 码205
11.2
eed-Mulle
码. .206
11.2.1 布尔函数. 207
11.2.2
eed-Mulle
码. 209
11.3 平方剩余码. 210
11.4 Goppa 码. 211
习题11. .212
第四部分信息论和编码理论的应用
第12 章若干应用问题214
12.1 有失真的数据压缩214
12.1.1 有失真信源编码问题.214
12.1.2 有失真信源的率失真函数215
12.1.3 有失真信源编码的可达速率216
12.1.4 率失真函数的计算.217
12.1.5 有失真信源编码定理.219
12.1.6 数据压缩问题概述.219
12.1.7 数据压缩问题的实例分析219
12.1.8 数据压缩技术的主要分析指标222
12.2 卷积码理论及其应用. .223
12.2.1 卷积码的构造. 224
12.2.2 卷积码的树结构.226
12.2.3 卷积码的译码算法.228
12.2.4 卷积码的应用. 231
12.3 几种实用的编码问题. .232
12.3.1 汉字编码. 232
12.3.2 计算机代码. 234
12.3.3 图形码. 235
习题12. .236
主要参考文献238
1.1 信息论的发展概况. 1
1.1.1 信息论的早期酝酿1
1.1.2 Shannon 信息论的建立与发展. 2
1.1.3 信息论的近期发展4
1.1.4 信息论在信息技术领域中的应用. 5
1.2 信息论与编码理论的主要内容. 7
1.2.1 信息的度量问题7
1.2.2 通信系统的基本模型8
1.2.3 通信系统中信息的传递过程. .9
1.2.4 通信系统的概率统计模型. .9
1.2.5 通信系统的序列模型.12
1.3 本书内容简介与文献介绍. 13
1.3.1 内容简介. 14
1.3.2 有关著作和文献介绍.14
1.3.3 对有关记号的说明. 16
习题1 17
第一部分信息论
第2 章信息量. .18
2.1 熵. 18
2.1.1 离散随机变量的不肯定性.18
2.1.2 不肯定性的特征与表示.19
2.1.3 熵的简单性质与例子.23
2.2 联合熵和条件熵.24
2.2.1 联合熵的记号. 24
2.2.2 条件熵的定义与性质.25
2.3 熵的基本性质. 28
2.3.1 对数函数的基本不等式与熵函数的最大值28
2.3.2 熵函数的可加性. 30
2.3.3 Fano 不等式32
2.4 互熵与互信息. 32
2.4.1 互熵. 33
2.4.2 互信息. 33
2.4.3 条件互信息. 34
2.5 凸函数及其应用.35
2.5.1 凸函数的定义与它的判别.35
2.5.2 Jenson 不等式与它的应用36
2.6 连续型随机变量的信息量. 38
2.6.1 连续型随机变量的Shannon 熵. 38
2.6.2 多维连续型随机变量的Shannon 熵. 39
2.6.3 其他连续型随机变量的信息量42
2.7 最大熵原理. 43
2.7.1 有限区间情形的最大熵.43
2.7.2 半开区间情形的最大熵.44
2.7.3 全直线情形的最大熵.45
2.7.4 多维连续型随机变量的最大熵46
习题2 47
第3 章信源编码. 51
3.1 信源编码问题. 51
3.1.1 信源编码. 51
3.1.2 定长编码与变长编码.51
3.1.3 信源变长码的编码问题.53
3.1.4 信源序列的定长编码问题.54
3.2 前缀码和即时码.56
3.2.1 唯一可译变长码的构造.56
3.2.2 K
aft 不等式. .57
3.3 信源变长码的编码定理. 60
3.3.1 最优变长码平均码长的下界估计61
3.3.2 最优变长码平均码长的上界估计62
3.3.3 无记忆信源平均码长的上界和下界估计63
3.4 Hu&
eg;man 信源编码算法. .63
3.4.1 Hu&
eg;man 编码的实例分析64
3.4.2 Hu&
eg;man 编码的一般算法65
3.5 Hu&
eg;man 信源编码性能分析. 67
3.5.1 Hu&
eg;man 编码的前缀性67
3.5.2 Hu&
eg;man 编码的最优性68
3.6 信源定长码的编码定理. 74
习题3 78
第4 章信道编码定理.80
4.1 信道编码问题. 80
4.1.1 通信系统的编码误差.80
4.1.2 信道序列的编码问题.82
4.2 离散无记忆信道.83
4.2.1 离散无记忆信道的一般定义83
4.2.2 几种特殊的离散无记忆信道84
4.3 无记忆信道的信道容量. 87
4.3.1 信道容量的一般定义.87
4.3.2 无记忆信道序列的容量性质90
4.4 信道容量的计算.93
4.4.1 凸函数的极大值性质.93
4.4.2 信道容量的计算. 97
4.5 信道的编码和译码问题102
4.6 信道的正编码定理和反编码定理. 106
4.7 可加高斯（Gaussian） 信道. .113
习题4 .115
第二部分抽象代数
第5 章抽象代数的基本知识117
5.1 群117
5.2 环和域. 121
5.3 理想和商环123
5.4 域上的多项式124
5.5 有限域. 130
5.6 域上的线性代数. .134
习题5 .138
第三部分编码理论
第6 章编码理论的基本知识140
6.1 码的基本概念140
6.1.1 码的定义140
6.1.2 Hamming 距离和Hamming 重量141
6.1.3 译码策略142
6.1.4 系统码142
6.2 码的检错和纠错能力.143
6.3 编码理论的基本问题.145
6.3.1 码的等价变换146
6.3.2 编码理论的一些界. .149
习题6 .154
第7 章线性码.156
7.1 线性码的定义156
7.2 线性码的对偶码.157
7.3 线性码的译码方法. 161
7.4 线性码的重量分布. 164
习题7 .168
第8 章Hamming 码. 171
8.1 Hamming 码的定义171
8.2 Hamming 码的性质172
8.3 Hamming 码的译码方法. 172
8.4 二元Hamming 码的对偶码175
习题8 .177
第9 章循环码.179
9.1 循环码的定义179
9.2 循环码的性质181
9.3 循环码的校验矩阵及其对偶码. 184
9.4 循环码的编码方法. 188
9.5 循环码的检错性能. 189
习题9 .190
第10 章
CH 码和
eed-Solomon 码193
10.1
CH 码及其基本性质.193
10.2
eed-Solomon 码及其基本性质. 197
10.3
CH 码和
eed-Solomon 码的译码方法.198
10.4
eed-Solomon 码和最大距离可分码的重量分布. 202
习题10. .203
第11 章几种重要的线性码. 205
11.1 Golay 码205
11.2
eed-Mulle
码. .206
11.2.1 布尔函数. 207
11.2.2
eed-Mulle
码. 209
11.3 平方剩余码. 210
11.4 Goppa 码. 211
习题11. .212
第四部分信息论和编码理论的应用
第12 章若干应用问题214
12.1 有失真的数据压缩214
12.1.1 有失真信源编码问题.214
12.1.2 有失真信源的率失真函数215
12.1.3 有失真信源编码的可达速率216
12.1.4 率失真函数的计算.217
12.1.5 有失真信源编码定理.219
12.1.6 数据压缩问题概述.219
12.1.7 数据压缩问题的实例分析219
12.1.8 数据压缩技术的主要分析指标222
12.2 卷积码理论及其应用. .223
12.2.1 卷积码的构造. 224
12.2.2 卷积码的树结构.226
12.2.3 卷积码的译码算法.228
12.2.4 卷积码的应用. 231
12.3 几种实用的编码问题. .232
12.3.1 汉字编码. 232
12.3.2 计算机代码. 234
12.3.3 图形码. 235
习题12. .236
主要参考文献238
