扫一扫
关注中图网
官方微博
本类五星书更多>
-
>
中医基础理论
-
>
高校军事课教程
-
>
思想道德与法治(2021年版)
-
>
毛泽东思想和中国特色社会主义理论体系概论(2021年版)
-
>
中医内科学·全国中医药行业高等教育“十四五”规划教材
-
>
中医诊断学--新世纪第五版
-
>
中药学·全国中医药行业高等教育“十四五”规划教材
信息论基础 版权信息
- ISBN：9787302640936
- 条形码：9787302640936 ; 978-7-302-64093-6
- 装帧：平装-胶订
- 册数：暂无
- 重量：暂无
- 所属分类：>
信息论基础 本书特色
（1）从零开始，深入浅出，易读性强，适合没有任何信息论基础的读者。
（2）夯实基础，注重概念，逻辑性强，详细分析讲解信息论的基本概念和原理。
（3）强调重点，突出难点，系统性强，细致比较剖析信息论中较难理解的概念和定理。
（4）融合案例，注重应用，实用性强，利用生活中的实例讲解信息论的基本概念和理论，便于读者透彻理解。
（5）重视概念，配以大量的例题和习题，便于工科和非数学专业的读者学习。
（5）提供丰富的教学资源，包括习题答案、PPT教案、微课视频等。
信息论基础 内容简介
本书重点介绍经典信息论的基本理论，覆盖了经典信息论的主要内容：离散信息和连续信息的度量、离散信源和连续信源、离散信道和连续信道及其容量以及无失真信源编码和限失真信源编码和有噪信道编码等重点内容。 本书深入浅出，表述简洁；概念清晰，系统性较强。考虑信息论基础理论性的同时又兼顾其易读性，注重基本知识的阐述，强调物理概念和理论的理解与掌握，配以大量的例题和习题便于工科和非数学专业的学生学习。本书可作为高等院校信息科学与信息技术相关专业本科生的信息论课程教材，亦可供从事人工智能、大数据分析与挖掘、通信、雷达、导航、计算机、系统工程、生物工程、管理工程等有关的科研和工程技术人员参考。
信息论基础 目录
第 1 章 绪论 1
1.1 信息的概念 1
1.2 通信系统模型 2
习题 3
第 2 章 离散信息的度量 4
2.1 概率论基本知识 4
2.1.1 样本空间与随机事件 4
2.1.2 概率的有关概念 5
2.1.3 全概率公式和贝叶斯公式 6
2.1.4 先验概率和后验概率 8
2.1.5 离散随机变量 9
2.1.6 离散随机变量的统计特性 11
2.2 信息度量方法的引入 12
2.3 自信息量和信息熵 13
2.3.1 自信息量的定义与含义 13
2.3.2 信息熵的定义与含义 15
2.4 联合自信息量与联合熵 17
2.4.1 联合自信息量 17
2.4.2 联合熵 19
2.5 互信息量与平均互信息量 21
2.5.1 条件自信息量 21
2.5.2 条件熵 22
2.5.3 互信息量的定义 24
2.5.4 互信息量性质 26
2.5.5 平均互信息量 29
2.6 熵的性质以及各种熵之间的关系 32
2.6.1 信息熵的性质 32
2.6.2 各种熵之间的关系 42
习题 46
第 3 章 离散信源及信源熵 50
3.1 随机过程基本知识 50
3.1.1 概率空间 50
3.1.2 随机过程 51
3.2 信源的数学模型和分类 54
3.2.1 信源的数学模型 54
3.2.2 信源分类 55
3.3 离散单符号信源 57
3.3.1 离散单符号信源的概念和数学模型 57
3.3.2 离散单符号信源的信息度量 58
3.4 离散多符号信源. 58
3.4.1 离散平稳信源的性质 59
3.4.2 常见的离散平稳信源 60
3.4.3 离散多符号信源的信源熵 61
3.4.4 离散平稳无记忆信源 61
3.4.5 离散平稳有记忆信源 68
3.4.6 一维离散平稳信源的信源熵 71
3.5 马尔可夫信源 73
3.5.1 有限状态马尔可夫链 73
3.5.2 齐次马尔可夫链及其平稳分布 76
3.5.3 齐次马尔可夫信源 81
3.5.4 m 阶齐次马尔可夫信源 88
3.6 信源的相关性和剩余度 93
3.6.1 信源的相关性 93
3.6.2 信源剩余度 95
习题 98
第 4 章 离散信道及其容量 102
4.1 信道的数学模型及其分类 102
4.1.1 信道的基本概念和研究方法 102
4.1.2 信道的数学模型 106
4.1.3 信道的分类 106
4.2 离散无记忆信道 107
4.2.1 离散信道的数学模型. 107
4.2.2 单符号离散信道 109
4.2.3 信道疑义度 111
4.3 离散信道中平均互信息量定理 113
4.3.1 固定信道的平均互信息量上凸函数定理 114
4.3.2 固定信源的平均互信息量下凸函数定理 115
4.4 离散无记忆扩展信道 119
4.4.1 离散无记忆扩展信道的定义 119
4.4.2 离散无记忆 N 次扩展信道的数学模型 119
4.4.3 多符号信道平均互信息量定理 122
4.4.4 N 次扩展信道平均互信息量定理 .128
4.5 信道容量 128
4.5.1 信道中平均互信息量的含义 129
4.5.2 信道容量的概念 131
4.5.3 离散无噪信道的信道容量 135
4.5.4 离散对称信道的信道容量 137
4.5.5 一般离散信道的信道容量 141
4.5.6 离散无记忆 N 次扩展信道的信道容量 147
习题 148
第 5 章 无失真信源编码 151
5.1 信源编码的相关概念 151
5.1.1 无失真信源编码的数学模型 151
5.1.2 信源编码的分类 153
5.1.3 即时码存在定理和构造方法 155
5.2 定长码及定长编码定理 156
5.2.1 唯一可译定长码存在的一般条件 156
5.2.2 定长编码定理 158
5.3 变长码和变长码定理 162
5.3.1 Kraft 不等式和 McMillan 不等式 163
5.3.2 唯一可译码的判别准则 164
5.3.3 紧致码平均码长界限定理 165
5.3.4 香农**定理（无失真变长信源编码定理） 169
5.4 变长码的编码方法 173
5.4.1 香农编码 173
5.4.2 香农-费诺-埃利斯编码 175
5.4.3 二元霍夫曼编码 175
5.4.4 r 元霍夫曼编码 178
习题 180
第 6 章 有噪信道编码 183
6.1 信道编码的基本概念 183
6.1.1 编码信道 183
6.1.2 错误概率的影响因素分析 184
6.1.3 译码规则 185
6.2 错误概率与编码方法 192
6.2.1 简单重复编码降低平均错误概率 193
6.2.2 消息符号个数 196
6.2.3 (5,2) 线性码 197
6.3 有噪信道编码定理 202
6.3.1 香农第二定理 202
6.3.2 有噪信道编码逆定理 .203
6.3.3 错误概率的上界 204
习题 205
第 7 章 限失真信源编码 207
7.1 失真测度 207
7.1.1 试验信道 208
7.1.2 失真函数 208
7.1.3 平均失真 211
7.2 信息率失真函数 212
7.2.1 保真度准则与允许信道 212
7.2.2 信息率失真函数的定义 212
7.3 信息率失真函数的性质 213
7.3.1 定义域 213
7.3.2 R(D) 是 D 的下凸函数 217
7.3.3 R(D) 是严格递减函数 218
7.3.4 R(D) 的典型曲线 219
7.4 信息率失真函数的计算 220
7.4.1 参量表示法求解 R(D) 220
7.4.2 参量表示法求解 R(D) 例题 226
7.5 限失真信源编码定理和逆定理 230
7.5.1 限失真信源编码定理（香农第三定理） 230
7.5.2 限失真信源编码逆定理 230
习题 230
第 8 章 连续信源和连续信道 232
8.1 连续随机变量的基础知识 232
8.1.1 连续随机变量与概率密度函数 232
8.1.2 联合概率密度函数与边缘概率密度函数 233
8.1.3 随机变量和的概率密度函数 233
8.2 连续信源的分类和统计特性 234
8.2.1 连续信源的分类 234
8.2.2 连续信源的统计特性. 234
8.3 连续随机变量的信息度量 236
8.3.1 连续随机变量的熵 236
8.3.2 连续随机变量的联合熵、条件熵和平均互信息量 239
8.4 连续信源的信息度量 243
8.4.1 单符号连续信源的熵 .243
8.4.2 多符号连续信源的熵. 244
8.4.3 波形信源的熵率 246
8.5 连续信源的*大熵 246
8.5.1 连续信源*大熵的数学模型 246
8.5.2 瞬时功率受限连续信源的*大熵 247
8.5.3 平均功率受限连续信源的*大熵 248
8.5.4 连续信源的熵功率 249
8.6 连续信道和波形信道 251
8.6.1 连续信道的分类 251
8.6.2 波形信道的分类 252
8.7 连续信道的平均互信息量 253
8.7.1 连续信道 253
8.7.2 加性信道 254
8.8 连续信道的信道容量 256
8.8.1 连续信道的信道容量定义 256
8.8.2 一维高斯加性信道的信道容量 256
8.8.3 一维非高斯加性信道的信道容量 257
8.8.4 多维无记忆高斯加性信道的信道容量 259
8.9 波形信道的信道容量 260
8.9.1 限带 AWGN 信道的信道容量 260
8.9.2 香农公式的意义 261
习题 263
附录 A 凸函数的概念 265
附录 B 吉布斯不等式 268
附录 C 信息熵是严格上凸函数 270
附录 D 马尔可夫链转移概率的渐近性质 272
附录 E 渐近等同分割性和 典型序列 276
附录 F 有噪信道编码定理证明 280
参考文献 285
1.1 信息的概念 1
1.2 通信系统模型 2
习题 3
第 2 章 离散信息的度量 4
2.1 概率论基本知识 4
2.1.1 样本空间与随机事件 4
2.1.2 概率的有关概念 5
2.1.3 全概率公式和贝叶斯公式 6
2.1.4 先验概率和后验概率 8
2.1.5 离散随机变量 9
2.1.6 离散随机变量的统计特性 11
2.2 信息度量方法的引入 12
2.3 自信息量和信息熵 13
2.3.1 自信息量的定义与含义 13
2.3.2 信息熵的定义与含义 15
2.4 联合自信息量与联合熵 17
2.4.1 联合自信息量 17
2.4.2 联合熵 19
2.5 互信息量与平均互信息量 21
2.5.1 条件自信息量 21
2.5.2 条件熵 22
2.5.3 互信息量的定义 24
2.5.4 互信息量性质 26
2.5.5 平均互信息量 29
2.6 熵的性质以及各种熵之间的关系 32
2.6.1 信息熵的性质 32
2.6.2 各种熵之间的关系 42
习题 46
第 3 章 离散信源及信源熵 50
3.1 随机过程基本知识 50
3.1.1 概率空间 50
3.1.2 随机过程 51
3.2 信源的数学模型和分类 54
3.2.1 信源的数学模型 54
3.2.2 信源分类 55
3.3 离散单符号信源 57
3.3.1 离散单符号信源的概念和数学模型 57
3.3.2 离散单符号信源的信息度量 58
3.4 离散多符号信源. 58
3.4.1 离散平稳信源的性质 59
3.4.2 常见的离散平稳信源 60
3.4.3 离散多符号信源的信源熵 61
3.4.4 离散平稳无记忆信源 61
3.4.5 离散平稳有记忆信源 68
3.4.6 一维离散平稳信源的信源熵 71
3.5 马尔可夫信源 73
3.5.1 有限状态马尔可夫链 73
3.5.2 齐次马尔可夫链及其平稳分布 76
3.5.3 齐次马尔可夫信源 81
3.5.4 m 阶齐次马尔可夫信源 88
3.6 信源的相关性和剩余度 93
3.6.1 信源的相关性 93
3.6.2 信源剩余度 95
习题 98
第 4 章 离散信道及其容量 102
4.1 信道的数学模型及其分类 102
4.1.1 信道的基本概念和研究方法 102
4.1.2 信道的数学模型 106
4.1.3 信道的分类 106
4.2 离散无记忆信道 107
4.2.1 离散信道的数学模型. 107
4.2.2 单符号离散信道 109
4.2.3 信道疑义度 111
4.3 离散信道中平均互信息量定理 113
4.3.1 固定信道的平均互信息量上凸函数定理 114
4.3.2 固定信源的平均互信息量下凸函数定理 115
4.4 离散无记忆扩展信道 119
4.4.1 离散无记忆扩展信道的定义 119
4.4.2 离散无记忆 N 次扩展信道的数学模型 119
4.4.3 多符号信道平均互信息量定理 122
4.4.4 N 次扩展信道平均互信息量定理 .128
4.5 信道容量 128
4.5.1 信道中平均互信息量的含义 129
4.5.2 信道容量的概念 131
4.5.3 离散无噪信道的信道容量 135
4.5.4 离散对称信道的信道容量 137
4.5.5 一般离散信道的信道容量 141
4.5.6 离散无记忆 N 次扩展信道的信道容量 147
习题 148
第 5 章 无失真信源编码 151
5.1 信源编码的相关概念 151
5.1.1 无失真信源编码的数学模型 151
5.1.2 信源编码的分类 153
5.1.3 即时码存在定理和构造方法 155
5.2 定长码及定长编码定理 156
5.2.1 唯一可译定长码存在的一般条件 156
5.2.2 定长编码定理 158
5.3 变长码和变长码定理 162
5.3.1 Kraft 不等式和 McMillan 不等式 163
5.3.2 唯一可译码的判别准则 164
5.3.3 紧致码平均码长界限定理 165
5.3.4 香农**定理（无失真变长信源编码定理） 169
5.4 变长码的编码方法 173
5.4.1 香农编码 173
5.4.2 香农-费诺-埃利斯编码 175
5.4.3 二元霍夫曼编码 175
5.4.4 r 元霍夫曼编码 178
习题 180
第 6 章 有噪信道编码 183
6.1 信道编码的基本概念 183
6.1.1 编码信道 183
6.1.2 错误概率的影响因素分析 184
6.1.3 译码规则 185
6.2 错误概率与编码方法 192
6.2.1 简单重复编码降低平均错误概率 193
6.2.2 消息符号个数 196
6.2.3 (5,2) 线性码 197
6.3 有噪信道编码定理 202
6.3.1 香农第二定理 202
6.3.2 有噪信道编码逆定理 .203
6.3.3 错误概率的上界 204
习题 205
第 7 章 限失真信源编码 207
7.1 失真测度 207
7.1.1 试验信道 208
7.1.2 失真函数 208
7.1.3 平均失真 211
7.2 信息率失真函数 212
7.2.1 保真度准则与允许信道 212
7.2.2 信息率失真函数的定义 212
7.3 信息率失真函数的性质 213
7.3.1 定义域 213
7.3.2 R(D) 是 D 的下凸函数 217
7.3.3 R(D) 是严格递减函数 218
7.3.4 R(D) 的典型曲线 219
7.4 信息率失真函数的计算 220
7.4.1 参量表示法求解 R(D) 220
7.4.2 参量表示法求解 R(D) 例题 226
7.5 限失真信源编码定理和逆定理 230
7.5.1 限失真信源编码定理（香农第三定理） 230
7.5.2 限失真信源编码逆定理 230
习题 230
第 8 章 连续信源和连续信道 232
8.1 连续随机变量的基础知识 232
8.1.1 连续随机变量与概率密度函数 232
8.1.2 联合概率密度函数与边缘概率密度函数 233
8.1.3 随机变量和的概率密度函数 233
8.2 连续信源的分类和统计特性 234
8.2.1 连续信源的分类 234
8.2.2 连续信源的统计特性. 234
8.3 连续随机变量的信息度量 236
8.3.1 连续随机变量的熵 236
8.3.2 连续随机变量的联合熵、条件熵和平均互信息量 239
8.4 连续信源的信息度量 243
8.4.1 单符号连续信源的熵 .243
8.4.2 多符号连续信源的熵. 244
8.4.3 波形信源的熵率 246
8.5 连续信源的*大熵 246
8.5.1 连续信源*大熵的数学模型 246
8.5.2 瞬时功率受限连续信源的*大熵 247
8.5.3 平均功率受限连续信源的*大熵 248
8.5.4 连续信源的熵功率 249
8.6 连续信道和波形信道 251
8.6.1 连续信道的分类 251
8.6.2 波形信道的分类 252
8.7 连续信道的平均互信息量 253
8.7.1 连续信道 253
8.7.2 加性信道 254
8.8 连续信道的信道容量 256
8.8.1 连续信道的信道容量定义 256
8.8.2 一维高斯加性信道的信道容量 256
8.8.3 一维非高斯加性信道的信道容量 257
8.8.4 多维无记忆高斯加性信道的信道容量 259
8.9 波形信道的信道容量 260
8.9.1 限带 AWGN 信道的信道容量 260
8.9.2 香农公式的意义 261
习题 263
附录 A 凸函数的概念 265
附录 B 吉布斯不等式 268
附录 C 信息熵是严格上凸函数 270
附录 D 马尔可夫链转移概率的渐近性质 272
附录 E 渐近等同分割性和 典型序列 276
附录 F 有噪信道编码定理证明 280
参考文献 285
展开全部
信息论基础 作者简介
翟明岳，本科毕业于吉林大学，硕士毕业于中国石油大学，博士毕业于北京邮电大学。先后工作于地矿部华东石油地质局、北京侏罗纪石油软件开发公司、华北电力大学（2003年至今）。2008年，加州大学伯克利分校博士后；2015年，美国A&M大学访问学者。中国电子学会普通会员、中国通信学会高级会员。主持2项国家自然科学基金项目，主持4项省部级重点项目，主持多项横向课题。
书友推荐
- >
巴金－再思录
巴金－再思录
¥17.9¥46.0 - >
苦雨斋序跋文-周作人自编集
苦雨斋序跋文-周作人自编集
¥6.9¥16.0 - >
二体千字文
二体千字文
¥14.0¥40.0 - >
莉莉和章鱼
莉莉和章鱼
¥17.6¥42.0 - >
随园食单
随园食单
¥15.4¥48.0 - >
中国人在乌苏里边疆区:历史与人类学概述
中国人在乌苏里边疆区:历史与人类学概述
¥26.4¥48.0 - >
罗庸西南联大授课录
罗庸西南联大授课录
¥17.6¥32.0 - >
回忆爱玛侬
回忆爱玛侬
¥11.5¥32.8
