信息与编码理论 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

杨晓萍　 编

图书标签:

• 信息论
• 编码理论
• 通信原理
• 信源编码
• 信道编码
• 纠错编码
• 信息安全
• 数字通信
• 数据压缩
• 密码学

出版社： 电子工业出版社

ISBN：9787121288920

版次：1

商品编码：11950928

包装：平装

丛书名： 通信网络精品图书

开本：16开

出版时间：2016-05-01

用纸：胶版纸

页数：224

字数：358400

正文语种：中文

编辑推荐

适读人群 ：本书可作为理工科高等院校电子信息类、通信工程及相关专业的研究生、本科生的教材，也可供相关专业的科技人员学习参考。

本书作者主要从事通信网络数据传输的优化控制方向的科研项目，从事信息论与编码技术这门课程的学工作已有16年，积累了较为丰富的教学经验。在教材编写中，作者加入了适量的实现流程图和编程，为理论到应用搭建了一座桥梁，使学生对课程的理解更为深入，对实际编码不再感觉神秘。

内容简介

本书系统讲述了信息论及编码的基础理论和方法，主要包括离散信源及熵、离散信道及信道容量、离散信源编码与香农**定理、离散信道与香农第二定理、连续信源与连续信道、率失真函数、香农第三定理等。采用较多的通信和信息系统相关的背景例题和图示阐述基本概念，注重编码理论、编码方法的实现过程的教学内容编写，给出重要算法的实现流程图，并附有编程算法的实现程序，便于读者对课程的理解和应用。

作者简介

杨晓萍：博士，吉林大学通信工程学院教授，吉林省通信学会会员。承担的主要科研、教学项目有：“控制系统的分析和综合”，国家杰出青年科学基金，2008.1-2011.12，第1主要参加人； “高速公路车辆智能驾驶中的关键科学问题研究”，国家自然科学基金重大计划重点项目，2009.1-2012.12，子项目负责人；“电机、电器及可编程序控制器理论与实践教程”，吉林大学（九五规划教材立项），负责人； “《信息论》课程建设”，吉林大学研究生核心课程建设项目，2010.6-2012.5，负责人。同时还承担本科和研究生的教学任务。已出版教材３部，发表论文数篇。

目录

目 录
第1章 绪论 1
1．1 信息的概念 1
1．2 信息论的研究对象、目的和内容 3
1．2．1 研究对象 3
1．2．2 研究目的 5
1．2．3 研究内容 5
第2章 信息的测度 7
2．1 自信息 7
2．2 平均自信息 9
2．2．1 平均自信息的概念 9
2．2．2 熵的物理意义 10
2．3 熵函数的性质 11
2．3．1 对称性 12
2．3．2 确定性 12
2．3．3 非负性 13
2．3．4 扩展性 13
2．3．5 连续性 13
2．3．6 可加性 13
2．3．7 强可加性 14
2．3．8 极值性 15
2．3．9 上凸性 16
2．4 互信息和平均互信息 16
2．4．1 互信息 16
2．4．2 平均互信息 17
2．4．3 平均互信息的性质 19
2．4．4 平均条件互信息 21
思考题 21
习题 22
第3章 离散信源熵 24
3．1 信源分类及数学模型 24
3．1．1 离散信源 24
3．1．2 连续信源 25
3．1．3 信源分类 25
3．2 离散信源熵的计算 26
3．3 离散无记忆扩展信源 27
3．4 离散平稳信源 30
3．4．1 离散平稳信源的数学定义 30
3．4．2 二维离散平稳信源及其信息熵 31
3．4．3 离散平稳信源的极限熵 34
3．5 马尔可夫信源 35
3．5．1 马尔可夫信源的定义 36
3．5．2 马尔可夫信源的熵 38
3．6 信源的相关性和剩余度 39
3．6．1 实际离散信源的不同模型近似过程 40
3．6．2 信源剩余度 40
思考题 42
习题 42
第4章 离散信道及信道容量 44
4．1 信道模型及其分类 44
4．1．1 信道模型 44
4．1．2 信道分类 45
4．2 离散单符号信道及其信道容量 46
4．2．1 离散单符号信道的数学模型 46
4．2．2 离散信道各种概率间的关系式 47
4．2．3 信道中平均互信息的物理意义 47
4．2．4 信道中条件熵的物理意义 48
4．2．5 信道容量的概念 49
4．2．6 几种特殊信道的信道容量 50
4．2．7 离散对称信道的信道容量 52
4．2．8 利用信道容量定理求解信道容量 55
4．3 离散多符号信道及其信道容量 57
4．3．1 离散多符号信道的数学模型 57
4．3．2 离散多符号信道的信道容量 58
4．4 组合信道及其信道容量 60
4．4．1 独立并联信道 60
4．4．2 级联信道 61
4．5 信源与信道的匹配和信道剩余度 62
思考题 63
习题 63
第5章 无失真信源编码 66
5．1 信源编码的一般概念 66
5．1．1 编码器的构成 66
5．1．2 常用信源编码的概念 67
5．1．3 即时码的树图构造法 71
5．2 定长码和定长信源编码定理 73
5．2．1 定长码 73
5．2．2 定长编码定理 74
5．2．3 编码效率 75
5．3 变长码和变长信源编码定理 77
5．3．1 克拉夫特（Kraft）不等式 77
5．3．2 唯一可译变长码的判别方法 78
5．3．3 平均码长 81
5．3．4 信源变长编码定理 82
5．3．5 无失真变长信源编码定理 83
5．3．6 编码效率 84
5．4 典型的变长编码方法 86
5．4．1 香农码 86
5．4．2 霍夫曼码 87
5．4．3 费诺码 93
5．4．4 香农-费诺-埃利斯码 95
思考题 97
习题 98
第6章 有噪信道编码 101
6．1 信道编码的一般概念 101
6．1．1 编码信道 101
6．1．2 信道编码的概念 102
6．1．3 差错控制的基本方式 102
6．2 信道译码的选取规则 104
6．2．1 影响平均错误概率的因素 105
6．2．2 译码规则的选取准则 105
6．2．3 费诺不等式 108
6．3 信道编码的选取规则 110
6．3．1 简单重复编码 110
6．3．2 信道编码的选取 112
6．3．3 （5，2）线性码 113
6．3．4 码的最小距离 115
6．3．5 最小距离译码准则 116
6．4 有噪信道编码定理 117
6．5 纠错码原理 118
6．5．1 检错与纠错原理 119
6．5．2 检错与纠错能力 119
6．6 线性分组码 121
6．6．1 线性分组码的基本概念 121
6．6．2 线性分组码的编码 123
6．6．3 线性分组码的性质 127
6．6．4 线性分组码的译码 129
6．6．5 汉明码 137
思考题 142
习题 142
第7章 连续信源熵和连续信道容量 146
7．1 连续信源的差熵 146
7．1．1 一维连续信源的差熵 146
7．1．2 N维连续信源的差熵 149
7．1．3 典型连续信源的差熵 150
7．2 连续信源最大差熵定理 151
7．2．1 峰值受限条件下连续信源的最大熵 152
7．2．2 平均功率受限条件下连续信源的最大熵 152
7．3 连续信源熵的性质 153
7．3．1 可负性 153
7．3．2 可加性 153
7．3．3 极值性 154
7．3．4 上凸性 154
7．3．5 变换性 154
7．4 连续信道的平均互信息及性质 157
7．4．1 连续信道分类及数学模型 157
7．4．2 连续信道的平均互信息 160
7．4．3 连续信道平均互信息的性质 161
7．5 连续信道的信道容量 164
7．5．1 单符号高斯噪声加性信道 164
7．5．2 多维无记忆高斯噪声加性信道 165
7．5．3 加性高斯白噪声波形信道 169
思考题 171
习题 172
第8章 限失真信源编码 174
8．1 信源失真测度 174
8．1．1 单符号信源失真度 174
8．1．2 信源符号序列失真度 176
8．1．3 平均失真度 177
8．1．4 信源符号序列的平均失真度 178
8．2 信息率失真函数 178
8．2．1 保真度准则 178
8．2．2 信息率失真函数定义 179
8．2．3 信息率失真函数性质 180
8．3 典型率失真函数的计算 185
8．3．1 离散对称信源的R(D)函数 185
8．3．2 连续信源的 R (D ) 函数 188
8．4 限失真信源编码定理 193
思考题 194
习题 194
附录A Jensen不等式 196
附录B 熵函数的函数表 198
附录C 实验内容和程序 200
C．1 唯一可译码判决准则 200
C．2 Huffman编码 205
C．3 （7，4）线性分组码 210
参考文献 214

前言/序言

前 言

《信息与编码理论》是吉林大学本科“十二五”规划的立项教材。编者根据“信息与编码”教学体系改革和电子信息、通信类人才培养的需要，经过对本门课程的潜心研究和分析编写了本书。

“信息与编码”是信息、通信、电子工程类专业的基础课程，随着社会发展信息化的不断加强，要求信息相关类的学生和科技人员必须掌握信息与编码方面的相关知识。

不同院校不同专业对信息与编码课程的教学要求相差很大，本书同时兼顾了基础教学和应用。教材编写选材时注意满足课堂教学和课后自学相结合的教学模式的需要。内容主要阐述香农框架下的信息理论，围绕香农的三大定理展开论述，主要包括无失真变长信源编码定理、有噪信道编码定理和限失真信源编码定理，重点讨论信息的测度、信源模型与信源熵、信道模型与信道容量、信源编码和信道编码技术及相应的编码方法等。教学总学时为40～60学时。

本书编写具有以下特点：

① 对于无失真信源编码和信道编码，在详细讨论编码理论和方法的基础上，增加其方法实现的内容，有利于引导读者完成本课程知识的运用和理解；

② 精选教材例题，尽可能选择具有信息和通信专业背景的实例，使读者直接感受到本门课程的理论知识在自己所学专业中的应用，培养自觉运用所学知识解决问题的能力；

③ 本书每章后面不仅附有习题，还对重点节及知识点编写了思考题，以加深对基本概念的理解，注重读者运用信息理论知识对于实际问题的分析与解决能力的训练。

本书共分8章，第1章、第2章、第3章、附录C由高博编写，第4章由姚桂锦编写，6.5节、6.6节由钱志鸿编写，余下的第5章、6.1～6.4节、第7章、第8章、各章思考题及习题、附录A和附录B由杨晓萍编写，全书由杨晓萍担任主编。

本书在撰写和出版过程中，得到了通信工程学院和电子工程系领导的支持，同时还得到了同仁们的指导和帮助，在此表示深深的谢意！电子工业出版社的宋梅编审在本书的策划和审阅过程中提出了宝贵的建设性意见，在本书的编写出版过程中给予了热情的鼓励和支持，我们在此一并表示衷心感谢。

本书的编写得到了吉林大学本科“十二五”规划教材项目的资助。

限于作者水平，书中难免存在不足和疏漏之处，殷切希望广大读者批评指正。

编　者

2016年5月于长春

《宇宙深处的低语：穿越时空的信息之歌》 在这浩瀚无垠的宇宙图景中，信息如同最古老也最活跃的生命脉动，穿梭于星辰大海之间，编织着宇宙万物的秩序与故事。从黑洞边缘那无声的倾诉，到量子纠缠的瞬息万息，再到遥远星系传递过来的微弱信号，宇宙始终在用它独特的方式，向我们诉说着关于存在、演化与连接的宏大叙事。《宇宙深处的低语：穿越时空的信息之歌》正是这样一曲献给信息本身，献给信息在宇宙尺度上运作规律的探索之歌。 本书并非关于人类社会发展的信息学，也非侧重于数字通信的工程学理论。它将目光投向了更为宏大、更为纯粹的视角：信息作为宇宙的基本构成要素，其本质是什么？它如何在时空的画布上显现、流转、转化？宇宙的终极秘密，是否就隐藏在这信息的深处？ 我们将从物理学的最前沿出发，深入探讨信息在宇宙诞生之初所扮演的角色。宇宙大爆炸的奇点，真的仅仅是一个能量的爆发，还是信息的一个原始集合体？早期宇宙的暴胀，是否就是信息从高度有序到有序与无序并存的扩散过程？本书将追溯那些最微小的量子波动，解释它们如何成为构成未来宇宙万物的基石，以及信息如何在量子层面就被赋予了概率与不确定性。 随后，我们将聚焦于恒星的生命周期，它们是宇宙中天然的信息处理器。恒星内部核聚变的每一次反应，都在制造并传递着能量与物质的信息。从氢聚变成氦，再到更重的元素，这个过程不仅改变了恒星自身的构成，也向宇宙空间播撒着新的信息编码。当恒星走到生命的尽头，无论是壮丽的超新星爆发，还是神秘的黑洞吞噬，都是信息发生剧烈转化的壮观景象。超新星爆炸将恒星内部合成的元素抛洒到星际空间，成为下一代恒星和行星形成的原材料，这是一种信息的传递与重组。而黑洞，这个宇宙中最极端的引力陷阱，又似乎在吞噬信息的同时，引发了关于信息是否会真正“消失”的深刻哲学与物理学辩论。本书将审视“黑洞信息悖论”，探讨可能存在的解决方案，以及这些解决方案对我们理解信息本质的意义。 星系，作为宇宙中的“信息聚集体”，它们的形成、演化和相互作用，构成了宇宙结构的主体。本书将解析星系碰撞与并合过程中信息流动的轨迹。当两个星系相互靠近，它们的引力场相互作用，恒星、气体和尘埃在引力作用下被撕裂、重塑，形成壮观的潮汐尾，这本身就是一场信息传递与改编的宏大戏剧。星系中心的超大质量黑洞，更是信息活动的关键节点。它们的吸积盘发出的强大射电辐射，以及周期性的喷流，都在向外传递着关于黑洞活动和周围星系环境的宝贵信息。我们将探讨这些信息如何帮助天文学家绘制宇宙的过去，预测它的未来。 更进一步，本书将深入到宇宙学的前沿，审视宇宙学常数、暗物质和暗能量这些“看不见”但又深刻影响宇宙演化的神秘力量。它们是否是某种尚未被我们完全理解的信息载体？暗物质的引力效应，暗能量的排斥作用，都在以一种宏观的方式塑造着宇宙的膨胀速度和结构形成。理解它们的本质，或许就是破解宇宙运行代码的关键。我们将考察最新的宇宙微波背景辐射测量结果，分析其携带的关于早期宇宙的“信封”，以及系外行星探测如何为我们提供了寻找地外生命信息和理解生命信息载体的线索。 除了物质与能量层面的信息传递，本书还将探索那些更为抽象，但同样深刻的信息形式。例如，引力波，作为时空涟漪，它们携带了宇宙中最剧烈事件的信息，如双黑洞合并、双中子星碰撞。这些“来自宇宙深处的天籁之音”，为我们提供了一种全新的窗口，去“听”宇宙的故事，去解读那些光线无法触及的角落。 本书的另一个重要维度是信息的“编码”与“解码”。宇宙本身是否遵循着某种通用的信息编码规则？我们观测到的物理定律，是宇宙的信息编码方式吗？从最基本的粒子相互作用，到复杂的分子形成，再到生命体的出现，每一次的“编码”和“解码”都伴随着熵的增长或转化。我们将探讨信息熵与热力学熵之间的关系，以及这种关系如何贯穿宇宙的始终，驱动着宇宙的演化。 我们还将触及“结构信息”的概念。宇宙中的宏观结构，如星系团、超星系团，以及宇宙网状结构，这些巨大的“信息网络”是如何形成的？它们是否蕴含着超越局部物理规律的某种全局信息？本书将审视宇宙学模拟的最新进展，它们如何尝试复现宇宙大尺度结构的形成，并从中提取关于宇宙演化历史的信息。 当然，本书不会回避那些尚未解答的重大谜题。宇宙的起点究竟是什么？它的终极命运又将如何？多重宇宙存在的可能性，又意味着什么？这些问题，归根结底，都与信息的起源、传递、转化和最终归宿息息相关。我们将在本书中呈现科学家们提出的各种假说，并从信息的角度去审视它们，探讨信息理论如何为这些终极问题提供新的思考维度。 《宇宙深处的低语：穿越时空的信息之歌》旨在为读者打开一扇通往宇宙信息奥秘的窗户。它鼓励读者用一种全新的视角去理解我们所处的宇宙：一个充满信息、信息在其中流转、转化、并最终塑造一切的宏大系统。这并非一本枯燥的理论堆砌，而是一次充满想象力与求知欲的宇宙漫游，一次对信息在宇宙舞台上最壮丽、最深刻的演绎的深度解读。通过对宇宙信息规律的探索，我们不仅能更深入地理解宇宙本身，也能更好地认识我们在其中扮演的角色，以及生命信息在这浩瀚宇宙中的独特性与普遍性。这本书邀您一同聆听那来自宇宙深处的低语，品味那穿越时空的信息之歌。

评分☆☆☆☆☆

这本书简直是一场思想的革命！它挑战了我固有的认知模式，让我开始以一种全新的方式去理解世界。作者的文笔如行云流水，将那些复杂的概念梳理得井井有条，让人茅塞顿开。我尤其欣赏书中那些发人深省的思考题，它们不仅巩固了我的理解，更激发了我进一步探索的欲望。这本书让我对信息的价值有了更深刻的认识，也让我对编码的精妙有了更直观的感受。读完这本书，我感觉自己的思维境界得到了极大的提升，对未来充满了期待。

评分☆☆☆☆☆

这本书就像一位博学的老友，娓娓道来，引人入胜。它没有那些生涩难懂的理论堆砌，也没有空洞无物的哲学说教。相反，它用一种更加贴近生活的方式，阐述着那些关于信息和编码的深刻道理。我从中学会了如何用更加敏锐的眼光去观察世界，如何去理解那些隐藏在表象之下的规律。尤其是作者在处理那些抽象的概念时，总是能够巧妙地运用类比和比喻，让它们变得形象生动，极易于吸收。这本书让我对信息的本质有了全新的认识，也让我对编码的魅力有了更深的体悟。

评分☆☆☆☆☆

这本书简直是一场思维的盛宴！从翻开第一页开始，我就被作者那深邃的洞察力所折服。他不仅仅是知识的传递者，更是思想的引导者。书中那些看似高深的概念，在他条理清晰的阐述下，变得生动而易于理解。尤其是在探讨一些复杂现象的本质时，作者总是能够抽丝剥茧，直击核心，让我不得不惊叹于他的智慧。我发现自己常常在阅读的过程中，不自觉地停下来，反复咀嚼那些精炼的句子，试图去体会其中蕴含的深层含义。那种茅塞顿开的感觉，真的是一种难以言喻的愉悦。

评分☆☆☆☆☆

这是一本真正能够触及灵魂的书籍。它不仅仅是关于理论的探讨，更是关于人类认知和信息传递的深刻反思。作者以其独到的见解，带领我们穿越信息的迷雾，去探寻那些构成我们认知世界的基石。书中那些关于信息如何产生、如何传播、以及如何被理解的论述，都充满了智慧的光芒。我发现自己在阅读的过程中，常常会陷入沉思，思考着信息在我们生活中的重要性，以及编码在信息交流中的关键作用。这本书让我对“信息”这个词汇有了全新的定义，也让我对“编码”这项人类伟大的创造有了更深的敬意。

评分☆☆☆☆☆

这本书给我带来的不仅仅是知识的增长，更是一种全新的视角。它让我开始重新审视那些我习以为常的事物，仿佛打开了一扇通往未知世界的大门。书中那些引人入胜的案例分析，更是让我大开眼界，原来生活中的种种现象背后，都隐藏着如此巧妙的逻辑和规律。我特别喜欢作者在叙述过程中所展现出的那种严谨而不失活泼的风格，既有学术的深度，又不乏人情味，读起来丝毫不会感到枯燥乏味。每次合上书本，我都能感觉到自己的思维被极大地拓展了，对世界的理解也更加深刻了。