信息论与编码(第3版)/“十二五”普通高等教育本科规划教材 9787121277009 电 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

陈运，周亮，陈新，陈伟建 著

图书标签:

• 信息论
• 编码学
• 通信原理
• 数字通信
• 信息处理
• 高等教育
• 教材
• 电子工业出版社
• 9787121277009
• 理论基础

店铺： 晚秋画月图书专营店

出版社： 电子工业出版社

ISBN：9787121277009

商品编码：29648217029

包装：平装

出版时间：2015-12-01

基本信息

书名：信息论与编码(第3版)/“十二五”普通高等教育本科规划教材

定价：35.90元

作者：陈运,周亮,陈新,陈伟建

出版社：电子工业出版社

出版日期：2015-12-01

ISBN：9787121277009

字数：

页码：208

版次：3

装帧：平装

开本：16开

商品重量：0.4kg

编辑推荐

---

内容提要

---

本书为“十二五”普通高等教育本科规划教材。本书系统介绍和论述了信息的基本概念；信息论的起源、发展及研究内容；香农信息论的三个基本概念：信源熵、信道容量和信息率失真函数，以及与这三个概念相对应的三个编码定理；解决通信系统有效性、可靠性和安全性的三类编码：信源编码、信道编码和安全编码――密码的基本方法，以及密码安全性与信息论的关系等内容。为了便于教学和读者自学，每章后面都附有习题。

目录

---

第1章 概论t（1）
1．1 信息的概念和分类t（1）
1．1．1 信息的概念t（1）
1．1．2 信息的分类t（4）
1．2 信息论的起源和发展t（4）
1．2．1 信息论创立的理论基础和
技术条件t（4）
1．2．2 信息论的诞生和发展现状t（5）
1．2．3 信息论的未来发展趋势t（6）
1．3 信息论的研究内容t（7）
1．3．1 通信系统模型t（7）
1．3．2 信息论研究内容t（7）
思考题t（8）
第2章 离散信源熵t（9）
2．1 基本概念t（9）
2．2 离散信源熵的基本概念和性质t（9）
2．2．1 单符号离散信源的数学模型t（10）
2．2．2 自信息量及其性质t（10）
2．2．3 信源熵及其性质t（13）
2．3 多符号离散平稳信源熵t（19）
2．3．1 多符号离散平稳信源的
数学模型t（19）
2．3．2 离散平稳无记忆信源熵t（20）
2．3．3 离散平稳有记忆信源熵t（22）
2．3．4 马尔可夫信源的极限熵t（25）
2．3．5 冗余度、自然语信源及
信息变差t（29）
习题t（31）
第3章 无失真离散信源编码t（33）
3．1 基本概念t（33）
3．2 离散无失真信源编码定理t（33）
3．2．1 定长编码定理t（34）
3．2．2 变长编码定理t（35）
3．2．3 码字可译条件t（36）
3．3 香农编码t（38）
3．4 费诺编码t（39）
3．5 赫夫曼编码t（40）
3．6 游程组合编码t（44）
习题t（47）
第4章 离散信道容量t（49）
4．1 互信息量和平均互信息量t（49）
4．1．1 单符号离散信道的数学模型t（49）
4．1．2 互信息量及其性质t（49）
4．1．3 平均互信息量及其性质t（52）
4．1．4 各种熵之间的关系t（62）
4．2 单符号离散信道的信道容量t（63）
4．2．1 单符号离散信道容量定义t（63）
4．2．2 几种特殊离散信道的信道容量t（64）
4．2．3 离散信道容量的一般计算方法t（69）
4．3 多符号离散信道的信道容量t（71）
4．3．1 多符号离散信道的数学模型t（71）
4．3．2 多符号离散信道容量定义t（72）
4．3．3 离散无记忆扩展信道的信道
容量t（73）
4．3．4 独立并联信道的信道容量t（75）
4．4 网络信息论t（76）
4．4．1 多址接入信道的信道容量t（77）
4．4．2 广播信道的信道容量t（79）
4．4．3 相关信源的边信息和公信息t（80）
习题t（82）
第5章 纠错编码t（85）
5．1 纠错编码的基本概念t（85）
5．1．1 差错控制系统模型及分类t（85）
5．1．2 纠错编码分类t（86）
5．1．3 译码准则t（87）
5．1．4 信道编码定理t（88）
5．2 线性分组码t（88）
5．2．1 线性分组码的基本概念t（88）
5．2．2 线性分组码的编码t（88）
5．2．3 线性分组码的译码t（89）
5．2．4 典型码例t（92）
5．3 循环码t（95）
5．3．1 循环码的基本概念t（95）
5．3．2 循环码的描述t（96）
5．3．3 循环码的伴随多项式与检错t（101）
5．3．4 BCH码与RS码t（102）
5．4 卷积码t（104）
5．4．1 卷积码的矩阵描述t（104）
5．4．2 卷积码的多项式描述t（107）
5．4．3 卷积码的状态转移图与
栅格描述t（109）
5．4．4 维特比(Viterbi)译码算法t（112）
习题t（117）
第6章 连续信源熵和信道容量t（121）
6．1 连续信源熵t（121）
6．1．1 连续信源熵的定义t（121）
6．1．2 几种特殊连续信源的信源熵t（123）
6．1．3 连续信源熵的性质和定理t（125）
6．2 熵功率t（129）
6．3 连续信道的信道容量t（131）
6．3．1 连续信道的数学模型及信道
容量定义t（131）
6．3．2 加性连续信道容量计算和
香农公式t（131）
习题t（133）
第7章 信息率失真函数t（135）
7．1 基本概念t（135）
7．1．1 失真函数与平均失真度t（136）
7．1．2 信息率失真函数的定义t（139）
7．1．3 信息率失真函数的性质t（140）
7．2 离散信源信息率失真函数t（143）
7．2．1 离散信源信息率失真函数的
参量表达式t（144）
7．2．2 二元及等概率离散信源的信息率
失真函数t（146）
7．3 连续信源信息率失真函数t（150）
7．3．1 连续信源信息率失真函数的
参量表达式t（150）
7．3．2 高斯信源的信息率失真函数t（151）







7．4 信息价值t（154）
7．5 信道容量与信息率失真
函数的比较t（157）
习题t（157）
第8章 限失真信源编码t（159）
8．1 基本概念t（159）
8．2 保真度准则下的信源编码定理t（159）
8．3 量化编码t（160）
8．3．1 佳标量量化编码t（160）
8．3．2 矢量量化编码t（164）
8．4 相关信源编码t（167）
8．4．1 预测编码t（167）
8．4．2 差值编码t（169）
8．5 变换编码t（172）
8．5．1 子带编码t（172）
8．5．2 小波变换t（173）
习题t（175）
第9章 密码安全性的信息论测度
方法t（177）
9．1 基本知识t（177）
9．1．1 保密通信系统模型t（177）
9．1．2 密码基本概念t（178）
9．2 密码算法的安全性测度t（178）
9．2．1 完善保密性t（179）
9．2．2 解距离t（180）
9．3 古典代替密码的安全性分析t（180）
9．3．1 加法密码的安全性分析t（181）
9．3．2 乘法密码的安全性分析t（183）
9．3．3 仿射密码的安全性分析t（185）
9．4 边信息泄露的互信息分析t（186）
9．4．1 数据加密标准简介t（186）
9．4．2 DES算法的边信道安全性分析t（188）
习题t（191）
参考文献

作者介绍

---

陈运，电子科技大学通信与信息工程学院教授，主要从事信息论、信息安全等方面的教学、科研等工作，主持编写了国家十一五、十二五规划教材

文摘

---

序言

---

信息论与编码(第3版) 9787121277009 本书简介 本书是“十二五”普通高等教育本科规划教材《信息论与编码（第3版）》的配套简介，旨在为读者全面、深入地理解信息论与编码这一核心通信工程领域提供一份详实的导引。本简介将从信息论的基础概念出发，逐步深入到编码的原理与技术，最后拓展至其在现代通信系统中的应用，力求展现该学科的理论深度、技术广度及其对信息时代发展的重要意义。 第一部分：信息论——量化信息，理解本质 信息论，作为一门研究信息传输、处理和存储的数学理论，其核心在于如何精确地度量信息。本书的开篇将带领读者踏入这个引人入胜的领域，揭示信息的“量”。 信息量与熵： 我们将从最基本的“比特”（bit）概念入手，理解一个事件发生的概率与其所包含的信息量之间的关系。一个低概率事件的发生，往往携带更多的信息。随后，本书将引入“熵”（Entropy）这一核心概念。熵是衡量一个随机变量不确定性或信息量的数学期望。它告诉我们，平均而言，要完全确定一个随机变量的取值，需要多少信息量。理解熵，就如同理解一个信息源的“信息容量”的上限，是信息传输和压缩的基础。本书将通过清晰的数学推导和生动的实例，阐释不同概率分布下的熵值变化，以及其在数据压缩、通信信道容量计算等方面的关键作用。 信源编码： 信息在传输或存储之前，往往需要进行编码，以提高效率并减少冗余。信源编码的目标是根据信息源的统计特性，用更少的比特来表示信息，从而实现数据压缩。本书将深入探讨各种信源编码方法： 变长编码： 诸如霍夫曼编码（Huffman Coding）等变长编码技术，为出现频率高的符号分配短的码字，为出现频率低的符号分配长的码字，从而在整体上达到压缩的目的。我们将详细分析霍夫曼编码的构造过程、最优性证明及其在实际应用中的优势。 算术编码： 算术编码是一种更为先进的信源编码技术，它将整个消息作为一个整体进行编码，能够更有效地利用符号之间的统计相关性，实现更高的压缩率。本书将详细解析算术编码的原理，包括区间划分、递归编码等关键步骤，并与其他编码方法进行对比分析。 字典编码： Lempel-Ziv（LZ）系列算法，如LZ77、LZ78以及其后续改进算法（如LZW），是另一类重要的字典编码方法。它们通过建立一个动态的字典来识别和编码重复出现的字符串，在文本压缩、图像压缩等领域取得了巨大成功。本书将深入剖析这些算法的实现机制和性能特点。 第二部分：编码理论——保证信息的可靠性 在信息传输过程中，噪声和干扰是不可避免的，它们会导致信息失真。纠错编码（Error Correction Coding, ECC）正是为了对抗这些不确定性，确保信息在接收端能够被正确恢复而诞生的。本书将详尽介绍纠错编码的基本原理和关键技术。 信道模型与错误概率： 在介绍纠错编码之前，本书将首先建立起信息传输的数学模型。我们将深入理解各种信道模型，如二元对称信道（Binary Symmetric Channel, BSC）、高斯白噪声信道（Additive White Gaussian Noise, AWGN）等，并学会如何计算和分析在这些信道中信息发生错误的概率。 线性分组码： 线性分组码是一类结构简单、易于实现的纠错码。本书将详细介绍其基本概念，包括码字、码重、最小码距等。 汉明码（Hamming Code）： 作为最基础的线性分组码之一，汉明码能够检测和纠正一位错误，其原理和构造方法将得到清晰的阐述，并探讨其在存储器和短距离通信中的应用。 循环码（Cyclic Code）： 循环码是线性分组码的一个重要子类，具有优秀的代数结构，便于高效的编码和译码。本书将深入讲解生成多项式、校验多项式等概念，并介绍 BCH 码（Bose-Chaudhuri-Hocquenghem Code）和里德-所罗门码（Reed-Solomon Code）等重要的循环码族，它们在CD/DVD、卫星通信、数字电视等领域发挥着至关重要的作用。 卷积码： 与分组码不同，卷积码将信息比特序列通过一个滑动窗口进行编码，生成连续的输出比特流。本书将详细介绍卷积码的生成矩阵、编码器结构，并重点讲解其核心译码算法——维特比算法（Viterbi Algorithm）。维特比算法以其高效性和最佳性能，成为现代通信系统中应用最广泛的卷积码译码方法。 现代编码理论： 在经典编码理论的基础上，本书还将进一步介绍现代编码技术，它们在性能和效率上取得了突破性的进展： Turbo码： Turbo码是第一种能够接近香农限的编码技术，其核心思想是采用两个或多个成分码，通过迭代译码的方式相互“增强”，从而获得极高的纠错性能。本书将深入剖析Turbo码的结构、迭代译码的原理及其在3G、4G移动通信中的重要应用。 LDPC码（Low-Density Parity-Check Code）： LDPC码也是一种高性能的编码技术，其译码算法基于概率推理，能够实现优异的纠错性能。本书将介绍LDPC码的稀疏校验矩阵结构、以及其对应的译码算法（如消息传递算法）。LDPC码在Wi-Fi、5G通信以及卫星通信等领域扮演着越来越重要的角色。 第三部分：信息论与编码在通信系统中的应用 信息论和编码技术并非仅仅是抽象的理论，它们是构建现代信息通信系统的基石。本书将引导读者理解这些理论是如何转化为实际应用的。 通信系统的模型： 我们将从宏观角度审视整个通信系统，了解信息源、信源编码、信道编码、调制解调、信道以及接收端的整个信息流转过程。信息论与编码技术在其中的各个环节都扮演着不可或缺的角色。 信道容量： 根据香农第二定理，任何通信信道都存在一个最大传输速率，即信道容量（Channel Capacity）。本书将深入探讨如何计算不同信道的信道容量，并理解信道容量的意义——它为信息传输设定了一个理论上的极限。在信道容量以下的速率下，理论上存在无差错传输的编码方式；而在高于信道容量的速率下，无差错传输是不可能的。 香农限与实际通信： 本书将重点探讨如何利用信息论和编码技术逼近香农限，实现高效可靠的信息传输。我们将分析各种编码技术在逼近香农限方面的性能表现，以及实际通信系统如何权衡编码复杂度、传输速率和纠错性能。 现代通信技术中的应用： 读者将了解到，信息论与编码技术已经渗透到我们日常生活中的方方面面，包括： 移动通信： 4G、5G等移动通信标准中，Turbo码、LDPC码等先进编码技术是实现高速率、高可靠性通信的关键。 卫星通信： 在远距离、低信噪比的环境下，高效的纠错编码是确保数据传输完整性的不二之选。 数据存储： 硬盘、固态硬盘、闪存等存储介质都采用了纠错编码技术，以应对存储单元的老化和损坏，保证数据的长期可靠性。 互联网与网络传输： 即使在相对可靠的有线网络中，差错控制和数据压缩技术也为流畅的网络体验提供了保障。 数字媒体： 音频、视频的压缩和传输，如MP3、H.264/H.265等，都离不开信息论中的信源编码原理。 总结 《信息论与编码（第3版）》是一本内容详实、体系完整的教科书。本书的简介旨在为读者描绘一幅清晰的学习蓝图，从信息的基本度量、信息的有效压缩，到对抗信道干扰的强大编码技术，再到这些技术在现代通信系统中的广泛应用，力求让读者深刻理解信息论与编码在塑造我们信息时代中所扮演的关键角色。通过学习本书，读者将能够掌握扎实的信息论与编码理论知识，为从事相关领域的科研、工程设计和技术开发奠定坚实的基础。

评分☆☆☆☆☆

这本书简直是为我这种数学基础还算扎实，但对信息科学的底层逻辑充满好奇的工程小白量身定做的。我花了整整一个周末啃完了前三章，最大的感受就是作者的叙述方式非常“有温度”。他不是那种冷冰冰地堆砌公式，而是总能在关键概念出现之前，用一个生动的小故事或者一个非常贴近生活的应用场景来铺垫。比如讲到香农熵的时候，他没有直接抛出那个复杂的对数公式，而是先探讨了“不确定性”到底意味着什么，以及为什么信息量应该和概率成反比。这种循序渐进的讲解，让我这个“公式恐惧症患者”竟然能沉下心来理解背后的数学原理，而不是简单地抄写公式了事。尤其是对于那些涉及概率论和离散数学的章节，作者似乎深知读者的痛点，总会在最容易混淆的地方加入“特别提醒”或者“深入理解”的小节，这些地方真的帮我避免了好几次掉进概念的陷阱里。这本书的排版也做得相当出色，图表的清晰度和代码示例的准确性都体现了出版社的专业水准，这对于需要对照学习的读者来说，无疑是一大福音。

评分☆☆☆☆☆

我是一名刚刚进入通信行业不久的研究生，手头上的参考书已经堆得像座小山了，但真正能让我静下心来反复阅读的，这本书绝对名列前茅。我特别欣赏它在“信源编码”和“信道编码”之间的逻辑过渡处理。很多教材会把它们割裂开来，让读者感觉像是学了两门不相关的课程，但这本书巧妙地将信息论作为统一的理论框架，把压缩和纠错视为对信息这同一实体进行不同维度的优化。这种宏观的视角，极大地提升了我对整个通信系统架构的理解深度。我印象最深的是关于“信道容量”的推导部分，作者没有使用那种让人眼花缭乱的极限过程，而是通过构建一系列简化的模型，让你逐步逼近那个著名的香农公式。这种“化繁为简”的教学智慧，对于我们这些需要将理论快速应用于实际工程的设计者来说，是至关重要的。它提供的不仅是知识点，更是一种解决复杂问题的思维路径。

评分☆☆☆☆☆

这本书的优势在于它的广度与深度的平衡拿捏得恰到好处。作为一本规划教材，它必须覆盖足够多的基础内容，但这本书在确保覆盖面的同时，并没有牺牲对核心概念的深度挖掘。我个人对信息安全领域的内容一直很感兴趣，这本书中关于“最小均方误差”和“最大似然译码”的讨论，虽然是基于经典信息论的框架，但其蕴含的统计决策理论基础，对于理解现代密码学中的随机性检测和现代信号处理中的估计理论非常有启发性。作者的语言风格非常克制和精确，很少有夸张的描述，每一个结论的提出都有坚实的数学基础支撑。这迫使读者必须主动参与思考，而不是被动接受。我经常在读完一个章节后，会合上书本，尝试自己复现书中的关键证明，而这本书的结构设计似乎也在鼓励读者这样做。它培养的不是“知识的搬运工”，而是“理论的构建者”。

评分☆☆☆☆☆

说实话，我买这本书纯粹是因为课程要求，最初的期望值并不高，以为又是一本枯燥乏味的理论教材。然而，翻开之后，我立刻被它对“编码”部分的处理方式所吸引。这本书在谈论线性分组码、卷积码以及后来的Turbo码和LDPC码时，其逻辑的连贯性和例子的丰富性令人惊叹。它没有满足于仅仅介绍算法步骤，而是深入到代数结构层面，解释了为什么这些特定的矩阵和生成多项式能够产生出色的纠错能力。比如，在介绍译码算法时，作者非常细致地对比了不同算法的复杂度与性能增益，这一点对于我们进行硬件资源受限下的算法选型至关重要。我甚至发现，书中给出的几个小型编解码器的手算示例，其清晰度甚至超过了我导师上课时做的板书推导。这套教材的严谨性，使得它不仅仅是本科生的参考书，对于想系统回顾和查漏补缺的专业人士来说，也绝对是一本不可多得的工具书。

评分☆☆☆☆☆

我是在准备一个与数据压缩相关的项目时，才开始系统性地使用这本《信息论与编码》。这本书最让我感到惊喜的是它对最新进展的收录和整合，特别是关于算术编码和LZW算法的现代应用案例。很多老版本的教材往往停留在早期的霍夫曼编码阶段，但这本书很及时地引入了更高效的无失真压缩方法，并且用非常直观的例子演示了它们如何在实际的图像和文本文件中工作。此外，书中关于离散信道模型和连续信道模型在信息论处理上的异同点的探讨，也让我对信息传输的通用模型有了更统一的认识。这本书的价值在于，它不是一个知识点的简单罗列，而是一部完整且具有生命力的知识体系的呈现。它就像一位经验丰富、耐心细致的导师，在你迷茫时指明方向，在你遇到困难时提供清晰的路径图，引导你一步步穿过理论的迷雾，最终看到清晰的工程应用前景。