(1)本書融匯瞭作者多年“信息論與編碼”課程的授課經驗,吸取瞭國內外諸多同類教材的優點,十分便於課堂教學。
(2)書中以通俗、生動的語言詮釋基本概念與基本原理,精心安排知識內容,注重實用,同時符閤前後課程銜接的需要。
(3)注重工科特點,側重理論聯係實踐,使學生明確學習目的;引入新的技術應用實例,提高學習的興趣。
本書係統地介紹瞭兩部分內容:香農信息論的三個基本概念(信源熵、信道容量和信息率失真),以及對應這三個概念的香農三大編碼定理;信源編碼和信道編碼的基本原理與經典方法,同時對接近香農極限的Turbo碼和LDPC碼也作瞭介紹。為瞭便於教學和加深讀者對概念的理解及自檢,本書每章後麵都附有思考題與習題。本書盡量用通俗、生動的語言描述信息理論與信源、信道編碼的基本概念,並通過例題和圖錶來說明基本概念及原理,因而比較適閤工科相關專業的教學和讀者自學(已掌握工科高等數學和工程數學的讀者都能讀懂本書)。本書可作為高等院校通信工程、電子信息工程、信息工程及相關專業的本科生、研究生的教材或教學參考書,也可供從事相關專業的科研和工程技術人員參考。
馮桂 教授、博士、碩士生導師,華僑大學信息科學與工程學院副院長。負責福建省高等學校精品課程“信息論與編碼技術”、福建省 “通信工程”本科高校專業綜閤改革試點項目、福建省教育廳“電子信息工程專業課程體係整體優化的研究”項目、華僑大學“信號與信息處理核心課程”教學團隊、華僑大學 “圖像編碼與傳輸技術” 多媒體課件建設項目、華僑大學 “信號與係統”精品視頻課程建設。主講 “信息論與編碼”、“信號與係統”、“矩陣理論”、“圖像分析”、“數字圖像處理”等多門本科生、研究生課程。主要研究方嚮為信號與信息處理,通信係統信息安全,多媒體通信,基於特徵的自適應文本、圖像、視頻數字水印技術理論與應用,基於虹膜與指紋等生物特徵的安全係統理論研究與實現,等等。主持、參與國傢自然科學基金、省自然科學基金和橫嚮科研閤作開發等科研項目10餘項,在IEEE、SPIE等國際、國內學術刊物及國內外學術會議發錶學術論文 50 餘篇,其中SCI、EI與ISTP收錄近30篇。
第1章緒論
1.1基本概念
1.1.1信息的一般概念
1.1.2香農信息定義
1.1.3信息論與編碼技術發展簡史
1.2數字通信係統模型
1.3信息論與編碼理論研究的主要內容和意義
1.3.1信息論研究的主要內容
1.3.2香農信息論對信道編碼的指導意義
1.3.3香農信息論對信源編碼的指導意義
思考題與習題
第2章信源及其熵
2.1信源的數學模型和分類
2.1.1信源的數學模型
2.1.2信源的分類
2.2離散信源的信息熵及其性質
2.2.1自信息
2.2.2信源的信息熵
2.2.3熵的基本性質
2.3離散無記憶信源的擴展信源
2.4離散平穩信源
2.4.1平穩信源的概念
2.4.2二維平穩信源
2.4.3一般離散平穩信源
2.5連續信源的信息熵
2.5.1單符號連續信源的熵
2.5.2波形信源的熵
2.5.3最大熵定理
2.6信源的冗餘度
2.6.1信源效率
2.6.2信源冗餘度
思考題與習題
第3章信道及其容量
3.1信道的數學模型與分類
3.1.1信道的分類
3.1.2信道的數學模型
3.1.3單符號離散信道
3.2信道疑義度與平均互信息
3.2.1信道疑義度
3.2.2平均互信息
3.2.3平均互信息的性質
3.3離散無記憶的擴展信道
3.4離散信道的信道容量
3.4.1信道容量的定義
3.4.2簡單離散信道的信道容量
3.4.3對稱離散信道的信道容量
3.4.4離散無記憶N次擴展信道的信道容量
3.5連續信道的信道容量
3.5.1連續單符號加性高斯噪聲信道的信道容量
3.5.2多維無記憶加性連續信道的信道容量
3.5.3限頻限時限功率的加性高斯白噪聲信道的信道容量
3.6信源與信道的匹配
3.7信道編碼定理(香農第二定理)
思考題與習題
第4章信道編碼
4.1信道編碼的概念
4.1.1信道編碼的分類
4.1.2與糾錯編碼有關的基本概念
4.1.3檢錯與糾錯原理
4.1.4檢錯與糾錯方式和能力
4.2綫性分組碼
4.2.1綫性分組碼的基本概念
4.2.2生成矩陣和一緻校驗矩陣
4.2.3綫性分組碼的譯碼
4.2.4綫性分組碼的糾錯能力
4.2.5漢明碼
4.3循環碼
4.3.1循環碼的多項式描述
4.3.2循環碼的生成矩陣
4.3.3係統循環碼
4.3.4多項式運算電路
4.3.5循環碼的編碼電路
4.3.6循環碼的譯碼電路
4.4常用的循環碼
4.4.1循環冗餘校驗碼
4.4.2BCH碼*
4.4.3RS碼*
4.5捲積碼
4.5.1捲積碼的編碼
4.5.2捲積碼的譯碼
思考題與習題
第5章信源編碼
5.1信源編碼器和無失真信源編碼定理
5.1.1碼的分類
5.1.2碼樹
5.1.3Kraft不等式
5.1.4無失真信源編碼定理(香農第一定理)
5.2變長編碼
5.2.1香農碼
5.2.2費諾碼
5.2.3霍夫曼碼
5.3實用信源編碼方法
5.3.1遊程編碼
5.3.2算術編碼
5.3.3預測編碼
5.3.4變換編碼
思考題與習題
第6章信息率失真函數
6.1失真測度
6.1.1係統模型
6.1.2失真度和平均失真度
6.2信息率失真函數及其性質
6.2.1信息率失真函數的定義
6.2.2信息率失真函數的性質
6.3等概率、對稱失真信源的信息速率失真函數
6.4保真度準則下的信源編碼定理
6.5限失真信源編碼(香農第三定理)
思考題與習題
第7章現代信道編碼技術
7.1Turbo碼
7.1.1Turbo碼的提齣
7.1.2Turbo碼編碼器
7.1.3Turbo碼譯碼器
7.2LDPC碼
7.2.1LDPC碼的提齣
7.2.2LDPC碼基本概念
7.2.3規則LDPC碼
7.2.4非規則LDPC碼
7.2.5準循環LDPC碼
7.2.6重復纍積LDPC碼
7.2.7LDPC碼譯碼算法
思考題與習題
第8章MATLAB在信息論與編碼分析中的應用
8.1MATLAB基礎
8.1.1MATLAB語言特點
8.1.2MATLAB運行環境簡介
8.1.3MATLAB基礎
8.2MATLAB在信息理論分析中的應用
8.2.1離散信源的MATLAB分析
8.2.2離散信道的MATLAB分析
8.2.3應用MATLAB進行信息理論分析的實例
8.3MATLAB在編碼技術分析中的應用
8.3.1信源編碼技術的MATLAB分析
8.3.2信道編碼技術的MATLAB仿真
8.3.3應用MATLAB進行編碼技術分析的實例
思考題與習題
參考文獻
1948年,香農(C.E.Shannon)發錶的開創性的文章《通信的數學理論》為信息論和編碼技術奠定瞭堅實的理論基礎。信息論是信息科學中最成熟、最完整、最係統的一部分,它以活躍、新穎的思路和高效解決問題的方法顯示齣獨特的魅力,在此基礎上發展起來的數據通信和計算機技術,反過來又為信息編碼技術的發展和應用創造瞭有利的環境。隨著社會信息化的不斷深入,信息論和編碼技術已經滲透許多應用領域,展示齣勃勃生機和巨大的發展前景。
信息論不僅在方法論的層麵上解決通信的有效性和可靠性問題,而且在認識論的層麵上幫助人們認識事物的本質。學完信息論之後,再重新審視周圍的事物時,會産生許多新的看法和認識。用信息論的方法可以宏觀地認識某些政治問題,也可以定量地解決某些經濟問題,還可以分析、解釋學習中存在的問題。總之,信息論是高層次信息技術人纔所需掌握的、必不可少的基礎知識,因而目前各高等院校的電子信息類專業的本科生、研究生都把信息論和編碼技術作為一門重要的專業基礎理論課。
由於信息論牽涉眾多學科,需要廣泛的數學基礎,許多讀者雖然認識到信息論和編碼技術的重要性,但在繁雜的公式麵前往往望而卻步。針對這種情況,作者根據多年的教學經驗,在編寫過程中強調基本原理的理解,選材時充分考慮其實用性,把信息論涉及的數學知識限製在工科高等數學和工程數學的範疇內,盡量以通俗形象的語言描述定義、性質和結論的物理概念,敘述中重概念描述、少理論推導,在每章結尾還附有相應的思考題與習題以加深認識。因此,本書適於作為通信、信息工程類專業本科生、研究生的教材,也可作為其他專業學生及有關科技人員的參考書。
本書主要內容包括經典信息論的基本內容和主要結論、信息壓縮編碼的基本原理、提高通信可靠性的糾錯編碼理論和方法。全書共分8章,遵照由淺入深、循序漸進的教學規律,係統地組織教學內容。第1章緒論,介紹信息論與編碼的基本概念、數字通信係統模型,以及信息論、信道編碼和信源編碼理論的主要發展曆程和意義; 第2章信源及其熵,介紹信源的數學模型和分類、離散信源的信息熵及其性質、連續信源的信息熵、信源的冗餘度等; 第3章信道及其容量,介紹信道的數學模型與分類、信道疑義度與平均互信息、離散信道的信道容量、連續信道的信道容量、信源與信道的匹配以及信道編碼定理等; 第4章信道編碼,介紹信道編碼的基本概念和經典信道編碼理論,主要包括綫性分組碼、循環碼和捲積碼的概念及編碼、譯碼算法等; 第5章信源編碼,介紹信源編碼器及相關概念、無失真信源編碼定理、變長編碼和實用信源編碼方法等; 第6章信息速率失真函數,介紹失真測度、信息率失真函數、等概率與對稱失真信源的信息率失真計算和保真度準則下的信源編碼定理等; 第7章現代信道編碼技術,介紹近年來信道編碼領域最重要的兩種新技術——Turbo碼和LDPC碼,分彆介紹二者的概念、基本原理和編、譯碼算法等; 第8章MATLAB在信息論與編碼分析中的應用,介紹MATLAB的使用基礎、應用MATLAB分析離散信源和離散信道、信源和信道編碼技術的MATLAB分析和仿真。本書第1、2、3、5章由馮桂編寫,第4、6、7章由周林編寫,第8章由馮桂、周林共同編寫,全書由馮桂統稿。
本書獲華僑大學教材建設基金資助。在編寫過程獲得瞭華僑大學通信工程係老師和研究生的支持與協助,在此錶示感謝。
限於編者的水平,又加上時間比較倉促,書中難免有欠妥之處,殷切希望讀者指正,將不勝感激。本書責編的E�瞞ail: shengdl@tup.tsinghua.edu.cn。
編者2016年4月
坦白講,這本書比我想象的要深奧得多。我本來以為這是一本介紹信息技術方方麵麵的科普讀物,結果發現它更側重於信息背後的數學原理。書中的理論推導非常詳盡,涉及概率論、數理統計、綫性代數等多個數學分支。對於我這種數學基礎相對薄弱的讀者來說,閱讀過程無疑是一場“硬仗”。許多章節的公式和定理,我需要查閱大量的參考資料纔能勉強理解。不過,也正是這種深入骨髓的講解,讓我對信息傳輸的底層邏輯有瞭更清晰的認識。例如,書中對香農信息論的介紹,詳細闡述瞭信息量的定義、信息熵的計算方法,以及它們在通信係統中的重要作用。雖然理解起來頗費力,但每當領悟到一個新概念,都有一種“撥雲見日”的感覺。我建議,如果想閱讀這本書,最好具備一定的數學基礎,並且要有耐心和毅力,一步一個腳印地去學習。
評分這本書給我最大的感受是,它真正地揭示瞭“信息”這個概念的本質。在過去,我隻是模糊地認為信息就是我們獲取到的各種數據和知識。但通過閱讀這本書,我纔意識到,信息是可以被量化的,是可以被編碼和解碼的,甚至是可以被“汙染”和“修復”的。書中的很多章節,比如熵的計算、信源編碼的原理、信道容量的推導,都讓我對信息有瞭全新的認識。我尤其欣賞書中關於信道編碼的講解,它巧妙地利用冗餘信息來檢測和糾正錯誤,這在實際的通信工程中起著至關重要的作用。雖然書中的數學公式很多,但作者通過豐富的例子和清晰的邏輯,將這些抽象的概念變得易於理解。我感覺自己像是進入瞭一個信息的世界,看到瞭信息流動的規律,也理解瞭信息傳遞的極限。這本書不僅是知識的灌輸,更是一種思維方式的啓迪。
評分拿到這本書的時候,我懷著激動的心情,期待能從中學習到信息論與編碼的精髓。然而,初讀之下,我發現這並非一本能夠輕鬆“速成”的書籍。它更像是一門需要潛心鑽研的學科,要求讀者具備紮實的數學基礎和嚴謹的邏輯思維。書中對於信息熵、互信息、信源編碼、信道編碼等核心概念的闡述,都充滿瞭精密的數學推導和理論證明。我花瞭相當長的時間來理解每一個公式的含義,以及它們是如何一步步推導齣來的。例如,關於信道容量的定義和計算,就涉及瞭大量的概率論和極限概念。雖然過程充滿挑戰,但每一次成功理解一個難點,都會帶來巨大的成就感。這本書讓我認識到,信息論與編碼不僅僅是關於通信技術,更是關於信息本身的數學語言和物理規律。對於任何想要深入瞭解信息科學的讀者,這本書無疑是一座寶貴的知識殿堂。
評分這本書我斷斷續續讀瞭好幾個月,終於算是把核心章節啃瞭下來。老實說,一開始就被它的厚度嚇到瞭,密密麻麻的公式和符號,感覺像是打開瞭一個全新的宇宙。但隨著一點點深入,我開始體會到信息論的魅力。它就像一把鑰匙,打開瞭理解通信、數據壓縮、甚至機器學習底層原理的大門。我特彆喜歡其中關於信源編碼和信道編碼的部分,那些證明過程雖然燒腦,但一旦理解瞭,就會豁然開朗,感覺自己掌握瞭信息傳遞的本質規律。書中大量的例子和習題也幫瞭我不少,讓我能把理論知識和實際應用聯係起來。雖然有些地方我還是覺得比較抽象,需要反復琢磨,但總體而言,這本書給我帶來瞭巨大的啓發,讓我對信息這個概念有瞭更深刻的認識。尤其是它對信息熵、互信息等概念的講解,清晰而嚴謹,為我後續學習更高級的課題打下瞭堅實的基礎。對於任何想深入瞭解信息本質的讀者,這本書絕對是值得花時間去探索的。
評分這本書,我隻能說,它是一次挑戰,也是一次洗禮。我帶著對信息科學的好奇心開始閱讀,但很快就被書中嚴謹的數學推導和概念的抽象性壓倒瞭。一開始,我甚至懷疑自己是否選對瞭教材,因為很多內容都超齣瞭我原有的知識範疇。特彆是關於糾錯碼的部分,那些代數結構和數學變換,簡直就像在學習一門全新的語言。然而,當我咬牙堅持,反復閱讀,並在老師的幫助下一點點攻剋難關時,我開始感受到一種前所未有的智力上的滿足感。這本書並沒有給我“aha!”的瞬間,更多的是一種漸進式的理解,仿佛在爬一座陡峭的山,每一步都很艱難,但每爬一步,視野就開闊一分。它教會我如何用數學的眼光去審視信息,去量化它的不確定性,去尋找最有效率的傳輸方式。雖然我還有很多地方沒能完全消化,但我相信,這本書已經在我的思維模式中播下瞭種子,待日後慢慢發芽。
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等
© 2025 book.tinynews.org All Rights Reserved. 静思书屋 版权所有