《信道編碼定理》PPT課件.ppt
《《信道編碼定理》PPT課件.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《《信道編碼定理》PPT課件.ppt（48頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
第六章：信道編碼定理,,信息論研究編碼的主要內(nèi)容,回答如下問題:為什么要編碼?什么樣的碼是好碼?不能回答的問題:怎樣進(jìn)行編碼?怎樣進(jìn)行譯碼?,信息論研究編碼的方法,將問題分而治之有效性：認(rèn)為可靠性已滿足可靠性：認(rèn)為有效性已滿足將信源與信道編碼分別研究信源編碼：解決有效性問題信道編碼：解決可靠性問題,,,,編碼,,,,,,信源,信源編碼,信道編碼,信道,信宿,,,,,,,,有效性、可靠性問題分別解決,,信息流,,,H(X),I(X;Y),可以獲得的信息量,所得信息能否可靠地確定信道輸入？,信息傳輸?shù)挠行灾笜?biāo),給定特性的信道最大可達(dá)的信息傳輸率－信道傳輸信息的能力度量,信道噪聲,實(shí)際通信中人們對(duì)傳輸要求什么？,傳輸信息無差錯(cuò)－－傳輸要可靠,傳輸信息量大－－傳輸要有效,傳輸?shù)男畔⑹欠駸o誤？,可靠性？,6.1:問題引出與定理描述,提出的與信道傳輸可靠性有關(guān)的問題：如何能使信息傳輸后發(fā)生的錯(cuò)誤最少？錯(cuò)誤概率與那些因素有關(guān)？有無辦法控制？能控制到什么程度？無誤傳輸可達(dá)的最大信息率是多少？,信道編碼定理,具體信道編碼技術(shù),錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－1,錯(cuò)誤概率與譯碼規(guī)則錯(cuò)誤概率Pe與什么有關(guān)？信道的統(tǒng)計(jì)特性譯碼規(guī)則譯碼規(guī)則的選擇依據(jù)最大后驗(yàn)概率準(zhǔn)則－－理想最大似然準(zhǔn)則－－實(shí)用最小距離準(zhǔn)則－－實(shí)用,編碼,信道傳輸,錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－2,,,,調(diào)制,,廣義的信道編碼,已解決有效性表示問題,,,,,,C,,,A,,,B,,,2,,,1,,,3,,,,消息集合,編碼集合,,,,,C,,,A,,,B,,,2,,,1,,,4,,,3,,,5,,,,,,,,,,,,,,,,P,A2,P,A1,P,A3,P,A4,P,A5,發(fā)送波形集合,接收波形集合,錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－3信道譯碼,,An,,,,,?1,?2,?4,?3,,w4,,w3,,w1,,w2,x,x,x,,,,An是接收空間w1,w2…是發(fā)送的碼字圍繞每個(gè)碼字有一個(gè)譯碼域?i如果接收的碼字在?i中，就認(rèn)為發(fā)送的是碼字wi發(fā)生錯(cuò)誤,正確譯碼,,不知如何譯碼,譯碼錯(cuò)誤,,有時(shí)接收碼字會(huì)被映射到錯(cuò)誤的?i，進(jìn)而被譯成錯(cuò)誤的wi,一般,An中存在一些不屬于任何?i的區(qū)域,錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－4,問題：在輸入和信道特性給定的條件下，差錯(cuò)概率將取決于接收矢量空間按什么樣的劃分準(zhǔn)則進(jìn)行劃分劃分接收矢量空間的準(zhǔn)則－－譯碼器的譯碼準(zhǔn)則,譯碼準(zhǔn)則一：最小錯(cuò)誤概率準(zhǔn)則（最大后驗(yàn)概率準(zhǔn)則）特點(diǎn)：優(yōu)點(diǎn)：理想缺點(diǎn)：1、后驗(yàn)概率不易得到2、后驗(yàn)概率依賴于輸入分布,錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－5,錯(cuò)誤概率與譯碼準(zhǔn)則、編碼方法－6,譯碼準(zhǔn)則二：最大似然譯碼準(zhǔn)則最大后驗(yàn)概率譯碼準(zhǔn)則Y)，只是很小的一部分故：當(dāng)X的數(shù)目<2NI(X;Y)時(shí)，，可使Pe?0給出一種譯碼方法：譯碼時(shí)，取與接收矢量聯(lián)合典型的碼字作為輸出，這種譯碼方法可以保證得到很低的誤碼率。,6.3:信道編碼定理的證明及其物理意義,6.3:信道編碼定理的證明及其物理意義,物理意義：通過編碼可以實(shí)現(xiàn)有噪信道上可靠的信息傳輸有噪信道可靠傳輸?shù)男畔⒙实纳辖缡切诺廊萘緾在碼長(zhǎng)及發(fā)送信息速率一定時(shí)，可以通過增大信道容量，使錯(cuò)誤概率減小在信道容量及發(fā)送信息速率一定時(shí)，可以通過增加碼長(zhǎng)，使錯(cuò)誤概率下降,隨機(jī)編碼方法：對(duì)每一個(gè)消息m,(m=0,1,…M-1),編碼為xm=(xm1xm2…xmN)其中：xmi(i=1,2,…N)是按照輸入字母的概率隨機(jī)選取，從而得到全部M=2NR個(gè)碼字，組成碼矢量C＝（x0 x2….xM-1)隨機(jī)編碼方法產(chǎn)生某一特定碼矢量的概率P(C)是：,6.3:信道編碼定理的證明及其物理意義,6.3:信道編碼定理的證明及其物理意義,所有碼的總數(shù),有了這樣的碼集以后，香農(nóng)不是去計(jì)算某一特定好碼的性能，而是設(shè)法計(jì)算這些碼的平均性能。,碼字?jǐn)?shù)只占全部可能序列的一小部分。,設(shè)碼元數(shù)為r，則所有可能產(chǎn)生的碼的總數(shù)為：例，,證明設(shè)信道容量所對(duì)應(yīng)的信道輸入符號(hào)的最佳分布為p(x)，以此概率分布為基準(zhǔn)，按照隨機(jī)編碼方法編碼得到碼矢量C。假設(shè)輸入消息是等概率分布的，第i個(gè)碼字出錯(cuò)的概率為pe|i，則碼矢量C的譯碼平均錯(cuò)誤概率為,,其中，pi為碼矢量中第i個(gè)碼字對(duì)應(yīng)的概率。則在碼矢量集合{C}上對(duì)pe(C)求數(shù)學(xué)期望，得到平均錯(cuò)誤概率為,,對(duì)于隨機(jī)編碼方法，不同的輸入消息符號(hào)所產(chǎn)生對(duì)應(yīng)碼字的方法是相同的，所以在碼矢量集合上進(jìn)行平均后得到的碼錯(cuò)誤數(shù)學(xué)期望,與i的取值無關(guān)，為表示方便起見，令,將其代入平均錯(cuò)誤概率表示式，并考慮到M=2NR，于是得到,為了計(jì)算，設(shè)y表示發(fā)送碼字ci時(shí)信道輸出端接收的序列，令事件Ei表示ci與接收序列y構(gòu)成的聯(lián)合典型序列，于是有,,,同時(shí)令事件E1c表示發(fā)送第一個(gè)碼字與接收序列不構(gòu)成聯(lián)合典型序列，即,,根據(jù)聯(lián)合典型序列的譯碼方法，當(dāng)y不與碼字c1構(gòu)成聯(lián)合典型序列，或者是與c1以外的其他碼字構(gòu)成聯(lián)合典型序列時(shí)，錯(cuò)誤譯碼就出現(xiàn)了，因此,其中，∪表示事件和。根據(jù)概率論可知,由于接收序列y對(duì)應(yīng)于輸入碼字c1，與其他碼字之間相互獨(dú)立，因此根據(jù)聯(lián)合漸近等同分割定理的性質(zhì)(1)、(3)，即p(E1c)≤δ和p(Ei)≤2－n［I(X；Y)－3δ］，得到,由于隨機(jī)編碼是按照信道輸入的最佳分布p(x)進(jìn)行的，因此有C=I(X；Y)，在上述證明最后一步用到該公式。,如果R下載提示(請(qǐng)認(rèn)真閱讀)
- 1.請(qǐng)仔細(xì)閱讀文檔，確保文檔完整性，對(duì)于不預(yù)覽、不比對(duì)內(nèi)容而直接下載帶來的問題本站不予受理。
- 2.下載的文檔，不會(huì)出現(xiàn)我們的網(wǎng)址水印。
- 3、該文檔所得收入（下載+內(nèi)容+預(yù)覽）歸上傳者、原創(chuàng)作者；如果您是本文檔原作者，請(qǐng)點(diǎn)此認(rèn)領(lǐng)！既往收益都?xì)w您。
文檔包含非法信息？點(diǎn)此舉報(bào)后獲取現(xiàn)金獎(jiǎng)勵(lì)！
下載文檔到電腦，查找使用更方便
9.9 積分
| 下載 |
還剩頁(yè)未讀，繼續(xù)閱讀
- 配套講稿：
如PPT文件的首頁(yè)顯示word圖標(biāo)，表示該P(yáng)PT已包含配套word講稿。雙擊word圖標(biāo)可打開word文檔。
- 特殊限制：
部分文檔作品中含有的國(guó)旗、國(guó)徽等圖片，僅作為作品整體效果示例展示，禁止商用。設(shè)計(jì)者僅對(duì)作品中獨(dú)創(chuàng)性部分享有著作權(quán)。
- 關(guān) 鍵 詞：
- 信道編碼定理 信道編碼 定理 PPT 課件
裝配圖網(wǎng)所有資源均是用戶自行上傳分享，僅供網(wǎng)友學(xué)習(xí)交流，未經(jīng)上傳用戶書面授權(quán)，請(qǐng)勿作他用。
鏈接地址：http://m.jqnhouse.com/p-12710077.html