在信道编码定理证明过程中引入了三个基本条件:
(1) 采用随机编码方式;
(2) 码字长度趋向于无穷大;
(3) 采用最大似然译码算法。
并指出随机选择的码以很高的概率为好码。对于随机码的最大似然译码,其译码算法复杂度与所传输的码字长度和码率呈指数关系,可见随机码是不实用的。但是这三个条件为今天的信道编译码的构造和译码算法的研究指明了方向。由于编码定理的证明是非构造性的,没有给出如何构造能逼近Shannon限的编码方法,构造逼近Shannon限的纠错码和对其性能的研究,成为竞相研究的课题之一,形成了信息论的一个重要分支——信道编码理论。
信道编码的发展大致可以由以下几种编码的产生而分为各个阶段。
1950年,汉明码由汉明提出,它是可以纠正一个错误的完备码。1959年,霍昆格姆(Hocgenghem)和1960年博斯(Bose)及雷•查德胡里(Ray Chaudhuri)分别提出了纠正多个随机错误的循环码BCH码。1960年Peterson找到了二元BCH码的第一个有效算法,从而将它从理论推向实用。同年,Reed和Solomon发现了BCH在基于素数的有限域中的一个子类RS码的构造方法,从来将分组码的理论推到了一个高峰。
1955年,爱里斯(Elias)提出了卷积码,由于它在编码过程中充分利用了前后比特的相关性,因此性能优于同等码率的分组码,并且在同等码率和相似的纠错能力下,卷积码的实现要比分组码简单。1967年Viterbi提出卷积码的一种最大似然译码算法,无论从理论还是实际应用上都极大的推动了卷积码的发展。卷积码在各种通信系统中都得到了广泛的应用。
1966年,Forney首先提出了由两个确定的短码来构造长码的串行级联结构,实现了质量好的长码和译码复杂度的良好结合,并采用准最佳的广义最小距离译码推到了级联码的性能界限。在目前的无线通信系统中,包括卫星通信和陆地移动通信系统,很多都采用级联码作为信道编码方案。
上世纪九十年代以前,信道编码的设计一直是沿着Shannon信息论的后两个方向发展。针对Shannon信息论指出的信道编码设计的第三个要素——最大似然译码算法,由于其译码复杂度高,不适合工程实现。而Viterbi提出的最大后验概率译码算法是目前真正能达到最佳译码性能的算法,它在信源等概率的条件下等效于最大似然译码算法。但是,Viterbi算法也只适合于约束长度较小的卷积码和短的或低纠错能力的分组码,对于长码来说,由于其运算复杂度过高,使得实时译码不可实现。
针对信道编码设计的第二个要素——编码器的构造,由于长码的译码复杂度太高,而性能优异的短码能达到的传输速率R<<C,因此为了获得中、低译码复杂度的长码,Forney在原有的短码基础上提出了串行级联码的构造。传统的串行级联码通过牺牲编码效率来提高译码性能,它与Shannon 极限之间有着不可逾越的鸿沟。
实际上,Shannon信息论的第一项----随机化思想,才是Shannon信息论的精华,它在长信道编码中体现为所有码字间的码距尽可能的接近平均码距。随机化思想贯穿编码的构造与译码算法的选取原则。之所以串行级联码与Shannon极限总有相当一段差距,是因为其编码按照级联多个短码成为一个长码的思想来构造,而译码端却对这些短码分别独立译码。在此情况下,即使内、外码间的交织器起到随机化构造长码的作用,在译码端也没有利用这一整体随机化思想,因此,这里的交织器只起到在外码译码器输入端将突发错误离散化的作用。
直到1993年C. Burro 等人在工程实践中发现了Turbo码,纠错码的设计才真正应用了随机化的编、译码思想,从而获得了接近Shannon极限的性能。之后在1996年,MacKay的对LDPC(低密度校验码)的研究,使LDPC码的研究进入了新的阶段,LDPC码是基于稀疏随机图来构造的。近几年的研究表明,它的性能可以超过Turbo码,非常接近香农极限。 Matlab循环码在不同信道中性能仿真研究+流程图(7):http://www.751com.cn/tongxin/lunwen_351.html