针对当前准循环低密度奇偶校验(Quasi-Cyclic Low-Density Parity-Check, QC-LDPC)码存在短环及纠错性能不够好的问题，基于原模图提出一种新颖的QC-LDPC码构造方法。该方法选择码长码率可灵活调整的原模图作为基矩阵，再结合具有特殊性质的卢卡斯数列和等差数列，通过原模图的低译码门限和数列的特殊性质，构造校验矩阵环长至少为8，且所需存储空间少，易于硬件实现。仿真结果表明: 该方法构造的PLA-QC-LDPC(2400,1200)码与同等码长码率中基于卢卡斯数列和最大公约数序列的可快速编码的非规则LG-QC-LDPC码、基于素数和乘法表构造的PM-QC-LDPC码以及基于原模图和消除基本陷阱集的非规则PL-QC-LDPC码相比，净编码增益均有一定程度的提高。

分层译码算法对校验矩阵进行分层，按层进行更新，加快了译码收敛速度，但由于每层的消息更新建立在上层的基础上，不可避免地引入了上层无关信息，降低了本层有效信息的比重。针对这一问题，提出一种引入层重升序调度策略的分层最小和（LS-MS-A）译码算法，该算法通过优先更新层重小的层，减少上层无关信息对本层有效信息的干扰，从而加快译码收敛速度。仿真结果表明：在保证系统可靠性的前提下，与分层最小和译码算法相比，当码长为256，码率为0.5时，LS-MS-A算法可以提高约9%的译码收敛速度；当码长为512，码率为0.75时，LS-MS-A算法可提高约15%的译码收敛速度。

以16-相正交幅度调制（16QAM）为例，分析比较了伽罗华（GF(2m)）域上m=1,2,4时，3种低密度奇偶校验（LDPC）码在16QAM光传输系统中的性能.分析表明，无论在纠错性能还是译码效率方面，4进制LDPC码比16进制LDPC码具有更大优势.为进一步改善高阶调制光传输系统中非二进制低密度奇偶校验（NB-LDPC）码的性能，在16QAM系统下的4进制LDPC码中引入水印位符号.与传统的非二进制LDPC译码方案相比，水印位方案的平均迭代次数显著下降，即引入水印位可以极大地提高NB-LDPC码的译码效率.当误码率BER=10-5时水印位方案可以改善0.1 dB的净编码增益.

为使低密度奇偶校验(LDPC)码高效地应用于光通信系统中，针对光通信系统的传输特点，提出了一种新颖的基于循环置换矩阵和掩蔽矩阵构造满秩准循环低密度奇偶校验(QC-LDPC)码的方法。该方法定义了一类基矩阵，由基矩阵扩展出循环置换矩阵，构造出围长至少为8 的校验矩阵；提出了掩蔽矩阵的设计规则，并利用设计的掩蔽矩阵对前面得到的校验矩阵进行变换，构造出围长至少为8 的满秩QC-LDPC 码。与多种不同的QC-LDPC 码构造方法进行理论分析和性能仿真比较，结果表明，利用该方法构造出的LDPC 码字是满秩的，具有严格的准循环特性和优异的纠错性能，且构造灵活。该方法构造的码字适用于光通信系统。

针对高速光通信系统中高斯白噪声和偏振模色散（PMD）引起的干扰问题，研究了一种改进的前向纠错方法，通过向低密度奇偶校验（LDPC）码中插入具有固定信息的比特位(“水印位”)来估计信道，并将其与译码算法结合构成新的算法。研究发现，若以误比特率(BER)低于10-9为标准，则在纠错性能方面，高斯信道中含16、32位水印位的LDPC码与卡方信道中传统的LDPC码相比，所需的光信噪比(OSNR)值可分别减少约0.25 dB、0.35 dB；当考虑高速光通信中的PMD时，在差分群时延(DGD)为20 ps和30 ps时，含16、32位水印位的LDPC码与传统LDPC码字相比，所需OSNR值可分别减少约0.63 dB、0.98 dB和1.16 dB、1.87 dB。

将π旋转型低密度奇偶校验(LDPC)码应用于100 Gb/s偏振复用差分正交相移键控(PDM-DQPSK)光通信系统中，进行了相应的数值仿真和性能分析比较，其中采用打孔技术得到了高码率的改进码型，并在纠错性能方面与原始码型进行了对比。在译码方面，推导了PDM-DQPSK系统的卡方统计模型，并与高斯统计模型进行了对比。结果表明，码率为0.5的π旋转型LDPC码在采用卡方统计信道概率模型时性能最佳，可使系统光信噪比(OSNR)在14.2 dB时保证误码率(BER)在10-9以下；在2 dB的OSNR代价情况下，系统可容忍102 ps/nm的色度色散(CD)、18 ps的一阶偏振模色散(PMD)，以及4.88×10-2 rad的非线性引起的最大相位偏移，由此可知π旋转型LDPC码可以极大地提高高速光通信系统的传输可靠性。

为了抑制大气湍流对大气光通信系统性能的影响，将低密度奇偶校验（LDPC）码与多输入多输出技术结合，推导了最大比合并、等增益合并和选择合并三种合并方式下单输入多输出(SIMO)系统译码初始化计算公式，并比较了系统误码性能。仿真结果表明，基于LDPC编码的大气光通信SIMO系统误码性能优于SISO系统；不同的方式下SIMO系统的误码性能不同， 信噪比一定时，最大比合并方式的系统误码率最低，等增益合并方式次之；在发射天线数一定时，随着接收天线数增加，系统误码率降低，对大气光通信的系统设计与理论研究具有一定的指导意义。

针对大气湍流易造成激光通信产生长突发错误的问题，研究了低密度奇偶校验(LDPC)编码结合信道交织的差错控制方案。以交织距离作为适应度函数，提出了一种基于遗传算法的交织器设计方案。分析几种交织方式的距离特性表明所设计交织器较分组交织、随机交织和混沌交织具有明显的性能优势。误码率仿真结果也表明，在弱湍流条件下，当误码率为10-5时，基于遗传算法的交织器较Logistic映射混沌交织器具有0.5 dB的性能优势，而与随机交织器相比，更有0.87 dB的性能优势。故该交织器设计方案在大气激光通信中将具有一定的应用价值。

针对大气湍流严重影响无线光通信系统性能的问题，研究了基于低密度奇偶校验(LDPC)码和多输入多输出(MIMO)无线光通信系统性能，给出了基于LDPC码的空时编码MIMO(ST MIMO)和重复编码MIMO(rep MIMO)系统的解码算法，最后在对数正态模型和K分布模型下进行了仿真分析。仿真结果表明rep MIMO系统性能优于ST MIMO和单输入单输出(SISO)系统，ST MIMO在强湍流情况下性能明显优于SISO系统，基于LDPC码的ST MIMO和rep MIMO能取得10 dB以上的编码增益，并且编码增益随着湍流强度的增大而增加，基于LDPC码和rep MIMO的无线光通信系统差错性能更加优异，可以有效提高系统抗干扰能力。

建立了基于低密度奇偶校验(LDPC)码和多脉冲位置调制(MPPM)的无线光通信系统模型，给出了相应系统模型下的解码算法，研究了(m,2)MPPM的比特符号映射方式，提出了用改进的遗传算法(GA)搜索的优化映射方法，最后在大气湍流信道下进行了仿真。仿真结果表明基于LDPC码和MPPM的无线光通信系统性能明显优于未编码的MPPM系统，结合LDPC码和多光束发射技术可以提高系统抗强大气湍流影响的能力；通过GA优化的映射方法在不增加系统复杂性的情况下能进一步提高系统的纠错性能，可以获得更大的编码增益。