采用少模光纤强耦合模分复用技术是大容量光纤通信系统的一种主要方案，而数字信号处理能在数字域补偿信道中带来的损伤，为信号恢复提供了灵活性并进一步提升传输容量。介绍了少模光纤强耦合通信系统中相比单模光纤系统所受到的额外损伤，并介绍了补偿损伤所使用的多输入多输出（MIMO）均衡算法、空时编码（STC）算法、干扰消除算法和最大似然估计算法的工作原理和主要研究进展，同时阐述了当前这些算法在复杂度、传输时延、光传输速率等方面仍存在局限性。结果表明，MIMO均衡算法结合STC有明显优势，在未来大容量长距离少模光纤强耦合通信系统中具有重要的应用意义。

针对在湍流信道下空间脉冲位置调制（SPPM）系统误码性能较差的问题，文章将空时分组码与空间调制技术结合，提出了基于比特补码正交空时分组码的空间脉冲位置调制（BCOSTBC-SPPM），利用空时编码增加信息冗余度以改善系统误码性能。同时基于最大似然（ML）检测推导了系统的理论误比特率上界，并通过蒙特卡洛仿真对理论上界进行了验证。仿真结果表明，BCOSTBC-SPPM的误码性能相比SPPM有较大提升。在弱湍流信道下，当系统误比特率为10-4时，(4,2,4)-BCOSTBC-SPPM相比(4,1,4)-SPPM信噪比改善约10 dB。该方式相较于传统正交空时编码方案在频谱效率方面有一定提升，实现了系统有效性和可靠性的合理权衡。

介绍了光多输入多输出(MIMO)系统的信道模型,通过将低密度校验码(LDPC)高可靠性的译码结果反馈给分层空时编码(BLAST)译码器,提出了一种适合于LDPC-VBLAST 光级联空时编码系统的联合检测迭代译码算法.利用蒙特卡洛方法分析了该译码算法的误码性能,并和简单级联译码算法的性能进行了对比.结果表明：这种联合检测迭代译码算法的误码性能明显优于已有的简单译码算法.另外,采用数值分析法分析了迭代次数对该译码算法性能的影响,结果表明,在折衷考虑系统误码性能和译码算法复杂度的情况下,要合理选取迭代次数,即迭代次数不宜选取过大.

多输入多输出(MIMO)技术是消除大气闪烁对空间光通信的影响和降低误码率(SER)的有效手段之一。针对2×2空间光通信系统，将Alamouti空时码与跳时超宽带技术(TH-UWB)结合，提出一种适合脉冲位置调制(PPM)的循环空时编码(RSTC)方法，推导了等增益合并(EGC)最大似然检测(MLD)和相关矩阵检测(CMD)的两种解码算法，最后分析了系统误码性能。在弱湍流和准静态衰落信道条件下仿真，结果表明，无论是在信道信息(CSI)已知还是未知情况下，编码2×2系统的误码率高于未编码的。该编码方法获得了空间和时间分集，相关矩阵检测法取得相似于信道最大比值合并（MRC）的效果，但随信道间相关性增加其误码性能下降明显。

为了降低系统光多输入多输出(MIMO)系统的复杂度，提高系统的性能，介绍了迫零(ZF)检测算法、最小均方误差(MMSE)检测算法、最大似然(ML)检测算法在垂直分层空时编码(V-BLAST)光MIMO空时系统中的应用。从理论上对算法性能和复杂度进行研究，然后在MATLAB建立仿真模型，对多模光纤的传输函数进行仿真，结果表明在多模光纤链路中，ZF算法性能较低；MMSE算法较ZF算法有所改进；ML算法通过比较接收符号和原发送的符号之间的相似度，从而获得原符号的最小差错概率，其性能最好。

空时分组码虽然获得了满分集增益，但因不能提供编码增益而使系统性能受到限制。首先介绍了光MIMO系统的信道模型；其次针对Q-PPM(Q>2)调制方式，完成了对已有空时分组码的改进，并和RS 码相级联而提出了一种级联空时分组编码方案。在此基础上分析了该方法的误码性能。最后，利用仿真实验进一步验证了该方法的可行性，并和级联重复码的性能进行了对比。结果表明：在大气激光通信中，随着信噪比的增加，级联空时分组码获得了较高的编码增益，有效抵御了大气湍流效应。

自由空间光通信(FSO)中的分层空时编码(LST),能极大地提高系统的传输速率,但误码率较大,严重影响光通信系统的可靠性。在分析了光强起伏的特性之后,建立了湍流信道中多输入多输出(MIMO)信道的模型;提出了采用串行干扰消除算法来完成FSO 中分层空时编码译码的方法,并和线性译码算法的性能进行了对比。最后,利用仿真实验进一步验证了该方法的可行性。结果表明:在FSO 中,采用串行干扰消除译码算法时的误码性能明显优于线性译码算法的误码性能。

空时编码不仅能提高系统的传输速率，而且还能有效抵御大气湍流。在建立了大气激光多输入多输出(MIMO)信道的模型之后，提出了一种适合于任意多进制脉冲位置调制(Q-PPM)调制的比特补码正交空时编码(BCOSTBC)，并推出了它的最大似然判决准则和误字率公式。最后，利用仿真实验进一步验证了该理论的正确性，并和重复码的性能进行了对比。结果表明，在大气激光通信中，这种码获得了满分集增益，而且还能很好的改善系统性能。当误字率Ps=10－2时，相对于1×1系统而言，采用这种码的2×1和2×2系统的信噪比分别改善了约10 dB和20 dB。虽然BCOSTBC码的误码性能没有重复码好，但是它更容易和其它信道编码级联。当BCOSTBC和RS码级联时，进一步改善了系统性能。

在分析了大气对光信号的影响之后, 利用脉冲位置调制(PPM)的正交性构造了一种适合于强度调制/直接检测式光通信的正交空时编码, 并将其引入分层空时编码的首层以增加第一层信息符号的分集度; 其次采用分组干扰抑制的方法消除其它层对信号的干扰, 利用空时分组码(STBC)和分层空时编码的译码方法并结合最大似然判决准则恢复出原始信号。最后, 利用仿真实验进一步验证了该方法的可行性。结果表明：在自由空间光通信中, 混合空时编码方案的性能明显优于传统BLAST码方案的性能。

垂直分层空时编码(V-BLAST)是一种将空间复用和空间分集相结合的技术,它具有极高的频谱利用效率和传输速率,因此将垂直分层空时编码技术应用于自由空间光通信。在研究了大气信道的特性之后,提出了一种基于垂直分层空时编码的自由空间光通信系统的信道模型。介绍了垂直分层空时编码的编码原理,并分析了该系统的信道容量。利用仿真实验比较了采用垂直分层空时编码前后系统信道容量及误码性能的变化。结果表明,当接收天线数大于或等于发送天线数时,系统的信道容量与发送天线数成正比例增长,误码性能被有效改善。说明该系统具有垂直分层空时编码所提供的信道容量和良好的误码性能,且能有效克服大气湍流所产生的闪烁效应。