首先根据强波动理论，从海水湍流折射率的光功率谱函数出发，推导出了既适用于强湍流信道、也适用于弱湍流信道的闪烁指数解析式。基于统一的Málaga模型，推导出了水下无线光通信系统的平均误码率、平均信道容量和中断概率表达式。仿真结果表明：海水的温度和盐度的随机波动始终对闪烁指数有着显著的影响；当海水的平均温度高于20 ℃时，局部平均温度的改变对于闪烁指数影响甚微；当湍流的内尺度小于0.001 m时，可以认为海水信道处于强湍流状态；海水强湍流信道下的无线光通信系统的平均误码率、平均信道容量和中断概率性能均比海水弱湍流信道下差。

针对自由空间光通信链路性能易受大气湍流影响的问题，构造了一种适用于自由空间光通信的多输入多输出（MIMO）极化编码方法。基于通用偏序法、极化编码、调制及MIMO技术联合优化快速构造极化码，并在大气湍流信道下进行仿真分析。实验结果表明，在不同构造方法及编码方案下，MIMO极化编码方法能在保持低复杂度的同时使系统获得更好的性能。在强湍流条件且误码率为10^-4时，相比Monte Carlo方法，偏序法的编码增益约为0.2 dB，且离线构造的计算复杂度可忽略不计；强弱湍流条件下，相比单输入单输出（SISO）-polar方式，MIMO（2×2）-polar方式的编码增益约为1.1~1.6 dB，具有明显的分集优势。

在指数韦伯湍流信道和Nakagami-m衰弱信道条件下，研究了基于选择合并技术的混合自由空间光/射频（FSO/RF）通信系统的性能。在考虑指向性误差的情况下，推导了基于副载波调制和强度调制/直接检测方案的选择合并混合FSO/RF通信系统的平均误码率和中断概率，并利用Meijer-G函数和扩展广义双变量Meijer-G函数得到其表达式。在不同副载波调制方式、湍流强度、指向性误差和RF信道衰弱参数m的情况下，分析了混合FSO/RF通信系统和FSO系统的误码率和中断概率。仿真结果表明，基于相干二进制相移键控副载波调制技术的混合FSO/RF通信系统性能明显优于其他三种调制技术；相比FSO系统，混合FSO/RF通信系统的性能更好。

针对自由空间光通信下大气湍流引起极化码译码中错误比特难以定位的问题,提出一种自由空间光通信下的LSTM-SCFlips译码方法。首先将极化码串行抵消(SC)译码的对数似然比(LLR)信息序列进行one-hot预编码处理,在不同训练步长下,分析与学习极化码对数似然比信息序列的特征,综合考虑神经预测模型的均方根误差和计算复杂度,选取合适的训练步长,在提升预测结果精确度的基础上,进一步消除预测结果过拟合的现象。通过长短时记忆(LSTM)神经网络模型定位SC译码的第一个错误位时,按错误概率大小排序,依次进行SC译码算法的单比特或多比特翻转。仿真结果表明,在不同的大气弱湍流强度下,自由空间光通信下的LSTM-SCFlips译码方法在以牺牲少量计算资源为前提的情况下能更好地识别最优翻转位,降低计算复杂度,同时获得更好的误码率性能。当误码率为10 ^-4时,LSTM-SCFlips译码方法最优翻转位的正确识别率被提高7个百分点,且产生了0.3 dB~1.2 dB的编码增益。

在Málaga湍流信道和Nakagami-m衰弱信道条件下,对基于选择合并技术的混合自由空间光/射频(FSO/RF)通信系统性能进行研究。在考虑指向性误差的情况下,推导了采用副载波调制和强度调制直接检测方案的混合FSO/RF系统的平均误码率和中断概率表达式,并利用Meijer G函数和扩展广义双变量Meijer G函数获得其闭合解。在不同的副载波调制方式、湍流强度、指向性误差及RF信道衰弱参数情况下,分别分析混合FSO/RF系统和单FSO系统的误码率和中断概率。仿真结果表明,相比单FSO系统,混合FSO/RF通信系统能有效提升通信系统性能。

针对无线光通信中极化码构造复杂度高的问题,提出一种适用于大气弱湍流信道的具有更低编码复杂度的湍流偏序构造法。将通用偏序技术引入到大气弱湍流信道中,利用蒙特卡罗法仿真确定弱湍流下子信道的关系,并将其与极化权重公式相结合,推导出最佳的参数值。仿真结果表明,在不同大气湍流强度下,湍流偏序法在低码率下可获得与蒙特卡罗法相同的误码性能,且在高码率下仍具有近似于蒙特卡罗法的性能,在误码率为10 -4下只产生0.07 dB~0.2 dB的损耗,有利于提高系统的传输效率,为极化码与无线光通信的高效结合提供了解决方案。

利用超奈奎斯特传输技术可进一步提升现有大气光通信系统的传输速率,但是大气湍流的存在会严重影响系统的性能。针对这一问题,推导了Gamma-Gamma大气湍流信道中超奈奎斯特大气光通信系统的平均误码率和平均容量表达式。讨论了湍流强度、传输距离、加速因子等参数对系统性能的影响。蒙特卡罗仿真结果表明,超奈奎斯特传输技术可有效提高系统的平均容量,同时传输距离的增加和加速因子的减小对系统误码率及平均容量的影响较明显。在加速因子为0.75、信噪比为18 dB、弱湍流条件下,采用超奈奎斯特传输技术后系统的平均容量优于未引入该技术的系统的31%。

超奈奎斯特传输理论与调制技术相结合, 可有效提高系统的频谱效率。本文将超奈奎斯特理论引入大气激光通信系统, 构建了一种适合于log-normal湍流信道的超奈奎斯特光传输系统, 推导了QPSK调制方式下超奈奎斯特大气光传输系统平均误码率的表达式, 利用蒙特卡洛仿真进一步分析了该系统的误码性能及频谱效率。结果表明: 采用超奈奎斯特技术方案可以较大幅度提升大气光传输系统的频谱效率, 当SNR为18 dB, S.I.为0.4时其频谱效率可以达到1.7 Baud/Hz, 而未采用超奈奎斯特技术时只有1.56 Baud/Hz。另一方面, 大气湍流对超奈奎斯特系统误码性能的影响较明显, 当S.I.为0.4, BER为3.8×10-3时, 信噪比恶化了约1 dB。相对于频谱效率的提升, 误码性能的恶化是能够接受的。因此, 可以将FTN技术引入大气光传输系统来提高系统的频谱效率。

针对传统光空间调制传输速率和激光器利用率较低,且要求激光器数目必须是2的整数次幂的问题,通过同时激活多个激光器并结合脉冲位置调制构建了一种适用于无线光通信的广义光空间调制(GOSM)方案。针对最大似然译码(ML)算法复杂度较高的问题,引入排序块最小均方误差(OB-MMSE)信号检测方法,利用平衡因子在综合考虑误码性能和复杂度的情况下,对OB-MMSE算法进行改进,并依据GOSM信号的特点对其权值进行修正;此外还推导了对数正态湍流信道中阈值的选取公式。最后,采用蒙特卡罗仿真验证了算法的性能,并将所提算法与经典ML、MMSE算法的误码性能和计算复杂度进行了对比。结果表明:与ML算法相比,所提算法在牺牲较小误码性能的情况下,能有效降低算法的复杂度;与MMSE算法相比,虽然所提算法的复杂度略有增大,但它可有效地降低误码率,而且还适用于接收机数目少于发射机数目的系统。

为了提高光通信链路在大气弱湍流信道下的解码性能和传输效率, 基于极化码的信息位嵌套特性, 设计了一种自适应码率极化码。该码字在弱湍流信道中能充分地极化, 纠错效果较好。为了调节码率, 引入CRC校验码作为发送端的停止标志, 逐次发送更低码率的码字直到译码结果通过校验, 此时的码字码率即是保证可靠传输的最大码率。不同湍流强度下的仿真结果表明, 在误帧率为10-8时, 相比传统极化码, 自适应码率极化码可以获得1.7~2.3 dB的性能增益。对自适应码率极化码的时延进行了仿真分析, 并结合误帧率得到了自适应码率极化码的信息吞吐率, 结果表明, 在弱湍流信道中, 自适应码率极化码的信息吞吐率能满足FSO的传输需求。