鉴于目前普遍选用的水下弱湍流模型无法准确拟合实测数据的缺陷，选取经实验测试验证的广义Gamma分布来表征海洋弱湍流，以期合理评估受湍流等因素影响的水下无线光通信系统的误码性能。提出一种包含广义Gamma分布弱湍流、零/非零视轴指向误差以及无衰落信道冲激响应隐路径损耗和多径效应的混合衰落信道模型，据此推导混合衰落串行中继无线光通信系统平均误码率的数学闭型表达；通过数值仿真验证所推导的误码率理论表达式的准确性，并考察不同系统核心参数对误码率的影响。研究结果表明：串行中继节点的引入可有效提高系统的误码性能，以零视轴指向误差、最终传输距离达45 m、误码率需求10^-3为例，引入1至3个串行中继节点后，系统从一开始的无法工作，变为所需的发射功率分别降低至24 dBm、12 dBm和6 dBm；而光源初始发散角增大导致的无衰落信道冲激响应时延扩展，即符号间干扰，则会严重降低此性能改善。

采用功率谱反演法模拟了同轴叠加产生的双拉盖尔-高斯涡旋光束（Double Laguerre-Gaussian Vortex Beam，DLGVB）在海洋湍流中传输时的光强和相位分布，仿真分析了DLGVB光束在不同海洋湍流参数下的闪烁指数以及在基于开关键控调制的水下光通信系统中的通信误码率。结果表明，随着湍流动能耗散率的减小，盐度温度波动平衡参数、温度方差耗散率及传输距离的增加，闪烁指数逐渐增加；随着湍流动能耗散率以及拓扑电荷差值的增加，误码率减小。在海洋湍流环境下，使用DLGVB光束进行传输可以抑制海洋湍流带来的干扰，选择最佳的拓扑电荷差值，可以有效提高传输通信质量及通信系统容量。本文研究结果对涡旋光束及其叠加态在海洋湍流下传输特性研究及水下光通信系统持续扩容的发展需求方面具有重要的参考价值。

针对自由空间光（FSO）通信系统易受大气湍流效应影响的问题，为降低系统在饱和湍流情况下的误码率（BER），并且考虑到实际工程中需要在有限信噪比（SNR）下得到最大的分集增益，需要对系统的分集性能进行研究，以得到分集增益与SNR和系统链路数量等参数的关系。文章选择采用多输入多输出（MIMO）技术，设计了基于正交振幅调制（QAM）的MIMO-FSO通信系统，分析了系统在负指数分布信道模型下的性能表现，推导出系统的BER计算公式与分集增益相关参数（如分集阶数（DO）、分集阶数增量（IDO）和收敛速度（SOC）等）的闭式表达式，并利用数学软件Matlab进行仿真实验，通过蒙特卡洛仿真来验证所推导公式的准确性。仿真结果表明，MIMO技术在不增加发射功率和接收孔径面积的情况下，可以大幅度降低FSO通信系统的BER，且在饱和湍流信道下，系统链路数量越多或湍流强度越低时，DO随SNR增长到理论最大值的速度越快。MIMO技术有效地抑制了大气湍流对系统的负面影响，大幅提高了系统性能。在条件允许的情况下，尽量使用多的发射机和接收机可以使得系统在有限SNR下获得的分集增益更高，但是也需要考虑到实际工程中的部署成本和安装难度来选择合适的链路数量。