基于未对准衰落(即指向误差)和Malaga湍流分布的联合概率密度函数,采用Meijer G函数推导自适应多进制相移键控(MPSK)调制系统的平均误比特率和中断概率渐近表达式。接收机半径一定时,通过调整光束束腰半径和抖动标准差参数值,可获得系统最优误比特率。当束腰半径与接收机半径之比w_z/a=10且抖动标准差与接收机半径之比σ_s/a=1.5时,非自适应二进制相移键控(BPSK)系统平均误比特率曲线下降最快;而w_z/a=5,σ_s/a=1.5时,自适应MPSK系统频谱效率和平均误比特率均达到最优。当未对准衰落一定且平均电信噪比较小时,自适应系统平均误比特率和中断概率主要受未对准衰落影响,但随着平均电信噪比的增加,受湍流的影响增大。

基于相干检测的正交频分复用技术是未来高速光通信技术的重要解决方案之一，由于相干光检测系统结构复杂不易实现，因此采用副载波外差检测技术检测副载波正交频分复用光信号。建立了大气湍流信道系统传输模型，推导了子载波平均载噪比(CNR)和平均误比特率(BER)的闭合表达式，数值分析了本振光功率和调制系数对系统平均误比特率的影响，并通过仿真实验进行验证。实验结果表明，与直接检测相比，副载波外差可以进一步提高平均载噪比，提升系统误码性能。当接收光功率为微瓦量级时，本振光功率约为-11 dBm，此时可获得最佳平均载噪比，当本振光功率大于-11 dBm 时，随本振光功率增加平均载噪比逐渐降低，平均误比特率升高。弱湍流条件下，当接收光功率大于-17 dBm 时，平均误比特率为10-5以上，此时可以保证无线光通信系统的可靠性。

为了降低湍流对大气无线光通信的影响，提高无线光通信系统性能，提出了一种4发射天线、4接收天线的无线光多发射多接收系统模型，针对该模型设计了一种正交空时分组码(OSTBC)编译方法，并对该码的平均误比特性能进行了仿真分析。结果表明，该方案具有很大的分集优势，可获得的最大分集度为16，达到了4发4收系统所能获得的最大空间分集增益，同时该编码方法与传统的Alamouti方案一样能实现最大传输速率。通过对译码算法进行简单修改，OSTBC编译方法也可以应用在接收天线数目为1，2或3个的多光束发射和接收系统中。