针对在湍流信道下空间脉冲位置调制（SPPM）系统误码性能较差的问题，文章将空时分组码与空间调制技术结合，提出了基于比特补码正交空时分组码的空间脉冲位置调制（BCOSTBC-SPPM），利用空时编码增加信息冗余度以改善系统误码性能。同时基于最大似然（ML）检测推导了系统的理论误比特率上界，并通过蒙特卡洛仿真对理论上界进行了验证。仿真结果表明，BCOSTBC-SPPM的误码性能相比SPPM有较大提升。在弱湍流信道下，当系统误比特率为10-4时，(4,2,4)-BCOSTBC-SPPM相比(4,1,4)-SPPM信噪比改善约10 dB。该方式相较于传统正交空时编码方案在频谱效率方面有一定提升，实现了系统有效性和可靠性的合理权衡。

针对现有光空间脉冲位置调制频谱效率低、激光器利用率不高等问题, 将分层技术与空间脉冲位置幅度调制相结合, 提出了一种适合于大气激光通信的多层空间脉冲位置幅度调制方案.通过 额外增加少量几个激光器构成多层结构, 并通过脉冲位置幅度调制中的脉冲位置携带比特信息, 不同层通过脉冲幅度得到区分.介绍了系统中层映射、空间脉冲位置幅度映射及其逆映射的原理, 并 推导出该方案的误码率表达式.利用蒙特卡洛仿真方法进一步验证了该方案的正确性, 并与传统空间调制系统的性能进行了对比.结果表明: 与传统光空间调制系统相比, 所提方案提高了系统的频 谱效率, 且所用激光器数目更少.在传输比特相同的条件下, 相对于(32,4,128)-空间脉冲位置调制系统, (9,4,8,2)-多层空间脉冲位置幅度调制系统的频谱效率提高了16倍, 当误码率为10－3时, 其信噪比改善了约1 dB, 且所用激光器数目不到前者的1/3.其中, 括号中的参数分别表示激光器数目、探测器数目、采用调制方式的阶数及层数, 层数为1时忽略.

超奈奎斯特传输理论与调制技术相结合, 可有效提高系统的频谱效率。本文将超奈奎斯特理论引入大气激光通信系统, 构建了一种适合于log-normal湍流信道的超奈奎斯特光传输系统, 推导了QPSK调制方式下超奈奎斯特大气光传输系统平均误码率的表达式, 利用蒙特卡洛仿真进一步分析了该系统的误码性能及频谱效率。结果表明: 采用超奈奎斯特技术方案可以较大幅度提升大气光传输系统的频谱效率, 当SNR为18 dB, S.I.为0.4时其频谱效率可以达到1.7 Baud/Hz, 而未采用超奈奎斯特技术时只有1.56 Baud/Hz。另一方面, 大气湍流对超奈奎斯特系统误码性能的影响较明显, 当S.I.为0.4, BER为3.8×10-3时, 信噪比恶化了约1 dB。相对于频谱效率的提升, 误码性能的恶化是能够接受的。因此, 可以将FTN技术引入大气光传输系统来提高系统的频谱效率。

为了研究大气激光通信中稳定跟踪所采用的器件及有效跟踪方法，分析了光束定位探测器件(电荷耦合器件和四象限光电探测器)的灵敏度特性，结合影响大气激光通信跟踪系统性能的五种大气湍流效应，分别讨论了光束漂移、光强起伏、光斑弥散、到达角起伏及光束扩展的原理.对质心跟踪算法和形心跟踪算法定位准确度的影响进行分析，得到在大气条件下形心算法的跟踪误差小于质心误差的结论，并通过实验进行了验证.

无波前传感自适应光学(AO)系统不依赖波前传感器可直接对系统性能进行优化。基于随机并行梯度下降(SPGD)算法,32单元变形镜,CCD成像器件等建立了无波前传感自适应光学系统实验平台。实验结果表明,参量选取合适时,系统对畸变波前具有较好的校正能力,但受限于较低的CCD采样频率,仅能校正静态或缓慢变化的像差。根据实验结果讨论了基于随机并行梯度下降控制算法的无波前传感自适应光学技术在大气光通信中的应用可能和应用方法,指出采用高速光电探测器件、高速数据处理及响应速度高的波前校正器与随机并行梯度下降算法相配合可用于补偿大气光通信中的大气湍流扰动。

大气光通信中大气湍流引起的相位噪声和光强起伏噪声会严重影响通信系统的通信质量,自适应光学补偿可在一定程度上解决问题。常规自适应光学技术对于解决上行链路、下行链路中的湍流扰动问题得到了理论和实验验证。强闪烁现象的存在使得常规自适应光学技术在水平链路中的应用受限,不使用波前传感器的自适应光学技术则为这一问题的解决提供了可能方案。随机并行梯度下降算法是该类自适应光学技术中一种较有应用前途的控制算法。