为提高星地激光通信地面接收端探测灵敏度和分辨能力，减少信标光捕获时间和难度，基于星地激光通信链路和设计方案，结合自适应光学（AO）技术，设计了一套500 mm口径的星地激光通信地面接收端系统。该系统采用库德光路、共口径分光探测形式，包含卡塞格林天线、倾斜镜精跟踪、AO超精跟踪、AO波前探测等4个单元。天线物镜组采用同轴卡塞格林结构，结合折射镜组构成开普勒望远结构，兼顾体积和长出瞳距的需求。在精跟踪倾斜镜和AO倾斜镜之间设计了4f系统，解决校正光轴时的瞳面漂移问题。在波前探测器和变形镜之间设计了双远心系统，构建两者共轭关系，降低波前探测的轴向误差影响。采用光学被动式方法对4个单元进行消热差设计，提高系统温度适应性。最终实验结果表明：在10 ℃~30 ℃范围内，各单元波像差均优于1/10λ（λ=632.8 nm），满足设计要求，具有一定借鉴价值和工程意义。

为了研究在大气湍流、指向误差以及各种噪声的共同影响下的星地激光通信系统平均误码率性能，采用Gamma-Gamma信道模型，建立了大气湍流与指向误差的组合衰减模型，并结合各种噪声推导出关于组合衰减模型的星地激光通信系统平均误码率的闭合表达式。研究结果表明，当卫星轨道高度为400 km、天顶角为45°、波长为1 550 nm以及等效波束半径和指向误差位移标准差（抖动）的归一化比值为4时，总噪声、热噪声、背景噪声对应的平均误码率分别为1.519×10-7、6.907×10-8、1.357×10-8。

星地激光通信技术能打破传统微波通信的频谱限制，应对星地链路越来越高的通信需求。而自适应光学系统能有效地抑制大气信道中湍流的影响，提高星地激光通信链路的稳定性和可靠性，已经成为国内外星地激光通信系统中重要的组成部分。本文详细介绍了国内外典型星地激光通信地面站的自适应光学系统以及其主要参数指标。并结合目前光通信自适应光学技术的研究成果，总结出自适应光学系统更强的波前探测能力、更高的校正能力、更稳定可靠的工作性能以及更加自动化的发展趋势。为星地激光通信中自适应光学系统的研制提供参考，以保障星地激光通信链路的高可用度。

大气湍流与平台微振动的存在会导致星地激光通信链路的随机信道衰减，使通信质量无法得到保证。为了研究大气湍流与平台微振动共同影响下的星地激光通信性能，建立了联合星地激光链路随机衰减模型，并基于二进制相移键控调制、外差相干接收给出了该模型下系统平均误码率的闭合表达式。仿真分析了不同星地激光通信系统参数对系统误码率性能的影响，研究结果可为实际星地激光通信系统的设计提供一定的理论参考。

在Kolmogorov湍流模型下, 建立了到达角起伏对星地激光通信误码性能影响的理论模型。基于该模型, 推导了星地激光通信系统误码率的闭合表达式。综合考虑光强闪烁、光束漂移和到达角起伏, 推导出三者共同作用下, 星地系统上行链路的接收光强概率密度解析式以及误码率的闭合表达式。文中采用的调试方式是适合星地激光通信的相干探测圆偏振调制。针对上行链路, 仿真分析了弱、中、强湍流下, 三者共同作用时, 星地激光通信系统的误码率, 并与不考虑到达角起伏条件下进行了比较。还分析了到达角起伏与误码率的变化关系, 以及在考虑发射功率受限的条件下, 三者共同作用对系统性能的影响。研究结果表明, 除了光强闪烁和光束漂移以外, 到达角起伏也是通信性能中不可或缺的因素。

对于星地激光通信，使用圆偏振光进行传输是其较优的选择，此时必须对其光学系统进行偏振定标。利用菲涅耳公式及琼斯矩阵对影响光学系统偏振态的因素进行了分析。针对一个特定的星地激光通信发射光学系统，给出了系统结构以及存在于系统中的几种不同分光膜系的曲线。利用光学软件ZEMAX，对初始状态为线偏振的激光在光学系统中传播过程的每一步进行偏振特性分析。分析结果表明：对于空间光通信光学系统，45°放置的分光片和反射镜是导致偏振态改变的主要因素；一般意义上的消偏振膜系只能保证p 分量和s 分量的能量透射率相同，但p 光和s 光之间仍存在相位延迟，造成偏振态变化；调整入射光的光矢量方向至与入射面平行或垂直，可将光学系统引起的仪器偏振误差降至最低。

为了有效地提高星地激光通信系统的通信性能，从推广的惠更斯-菲涅耳衍射原理出发，系统研究了矢量多高斯-谢尔模型光束在上行链路中的传输特性。研究结果表明，改变光束的横向相干长度能有效地改变其远场光强分布和大气湍流引起的光束展宽。另外，大气湍流会改变矢量多高斯光束的偏振度，但是在远场其偏振度会趋于一个固定值。该研究结果对星地激光通信等有着潜在的应用价值。

综合考虑我国方量的地理分布和气候特点，提出了一项星地激光通信的地面多址布站方案，仿真分析了大气散射引起的衰减及大气湍流对星地链路的影响。利用卫星工具包(STK)软件分析了地球静止轨道(GEO)卫星与5 个地面站的链路特性。结果表明, 西藏的阿里站同时具有最理想的经度和纬度，地平角为52°，最有利于开展星地激光通信。在一定天气条件下，随着波长的增加，对应的散射引起的功率衰减减小；随着能见度的降低，大气散射引起的光功率平均衰减增加；随着地平角的升高，大气引起的功率平均衰减减小；波长越长，闪烁指数越小；随着接收孔径直径的增大，闪烁指数快速减小；随着海拔高度的增加，闪烁方差减小。该研究为星地激光通信外场实验提供了一定的理论依据。

根据星地大容量通信发展需求，研究了基于微波空间光传输技术的星地激光通信链路。在建立星地微波光传输链路模型的基础上，分析了链路光功率衰减、输出微波信号、噪声功率以及在大气湍流信道下系统的误码率。仿真分析了调制器直流偏置电压大小对链路输出信噪比和误码率的影响，结果表明，相对于通常的正交偏置工作点，通过优化控制直流偏置点的位置，可以提高链路输出信噪比和误码率，这种改善程度随着调制系数的减小而增大。该研究为建立星地微波光传输系统提供了有益参考。

在我国首次星地激光通信链路地面捕获实验初期，由于激光通信终端地面光机装调和整星安装过程中存在的系统误差，在瞄准过程中存在8 mrad的瞄准角度偏差，且平均捕获时间大于40 s，严重影响星地光通信链路捕获性能。基于此，利用立方棱镜坐标系为桥梁，建立了基于坐标变换的卫星本体坐标系与终端基准坐标系的修正变换矩阵，通过地面坐标系测量，最终对光束瞄准角度偏差进行了有效补偿。海洋二号卫星在轨实测结果表明，星地激光通信链路的瞄准偏差由最初的8 mrad减小为0.8 mrad，捕获扫描范围显著缩小，链路平均捕获时间由最初的40 s减小到小于5 s，明显优于国外同类型终端在轨实验性能，对卫星激光通信链路捕获性能的提高具有重大意义。