自适应光学系统可以抑制大气湍流所产生的波前畸变，波前探测支路和光纤耦合支路之间存在的非共光路像差会导致自适应光学系统闭环后其耦合功率未能有效提升。采用逆向传输标定法由耦合光纤端到波前传感器进行反向传输，将波前传感器采集相对应的波前信息折算到自适应光学系统并实现闭环控制。结果表明：采用逆向传输标定法，数值仿真的耦合效率由27.31%提升至68.14%；静态环境实验的耦合效率由9.04%提升至45.21%；湍流环境实验的耦合效率由19.72%提升至36.93%；复杂环境实验的耦合效率由3.87%提升至7.52%。该方案简单而切实可行，易于在工程上推广应用。

针对无线光通信存在光束对准耗时长的问题，提出一种发射端采用图像跟踪，接收端采用二维反射镜控制的光束快速对准方法。依据几何光学理论计算了激光经二维反射镜后出射的扫描轨迹，并在无线光通信强度调制/直接检测系统上开展实验。实验结果表明：当通信距离为1.3 km时，光斑型心在x(y)方向的方差由跟踪前的12.5734 pixel²(5.1393 pixel²)降至跟踪后的2.2770 pixel²(1.3697 pixel²)，探测器输出电信号的幅值为92.4 mV；当通信距离为10.3 km时，光斑型心在x(y)方向的方差由跟踪前的18.8653 pixel²(10.5290 pixel²)降至跟踪后的14.4970 pixel²(8.0287 pixel²)，探测器输出电信号的幅值为74.4 mV。所提方法无需将控制信号由接收端回传至发射端，在快速建立下行链路的同时即可实现上行链路的建立。

根据高斯光束传输理论,分析了径向偏差、端面倾斜偏差和轴向偏差等对准误差对空间光-单模光纤(SMF)耦合效率的影响。数值计算和实验结果表明,当端面与径向之间的夹角Ω为90°和270°时,3种对准误差对耦合效率的影响相互独立,当夹角Ω=180°时,耦合效率有最大值。为更好地补偿对准误差对SMF耦合效率的影响,基于压电陶瓷设计了具有5自由度耦合装置的光纤耦合器,并结合变增益型随机并行梯度下降算法寻找空间光-SMF的最佳对准姿态。实验结果表明,5自由度光纤耦合器可以很好地实现不同对准误差的校正,系统闭环后SMF耦合效率达到53.2%。

激光在大气湍流中传输时会发生波前畸变,从而降低无线光通信系统的性能。采用基于随机并行梯度下降(SPGD)算法的无波前传感器自适应光学校正系统对远场的畸变波前进行校正。模拟结果表明,校正后系统的斯特列尔比由0.15提高到0.81,远场光斑能量更加会聚。以CCD相机探测到的远场畸变光斑光强值作为系统的目标函数,实验验证了SPGD算法对不同畸变像差光的校正情况。经校正,目标函数(中心900个像素点的灰度均值)由26.5,44.6,110.6分别上升到77.2,93.4,208.5,斯特列尔比由0.23,0.39,0.48分别上升到0.67,0.75,0.86,中心光强值增大且光斑能量会聚,该结果与理论结果相吻合。