建立了采用相关波前探测算法(Correlation wave-front sensing algorithm, COR)的自适应光学(Adaptive Optics, AO)系统的数值模型, 对准直光束大气传输自适应光学校正进行了数值模拟, 分析了不同热晕强度条件下光子噪声和读出噪声对系统校正效果的影响, 并与质心(Center of Gravity, COG)算法和阈值质心(Threshold Center of Gravity, TCOG)算法进行了对比。数值模拟结果表明, COR算法对噪声和热晕强度的变化具有更好的鲁棒性, 可以提高夏克-哈特曼波前探测器(Shack-Hartmann Wave-front Sensor, SH-WFS)在低信噪比(Signal to Noise Ratio, SNR)条件下的波前探测精度, 同时还可以较好地抑制噪声诱发的相位补偿不稳定性(Phase Compensation Instability, PCI), 改善低信噪比条件下大气热晕校正的稳定性。

由于相位补偿不稳定性的存在，大气热晕效应的相位校正一直是研究人员十分关心的问题。对变形镜驱动器影响函数耦合矩阵进行正交化获得了按照空间频率划分的变形镜本征模式，建立了采用变形镜本征模式进行波前重构的数值模型，对基于该波前重构方法的自适应光学系统校正大气热晕进行了数值模拟。数值模拟结果表明，与直接斜率法相比，变形镜本征模式法可以通过本征模式的选择，改变校正相位的空间频率成分，消除空间高频成分对热晕校正的影响，从而抑制相位补偿不稳定性的发生，提高自适应光学系统闭环控制的稳定性和对大气热晕的校正效果。

研究了大气热晕效应自适应光学(adaptive-optics, AO)位相补偿数值模拟方法。利用自主开发的高能激光大气 传输四维数值模拟程序对准直光束瞬态热晕位相补偿进行了模拟,定量分析了不同的热晕强度下, 变形镜驱动器布局 对位相补偿效果的影响。数值模拟结果表明,变形镜驱动器的布局对AO系统闭环控制的稳定性影响较大,不同 的布局使得驱动器控制信号的方差存在较大差异,选择合适的驱动器布局可以改善AO系统闭环控制的 稳定性,提高位相补偿不稳定性发生的阈值。

改进了泽尼克模式波前重构数值模拟方法，避免了传统方法中大量的面积分运算，对准直光束瞬态热晕效应模式法自适应光学校正进行了数值模拟研究。数值模拟结果表明，由于模式混淆误差的影响，使泽尼克重构模式阶数的选择受限，即存在一个最大的重构模式阶数，大于该模式阶数会导致校正效果迅速变差，且最大模式阶数的大小与热晕强度无关。对于子孔径分布为8×8的69单元自适应光学系统，最大模式阶数为37阶；同直接斜率法相比，泽尼克模式法可以通过重构模式选择，提高自适应光学系统对热晕校正的稳定性，抑制热晕补偿不稳定性的发生。