利用Sasiele等提出的空间谱滤波技术,对两种典型应用场景下扩展信标非等晕性问题进行了建模,获得了扩展信标非等晕误差及其不同Zernike模式分量的理论公式。基于理论模型,分析了两种场景和典型湍流模式下扩展信标非等晕误差及其不同Zernike模式分量的特性,结果表明：信标扩展度与接收系统口径相同时,扩展与聚焦耦合非等晕方差最小,但扩展与聚焦耦合非等晕方差高阶项(去平移、倾斜和离焦)分量并非最小,高阶项分量最小时信标扩展尺度应小于接收系统口径；当信标扩展角与信标偏置角相当时,纯信标扩展非等晕方差约是纯角度非等晕方差的2.2%；相对湍流大气纯角度和纯聚焦非等晕方差,信标扩展导致的湍流大气非等晕是小量,多数情况下可不考虑。

改进了泽尼克模式波前重构数值模拟方法，避免了传统方法中大量的面积分运算，对准直光束瞬态热晕效应模式法自适应光学校正进行了数值模拟研究。数值模拟结果表明，由于模式混淆误差的影响，使泽尼克重构模式阶数的选择受限，即存在一个最大的重构模式阶数，大于该模式阶数会导致校正效果迅速变差，且最大模式阶数的大小与热晕强度无关。对于子孔径分布为8×8的69单元自适应光学系统，最大模式阶数为37阶；同直接斜率法相比，泽尼克模式法可以通过重构模式选择，提高自适应光学系统对热晕校正的稳定性，抑制热晕补偿不稳定性的发生。

采用自适应光学(AO)系统对湍流大气进行校正时，非等晕性误差的影响不可避免。基于空间谱滤波技术，围绕湍流大气角度、聚焦、角度与聚焦相耦合非等晕性问题，进行了统一建模，给出了不同情况下的理论描述公式，分析了纯角度和纯聚焦非等晕误差中不同泽尼克模式分量所占比份。针对典型AO系统工作模式，分析了不同高度大气层对非等晕性误差的贡献。实际应用时，根据应用场景，应对AO系统工作模式和信标模式做优化匹配选择。

针对条纹投影偏折法中需要多次迭代进行面形恢复，提出一种结合快速傅里叶变换（FFT）算法与泽尼克（Zernike）模式拟合的算法（FFT-泽尼克）。数值仿真结果表明，直接使用泽尼克模式拟合，需要迭代15次，用时1 min以上，而使用FFT-泽尼克算法，迭代5次已收敛到理想精度。在保证计算精度在纳米量级的情况下，计算时间也缩短了近2/3。

风载引起的主镜变形是大口径望远镜必须考虑的问题。针对类似于 Subaru望远镜的薄镜面能动光学系统，采用固定点力反馈控制方法对风载进行校正，本文引入了压强模式的概念，提取出风载产生的镜面变形的大部分信息，并据此对固定点力反馈控制方法进行了研究，得到如下结论: 风载产生的镜面变形主要是平移、倾斜、像散和离焦等低阶像差；相同系数的情况下，平移和倾斜压强模式可以产生更大的镜面变形，对固定支撑点产生更大的力；基于压强模式的固定点力反馈控制方法对风载有较好的校正效果。

基于随机并行梯度下降(SPGD)算法的自适应光学(AO)无需波前传感器就可以实现对波前相位畸变的闭环补偿。但是算法的收敛速度较慢,制约着其在实时性要求高的系统中的应用。根据SPGD算法中随机扰动对收敛速度的影响,提出一种利用泽尼克(Zernike)模式优化算法随机扰动的方法。针对大气湍流,建立了一个基于SPGD算法的61单元自适应光学仿真模型,并对一组符合Kolmogorov特性的相位畸变进行了数值仿真,分析了该优化方法对系统收敛特性的影响。仿真结果表明,与优化前相比,优化随机扰动后,校正精度略微下降,但是收敛速度得到明显的改善。

对一种基于线性相位反演的新型波前测量方法的基本原理和性能进行了研究。事先对成像光学系统的自身像差进行定标并记录下定标图像。传感器工作时只需测量出有像差时的一幅远场图像与定标图像的差,就可以用线性矩阵相乘方法得到待测像差对应的泽尼克多项式系数。讨论了这种线性相位反演波前测量方法中确定泽尼克模式复原矩阵的方法。以大气湍流畸变波前像差的测量为例,对这种线性相位反演波前测量方法进行了数值仿真研究。结果表明,这种线性相位反演算法具有空间分辨力高、对小像差测量精度高的特点,但测量动态范围有限。这种线性相位反演波前传感器将适用于自适应光学闭环系统。