为了满足小型化自适应光学系统校正波前畸变的需求，基于系统理论分析设计了一种使用微型音圈驱动器的变形镜。使用电磁理论和有限元方法优化了微型音圈驱动器的结构参数。从热变形、共振频率、耦合系数等多个参数的角度对变形镜进行了优化。最后根据影响函数完成了波前拟合和残差计算。优化后的69单元紧凑型音圈变形镜具有大相位调制量、良好的热稳定性，第一共振频率为2220 Hz。对于PV值为1 µm的前35项泽尼克模式，紧凑型音圈变形镜的拟合残差均小于30 nm。对于复杂随机像差，紧凑型VCDM能够将波前RMS降至原来的10%以下。结果表明，与传统的音圈变形镜相比，紧凑型音圈变形镜具有更高的波前拟合精度。高性能、低成本的紧凑型音圈变形镜在视网膜成像和机载成像系统中具有良好的应用前景。

自适应光学技术被广泛应用于人眼像差的校正，从而实现眼底细胞和微血管进行高分辨率成像。传统自适应光学系统受夏克哈特曼波前探测器的动态范围限制，只对部分人群适用，无法对高屈光不正人群进行眼底高分辨率成像。为了提高眼底自适应光学成像系统普适性，本文设计了一种基于音圈变形镜高分辨率眼底自适应光学成像系统：引入Badal调焦系统，能够对人眼屈光度在-8~8 D的眼底进行高分辨率成像；用轴锥透镜组代替传统的环形光阑，控制正、负轴锥透镜间距可以调节环形光内径，以适应不同人眼的角膜，同时避免角膜反射的杂光；通过视标引导实现大视场成像。仿真结果表明，照明子系统在眼底视网膜照度分布均匀；在设定的公差范围内，至少有90%的MTF值在25 lp/mm达到0.21（对应视网膜上4 μm）。在实验室搭建了相应的光路，对大畸变的模拟人眼进行了成像，获得了较好的成像效果。

动态变化的大气湍流和观测目标的亮度的降低严重影响了夏克-哈特曼波前传感器（SHWFS）探测波前的精度。针对这两种复杂的观测条件，本文提出了一种以Transformer结构为基础的神经网络模型，它具有很好的全局建模能力，可以高精度地从SHWFS光斑阵列图像中重建波前。通过在动态变化的典型大气湍流相干长度r₀下进行仿真模拟，所提出的网络模型的残余波前RMS误差值稳定在0.010~0.024 μm之间。与已有的方法相比，本文方法能够更准确地重构波前像差。此外，本文方法的重构精度受导星或观测目标的亮度变化影响很小。因此，本文方法的重构精度对两种观测条件变化均具有较强的稳定性，为大口径天文光学望远镜的高分辨率成像提供了一种有前景的方法。

压缩感知技术用于光学波前测量时，常规的斜率恢复方法精度较低，难以测量大气湍流引起的复杂波前，本文利用深度神经网络进行斜率恢复，提高斜率恢复精度，从而提高压缩波前探测方法测量大气湍流波前的精度。传统的压缩波前探测方法在稀疏化过程中忽略相对较小的斜率值，导致波前测量误差的增加。为了快速测量大气湍流引起的复杂波前，本文提出了一种深度神经网络，可以高精度地恢复斜率，从而提高了波前重构的精度。在压缩比为0.1~0.9情况下，基于深度神经网络的压缩波前探测算法（DNNCWS）的波前重构误差PV优于0.014 μm，算法的运行时间为4.4 ms。在暗弱星等情况下，残差波前的峰谷值（PV）优于0.011 μm。模拟结果表明，DNNCWS具有良好的抗噪声性能。深度神经网络DNNCWS提高了压缩波前的探测精度，可以用于测量大气湍流引起的复杂像差，还可用于其他自适应光学应用，如激光通信和视网膜成像。