针对超精密运动台的二维亚微米级精度同步测量需求，提出并建立了平面反射式二维光栅测量系统，研究了平面反射式二维光栅的平面位移同步测量方法，分析了平面反射式二维光栅测量系统的误差传递模型。通过Vold-Kalman滤波算法，对光栅信号中存在的高次谐波误差、幅值/相位误差进行实时修正和滤除。采用反正切细分算法和周期测量法对光栅正交脉冲的频率进行测量，实现对被测目标的高分辨率测量和实时运动速度测量。同时，构建了亚微米级测量精度的平面反射式二维光栅测量系统，测量范围为500 mm×500 mm，x、y方向的定位精度为±0.3 μm，测量分辨率为0.005 μm。

针对精细导星仪(Fine Guidance Sensor, FGS)姿态测量精度受星点提取系统误差影响的问题, 提出了一种基于梯度提升决策树(Gradient Boosting Decision Tree, GBDT)拟合法的高精度星点定位系统误差补偿方法。为了解决拟合样本少、输入特征差别大等问题, 采用对输入范围不敏感、易于训练的决策树作为基模型, 并根据当前模型拟合残差梯度, 结合集成学习中的提升方法生成新的基模型得到系统误差与探测器填充率、采样窗口尺寸、星斑束腰半径以及星点质心坐标计算值之间的函数关系, 以此函数关系为基础对星点质心坐标估计值进行系统误差校正。实验结果表明: 与支持向量回归机(Support Vector Regression, SVR)相比, 基于GBDT的高精度星点定位算法的误差减小了60.6%, 经该算法补偿后的质心误差为0.014 5 pixel, 相比于质心法误差减小了61.5%。

为实现高分辨力角位移测量, 提出了一种基于线阵图像探测器的角度细分方法。为消除安装调试时图像探测器与圆心距离变化产生的影响, 提出了一种具有较强适应性的高分辨力细分算法; 建立了该细分算法的数学模型, 并进行了误差分析。根据实际应用, 建立了由码盘偏心和图像探测器安装角度引起误差的模型, 并分析许多因素对细分算法的影响; 根据误差分析结果, 给出了减小图像式光电编码器细分误差的建议。结果表明, 在码盘圆周刻划线数大于或等于128时, 细分算法的误差较小, 可以被忽略。研究结果可为研制小型图像式光电编码器提供理论依据。

为提高光电编码器的分辨力，并缩小体积，提出一种基于图像处理技术的面阵图像式光电编码器。根据光电编码器的性能指标要求设计了光学码盘；然后，通过互补金属氧化物半导体（CMOS）图像传感器采集旋转码盘的图案，由复杂可编程逻辑控件(CPLD)，数字信号处理器(DSP)组成的处理电路接收图像数据，通过图形识别算法得到粗码角度，并采用改进的基准线质心算法，计算亚像素级的精码角度信息。最后由粗码和精码组成光电编码器测角数据。实验结果表明，设计码盘直径为45 mm的图像式光电编码器，在不配备光学镜头的前提下，采用精码细分技术，可实现4096份细分，测角分辨力达到5″，角度测量误差峰峰值为51″。且改进质心算法能有效地抑制噪声，提高测量精度。该图像式编码和精码细分技术可以提高编码器的分辨力，缩小编码器体积，减轻重量。满足航空航天领域对小型化光电编码器的需求。