衍射波前质量是衡量刻划光栅性能的重要指标之一, 光栅刻划机若存在阿贝误差, 将直接影响刻线位置精度, 从而影响光栅的波前质量。建立了刻划机阿贝误差与光栅衍射波前质量的物理模型, 并分析了该误差对波前质量的影响。针对该误差设计了一种基于双频激光干涉测量的阿贝误差测量光路, 测量了刻划机的阿贝误差, 根据物理模型对其导致的光栅衍射波前误差作了仿真分析, 并提出了基于双层工作台结构的误差控制校正方法。对两块尺寸为80 mm×100 mm、刻线密度为79 groove/mm的中阶梯光栅进行了阿贝误差校正前后的对比刻划实验。结果表明, 通过对阿贝误差的测量和校正, 光栅闪耀级次为-36级的衍射波前误差由0.529λ降低至0.159λ(λ=632.8 nm), 有效地降低了阿贝误差对光栅衍射波前质量的影响。

由于大型衍射光栅刻划机刻划系统的双拉杆结构不能使其满足精度指标要求,本文设计了一套单拉杆结构.讨论了石英导轨分度方向弯曲误差产生的原因及其减小该误差的方法,分析和比较了两种拉杆结构的鞍型滑块的受力情况.基于材料力学弯曲变形理论,建立了石英导轨分度方向弯曲误差模型.在该模型的基础上仿真了双、单拉杆结构下刻划系统的石英导轨在分度方向上的弯曲变形误差.最后,使用双频激光干涉仪对石英导轨上的两个特征测量点进行了测量.测量结果显示:改进后的拉杆结构使得石英导轨在两特征测量点处的位移误差由50.36 nm降低到小于10 nm,满足大型衍射光栅刻划机刻划系统在分度方向上5~10 nm的精度指标要求.

尝试在大型衍射光栅刻划机中使用气浮导轨承载金刚石刻划刀具系统运行。气浮导轨同时承担刀具系统的承重与导向任务，由于使用气体作为润滑剂而接近零摩擦状态，可以避免触点磨损及低速爬行现象。分析了气浮导轨工作过程中产生的误差及该误差对刻划刀具运动轨迹的影响，并使用双频激光干涉仪测量刻划过程中刻划刀具运动的直线度误差。测量结果表明，金刚石刀具系统单向行程400 mm 时，该误差约为200 nm，小于使用石英导轨承载刀具系统时的误差，同时在高频振动方面有明显改善。刻制一段79 gr/mm，400 mm×500 mm 的中阶梯光栅，观察其衍射光斑并使用照度计检测得其不同位置杂散光强度为0.2‰~5‰，实验结果表明使用气浮导轨承载刻划刀具可以满足光栅刻划精度要求。

光栅刻划机工作台性能及其控制算法是直接影响大面积光栅刻划精度的重要原因。为了提高光栅刻划机运行精度，研制了采用压电陶瓷进行微定位控制的300 mm行程宏微两级工作台，建立了微定位工作台数学模型，仿真分析了工作台参数对系统动态性能的影响。采用反向传播(BP)神经网络比例积分微分(PID)算法对微定位工作台进行闭环控制。仿真分析表明通过增大内外台连接刚度或内外台之间阻尼在总体趋势上均可改善与光栅质量密切相关的微定位工作台动态性能。工作台定位实验表明，在以双频激光干涉仪为纳米位移测量基准的情况下，进行刻线密度为35 line/mm以上常用光栅空运刻划时，BP神经网络PID算法可实现宏微两级工作台定位误差3σ值不大于5.0 nm。以上研究为大尺寸光栅刻划机宏微两级工作台结构设计及控制算法的选择提供了理论及技术指导。

设计了一套光栅刻划机刀架系统。该系统将刻划刀具部分安装于能绕鞍形滑块自由转动的安装板上, 利用铰链机构来实现了刀架刻划部分与承重部分的分离, 降低运动中鞍形滑块的变形、偏移等对金刚石刻刀的影响。分析了刀架运动中产生的误差以及该误差对金刚石刻刀的影响。提出了一种新型检测光路结构, 该结构利用双频激光干涉仪测量运动中刀架相对于导向导轨的位移变化。结果显示, 刀架单向行程约70 mm时, 刀架在光栅刻划阶段相对于导向导轨在分度方向的最大位移值约为60 nm。由于在刻划阶段, 膜层对金刚石刻刀存在约束作用, 所以金刚石刻刀相对于导向导轨的实际位移会更小。利用新的刀架结构刻制了一块70 mm×70 mm, 600 gr/mm的衍射光栅, 对比利用原刀架结构刻制的光栅, 该光栅杂散光强度减弱, 质量提高。

提出一种利用双频激光干涉仪检测光栅刻划机分度丝杠的新型光路结构，推导出用于阿贝误差补偿的快速修正计算式，实现了丝杠测试过程中阿贝误差的实时修正，通过修正使不满足阿贝原则的测量系统获得了较高的测量精度。另外该方法还通过调整参考镜角锥棱镜消除了测量过程中丝杠轴向窜动引起的测量误差。实验结果表明，采用提出的方法在300mm的丝杠行程内修正的最大阿贝误差为1.39um，补偿后最大残差仅为0.48um，有效地提高了丝杠测量精度。

为提高光电式光栅刻划机的控制精度，设计了一种自准直式激光光栅外差干涉仪的新型测量系统。以光栅衍射和偏振光学为理论基础，结合电子学的相关知识对系统进行了理论分析，设计了基准光栅，并进行了大量的实验研究。由实验研究可知，这种利用光栅的自准直衍射和以光栅栅距作为计量基准的干涉测量系统，具有受环境因素的影响低，结构简单、装调方便等优点；采用双频激光得到的测量信号增益大，信噪比高；该系统用于光栅刻划，得到的栅线间距刻划偏差优于10nm，在3mm行程内累积误差约为0．3μm。结果表明，该系统具有纳米级分辨力，用于实时测量控制系统，测量误差很小，完全达到了中阶梯光栅等特种光栅对刻划机的高精度分度要求。