采用菲涅耳-基尔霍夫衍射理论建立了存在刻线弯曲和刻线位置误差的光栅衍射谱成像数学模型,分析了上述误差对光栅光谱性能的影响。针对刻划刀架系统运行不稳定问题,设计了一套光学测量结构,并提出了刻划刀架系统的机械改进方案：采用双侧柔性铰链式结构代替原有的鞍型滑块与刻划刀架的固定连接方式。最后,进行了刻划刀架系统运行稳定性测试和光栅刻划实验。刻划刀架运行稳定性测试实验表明：改进后的刻划刀架系统运行稳定性比改进前有显著改善,位移曲线重复性误差PV值由127 nm降低到13 nm,降低了约89％。光栅刻划实验表明,刻划刀架系统改进后,光栅光谱性能有明显的改善,光栅杂散光得到了有效抑制。得到的实验结果与仿真分析结果较为一致,为提高机械刻划光栅质量提供了理论及技术保障。