为保证大口径离轴三反消像散（Three-Mirror Anastigmat，TMA）光学系统在轨成像质量，探明离轴TMA系统中次镜位姿与主镜及三镜面形误差补偿机理，以矢量像差理论为基础，用Zernike多项式表述离轴TMA系统镜面面形误差，并对系统镜面面形误差进行解析。通过分析发现，位于非光阑位置三阶彗差经光瞳坐标变换衍生出与视场线性相关像散；提出结合失调离轴系统矢量像差校正解析式，以系统出瞳波像差RMS值为评价标准，构建离轴TMA系统像差补偿模型，利用次镜位姿对主镜及三镜存在面形误差的离轴TMA系统进行补偿。仿真实验表明：系统主镜存在0.5λ像散与彗差时，所构建像差补偿模型可将系统出瞳波像差由0.18λ补偿至0.08λ；系统三镜存在0.05λ像散与彗差时，可将出瞳波像差由0.3λ补偿至0.1λ，且当三镜面形误差在（−0.03λ，0.03λ）范围内时，可将系统各视场RMS值补偿至系统设计值，使系统成像质量满足要求，为大口径反射式空间望远镜在轨主动装调提供进一步理论指导。