为了解决光学膜厚监控系统中经锁相放大输出的监控信号精度较低、极值点附近变化不灵敏等问题，采用卡尔曼滤波(KF)对光学膜厚监控信号进行处理，建立了针对非线性光学监控系统的扩展KF模型，模型输出包括监控信号和导数信号。仿真分析首先利用TFCalc软件生成4层增透膜理想监控曲线，加入高斯噪声后，信噪比为15dB，通过卡尔曼滤波处理后监控信号信噪比改善达16dB且实时动态跟踪特性良好，延时小于1s；利用平均值滤波处理KF输出导数信号，提前预判读获取导数过零点对应膜厚。同时通过对比TFCalc理想监控曲线极值点坐标和预判导数信号过零点坐标，得到理论膜厚误差小于4nm。此项研究提高了膜厚检测的准确性。