针对超奈奎斯特系统引入的码间干扰使载波相位估计难度增大的问题，提出了一种二阶电域导频辅助载波相位估计方案，将导频辅助相位噪声补偿模块与基于Viterbi的最大似然相位估计模块级联，牺牲约1.7% 的带宽开销，可以有效克服超奈奎斯特系统引入的码间干扰，对激光器线宽导致的相位噪声进行准确估计。在调制格式为16进制正交幅度调制的超奈奎斯特系统中，经仿真验证可知：该算法在加速因子不超过Mazo极限时可以有效跟踪相位噪声；在加速因子低至0.833、误码率为2×10^-2、光信噪比代价为1 dB的条件下，该算法能容忍的最大线宽乘积为5×10^-4；相较于一阶导频辅助载波相位恢复算法，该算法具有更大的线宽容忍度，所需的光信噪比也更小。

为解决未知概率整形因子信号的自适应相位恢复问题,提出了一种基于K-means聚类的自适应相位恢复算法。通过理论分析与数值仿真,验证了基于K-means聚类进行星座点模值半径重定位的可行性,将K-means聚类与前馈式载波相位恢复算法相结合,解决了概率整形信号经归一化处理后存在的星座点相对放大的问题,实现了未知概率整形因子信号相位的自适应恢复。对该算法在不同光信噪比、不同激光器线宽下的16正交幅度调制(QAM)与64QAM信号进行了分析,结果表明所提算法不仅可用于未知概率整形因子下信号的相位恢复,还可用于均匀QAM信号的相位恢复。所提算法在星座点模值的重新定位中考虑了噪声的影响,在相同的测试相位数量下可以实现更高精度的相位补偿,对于均匀QAM信号的光信噪比容忍度提升了约1 dB。

大波特率、高阶调制格式信号的广泛应用使相干光通信系统对收发机中存在的硬件损伤更加敏感,因此迫切需要相应的损伤估计方法。提出了一种新的基于数字信号处理的收发机损伤联合估计方案,该方案可同时监测因光发射机和光接收机硬件不完美引起的光信号同相/正交(IQ)分量幅度、相位不平衡和时钟偏移。该方案首先使用Godard定时误差检测器和施密特正交化法估计并补偿了接收机损伤;接着使用最大似然的独立成分分析法和级联的判决引导最小均方(DDLMS)算法分别实现了对发射机损伤不敏感的偏振解复用和载波相位恢复;最后从DDLMS的抽头系数中估计出发射机损伤。得益于对发射端IQ不敏感的偏振解复用和载波相位恢复,该方案实现了宽范围的损伤监测。仿真结果表明,与传统数字信号处理方案相比,所提方案对发射端幅度、相位不平衡的估计范围分别提升了约100%和33%。

为应对概率整形场景下载波相位恢复的问题,提出了一种基于统计分析的自适应算法。利用核密度估计进行概率整形信号的参数估计,从而估计得到信息熵,以辅助后续的基于半径定向的4次方频偏估计算法。运用估计出的概率整形参量进行信号的针对性归一化,用于后续基于盲相位搜索的载波相位噪声恢复。对该算法的频偏估计范围、信噪比及激光线宽容忍度进行了仿真分析。结果表明,所提方案能够应对不同的概率整形强度,在较大的信噪比范围内均能实现良好的载波相位恢复。此外,相对于用于标准信号的载波相位恢复算法,该方案达到最优性能时所需的滑动窗口长度更短并且拥有更高的估计精度。

提出一种基于简化扩展卡尔曼滤波(EKF)的低复杂度、双偏振载波相位恢复算法,记为XY-EKF算法。XY-EKF算法通过估计并补偿两个偏振态之间的相位偏移,只利用X偏振态的实部和Y偏振态的虚部(或X偏振态的虚部和Y偏振态的实部)对两个偏振态进行相位恢复,减少了卡尔曼滤波所需的信号分量。XY-EKF算法能够在保持估计准确度的前提下降低算法的复杂度。将XY-EKF算法应用于传输速率为224 Gbit/s的双偏振16QAM相干光传输系统,仿真结果表明,当激光器线宽和信号码元周期乘积分别为10 -5和10 -4时,XY-EKF算法与经典EKF算法具有等同的性能表现,而其复杂度相比经典EKF算法降低了1/3。在光信噪比一定的条件下,当误码率为3.8×10 -3时,XY-EKF算法的线宽容忍度比经典EKF算法提升了1 MHz。

针对偏振复用16阶正交幅度调制(16QAM)传输系统(PDM-16QAM),基于线型卡尔曼滤波器,提出了一种计算复杂度更低、线宽容忍度更高的双偏振并行载波相位恢复算法,使用两个偏振态内环和外环的符号信息对两个偏振态同时进行相位噪声估计。仿真结果表明,在传输速率为224 Gb/s传输速率下,本文算法相比于单偏振卡尔曼滤波器算法的线宽容忍度提高了7倍,由原来的400 kHz提高至2800 kHz。此外,相比于单偏振卡尔曼滤波器载波相位恢复算法,本文算法并行处理符号个数提升了4倍左右,有效提高了算法的实时性,但是复杂度有所降低。最后,在传输速率为224 Gb/s的PDM-16QAM传输实验中对本文算法进行了验证。

传统的16QAM（16进制正交幅度调制）相干光系统的相位估计算法主要采用QPSK（正交相移键控）分圈法，然而受放大器ASE（自发辐射）噪声的影响，星座点的径向移动将对相位恢复的准确度造成严重影响。文章针对星座点受噪声影响程度的不同，对QPSK分圈法中的分类幅值阈值进行详细分析，并引入不同权重。蒙特卡罗仿真结果表明，该改进方法不仅能有效提高16QAM的相位恢复精度，而且具有更低的误码率。