色散导致的信号相位变化经平方律检测后转化为非线性损伤, 限制了C波段强度调制直接检测(IMDD)光系统性能。传统Volterra非线性均衡器(VNLE)可以补偿此类非线性损伤, 但实现复杂度极高, 不适合低成本、短距离传输系统。Neighbor-grouped Volterra非线性均衡器(NG-VNLE)通过简并具有相同系数的Volterra项从而大幅降低了实现复杂度, 但简并操作也使得Volterra非线性项之间的差异被忽略, 均衡性能有所下降。提出了一种用于IMDD光系统的低复杂度非线性均衡器, 通过引入基于绝对值的非线性项, 补偿了被忽略的Volterra项之间的差异; 基于直调激光器(DML)的IMDD光系统的107 Gb/s四电平脉冲幅度调制(PAM4) C波段传输, 测试了新提出的非线性均衡器性能, 实验结果表明其性能与传统VNLE相近, 且实现复杂度降低了28%。

围绕正交频分复用-无源光网络(OFDM-PON)系统中非线性损伤的补偿问题开展研究。使用VOLTERRA模型对非线性补偿器进行辨识, 利用差异因子并结合QR分解, 推导出修正向量的解析表达式, 提出模型核向量的自适应修正方法, 形成正交频分复用-无源光网络系统中非线性损伤的补偿算法。仿真结果表明, 所提出的方法可使系统误比特率提升1%~3%, 在系统比特率为130Gb/s时, 系统误比特率可保持在1%左右。

由于相干光正交频分复用（CO-OFDM）系统很高的峰均功率比（PAPR）以及非常近的子载波间隔，使得链路色散导致的子载波走离对光纤非线性损伤的影响更加明显。研究了不同色散分布、不同残余色散情况下，无色散补偿光纤（DCF）和有色散补偿光纤的光纤链路时CO-OFDM系统的非线性损伤以及系统性能。针对单信道40 Gb/s CO-OFDM系统，无DCF链路比完全补偿DCF链路，Q因子高5.1 dB；对于DCF链路，当残余色散从0变为到1200 ps/nm时，最大Q因子提高了4 dB，非线性阈值提高了4 dBm，1200 ps/nm时性能几乎和无色散补偿系统相同。

反向传输(BP)算法是实现高速光纤系统非线性补偿的一种常用且有效的方法，在此算法基础上加入高斯滤波器，可进一步提高接收系统性能,同时大大降低计算复杂度。然而高斯滤波器是一种理想化滤波器，其设计实现难度大且结构复杂。提出一种基于窗函数有限脉冲响应(FIR)滤波器和BP算法结合实现非线性补偿的方案，详细分析了滤波器的参数选取对补偿性能的影响，并在224 Gb/s双偏振16进制正交幅度调制(DP-16QAM)640 km无色散补偿光纤传输系统中比较了不同补偿方案的补偿效果。结果表明，汉宁窗FIR滤波器的频域特性类似于高斯函数，利用9个抽头就能够有效补偿非线性损伤，提高系统性能。与线性补偿算法相比，FIR-BP算法能够将误码率(BER)降至10-3以下，将最佳入纤功率提高至少3 dB。

由于相干光正交频分复用(CO-OFDM)系统具有很高的峰均功率比(PAPR)以及非常近的子载波间隔，使得光纤非线性损伤成为系统的决定因素。提出中间位置光学相位共轭(OPC)补偿算法补偿CO-OFDM的Kerr损伤，由于OPC两端链路对称，可以最大限度地保证满足补偿条件，具有很好的非线性补偿效果。而且无链路色散补偿和有链路色散补偿系统均适用。该算法能使单信道40 Gb/s CO-OFDM的最大Q因子提高3 dB，非线性阈值提高4 dB；波分复用(WDM)系统的最大Q因子能提高1.1 dB，非线性阈值提高1 dB。