针对偏振复用—正交相移键控(PDM-QPSK)无中继光纤传输系统中的非线性损伤问题，文章重点研究了一种基于K最邻近(KNN)聚类算法的非线性补偿技术。通过计算测试数据到所有训练数据点的距离对测试数据进行分类实现了对光纤非线性补偿。研究结果表明，在112 Gbit/s PDM-QPSK 350 km色散管理无中继光纤传输系统中，基于KNN算法的非线性补偿技术能够有效地补偿传输光纤非线性引起的损伤。特别地，在系统误码率为10-3时，经KNN算法非线性补偿后输入端信号的光功率可提升约1 dBm。

针对光纤非线性补偿中低通滤波器对数字后向传输(DBP)算法复杂度与补偿精度的影响，研究了256 Gb/s偏振复用16阶正交振幅调制(PDM-16QAM)信号在采用贝塞尔、高斯和巴特沃斯低通滤波器时的非线性补偿特性。实验结果表明：当步长较小时，3种低通滤波器对DBP算法影响基本一致；当步长较大时，高阶贝塞尔低通滤波器的性能最佳。此外，当低通滤波器阶数为1、3 dB带宽固定为8 GHz和步长大于40 km时，高斯低通滤波器比其它2种低通滤波器的Q因子高约0.1 dB。

针对相干光纤通信系统中匹配滤波(如根升余弦滤波器)对系统的影响, 文章在不同光学带宽、残余色散以及非线性情况下, 对不同滚降因子Rf的系统特性进行了研究。文章分别仿真研究了256 Gbit/s偏振复用16阶正交幅度调制(PDM-16QAM)信号在光学带宽为33、50及100 GHz时的传输特性、残余色散在-300~300 ps/nm区间内的特性和注入功率为-3~4 dBm情况下传输1 200 km光纤链路的特性。仿真结果表明, 对于光学带宽受限的系统, Rf选取(1+Rf)B(B为信号波特率)与系统光学带宽相近的值为宜; 对于光学带宽接近两倍波特率的系统, 滚降因子Rf选取0.2~0.5为宜。

针对下一代动态光网络, 光纤长度可能根据链路需要随时变化, 以及由于光纤老化造成色散参量变化等因素可能造成链路中的色散值在接收端很难提前预知, 因此要求未来光网络节点中的接收端能够自适应地估计出色散值然后补偿信号。文章在光网络节点的数字相干接收机中提出了一种基于峰均值功率比的色散估计算法, 并在224 Gbit/s偏振复用(PDM)-16正交振幅调制(QAM)和336 Gbit/s PDM-64QAM的多种长距离传输(400、800、1 200、1 600和2 000 km标准单模光纤(SSMF))系统中验证了其可行性及有效性。仿真结果表明, 文章所提算法具有很好的色散估计精度, 色散估计标准差低于100 ps/nm。该算法对偏振模色散(PDM)和偏振相关损耗(PDL)具有较强的容忍性, 例如群速度时延(DGD)低于15 ps及PDL在7 dB以内时, 算法都可实现很好的估计精度。同时该算法对非线性效应也具有较强的容忍性。

为将400 Gbit/s高速率应用于超长站距无中继光传输系统, 首先对400 Gbit/s双偏振-四进制正交幅度调制(DP-16QAM)及400 Gbit/s双偏振-八进制正交幅度调制(DP-64QAM)两种高阶调制码型及其对应的光信噪比(OSNR)要求进行了研究, 然后通过实验研究了两种码型背靠背OSNR的要求及入纤光功率与误码率的关系, 最后搭建了具有前后向拉曼放大器的400 Gbit/s超长距光传输链路, 通过实验测试了两种码型对应的最远单跨传输距离。实验结果表明, 400 Gbit/s DP-16QAM在G.652光纤上利用双向拉曼光放大器最远可以传输286 km, 对于电力长跨距来说基本满足了大部分的应用场合。

未来弹性光网络要求网络源节点的发射端能够根据链路的传输性能以及用户的多样化需求, 动态地改变传输信号的调制格式以及符号率。提出了一种基于简化的两级强度特性调制格式识别算法, 通过Godard's误差区分正交相移键控(QPSK)信号, 再使用强度噪声方差进一步区分16阶正交幅度调制(16QAM)和64QAM。研究结果表明: 物理数据模型-正交相移键控(PDM-QPSK)、PDM-16QAM和PDM-64QAM等高阶调制格式信号的最小所需光信噪比(OSNR)值低于7%前向纠错(FEC)理论阈值(误码率为3.8×10-3)时, 能够实现100%的正确识别率, 且所提的方案所需的符号数相对较少。

随着无中继光纤传输系统的广泛应用, 其复杂度与成本成为需要考虑的因素。提出了一种简化的无中继传输系统, 采用斯托克斯矢量-直接检测(SV-DD)代替相干接收机。仿真研究了单波与三波复用情况下的128 Gb/s 16QAM信号传输系统性能。仿真结果表明: 该系统能够很好地将信号解调出来, 前向与后向喇曼泵浦在功率为0.6 W和0.8 W情况下性能较好, 能够承受约400 ps·nm-1的残余色散。

针对10 Gb/s超长距光传输系统入纤光功率受限的问题，提出了一种抑制受激布里渊散射(SBS)、提高入纤光功率的方法。该方法将对激光器低频扰动和对信号光进行相位调制这2种提高SBS阈值的方式进行了有效地结合，并进行了对比实验。实验结果表明:该方法可有效地提高SBS阈值，将10 Gb/s超长距光传输系统入纤光功率由原来的12 dBm、17 dBm提升到19 dBm，从而进一步延长了系统的无中继传输距离。

搭建一个双向拉曼放大超长跨距光纤传输系统，在接收端采用非线性补偿算法来补偿因传输距离长和入纤光功率高所带来的光纤非线性效应,并通过实验成功实现了10 Gbaud/s 16正交幅度调制(QAM)信号的传输，传输距离为300 km。仿真和实验结果表明，通过采用非线性补偿算法，接收端信号的性能相比未使用非线性补偿算法时提高了2 dB。证明了非线性补偿技术在超长跨距光纤传输系统中是非常有效且必要的。

文章提出了一种新的应用于高速光纤通信系统接收端的数字背向传输（DBP）算法的步长变换选择方法。通过采用斜线方法对光纤非线性系数的指数形式曲线进行近似，找出使斜线的斜率与原曲线各点斜率差值最小情况下的步长，再用于变步长DBP算法中对光纤传输中的非线性损伤进行补偿。在3 200 km单信道25 Gbaud光纤传输系统中对所提步长选择方案进行了仿真。结果表明，在相同系统中，与其他步长选择方法相比，在最佳入纤功率时所提步长选择方案的Q值提升了0.5 dB；当入纤功率越大、非线性效应越强时，所提方法对于光纤传输非线性损伤的补偿能力更好，而算法复杂度没有改变。