为了研究光差分相移键控(DPSK)调制格式在光纤高速传输系统中的色散补偿, 利用色散补偿光纤(DCF)的色散补偿原理, 对40Gbit/s光纤传输系统进行色散补偿, 分析了40Gbit/s单通道光纤传输系统中3种DPSK调制格式信号的频谱特性; 仿真了3种码型的色散容忍度以及3种调制格式在考虑光纤的非线性下的色散补偿方案。结果表明, 光非归零码差分相移键控(NRZ-DPSK)信号具有最好的色散容忍度, 但其受非线性的影响比较大; 33%归零码差分相移键控(33%RZ-DPSK)信号的色散容忍度差, 但其色散补偿后的效果优于NRZ-DPSK; 而载波抑制归零码差分相移键控信号对色散和非线性效应都有较好的抑制; 3种DPSK调制格式均在对称补偿2方案中色散补偿的效果最佳。此仿真研究对光DPSK信号在光纤中的色散补偿具有参考意义。

在分析相位整形不归零(PSNRZ)码基本原理的基础上，提出了一种利用马赫-曾德(MZ)调制器对信号相位进行预调制的方法，该方法能够方便有效地控制信号初始啁啾的形式和大小。文章指出调制深度可以更加直观地反映PSNRZ码的啁啾大小，并推导了调制深度与啁啾系数及链路残余色散之间的关系。最后，在40 Gbit/s通信系统中对PSNRZ码的性能进行了仿真分析，结果表明：PSNRZ码可将系统的色散容限提高到180 ps/nm，极大地降低了色散对通信系统的影响。

偏分复用技术是提高系统传输速率的有效方法之一。搭建了被称为双偏振态差分相移键控（Dual-Pol. DPSK）码的新型偏分复用实验系统，它与具有相同的比特波特比的差分正交相移键控(DQPSK)调制方式相比，接收机要简单很多。与传统的偏振分解复用(POLMUX)技术相比，它无需偏振控制或偏振跟踪，只需一个解调器和一个平衡探测器以及电域的多电平判决就可以将两个偏振正交信号同时解调出来，大大降低了系统的复杂度。利用数值仿真的方法，分析了Dual-Pol. DPSK系统对噪声及偏振模色散（PMD）的容忍度，并且与单偏振态的差分相移键控(DPSK)及DQPSK系统进行了比较。结果表明，由于受符号间欧氏距离的限制，Dual-Pol. DPSK码对噪声非常敏感，在误码率为10-3时，它对信噪比(SNR)的要求比同速率的DQPSK系统高7 dB；由于频谱利用率高，相比于同速率的DPSK，Dual-Pol.DPSK对PMD的容忍度高5 ps，但与DQPSK相比，Dual-Pol. DPSK码抗PMD的能力要差一些。

高级光调制格式能够有效抑制随信道速率的增加而给系统带来的色散、非线性等传输损伤,是高速光传输系统的关键技术之一。研究了基于马赫-曾德尔调制器(MZM)产生的八进制差分相位幅度键控非归零码(NRZ-ODPASK)、八进制差分相位幅度键控归零码(RZ-ODPASK)以及八进制差分相位幅度键控载波抑制归零码（CSRZ-ODPASK）在40 Gbit/s速率下的传输性能。结果表明,RZ-ODPASK调制格式抗色散能力较强,且相位支路的色散容限均大于幅度支路;在波分复用(WDM)系统中,CSRZ-ODPASK信道间串扰代价比NRZ-ODPASK和RZ-ODPASK分别小0.81 dB和0.19 dB,更加适合高速光纤传输系统。

文章通过非线性薛定谔方程和主偏振态(PSP)模型, 对单模光纤中色散引起的脉冲展宽进行了研究。通过详细计算, 对光通信系统中的色度色散和偏振模色散(PMD)做出了合理的估计, 并分析了色散容限对系统传输的影响, 这些分析对实际系统设计具有一定参考意义。

利用强度-频率混合调制模型研究了基于色散器件的波束形成网络中色散导致的相位误差的变化规律.基于相位误差的分析,得到了0.5 ps延时精度下系统对最大色散值的限制,并指出存在最优的频率调制系数使系统色散容限最大;随着强度调制系数增大,频率调制系数的最优值也增大.