建立了偏分复用(PDM)系统中信道串扰的数学模型，并提出了消除该串扰的方案，即用解复用端一路光信号的射频(RF)功率作为反馈信号以监测光信号在链路中偏振态的变化和在接收端的串扰情况，用粒子群优化(PSO)算法作为逻辑控制单元的算法，控制偏振控制器以消除信道间的串扰。数值仿真了RF功率与信道串扰大小之间的关系，并在2×50 Gb/s偏分复用差分正交移相键控(PDM-DQPSK)传输系统平台上仿真验证了消除串扰方案的效果。结果表明该方案能够大幅降低系统误码率，改善系统性能。

偏分复用技术是提高系统传输速率的有效方法之一。搭建了被称为双偏振态差分相移键控（Dual-Pol. DPSK）码的新型偏分复用实验系统，它与具有相同的比特波特比的差分正交相移键控(DQPSK)调制方式相比，接收机要简单很多。与传统的偏振分解复用(POLMUX)技术相比，它无需偏振控制或偏振跟踪，只需一个解调器和一个平衡探测器以及电域的多电平判决就可以将两个偏振正交信号同时解调出来，大大降低了系统的复杂度。利用数值仿真的方法，分析了Dual-Pol. DPSK系统对噪声及偏振模色散（PMD）的容忍度，并且与单偏振态的差分相移键控(DPSK)及DQPSK系统进行了比较。结果表明，由于受符号间欧氏距离的限制，Dual-Pol. DPSK码对噪声非常敏感，在误码率为10-3时，它对信噪比(SNR)的要求比同速率的DQPSK系统高7 dB；由于频谱利用率高，相比于同速率的DPSK，Dual-Pol.DPSK对PMD的容忍度高5 ps，但与DQPSK相比，Dual-Pol. DPSK码抗PMD的能力要差一些。