针对基于传统马赫-曾德尔干涉仪的差分相移键控（DPSK）解调系统对光源相干性的要求高、臂长差和码速失配容忍度低、容易受到振动和温度的影响等问题，提出了一种基于新型马赫-曾德尔干涉结构的DPSK解调系统，采用光信号两次经过马赫-曾德尔干涉结构、参考臂和干涉臂之间相对延时1 bit干涉的方式实现了DPSK信号的解调。通过仿真和实验相结合的方法验证了新型解调系统的原理正确性及其性能。在系统Q值大于7的情况下，新型解调系统臂长差和调制码速率之间的失配因子容忍区间达到了0.25~1.73，其中Q值下降小于3 dB 的区间达到了0.79~1.09。最后通过DPSK调制与解调实验以及温度稳定性验证实验证明了：在采用宽带光源（臂长差大于光源相干长度）的条件下，新型解调系统能够实现DPSK信号解调，降低了对光源相干性的要求，并且在0~70 ℃的环境中系统Q值在10以上，证明了系统具有较好的温度稳定性。

利用啁啾管理激光器的啁啾效应实现了光信号的直接相位调制，无需差分编码，也无需外部调制器。分析了利用频率啁啾产生归零差分相移键控(RZ-DPSK)光信号的原理，搭建了基于啁啾管理激光器的2.5 Gb/s RZ-DPSK激光通信系统，同时将该系统与基于LiNbO₃外调制的通信系统进行了性能对比。实验结果表明：当前向纠错极限误码率为10^－3时，直接调制RZ-DPSK系统的接收灵敏度为－48.1 dBm，与传统外调制方式的灵敏度相当，而且该系统可以有效降低发射端的体积和功耗，结构也更加简单紧凑。

量子噪声随机加密(QNRC)是一种结合了量子力学原理和经典流密码思想的信息抗截获通信方法。为了对相位调制(PSK)QNRC系统的特性进行仿真验证,利用VPI仿真软件搭建了一套基于商用组件的仿真系统。基于任意波形发生器生成密文电信号及密钥电信号,并在接收端利用相位调制器及差分相移键控(DPSK)接收机从多进制密文信号中恢复二进制信号,最终实现了密文进制数为256,数据传输速率为2.5 Gbit/s,传输距离为500 km的无误码传输。与强度调制(ISK)方案相比,PSK方案避免了解调时收、发双方功率必须匹配的问题。进制数的增加不会劣化PSK方案的传输性能,有助于提高系统安全性,PSK方案具有潜在的安全性优势。

为了研究光差分相移键控(DPSK)调制格式在光纤高速传输系统中的色散补偿, 利用色散补偿光纤(DCF)的色散补偿原理, 对40Gbit/s光纤传输系统进行色散补偿, 分析了40Gbit/s单通道光纤传输系统中3种DPSK调制格式信号的频谱特性; 仿真了3种码型的色散容忍度以及3种调制格式在考虑光纤的非线性下的色散补偿方案。结果表明, 光非归零码差分相移键控(NRZ-DPSK)信号具有最好的色散容忍度, 但其受非线性的影响比较大; 33%归零码差分相移键控(33%RZ-DPSK)信号的色散容忍度差, 但其色散补偿后的效果优于NRZ-DPSK; 而载波抑制归零码差分相移键控信号对色散和非线性效应都有较好的抑制; 3种DPSK调制格式均在对称补偿2方案中色散补偿的效果最佳。此仿真研究对光DPSK信号在光纤中的色散补偿具有参考意义。

为提高光纤通信系统的频谱利用率,搭建了八进制幅度差分相移键控(8APSK)和八进制差分相移键控(D8PSK)密集波分复用(DWDM)系统。仿真结果表明：当探测信道为8APSK,最佳入射平均光功率随其幅 度调制指数的增大而明显变大。不管是8APSK还是D8PSK调制,入射平均光功率取最佳值时,四波混频噪声对系统性能的影响并不大。然而当其超过最佳值,四波混频噪声随入射平均光功率的增加对系统性能的影响快速增加。对于 所讨论的DWDM系统,幅度调制指数优化的8APSK信号传输性能明显优于D8PSK,因为前者对总的非线性效应有更好的容忍度。

为提高相位调制器的调制效率,结合单直波导光学环腔与带反馈的马赫曾德,提出用环形谐振腔等效为马赫曾德的上、下臂的新结构.采用耦合模理论推导了该模型的输出相位及归一化光强输出公式,数值分析了传输损耗因子、耦合角度对归一化输出光强及输出相位的影响.分析表明,输出光相位谱线随敏感环相位改变呈周期性变化,当耦合角度逐渐增大时,输出光相位谱线变尖锐,此时若要使输出相位产生π的相位差,敏感环的相位调制角度需较大.当传输因子较小时,相位谱线变化比较平缓,其最大值与最小值之间的差值不满足π的相位差.根据分析结果对结构参量进行优化,发现通过调节敏感环结构的耦合系数可以提高调制效率,仿真结果表明,当敏感环相位变化0.1π时,可以输出π的相位变化,同时归一化光强保持在0.9,满足了差分相移键控所需要的相位变化和信号幅度一致的要求,为进一步研究相位调制器提供理论依据.

全光再放大、再定时、再整形(3R)技术是未来全光通信网络的发展方向，全光时钟提取是全光3R技术的关键技术之一。随着新型相位调制格式信号的广泛应用，对新型相位调制格式信号的全光时钟提取研究引起了越来越多的关注。基于此，提出了一种基于可调谐解调器的速率可变差分相移键控非归零码(NRZ-DPSK)信号的时钟提取方法。采用自由空间光的斐索干涉仪构成可调谐解调器，将NRZ-DPSK信号转换为含有时钟分量的归零码(RZ)强度信号，调谐范围可覆盖2.5~40 Gb/s。将解调出的RZ信号注入到光纤环形激光器实现了5 Gb/s的长度为27-1的伪随机码NRZ-DPSK信号的全光时钟提取，其消光比高于10 dB。

星地激光通信的关键问题是克服大气湍流效应对激光载波信号传输的影响。信号光束经过长距离大气信道传输后，相位不完整，波面受到畸变，导致接收端系统在解调信号过程中，通信误码率降低。根据国内外星地激光通信的研究进展和实验情况，介绍了几种克服大气湍流效应对高速率星地相干通信影响的方法及其原理。重点分析基于差分相移键控(DPSK)调制和干涉原理的相干探测技术在解调相位信息时克服大气湍流效应方面的优势，并对其进行了总结和展望。

提出了采用基于非线性光纤环形镜(NOLM)的全光2R(再放大、再整形)再生器对星间差分相移键控(DPSK)信号进行放大、整形的方案。理论推导了再生器的工作原理，给出了对信号进行放大、整形的约束条件；仿真研究了再生器的输入输出功率特性和相位特性，分析了耦合器耦合系数对功率特性的影响。结果表明，全光2R再生器对基于自差探测的DPSK系统性能具有显著的改善作用，系统误码率较未使用再生器时降低接近两个量级。

在星地激光通信中，大气湍流影响光接收波面，增加通信误码率。采用差分相移键控（DPSK）体制，通过当前码元信号光与延时1 bit的码元信号光干涉得到数据信息。在高码率通信的情况下，由于大气扰动对前后码元信号光的波面影响基本相同，可以通过干涉时波面相位相减得到差分信息。在此基础上，用菲涅耳衍射理论，分析入射光信号在自由空间差分干涉结构中的衍射传输过程。数值模拟仿真过程中，模拟探测波前像差对干涉系统性能的影响，通过对探测端零差效率的分析，验证了自由空间差分干涉结构解调光信号可以在一定程度上克服大气湍流效应对光信号相位信息的扰动。从理论上给出了自由空间差分干涉结构解调光信号的使用条件和结论。