针对跨洋光纤通信系统中存在严重的噪声累积和非线性效应等问题，将概率整形（PS）技术与子载波复用（SCM）技术相结合以缓解跨洋传输链路损伤，进而实现系统传输性能的提升。通过在商用VPI软件中搭建跨洋光纤传输仿真链路，对单载波和双子载波复用系统进行仿真研究。仿真结果表明，在20%的FEC阈值条件下，均匀（H=4）双子载波和PS（H=3.6，H=3.7，H=3.8）双子载波PDM-16QAM系统的传输距离相比均匀（H=4）单载波PDM-16QAM系统分别提升了2.3% （405 km）、21% （3698 km）、19.7% （3468 km）和14.5% （2549 km）。随后，搭建光纤环路传输实验平台，进一步验证所提方案的可行性。实验结果表明，在20% 的FEC阈值条件下，均匀双子载波和PS（H=3.8）双子载波PDM-16QAM系统的传输距离相比均匀单载波PDM-16QAM系统分别提升了5.6% （282 km）和46.2% （2323 km）。仿真与实验结果表明，在跨洋光纤通信系统中引入PS与SCM可有效提升系统的传输性能。

误码率(BER)是非对称限幅光正交频分复用(ACO-OFDM)的一项重要性能指标，子载波个数是影响这一性能指标的重要因素。通过理论推导及仿真证明的方法，分析了子载波个数对光域单边带ACO-OFDM信号在单模光纤中传输时系统误码率的影响。结果表明，在总传输速率一定时，改变子载波个数从128个到16384个，所需要的总带宽改变不超过0.775%。并在此基础上，通过实验证明了不同的传输速率下ACO-OFDM系统均存在使系统误码率最低的最优子载波个数，实验结果表明该最优子载波个数随传输速率的增加而增加。