针对相干光正交频分复用系统中出现的高峰值平均功率比问题, 提出用小波包变换取代传统快速傅里叶变换的相干光正交频分复用系统.仿真实验证明了具有良好正交性的小波包变换对高峰值平均功率比起到一定程度上的抑制作用, 且误码率性能优于传统的快速傅里叶变换.随着小波尺度函数及小波函数对称性的提升, 其避免信号处理过程中的相移的能力提高, 系统性能有所改善.与传统的快速傅里叶变换系统相比, 基于小波包变换的系统中, 小波基函数haar小波的互补累计分布函数为0.01时, 门限值降低约2 dB, 且在误码率为10-3的情况下, 性能优化1.5 dB.在此基础上, 将小波提升算法应用到相干光正交频分复用系统中, 得到的抑制峰均比及误码率性能与应用Mallat算法时一致, 但算法的结构复杂度降低.