海水信道对光的吸收和散射造成信号衰减，海水湍流造成信号幅度起伏变化，两者都会降低水下无线光通信(UWOC)系统误码率(BER)性能。将两个信道特性对信号性能的影响综合考虑，提出了一种将传输距离和湍流概率密度函数等效为系统信噪比(SNR)和湍流噪声的方法，然后将信号衰减和湍流噪声同时作用在信号波形中，建立水下复合信道信号传输模型。依据实验系统参数，模拟复合信道下高斯最小频移键控(GMSK)调制的信号传输波形，采用一比特差分解调算法，对比解调波形与原始波形，分析复合信道对系统误码率性能的影响关系。模拟实验结果显示，与开关键控调制(OOK)、脉冲位置调制(PPM)相比，仅在海水衰减系数为 ${\text{0}}{\text{.151}}\;{{\text{m}}^{-1}}$的衰减信道下，GMSK系统分别可获得 ${\text{4}}{\text{.8}}$、 $ 3.3{\text{ dB}} $的信噪比增益。在复合信道下，GMSK调制性能明显优于OOK调制和PPM调制，当海水衰减系数为 ${\text{0}}{\text{.151}}\;{{\text{m}}^{-1}}$、湍流对数强度方差小于0.16时，GMSK调制系统无误码率极限，系统误码率由信道的衰减、湍流特性和高斯噪声共同决定，GMSK调制相比于PPM调制获得 $4.35{\text{ dB}}$的信噪比增益；当湍流对数强度方差大于0.16时，系统存在误码率极限，极限值由湍流对数强度方差决定，且随着湍流对数强度方差的增加，系统极限误码率非线性递增。

水下无线光通信受到海水信道中吸收、散射和湍流的影响而降低了系统性能。目前的研究多独立地考虑衰减信道和湍流信道对信号特性影响，或者从理论公式上分析系统性能。本文采用更加符合真实信道特性的指数-广义伽马分布湍流信道模型，研究海水湍流信道下无线光通信偏移四相相移键控调制系统的误码率理论，建立了海洋湍流和衰减信道协同作用下的复合信道模型，通过模拟信号波形，统计误码率，对系统性能进行分析。结果表明，σI2=2的强湍流下，具有载波特性的模拟信号优于开关键控调制的数字信号，且与二进制移相键控相比，偏移四相相移键控可获得约3 dB信噪比增益。σI2=0.2的弱湍流下，水质衰减系数为c=0.151 m^-1的偏移四相相移键控系统在接收信号信噪比为20 dB时，可实现误码率在10-3以下的50 m可靠通信。相同湍流条件下，误码率随链路距离增加成线性劣化。同时，海水水质对系统BER影响很大，湍流强度为σI2=0.2，湍流相干时间τ0=10 ms的纯海水信道中，接收信号信噪比为10 dB左右时，可实现误码率在10-3以下的40 m可靠通信，而在沿海海水无法正常通信。