为考察无需多输入多输出模分复用系统的高速信号传输能力，采用模式选择光子灯笼型模式复用/解复用器构建了2×100 Gb/s双偏振正交相移键控模分复用通信实验系统，系统中用到的少模偏振控制器状态可由LP₀₁和LP_11b两个模式信道的信串比参数准确表征。测试了系统误码率与信串比关系，实现两个信道纠后无误码传输的条件为信串比约大于8 dB。当两个信道的信串比分别为14.25 dB和13.81 dB时，与背对背收发系统相比，纠后无误码阈值（10^-2）的接收光功率代价分别为1.40 dB和4.76 dB。分析了光纤衰减、偏振模色散和模式串扰对高速传输系统的影响，估算了串扰受限系统可支持的少模光纤传输距离约为30 km。

水下无线光通信受到海水信道中吸收、散射和湍流的影响而降低了系统性能。目前的研究多独立地考虑衰减信道和湍流信道对信号特性影响，或者从理论公式上分析系统性能。本文采用更加符合真实信道特性的指数-广义伽马分布湍流信道模型，研究海水湍流信道下无线光通信偏移四相相移键控调制系统的误码率理论，建立了海洋湍流和衰减信道协同作用下的复合信道模型，通过模拟信号波形，统计误码率，对系统性能进行分析。结果表明，σI2=2的强湍流下，具有载波特性的模拟信号优于开关键控调制的数字信号，且与二进制移相键控相比，偏移四相相移键控可获得约3 dB信噪比增益。σI2=0.2的弱湍流下，水质衰减系数为c=0.151 m^-1的偏移四相相移键控系统在接收信号信噪比为20 dB时，可实现误码率在10-3以下的50 m可靠通信。相同湍流条件下，误码率随链路距离增加成线性劣化。同时，海水水质对系统BER影响很大，湍流强度为σI2=0.2，湍流相干时间τ0=10 ms的纯海水信道中，接收信号信噪比为10 dB左右时，可实现误码率在10-3以下的40 m可靠通信，而在沿海海水无法正常通信。