针对现有光空间调制传输速率和频谱效率低的问题，提出了一种超奈奎斯特速率光空间脉冲位置调制（OSPPM-FTN）方案。推导了Gamma-Gamma湍流信道下该方案最大似然检测时的平均误码率上界，并与已有光空间脉冲位置调制（OSPPM）系统进行了性能对比。在此基础上，针对OSPPM-FTN发送信号的特点，提出了一种多分类神经网络（MNN）信号译码器，以大幅降低计算复杂度。最后，采用蒙特卡罗方法进行了仿真。结果表明，随着加速因子的减小，所提系统的频谱效率和传输速率有明显提升，其代价是信噪比（SNR）损失。当加速因子为0.9时，相比于传统（4，4，4）-OSPPM，所提系统的频谱效率和传输速率分别提升了17%和5.5%，SNR损失仅为1 dB。同时，采用MNN译码器可逼近最大似然最优译码性能并降低其计算复杂度，当探测器数目为8和16时，计算复杂度分别降低了69.75%和89.95%。

为了提高现有光空间调制系统的频谱效率，提出了一种在同相和正交域同时激活多根发射光学天线分别传输调制信号的实部与虚部的光广义正交空间调制（OGQSM）技术。该技术将调制符号扩展到同相和正交域，使得系统在空间域可以携带更多的比特，从而提高了系统频谱效率和误码性能。采用适用于所有湍流状态的Malaga湍流信道，分析了OGQSM系统在大气湍流、指向误差和路径损耗联合作用下的系统误码性能。蒙特卡罗仿真结果表明：与现有的光空间调制技术相比，所提出的OGQSM技术能够获得更好的频谱效率和误码性能，且接收光学天线数量与系统误码性能存在正相关关系，指向误差和大气湍流强度与系统误码性能存在负相关关系。

针对传统光空间调制(OSM)传输速率低、发射天线数必须是2的整数次幂等缺陷，提出了一种光广义空间调制(OGSM)方案。该方案通过同时激活多根发射天线并结合多相制调制方式来提高传输速率。在此基础上引入基于范数的天线选择算法，在可见光通信(VLC)情形下，通过选取信道范数最大的子信道传输信息，降低了信号间干扰，改善了误码性能。利用分段式界理论推出了多输入多输出(MIMO)信道下的误码率理论上界。结果表明：当误码率达到10^－4时，采用基于范数的天线选择算法，光广义空间调制系统信噪比提升了3.1 dB；与3根接收天线的方案相比，4根接收天线的方案信噪比减少了8.4 dB。当误码率达到10^－3、激活天线数为2根时，正交振幅调制、脉冲振幅调制、正交相移键控与二进制相移键控相比，传输速率按每信道比特数计都增加了2，信噪比分别增加了0.7 dB、3.2 dB、5.1 dB。总之，通过增加调制阶数和接收天线数，光广义空间调制系统提升了传输速率，改善了误码性能。

现有光空间调制存在传输速率低、发射器利用率低和误码性能不理想等问题，利用分层空间结构，并结合脉冲位置调制（PPM），提出了一种标记型多层光空间PPM（MMLOSPPM）。它利用额外扩展的每个PPM符号内的时隙进行层标记，提高了首先检出层及其调制符号的正确性。此外，推导出了Gamma-Gamma湍流模型下系统理论误比特率的表达式，并用蒙特卡罗方法对其进行了验证。结果表明：当频谱效率为3/2 bit·s^-1·Hz^-1时，（5×4-2-2）MMLOSPPM系统的传输速率相较（4×4-2）空间PPM（SPPM）和（3×4-2）广义SPPM（GSPPM）改善了3 bpcu（bit per channel use）；在传输速率相同的条件下，（5×4-2-2）MMLOSPPM系统所需要的激光器数目分别比（7×4-4）GSPPM和（16×4-4）SPPM节约了2个和11个，并且在大信噪比（SNR）区域（SNR大于28 dB）中MMLOSPPM系统获得了最好的误码性能。

针对已有差分光空间调制系统(DOSM)中存在的频谱效率不理想问题,利用高能量效率的脉冲位置调制(PPM)和高频谱效率的脉冲幅度调制(PAM),通过构建满足差分过程的空时弥散矩阵,提出一种包含空间域、时间域和数字符号域的高维DOSM(HD-DOSM)方案。在详细介绍HD-DOSM的差分编码原理后,推导了HD-DOSM的理论误码率上界,并与DOSM进行了性能对比。结果表明:所提方案实现了频谱效率和误码性能的折中。当频谱效率为1 bit·s ^-1·Hz ^-1、误码率为1×10 ^-3时,和基于PAM的DOSM相比,HD-DOSM的信噪比改善了约2 dB,其传输速率增加了2 bpcu (bit per channel use)。利用发送信号的稀疏性,提出了一种先检测PPM符号的分步检测算法,以有效降低接收端译码算法的计算复杂度。当PPM阶数为4时,相较于最大似然检测算法,所提方案的复杂度降低了约75%。

针对垂直链路下空间脉冲位置调制(SPPM)误码性能较差的问题，采用级联信道编码改善系统误码性能，对比分析了低密度奇偶校验(LDPC)码和极化(Polar)码在不同码长、不同码率下的误码性能。仿真结果表明：在码率为0.5、误比特率为10-4时，Polar码具有优于LDPC码2 dB左右的性能；在码率为0.8时，二者的误码性能几乎相同，且在码率增大时，性能差距逐渐缩小；在SPPM系统中级联信道编码能够有效改善系统误码性能。

为改善现有可见光通信中光正交频分复用(OFDM)系统的性能,提出了一种新型的光空间调制OFDM系统,该系统使用哈特莱变换代替傅里叶变换,降低了近一半的计算复杂度;同时采用一种复-实转换函数在频域将复数符号转换为实数符号,去除了哈特莱变换中实星座映射的限制,极大地增加了系统的灵活性;最后利用两个发光二极管(LED)区分时域信号的正、负极性并分别进行传输,提高了系统的频谱效率和功率效率;相较于其他基于LED的光空间调制OFDM,可以在不损失系统可靠性的同时,增加系统设计的灵活性,大幅降低计算复杂度。此外,针对LED和PD(光电检测器)对称放置的情况,提出了利用接收信号功率直接判别传输信号极性的方法;针对非对称情况提出了一般极性判别法,这两种方法相较于传统的迫零检测法,都能够有效改善系统的误码性能,采用64进制正交振幅调制(64QAM),误比特率(BER)为10 ^-4时,系统性能均提高了约2.9 dB。

针对现有光空间调制空间资源利用率较低、传输速率不理想等问题, 本文将线性弥散码与光空间调制相结合, 提出了一种广义空时脉冲位置调制(Generalized Space-time Pulse Position Modulation, GSTPPM)方案。详细介绍了广义空时弥散矩阵映射和脉冲位置调制映射原理, 采用球形译码算法完成了信号检测。在此基础上, 推导了GSTPPM方案的理论误码率表达式, 并利用蒙特卡洛法将所提方案与现有的光空间调制方案进行了对比。仿真结果表明: 当激光器数目和调制阶数固定时, GSTPPM方案的传输速率明显高于空间复用、光空间脉冲位置调制和广义光空间脉冲位置调制。当传输速率相同时, (2, 4, 4)-GSTPPM的误码率明显优于(32, 4, 4)-光空间脉冲位置调制和(5, 4, 4)-广义光空间脉冲位置调制。当BER=10－3时, 前者的信噪比比后者分别改善了约7 dB和5.5 dB。

现有光空间调制由于其传输速率与激光器数量呈对数关系,导致空间资源的利用率较低。因此,提出了一种完全光广义空间调制(F-OGSM)方案,该方案通过激活不同数量的激光器来传递信息,使传输速率和激光器数量之间呈线性关系。同时,为了充分利用激光器所有可能的组合,采用基于信道范数最大化选择算法完成了激活激光器的选择,有效改善了系统的误码性能。最后,利用蒙特卡罗仿真方法比较了F-OGSM以及现有光空间调制的性能。结果表明:相对于广义空间脉冲幅度调制而言,在激光器数量和调制阶数均为4时,F-OGSM系统的传输速率增加了1 bpcu;当误码率为1×10 ^-3时,采用激光器选择算法后F-OGSM系统所需信噪比改善了4 dB。可见,F-OGSM作为一种高速率的调制技术非常适用于未来大气激光通信。

针对现有光空间脉冲位置调制频谱效率低、激光器利用率不高等问题, 将分层技术与空间脉冲位置幅度调制相结合, 提出了一种适合于大气激光通信的多层空间脉冲位置幅度调制方案.通过 额外增加少量几个激光器构成多层结构, 并通过脉冲位置幅度调制中的脉冲位置携带比特信息, 不同层通过脉冲幅度得到区分.介绍了系统中层映射、空间脉冲位置幅度映射及其逆映射的原理, 并 推导出该方案的误码率表达式.利用蒙特卡洛仿真方法进一步验证了该方案的正确性, 并与传统空间调制系统的性能进行了对比.结果表明: 与传统光空间调制系统相比, 所提方案提高了系统的频 谱效率, 且所用激光器数目更少.在传输比特相同的条件下, 相对于(32,4,128)-空间脉冲位置调制系统, (9,4,8,2)-多层空间脉冲位置幅度调制系统的频谱效率提高了16倍, 当误码率为10－3时, 其信噪比改善了约1 dB, 且所用激光器数目不到前者的1/3.其中, 括号中的参数分别表示激光器数目、探测器数目、采用调制方式的阶数及层数, 层数为1时忽略.