结合离散正弦变换(DST)和离散余弦变换(DCT)，提出一种新的DST/DCT直流偏置-离散多音频(DC-DMT)调制方案。在不增加系统复杂度的情况下，该方案可拓展独立子载波的个数，有望提高可见光系统的传输速率。通过推导该调制方案下的误码率表达式及该调制信号峰均功率比（PAPR）的互补累积分布，分析了限幅噪声对离散多音频（DMT）、直流偏置光正交频分复用（DCO-OFDM）及非对称限幅光正交频分复用（ACO-OFDM）可见光系统误码率的影响。研究结果表明，理论分析的误码率与仿真结果一致，在相同的传输速率下所提方案误码率更低；PAPR的互补累积分布与调制阶数无关，但随子载波数N增加而增大，在N较大时理论分析与仿真结果吻合。误码率仿真结果表明，相同传输速率下DST/DCT DC-DMT与DCO-OFDM在低信噪比时误码率性能相当，均优于脉冲幅度调制-离散多音频（PAM-DMT）、DC-DMT及ACO-OFDM；在高信噪比时，限幅噪声会使系统误码率增大。

提出一种新的室内可见光非直流偏置正交频分(Non-DC-Biased Orthogonal Frequency Division Multiplexing, NDC-OFDM)复用系统, 该系统采用多个颜色LEDs作为光源, 在保证高传输可靠性的同时可以维持环境光的稳定。将空间调制和同色异谱调制结合并应用到室内可见光OFDM通信系统中得到一种新的适用于室内可见光通信系统的NDC-OFDM传输方案, 该方案具有OFDM、空间调制和同色异谱调制的优势, 适用于高速室内白光通信系统。仿真结果表明所提出的NDC-OFDM室内可见光传输系统与传统的直流偏置光OFDM(DC-biased Optical OFDM)和非对称限幅光OFDM(Asymmetrically Clipped Optical OFDM)相比具有更好的优势, 并且与其它NDC-OFDM室内可见光传输方案相比, 对于OFDM信号高峰均功率比引起的光信号非线性畸变问题, 本文提出的多色LEDs NDC-OFDM室内可见光传输方案除了具有更好的鲁棒性外, 还不会产生光强度波动。

在大气激光通信中，半导体激光器是最为常见的光源器件，它的特性指标对整个系统的性能影响较大。首先对激光器的非线性进行建模，然后详细讨论了半导体激光器的线性化方法和映射函数的建立过程，最后根据激光器的现有工作状态进行实际测量，得到实际的激光器的I-V特性曲线。基于Volterra 级数理论建立半导体激光器的非线性模型并进行曲线拟合得到三次多项式系数，设计预失真补偿法方法对激光器的非线性效应进行校正，并通过实验验证了该方法的有效性。

采用三维射线追踪对非空旷室内可见光传输环境中的信道冲击响应和光源位于天花板不同位置时的均方根(RMS)时延扩展进行估算。在此基础上采用有限状态马尔可夫链对室内可见光衰落信道进行建模，得到非空室内可见光信道冲击响应的分布。研究结果表明，随机分布反射物对非视距（NLOS）传输环境的信道冲击响应的影响相比视距（LOS）传输环境要大，光源位于天花板角落时均方根时延扩展比其他位置要大，多径效应也更为明显。

提出了一种非限幅四相相移键控(QPSK)类正弦调制技术，并将其运用到大气激光通信系统中。介绍了大气激光通信信道模型，给出了非限幅QPSK类正弦调制的大气激光通信系统模型。在此基础上，对采用非限幅QPSK类正弦调制和采用直流偏置副载波强度调制的大气激光通信系统在无湍流和弱湍流信道下的功率利用率、误码率、中断概率和信道容量进行了分析和比较。结果表明，非限幅QPSK类正弦调制具有更好的抗噪声性能、更高的功率利用率、较低的中断概率及较高的信道容量，提高了大气激光通信系统的性能，可满足大气激光通信系统的需要。