为了解决强度调制-直接检测正交频分复用（IM-DD OFDM）光通信系统中由光纤色散和非线性效应导致的传输性能下降的问题，提出利用正交偏振泵浦非简并四波混频（NFWM）产生的无波长偏移光学相位共轭（OPC）波对系统中的信号损伤进行光域补偿。首先在理论上推导了利用正交偏振泵浦NFWM生成OPC波的原理，基于上述原理，设计了无波长偏移OPC实现方式，在正交偏振态上得到与原信号波长完全一致的OPC波。然后对影响生成OPC波功率的因素进行了具体分析。最后依据优化参数设置，进行仿真验证，结果表明所提系统能够以114.375 Gbit/s的传输速率在长度为240 km的标准单模光纤链路中传输。

针对DCO-OFDM 系统功率效率低以及高阶信号调制复杂度高的问题，提出一种联合子载波索引和功率叠加复用（Subcarrier Index-Power Modulated With SuperpositionMultiplexing，SIPM-SPM）的新型信息承载维度，将其应用于非对称限幅光正交频分复用（Asymmetrically Clipped Optical OFDM，ACO-OFDM）系统。该调制技术对高功率子载波采用SPM，添加两个8PSK 和QPSK 编码的复值数据，进一步增加了信号的传输容量，同时ACO-OFDM 系统避免了直流偏置带来的功率损耗。仿真结果显示：在ACO-OFDM 系统中，SIPM-SPM 相较于SIPM（8-PSK/QPSK），信号传输容量提高了28.6%；相较于相同信号传输容量的SIPM（32-PSK/QPSK），在误码率为1.0 × 10-3 时，信噪比增益>2.8 dB，色散容忍度提高了>560 ps/nm，光发射功率动态范围提高了>6.7 dB。这表明将SIPM-SPM 调制应用于ACO-OFDM 系统，具有较好的抗噪声性能和较高色散容忍度，也降低了对发射光功率的需求。

针对DCO-OFDM(DC-Biased Optical OFDM)系统能量效率低以及高阶信号调制复杂度高的问题, 提出一种基于子载波索引功率调制(Subcarrier Index-Power Modulated, SIPM)的分层非对称限幅OOFDM(Layered Asymmetrically Clipped Optical OFDM, LACO-OFDM)技术。该技术对高低功率子载波分别采用8-PSK和QPSK低阶星座映射格式, 同时结合LACO技术, 有效避免了直流偏置带来的OFDM系统能量损耗, 增加了信号的传输容量。仿真结果表明：SIPM-LACO-OFDM技术可以在不降低频谱效率的前提下, 提高系统能量效率, 具有更好的误码率性能和非线性容忍度。在25 km SSMF IMDD PON信道下, SIPM-LACO-OFDM系统相较于传统SIPM-OOFDM系统, 在接收光功率上有1.8 dB左右的优势, 为下一代光接入网提供了一种有效的可行性方案。

无人机雷达通信一体化(RadCom)系统中雷达接收信号是目标回波和通信信号的混合信号, 会产生互干扰问题。针对该问题, 改进标准正交频分复用信号, 设计了一种交织OFDM一体化信号, 其中, 每种无人机的一体化信号在信号带宽内使用不重叠的子载频集, 并利用基于调制符号的处理方法获取目标的高分辨距离-速度像, 没有降低可实现的距离分辨率。仿真结果表明, 所提方法在目标成像性能和计算复杂度上优于现有算法, 低信干比下的距离像峰值旁瓣比改善了约9 dB, 而且能够实现每秒兆比特级的高效数据通信。

为了实现直接检测（DD）光正交频分复用（OOFDM）系统安全可靠通信，在发送端利用混沌加密技术来提高DD-OOFDM系统的安全性，在接收端采用Kramers-Kronig（KK）接收机来解决OFDM信号子载波拍频干扰的问题。利用混沌加密前后的图像像素值分布对系统的安全性进行分析验证。此外，分析了KK接收机的结构和其实现的条件，仿真测试了基于混沌加密和KK接收机的DD-OOFDM系统的误码率性能。

本文首先从理论上分析了在共极化双泵浦方案中，波长转换不会改变概率整形（PS）信号的概率分布，并且正交频分复用（OFDM）信号子载波的顺序可以保持不变的原因。然后，通过实验验证了全光波长转换后，PS-64QAM-OFDM信号通过高非线性光纤在零差相干检测系统中的传输。最后，通过实验证明，当波特率为20 Gbaud、误码率为1×10^-2时，普通64QAM信号的光信噪比（OSNR）损耗为1 dB，PS-64QAM信号的OSNR损耗改善了0.5 dB。

针对可见光通信中的离散傅里叶扩展正交频分复用系统的非线性效应，提出一种基于高斯混合模型的聚类解调方法。运用机器学习中的高斯混合模型根据接收信号估计所有星座点的高斯分布参数。然后计算接收信号到每一个星座点高斯分布的概率，选择概率最大值对应的星座点作为接收信号的判决结果进行解调，从而可以获得一些信噪比增益。仿真结果表明，在LED非线性信道下，高斯混合模型聚类解调方法在16和32阶正交振幅调制下可以分别获得0.6 dB~2.7 dB和0.2 dB~1.7 dB的信噪比增益。

研究对象是偏移正交幅度调制的相干光正交频分复用通信（CO-OFDM-OQAM）系统的信道估计方法。为了减少训练序列所占用的频谱资源，进一步提升频谱效率，为偏振复用CO-OFDM-OQAM系统提出了一种新的频域信道估计方法。该方法利用偏振复用系统的解调原理和固有虚部干扰系数的对称性规律设计全负载型实值导频方案，结合插值法，将每个偏振态上训练序列需要占用的频域符号个数降低为4。此外，该方法的另一个优势是具有更好的功率峰均比。搭建了偏振复用CO-OFDM-OQAM系统的数值仿真平台，在背靠背（BtB）、100 km和200 km光纤传输3种场景下对所提方法的频谱效率、功率峰均比和信道估计性能进行了验证。获得的结果证实所提方法能够提高频谱效率，而且功率峰均比更加优良。

光正交频分复用（O-OFDM）技术被广泛应用于可见光通信系统（VLC）中以提高数据传输速率，但是O-OFDM系统存在峰值平均功率比（PAPR）高的问题，限制了其系统性能。本文首先针对传统的非对称限幅光正交频分复用（ACO-OFDM）系统频谱效率低下以及计算复杂度高的问题，使用无厄米特对称的单极性光正交频分复用（UO-OFDM）系统。其次在UO-OFDM系统上使用传统的部分传输序列（PTS）技术来降低其PAPR，同时针对传统的PTS技术计算复杂度高以及搜索最佳相位旋转因子效率低的问题，提出使用遗传算法（GA）来优化PTS技术。仿真结果表明：GA-PTS相比于传统的PTS技术，在PAPR抑制性能差别不大的情况下极大地减少了搜索最佳相位旋转因子所需的时间；同时与基于GA-PTS算法的ACO-OFDM系统所用的时间相比，基于GA-PTS算法的UO-OFDM系统所用的时间有所减少，且随着最大遗传代数的增加，减少的时间更加明显。

针对现有的非对称限幅光正交频分复用（ACO-OFDM）可见光通信（VLC）系统中信道估计方法存在导频数量过大、精度低、估计效率不高的问题，提出一种基于深度神经网络（DNN）的VLC信道估计方法。利用梯度集中化（GC）方法进行模型优化，并采用端到端的方式跟踪信道信息并恢复失真信号。仿真结果表明：所提方法的误码率（BER）和均方误差（MSE）性能均优于传统方法；在使用较少的导频和省略循环前缀（CP）进行信道估计时，所提方法具有更强的鲁棒性。此外，在DNN训练过程中引入GC方法，可以加快网络的收敛速度，提高其优化能力。