针对基于交错正交幅度调制的相干光滤波器组多载波(CO-FBMC-OQAM)通信系统的信道均衡问题, 提出了一种基于人工神经网络(CD-net)的信道均衡方法。CD-net融合了卷积神经网络和深度神经网络的优点, 能够完成CO-FBMC-OQAM通信系统的信道均衡任务。在CD-net中, 卷积神经网络模块首先对接收端畸变信号进行特征提取, 再由深度神经网络模块完成信号解调和信道均衡, 并恢复出原始信息。数值仿真结果表明: 与传统信道均衡方法相比, CD-net方法在误码率性能方面具有更大的优势, 能够较好地解决CO-FBMC-OQAM系统的信道失真问题。

为了消除紫外光通信过程中强烈散射所引起的码间干扰, 采用一种带信道估计的最小均方误差-最大似然估计（LMS-MLE）延迟判决均衡算法进行了理论分析和仿真验证。通过选取合适的判决延迟深度来调整LMS自适应滤波器抽头系数进行信道跟踪, 获取新的信道估计向量, 最后利用MLE均衡算法得到最优序列输出。结果表明,该算法可以明显提升紫外光通信系统的性能, 在没有提高复杂度的情况下, 性能接近最优MLE均衡算法, 并且可以实现信道跟踪,紫外光通信中算法的最佳延迟量取值为20。这一结果对紫外光通信性能提升以及MLE均衡器的工程实现是有帮助的。

针对发光二极管之间的多径干扰，提出了采用QR分解的信道均衡算法消除干扰的方案。首先建立基于离散傅里叶变换扩频的正交频分复用技术的电力线与可见光融合通信系统，并考虑了由两个发光二极管之间的电线差所引发的多径干扰，然后比较了该系统下采用QR分解的信道均衡算法和传统信道均衡算法下的误码性能。结果表明，采用QR分解的信道均衡算法可消除由发光二极管之间的电线差引起的多径干扰，从而提高系统的传输性能。

叉指数优化选择是传统MMSE-Rake(最小均方差Rake接收机)算法的重要组成部分, 广泛应用于UWB(超带宽) Rake接收机中。为了提高在低速传输条件下UWB系统对多径信号接收的快速识别能力, 提出了一种基于优化抽头系数的MBER(最小误比特率)改进算法, 该算法可在不降低多径分辨率的前提下, 通过简化Rake叉指数实现快速定位。仿真结果表明, 在低速CM3(NLOS信道)和CM4(特殊情况下NLOS信道)多径模拟信道传输条件下, 改进后的算法在性能上优于传统MMSE-Rake算法, 不仅降低了Rake接收机的复杂度, 还提高了信号接收的实时性。

基于独立成分分析法(ICA)能够实现偏振复用相干光正交频分复用(PDM-CO-OFDM)系统的盲信道均衡，与基于导频的信道均衡方法相比，能极大提高系统的频谱利用率。然而这种固定步长的ICA 算法对每个子载波采用迭代算法来计算信道频率响应分离矩阵, 需要经过几十次迭代才能收敛。为有效降低该算法的计算复杂度，提出一种基于自适应步长ICA 的盲信道均衡算法，采用自适应分离步长提高迭代算法的收敛速度。基于100 Gb/s 16进制正交振幅调制(16-QAM)PDM-CO-OFDM 系统，仿真实验表明该自适应算法的系统误码率性能优于固定步长ICA算法的结果，且收敛速度提高5倍以上，能够用于未来高速PDM-CO-OFDM 系统接收端进行高效信道均衡。

受多种光纤非线性因素的影响，基于正交频分复用(OFDM)技术的无源光网络(PON)会受到较为严重的载波间干扰(ICI)。为了抑制OFDM-PON系统中的上述问题，构造了一种新的伪对称序列(PST)，并提出将该问题转化为求解两个Toeplitz子系统，然后对其中一个子系统的解进行预处理，将其转化为另一子系统的输入，之后利用最小二乘准则对子系统求解，从而达到抑制载波间干扰的目的。在算法实现过程中，利用所构造序列的伪对称特性和快速傅里叶变换(FFT)，避免了高阶矩阵直接求逆，从而提升了算法实时性。仿真结果表明，该方法不仅能够有效抑制OFDM-PON系统的载波间干扰，而且能有效提升该算法的实时性能。

在使用高阶相位调制的100 Gbit/s及以上速率的相干光通信系统中，激光器的相位噪声和光纤传输中的色散效应是影响系统性能的主要因素。为了补偿色散及相位噪声的影响，文章提出一种将电信道均衡与相位估计模块在电域联合使用的方法，相位估计在电信道均衡之后完成，其结果同时用于电信道均衡器的抽头系数更新。该方法可以有效降低对电信道均衡中迭代步长的要求，有助于系统获得更低的误码率和更稳定的误码性能，并且能够支持的传输距离也会增加。