为了利用模分复用（MDM）和超奈奎斯特（FTN）传输技术提高无源光网络（PON）的传输容量和频谱效率，同时也为了保证系统具有良好的误码率性能，本文提出了基于矩阵分解预编码和MIMO预均衡器的联合损伤补偿方法，用于消除超奈奎斯特模分复用无源光网络（FTN-MDM-PON）中存在的MDM信道损伤和FTN传输损伤。对于矩阵分解预编码技术，本文采用奇异值分解（SVD）预编码、带功率预分配的奇异值分解（SVD PA）预编码和Cholesky分解（Chol）预编码方式，分别将它们与MIMO预均衡器结合后对比三种联合方案降低FTN-MDM-PON系统误码率的效果。仿真实验结果表明：采用SVD PA预编码、Chol预编码与MIMO预均衡器结合的联合损伤补偿方法时，FTN-MDM-PON系统中的4个线偏振（LP）模式的FTN信号经过5 km少模光纤（FMF）传输后，接收端误码率能够低于7%硬判决-前向纠错（HD-FEC）门限3.8×10^-3。其中，Chol预编码与MIMO预均衡器结合的联合补偿方案降低误码率的效果最优，相比于表现较优的SVD PA预编码结合MIMO预均衡器方案，接收光灵敏度提升了1 dB~3 dB。

为解决模分复用无源光网络（MDM‐PON）模式间串扰的问题，本文提出了一种基于多输入多输出（MIMO）预均衡的串扰消除方法。利用帧头插入的时分训练序列，在接收端相干检测后估计信道的冲激响应，并将其用于发送端MIMO均衡器抽头系数的计算。采用线偏振（LP）模式的模分复用（MDM）传输仿真系统对所提方法进行验证，并将所提方法与基于迫零（ZF）预编码的串扰消除方法进行了对比。结果表明：连接5 km少模光纤（FMF）时，与迫零预编码相比，MIMO预均衡使各模式（LP₀₁、LP₁₁、LP₂₁、LP₃₁）信号的误码率在满足7%硬判决‐前向纠错（HD‐FEC）门限时的发送光功率分别降低了3.0 dB、4.1 dB、1.2 dB和9.2 dB。另外，考虑到光纤色度色散的影响，本文进一步提出了带色散预补偿的MIMO预均衡器结构，该结构可以实现对色散的补偿。

针对硬件预均衡技术和基于有限脉冲响应(FIR)滤波器的软件预均衡技术存在的问题，提出了数字预加重的软件预均衡技术，该技术根据发光二极管(LED)的频率响应参数针对性地补偿LED带宽，并设计了一套直流偏置光-正交频分复用(DCO-OFDM)水下可见光通信系统作为实验测试平台。实验结果表明：采用数字预加重技术后，LED调制带宽由7.8 MHz提升至了16 MHz，且该技术实现复杂度低、灵活性强，预均衡后的信号频谱更加平坦。

超奈奎斯特(FTN)传输技术可有效提高无线光通信系统的传输速率,但其引入的码间干扰会极大影响系统的可靠性。针对此问题,设计了一种基于逐点消除的自适应预均衡算法。推导了4阶脉冲幅度调制下该算法的理论误码率和计算复杂度。仿真结果表明,该算法可以消除由FTN成型带来的码间干扰,其性能几乎等同于正交传输系统。系统的计算复杂度则随着加速因子的减小而增加,当加速因子小于0.4时,计算复杂度会出现快速上升。

为了克服可见光室内定位技术存在的带宽限制和非线性问题，运用差分脉冲幅度调制（DPAM）的调制方法，来降低带宽限制对通信质量的影响；再基于对可见光通信的信道特性的分析，采用预均衡和光滤波来补偿光源的调制带宽限制和非线性，提高了系统的带宽和吞吐量；最后，运用四个1.5 MHz带宽的LED芯片组成的单个光源进行仿真实验。结果表明，所设计的发射调制系统随着LED芯片数量的增加，系统的总吞吐量也线性增加，实现了高数据率的LED调制。

基于发光二极管(LED)的可见光通信(VLC)技术能够实现照明和数据通信的双重功能, 成为近年来无线通信的研究热点之一。目前商用LED较小的调制带宽在很大程度上制约了高速VLC系统的快速发展。为了解决这一问题, 提出了通过硬件预均衡技术拓宽VLC系统的-3 dB调制带宽的方法, 有效提高VLC系统传输速率；分析总结了近年来国内外应用于高速VLC系统中硬件预均衡技术的发展脉络和应用现状, 并对比分析了不同预均衡方案的均衡控制策略、均衡电路结构以及均衡效果; 对均衡技术的发展趋势提出建议, 为今后高速VLC技术的研究提供参考。

介绍了一种基于参考的预均衡(RPE)技术，该技术基于自相干混频技术，可实现自相干零差检测系统中传递函数精确定性信息的测量，并且可对传输信号进行预加重处理。RPE技术可以对所有电和光的线性损失进行预补偿，电和光的线性损失包括调制器和功率放大器引起的带宽限制，以及光学前置滤波器造成的高频分量损失。RPE校准性能很大程度上取决于发射机与接收机的激光器线宽。研究了自相干零差检测系统中几种常见激光源的RPE校准性能，提出了一种能够获得传递函数精确定性信息的相位纠正算法。利用几种典型激光源，在波分复用带宽限制为25 GHz、速率为32 Gbit/s的偏振复用正交相移键控相干光通信系统中证实了该算法的可行性。

到2018年，普通发光二极管（LED）的普及率将达到80%。基于LED的可见光通信(VLC)技术有望为高速VLC的实现提供新方案。国内外研究者们分别对先进调制、编码/均衡、复用技术及材料/芯片等进行了研究，以扩展调制带宽、提高传输速率和增加传输距离。对载波幅相调制、自适应比特功率加载的正交频分复用调制、硬件/软件预均衡、后均衡等技术以及新型光学材料的原理和性能等国际研究热点进行了分析与讨论，对最新的研究进展进行了总结，从而为未来VLC的研究提供一定的参考。