针对多输入多输出（MIMO）系统非线性检测中排序串行干扰消除（OSIC）算法信号检测性能弱的问题，提出了一种可动态调整的OSIC（D-OSIC）检测算法。为解决早期的误差传播问题，通过最大似然（ML）算法选择最佳符号，提高ML-D-OSIC算法的检测性能。根据遍历容量动态调节消除层的数目，并结合混合迭代算法降低算法的复杂度。仿真结果表明，ML-D-OSIC算法的信号检测性能明显优于OSIC算法，检测性能可通过调整预定义阈值、偏移量和权重而提升，且复杂度远低于ML算法。

针对下一代光接入网，提出了一种基于功率域非正交多址的扩容无源光网络方案。传统的功率域非正交多址网络基于信道估计函数，采用串行干扰消除（SIC）算法进行解调和恢复，需要精确的信道估计，存在差错传播效应。针对该问题，提出了基于修正卷积神经网络（CNN）的信号接收方案，利用大量数据独立拟合各用户信道函数，打破了SIC解调算法中用户间的依赖链，提升了系统的传输性能和公平性。结果表明，在扩容功率域非正交多址无源光网络中，相比传统SIC解调算法，基于修正CNN的接收方案对远端用户（传输60 km）和近端用户（传输20 km）的传输性能可分别提升约0.5 dB和1.7 dB，且其公平性指数更接近1。

针对模式相关损耗(MDL)较大时最小均方误差(MMSE)算法无法有效实现模分复用系统(MDM)解复用的问题,提出了一种基于串行干扰消除(SIC)的MMSE解复用方法,以实现近似最大似然(ML)检测的性能。该方法通过消除大功率信号对其他各路信号的干扰达到补偿MDL的目的,再利用MMSE算法恢复源信号。对6×6的MDM系统进行了解复用,仿真结果显示,相比于MMSE算法,所提方法在不同耦合强度、有/无MDL下都能有效改善系统性能,且计算复杂度与MMSE算法的近似相同。当光纤传输距离为1200 km、差分模群时延(DMGD)为9 ps/km、耦合强度为-5 dB时,相较于MMSE算法,SIC-MMSE算法的光信噪比改善了3 dB。

白光发光二极管(LED)的窄调制带宽限制了可见光通信(VLC)的系统容量。非正交多址接入(NOMA)技术通过功率复用可提高系统通信容量。结合直流偏置光正交频分复用(DCO-OFDM)和NOMA技术,设计了NOMA-DCO-OFDM系统。基于递归法给出了单个LED时VLC多径信道建模方法。在考虑限幅噪声影响时,推导了用户的信干噪比。采用分数阶功率分配、增益比功率分配和静态功率分配方法,研究系统平均和速率随LED半功率角、光电检测器的视场角(FOV)和功率分配因子的变化规律。仿真结果表明,系统平均和速率随着半功率角、FOV和功率分配因子的变化而变化,可以通过优化半功率角、FOV和功率分配因子达到系统平均和速率最大化。