为了利用模分复用（MDM）和超奈奎斯特（FTN）传输技术提高无源光网络（PON）的传输容量和频谱效率，同时也为了保证系统具有良好的误码率性能，本文提出了基于矩阵分解预编码和MIMO预均衡器的联合损伤补偿方法，用于消除超奈奎斯特模分复用无源光网络（FTN-MDM-PON）中存在的MDM信道损伤和FTN传输损伤。对于矩阵分解预编码技术，本文采用奇异值分解（SVD）预编码、带功率预分配的奇异值分解（SVD PA）预编码和Cholesky分解（Chol）预编码方式，分别将它们与MIMO预均衡器结合后对比三种联合方案降低FTN-MDM-PON系统误码率的效果。仿真实验结果表明：采用SVD PA预编码、Chol预编码与MIMO预均衡器结合的联合损伤补偿方法时，FTN-MDM-PON系统中的4个线偏振（LP）模式的FTN信号经过5 km少模光纤（FMF）传输后，接收端误码率能够低于7%硬判决-前向纠错（HD-FEC）门限3.8×10^-3。其中，Chol预编码与MIMO预均衡器结合的联合补偿方案降低误码率的效果最优，相比于表现较优的SVD PA预编码结合MIMO预均衡器方案，接收光灵敏度提升了1 dB~3 dB。

为了进一步提高频谱效率，在大规模多输入多输出(MIMO)系统中引入了非正交多址 (NOMA)，然而当基站与用户之间的信道较差时，这很难保证用户的频谱效率。为解决这一问题，探讨了基于智能反射表面(IRS)的大规模 MIMO-NOMA系统，来保证用户的频谱效率。具体地，首先考虑了 IRS辅助的大规模 MIMO-NOMA系统模型。然后根据簇头选择算法，为每个波束选择一个簇头来设计模拟预编码。之后，根据等效信道的相关性对用户进行分组，选择在每个波束中等效信道增益最强的用户来设计数字预编码。最后联合优化基站的功率分配和 IRS的相移矩阵，来保证用户频谱效率的公平性，即最大化最小频谱效率。仿真结果表明，与没采用 IRS的大规模 MIMO-NOMA系统相比，IRS辅助的大规模 MIMO-NOMA系统可显著改善最弱用户的频谱效率。

在可见光通信（VLC）系统中，发射端调制信号的幅度必须保持非负才能驱动LED发光，导致VLC系统的可达速率公式与传统射频通信系统存在较大差异。此时，传统最大化可达速率的预编码矩阵设计方法不再适用。针对该问题，提出了一种适用于多输入多输出VLC系统的预编码矩阵设计方法。首先，基于严格卡罗需-库恩-塔克条件求解出特征信道功率分配表达式。然后，根据注水算法的思想为性能较好的子信道分配较大功率。通过对特征信道功率的取值次序进行约束，本方法能在逼近最优可达速率的同时具备低复杂度特点。仿真结果表明，相比现有预编码矩阵设计方法，本方法的可达速率指标有显著提升。

对于具有混合预编码的毫米波大规模多输入多输出(MIMO)系统，由于系统中硬件的缺陷会在接收的导频中引入随机相位偏移，这将使得传统信道估计算法的性能变得非常差，甚至不能估计出信道信息。为了解决这个问题，文章利用来自不同射频链的导频，在同一时间段内具有相同的相位偏移，而在不同时间段具有不同的相位偏移的特性，提出了基于迭代重加权（IR）的部分相干压缩相位提取(PC-CPR)（IR-PC-CPR）算法。该算法首先对接收的相干导频做相位偏移补偿，然后再使用IR算法估计信道参数来实现高精度的信道估计。仿真结果表明，文章所提算法与PC-CPR算法相比具有更好的性能。

推导了预编码直流偏置光正交频分复用(DCO-OFDM)和预编码非对称限幅O-OFDM(ACO-OFDM)系统子载波信噪比(SNR)的表达式。仿真结果表明,在视线传播信道下,预编码不会影响系统的误码率(BER)性能;在多径信道下,预编码能均衡光无线信道的频率选择性衰落,使系统接收端子载波的SNR均匀化,从而改善系统的BER性能。此外,采用蒙特卡罗方法仿真分析了离散傅里叶变换、离散余弦变换和离散哈特莱变换预编码O-OFDM系统的峰均功率比(PAPR)和BER性能,验证了理论分析的正确性。最后,在考虑O-OFDM符号双边限幅的情况下,仿真验证了预编码对PAPR的抑制性能。

提出了一种基于四波混频以及平衡预编码产生光子六倍频矢量毫米波信号的方案。该方法利用单个强度调制器的载波抑制调制以及1 km高非线性色散位移光纤发生四波混频以实现六倍频,结合平衡预编码产生了72 GHz载频的四相相移键控(QPSK)的矢量毫米波信号,很大程度上降低了系统的成本。通过实验演示了2 Gbaud, 72 GHz QPSK矢量毫米波信号的产生,同时研究了QPSK信号不同波特率以及光纤传输长度分别对信号的影响。实验结果表明,在15 km光纤和1 m的无线传输下,当输入光电探测器的光功率大于-6.3 dBm,QPSK信号波特率不高于2.5 Gbaud时,信号的误码率低于硬判决前向纠错门限阈值,可实现无误码传输。

在基于光子灯笼强度调制直接检测(IM-DD)的模群复用传输系统中,提出一种用于降低信号串扰的基于单端信道估计的预编码方案。该方案使用环形器和分路器作为信号返回机制,将信号返回到发送端进行发送端单端信道估计,然后将得到的信道传递矩阵用于预编码。实验结果表明,经所提预编码方案的处理,在背靠背及连接500 m少模光纤的模群复用传输系统中,信号误码率(BER)在1.3×10 ^-2前向纠错(FEC)门限时,LP₀₁-LP₀₁和LP_11a-LP_11b信道的信号发送功率分别降低了约3 dB和1 dB。本研究为解决点到多点的IM-DD模群复用传输系统中的信号串扰问题提供了一种有效的方案。

为降低点到多点短距离模分复用传输中的模式串扰,提出了一种基于系数回传的预编码方法。设计了联合控制任意波形发生器（AWG）和示波器（DSO）的控制台，以及连接500 m少模光纤（FMF）的光子灯笼强度调制直接检测（IM-DD）模分复用传输系统，并选用LP01-LP01模式信道和LP11a-LP11b模式信道进行对比实验。实验结果表明：使用该方案之后的信号误码率在1.3E-2前向纠错（FEC）（G.975.1-25%OH）门限时，LP01-LP01、LP11a-LP11b进入光子灯笼的信号发送功率分别降低了约5 dBm、2 dBm。

提出一种新的基于单个强度调制器的D波段矢量毫米波产生方法。研究基于强度调制器,通过预编码技术,产生了八倍频D波段矢量毫米波信号,信号经过一定距离的无线传输之后输入接收端,最后对信号进行解调和误码分析。该方法具有一定的中心载波抑制功能,在无光学滤波器下成功传输了信号,降低了光载无线系统的链路成本。实验验证了152 GHz 4 GBaud正交相移编码(QPSK)信号的产生和传输,经过1 m的无线传输后,接收到的QPSK信号的误码率低于软判决前向纠错门限阈值(1.0×10 -2)。