为了在保持帧结构完整性的同时，低代价地传输管理和控制信号，提出面向高速频分复用相干无源光网络（FDM-CPON）的两种传输管理和控制信号传输机制，即数字端辅助管理和控制通道（AMCC）和数据通道的相加和相乘。通过将AMCC传输的通断键控（OOK）信号映射为数据通道信号幅值的变化，完成数据通道信号幅值再调制，成功将AMCC与数据通道相结合，实现了管理和控制信号与数据通道信号的同步传输。实验结果表明，在基于16QAM传输20 km光纤的200 Gbit/s FDM-CPON系统中，当AMCC的带宽和调制因子（MI）相同时，乘性AMCC对于信号性能的影响更小，自身传输信号的质量也更高。在AMCC的MI为26.1%、带宽为24.4 MHz时，乘性AMCC对信号灵敏度的惩罚比加性AMCC小3 dB。以上研究为未来高速相干频分复用无源光网络AMCC传输与系统设计提供重要参考。

为了利用模分复用（MDM）和超奈奎斯特（FTN）传输技术提高无源光网络（PON）的传输容量和频谱效率，同时也为了保证系统具有良好的误码率性能，本文提出了基于矩阵分解预编码和MIMO预均衡器的联合损伤补偿方法，用于消除超奈奎斯特模分复用无源光网络（FTN-MDM-PON）中存在的MDM信道损伤和FTN传输损伤。对于矩阵分解预编码技术，本文采用奇异值分解（SVD）预编码、带功率预分配的奇异值分解（SVD PA）预编码和Cholesky分解（Chol）预编码方式，分别将它们与MIMO预均衡器结合后对比三种联合方案降低FTN-MDM-PON系统误码率的效果。仿真实验结果表明：采用SVD PA预编码、Chol预编码与MIMO预均衡器结合的联合损伤补偿方法时，FTN-MDM-PON系统中的4个线偏振（LP）模式的FTN信号经过5 km少模光纤（FMF）传输后，接收端误码率能够低于7%硬判决-前向纠错（HD-FEC）门限3.8×10^-3。其中，Chol预编码与MIMO预均衡器结合的联合补偿方案降低误码率的效果最优，相比于表现较优的SVD PA预编码结合MIMO预均衡器方案，接收光灵敏度提升了1 dB~3 dB。

针对DCO-OFDM(DC-Biased Optical OFDM)系统能量效率低以及高阶信号调制复杂度高的问题, 提出一种基于子载波索引功率调制(Subcarrier Index-Power Modulated, SIPM)的分层非对称限幅OOFDM(Layered Asymmetrically Clipped Optical OFDM, LACO-OFDM)技术。该技术对高低功率子载波分别采用8-PSK和QPSK低阶星座映射格式, 同时结合LACO技术, 有效避免了直流偏置带来的OFDM系统能量损耗, 增加了信号的传输容量。仿真结果表明：SIPM-LACO-OFDM技术可以在不降低频谱效率的前提下, 提高系统能量效率, 具有更好的误码率性能和非线性容忍度。在25 km SSMF IMDD PON信道下, SIPM-LACO-OFDM系统相较于传统SIPM-OOFDM系统, 在接收光功率上有1.8 dB左右的优势, 为下一代光接入网提供了一种有效的可行性方案。

为解决模分复用无源光网络（MDM‐PON）模式间串扰的问题，本文提出了一种基于多输入多输出（MIMO）预均衡的串扰消除方法。利用帧头插入的时分训练序列，在接收端相干检测后估计信道的冲激响应，并将其用于发送端MIMO均衡器抽头系数的计算。采用线偏振（LP）模式的模分复用（MDM）传输仿真系统对所提方法进行验证，并将所提方法与基于迫零（ZF）预编码的串扰消除方法进行了对比。结果表明：连接5 km少模光纤（FMF）时，与迫零预编码相比，MIMO预均衡使各模式（LP₀₁、LP₁₁、LP₂₁、LP₃₁）信号的误码率在满足7%硬判决‐前向纠错（HD‐FEC）门限时的发送光功率分别降低了3.0 dB、4.1 dB、1.2 dB和9.2 dB。另外，考虑到光纤色度色散的影响，本文进一步提出了带色散预补偿的MIMO预均衡器结构，该结构可以实现对色散的补偿。

下一代无源光网络(NG-PON2)中的带宽分配问题是研究的热点之一。针对在网络动态环境中如何根据网络的变化状态合理分配带宽资源的问题, 提出了一种具有自适应能力、基于统计的周期性服务质量(SPSQ)的动态带宽分配算法, 结合网络资源周期性需求的特点, 采用统计的方法对无源光网络中的动态带宽分配问题进行分析。仿真结果表明, 该算法能够在传输业务量变化时, 适应网络的数据传输情况并提升网络服务质量。

伴随着移动通信和多媒体业务的飞速发展，下一代接入网络的带宽需求呈现出了爆炸式增长的趋势。作为光接入网络的关键技术，无源光网络（PON）提供了巨大的带宽资源和长距离链路，但其灵活性受光纤铺设的严重限制。而光纤无线电（RoF）技术能够结合无线接入和光纤通信，发挥低损耗、高带宽的技术优势，促进两者的融合和发展。因此RoF技术与PON融合，能够充分利用光纤提供的巨大带宽和无线通信的灵活接入，更好地产生、处理和传输有线信号和微波信号，满足人们对多业务的需求。本文回顾了近几年的RoF-PON融合系统和关键技术，概述了微波信号的光子产生技术、RoF系统和下一代PON技术（NG-PON2）。此外，重点讨论和验证了RoF技术与波分复用PON（WDM-PON）、时分/波分复用PON（TWDM-PON）与正交频分复用PON（OFDM-PON）三种PON的融合方案。在经过20 km光纤传输后，所提的四通道RoF-WDM-PON和RoF-TWDM-PON的系统传输容量均为10 Gbit/s，误码率低至10^-9。而RoF-OFDM-WDM-PON系统可以实现下行50 Gbit/s的系统容量、50 km的光纤传输以及无源光网络单元（ONU）。最后，从系统的传输距离和误码率等方面对比分析了三种系统的可行性和优缺点。因此，基于微波光子学的RoF-PON融合系统不仅能够降低系统成本，提供高带宽和多业务服务，而且能够有效提升未来接入网络的容量和链路质量。

提出单边带直接检测数字滤波多址无源光网络（DFMA-PON）系统，抑制光纤色散引起的频率选择性衰落现象。同时，为消除直接检测时平方律特性引起的信号与信号间的拍频干扰（SSBI），在接收端设计了适用于DFMA-PON系统的Kramers-Kronig（KK）算法。该算法通过从接收信号的幅度信息中重构出相位信息来恢复原始信号，进而消除SSBI对接收信号的影响，提高接收机灵敏度。仿真结果表明，在不采用其他色散补偿算法的情况下，单边带传输系统较双边带传输系统的性能有显著提升。与接收端不采用KK算法的单边带系统相比，所提方案在经过25 km标准单模光纤传输后，接收机灵敏度最高可提高约5.0 dB。

针对下一代光接入网，提出了一种基于功率域非正交多址的扩容无源光网络方案。传统的功率域非正交多址网络基于信道估计函数，采用串行干扰消除（SIC）算法进行解调和恢复，需要精确的信道估计，存在差错传播效应。针对该问题，提出了基于修正卷积神经网络（CNN）的信号接收方案，利用大量数据独立拟合各用户信道函数，打破了SIC解调算法中用户间的依赖链，提升了系统的传输性能和公平性。结果表明，在扩容功率域非正交多址无源光网络中，相比传统SIC解调算法，基于修正CNN的接收方案对远端用户（传输60 km）和近端用户（传输20 km）的传输性能可分别提升约0.5 dB和1.7 dB，且其公平性指数更接近1。

超无源光网络(Super-PON)凭借低成本、长距离传输、支持大量用户等优点逐渐成为研究热点。然而，在多波长长距离传输系统中，Super-PON上下行之间及Super-PON与以太网无源光网络(EPON)、10G以太网无源光网络(10G-EPON)系统共存时，皆面临着受激拉曼散射(SRS)串扰的挑战。因此，为了满足Super-PON系统的高链路预算需求，通过VPI仿真软件分别测量了在上述各种组合方式下系统所受到的SRS串扰。结果表明：将C波段作为下行并将L波段作为上行进行传输时，信号所受到的功率损伤最小，为0.43 dB(上下行单波长入射光功率分别为10 dBm和13 dBm)，因此这是Super-PON系统的最佳波段分配方案。此外，当Super-PON与EPON上行、10G-EPON下行系统共存时，SRS效应给它们带来的影响很小，基本可以忽略不计。