硅基调制器具有体积小、功耗低、易集成等优势，但相较于铌酸锂调制器，线性度通常较差，从而限制了其在光载无线等通信系统中的性能。提出一种增强型最大比例混合接收机（EMRC-Rx），用以补偿硅基调制器对无源光接入网络带来的性能下降缺点。EMRC-Rx综合利用直接检测机（DD-Rx）和轻相干检测机（Lite CO-Rx）的优势，借助两种接收方式的最大信噪比占比，可以显著提升接收机的灵敏度，进而解决硅基调制器低线性度导致的系统性能下降问题。实验结果表明，当误码率高于KP4-FEC阈值1.0×10^-4时，相较于DD-Rx和Lite CO-Rx，EMRC-Rx的接收灵敏度分别提升5.5 dB和8.8 dB，误差矢量幅度（EVM）分别提升32.5%和41.1%，系统性能明显得到改善。通过进一步与铌酸锂调制器进行对比发现，相比采用铌酸锂调制器的Lite CO-Rx和DD-Rx，基于硅基调制器的EMRC-Rx的接收灵敏度分别提升3.5 dB和7.9 dB，且可取得与铌酸锂调制器中MRC-Rx接近的系统性能，验证了EMRC-Rx对硅基调制器低线性度带入的性能劣化的补偿效果。本工作对在5G时代利用硅基调制器构建高可靠、低成本的光子集成接入网具有指导意义。

涡旋光相干检测通过改变本振光的拓扑荷数，在接收端实现涡旋光的相干解复用，也可以实现信息交换。本文分析了信号光斜程传输时拓扑荷数、海拔高度、传输距离对涡旋光复用通信系统性能的影响。结果表明：大气湍流造成的波前畸变会破坏不同拓扑荷数信号光与本振光波前之间的正交性；使用同一套自适应光学系统对上行和下行链路的信号光波前进行校正，比较分析了波前畸变预校正与后校正效果，发现下行链路的后校正效果要优于上行链路的预校正效果，为多路涡旋光复用传输奠定了理论基础。

基于4电平脉冲幅度调制（PAM4）的强度调制直接检测（IMDD）是目前中短距应用的主要解决方案之一。然而，基于高阶脉冲调制的IMDD方案检测灵敏度明显下降。另一方面，拥有更高灵敏度的标准相干检测技术又面临成本和复杂度方面的挑战。因此，自零差相干检测（SHCD）和差分检测等自相干检测方案，因其优于PAM4的性能和低于标准相干检测的硬件成本而在新一代中短距应用中具备优势。本文综述和比较自零差相干以及差分自相干检测（DSCD）系统各自的特征、优点和挑战。文中进一步针对光功率受限和光信噪比受限的不同传输场景，分析比较基于SHCD-正交相移键控（QPSK）和DSCD-差分正交相移键控（DQPSK）方案的系统性能，展示了DSCD-DQPSK系统相较其他方案在硬件成本和系统性能方面的综合优势。

相位定量检测是检测入射光场波前的重要指标, Shack-Hartmann波前传感器能够同时测量波前的振幅和相位分布, 但其分辨率较低。针对传统的非干涉相位检测法需要两台放置在不同位置的相机, 使用两幅图像之间的相位差来估算波前的相位信息, 造成了相位成像系统的复杂性和不确定性的问题, 提出了将宽带光源作为照明光源, 只需单次拍摄彩色图像输入神经网络并使用梯度下降算法进行优化的相位重建方法。仿真和试验结果表明, 这项技术将物理模型和神经网络相结合, 能够以高分辨、高速度、低成本实现待测物体的相位重建工作。其中作为评价重建图像质量的均方误差函数(MSE)最小可达到0.089 rad, 对于透明细胞的相位重建质量为0.133 rad, 要优于GS法(0.320 rad)和TIE法(0.378 rad)。因此, 提出的基于神经网络的宽带光源相位重建方法可以运用于自适应光学、活细胞生物实时成像等领域。

为了充分利用光纤无线(RoF)系统中的频带资源, 提出了一种基于马赫-曾德尔调制器(MZM)的倍频因子可调谐的RoF系统, 采用波长选择、相干检测、波长重用和数字信号处理(DSP)等技术, 实现了RoF系统上下行链路不同倍频因子信号的输出。仿真结果表明: RoF系统传输16进制正交幅度调制(16QAM)信号时, 上下行链路均可实现多倍频因子可选, 下行链路传输、上行链路传输的最小矢量误差范围分别为5.5%～7%、6.4%～8.6%。

为了兼顾用户端光网络单元的特点和传输速率, 在接收端采用可集成化的相干检测方案替代传统的直接检测方案, 分析了电吸收调制器的偏压特性, 搭建了速率为40Gbit/s的5km双向接入网通信系统, 对以分布式反馈激光器和电吸收调制器为上行发射机的可集成光网络单元进行了传输测试。结果表明, 在直接检测方案前向纠错(FEC)下, 双向传输下行信号接收灵敏度和上行信号接收灵敏度分别达到了-18.31dBm和-17.94dBm; 在相干检测方案FEC下, 双向传输下行信号接收灵敏度和上行信号接收灵敏度分别达到了-32.51dBm和-29.76dBm。相干检测方案的上行和下行接收灵敏度相较于直接检测分别有14.20dB和11.82dB的提升。该研究为未来用户端光网络单元提供了一种高速率可大规模部署的集成化方案。

提出了一种简化的相干检测系统,通过在时域上交替探测信号的同向(I)及正交(Q)信息分量,实现了基于单个平衡光电探测器(BPD)的相位分集接收。仿真结果表明,25 Gbit/s的非归零信号经过25 km标准单模光纤传输时,在10 ^-3误码率门限下,其接收灵敏度为-39.97 dBm。用Gram-Schmidt正交化过程算法对信号光与本振(LO)光之间频率偏移引起的I、Q分量失配角进行补偿,当频率偏移小于符号速率的1/5(±5 GHz)时,灵敏度代价约为3.2 dB。此外,当LO光功率较高时,用单PD取代BPD的灵敏度损失约为3 dB。本方案为实现低成本的相干检测提供了一种解决方法。

针对下一代动态光网络, 光纤长度可能根据链路需要随时变化, 以及由于光纤老化造成色散参量变化等因素可能造成链路中的色散值在接收端很难提前预知, 因此要求未来光网络节点中的接收端能够自适应地估计出色散值然后补偿信号。文章在光网络节点的数字相干接收机中提出了一种基于峰均值功率比的色散估计算法, 并在224 Gbit/s偏振复用(PDM)-16正交振幅调制(QAM)和336 Gbit/s PDM-64QAM的多种长距离传输(400、800、1 200、1 600和2 000 km标准单模光纤(SSMF))系统中验证了其可行性及有效性。仿真结果表明, 文章所提算法具有很好的色散估计精度, 色散估计标准差低于100 ps/nm。该算法对偏振模色散(PDM)和偏振相关损耗(PDL)具有较强的容忍性, 例如群速度时延(DGD)低于15 ps及PDL在7 dB以内时, 算法都可实现很好的估计精度。同时该算法对非线性效应也具有较强的容忍性。