随着信息领域不断发展，B5G/6G时代接踵而来，数字通信发展迈入更新、更快的阶段。为了适应更高速的通信、更多样的信道，不同的调制格式应运而生，被应用于不同环境。在不同时间、不同信道中改变调制格式，有利于最大化信道利用率。然而，发射端改变的调制格式对于接收机而言是未知的，这不利于不同通信子系统之间的连接，从而影响构建大型的空天地海一体化通信网络，自动调制格式识别算法将成为破局关键。由于人工智能算法在信号处理和基于特征的分类方面具有很大优势，因此基于特征提取的人工智能分类算法在调制格式识别领域拥有巨大的研究价值和实用价值。介绍了几种基于特征提取、人工智能分类的识别方法，并对其在通信领域的应用进行了分析、探讨和总结。

提出了一种基于信号光谱和多任务深度神经网络（MT-DNN）的多信道并行光性能监测（OPM）方案，采集多信道光谱图进行预处理来设计幅度直方图（Ahs），可实现波分复用（WDM）系统多信道调制格式识别（MFI）和光信噪比（OSNR）监测。在建立的3信道WDM相干光通信系统中，对由PDM-4QAM/16QAM/64QAM组合的10种调制格式的3信道信号实现了MFI准确率为100%、OSNR监测的平均绝对误差（MAE）为0.16 dB的精准监测。为进一步研究所提OPM方案的性能以应对复杂的传输环境，提出了迁移学习辅助的多任务深度神经网络（TL-MT-DNN）用于多信道MFI和OSNR并行监测。结果表明，所提方案可移植性较好，还可节省大量样本和训练周期，其MFI准确率仍可达100%，3信道OSNR监测的MAE分别为0.24 dB、0.20 dB和0.19 dB。

灵活光发射机可根据不同应用场景需求软定义信号的调制格式，从而进一步优化光信号的传输性能。本文提出了一种基于双平行马赫-曾德尔调制器（MZM）和单MZM级联的灵活高阶正交幅度调制（QAM）光发射机方案，理论分析了圆形16QAM、4幅4相16QAM、圆形32QAM以及4幅8相32QAM光信号产生与自适应切换的原理与方法。在虚路径标识符（VPI）仿真环境下，分别验证了上述4种信号在5 Gbaud和10 Gbaud调制速率下的产生和传输性能。结果表明，通过灵活配置发射机的驱动信号（二进制或四进制）与直流偏置电压，可实现8/16/32QAM信号间的自由切换，同时，生成的上述4种信号经一定长度单模光纤传输后具有良好的信噪比。

针对现有相位保持幅度再生方案仍然存在残余相位扰动的问题，提出光学相位共轭器辅助的非线性光纤环形镜（OPC-NOLM）方案，该方案可实现多电平全光幅度再生功能，具有相位扰动几乎为零的完美相位保持能力。以16阶正交幅度调制（16QAM）信号为例，仿真了OPC-NOLM再生方案性能。研究表明，在输入信噪比为15 dB时，与不使用OPC的单一非线性光纤环形镜（NOLM）情形相比，所提方案的噪声抑制比提高了3.8 dB。

针对光纤传输系统中多重物理损伤效应严重影响传输性能的情况，为保障高速光传输网络的正常运行，对传输信号进行光性能监测是必不可少的。提出一种基于卷积神经网络（CNN）的多任务光性能监测研究方案，将强度轮廓与强度波动特征作为CNN模型输入，对传输信号调制格式与光信噪比（OSNR）进行联合监测。研究结果表明，所有调制格式（28-GBaud PDM-QPSK/-8QAM/-16QAM/-32QAM/-64QAM）均可在20% 前向纠错（FEC）阈值条件（误码率为2.4×10^-2）所对应的OSNR下实现100%的识别精度。此外，当强度轮廓特征、强度波动特征和两种特征联合作为神经网络模型输入时，OSNR监测的平均绝对误差分别为0.282 dB、0.245 dB、0.165 dB，均方根误差分别为0.352 dB、0.311 dB、0.218 dB。随后，进一步研究了残余色散度对所提方案监测性能的影响。

近年来网络数据流量呈现爆发式增长，光纤通信系统作为全球宽带网络的基础，已承载着90%以上的数据流量，并继续朝着多维、超大容量、超长距离等方向发展。搭建了一套模拟跨洋传输的超高容量距离积单模光纤传输系统实验平台。在发射端，根据传输信道光信噪比，采用不同信息熵产生不同传输速率的偏振复用概率整形16阶正交幅度调制光信号。光纤传输链路是由国产超低损大有效面积光纤与国产超宽带低噪声C波段掺铒光纤放大器组成。整个系统基于129个波长信道（波长范围为1529.8~1568.2 nm）进行了传输验证，得到的传输容量为28.09 Tbit/s，传输距离为12000 km，总容量距离积达到337 Pbit·s^-1·km。

为了顺应自由空间光通信多调制格式兼容的趋势，改善系统灵活性差、成本较高等问题，提出一种基于双IQ调制器的多调制格式兼容的激光通信发射方案。首先，基于Optisystem软件建立系统模型仿真分析，所得眼图和星座图验证了所提方案的正确性；然后，研制了多调制格式兼容发射硬件，并实验研究了调制格式的兼容性、可切换性和通信性能。实验结果表明：所设计硬件兼容发射OOK、BPSK、DPSK、QPSK、PM-DQPSK 5种调制格式；速率分档可调，最高可达40 Gbit/s；当发射端产生40 Gbit/s PM-DQPSK调制格式信号时，在离线接收条件下，误码率为10^－7时的灵敏度达到－39.8 dBm。通信调制仿真及实验结果验证了所设计方案的可行性，所得到结果也为空间激光通信系统设计提供了技术参考。

针对数据中心光网络(DCONs)的能耗节省问题, 文章提出了一种基于匹配网络资源的节能嵌入 ( 3E-MNR) 算法。该算法采用协调的虚拟网络嵌入, 提出了嵌入匹配网络资源的概念, 在虚拟嵌入的同时考虑节点和链路的资源约束, 根据链路距离选择合适的调制格式, 放置再生器和光收发器(OTP), 选择能耗最低的网络资源完成嵌入。实验结果表明, 文章所提算法较两种基线算法可以减小总能耗和OTP能耗。在虚拟请求数多时, 性能更加优越, 并且可以在实现运行时间权衡的基础上, 降低网络阻塞率。

为满足未来用户持续增长的带宽需求, 从大容量光接入网络的物理层关键技术出发, 总结了下一代无源光网络(NG-PON)标准化现状, 综述分析了物理层先进的调制格式、功率预算提升技术、物理层损伤及其抑制损伤的先进数字信号处理(DSP)算法。此外, 对未来NG-PON物理层的研究方向进行了展望。