为了在保持帧结构完整性的同时，低代价地传输管理和控制信号，提出面向高速频分复用相干无源光网络（FDM-CPON）的两种传输管理和控制信号传输机制，即数字端辅助管理和控制通道（AMCC）和数据通道的相加和相乘。通过将AMCC传输的通断键控（OOK）信号映射为数据通道信号幅值的变化，完成数据通道信号幅值再调制，成功将AMCC与数据通道相结合，实现了管理和控制信号与数据通道信号的同步传输。实验结果表明，在基于16QAM传输20 km光纤的200 Gbit/s FDM-CPON系统中，当AMCC的带宽和调制因子（MI）相同时，乘性AMCC对于信号性能的影响更小，自身传输信号的质量也更高。在AMCC的MI为26.1%、带宽为24.4 MHz时，乘性AMCC对信号灵敏度的惩罚比加性AMCC小3 dB。以上研究为未来高速相干频分复用无源光网络AMCC传输与系统设计提供重要参考。

太赫兹技术作为6G时代的核心通信技术，可以有效解决频段资源日益稀缺的窘境，以满足流量、连接数急剧增长的需求，实现更大的传输带宽。现有机器学习算法如深度神经网络、卷积神经网络和长短期记忆网络等，均可以有效缓解6G传输系统中的强非线性效应，是实现6G太赫兹无线通信的重要手段。介绍了应用于光子毫米波和太赫兹无线传输系统的不同深度学习范式，讨论了应用光子技术办法产生超高速THz波无线信号的国内外主要进展及技术路线对比，并且对较为经典的或是目前最新的应用于太赫兹通信系统中的人工智能技术进行了介绍，同时对未来大速度、高容量的太赫兹通信技术的发展提出了展望。

提出了一种基于神经网络的多输入多输出（MIMO）均衡器，并在大容量模分-波分复用通信系统中进行了实验验证。该系统基于6模掺铒光纤放大器实现了16通道波分复用双极化48 Gbaud 16阶正交振幅调制（16QAM），在LP01、LP02、LP11a、LP11b、LP21a、LP21b六种模式上传输了100 km少模光纤（FMF）。为降低非线性的影响，在接收端数字信号处理中，采用基于多标签技术的MIMO神经网络均衡器，能够显著提升系统性能。实验结果表明，经100 km的FMF传输，MIMO神经网络均衡器的强大性能使得系统的比特误码率能满足15% 软判决前项纠错阈值要求。

掺铋光纤放大器有助于将光纤通信系统拓展至新的传输波段。然而，其增益和噪声性能存在相互制约的关系，提升增益往往会导致噪声性能的恶化，反之亦然。因此，提出一种结合反向传播神经网络（BPNN）和带精英保留策略的快速非支配排序遗传算法（NSGA-Ⅱ）的多目标优化方法，通过对两级掺铋光纤放大器结构进行设计，实现了增益和噪声性能的同时优化。使用经过训练的BPNN对增益和噪声系数预测的均方根误差分别为0.191和0.084，具有较高预测精度。以高增益和低噪声系数为目标，使用NSGA-Ⅱ算法进行优化，得到包含500个解的Pareto最优解集。优化后，放大器所能实现的平均增益范围为15~37 dB，相应的平均噪声系数范围为4.95~5.31 dB。利用BPNN代替求解耦合微分方程来评价个体适应度，使得优化时间较传统方法由10⁶ s左右降低为80 s左右，大幅提升了优化效率。所提方法也为其他掺杂光纤放大器的高效率、多目标结构优化设计提供了一种新的思路。

为了解决无光输入时光收发一体模块的接收监控有时会出现异常的问题，提出了一种精确选择跨阻放大器解耦电容和软件校准相配合使用的方法。首先，测试了监控异常时的I2C总线波形和接收电源噪声波形，验证了多种型号跨阻放大器和不同监控解耦电容值对接收监控的影响，确认了接收无光监控异常主要是由跨阻放大器监控残留噪声和监控电容解耦2个原因造成的；然后，通过实验选取合适的监控信号解耦电容，同时使用二阶方程进行软件校准。测试结果表明，该方法可以完全解决无光时的接收监控异常问题。

为实现高数据传输率、强抗干扰性和超低误码率的目标，采用光纤通信技术传输高帧频、高分辨力的数字图像数据。本设计针对Cameralink 接口红外图像数据源，设计了一种基于现场可编程门阵列(FPGA)控制的自适应分辨率和帧频的光纤收发系统，采用了低成本SPARTAN6器件XC6SLX45、串并转换芯片组DS90UB903/904、小型化单模小封装可插拔(SFP)单纤双向收发光模块，实现了双路图像光纤收发功能。其中FPGA 接收Cameralink 接口图像数据，进行图像转换处理，再通过内部集成电路(I2 C)总线控制串并转芯片组实现自适应图像串行化和解串功能，并驱动光模块实现光电转换。本设计实现了分辨率640×512、帧频100 Hz 红外图像数据的发送和接收功能，并通过了各项环境试验，已应用于实际型号项目中。

随着光纤通信技术的不断发展，基于轨道角动量（OAM）模式传输的空分复用技术引起了人们的广泛关注。本文提出了一种反谐振光纤（ARF），其结构主要分为三部分：内层高折射率紫水晶玻璃管作为环芯，其有效增大了纤芯与包层的折射率差，有利于OAM模式的稳定传输；中间层二氧化硅（SiO₂）玻璃管起到调节色散的作用；外层负曲率管处于反谐振状态，进一步增强了对环芯光子能量的限制。该光纤可在1.5~1.7 μm波段内稳定传输130个OAM模式。基于矢量有限元法（FEM）对ARF进行建模仿真与分析，结果表明，最大有效折射率差为6.08×10^-3，最小色散变化率仅为0.43 ps·nm^-1·km^-1，限制损耗（CL）维持在10^-14~10^-8dB/m量级之间且最高模式纯度达到99.26%，有效模场面积最大值为187.38 μm²，非线性系数最小值为0.87 W^-1·km^-1，数值孔径（NA）均大于0.064。此外，还分析了光纤制作误差对其性能的影响。本文所设计的支持OAM模式传输的ARF在长距离光纤通信、高速信息传输等领域具有广泛的应用前景。

随着通信技术的飞速发展, 光通信系统也对传输距离、信道容量以及传输速率有着更高的要求, 而想要解决这些问题, 则需要研究性能更加优良的FEC码型方案。级联码是诸多码型中纠正突发和随机错误性能较好, 且可以保持较低冗余度的一种, 因此成为主要研究对象。在国际电联G.975.1标准的级联码基础上提出了两种新型RS-BCH编码, 在理论上对其进行了对比分析, 并进行相应的建模仿真, 其中一种是RS(255,239)码与BCH(31,16)码相结合的级联码, 而另一种是RS(255,239)码与BCH(511,448)码相结合的级联码, 这两种级联码与单一RS(255,239)编码以及原码的纠错性能相比有较大提升, 且后者冗余度适中, 易于实现, 更加适合于高速传输的光通信系统。