光学轨道角动量（OAM）可以纵向OAM的形式存在于空间涡旋光束中，或以横向OAM的形式存在于时空光涡旋波包中。与涡旋光束不同，时空光涡旋波包在传播过程中同时受到衍射和色散效应的影响，造成波包在时空域内的展宽，并且时空光涡旋波包携带的横向OAM也会在传播过程中分裂。这两点限制了横向OAM在其他研究领域的应用。本文引入并研究了携带横向OAM的三维时空局域波包，此波包可以同时克服衍射与色散效应造成的时空域三维变化。在传播过程中，该时空局域波包的时空域分布不变，且在遇到障碍物后也能快速重新恢复到原有的状态，具有传播不变以及自恢复的特性。本文对时空局域波包的传播过程以及经过障碍物后的恢复过程进行了数值模拟仿真，证实了其传播不变特性和自恢复特性。这种携带横向OAM的三维时空局域波包为横向OAM未来的利用提供了新的机遇，有望应用于光通信、量子光学、光学成像等领域。

介绍了无线通信和涡旋电磁波的基本概念及相关技术，详细回顾了近年来基于涡旋电磁波的无线通信技术实验研究进展，包括微波涡旋电磁波通信、太赫兹涡旋电磁波通信、中红外涡旋电磁波通信、近红外涡旋电磁波通信和可见光涡旋电磁波通信等。同时，介绍了卫星涡旋激光通信技术的理论研究进展以及拓展结构光（如贝塞尔光和矢量光等）通信在抵抗障碍物和湍流影响方面的实验研究进展。最后也讨论了涡旋电磁波无线通信技术的挑战与展望。多频段和多维度融合的涡旋电磁波及拓展结构化电磁波，可以为多场景、跨尺度、大容量、远距离、高鲁棒性的无线通信提供潜在解决方案，也有望应用于未来卫星通信中。

基于Rytov近似，理论推导了完美涡旋光束（PVB）经过大气湍流水平信道后的螺旋相位谱解析表达式，研究了大气湍流中光束波长、半环宽、发射处轨道角动量（OAM）模态、光束半径、近地面折射率结构常数以及湍流系数对OAM模态探测概率和串扰概率的影响。结果表明：随着发射处OAM模态、传输距离、光束半径、近地面折射率结构常数以及湍流系数的增加，经大气湍流传输后的探测概率下降；随着光束波长的增加，经大气湍流传输后的探测概率增加。此外，PVB在近场的探测概率几乎不随发射处OAM模态变化，而当光束传输到远场时，探测概率随发射处OAM模态变化明显，这是因为PVB传输到远场变成类贝塞尔光束，其光束半径随发射处OAM模态变化明显。

倾斜透镜可以将拉盖尔-高斯光束转换为厄米-高斯光束。因此，推导了基于倾斜透镜的拉盖尔-高斯光束阵列与厄米-高斯光束阵列相互转换的位置映射关系。当倾斜透镜绕任意轴旋转一定角度时，两光束阵列的位置将会关于该轴对称。实验中，利用空间光调制器生成了1×1、2×2、3×3、3×1、1×3的拉盖尔-高斯光束阵列，并用倾斜透镜将其转换为厄米-高斯光束阵列，通过对比两光束阵列的光场分布，验证了上述理论分析结果。实验结果与理论分析完全一致。该工作为拉盖尔-高斯光束阵列的轨道角动量测量提供了更明确的理论指导。

时空光涡旋由于其携带横向轨道角动量这一独特的性质引起研究人员的广泛关注，与普通涡旋光束相比，其能提供额外的自由度，这标志着对光场调控的水平能够达到更高的层次。以同时在时空域和空域均携带螺旋相位的时空-空域光涡旋为基础，数值模拟了时空-时空光涡旋和时空-时空-空域光涡旋。通常根据时空光涡旋中不同光涡旋之间共心的情形，通过引入参量来调控时空域光涡旋中心的位置，从而达到不同光涡旋之间不共心的目的，并数值模拟了偏心双光涡旋和偏心三光涡旋这两种物理模型。本研究丰富时空光涡旋的模式，并为其后续研究提供理论基础。

回顾了水下轨道角动量（OAM）模式光通信的研究进展，简要介绍了OAM模式的原理和产生、测量方法，全面综述了水下OAM模式的多种光通信方式（编码、复用、广播）以及涉及空水界面的光通信和快速自动对准辅助的光通信，同时介绍了水下其他结构光通信和基于OAM模式的复杂介质光通信。讨论了该领域的未来发展趋势。作为一种空间结构光场，将OAM模式引入水下光通信可开发空间新维度资源，为光通信可持续扩容提供新途径，提高无线光通信在水下短距互连的优势；OAM模式与水下传统通信方式及水下感知技术相结合，有望更好地满足未来高速海洋环境通信和高效海洋资源开发的发展需求。

为了进一步探索高阶和分数阶涡旋光的高效产生方法, 利用相关计算程序模拟了涡旋光相位全息图, 搭建了相位全息法产生涡旋光的光路, 研究了整数和分数阶涡旋光的光场分布特点。实验结果表明: 当产生轨道角动量拓扑荷数l=1~200整数阶的涡旋光时, 涡旋光束图的中心暗斑在一定范围内会随拓扑荷数的增大而增大, 超过一定数值范围后, 受限于仪器参数的涡旋光质量会降低; 当产生l=8.1、8.4、8.8分数阶的涡旋光时, 涡旋光相位出现分数分布, 径向缺口随分数阶拓扑荷数增大而逐渐向整数阶演化。

针对复杂大气湍流干扰、径向指数不为零的高阶复合拉盖尔-高斯(LG)光束模式识别准确率低的问题，提出一种基于卷积神经网络(CNN)的高阶复合LG光束的轨道角动量(OAM)模式识别方法，构建了一种基于CNN的OAM模式识别模型来研究复杂大气湍流条件下不同波长、不同传输距离对径向高阶复合LG光束模式识别准确率的影响。仿真结果表明：在复杂大气湍流情况下，当传输距离为1 km，CNN训练100次后，波长分别为850、1 310、1 550 nm的高阶复合LG光束模式识别准确率均达到98.8%以上；当波长为1 550 nm，传输距离分别为1、2、3 km时，该模型的模式识别准确率均达到86.8%以上。