相较于单涡旋光束，涡旋阵列光束能够扩充信息的传输容量，研究其传输特性对其光通信应用具有重要意义。本文选取阶数为n的螺旋因斯-高斯(HIG_n,n)模式，采用海上大气折射率变换的功率谱，模拟海面大气湍流。基于相位屏法研究了一维阵列涡旋光束在海面大气湍流中光强、相位、闪烁因子和质心漂移的变化情况。结果表明：（1）HIG_n,n模式的闪烁因子和质心漂移标准差随湍流强度以及大气湍流内尺度的增加而增加；（2）n为奇数的HIG_n,n模式的闪烁因子随着阶数的增大而减小，且高于n为偶数的HIG_n,n模式；（3）阶数n>1的HIG_n,n模式比LG_0,1模式具有更好的稳定性；（4）阶数越高，HIG_n,n模式的质心漂移标准差越小。其次，选取线性阵列涡旋光束（LAVBs）进行对比，研究得出虽然LAVBs比HIG光束具有更好的传输性能，但由于HIG光束具有独特的结构，故可适用于不同的应用场景。最后，分析了椭圆参量和椭圆环数对HIG模式传输的影响，结果表明适当地增大椭圆参量或椭圆环数有助于提高HIG模式的抗湍流能力。本文研究结果对涡旋光束的海上应用具有指导意义。

采用功率谱反演法模拟了同轴叠加产生的双拉盖尔-高斯涡旋光束（Double Laguerre-Gaussian Vortex Beam，DLGVB）在海洋湍流中传输时的光强和相位分布，仿真分析了DLGVB光束在不同海洋湍流参数下的闪烁指数以及在基于开关键控调制的水下光通信系统中的通信误码率。结果表明，随着湍流动能耗散率的减小，盐度温度波动平衡参数、温度方差耗散率及传输距离的增加，闪烁指数逐渐增加；随着湍流动能耗散率以及拓扑电荷差值的增加，误码率减小。在海洋湍流环境下，使用DLGVB光束进行传输可以抑制海洋湍流带来的干扰，选择最佳的拓扑电荷差值，可以有效提高传输通信质量及通信系统容量。本文研究结果对涡旋光束及其叠加态在海洋湍流下传输特性研究及水下光通信系统持续扩容的发展需求方面具有重要的参考价值。

用空间光调制器模拟叉形光栅的方式产生高阶和分数阶涡旋光束，分离各阶涡旋光束并探究单级特性，探测其拓扑荷数以验证实验方法的正确性。设计了涡旋光束生成光路，编写了产生叉形光栅全息图的计算机程序，利用透射式空间光调制器模拟叉形光栅，以全息图的方式加载到空间光调制器上。调节参数改变全息光栅图样，得到拓扑荷数从1.0到100.0的整数阶与间隔为0.1的分数阶涡旋光束。利用孔径光阑分离出一级衍射，分析其特性并利用干涉法测量其拓扑荷数。实验发现，整数与分数阶光场分布与拓扑荷数为单调关系，拓扑荷数接近100时光束质量显著下降的特性，利用干涉法测得的拓扑荷数与计算全息图设置的参数完全相同。干涉测量结果验证了计算全息方法的正确性。该方法装置简易、参数可调，可为高阶和分数阶涡旋光的产生和应用提供一定的参考。

传统的多涡旋光束多为离轴光束，需要更精密的镜头、光路复杂且成像质量差，限制了其应用。本文设计并制备了一种基于液晶器件的复合q-plate，其透射效率大于95%，同时可生成同轴复合涡旋光束。通过理论和实验证明了该器件生成的复合涡旋光束的传播特性，该光束具有自旋和长距离衍射后自愈等新颖的衍射现象，生成的同轴复合涡旋光束避免了传统多涡旋光束离轴的缺点。此研究为粒子捕获和操控、光信息处理、光学加密和光学测量等领域的应用提供了全新的手段。

大气湍流引入的波前畸变导致相干合成涡旋光束质量劣化，需进行波前畸变校正。基于相干合成涡旋光束光场分布的角向不变性，通过像清晰度函数提取明暗干涉条纹区域的总光强，构建角向条纹对比度评价函数，将评价函数应用于随机并行梯度下降算法，可以实现单环以及双环阵列结构的相干合成涡旋光束波前畸变自适应校正。仿真实验结果表明，相较于光强相关系数等传统评价函数，以角向条纹对比度作为评价函数的随机并行梯度下降算法具有校正性能好、收敛速度快的优点。此外，单环和双环结构相干合成涡旋光束的波前校正结果均验证了角向条纹对比度作为相干合成涡旋光束评价函数的有效性及优势。

为了实现粒子的非轴向旋转操控，对圆偏振涡旋光的光致旋转特性进行了研究。理论上，利用T矩阵理论，计算光场作用于微粒的光力和力矩，分析圆偏振涡旋光场中自旋角动量和轨道角动量的取向对非轴向旋转效应的影响。研究结果表明：当轨道角动量和自旋角动量的方向相同时，粒子除受轨道矩和轴向自旋矩作用外，还受一个可观的横向自旋矩作用，可以诱导粒子同时做轨道和非轴向自旋运动；当轨道角动量和自旋角动量方向相反，则粒子受到的横向自旋矩难以驱动其做非轴向自旋运动。实验上，利用全息光镊系统捕获微米尺度的粒子，观察到粒子做轨道运动时的非轴向自旋现象，对理论研究结果进行了初步验证。