轨道角动量（OAM）的发现为光镊的研究开辟了新的道路。但具有OAM的光束在操纵微粒时，由于生物细胞不可能大小形状完全相同，所以当其进行旋转等操作时，粒子运动速度的不均匀会导致粒子之间的间距不可控。针对该问题，首先通过任意曲线塑形技术，并为传统摆线公式附加曲率调控参数提出了一种调控模式丰富的摆线光束，理论分析了该光束的OAM和梯度力，证明了解决上述问题的可能性。最后在实验中实现了粒子在运动过程中的启停，且成功操纵三个粒子进行等间距旋转，实验测得三个微粒在整个旋转过程中间距变化的误差可以维持在纳米级。这项工作为未来光捕获和操纵多种微粒在其他领域的应用铺平了道路，特别是在生物科学领域。

涡旋光束携带了与其螺旋波前结构相关的轨道角动量，由于其在通信系统不增加带宽情形下可极大增加系统容量和频谱效率，引起了广泛关注。然而，自由空间中的湍流将导致涡旋光束的螺旋波前发生畸变，产生模间串扰，降低接收功率，从而削弱链路性能。自适应光学波前校正技术是克服干扰的有效手段之一。综述了涡旋光束的自适应光学波前校正技术的发展，阐述了Shack-Hartmann、随机并行梯度下降、Gerchberg-Saxton三种算法的校正原理，分析了深度学习在波前校正技术中的应用，并介绍了笔者课题组对水下湍流环境中波前校正技术的研究工作。

涡旋光是一种携带轨道角动量的空间结构光束，照射到旋转的平板物体表面时频率会发生移动，这一现象被称为光学旋转多普勒效应，通过测量光束频移可获得平板物体的旋转速率。频移受光束入射条件的影响，通过揭示入射条件影响规律，可实现任意入射条件下的旋转物体转速测量。首先，建立了速度投影模型，分析了光学旋转多普勒效应的产生机理。其次，通过理论推导得出了涡旋光任意入射条件下的旋转多普勒频移分布规律，并提出了提取物体旋转频率的理论方法。最后，搭建了旋转多普勒效应的实验装置，采用拓扑荷数为 $ \pm 18$的叠加态拉盖尔-高斯光束在四种不同入射条件下测量旋转多普勒频移谱，将实验频谱与理论频移曲线结合，测得物体的旋转频率，相对误差低于1%。

作为新型结构光束的一类，全庞加莱球光束因其横截面上自旋角动量和轨道角动量发生耦合，近年来在自由空间光通信领域内受到广泛关注。然而，传输信道中的大气湍流将产生诸如光束扩展、漂移、光强闪烁等严重影响，进而限制光通信系统性能。结合随机相位屏，对具有“C”型偏振奇点的全庞加莱球光束、“V”型偏振奇点的柱矢量光束和均匀偏振的标量涡旋光束在湍流大气中的传播进行大量的数值模拟。归一化光强相关系数和模式纯度被用于研究杂合庞加莱球表面不同位置处表征的全庞加莱球的稳定性。结果表明，相较于具有相似偏振拓扑荷和光强分布的柱矢量光束以及标量涡旋光束而言，坐标位于南半球的全庞加莱球光束在弱湍流和中湍流(r₀=0.5 m, 0.125 m)下具有较高稳定性。而在强湍流下(r₀=0.056 m)，优势区域缩小至2σ∈[−5π/32, 0](纬度坐标)。上述结果将为自由空间远距离通信中传输介质的选取提供重要依据并进一步促进通信质量的提升。

涡旋光束因为携带轨道角动量，在光通信、粒子操纵及量子信息等领域都具有重要的应用前景。目前有很多方法可用于产生涡旋光束，如利用螺旋相位板、模式转换、空间光调制器等。然而，传统的方法需要搭建体积相对较大的光学系统，限制了其在集成光学等领域中的应用。不同于传统方法中通过传输效应来获得相位变化，超表面可以通过纳米结构使入射光产生相位突变，在纳米尺度上独立控制动态或几何相位以产生涡旋。超表面具有强大光控制能力的同时，还具有体积小、易于集成等特点，因此成为了产生涡旋光的理想方法。文中在介绍产生涡旋光束基本原理的基础上，回顾了近年来利用超表面产生涡旋光束的研究进展。首先介绍了利用动力学相位、Pancharatnam-Berry (P-B)相位以及混合相位产生光学涡旋的方法。随后，对利用全息与编码超表面产生涡旋及通过多路复用产生多个涡旋等不同方法进行了综述。最后，对基于超表面产生涡旋的一些亟待解决的问题和应用前景作了简单总结与讨论。

涡旋光场因其具有光学轨道角动量（Orbital angular momentum, OAM）而倍受关注。OAM这一独特物理特征赋予了涡旋光场一个无限高维的空间自由度，同时也引发了光场奇特的干涉、衍射、传输等性质。OAM识别和探测技术的发展是涡旋光从基础研究走向应用的关键。文中聚焦于OAM探测领域的一个重点研究方向——涡旋光几何坐标变换技术。详细介绍了该技术的基本原理、优势特点、研究进展和应用情况。涡旋光几何坐标变换是指通过特殊的调制相位设计，使涡旋光束的空间几何结构发生特殊的变化，从而可通过简单透镜聚焦等方法实现OAM模式的识别、分选等。相较于传统的涡旋光识别和探测技术，涡旋光的几何坐标变换这一新兴技术具有器件无源、无能量损耗、结构紧凑、价格低廉等突出优势，成为涡旋光的空间分离和解复用的高效有力工具，为涡旋光束在经典/量子态密度测量、OAM乘除法器、经典光通信和量子纠缠等前沿应用提供了全新的研究平台，蕴含巨大的发展潜力，具有广阔的发展空间。

涡旋光在光通信、量子纠缠、新的非线性光学效应、微纳机械加工、超分辨成像和光镊等领域具有重要的应用价值。涡旋光应用的前提条件是高质量涡旋光束的产生，将缺陷镜技术和固体激光谐振腔技术结合起来研究，对直接产生高光束质量、高稳定性和大拓扑荷数（高阶）的涡旋激光具有明显的优势。当前，该项技术多是用在简单的两镜线性腔中，且以连续波涡旋激光为主。文中使用紫外皮秒脉冲激光器制备了点缺陷镜，并采用LD端面泵浦Nd:YVO₄晶体作为激光实验平台，构造了V型激光谐振腔，首次实现了复杂谐振腔内直接产生高阶涡旋激光输出。当吸收功率为11.46 W时，获得了最高输出功率为2.69 W的三阶涡旋激光，斜效率达到23.6%；进一步调节谐振腔及点缺陷尺寸，最高获得了13阶涡旋激光输出。该研究表明缺陷镜技术也可以用于复杂结构激光谐振腔，直接产生高阶涡旋激光，从而为其他运行模式（如调Q和锁模）的高阶涡旋激光研究提供了一定的依据。

涡旋光束是一种携带轨道角动量且具有螺旋波振面的新型结构光场。自1992年Allen等首次证明了近轴条件下带有螺旋相位因子的光场具有轨道角动量以来，涡旋光束因其在光操控、光通信、光学测量和遥感等领域中的广泛应用而备受关注，特别是近年来涡旋光束在惯性测量领域的应用吸引了诸多学者的研究兴趣。文中主要涉及三个方面的内容：涡旋光束制备方法研究进展；涡旋光束在惯性测量领域中的关键应用，具体为基于涡旋光的旋转多普勒效应和量子陀螺；最后还就惯性测量对涡旋光束制备提出的新要求进行了讨论。

自Allen等证明具有螺旋相位波面的激光束携带有轨道角动量以来，对光束轨道角动量调控技术的研究取得了跨越式的发展，获得了包括相位涡旋光束、矢量涡旋光束、激光束阵列等多种新型结构光场，在超大容量光通信、遥感探测、激光加工、高分辨率成像等领域展现出广阔的应用前景。准确测量光束的轨道角动量是其应用的重要基础，早期人们更多地关注对待测光束所包含的轨道角动量成分分布的测量，后来逐步拓展至对各个轨道角动量成分的强度比重即轨道角动量谱的测量。文中系统地回顾并总结近年来光束轨道角动量谱测量技术的发展，主要介绍了包括基于衍射、模式分束等方法的新型光束轨道角动量谱测量技术。

对于基于叠加态涡旋光和涡旋光零差探测等传统转速测量方式，光的远距离传输和发散等原因造成的信号光衰减会导致探测系统无法准确提取信号，而涡旋光平衡探测系统可以解决这一难题，但是以往的研究对该探测系统的精度和信噪比鲜有分析，这一定程度上限制了其工程化的进展。首先将零差探测系统作为对比项，通过分析不同转速下涡旋光平衡探测系统和零差探测系统测量精度的变化情况，证明了二者均可实现高精度测量，其次通过对比在不同信号光功率下二者的信噪比(SNR)，发现了在测量微弱信号时涡旋光平衡探测系统具有明显优势；最后，通过分析不同本振光功率对信噪比造成的影响，揭示了平衡探测信噪比和本振光功率之间的关系，阐明了信噪比随本振光功率变化的原因。