光的自旋轨道耦合现象在微纳尺度的光与物质相互作用中几乎无处不在。偶极辐射等非傍轴光在空间传播中具有自发自旋轨道耦合，当光遇到各向异性结构、磁性结构、手性结构，以及具有波长尺度空间不均匀的结构时，自旋轨道耦合现象也时常发生。对光的自旋深入研究不仅有利于新光学现象的发掘，还为微纳光场操纵提供了新途径。近些年来，基于几何相位的超构表面在新型自旋光控制中展示出了很多重要应用，实现了多维度、多波长的激光自旋控制，产生了纠缠光子、自旋依赖的偏振热光源等，也发展了一些基于光自旋的超灵敏测量手段。相比而言，光与无序微纳结构相互作用的研究则较少。无序结构内在的随机性使得该体系的自旋轨道耦合变得复杂，光场的表征需要考虑统计特性，为测量、分析带来了一定挑战。此外，随机系统的光子自旋霍尔效应机理还没有完全清楚，随机几何相位涨落或者涡旋都能使光产生自旋霍尔效应，但是两者有很大的物理差异。因此，光子自旋霍尔效应与无序几何相位之间的规律还有待深入探索。首先介绍光的自旋概念、不同体系下的基本自旋轨道耦合现象，然后分析以超构表面为平台研究的二维随机体系对光自旋轨道耦合与光子自旋霍尔效应的影响，包括各向异性无序、磁光涨落、涡旋、随机偶极子辐射等产生的光自旋分离现象。这些研究和分析有利于将来用光自旋霍尔信号作为新的探测和控制手段，研究相互作用体系的相变与演化。

利用束腰半径不同的奇模和偶模因斯高斯光束同轴叠加，产生了一种双层花状光学涡旋晶格，通过实验与数值模拟对所提出的双层花状光学涡旋晶格进行分析研究。结果表明：由束腰半径不同的奇模和偶模因斯高斯光束叠加而成的光学涡旋晶格中的涡旋呈单层或双层分布，且不同层涡旋点的拓扑荷值大小相等，符号相反；当奇偶模因斯高斯光束之间的束腰半径差距逐渐减小，涡旋分布由双层变为单层；此外，可以通过改变奇偶模因斯高斯光束之间的相位差，实现涡旋符号的调控。该研究结果极大地丰富了光学涡旋晶格的空间模式分布，在微粒操纵领域有着潜在应用。

采用非稳态光场的相干理论和广义惠更斯-菲涅耳衍射积分相结合的方法，研究了时空相干涡旋（STCV）在色散介质传输中的演化行为。推导出了具有STCV的部分相干脉冲光束在传输距离z处的互相干函数表达式，并获得了STCV的数学物理描述。研究表明：STCV在熔融石英介质传输中出现了相干开关现象，脉冲光源的空间相干宽度和时间相干长度可以作为相干开关的控制参数以实现对STCV信息的传递控制；相干开关的区域大小与传输距离密切相关，当传输距离较近时，相干开关的区域较大，而当传输距离较远时，相干开关的区域较小。此外，设计了基于相干开关的光通信模型。

为了抑制传统叉形光栅的高级衍射，提出了一种单一的光学元件，即变栅距叉形光栅，通过适当调节光栅线条的中心位置，有效地抑制了不需要的高级衍射。数值模拟和实验证明，变栅距叉形光栅具有良好的单级衍射特性，可以有效地抑制不需要的高级衍射，与理论预测几乎一致，三级衍射光强可从所需一级衍射光强的24%到弱于背景光强度。然后，分析了最大移动距离、周期和图形面积对抑制高级衍射的影响，同时证实了输出光束具有多拓扑荷的螺旋相位结构。变栅距叉形光栅的高级衍射抑制特性使其在成像、显微和粒子捕捉等方面具有广阔的应用前景。

为研究高阶衍射级光束的轨道角动量, 基于计算全息法在空间光调制器的傅里叶平面产生了不同衍射级的完美涡旋光束, 并利用球面波干涉法对其拓扑荷值进行了测量。理论和实验结果表明不同衍射级 p 上的整数阶和分数阶完美涡旋光束的拓扑荷值 l 都满足 l=mp 的关系, 其中 m 是相位掩模板的拓扑荷值。并进一步对不同衍射级的光学涡旋阵列进行了实验研究, 结果表明光学涡旋阵列中光学涡旋的拓扑荷值满足 l=p 的关系, 高阶衍射级上的衍射光束比 +1 级衍射光束具有更大的轨道角动量。该研究为光学涡旋及光学涡旋阵列进一步的研究及应用提供了理论和实验参考。

多平面波干涉(MPWI)是产生光学涡旋晶格(OVL)的一种经典方式。通过定义波矢空间坐标系,提出了一种基于MPWI的OVL调控方法,模拟生成了四个平面波和五个平面波干涉产生的OVL,计算了其梯度力和能流分布,分析了其在微粒操纵领域中的应用。然后,通过调控其部分波矢大小和旋转波矢角度,得到了更加丰富灵活的光场分布。最终,通过分析其梯度力和能流分布,发现该调控方法可以定制适合粒子操纵的特殊光场。该研究丰富了基于MPWI的OVL的空间模式,为OVL的应用提供了新思路。