利用不同阶拉盖尔-高斯（LG）模式激光具有不同光束尺寸的特性，在激光谐振腔内使用短焦距透镜引入球差，使各阶LG模式激光的空间光路发生分离，从而实现对高阶横模的选择并产生高阶LG模式涡旋激光输出。通过对高阶LG模式激光的聚焦特性和透镜球差进行分析计算，给出了高阶LG_0，±m模式涡旋激光的角向指数（m）随谐振腔参数变化的理论模型。搭建端面泵浦的1064 nm Nd∶YVO₄激光器开展了实验研究，在2.06 W泵浦功率下获得了角向指数可便捷调控且m最高可达到280的超高阶LG_0，±m涡旋激光输出。实验产生的超高阶涡旋激光具有良好的功率和模式稳定性，模式变化规律与理论计算结果相符。通过增加泵浦功率或优化泵浦交叠以提高激光增益，理论上可以产生任意高阶的涡旋激光输出。研究结果为超高阶LG模式涡旋激光的产生提供了参考。

基于腔内球差选模方法在端面泵浦的 Nd:YVO4激光器中实现了能够对角向指数 m进行便捷选择的高阶 LG模式激光输出, 从 LG模式光斑半径和能量分布的角度对实验现象进行解释, 分析发现不同模式间球差引起的实际焦点偏离是实现单一 LG模式运转的关键, 而单一模式自身球差产生的损耗决定了该模式是否能够起振。根据理论分析, 分别通过使用长焦距透镜减小球差以降低高阶模式的损耗和增加泵浦功率以提高增益, 实现了角向指数 m最高达到 ±95的超高阶 LG模式输出; 通过使用短焦距透镜增大球差来加强对光斑较小的低阶模式的区分度, 实现了径向指数 p>0的 LG模式输出。

为了解决产生拉盖尔-高斯模式光束较难的问题, 采用二进制振幅全息图方法, 基于空间光调制器, 产生了拉盖尔-高斯光束, 进行了理论分析和实验验证。推导了高斯光束到拉盖尔-高斯光束傅里叶变换的传递函数, 通过对拉盖尔-高斯模拟图的修正, 得出了可以用于空间光调制器的二进制全息图; 搭建了基于4f系统的实验平台, 取得了不同阶数的拉盖尔-高斯模式输出,并在实验中对产生的拉盖尔-高斯光束进行了检测。结果表明,此套装置搭建及操作简便, 且可实现动态可控的光束输出, 对于产生高阶涡旋光束以及因斯-高斯模式都有重要意义。

讨论了基于Kolmogorov模型的大气湍流对于自由空间光通信轨道角动量（OAM）模式正交性、光束强度以及相位分布的影响。仿真研究了不同大气湍流强度对轨道角动量模式复用光通信系统中相邻模式之间的串扰。仿真结果表明，在弱大气湍流条件下，连续轨道角动量模式可以作为短距离自由空间光通信中的模式分配方案。在中等大气湍流条件下，轨道角动量模式间隔应该至少为3，才能保证信号串扰不至于影响到接收端的信号提取。