为提高传输系统的信道容量、编码效率以及解码的可靠性，本文提出了一种基于轨道角动量（OAM）模态和径向模态的复合涡旋光束编码方法。使用5位二进制序列对两束光［一束是具有固定径向模态和OAM模态的拉盖尔-高斯（LG）涡旋光束，另一束是具有4种径向模态（p=0，1，2，3）和8种相同间隔OAM模态（l=±3，±5，±7，±9）的LG涡旋光束］叠加产生的32组不同类型的复合涡旋光束光强分布图进行编码。将32组复合涡旋光束依据本文提出的映射关系转换成32组单束LG涡旋光束，依次照射在提出的x、y轴方向周期渐变光栅上，通过光栅的远场衍射光斑可成功检测出发射单束LG涡旋光束的参数p和l，且不受OAM模态和径向模态增加的影响，最终可实现正确解码。

针对复合涡旋光束拓扑荷信息测量的问题, 提出了一种利用其光强分布特征及经遮挡部分方位角的椭圆形光阑的衍射图样检测各子光束携带拓扑荷信息的方法。仿真结果表明：复合光束光强分布图中亮条纹数目和拖尾方向分别表征子光束拓扑荷差的绝对值和较高阶拓扑荷的符号; 衍射图样中暗条纹数目和条纹分布特点分别反映低阶拓扑荷的大小和符号。该方法可用于复合涡旋光束拓扑荷信息的检测。

利用径向指数相同、拓扑电荷数互为相反数的两束高阶径向拉盖尔-高斯光束共轴叠加, 产生了一种新型的复合涡旋光束, 从理论上研究了这种复合涡旋光束的光强分布特性以及空间传播特性, 并进行了实验验证。结果表明: 由高阶径向拉盖尔-高斯光束叠加而成的复合涡旋光束呈多层亮“花瓣”状; 当束腰半径相同时, 随传播距离的增加, 其光强分布呈展宽趋势但不旋转; 当束腰半径不同时, 其光强分布发生旋转, 并出现“旋转拖尾”现象, 旋转方向和“拖尾”方向取决于拓扑电荷数正负及束腰半径大小。研究结果对深入理解复合涡旋光束的产生并进一步拓展其应用范围提供了实验依据。