为了提高现有光空间调制系统的频谱效率，提出了一种在同相和正交域同时激活多根发射光学天线分别传输调制信号的实部与虚部的光广义正交空间调制（OGQSM）技术。该技术将调制符号扩展到同相和正交域，使得系统在空间域可以携带更多的比特，从而提高了系统频谱效率和误码性能。采用适用于所有湍流状态的Malaga湍流信道，分析了OGQSM系统在大气湍流、指向误差和路径损耗联合作用下的系统误码性能。蒙特卡罗仿真结果表明：与现有的光空间调制技术相比，所提出的OGQSM技术能够获得更好的频谱效率和误码性能，且接收光学天线数量与系统误码性能存在正相关关系，指向误差和大气湍流强度与系统误码性能存在负相关关系。

针对自由空间光(FSO)链路视距受限问题，提出了一种光智能反射面（OIRS）辅助的混合FSO/射频(RF)系统，介绍了系统模型。OIRS用于解决障碍物遮挡问题，其辅助的FSO链路服从几何和抖动误差下的Malaga分布，RF链路服从任意相关的Nakagami-m分布，并在目的节点采用等增益合并接收技术。推导了混合FSO/RF系统的中断概率、平均误码率的闭合表达式，并对中断概率进行渐近分析。仿真结果表明：OIRS辅助的混合FSO/RF系统中断和误码性能取决于质量更差的一条信道，二进制相移键控调制误码性能优于二进制频移键控调制。