针对传统天线选择算法在完全广义空间调制（FGSM）系统中运用会出现局限性且误码性能不理想等问题，提出一种基于皮尔逊（Pearson）相关系数的选择算法，其基本原理是根据不同位置的光电探测器与发光二极管组合之间的Pearson系数相关性进行天线选择，能够提升FGSM系统性能及扩大使用范围。结果表明：当误码率为10^-3时，在发射天线数量为4、调制方式为脉幅调制的情况下，FGSM系统的传输速率相较于广义空间调制增加了1 bpcu（bit per channel use）；采用基于Pearson相关系数选择算法后的完全广义空间调制-多输入多输出（FGSM-MIMO）系统相较于随机选择算法所需信噪比改善了5.1 dB，相较于最大范数选择算法改善了0.8 dB。综上所述，在同一时刻发送相同信息的情况下，基于Pearson相关系数选择算法的FGSM-MIMO系统在光空间通信领域具有更好的发展前景。

在大规模多输入多输出(massive MIMO)系统中使用天线选择算法可提高能效和系统吞吐量，然而适用于传统 MIMO系统的天线选择算法具有高复杂度，很难用于 massive MIMO系统。为优化天线选择算法，以算法复杂度和系统容量为优化目标，提出了收发联合阈值天线选择算法。该算法在发射端使用最大范数双向天线选择算法进行天线选择，在接收端使用分组 maxvol算法并通过仿真实验结果的预设阈值进行天线选择。仿真实验表明，收发联合阈值天线选择算法在降低复杂度的同时可以提高系统容量，与递增天线选择算法相比，系统容量最多可提高 52.2 bit/s/Hz。提出的天线选择算法可以满足不同天线相关度和信噪比的传输环境。

为了提高多输入多输出(MIMO)系统中索引调制方案的频谱效率, 文章将空间调制(SM)和码索引调制(CIM)相结合, 并利用并行传输的思想, 使每个时隙的传输信息比特由两个调制符号、两个天线索引和两个伪随机(PN)码索引进行传输。此外, 文章所提方案还利用天线选择技术和正交振幅调制符号的旋转对称特性, 分别提高了系统的误码率(BER)性能,降低了接收机的检测复杂度。仿真结果表明, 文章所提方案的BER性能明显优于其他几种索引调制方案, 并且与最优的最大似然(ML)检测算法相比, 文章提出的低复杂度ML检测算法具有与其相同的BER性能。

考虑到天线选择 (AS)具有实现简单和性能好等优点，通过仿真评估在不同中继策略场景下天线选择的性能。评估方法如下：中继站第 1时隙采用最大比合并算法 (MRC)，第 2时隙选择中继处理后具有最大信道增益的单天线进行信号传输。仿真结果表明：与现有的分布式空时码 (DSTBC)和最大比合并、最大比合并和匹配滤波 (MF)算法相比，最大比合并加天线选择混合方案在转发重传(AF)和译码重传 (DF)策略下都能够提供更优的合速率与误码性能；并且在中继站采用译码转发策略时，该方案表现出优于采用放大转发策略的情形。例如，当误码率 (SER)等于 10-3时，译码转发策略具有 1 dB的信噪比 (SNR)增益。

为了抑制多用户分布式多入多出 (MIMO)系统中的同道干扰 (CCI)，使系统同时服务于更多用户，提出一种发送天线选择与预编码的联合设计方法。该方法立足于分布式 MIMO系统基站端天线较多的特点，将下行发送天线选择与信漏噪比 (SLNR)预编码相结合，通过为用户选择不同天线，从根本上减少 CCI; 在为每个用户选择天线时，先以信道子矩阵的迹为依据进行端口选择，再采用逐减的方法选择使 SLNR损失值最小的天线，以保证每个用户对其他用户的干扰尽量小，从而达到进一步抑制 CCI的目的。复杂度分析和仿真结果表明，该方法在具有较低复杂度同时，其容量性能仍可逼近最优算法; 较之单纯的 SLNR预编码，在相同的容量性能约束下，其能够有效增加系统同时服务的用户数。