深度学习辅助的超奈奎斯特速率光空间脉冲位置调制

针对现有光空间调制传输速率和频谱效率低的问题，提出了一种超奈奎斯特速率光空间脉冲位置调制（OSPPM-FTN）方案。推导了Gamma-Gamma湍流信道下该方案最大似然检测时的平均误码率上界，并与已有光空间脉冲位置调制（OSPPM）系统进行了性能对比。在此基础上，针对OSPPM-FTN发送信号的特点，提出了一种多分类神经网络（MNN）信号译码器，以大幅降低计算复杂度。最后，采用蒙特卡罗方法进行了仿真。结果表明，随着加速因子的减小，所提系统的频谱效率和传输速率有明显提升，其代价是信噪比（SNR）损失。当加速因子为0.9时，相比于传统（4，4，4）-OSPPM，所提系统的频谱效率和传输速率分别提升了17%和5.5%，SNR损失仅为1 dB。同时，采用MNN译码器可逼近最大似然最优译码性能并降低其计算复杂度，当探测器数目为8和16时，计算复杂度分别降低了69.75%和89.95%。

Abstract

Objective

As an innovative multiple-input-multiple-output (MIMO) technology, optical spatial modulation (OSM) resolves antenna interference and synchronization challenges in MIMO systems by selecting a single antenna to carry information and collectively transmits the antenna index as additional information. However, existing OSM research predominantly adheres to the orthogonal transmission criterion, and imposes limitations on enhancing the transmission rate of the system although the research is effective in avoiding inter-symbol interference. To this end, the introduction of non-orthogonal transmission via Faster-Than-Nyquist (FTN) technology compresses symbol intervals during pulse shaping, enabling an increase in transmission rate within the same bandwidth per unit time. As a result, we propose a novel Faster-Than-Nyquist rate optical spatial pulse position modulation scheme that combines OSM with FTN to further enhance the transmission rate and spectrum efficiency of the system. Additionally, in response to the highly complex receiver issue, a multiclassification neural network (MNN) decoder is proposed to significantly reduce computational complexity and achieve approximate optimal detection.

Methods

At the transmitting end, the input binary bit stream is divided into two groups of data blocks after serial/parallel transformations. The first group of data blocks is mapped to the index of the selected lasers for each symbol period, while the second group is mapped to pulse position modulation (PPM) symbols. An FTN shaping filter is employed to compress the PPM symbols. Then, the compressed PPM-FTN signals are loaded onto the chosen lasers for transmission. The signal traverses the Gamma-Gamma channel, and it is received by photodetectors (PDs) and converted into an electrical signal for further signal processing at the receiving end. Initially, downsampling is conducted to obtain a signal with the same dimensionality as the input signal. The downsampled signal is then classified based on its effective features, with each class being assigned the corresponding label. Subsequently, different samples with varying signal-to-noise ratios (SNRs), along with their associated label values, are utilized as input and output for offline training of a neural network model. The objective is to achieve optimal decoding accuracy by defining average loss and learning rate parameters to construct an MNN, which helps determine the number of hidden layers and neurons. Finally, the well-constructed MNN is employed for online signal detection. Then, inverse mapping is conducted on output label values from the decoder to recover the corresponding modulation symbols and laser index.

Results and Discussions

Monte Carlo simulations are conducted to evaluate the proposed scheme in a Gamma-Gamma channel. We first derive an upper bound of the average bit error rate (ABER) of the system and provide a comparison of the simulated BER with the ABER in Fig. 3. The results show that the two curves asymptotically coincide at high SNRs, which demonstrates the correctness of the derived ABER. Then, an analysis is performed on the influence of various parameters such as the number of lasers, the number of detectors, and modulation order on the error performance of the OSPPM-FTN system. The findings reveal that an increase in these parameters can enhance both the transmission rate and BER performance of the system, despite at varying costs. Furthermore, in Fig. 5, we compare the transmission rate, spectrum efficiency, and BER performance of the proposed system with traditional OSPPM. The results indicate that under the acceleration factor of 0.9, compared to the OSPPM system, the proposed system shows a 17% increase in spectrum efficiency and a 5.5% increase in transmission rate with only 1 dB SNR lossy. As the acceleration factor decreases from 0.9 to 0.7, the spectrum efficiency and transmission rate of the OSPPM-FTN system rise by 73% and 21.5% respectively. Thus, the proposed scheme demonstrates a significant improvement in both transmission rate and spectrum efficiency with the reduction of the acceleration factor. Through the comparison with the maximum likelihood (ML) algorithm, Figs. 7 and 8 illustrate the computational complexity reduction and BER performance of the proposed MNN decoder. The results show that the MNN decoder achieves near-optimal decoding performance, and as the detectors increases, the computational complexity of the MNN decoder is significantly lower than that of ML. For instance, when there are 8 or 16 PDs, our decoder can reduce computational complexity by 69.75% and 89.95% respectively.

Conclusions

A Faster-Than-Nyquis rate optical spatial pulse position modulation scheme is proposed by combining optical spatial pulse position modulation with the FTN technique, which effectively improves the transmission rate and spectrum efficiency of the system. Compared to traditional optical spatial modulation, simulation results show that the proposed scheme achieves a significant improvement in transmission rate and spectrum efficiency with the decreasing acceleration factor. Simultaneously, increasing the modulation order, the number of lasers, and the number of detectors can improve the transmission rate and error performance of the system. However, the cost associated with each parameter varies, and the selection of these parameters should be contingent on specific circumstances. Additionally, the MNN decoder proposed for the OSPPM-FTN scheme achieves near-optimal decoding performance while substantially reducing computational complexity. It is noteworthy that this advantage is particularly pronounced in large-scale MIMO systems.

1　引言

光空间调制（OSM）^［1］是由Mesleh等提出的一种新型多输入多输出（MIMO）^［2-3］技术，通过每时隙选择单根天线加载信息并将天线索引序号作为隐含信息共同传输，既解决了MIMO中存在的天线干扰和同步难的问题，又提高了系统的传输速率和频谱效率，该技术一经提出便得到了快速发展。文献［4］将OSM与脉冲位置-幅度调制相结合，提出了高传输速率和频谱效率的光空间脉冲位置-幅度联合调制。文献［5］建立了Gamma-Gamma信道下的OSM系统模型，推导了平均符号错误概率的闭合表达式。文献［6］提出了基于正交频分复用的二维广义正交OSM方案，在不损失可靠性的同时提高了系统的频谱效率和功率效率。文献［7］利用分层空间结构提出了高传输速率的标记型多层光空间脉冲位置调制（OSPPM）。上述研究都遵循正交化传输准则，通过在光脉冲间保持正交性来有效避免码间串扰，但其正交性限制了系统可传输的最高信息速率。为突破上述限制，亟须将一种非正交技术与OSM结合以进一步提升系统的传输速率和频谱效率。

超奈奎斯特（FTN）技术作为非正交传输技术的代表，其最高传输速率突破了奈奎斯特速率的限制，通过在脉冲成型时压缩符号间隔，实现相同带宽下单位时间内传输速率的提升^［8-9］。文献［10］提出了高于奈奎斯特速率的FTN-脉冲幅度调制方案。文献［11］将FTN技术与MIMO相结合，得到了频率选择衰落信道中MIMO-FTN系统的最高可达速率。上述研究证明了MIMO-FTN系统在提升传输速率和频谱效率方面的优势，而OSM作为一种新型的MIMO技术，将其与FTN结合对于提升传输速率和频谱效率有着重要的研究意义。为此，本文将FTN技术引入OSM中，结合具有抗干扰能力强且功率效率高的脉冲位置调制（PPM），提出一种超奈奎斯特速率的光空间脉冲位置调制（OSPPM-FTN）方案，以进一步提升系统的传输速率和频谱效率。

另一方面，由于空间调制信号检测的复杂性，在接收端探索一种性能近似最优且复杂度较低的信号检测算法也尤为重要。目前，深度学习理论已被广泛应用于图像处理、无线通信^［12-15］等领域，其出色的学习能力和分类优势为信号检测提供了新思路。文献［16］针对广义空间调制提出了一种基于块-深度神经网络架构的检测器，可克服有源天线间信道干扰对信号检测的影响，实现近似最优的检测性能。文献［17］提出了一种基于正交频分复用-广义OSM的深度神经网络辅助检测算法，有效解决了最大似然和最大比合并检测时误差传播和噪声放大等问题。文献［18］针对大规模MIMO系统提出了基于神经网络的近似消息传递检测算法，其收敛速度更快且计算复杂度更低。上述研究证明将深度学习方法应用于信号检测领域具有可行性且检测性能良好。鉴于此，根据所提OSPPM-FTN方案接收信号的特征，提出了一种多分类神经网络（MNN）译码器，其在实现近似最优检测的同时大幅降低了计算复杂度。

2　OSPPM-FTN系统模型

对于一个有 $N_{t}$ 个激光器（LD）和 $N_{r}$ 个光电探测器（PD）的OSPPM-FTN系统，其模型如图1所示。将输入的二进制比特流 $V$ 经串/并变换后分成两组数据块 $a_{1}$ 和 $a_{2}$ ，其中： $a_{1}$ 映射为每符号周期所选LD索引序号； $a_{2}$ 映射为PPM符号，映射后的PPM符号经过FTN成型滤波器的压缩后加载到已选LD上传输。该信号经过Gamma-Gamma信道，由PD接收后转换为电信号，进行信号处理，采用最大似然检测（ML）算法进行译码并解映射后即可恢复出原始比特信息。

图 1. OSPPM-FTN系统模型

Fig. 1. OSPPM-FTN system model

下载图片查看所有图片

表 1. OSPPM-FTN系统映射表

Table 1. Mapping table of OSPPM-FTN system

Input bits	LD index	4-PPM signal	4PPM-FTN signal
0000	$x_{s} = {[1 0 0 0]}^{T}$	$x_{p p m} = [P_{1} 0 0 0]$	$x_{m} = [ο_{1} \dots P_{1} + ο_{9} \dots 0 + ο_{q} \dots 0 + ο_{27} \dots 0 + ο_{B}]$
0001	$x_{s} = {[1 0 0 0]}^{T}$	$x_{p p m} = [0 P_{1} 0 0]$	$x_{m} = [ο_{1} \dots 0 + ο_{9} \dots P_{1} + ο_{q} \dots 0 + ο_{27} \dots 0 + ο_{B}]$
0010	$x_{s} = {[1 0 0 0]}^{T}$	$x_{p p m} = [0 0 P_{1} 0]$	$x_{m} = [ο_{1} \dots 0 + ο_{9} \dots 0 + ο_{q} \dots P_{1} + ο_{27} \dots 0 + ο_{B}]$
0011	$x_{s} = {[1 0 0 0]}^{T}$	$x_{p p m} = [0 0 0 P_{1}]$	$x_{m} = [ο_{1} \dots 0 + ο_{9} \dots 0 + ο_{q} \dots 0 + ο_{27} \dots P_{1} + ο_{B}]$
$⋮$	$⋮$	$⋮$	$⋮$
1110	$x_{s} = {[0 0 0 1]}^{T}$	$x_{p p m} = [0 0 P_{1} 0]$	$x_{m} = [ο_{1} \dots 0 + ο_{9} \dots 0 + ο_{q} \dots P_{1} + ο_{27} \dots 0 + ο_{B}]$
1111	$x_{s} = {[0 0 0 1]}^{T}$	$x_{p p m} = [0 0 0 P_{1}]$	$x_{m} = [ο_{1} \dots 0 + ο_{9} \dots 0 + ο_{q} \dots 0 + ο_{27} \dots P_{1} + ο_{B}]$

查看所有表

具体地，OSPPM-FTN系统的发端映射方案包括两部分：空间域LD序号索引模块和信号域映射模块。其中，信号域映射又包含PPM符号映射和FTN成型，详细过程如下。

对于LD序号索引模块，在每个符号周期内仅选择一个LD发送信息，则被选LD索引号的映射关系可表示为

x_{s} = {[\begin{matrix} 0 & \dots & \overset{\underset{↓}{s_{t h}}}{1} & \dots & 0 \end{matrix}]}^{T}

，（1）

式中： $x_{s}$ 为 $N_{t} \times 1$ 维的向量， $s \in [1, N_{t}]$ ； $s_{t h}$ 为被选LD索引号； $T$ 表示转置运算。

在信号域映射模块中，首先将 $a_{2}$ 映射为 $D$ 阶PPM符号。根据映射规则，PPM符号的映射关系可表示为

x_{p p m} = [\begin{matrix} 0 & \dots & \overset{\underset{↓}{j_{t h}}}{P_{1}} & \dots & 0 \end{matrix}]

，（2）

式中： $x_{p p m}$ 为 $1 \times D$ 维的向量； $j_{t h} \in [1, D]$ 为发送脉冲的位置； $P_{1}$ 为脉冲幅度；0表示相应位置静默，无脉冲发送。

其次，将映射后的PPM符号进行FTN成型。先将PPM符号流转换为行向量，即 $A = [x_{p p m_{1}} x_{p p m_{2}} \dots x_{p p m_{i}} \dots x_{p p m_{a}}]$ ，其中， $x_{p p m_{i}}$ 为第 $i$ 个PPM符号。随后， $A$ 进入FTN成型滤波器后的输出为

x_{f t n} (t) = \sum_{i = 1}^{c} A r [t - (i - 1) τ T], 0 < τ < 1

，（3）

式中： $c$ 为每帧传输的已调符号总数； $τ$ 为加速因子；T为奈奎斯特传输间隔； $τ T$ 为发送符号间隔； $r (t)$ 为带有滚降系数的归一化升余弦滤波器，其滚降因子为 $κ$ ，截断段数为 $f$ ，每段采样点数为 $g$ ，奈奎斯特传输间隔 $T = g$ ，滤波器的长度 $L = f g + 1$ 。

将成型后的 $x_{f t n} (t)$ 信号以 $B = 10 τ D$ 的长度截断为 $x_{p p m ‑ f t n}$ 符号，表示为

x_{p p m ‑ f t n} = [\begin{matrix} ο_{1} & \dots & P_{1} + ο_{q} & \dots & ο_{B} \end{matrix}]

，（4）

式中： $ο_{q}$ 为FTN成型时在q点引入的码间串扰， $q \in [1, B]$ 。为简洁表示，令 $x_{m} = x_{p p m ‑ f t n}$ 。将信号域映射向量 $x_{m}$ 加载到空间域所选LD映射向量 $x_{s}$ 上，构成的发送信号为

X = x_{s} x_{m}

。（5）

为了更清楚地表征映射过程，表1给出了OSPPM-FTN系统的映射表。此时， $N_{t} = 4$ ， $N_{r} = 4$ ， $D = 4$ ， $τ = 0.9$ 。

发送信号 $X$ 经过大气信道后由PD接收，接收信号为

Y = η H X + n

，（6）

式中： $η$ 为光电转换效率； $n$ 为均值为0、方差为 $σ_{n}^{2}$ 的高斯加性白噪声； $n$ 、 $Y$ 均为 $N_{t} \times B$ 维的矩阵； $H = {[h]}_{N_{t} \times N_{r}}$ 为信道衰落系数矩阵， $h$ 为子信道衰落系数。当信道衰落系数服从Gamma-Gamma分布时，其概率密度函数^［19］为

ξ (h) = \frac{2 {(α β)}^{\frac{α + β}{2}}}{Γ (α) Γ (β)} h^{\frac{α + β}{2} - 1} ϒ_{α - β} (2 \sqrt[]{α β h})

，

h > 0

，（7）

式中： $Γ (\cdot)$ 为伽马函数； $ϒ_{α - β} (\cdot)$ 为第二类 $α - β$ 阶修正贝塞尔函数， $α$ 和 $β$ 分别为大尺度散射系数和小尺度散射系数^［19］。

特别地，在接收端进行信号检测时，先对 $Y$ 进行下抽样得到 $Y_{1}$ ，后采用ML译码算法从 $Y_{1}$ 中估计出所选LD索引号和PPM符号，其原理为

(x_{\hat{s}}, x_{\hat{m}}) = \underset{s, m}{a r g m i n} {‖Y_{1} - η H x_{s, m}‖}_{F}^{2}

，（8）

式中： ${‖\cdot‖}_{F}$ 表示 $F$ 范数； $x_{\hat{s}}$ 、 $x_{\hat{m}}$ 分别为译码后估计出的LD索引号和PPM符号。最后，将 $x_{\hat{s}}$ 、 $x_{\hat{m}}$ 分别进行解映射，即可恢复出原始比特信息。

3　误码性能分析

根据OSPPM-FTN系统发端映射方案的特点，可能发生的错误类型可归纳为3种情况：1）LD索引号估计正确，调制符号译码错误，此时造成的平均误码率（ABER）记为 $P_{A B E R 1}$ ；2）调制符号译码正确，LD索引号估计错误，此时造成的ABER记为 $P_{A B E R 2}$ ；3）调制符号和LD索引号均估计错误，此时造成的ABER记为 $P_{A B E R 3}$ 。

值得注意的是，所提系统中FTN成型时引入的码间串扰 $o_{q}$ 会在一定程度上提高调制符号译码的错误概率， $τ$ 越小，译码错误概率随之提高。为了更准确地衡量OSPPM-FTN系统的误码性能，基于联合界技术提出了基于ML的ABER渐近上界，其表达式为

P_{A B E R} \leq P_{A B E R 1} + P_{A B E R 2} + P_{A B E R 3}

，（9）

式中： $P_{A B E R 1}$ 、 $P_{A B E R 2}$ 和 $P_{A B E R 3}$ 可分别定义为

\{\begin{array}{l} P_{A B E R 1} \leq \frac{1}{2 τ N_{t} D} \sum_{s = 1}^{N_{t}} \sum_{m = 1}^{D} \sum_{m \neq \hat{m} = 1}^{D} P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H] \\ P_{A B E R 2} \leq \frac{1}{2 τ N_{t} D} \sum_{m = 1}^{D} \sum_{s = 1}^{N_{t}} \sum_{s \neq \hat{s} = 1}^{N_{t}} P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H] \\ P_{A B E R 3} \leq \frac{1}{2 τ N_{t} D} \sum_{s = 1}^{N_{t}} \sum_{s \neq \hat{s} = 1}^{N_{t}} \sum_{m = 1}^{D} \sum_{m \neq \hat{m} = 1}^{D} P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\} \end{array}

，（10）

式中： $P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H]$ 表示在 $H$ 已知的条件下 $x_{m}$ 被误检为 $x_{\hat{m}}$ 的平均成对错误概率（APEP）； $P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H]$ 和 $P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\}$ 的物理含义与之类似，不再赘述。由式（10）可知，求 $P_{A B E R 1}$ 、 $P_{A B E R 2}$ 和 $P_{A B E R 3}$ 的重要一步是计算出其相应的APEP，下面对3种错误类型分别进行APEP计算。

对于第一类错误， $P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H]$ ^［20］可表示为

\begin{array}{l} P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H] = E [Q (\frac{\sqrt[]{ρ {‖H x_{s} x_{m} - H x_{s} x_{\hat{m}}‖}^{2}}}{2})] = E [Q (\frac{\sqrt[]{ρ {‖h_{s} x_{m} - h_{s} x_{\hat{m}}‖}^{2}}}{2})] = \\ E \{Q [\frac{\sqrt[]{2 ρ (P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} h_{s i}^{2}}}{2}]\}, (11) \end{array}

式中： $ρ$ 为平均电信噪比（SNR）； $E (\cdot)$ 为期望； $Q (\cdot) = \frac{1}{π} \int_{0}^{π / 2} e x p [- \frac{{(\cdot)}^{2}}{2 s i n^{2} θ}] d θ$ 为Gaussian-Q函数^［21］； $h_{s} = H x_{s}$ 为信道矩阵 $H$ 的第 $s$ 列； $h_{s i}$ 为 $h_{s}$ 中第 $s$ 列、第 $i$ 行的元素。由于 $2 (P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} h_{s i}^{2}$ 为随机变量加权平方和的形式， $h_{s i}$ 为服从Gamma-Gamma分布的随机变量，则其平方的矩量母函数（MGF）^［22］为

R (z) = \frac{{\sqrt[]{α β}}^{α + β} z^{- \frac{α + β}{4}}}{4 π Γ (α) Γ (β)} G_{1,4}^{4,1} [\frac{{(α β)}^{2}}{16 z} |\begin{matrix} 1 - \frac{α + β}{4} \\ \frac{α - β}{4}, \frac{α - β + 2}{4}, \frac{- α + β}{4}, \frac{- α + β + 2}{4} \end{matrix}]

，（12）

式中： $G [\cdot]$ 为Meijer-G函数。根据MGF的性质，求得 $P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H]$ 为

\begin{array}{l} P_{A P E P} [(x_{m} \to x_{\hat{m}}) |H] \approx \frac{1}{π} \int_{0}^{π / 2} \{\frac{{\sqrt[]{α β}}^{α + β} {(\frac{ρ}{4 s i n^{2} φ})}^{- \frac{α + β}{4}}}{4 π Γ (α) Γ (β)} \times \\ G_{1,4}^{4,1} [\frac{{(α β s i n φ)}^{2}}{4 b^{2} ρ} |\begin{matrix} 1 - \frac{α + β}{4} \\ \frac{α - β}{4}, \frac{α - β + 2}{4}, \frac{- α + β}{4}, \frac{- α + β + 2}{4} \end{matrix}]\} d φ, (13) \end{array}

式中： $b = 2 (P_{1} + ο_{q})^{2}$ 。

对于第二类错误， $P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H]$ 可表示为

P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H] = E [Q (\frac{\sqrt[]{ρ {‖H x_{s} x_{m} - H x_{\hat{s}} x_{m}‖}^{2}}}{2})] = E \{Q [\frac{\sqrt[]{ρ (P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} (h_{s i} - h_{\hat{s} i})^{2}}}{2}]\}

，（14）

式中： $h_{\hat{s} i}$ 为 $H$ 的第 $\hat{s}$ 列、第 $i$ 行元素。式（14）中， $(P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} (h_{s i} - h_{\hat{s} i})^{2}$ 为两类随机变量加权差的平方累加和形式，采用高斯核密度估计方法^［4］来近似计算 $P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H]$ ，其结果为

P_{A P E P} [(x_{s} \to x_{\hat{s}}) |H] \approx \sum_{i = 1}^{ϕ} \frac{1}{ϕ π} \int_{0}^{π / 2} J_{w_{2}} (- \frac{ρ}{4 s i n^{2} φ}) d φ

，（15）

式中： $ϕ$ 为采样数； $J_{w_{2}} (γ) = e x p (μ_{2} γ + \frac{1}{2} ϑ^{2} γ^{2})$ ， $μ_{2}$ 为根据 $(P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} (h_{s i} - h_{\hat{s} i})^{2}$ 计算所得的均值， $ϑ$ 为核密度估计的窗， $w_{2} = (P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} (h_{s i} - h_{\hat{s} i})^{2}$ 。

对于第三类错误， $P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\}$ 可表示为

P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\} = E [Q (\frac{\sqrt[]{ρ {‖h_{s} x_{m} - h_{\hat{s}} x_{\hat{m}}‖}^{2}}}{2})] = E \{Q [\frac{\sqrt[]{ρ (P_{1} + ο_{q})^{2} \sum_{i = 1}^{N_{r}} (h_{s i}^{2} + h_{\hat{s} i}^{2})}}{2}]\}

。（16）

同理，用MGF方法求得 $P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\}$ 为

\begin{array}{l} P_{A P E P} \{[(x_{m}, x_{s}) \to (x_{\hat{m}}, x_{\hat{s}})] |H\} \approx \frac{1}{π} \int_{0}^{π / 2} \prod_{i}^{2} \{\frac{{\sqrt[]{α β}}^{α + β} {(\frac{ρ}{4 s i n^{2} φ})}^{- \frac{α + β}{4}}}{4 π Γ (α) Γ (β)} \times \\ G_{1,4}^{4,1} [\frac{{(α β s i n φ)}^{2}}{4 b_{i}^{2} ρ} |\begin{matrix} 1 - \frac{α + β}{4} \\ \frac{α - β}{4}, \frac{α - β + 2}{4}, \frac{- α + β}{4}, \frac{- α + β + 2}{4} \end{matrix}]\} d φ, (17) \end{array}

式中： $b_{1} = b_{2} = (P_{1} + ο_{q})^{2}$ 。

将式（15）、（）代入式（10）得到3种错误类型的ABER详细表达式，再将其代入式（9）即可得到OSPPM-FTN系统的ABER上界，可表示为

\begin{array}{l} P_{A B E R} \leq \frac{1}{2 τ N_{t} D} \{N_{t} D (D - 1) \sum_{i = 1}^{ϕ} \frac{1}{ϕ π} \int_{0}^{π / 2} J_{w_{2}} (- \frac{ρ}{4 s i n^{2} φ}) d φ + \\ \frac{D N_{t} (N_{t} - 1)}{π} \int_{0}^{π / 2} \{\frac{{\sqrt[]{α β}}^{α + β} {(\frac{ρ}{4 s i n^{2} φ})}^{- \frac{α + β}{4}}}{4 π Γ (α) Γ (β)} G_{1,4}^{4,1} [\frac{{(α β s i n φ)}^{2}}{4 b^{2} ρ} |\begin{matrix} 1 - \frac{α + β}{4} \\ \frac{α - β}{4}, \frac{α - β + 2}{4}, \frac{- α + β}{4}, \frac{- α + β + 2}{4} \end{matrix}]\} d φ + \\ \frac{N_{t} (N_{t} - 1) D (D - 1)}{π} \int_{0}^{π / 2} \prod_{i}^{2} \{\frac{{\sqrt[]{α β}}^{α + β} {(\frac{ρ}{4 s i n^{2} φ})}^{- \frac{α + β}{4}}}{4 π Γ (α) Γ (β)} \times \\ G_{1,4}^{4,1} [\frac{{(α β s i n φ)}^{2}}{4 b_{i}^{2} ρ} |\begin{matrix} 1 - \frac{α + β}{4} \\ \frac{α - β}{4}, \frac{α - β + 2}{4}, \frac{- α + β}{4}, \frac{- α + β + 2}{4} \end{matrix}]\} \begin{array}{l} d φ \end{array}\} 。 (18) \end{array}

式（18）体现了系统ABER与SNR的关系，即 $R_{S N} = 10 l g ρ = 10 l g [U_{X} / (U_{F} + U_{N})]$ ，其中， $U_{F}$ 为FTN引入的码间串扰造成的平均误差功率， $U_{X}$ 和 $U_{N}$ 分别为发送信号功率和噪声功率。未引入FTN时系统的SNR为 $R_{S N} = 10 l g (U_{X} / U_{N})$ ，则由FTN带来的SNR损失为

R_{S N, Δ} = 10 l g \frac{U_{X}}{U_{N}} - 10 l g \frac{U_{X}}{U_{F} + U_{N}} = 10 l g (1 + \frac{U_{F}}{U_{N}})

。（19）

由式（19）可知，探测器数目、LD数目、调制阶数、时间加速因子和大气湍流等均是造成ABER和SNR损失的重要影响因素。

4　低复杂度信号译码器

虽然ML算法具备最优译码性能，但其穷搜索过程会导致计算复杂度偏高，在实际通信中难以实现，尤其是在大规模或高阶调制的OSPPM-FTN系统中计算复杂度急剧增加。近几年，有学者用深度学习方法来解决MIMO系统中的信号检测问题，将传统译码算法中求解信号间最小欧氏距离的问题转化为基于信号有效特征的分类问题，这样可大幅降低计算复杂度且译码性能逼近最优^［23-24］。因此，根据OSPPM-FTN系统接收信号特征和深度学习的分类特性，提出一种MNN译码器。

对于OSPPM-FTN系统，接收端译码的目的是从接收信号中恢复出PPM符号和LD索引号。当调制阶数和LD数目固定时，接收信号可分为多类包含不同有效特征的信号，将其转化为多分类问题来处理。具体地，首先将接收信号分为 $N_{t} D$ 类，并对各类信号分别打上相应的标签；其次将不同SNR下的 $Y_{1}$ 和其对应的标签值作为神经网络的输入和输出进行模型离线训练，以译码精度最优为目标给定平均损失和学习率，构造MNN，确定其隐藏层层数和神经元个数。最后，利用构建好的MNN进行信号在线检测，通过对译码器输出的标签值进行解映射，即可恢复出相应的调制符号和LD索引号。MNN模型结构如图2所示。

图 2. MNN译码器框图

Fig. 2. MNN decoder block diagram

下载图片查看所有图片

MNN译码器包含1个输入层、3个隐藏层、1个输出层和1个分类层。 $Y_{1}$ 作为MNN的输入，根据其有效特征确定输入层有 $N_{r} D$ 个神经元；离线训练时，考虑译码精度和计算复杂度联合最优，设计了3个全连接的隐藏层，且每层分别设置 $G_{1}$ 、 $G_{2}$ 和 $G_{3}$ 个神经元用来学习输入信号、FTN引入的码间串扰和加性噪声的统计特性，并采用ReLU函数作为隐藏层的激活函数，即 $f_{R e L U} (x) = m a x (0,1)$ 。输出层神经元个数由分类数目来确定，为 $N_{t} D$ ，激活函数采用Sigmoid函数，即 $f_{S i g m o i d} (x) = 1 / [1 + e x p (- x)]$ 。分类层则通过Softmax分类器将MNN的 $N_{t} D$ 个输出值进行指数归一化后将概率值最大的类输出。因此，MNN第z层的输入与输出之间的关系可表示为

U^{(z)} = \{\begin{array}{l} f_{R e L U} [ω_{z - 1} U^{(z - 1)} + b_{z - 1}], 2 \leq z \leq 4 \\ f_{S i g m o i d} [ω_{z - 1} U^{(z - 1)} + b_{z - 1}], z = 5 \end{array}

，（20）

式中： $ω_{z}$ 和 $b_{z}$ 分别为权重和偏置。

在MNN译码器中，以每批次训练的平均损失 $K (l)$ 来衡量预测数据 ${\tilde{x}}_{m}$ 与实际数据 $x_{m}$ 间的误差，同时采用交叉熵损失函数 $k (x_{p p m}, {\tilde{x}}_{m})$ 来衡量整个网络训练结果的优劣，并通过该函数不断优化网络参数，其中

K (l) = \frac{1}{χ} \sum_{j = 1}^{χ} [k^{(j)} (x_{p p m}, {\tilde{x}}_{m})]

，（21）

式中：l为网络中隐藏层和输出层的参数； $χ$ 为每批次处理数据的大小； $k^{(j)} (\cdot, \cdot)$ 表示第j批处理的交叉熵损失函数。

获得训练批次的平均损失后，为了使预测值更加准确，需要通过交叉熵损失函数不断调整网络参数以确定最优参数值。该过程通过随机梯度下降（SGD）优化实现，即以当前梯度值的学习率为基础减去或增加旧的权值。SGD通过梯度值随时间的迭代进行更新，迭代过程如下：

l^{(t + 1)} = l^{(t)} -

\frac{\partial K (l)}{\partial l^{(t)}}

，（22）

式中： $t$ 为迭代次数；ξ为学习率，ξ $\in (0,1)$ 。

5　仿真结果与分析

为了验证上述理论的正确性，采用蒙特卡罗方法对所提方案在Gamma-Gamma信道下进行仿真。假设接收端已知信道状态信息，仿真中若无特殊说明，各参数的取值分别为 $N_{t} = 4$ ， $N_{r} = 4$ ， $D = 4$ ， $τ = 0.9$ ， $η = 0.5$ ，且仿真均在强湍流下进行。OSPPM-FTN系统参数用 $(N_{t}, N_{r}, D)$ 进行标注以便于读者阅读。不同湍流强度的参数见表2，其中， $C_{n}^{2}$ 为大气折射率结构常数。

5.1　ML时OSPPM-FTN性能分析

图3为不同湍流条件下OSPPM-FTN系统的误码率（BER）理论上界与蒙特卡罗仿真性能对比。由图3可知：1）当SNR大于20 dB时，理论曲线与仿真曲线趋于重合，可证明理论推导正确。在小SNR条件下，理论曲线与仿真曲线存在一定的误差，其原因是小SNR时系统误码性能受噪声的影响较大且仅对BER渐近上界进行理论推导；2）随着湍流强度的增大，系统误码性能有所改善。当 $B E R$ 为 $10^{- 3}$ 时，OSPPM-FTN系统在强湍流条件下比弱湍流时SNR改善了5 dB，这是因为在强湍流条件下散射更明显，使得子信道间差异性较大，接收天线分集增益优势显著。

图 3. OSPPM-FTN系统BER的理论上界和仿真性能对比

Fig. 3. Comparison of theoretical upper bound and simulation performance of BER in OSPPM-FTN system

下载图片查看所有图片

图4为不同参数对OSPPM-FTN系统误码性能的影响。1）当 $N_{t}$ 和 $N_{r}$ 不变，D由2增加到4时，系统的传输速率和误码性能均有所改善；而D继续增加到8时，系统的传输速率提升但误码性能有部分损失，说明调制增益和码间串扰的共同作用是影响系统误码性能的主要因素。当调制阶数小于4时，调制增益对系统性能的影响大于码间串扰，系统SNR有所改善；当调制阶数大于4时，码间串扰的影响更大，导致系统SNR损失。2）当 $N_{r}$ 和D不变，随着 $N_{t}$ 的增加，空间映射比特数增大，传输速率提高，但误码性能下降。这是因为LD数目增加导致接收端需正确估计更多数量的LD索引号，即提高了第一、三类错误概率。3）当 $N_{t}$ 和D不变， $N_{r}$ 增加会大幅改善系统误码性能。当 $B E R$ 为 $10^{- 2}$ 时，（4，4，4）比（4，2，4）系统的SNR改善了7 dB，说明增加PD数目使得分集增益效果显著，但系统建设成本也会随之增加。因此， $N_{t}$ 、 $N_{r}$ 和D等参数对系统性能的影响效果不同，如何选取各参数值来提升系统性能需视具体情况而定。

图 4. 不同参数时OSPPM-FTN系统的误码性能

Fig. 4. BER performance of OSPPM-FTN system with different parameters

下载图片查看所有图片

表3和图5分别给出了OSPPM-FTN和传统OSPPM系统的频谱效率、传输速率以及误码性能的对比。由表3可知，除了 $N_{t}$ 和 $D$ 这两个影响频谱效率和传输速率的共同因素外，OSPPM-FTN还受到 $τ$ 这一关键因素的影响。由于 $τ$ 的取值为 $0 < τ < 1$ ，与OSPPM相比，其传输速率和频谱效率的提高量分别为 $[(1 - τ) / τ]$ $l o g_{2} D$ 和（ $l o g_{2} D +$ $τ l o g_{2} N_{t} -$ $τ^{2} l o g_{2} N_{t} D) / (τ^{2} D)$ 。

表 3. 不同方案的频谱效率和传输速率

Table 3. Spectral efficiency and transmission rate of different schemes

Modulation	Spectral efficiency /（bit · s^-1· Hz^-1）	Transmission rate /（bit/channel）
OSPPM	$(l o g_{2} N_{t} D) / D$	$l o g_{2} N_{t} + l o g_{2} D$
OSPPM-FTN	$[l o g_{2} N_{t} + (l o g_{2} D) / τ] / (τ D)$	$l o g_{2} N_{t} + (l o g_{2} D) / τ$

查看所有表

图 5. OSPPM-FTN和OSPPM系统的性能对比。（a）OSPPM和OSPPM-FTN系统在不同 $τ$ 值下的误码性能；（b）OSPPM和OSPPM-FTN系统在不同 $τ$ 值下的传输速率和频谱效率

Fig. 5. Performance comparison of OSPPM and OSPPM-FTN systems. (a) BER performance of OSPPM and OSPPM-FTN systems with different $τ$ ; (b) transmission rate and spectral efficiency of OSPPM and OSPPM-FTN systems with different $τ$

下载图片查看所有图片

图5为OSPPM-FTN和OSPPM系统的性能对比。由图5（a）、（b）可知，随着加速因子的减小，OSPPM-FTN系统的频谱效率和传输速率随之提升，但其SNR会相应损失。相比于OSPPM系统： $τ = 0.9$ 时OSPPM-FTN的频谱效率和传输速率分别提升了17.0%和5.5%，其代价是1 dB的SNR损失； $τ$ 由0.9减小到0.7时，OSPPM-FTN系统的频谱效率和传输速率分别提升了73.0%和21.5%，而此时SNR损失为7 dB。这是因为随着 $τ$ 值减小，单位时间内符号间隔将在更大程度上被压缩，频谱效率和传输速率提升的同时码间串扰也随之增大，导致系统误码性能下降。

5.2　MNN译码器性能分析

MNN译码器的参数如表4所示。

表 4. MNN译码器参数

Table 4. Parameters of MNN decoder

Parameter	Content
Hidden layer activation	ReLU
Output layer activation	Sigmoid
Loss function	Cross entropy loss
Optimizer	SGD
Epoch	30
Learning rate	0.001
Number of training set	$6 \times 10^{6}$
Number of validation set	$1 \times 10^{6}$
Hidden nodes	16, 24, 16

查看所有表

首先，讨论MNN译码器的隐藏层数量的选取问题，该参数决定了整个网络对输入信号特征提取的能力。隐藏层数量过多会导致计算复杂度显著增加和过拟合现象，而隐藏层数量较少会造成欠拟合。因此，表5给出了MNN中隐藏层数量与译码精度之间的关系。由表5可知，当隐藏层数量为3时，MNN译码器具有最佳性能，故该网络设置3层隐藏层。

表 5. 隐藏层数量与译码精度之间的关系

Table 5. Relationship between hidden layer number and decoding accuracy

Hidden layer number	Accuracy /%
2	99.930015
3	99.978038
4	99.953223
5	99.821631

查看所有表

其次，分析模型离线训练时学习率的取值以及平均损失与训练轮次的关系。表6给出了MNN译码器在不同学习率下的译码精度，从表6中可知，学习率为0.00100时译码精度可以达到99.996005%。图6为不同SNR时MNN译码器的平均损失与训练轮次的关系。在不同SNR条件下平均损失均随着训练轮次的增加而减小，当训练轮次增大到一定数量时MNN的平均损失可收敛到最小且趋于平稳。例如，当R_SN=25 dB时，训练轮次大于25后，平均损失收敛到10^-3。考虑MNN译码器性能的稳定性，训练轮次选择30。

表 6. 学习率与译码精度之间的关系

Table 6. Relationship between learning rate and decoding accuracy

Learning rate	Accuracy /%
0.01000	99.640017
0.00100	99.996005
0.00010	99.987218
0.00001	99.705215

查看所有表

图 6. MNN译码器的平均损失与训练轮次的关系

Fig. 6. Relationship between loss and training rounds of MNN decoder

下载图片查看所有图片

最后，对比了MNN译码器和ML的计算复杂度，如表7和图7所示，计算复杂度通过浮点运算来衡量^［25］。由表7可知， $N_{t}$ 、 $N_{r}$ 和 $D$ 是影响计算复杂度的主要因素，而MNN译码器的结构参数是根据 $N_{t}$ 和 $D$ 确定的，则固定 $N_{t}$ 和 $D$ 不变， $N_{r}$ 的取值是衡量计算复杂度最重要的参数。

表 7. 不同译码器的计算复杂度

Table 7. Computational complexity of different decoders

Decoder	Complexity /FLOPs
ML	$N_{r} D (2 N_{t} N_{r} D + 2 N_{r} D - 1)$
MNN	$2 N_{r} D G_{1} + 2 G_{1} G_{2} + 2 G_{2} G_{3} + 2 G_{3} N_{t} D + N_{t} D$

查看所有表

图 7. 不同译码器的计算复杂度对比

Fig. 7. Comparison of computational complexity of different decoders

下载图片查看所有图片

图7给出了 $N_{r}$ 与两种译码器计算复杂度的关系曲线。由图7可知，随着 $N_{r}$ 的增大，MNN译码器的计算复杂度明显低于ML，并且所提译码器的计算复杂度受 $N_{r}$ 的影响极小；而ML的计算复杂度会随着 $N_{r}$ 的增加呈指数增长， $N_{r}$ 越大则MNN译码器低复杂度的优势越显著。例如，当 $N_{r} = 8$ 和 $N_{r} = 16$ 时，MNN译码器的计算复杂度比ML分别降低了69.75%和89.95%。

图8为 $τ = 0.9$ 时不同湍流条件下两种译码器的误码性能对比。由图8中曲线可看出，在弱中强3种湍流强度下，MNN译码器取得了近似ML的误码性能。综上，可以证明所提MNN译码器在获得近似最优译码性能的同时大幅降低了计算复杂度。

图 8. 不同湍流下ML与MNN的BER

Fig. 8. BER performance of ML and MNN decoders under different turbulence

下载图片查看所有图片

表 2. 湍流模型参数

Table 2. Turbulence model parameters

Parameter	$C_{n}^{2}$ / $m^{- 2 / 3}$
Strong turbulence	$2.5 \times 10^{- 11}$
Middle turbulence	$6.0 \times 10^{- 13}$
Weak turbulence	$9.0 \times 10^{- 16}$

查看所有表

6　结论

将OSPPM与FTN技术结合，提出了一种OSPPM-FTN方案，该方案有效提升了系统的传输速率和频谱效率。研究结果表明，相比于传统OSM，所提方案的传输速率和频谱效率随着加速因子的减小而显著提升。同时，提高调制阶数、LD和探测器数目均可改善系统的传输速率和误码性能，但其代价也不尽相同，如何选取各参数需视具体情况而定。另外，针对发端方案提出的MNN译码器在取得近最优译码性能的同时大幅降低了计算复杂度，尤其在大规模MIMO系统中，MNN译码器的优势更加明显。

参考文献

[1] Mesleh R, Elgala H, Haas H. Optical spatial modulation[J]. Journal of Optical Communications and Networking, 2011, 3(3): 234-244.

[2] Wang Y P, Chen X M, Pei H L, et al. MIMO performance enhancement of MIMO arrays using PCS-based near-field optimization technique[J]. Science China Information Sciences, 2023, 66(6): 162302.

[3] 赵黎, 王昊, 张峰. 基于光广义空间调制的VLC-MIMO系统研究[J]. 中国激光, 2022, 49(23): 2306001.

Zhao L, Wang H, Zhang F. Research on VLC-MIMO system based on optical generalized spatial modulation[J]. Chinese Journal of Lasers, 2022, 49(23): 2306001.

[4] Özbilgin T, Koca M. Optical spatial modulation over atmospheric turbulence channels[J]. Journal of Lightwave Technology, 2015, 33(11): 2313-2323.

[5] Geng C, Yu S Y, Lu G Y, et al. On the correlated Gamma-Gamma distribution and coherent detection performance of optical spatial modulation[J]. Optik, 2023, 276: 170622.

[6] Qiu Y, Xu X H, Shen M, et al. OFDM-based 2D generalized optical quadrature spatial modulation for MIMO-OWC systems[J]. Optical Engineering, 2022, 61(12): 126103.

[7] 王惠琴, 叶归清, 彭清斌, 等. 标记型多层光空间脉冲位置调制[J]. 光学学报, 2022, 42(14): 1406003.

Wang H Q, Ye G Q, Peng Q B, et al. Marked multi-layer optical spatial pulse position modulation[J]. Acta Optica Sinica, 2022, 42(14): 1406003.

[8] Mazo J E. Faster-than-Nyquist signaling[J]. Bell System Technical Journal, 1975, 54(8): 1451-1462.

[9] Mohammadkarimi M, Schober R, Wong V W S. Channel coding rate for finite blocklength faster-than-Nyquist signaling[J]. IEEE Communications Letters, 2021, 25(1): 64-68.

[10] Che D, Chen X. Higher-order modulation vs faster-than-Nyquist PAM-4 for datacenter IM-DD optics: an AIR comparison under practical bandwidth limits[J]. Journal of Lightwave Technology, 2022, 40(10): 3347-3357.

[11] Wang J T. Time-space MIMO system with faster-than-Nyquist signaling in frequency-selective fading channel[J]. Multidimensional Systems and Signal Processing, 2021, 32(3): 1027-1039.

[12] Baek M S, Kwak S, Jung J Y, et al. Implementation methodologies of deep learning-based signal detection for conventional MIMO transmitters[J]. IEEE Transactions on Broadcasting, 2019, 65(3): 636-642.

[13] 张桐浩, 王旭东, 吴楠. 基于CNN的QAM-PPM混合调制端到端通信系统[J]. 激光与光电子学进展, 2022, 59(17): 1706001.

Zhang T H, Wang X D, Wu N. CNN-based hybrid QAM-PPM modulation end-to-end communication system[J]. Laser & Optoelectronics Progress, 2022, 59(17): 1706001.

[14] 陈丹, 王睿, 艾菲尔, 等. 水下无线光深度自动编码器通信性能研究[EB/OL]. (2023-09-22)[2023-11-11]. http:∥kns.cnki.net/kcms/detail/31.1252.O4.20230925.0931.050.html.

ChenD, WangR, AiF E, et al. Research on communication performance of underwater wireless optical deep autoencoder[EB/OL]. (2023-09-22)[2023-11-11]. http:∥kns.cnki.net/kcms/detail/31.1252.O4.20230925.0931.050.html.

[15] 石佳, 黄爱萍, 陶林伟. 深度学习辅助水下光通信信道估计和信号检测[J]. 中国激光, 2022, 49(17): 1706004.

Shi J, Huang A P, Tao L W. Deep learning aided channel estimation and signal detection for underwater optical communication[J]. Chinese Journal of Lasers, 2022, 49(17): 1706004.

[16] Albinsaid H, Singh K, Biswas S, et al. Block deep neural network-based signal detector for generalized spatial modulation[J]. IEEE Communications Letters, 2020, 24(12): 2775-2779.

[17] Chen C, Zeng L, Zhong X, et al. Deep learning-aided OFDM-based generalized optical quadrature spatial modulation[J]. IEEE Photonics Journal, 2022, 14(1): 7302306.

[18] Yang Y, Chen S P, Gao X Q. Deep learning-based AMP for massive MIMO detection[J]. China Communications, 2022, 19(10): 69-77.

[19] Chen D, Hui J X. Parameter estimation of Gamma-Gamma fading channel in free space optical communication[J]. Optics Communications, 2021, 488: 126830.

[20] Yu S Y, Geng C, Zhong J, et al. Performance analysis of optical spatial modulation over a correlated gamma-gamma turbulence channel[J]. Applied Optics, 2022, 61(8): 2025-2035.

[21] Gupta J, Goel A. Piece-wise approximation for Gaussian Q-function and its applications[J]. Sādhanā, 2022, 47(3): 169.

[22] Mohamed Abaza M A, Raed Mesleh R M, Ali Mansour A M, et al. Performance analysis of space-shift keying over negative-exponential and log-normal FSO channels[J]. Chinese Optics Letters, 2015, 13(5): 051001.

[23] Shankar R, Chaudhary B P, Mehraj H, et al. Impact of node mobility on the DL based uplink and downlink MIMO-NOMA network[J]. International Journal of Information Technology, 2023, 15(6): 3391-3404.

[24] Ro J H, Ha J G, Lee W S, et al. Improved MIMO signal detection based on DNN in MIMO-OFDM system[J]. Computers, Materials & Continua, 2022, 70(2): 3625-3636.

[25] Wang T J, Yang F, Song J. Deep learning-based detection scheme for visible light communication with generalized spatial modulation[J]. Optics Express, 2020, 28(20): 28906-28915.

张悦, 叶翔文, 曹明华, 王惠琴. 深度学习辅助的超奈奎斯特速率光空间脉冲位置调制[J]. 光学学报, 2024, 44(5): 0506003. Yue Zhang, Xiangwen Ye, Minghua Cao, Huiqin Wang. Deep Learning-Aided Faster-Than-Nyquist Rate Optical Spatial Pulse Position Modulation[J]. Acta Optica Sinica, 2024, 44(5): 0506003.