作为一种针对调制格式的优化技术，星座整形技术极大提高了传统编码调制方案的灵活性、非线性补偿和误码性能，具有能够在不增加系统发送功率、复杂性的前提下，获得高频谱效率和实现接近香农极限的信号传输等特性，在多个领域得到广泛的应用。本文介绍了国内外星座整形技术方案的研究现状和最新进展，特别是基于概率整形技术实现类型、方法、架构等层面，从多个角度着重分析了算术编码概率整形的基本原理、性能对比和相关应用，在不同的系统和场景下对比评估概率整形技术带来的增益，并总结了光通信中概率整形技术目前面临的问题及未来的发展趋势。

关联成像是一种通过单像素探测器以成像时间换取空间分辨率的新颖成像方案, 然而, 其存在重建质量低、数据采集时间长的问题。Hadamard编码调制计算关联成像能够实现高效率的成像, 显著提高了关联成像方案的适用性, 但是其独特的图像噪声集中现象是影响其实用化亟待解决的难题。通过分析Hadamard矩阵作为测量矩阵计算关联成像重建结果的噪声特点, 基于图像分割理论, 提出了一种利用阈值处理和形态学图像增强的Hadamard编码调制关联成像噪声压制方案, 并通过实验验证了该方案的可行性, 获得接近8 dB的光学图像增强。该方案对二值图像和灰度图像都有比较好的效果, 其工作促进了关联成像技术的实用化。

针对脉冲位置调制(PPM)与多级编码结合中的错误传播问题，利用多阶段译码原理的“链式规则”，提出一种基于迭代的解调译码方法，给出了8-PPM多级编码调制的硬判决迭代算法。仿真分析表明，迭代解调译码方法可以改善错误传播现象，降低系统的误码率；在相同迭代次数下，信道衰减越大，该译码方法获得的增益越明显。综合考虑性能改善效果及成本，M阶编码调制系统的迭代次数宜选M次以内。

退相关现象制约散斑干涉测量的实现。为了增加散斑场的相关性，抑制退相关，提出一种使用三次相位板进行相位调制的方法。通过分析散斑场相关性与散斑尺寸的关系，阐述了相位调制通过扩展散斑尺寸而抑制退相关的机理，仿真验证了方法的有效性。在此基础上设计了相位调制散斑干涉测量系统，其物光光路采用4f 系统结构，可在相位面处放置三次相位板方便地进行相位调制。对比实验结果表明：经相位调制的散斑场横向相关尺寸提升约1.7 倍，纵向相关尺寸提升约2.5 倍，有效抑制了散斑干涉测量中退相关的发生，能够获得良好干涉条纹的纵向相干区域扩展约2.5 倍，提升了散斑干涉条纹局部对比度。

散斑在轴向的退相关现象是制约散斑干涉测量适用性的关键问题之一，为了提高散斑场的纵向相关性，从而提高散斑干涉图像的条纹对比度，扩大物体离面形变的测量范围，提出一种对散斑场进行相位编码调制的方法，即将波前编码技术扩展景深的方法用于散斑场编码，在孔径光阑位置上放置立方型相位板实现相位调制。首先分析了该编码调制方法用于提高散斑场纵向相关性的可行性，然后基于4f 系统模拟仿真并实验验证了通过相位编码调制提高编码散斑场的纵向相关性的实际效果。结果表明，编码后散斑的纵向尺寸从0.17 mm 提高到0.4 mm，大约提高了2.5 倍。

网格编码调制(TCM)与脉冲幅度调制(PPM)相结合的T-PPM 编码具备了双方在纠错能力和发射功率效率方面的优点，在空间光通信中有广阔的应用前景。而传统的T-PPM 编码调制技术在映射方面存在缺陷，制约了系统的可靠性。为改善大气湍流光通信系统的误码性能，提出一种适用于单载波弱湍流空间光信道的改进型T-PPM 技术。这种方法采用格雷映射取代传统TCM 中的“子集划分”映射，降低接收时的误判可能性。仿真结果表明，格雷码映射能显著改善误码性能；在误码率为10-3 处，格雷码映射相比子集映射提高了约0.2 dB 增益，有效改善系统的差错性能；在1 ps 和2 ps 展宽量条件下误码率(BER)分别减少至传统方案的约1/2 和4/5，从而验证了格雷码映射的优越性。

以超光谱遥感图像为研究对象, 分析了干涉成像光谱仪获取图像的谱间和空间相关性, 提出一种三维差分脉冲编码调制(DPCM)无损压缩方案。首先进行了谱间DPCM预测; 然后, 对残差图像进行帧内DPCM预测; 最后, 对差分码流进行二值自适应算术编码。实验表明, 该算法可实现无损压缩, 压缩比平均可达1662, 较二维整数小波变换算法提高了156%, 且算法复杂度较低, 仅有加减和移位运算, 易于硬件实现。

采用(2, 1, 7)卷积码构建了一种实用性较强的BICM(比特交织编码调制)算法。首先对该算法进行了数值仿真, 证明了在瑞利信道条件下BICM-ID(BICM的硬判决反馈迭代译码)算法的性能优于TCM(网格编码调制)的性能；然后将BICM-ID应用于SW(短波)数据链中, 针对BICM-ID和SW数据链的特点, 分析了交织长度、符号映射方式及迭代次数对BICM-ID性能的影响；最后利用DSP(数字信号处理器)实现了BICM-ID算法, 给出了不同码率和不同数据量情况下的译码时间, 结果表明, 译码时间均满足数据链实时性要求。

针对无线光通信脉冲位置调制(PPM)与信道编码的结合应用，提出了一种多级编码调制方案，利用多级编码的多级标签结构，将PPM符号所对应的分组比特分拆到不同子码通道的码字中，同时结合PPM的信号集分割和极大似然检测解调方法，推导了方案的多阶段解调译码算法。在弱湍流大气条件下的仿真分析表明，PPM多级编码调制相对单级编码调制在误码率10-6下获得0.85 dB以上的增益，且可实现对不同重要程度信息段的不等差错保护。在分量码码型给定的条件下，按纠错能力逐级配置分量码并采用所推导的多阶段解调译码，可为系统提供更好差错性能，优于直接的并行译码方法。