在自由空间相干光通信系统中, 混频效率直接反映相干探测灵敏度。分别推导了混频效率随光轴径向误差、失配角、轴向离焦和大气湍流强度变化的表达式, 并进行了仿真分析。结果表明: 选择与波长匹配的束腰半径和相对孔径可使混频效率达到最大值0.8145。信号光与本振光的光轴径向误差对混频效率和相对孔径的影响最大, 接着是失配角和轴向离焦。将以上3种影响因素分别限制在0~4 μm、0~0.05 rad、0~200 μm范围内, 当选取1550 nm的光波作为通信波长且束腰半径为3.4λ、相对孔径为0.21时, 混频效率可达到0.55以上。在中强湍流条件下, 使用小口径接收天线能有效抑制大气湍流效应。

为研究空间相干光通信的信噪比受本振光功率、探测器特性和光波偏振态的影响，对探测器在不同工作状态下以及光波偏振态变化时的信噪比进行了研究，讨论了在不同工作状态下探测器特性参数和本振光功率对信噪比的影响，并通过实验验证了本振光功率和光波偏振态对信噪比的影响。结果证明空间相干光通信中探测器特性参数限制了本振光功率的取值，实际最大信噪比小于理论值，最佳本振光功率大于理论值，且两光束的偏振方向越接近，输出信噪比越大，最佳本振光功率越小。

光外差探测效率不仅与大气湍流有关，还与信号光及本振光在探测器光敏面上的分布特性有。对不同光场分布下大气湍流对外差效率的影响进行了分析对比，讨论了湍流影响下外差效率随探测器半径的变化关系。结果表明: 当信号光和本振光为Airy+Gauss 模型时，大气湍流对外差效率的影响最小，且外差效率达到最大值后不随探测器半径的增大而变化；Airy+平面波模型受湍流的影响最大，即使在弱湍流下外差效率下降也十分迅速，最大可下降95.13%。