提出了一种基于级联非对称Y分支的紧凑、宽带、高效的LP₀₁-LP_11a模式转换器。制作的聚合物波导模式转换器具有1.5 mm×14.0 μm的紧凑尺寸，对于C+L波段的x偏振和y偏振光，其模式转换效率大于98%，串扰小于-17.5 dB，插入损耗低于5.8 dB。所提出的模式转换器可以应用在宽带模分复用传输系统中。

模式转换器是实现模分复用技术（MDM）的关键部件。基于伴随法对器件边缘进行智能优化，从而在绝缘体上硅（SOI）平台上设计了高性能TE₀-TE₁模式转换器。经仿真验证，在中心波长1550 nm处，模式转换效率达99.6%，消光比达31.2 dB，而损耗仅为0.01 dB。在1500~1600 nm带宽范围内，TE₀-TE₁的转换效率保持在96.6%以上，消光比保持在15.7 dB以上，而损耗保持在0.14 dB以下。当器件尺寸变化在±20 nm以内时，器件在1550 nm处的转换效率保持在97.2%以上，消光比保持在16.5 dB以上，插入损耗维持在0.12 dB以下。在片上设计了TE₁模式的测试装置，并利用商业流片对转换器进行制备。实验结果表明，在60 nm的带宽范围内，TE₀-TE₁转换器的转换效率保持在90%以上，插入损耗维持在0.4 dB以下。因此，所提出的转换器具有高转换效率、宽带宽、低插入损耗和高制作容差等特点，为高性能片上模式转换器的高效设计提供了新思路。

模式转换器是片上模式复用（MDM）系统的关键器件。为在绝缘体上铌酸锂（LNOI）中实现结构紧凑的模式转换，本文提出了一种基于超表面结构的模式转换器。该模式转换器可以实现TE₀-TE₁、TE₀-TE₂的转换。为了在模式之间实现高效转换，采用逆向设计方法，结合3D电磁场仿真，优化器件倾斜周期性亚波长条形蚀刻结构参数，以同时符合沿传播方向的相位匹配要求，以及符合短耦合长度的横向方向折射率分布要求。仿真结果表明，器件在1400~1700 nm波段内，TE₀-TE₁转换的插入损耗<0.8 dB，模间串扰<-10 dB，模式转换区长度~20 μm。且该器件具有较好的高阶模式转换扩展性以及工艺容差性，是未来LNOI的高密度集成MDM系统中模式转换器的良好备选方案。

提出了一种基于定向耦合器的双芯模式转换器，实现了基阶（LP₀₁模式）向高阶（LP₁₁模式）转换。利用有限元法和光束传播法建立了模式转换器理论分析模型，探究光纤参数对模式转换器转换性能的影响。数值模拟结果表明，当该模式转换器消光比大于20 dB时，带宽可达到320 nm，且其消光比大于10 dB，带宽达到400 nm时的转换率达99.7%。与传统模式转换器相比，该模式转换器结构简单，并且具有转换率高和宽带宽的优点，进而适合应用在光通信系统中。

为改善光纤通信系统带宽容量在实际工程应用中面临的局限性，基于空分复用技术提出一种可分别传输基模与高阶模的光子晶体光纤纤芯结构，利用虚轴光束传播法得到不同结构参数下相应模式的有效折射率曲线，通过匹配两种模式的有效折射率曲线，设计了一种具有非对称双芯结构的光子晶体光纤模式转换器。光波长为1550 nm时，该器件实现了基模（LP₀₁模）与高阶模（LP₀₂模）之间的模式转换，在较宽的归一化频率范围内模式耦合效率可达91.98%，耦合长度约178.5 μm，器件直径最大仅47.6 μm。该结构设计灵活可控，可满足未来大容量通信系统的需求。

硅-有机复合光子集成技术充分发挥了硅光的大规模集成优势和有机聚合物材料的高电光系数优势, 在高性能集成微波光子系统中极具应用潜力。本文对硅-有机复合集成电光调制器结构进行了较为全面地优化设计和初步制备研究。电光有机聚合物填充在硅Slot波导的狭缝中, 优化Slot波导结构得到光场限制因子为0.32, 使得光波场与射频电场高度重合, 提高了电光调制效率。采用锥型波导模式转换结构实现Strip-to-Slot的低损耗耦合, 耦合效率为99.55%。重点分析了电极长度、宽度等参数对调制器频率响应的影响, 优化得到3 dB带宽为77 GHz, 半波电压-长度积为0.045 V·cm。根据仿真结果设计了用于制备调制器的MASK。实验制备了Slot波导并进行了聚合物的填充实验研究, 获得了良好的结果。

提出了一种基于并联结构的多模式复用器/解复用器。该多模式复用器/解复用器由一根少模光纤和两根单模光纤构成。根据有效折射率匹配原则确定了光纤参数,仿真分析了不同芯间距对多模式复用器/解复用器性能的影响,得出最佳芯间距。仿真分析了该多模式复用器/解复用器对应的工作波长带宽。结果表明:该多模式复用器/解复用器不需要结合模式转换器即可实现LP₀₁、LP₁₁和LP₀₂三种模式的复用,最佳耦合区长度为4530 μm,工作波长带宽可达60 nm。

提出了一种新型的TE31-TE11模式的紧凑型高功率微波模式转换器结构, 在对比分析TE31和TE11两个模式的场分布特征相互关系基础上, 通过在输入和输出圆波导组成的内外套筒结构和适当布置镜像对称分布的轴向耦合长缝, 实现在小于1.2个波长的轴向长度内将相对论磁控管产生的L 波段TE31模式高功率微波转换为可定向辐射的圆波导TE11模式, 采用全电磁波仿真结合Taguchi方法优化了模式转换器的几何参数, 在工作频点获得的仿真模式转换效率为99%, 效率高于95%的带宽达到10%, 并对其工作于真空环境下的瞬态功率容量进行了仿真分析, 理论的瞬态功率容量可达到3.4 GW。