基于异向介质中包一到三阶非线性色散的非归一化扩展非线性传输方程，利用德鲁德电磁模型和线性稳定性分析法，导出了调制不稳定的色散关系和增益谱.以实际单位形式计算和讨论了传输方程系数、正负折射区及自聚焦和自散焦情况下调制不稳定增益谱随归一化角频率的变化关系.结果表明：随归一化频率增加，负折射区在自聚焦时的增益谱谱宽和谱峰都先增加再减为零；负折射区在自散焦时调制不稳定只出现在禁带附近，且谱宽和谱峰都单调减小.正折射区调制不稳定只出现在自聚焦情形，且谱宽一直增加，而谱峰先减小后增加.总体而言，三阶非线性色散的存在不利于调制不稳定的产生.

推导出了平顶涡旋光束通过有光阑ABCD光学系统的传输解析式，并以光阑透镜和矩形光阑系统为例，与平顶光束比较研究了截断参量、相对离轴距离和光束阶数对衍射场中位相奇点演化特性的影响.数值计算表明，平顶涡旋光束通过上述光学系统均存在位相奇点，即使源处涡旋被光阑阻拦时，衍射场中也会出现位相奇点；而平顶光束通过光阑透镜系统存在刃型位错，随着截断参量增大，会发生刃型位错的演化和湮灭现象，且平顶光束通过矩形光阑系统没有发现位相奇点.

直接从负折射介质中包含高阶色散及饱和非线性效应的扩展非线性传输方程出发，采用线性稳定性分析法和德鲁德电磁模式，导出了调制不稳定性的色散关系和增益谱公式。考虑到今后的实验验证，以实际单位的形式计算了方程系数随归一化角频率的变化规律。再以实际单位的形式计算并讨论了增益谱随归一化角频率和归一化入射光强的变化关系。结果表明，当归一化角频率固定时，截止频率及峰值增益都随归一化入射光强的增加先增加后减少，归一化角频率不同，截止频率及峰值增益也不同，在靠近禁带处，增益谱远离零点。当归一化入射光强固定时，截止频率及峰值增益随归一化角频率的增加而增加，当归一化角频率增大到靠近禁带时，增益谱由紧挨零点变成远离零点。

直接从异向介质中包含饱和非线性、自陡峭和二阶非线性色散效应的非线性扩展传输方程出发，采用线性稳定性分析法，导出了调制不稳定性的色散关系、不稳定条件、无量纲的临界扰动频率和增益谱。计算和讨论了异向介质正折射区无量纲的增益谱随归一化角频率和入射功率密度的变化关系。结果表明，在异向介质正折射区，随归一化角频率和入射功率密度的不同，增益谱将会出现扰动频率大于零、扰动频率大于某个非零临界值、扰动频率大于零而小于某个非零临界值3种形式。在归一化角频率较小时，调制不稳定性可能出现阈值入射功率密度；且在较小的入射功率密度时，调制不稳定性只能出现在大于某个临界频率时。

使用聚焦平顶光束和平顶涡旋光束，以金为例,对金属瑞利粒子辐射力和俘获稳定性进行了分析，着重研究了拓扑电荷和光束阶数对辐射力的影响。结果表明，随着拓扑电荷和光束阶数的增大，最大光强和辐射力随之减小;平顶光束可以俘获金瑞利粒子,俘获微粒的牢固性和俘获范围随着光束阶数增大而减小，而平顶涡旋光束的梯度力不能作为回复力，因此不能俘获。最后,还讨论了不同光强分布下，俘获金属瑞利粒子时复介电常数需满足的必要条件。

根据包含五阶非线性的扩展非线性薛定谔方程，数值研究了高斯型连续谱相位扰动而不是传统单色扰动下基于调制不稳定性的高重复率脉冲串产生.结果表明：脉冲串也能像传统情形那样形成，但却呈现出不同的特性.如脉冲数目有限，且各脉冲的高度、强度及间距不等.脉冲数目随传输距离增加而增加.而五阶非线性能使脉冲宽度和间距变小因而有利于高重复率脉冲串产生，负五阶非线性则相反.对脉冲串形成过程中演变啁啾的数值计算表明，啁啾及其随距离的变化都是高度非单调的，五阶非线性将改变啁啾的范围和量值.

从光纤中非线性薛定谔方程出发，采用分步傅里叶算法数值模拟了具有高斯型连续谱的光脉冲扰动下连续波在光纤中的波形和频谱演化。结果表明，在光纤负色散区，由于调制不稳定性，该脉冲扰动下的连续波也可能像正弦波扰动下的那样演化成高重复率超短脉冲串，但构成脉冲串的各脉冲并不像正弦波扰动时那样等宽、等高、等间距。当孤子参数太小或在正色散区时，则不能形成脉冲串，只能形成衰减的振荡结构。随着孤子参数的不同，超短脉冲串及振荡结构的特点也会不同。这些演化规律与传统正弦光扰动连续波及高斯光脉冲的情形明显不同。

使用聚焦部分相干高斯谢尔涡旋光束, 对不同折射率的瑞利粒子的辐射力做了分析, 着重研究了相关长度和束腰宽度对辐射力和俘获稳定性的影响。结果表明: 相关长度和束腰宽度分别存在临界值, 相干长度小于等于其临界值或束腰宽度大于等于其临界值时, 可利用其俘获相对折射率大于1的微粒; 而在相关长度大于其临界值或束腰宽度小于其临界值时, 可利用其俘获相对折射率小于1的微粒。对俘获稳定性的分析表明, 需选择适当的相关长度和束腰宽度才能稳定俘获瑞利粒子。

采用线性稳定性分析法, 解析和计算了指数饱和非线性和高阶色散光纤中的调制不稳定条件和增益谱。结果表明: 当二阶和四阶色散同为负时,随着参数的不同, 增益谱可能只有一个谱区, 也可能出现两个分离的谱区；当二阶和四阶色散分别为正和负时, 无调制不稳定性；在其它色散区, 则只有一个谱区。指数饱和非线性可能使各谱区的谱宽、峰值增益随入纤功率的增大呈现出先增大后减小的特点, 即出现两个不同的输入功率对应同一个不稳定增益峰值和谱宽的情形。在其它参数相同时, 指数饱和非线性下增益谱的谱宽和峰值增益随入纤功率的变化速度将比传统饱和非线性更快。

从光纤中扩展的耦合非线性薛定谔方程组出发，在饱和非线性光纤零色散附近，研究了不同二、四阶色散参量下交叉相位调制不稳定性增益谱及其临界扰动频率、谱宽和谱峰随两光波入射功率的演化特点.研究表明，随色散参量不同，增益谱随两光波入射功率的增大可能出现三种演化形式：一是始终是两个分离的谱区；二是由开始时的两个合成一个，最后再分离成两个；三是始终是一个谱区.饱和非线性的存在则使每个谱区的谱宽、谱峰及远离零点的临界扰动频率,随两光波入射功率的增大可能呈现出先增大后减小的特点，使第二谱区靠近零点的临界扰动频率呈现先减小后增大的特点，从而可能出现两个不同的输入功率对应同一个增益峰值和谱宽的情形.色散参量对增益谱的谱峰影响小，对谱宽影响大.越靠近零色散区，每个谱区谱宽越大，越易连成一个谱区.