设计了一种用于无线光传输的激光投影系统并提出了一种基于深度学习的改进型YOLOv3(you only look once,v3)网络用于检测小鼠图像的位置。该网络使用分组卷积对网络参数进行压缩以提高目标检测速度,使用通道混洗方法以增强网络的信息流通能力。利用交叉熵损失函数中的两个超参数来调整正、负样本的比例以降低易分类样本在损失函数中的权值,提高了目标检测精度。在PASCAL VOC2007和自制小鼠图像数据集上分别进行实验,结果表明提出的基于改进型YOLOv3网络的检测算法检测精度达90.3%,检测速度和检测精度都优于传统型网络结构。应用该算法的激光投影系统可以实时检测运动小鼠目标并进行无线光传输等光遗传实验。