激光与光电子学进展, 2023, 60 (8): 0811019, 网络出版: 2023-04-13  

拼接集成成像光场3D显示的片源渲染平台特邀研究论文

Source Rendering Platform for Splicing Realized Integral Imaging Light Field 3D Display
作者单位
北京航空航天大学仪器科学与光电工程学院,北京 100191
摘要
多屏拼接可以实现不同幅面的集成成像光场三维(3D)显示,但是3D片源生成过程十分复杂。为此,提出一个3D片源渲染平台,该平台可为多屏拼接的集成成像光场3D显示提供片源,使得再现的3D图像正确且无错位。在3D片源渲染过程中,首先计算出微图像阵列的分辨率等参数,利用开放式图形库(OpenGL)渲染出初始微图像阵列;然后,对初始微图像阵列进行拆分、投影变换及重拼接,得到用于拼接集成成像光场3D显示的微图像阵列;将3D片源渲染程序使用应用程序开发框架(Qt)封装为可视化3D片源渲染平台,该平台支持.obj和.fbx等格式的3D模型输入以及16K及以上分辨率的微图像阵列输出。实验结果表明,将3D片源渲染平台生成的微图像阵列用于双8K屏拼接的集成成像光场3D显示器上,可显示正确的3D图像。该3D片源渲染平台可满足多屏拼接的集成成像光场3D显示内容生成需求,有望在展览展示等领域得到应用。
Abstract
Multiscreen splicing can realize integral imaging light field 3D displays with various sizes; however, the 3D source generation process is complex. This study proposes a 3D source rendering platform that can provide sources for the multiscreen splicing realized integral imaging light field 3D display. The obtained 3D images can be reproduced accurately without misalignment. In the process of the 3D source rendering, first, the parameters such as the resolution of an elemental image array are calculated. The Open Graphics Library (OpenGL) is employed to render an initial elemental image array. Second, an elemental image array for the splicing realized integral imaging light field 3D display is obtained by splitting the initial elemental image array, using the projection transform, and splicing the sub-elemental image array. The 3D source rendering program is packaged as a visual 3D source rendering platform based on Qt (Application Development Framework), which supports the input of multiple formats of 3D models, such as .obj and .fbx, as well as the output of an elemental image array with resolution of 16K and above. The experimental results demonstrate that the elemental image array generated using the 3D source rendering platform can realize an accurate 3D image on an integral imaging light field 3D display that is spliced using dual 8K resolution screens. The proposed 3D source rendering platform can meet the 3D source generation needs of the multiscreen splicing realized integral imaging light field 3D display, which can be used during exhibitions and in other fields.

1 引言

光场3D显示重构出物体表面发出的高密度光线,使人眼接收到与原始3D场景相似的离散光线信息,呈现出逼真的3D显示效果1-4。光场3D显示无需眼镜等辅助设备,无佩戴束缚5-7。光场3D显示主要包括集成成像光场3D显示8-10、投影光场3D显示11-12、衍射光场3D显示13和压缩光场3D显示等14-15。其中集成成像光场3D显示利用微透镜阵列实现对4D光场的重构,具有全彩色、全视差以及结构简单等优势。典型的集成成像光场3D显示器主要包括2D显示面板、透镜阵列和光学扩散屏。采用多屏拼接可以实现不同幅面和分辨率的集成成像光场3D显示效果,但是2D显示面板之间无法精确对准,3D图像易发生错位。此外,根据不同的拼接方式,2D显示面板的个数和排布方式不同,使得整个3D片源的渲染过程较为复杂。

很多学者围绕拼接集成成像光场3D显示和3D片源的渲染方法开展了研究工作。日本NHK公司提出了一种并行排列多个投影仪的方法,结合图像处理技术,增大了集成成像光场3D显示区域的尺寸,但系统庞大,投影仪校正复杂16。北京邮电大学提出了一种大尺寸集成成像光场3D显示器,该显示器由15块液晶显示面板(LCD)拼接而成,每个LCD播放的3D片源由单独的计算机渲染17。长春理工大学提出了一种基于微型发光二极管(LED)的集成成像光场3D显示系统,使用4×4透镜阵列单元和LED面板单元组合实现了拼接的3D显示,每个单元间的拼接误差由水平导轨调整18

对于3D片源的渲染,可以采用光栅化、光线跟踪及基于深度图像的渲染等技术19-20。光栅化技术在计算机中搭建虚拟相机阵列,每个虚拟相机代表一个视点,逐个渲染出视点图像并合成最终的3D片源,该方法渲染质量高,但过程较为复杂21-23。光线跟踪技术计算光线从视点出发到2D显示面板像素最终的颜色,该方法渲染效率高,但渲染质量有待提升。基于深度图像的渲染技术利用深度图和彩色图生成虚拟视点图像,该方法主要利用深度信息计算虚拟视点图像,但渲染结果会产生空洞,影响观看体验。

本文提出一种拼接集成成像光场3D显示的片源渲染平台。首先根据不同的拼接方式渲染初始微图像阵列,然后根据拼接参数对初始微图像阵列进行拆分、投影变换和重拼接等操作,生成可直接适用于不同参数的拼接集成成像光场3D显示的微图像阵列。该平台渲染的3D片源在两块8K 2D显示面板拼接的集成成像光场3D显示器上进行了验证,显示的3D图像正确且无错位。

2 拼接集成成像光场3D显示的片源渲染算法

2.1 拼接集成成像光场3D显示器的结构

拼接集成成像光场3D显示器由2D显示面板、透镜阵列和光学扩散屏组成,如图1所示。2D显示面板用于显示3D片源,多个2D显示面板可以按实际需求进行拼接。每个2D显示面板上显示一幅子微图像阵列,所有子微图像阵列组成一幅完整的微图像阵列,对应于上方的透镜阵列。为使显示的3D图像凸出显示屏,2D显示面板与透镜阵列的距离为透镜焦距的1倍到2倍。透镜阵列放置于一块完整的支撑板上,并完全覆盖2D显示面板。透镜阵列用于调制2D显示面板上像素发出的光线方向,光线投射到上方的光学扩散屏。光学扩散屏位于中心深度平面处,其对光线进行特定角度的扩散,再现出连续完整的3D图像。

图 1. 拼接集成成像光场3D显示器结构

Fig. 1. Structure of the spliced integral imaging light field 3D display

下载图片 查看所有图片

2.2 3D片源渲染算法流程

受拼接方式和拼缝尺寸的影响,传统方法生成的一幅完整微图像阵列无法和透镜阵列准确对应,无法生成正确的3D图像。因此,需要先将拼缝宽度覆盖的像素数目考虑在内,将2D显示面板看作一个整体,生成一幅完整的初始微图像阵列。再针对每个2D显示面板所处的位置,对初始微图像阵列进行拆分和投影变换等处理,使3D图像能够正确且完整地再现。

所提3D片源生成方法的流程如图2所示,包括初始微图像阵列的渲染、拆分、投影变换以及子微图像阵列的重拼接4个步骤。

图 2. 3D片源生成方法的流程

Fig. 2. Flowchart of the 3D source generation method

下载图片 查看所有图片

第1步,初始微图像阵列的渲染。拼接集成成像光场3D显示器的2D显示面板由多个相同规格的等间隔沿水平或垂直方向排列而成的2D显示面板组成。为生成拼接集成成像光场3D显示所需的微图像阵列,首先确定每个2D显示面板的分辨率i×j以及2D显示面板的个数M×N。通过测量水平和垂直方向的拼缝宽度,得到水平和垂直拼缝所覆盖的像素个数p×q。根据拼接的2D显示面板的相关参数,在计算机中进行渲染得到初始微图像阵列。具体地,首先使用模型加载库将目标3D模型的顶点、法线和纹理等加载进OpenGL;然后,利用OpenGL根据透镜阵列的排列方式搭建虚拟相机阵列,其中每个相机采用离轴拍摄的方式得到3D模型在不同视角下的视差图像;最后,进行像素映射,对视差图像的像素点颜色进行离散采样,将结果赋值到初始微图像阵列中,即可渲染出一幅初始的微图像阵列。该初始微图像阵列的分辨率I×J表示为

I=M×i+M-1p,J=N×j+N-1q

第2步,拆分初始微图像阵列。依据M×N个2D显示面板的排列方式,将初始微图像阵列拆分为M×N幅子微图像阵列,如图3所示。每幅子微图像阵列的分辨率与单个2D显示面板的分辨率一致,均为i×j个像素。

图 3. 初始微图像阵列的拆分示意图

Fig. 3. Schematic of the splitting initial elemental image array

下载图片 查看所有图片

第3步,子微图像阵列的投影变换。多屏拼接的集成成像光场3D显示效果与拼接工艺有一定关系。在实际拼接过程中,受拼接误差的影响,2D显示面板无法实现理想的拼接效果,使得3D图像在拼缝处出现错位和割裂等现象,严重影响了观看体验。为解决拼接误差的影响,需对多屏拼接的3D图像进行对准校正。首先,将“网格”测试模型放置在中心深度平面处,生成一张测试初始微图像阵列,将该测试初始微图像阵列在拼接集成成像光场3D显示器上显示;然后,利用相机拍摄实际显示的“网格”3D图像,将其与理想“网格”3D图像重合。求出每一个子微图像阵列对应的旋转角θmn和横向与纵向的平移距离(Δxmn,Δymn),其中mn分别为子微图像阵列的索引,m=1,2,…,Mn=1,2,…,N。设子微图像阵列的旋转中心坐标为(umnvmn),则投影变换矩阵可以表示为

Hm,n=10Δxm,n01Δym,n001×cosθm,n-sinθm,num,n-um,ncosθm,n+vm,nsinθm,nsinθm,ncosθm,nvm,n-um,nsinθm,n-vm,ncosθm,n001

最后,对每个子微图像阵列进行投影变换。投影变换后的第(mn)个子微图像阵列的像素索引(x′, y′)为

x'y'1m,n=sm,nHm,nxy1m,n,

式中:(xy)表示变换前的子微图像阵列的像素索引;smn表示缩放因子。

第4步,子微图像阵列的重拼接。重拼接方式根据不同的控制方式确定。第一种控制方式下,每个2D显示面板由一个主机独立控制,在该方式下子微图像阵列无需拼接。第二种控制方式为多屏联合方式,每台主机控制s×t个2D显示面板,该方式需要对s×t个子微图像阵列进行拼接,拼接后的微图像阵列分辨率为(i×sj×t)。

3 3D片源渲染平台封装

根据上述3D片源渲染方法,将初始微图像阵列的渲染、拆分、投影变换及子微图像阵列的重拼接等过程通过应用程序开发框架(Qt)封装为可视化的3D片源渲染平台,为拼接集成成像光场3D显示器提供正确的3D片源。

首先,在Qt中建立该3D片源渲染平台的图形用户界面(GUI),设置关于多屏拼接、2D显示面板、透镜阵列、虚拟相机和3D模型等的输入接口。接着,新编写OpenGL Widget类作为模型渲染窗口,从模型渲染窗口可以以虚拟相机阵列中心相机的视角观看加载的目标3D模型。该平台使用Assimp(开放式资源加载库)实现.obj与.fbx两种不同格式的3D模型导入,并通过设置鼠标与键盘调整3D模型的大小、位置和旋转角等参数。然后,设置渲染“开始”和结果“保存”按钮。当调整好预设参数后,点击“开始”按钮,该平台就会根据参数渲染初始微图像阵列,界面进度条会实时显示渲染进度,渲染完成后会将初始微图像阵列呈现在渲染平台界面上。若结果符合预期,该平台就会对初始微图像阵列进行拆分,并加载保存在该平台相同路径下的投影变换矩阵,对每幅原始子微图像阵列进行投影变换。最后,对子微图像阵列按照多屏拼接参数进行重拼接,按不同拼接方式相应导出拼接后的微图像阵列或未拼接的子微图像阵列,在具有不同控制方式的拼接集成成像光场3D显示器显示。3D片源渲染平台界面如图4所示。

图 4. 3D片源渲染平台。(a)渲染平台界面;(b)模型渲染窗口

Fig. 4. 3D source rendering platform. (a) Rendering platform interface; (b) model rendering window

下载图片 查看所有图片

4 实验验证与结果分析

为验证所提拼接集成成像光场3D显示片源渲染平台的有效性,首先合成了不同分辨率的重拼接后的微图像阵列,测试的渲染时间如表1所示。所采用的计算机CPU为AMD Ryzen 75800H、主频3.20 GHz,内存为16 GB,GPU为NVIDIA GeForce RTX 3060 Laptop,显存为13.9 GB,其中专用内存6 GB。由于每次软件渲染时间会有一定差异,所以在测试时连续渲染5次,取平均渲染时间进行记录。

所渲染分辨率为7680×8640的3D片源在43.5 inch(1 inch=2.54 cm)双8K屏拼接集成成像光场3D显示器上进行了实验验证。该集成成像光场3D显示器的2D显示面板由1×2个液晶显示面板拼接而成,每个液晶显示面板的尺寸为43.5 inch,分辨率为7680×4320个像素,单个像素的物理尺寸为0.09 mm,总体液晶显示面板的分辨率为7680×8640个像素。拼接集成成像光场3D显示器的环视视角有360°,垂直视角为68.5°。实验选用“山地”3D模型,如图5所示。

表 1. 不同分辨率下的平均渲染时间

Table 1. Average rendering time at different resolutions

Resolution1920×10803840×21607680×864015360×8640
Rendering time /s8.869.3611.0914.20

查看所有表

图 5. “山地”3D模型

Fig. 5. "Mountain" 3D model

下载图片 查看所有图片

将“山地”3D模型导入所提3D片源渲染平台后进行渲染,生成一幅分辨率为7680×8850个像素的初始微图像阵列,经拆分、投影变换及子微图像阵列的重拼接处理后,输出1幅分辨率为7680×8640个像素的微图像阵列。将该微图像阵列输入到由1台主机控制的集成成像光场3D显示器上,3D显示效果如图6所示。可以看出,所提拼接集成成像光场3D显示片源渲染平台生成的微图像阵列能够使3D图像正确显示,验证了所生成3D片源的有效性。图7还给出了“魔方”3D模型校正前后在0°位置拍摄的3D图像对比,可以看出,校正后拼缝处的3D图像无错位。

图 6. 集成成像光场3D显示器校正后的显示效果。(a)0°;(b)-90°;(c)90°;(d)180°

Fig. 6. Corrected display effect of integral imaging light field 3D display after correction. (a) 0°; (b) -90°; (c) 90°; (d) 180°

下载图片 查看所有图片

图 7. 校正前后3D图像的对比。(a)校正前;(b)校正后

Fig. 7. Comparison of 3D image before and after correction. (a) Before correction; (b) after correction

下载图片 查看所有图片

5 结论

提出一种拼接集成成像光场3D显示的片源渲染平台,该平台适用于多屏拼接集成成像光场3D显示器的内容生成,可快速直观地渲染显示所需的微图像阵列。在双屏拼接的集成成像光场3D显示器上进行实验,结果表明采用该平台渲染出的微图像阵列可直接用于该集成成像光场3D显示器,显示的3D图像正确无错位。该渲染平台支持16K及以上分辨率的3D片源渲染,操作简单,有望在展览展示等领域得到应用。

参考文献

[1] 王琼华. 3D显示技术与器件[M]. 北京: 科学出版社, 2011: 216-239. 10.1002/j.2637-496x.2011.tb00390.x

    WangQ H. 3D display technology and devices[M]. Beijing: Science Press, 2011: 216-239.

[2] Geng J. Three-dimensional display technologies[J]. Advances in Optics and Photonics, 2013, 5(4): 456-535.

[3] Fang X Y, Yang H C, Yao W Z, et al. High-dimensional orbital angular momentum-multiplexing nonlinear holography[J]. Advanced Photonics, 2021, 3(1): 015001.

[4] Martínez-Corral M, Javidi B. Fundamentals of 3D imaging and displays: a tutorial on integral imaging, light-field, and plenoptic systems[J]. Advances in Optics and Photonics, 2018, 10(3): 512-566.

[5] Chen F H, Qiu C F, Liu Z J. Investigation of autostereoscopic displays based on various display technologies[J]. Nanomaterials, 2022, 12(3): 429.

[6] When D, Cadusch J, Meng J, et al. Light field on a chip: metasurface-based multicolor holograms[J]. Advanced Photonics, 2021, 3(2): 024001.

[7] Kim J, Seong J, Yang Y, et al. Tunable metasurfaces toward versatile metalenses and metaholograms: a review[J]. Advanced Photonics, 2022, 4(2): 024001.

[8] Xiao X, Javidi B, Martinez-Corral M, et al. Advances in three-dimensional integral imaging: sensing, display, and applications[J]. Applied Optics, 2013, 52(4): 546-560.

[9] Zhao Z F, Liu J, Zhang Z Q, et al. Bionic-compound-eye structure for realizing a compact integral imaging 3D display in a cell phone with enhanced performance[J]. Optics Letters, 2020, 45(6): 1491-1494.

[10] 李敏, 朴燕, 邓莉巾. 基于LED屏裸眼三维集成成像显示技术的空间分辨率研究[J]. 激光与光电子学进展, 2020, 57(6): 061004.

    Li M, Piao Y, Deng L J. Spatial resolution of naked eye three-dimensional integral imaging display based on an LED screen[J]. Laser & Optoelectronics Progress, 2020, 57(6): 061004.

[11] 谷俊, 陶宇虹, 王琼华, 等. 基于双狭缝光栅的裸眼三维立体投影机[J]. 激光与光电子学进展, 2009, 46(8): 31-33.

    Gu J, Tao Y H, Wang Q H, et al. An autostereoscopic 3D projector based on two parallax barrier plates[J]. Laser & Optoelectronics Progress, 2009, 46(8): 31-33.

[12] Lee J H, Park J, Nam D, et al. Optimal projector configuration design for a 300-Mpixel multi-projection 3D display[J]. Optics Express, 2013, 21(22): 26820-26835.

[13] Fattal D, Peng Z, Tran T, et al. A multi-directional backlight for a wide-angle, glasses-free three-dimensional display[J]. Nature, 2013, 495(7441): 348-351.

[14] Lanman D, Wetzstein G, Hirsch M, et al. Polarization fields: dynamic light field display using multi-layer LCDs[J]. ACM Transactions on Graphics, 2011, 30(6): 1-10.

[15] 乔文, 周冯斌, 陈林森. 距离移动电子设备有多远?裸眼3D显示现状与展望[J]. 红外与激光工程, 2020, 49(3): 0303002.

    Qiao W, Zhou F B, Chen L S. Toward the application of mobile devices: the status and future of glasses-free 3D display[J]. Infrared and Laser Engineering, 2020, 49(3): 0303002.

[16] Okaichi N, Miura M, Sasaki H, et al. Continuous combination of viewing zones in an integral three-dimensional display using multiple projectors[J]. Optical Engineering, 2018, 57(6): 061611.

[17] Chen Y, Sang X Z, Li Y H, et al. Distributed real-time rendering for ultrahigh-resolution multiscreen 3D display[J]. Journal of the Society for Information Display, 2022, 30(3): 244-255.

[18] Wu W, Wang S G, Zhong C, et al. Integral imaging with full parallax based on a mini LED display unit[J]. IEEE Access, 2019, 7: 32030-32036.

[19] 邢树军, 曹良才, 桑新柱, 等. 面向超多视点光场的虚拟立体内容生成技术综述[J]. 中国激光, 2021, 48(15): 1509001.

    Xing S J, Cao L C, Sang X Z, et al. Overview of virtual stereo content generation technology for super multi-view light field[J]. Chinese Journal of Lasers, 2021, 48(15): 1509001.

[20] Shen S, Xing S J, Sang X Z, et al. Virtual stereo content rendering technology review for light-field display[J]. Displays, 2023, 76: 102320.

[21] Xia Y P, Li S, Ren H, et al. High-efficient rendering to generate an annular sector elemental image array for tabletop integral imaging three-dimensional display[J]. Journal of the Society for Information Display, 2021, 29(8): 632-641.

[22] Wang J C, Suenaga H, Liao H E, et al. Real-time computer-generated integral imaging and 3D image calibration for augmented reality surgical navigation[J]. Computerized Medical Imaging and Graphics, 2015, 40: 147-159.

[23] Ma X M, Xing Y, Zheng J C, et al. A real-time interactive rendering method for 360° tabletop integral imaging 3D display[J]. Journal of the Society for Information Display, 2021, 29(9): 679-688.

李伟泽, 王琼华, 王童语, 张林博, 张汉乐, 邢妍. 拼接集成成像光场3D显示的片源渲染平台[J]. 激光与光电子学进展, 2023, 60(8): 0811019. Weize Li, Qionghua Wang, Tongyu Wang, Linbo Zhang, Hanle Zhang, Yan Xing. Source Rendering Platform for Splicing Realized Integral Imaging Light Field 3D Display[J]. Laser & Optoelectronics Progress, 2023, 60(8): 0811019.

引用该论文: TXT   |   EndNote

相关论文

加载中...

关于本站 Cookie 的使用提示

中国光学期刊网使用基于 cookie 的技术来更好地为您提供各项服务,点击此处了解我们的隐私策略。 如您需继续使用本网站,请您授权我们使用本地 cookie 来保存部分信息。
全站搜索
您最值得信赖的光电行业旗舰网络服务平台!