CN111028357A - 增强现实设备的软阴影处理方法和装置 - Google Patents
增强现实设备的软阴影处理方法和装置 Download PDFInfo
- Publication number
- CN111028357A CN111028357A CN201811171149.0A CN201811171149A CN111028357A CN 111028357 A CN111028357 A CN 111028357A CN 201811171149 A CN201811171149 A CN 201811171149A CN 111028357 A CN111028357 A CN 111028357A
- Authority
- CN
- China
- Prior art keywords
- shadow
- camera
- motion vector
- movement distance
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003190 augmentative effect Effects 0.000 title claims abstract description 43
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 230000033001 locomotion Effects 0.000 claims abstract description 249
- 238000000034 method Methods 0.000 claims abstract description 40
- 238000012545 processing Methods 0.000 claims description 24
- 238000009877 rendering Methods 0.000 claims description 18
- 239000011159 matrix material Substances 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 13
- 230000000694 effects Effects 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- -1 game console Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000013403 standard screening design Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明实施例提供一种增强现实设备的软阴影处理方法和装置。该方法包括:获取增强现实设备的运动向量,根据运动向量,获取增强现实设备的AR场景相机的第一移动向量,其中,AR场景相机随所述增强现实设备的移动而移动;根据第一移动向量,确定阴影相机的第二移动向量;控制阴影相机移动第二移动向量后,生成阴影图,其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素,根据阴影图生成并输出图像帧。本发明实施例的方法,消除了AR设备移动时软阴影边缘的闪烁。
Description
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及一种增强现实设备的软阴影处理方法和装置。
背景技术
增强现实(Augmented Reality,简称:AR)应用中,需要将虚拟场景和真实场景叠加起来,其中真实场景来自摄像头拍摄的真实场景照片,而虚拟场景通常通过一些模型表示,如果直接将模型叠加至场景照片上,会因为缺少阴影,而出现明显的违和感,为了增强AR场景的真实度的,可以在AR场景中增加阴影。进一步的,可以通过软阴影(Soft Shadow)技术在阴影周边制造虚化的效果,以模拟真实场景中的阴影渐变,进一步提升AR场景的真实度。
现有基于阴影图(Shadow Map)的阴影算法,会在阴影边缘产生锯齿。现有技术中通常采用百分比渐进法(PCF)在去除锯齿的同时实现软阴影效果。然而这类算法需要投入大量的计算量进行多重采样插值保证阴影边缘的锯齿被完全消除,否则将会导致AR设备移动时,阴影边缘出现闪烁。
发明内容
本发明实施例提供一种增强现实设备的软阴影处理方法和装置,以低计算成本解决现有AR设备移动时软阴影边缘会出现闪烁的问题。
第一方面,本发明实施例提供一种增强现实设备的软阴影处理方法,包括:
获取增强现实AR设备的运动向量,根据运动向量,获取AR设备的AR场景相机的第一移动向量,其中,AR场景相机随AR设备的移动而移动;
根据第一移动向量,确定AR设备的阴影相机的第二移动向量;
AR场景相机进行场景渲染;
阴影相机进行阴影渲染,生成图像帧中的阴影图;
根据AR场景相机和阴影相机的渲染结果生成图像帧;
其中,图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;
控制阴影相机移动第二移动向量;
生成阴影图;
根据阴影图生成并输出图像帧;
其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素。
在一种可能的实现方式中,根据第一移动向量,确定AR设备的阴影相机的第二移动向量,包括:
将第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离;灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴;
根据单个阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离;
根据第三移动距离和第四移动距离,确定AR设备的阴影相机的第二移动向量。
在一种可能的实现方式中,根据第三移动距离和第四移动距离,确定AR设备的阴影相机的第二移动向量,包括:
将平面向量F(S3,S4,0)从灯光空间反向投影到世界空间,获得第二移动向量;
其中,S3表示第三移动距离,S4表示第四移动距离。
在一种可能的实现方式中,根据单个阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离,包括:
根据如下公式确定第三移动距离:
S3=floor(S1/L)*L;
根据如下公式确定第四移动距离:
S4=floor(S2/W)*W;
其中,S1表示第一移动距离,S2表示第二移动距离,S2表示第三移动距离,S4表示第四移动距离,floor表示向下取整,L表示真实长度,W表示真实宽度。
在一种可能的实现方式中,所述方法还包括:
获取AR场景相机的视锥在灯光空间中的包围盒;
获取包围盒在XoY平面的投影区域的长度和宽度;
将长度除以阴影图的分辨率长度,获得真实长度,将宽度除以阴影图的分辨率宽度,获得真实宽度。
在一种可能的实现方式中,获取AR场景相机的视锥在灯光空间中的包围盒,包括:
获取AR场景相机的视锥的包围球;
将包围球转换到灯光空间,并获取包围球在灯光空间的包围盒。
在一种可能的实现方式中,将第一移动向量投影到灯光空间的XoY平面,包括:
通过预设矩阵,将第一移动向量投影到XoY平面。
在一种可能的实现方式中,所述方法还包括:
根据灯光的参数,确定预设矩阵;
灯光的参数包括:灯光的位置、姿态角、视场角fov的角度。
第二方面,本发明实施例提供一种增强现实设备的软阴影处理装置,包括:
获取模块,用于获取增强现实AR设备的运动向量,根据运动向量,获取AR设备的AR场景相机的第一移动向量,其中,AR场景相机随AR设备的移动而移动;
确定模块,用于根据第一移动向量,确定AR设备的阴影相机的第二移动向量;
控制模块,用于控制AR场景相机进行场景渲染;阴影相机进行阴影渲染,生成图像帧中的阴影图;根据AR场景相机和阴影相机的渲染结果生成图像帧;其中,图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;控制阴影相机移动第二移动向量;
处理模块,用于生成阴影图;根据阴影图生成并输出图像帧;其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素。
第三方面,本发明实施例提供一种AR设备,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如第一方面任一项所述的方法。
第四方面,本发明实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现如第一方面任一项所述的方法。
本发明实施例提供的增强现实设备的软阴影处理方法和装置,通过获取增强现实设备的运动向量,根据运动向量,获取增强现实设备的AR场景相机的第一移动向量,并根据第一移动向量,确定能够使阴影相机生成的阴影图移动整数个像素的第二移动向量,保证了移动后的阴影图不会切分像素,移动前后的阴影图中的像素能够完全对齐,避免出现闪烁,控制阴影相机移动第二移动向量,生成阴影图,根据阴影图生成并输出图像帧,消除了AR设备移动时软阴影边缘的闪烁,提高了AR场景中软阴影的质量,而且本实施例提供的方法计算量小,使得低性能的AR设备也能够拥有高质量的阴影效果,提高了用户体验。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1为本发明提供的增强现实设备的软阴影处理方法一实施例的流程图;
图2为本发明提供的AR设备移动时阴影图移动的示意图;
图3为本发明提供的增强现实设备的软阴影处理方法又一实施例的流程图;
图4为本发明提供的增强现实设备的软阴影处理装置一实施例的结构示意图;
图5为本发明提供的AR设备一实施例的结构示意图。
通过上述附图,已示出本发明明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本发明构思的范围,而是通过参考特定实施例为本领域技术人员说明本发明的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
本发明的说明书和权利要求书中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
本发明中的“第一”和“第二”只起标识作用,而不能理解为指示或暗示顺序关系、相对重要性或者隐含指明所指示的技术特征的数量。“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
本发明的说明书中通篇提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
首先对本发明实施例所涉及的本领域的术语进行解释:
灯光空间,是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴,形成的空间。灯光空间XoY平面,是灯光空间的X轴和Y轴所形成的平面。
场景相机:指在三维场景中,用于进行场景图像渲染的相机,主要功能是将视野中的对象通过透视投影、正交投影到相机的近裁剪面,将投影结果栅格化后输出其RGBA值。
阴影相机:指在三维场景中,用于进行深度渲染的相机,与场景相机唯一不同的是,阴影相机的输出为深度值。
世界空间:世界空间是指定义在世界空间坐标系下的空间,是一个全局坐标系,它的原点位于场景的中心。世界空间用来放置对象,每个对象在世界空间中都有它们自己独一无二的世界空间矩阵。世界空间用于对三维场景中的对象位置、尺寸以及旋转进行描述。所有的局部坐标系都定义在世界空间坐标系下,世界空间坐标系是局部空间坐标系互相转化的桥梁。
上述术语均为本领域技术人员所公知的技术术语。
图1为本发明提供的增强现实设备的软阴影处理方法一实施例的流程图。如图1所示,本实施例的方法可以包括:
步骤S101、获取增强现实AR设备的运动向量,根据运动向量,获取AR设备的AR场景相机的第一移动向量,其中,AR场景相机随AR设备的移动而移动。
本实施例中的AR设备可以理解为一切可以运行AR应用的设备,包括但不限于计算机、智能手机、AR头盔、AR眼镜、游戏控制台、平板设备等。AR设备以移动设备居多,当AR设备移动时,AR场景相机也随着AR设备的移动而移动。而阴影是增强AR场景真实度的一个重要技术手段,理想的情况为,当AR场景相机移动时,阴影也需要随着AR场景相机的移动而移动。
本实施例提供的方法以图像帧为单位进行软阴影处理,针对每一帧图像分别进行处理。获取增强现实设备的运动向量,根据运动向量,获取增强现实设备的AR场景相机的第一移动向量。其中,增强现实设备的运动向量可以通过传感器获取,例如可以通过运动传感器获得。根据运动向量,获取增强现实设备的AR场景相机的第一移动向量,可以根据现有技术的方法获取,本实施例对此不再赘述。可以理解的是,第一移动向量包含了AR场景相机在当前帧相对于当前帧的前一帧的移动方向和移动距离。
步骤S102、根据第一移动向量,确定AR设备的阴影相机的第二移动向量。
现有技术中,当AR场景相机移动第一移动向量时,阴影相机也移动第一移动向量,由于AR场景相机移动的不确定性,导致阴影相机移动后生成的阴影图切分像素,移动前后的阴影图中的像素不能够完全对齐,因此在阴影边缘出现闪烁。现有技术为了消除闪烁,实现软阴影,投入了大量的计算,如进行多重采样插值,对于一个像素需要使用周围至少9*9=81个像素进行计算。现代显示设备分辨率通常极高,对于常见的分辨率如1920*1080的一帧图像来说,采样次数约1.6亿次/帧,计算量相当庞大,使得低性能的AR设备上无法拥有高质量的阴影效果,限制了AR应用的使用,降低了用户体验。
而本实施例中,根据第一移动向量,确定阴影相机的第二移动向量。通过精确规划阴影相机的移动距离,让阴影相机每次移动后生成的阴影图都移动整数个像素的大小,保证了阴影相机移动后生成的阴影图不会切分像素,从而让移动前和移动后的阴影图中的像素能够完全对齐,移动前后两帧中的锯齿也能够完全对齐,从而消除了闪烁。由于无需再通过大量计算消除闪烁,因此本实施例提供的方法,在实现同等质量的软阴影效果时,只需要较小的计算量。例如,实现与现有技术中通过9*9=81个像素进行计算相同的软阴影效果时,本实施例提供的方法只需要对一个像素周围3*3=9个像素进行计算,使得计算量只有原来的1/9,大幅降低了计算量,使得低性能的AR设备上也可以拥有高质量的阴影效果。
步骤S103、控制AR场景相机进行场景渲染;阴影相机进行阴影渲染,生成图像帧中的阴影图;根据AR场景相机和阴影相机的渲染结果生成图像帧;其中,图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;控制阴影相机移动第二移动向量。
在确定了能够使阴影图移动整数个像素的第二移动向量后,控制阴影相机移动第二移动向量。
图2为本发明提供的AR设备移动时阴影图移动的示意图。如图2所示,其中,网格线所示平面表示灯光空间的XoY平面,灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴。右图表示当前帧,左图表示当前帧的前一帧,即左图表示移动前的帧,右图表示移动后的帧。
梯形区域为AR场景相机的可视区域,矩形区域为阴影图覆盖区域。从图2可以看出,AR场景相机的可视区域移动了非整数个像素对应的距离,图中虚线矩形框表示现有技术中阴影图的移动方式,即阴影相机生成的阴影图与AR场景相机的可视区域移动相同向量。由图2可以看出,采用现有技术移动后的阴影图,即图2中虚线矩形框所示区域切分了像素,会导致了软阴影的闪烁。而本实施例提供的移动方式,即图2中右图实线矩形框区域,在阴影相机跟着AR场景相机移动的过程中,引入一个微小的偏移,让阴影相机生成的阴影图每次移动都是整数个像素的大小,确保阴影图不会切分像素,让移动前后的阴影图中的像素能够完全重合,从而让人眼察觉不出锯齿的移动,解决了软阴影的闪烁问题。
步骤S104、生成阴影图;根据阴影图生成并输出图像帧;其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素。
将生成的阴影图应用于当前帧的AR场景,使得当前帧的AR场景更加真实逼真,至此完成了当前帧图像的处理。若当前帧是最后一帧,则结束处理,若当前帧不是最后一帧,则继续下一帧图像的处理。
本实施例提供的增强现实设备的软阴影处理方法,通过获取增强现实设备的运动向量,根据运动向量,获取增强现实设备的AR场景相机的第一移动向量,并根据第一移动向量,确定能够使阴影相机生成的阴影图移动整数个像素的第二移动向量,保证了移动后的阴影图不会切分像素,移动前后的阴影图中的像素能够完全对齐,避免出现闪烁,控制阴影相机移动第二移动向量,生成阴影图,根据阴影图生成并输出图像帧,消除了AR设备移动时软阴影边缘的闪烁,提高了AR场景中软阴影的质量,而且本实施例提供的方法计算量小,使得低性能的AR设备也能够拥有高质量的阴影效果,提高了用户体验。
在上述实施例的基础上,本实施例针对上述实施例中的步骤S102进行进一步的详细说明。
在一种可能的实现方式中,根据第一移动向量,确定AR设备的阴影相机的第二移动向量,可以包括:
步骤S1021、将第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离。
其中,灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴。
可选的,可以通过预设矩阵,将第一移动向量投影到XoY平面。其中,预设矩阵反映了世界空间到灯光空间的XoY平面的映射关系,可以根据灯光的参数确定。灯光的参数可以包括:灯光的位置、姿态角、视场角fov的角度等。
步骤S1022、根据单个阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离。
其中,单个阴影图像素的真实长度和真实宽度,代表了一个阴影图像素所表示的灯光空间的XoY平面中的长度和宽度。可选的,可以通过如下方法确定单个阴影图像素的真实长度和真实宽度:
首先,获取AR场景相机的视锥在灯光空间中的包围盒。其中,AR场景相机的视锥可以理解为一个去掉顶部的金字塔形,获取AR场景相机的视锥的包围球,将包围球转换到灯光空间,并获取包围球在灯光空间的包围盒,即AR场景相机的视锥在灯光空间中的包围盒。
然后,获取包围盒在XoY平面的投影区域的长度和宽度。将包围盒投影到灯光空间的XoY平面,确定投影区域的长度和宽度,即为包围盒在XoY平面的投影区域的长度和宽度。
最后,将长度除以阴影图的分辨率长度,获得真实长度,将宽度除以阴影图的分辨率宽度,获得真实宽度。其中,阴影图的分辨率长度和宽度可以预先设定,例如可以设置为1024*1024。
在一种可能的实现方式中,根据单个阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离,可以包括:
根据如下公式确定第三移动距离:
S3=floor(S1/L)*L;
根据如下公式确定第四移动距离:
S4=floor(S2/W)*W;
其中,S1表示第一移动距离,S2表示第二移动距离,S2表示第三移动距离,S4表示第四移动距离,floor表示向下取整,L表示真实长度,W表示真实宽度。
通过向下取整,使得阴影相机在Z轴的第三移动距离以及在Y轴的第四移动距离都对应整数个像素。确保移动后的阴影图不会切分像素。
可以理解的是,本实施例中的向下取整操作也可以采用向上取整操作替换,同样可以确保移动后的阴影图不会切分像素。
步骤S1023、根据第三移动距离和第四移动距离,确定AR设备的阴影相机的第二移动向量。
在一种可能的实现方式中,可以将平面向量F(S3,S4,0)从灯光空间反向投影到世界空间,获得第二移动向量;其中,S3表示第三移动距离,S4表示第四移动距离。例如,可以采用投影矩阵,通过投影变换实现。投影矩阵反映了灯光空间的XoY平面到世界空间的映射关系,可选的,可以选用上述预设矩阵的逆矩阵作为投影矩阵。
本实施例提供的增强现实设备的软阴影处理方法,通过将AR场景相机的第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离,根据单个阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离,根据第三移动距离和第四移动距离,确定阴影相机的第二移动向量,控制阴影相机移动第二移动向量,消除了AR设备移动时软阴影边缘的闪烁,以较小的计算量实现了高质量的阴影效果。
图3为本发明提供的增强现实设备的软阴影处理方法又一实施例的流程图。如图3所示,本实施例的方法可以包括:
步骤S301、获取增强现实设备的运动向量,根据运动向量,获取AR设备的AR场景相机的第一移动向量,其中,AR场景相机随增强现实设备的移动而移动。
步骤S302、将第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离。
其中,灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴。
步骤S303、根据如下公式确定第三移动距离:S3=floor(S1/L)*L;
根据如下公式确定第四移动距离:S4=floor(S2/W)*W;
其中,S1表示第一移动距离,S2表示第二移动距离,S2表示第三移动距离,S4表示第四移动距离,floor表示向下取整,L表示真实长度,W表示真实宽度。
其中阴影图像素的真实长度和阴影图像素的真实宽度可以通过如下方法确定:获取AR场景相机的视锥的包围球,将包围球转换到灯光空间,并获取包围球在灯光空间的包围盒,获取包围盒在XoY平面的投影区域的长度和宽度,将长度除以阴影图的分辨率长度,获得阴影图像素对应的真实长度,将宽度除以阴影图的分辨率宽度,获得阴影图像素对应的真实宽度。
步骤S304、将平面向量F(S3,S4,0)从灯光空间反向投影到世界空间,获得第二移动向量;其中,S3表示第三移动距离,S4表示第四移动距离。
步骤S305、控制阴影相机移动第二移动向量后,生成阴影图,其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素。
步骤S306、根据阴影图生成并输出图像帧。
本实施例提供的增强现实设备的软阴影处理方法,通过将AR场景相机的第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离,根据阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,通过向下取整,确定阴影相机在X轴上对应的整数个像素的第三移动距离和在Y轴上对应的整数个像素的第四移动距离,将由第三移动距离和第四移动距离构成的平面向量从灯光空间反向投影到世界空间,获得第二移动向量,通过上述方法确定的第二移动向量,使得阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素,控制阴影相机移动第二移动向量后,生成阴影图,根据阴影图生成并输出图像帧,消除了AR设备移动时软阴影边缘的闪烁且降低了计算量,实现了高质量的阴影效果。使得低性能的AR设备也能够拥有高质量的阴影效果,扩大了AR场景的使用范围。
本发明实施例还提供一种增强现实设备的软阴影处理装置,请参见图4所示,本发明实施例仅以图4为例进行说明,并不表示本发明仅限于此。图4为本发明提供的增强现实设备的软阴影处理装置一实施例的结构示意图。该装置可以是AR设备,也可以是用于AR设备中的部件,如芯片、集成电路等。如图4所示,本实施例提供的增强现实设备的软阴影处理装置40可以包括:获取模块401、确定模块402、控制模块403和处理模块404。
获取模块401,用于获取增强现实AR设备的运动向量,根据运动向量,获取AR设备的AR场景相机的第一移动向量,其中,AR场景相机随AR设备的移动而移动。
确定模块402,用于根据第一移动向量,确定AR设备的阴影相机的第二移动向量。
控制模块403,用于控制AR场景相机进行场景渲染;阴影相机进行阴影渲染,生成图像帧中的阴影图;根据AR场景相机和阴影相机的渲染结果生成图像帧;其中,图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;控制阴影相机移动第二移动向量。
处理模块404,用于生成阴影图;根据阴影图生成并输出图像帧;其中,阴影相机移动第二移动向量后生成的阴影图与移动第二移动向量前生成的阴影图相比,移动整数个像素。
本实施例的装置,可以用于执行图1所示方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
在一种可能的实现方式中,确定模块402可以包括:第一确定子模块、第二确定子模块和第三确定子模块。
第一确定子模块,用于将第一移动向量投影到灯光空间的XoY平面,获得第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离;灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴。
第二确定子模块,用于根据阴影图像素的真实长度和真实宽度、第一移动距离和第二移动距离,确定阴影相机在X轴的第三移动距离和在Y轴的第四移动距离。
第三确定子模块,用于根据第三移动距离和第四移动距离,确定AR设备的阴影相机的第二移动向量。
在一种可能的实现方式中,第三确定子模块,具体可以用于,将平面向量F(S3,S4,0)从灯光空间反向投影到世界空间,获得第二移动向量;其中,S3表示第三移动距离,S4表示第四移动距离。
在一种可能的实现方式中,第二确定子模块,具体可以用于,
根据如下公式确定第三移动距离:
S3=floor(S1/L)*L;
根据如下公式确定第四移动距离:
S4=floor(S2/W)*W;
其中,S1表示第一移动距离,S2表示第二移动距离,S2表示第三移动距离,S4表示第四移动距离,floor表示向下取整,L表示真实长度,W表示真实宽度。
在一种可能的实现方式中,获取模块401还可以用于,
获取AR场景相机的视锥在灯光空间中的包围盒;
获取包围盒在XoY平面的投影区域的长度和宽度;
将长度除以阴影图的分辨率长度,获得真实长度,将宽度除以阴影图的分辨率宽度,获得真实宽度。
在一种可能的实现方式中,获取AR场景相机的视锥在灯光空间中的包围盒,可以包括:
获取AR场景相机的视锥的包围球;
将包围球转换到灯光空间,并获取包围球在灯光空间的包围盒。
在一种可能的实现方式中,第一确定子模块,具体可以用于,
通过预设矩阵,将第一移动向量投影到XoY平面。
可选的,可以根据灯光的参数,确定预设矩阵。其中,灯光的参数可以包括:灯光的位置、姿态角、视场角fov的角度。
本发明实施例还提供一种AR设备,请参见图5所示,本发明实施例仅以图5为例进行说明,并不表示本发明仅限于此。图5为本发明提供的AR设备一实施例的结构示意图。该AR设备可以是计算机、智能手机、AR头盔、AR眼镜、游戏控制台、平板设备等。如图5所示,本实施例提供的AR设备50可以包括:存储器501、处理器502和总线503。其中,总线503用于实现各元件之间的连接。
存储器501中存储有计算机程序,计算机程序被处理器502执行时可以实现上述任一方法实施例提供的增强现实设备的软阴影处理方法的技术方案。
其中,存储器501和处理器502之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可以通过一条或者多条通信总线或信号线实现电性连接,如可以通过总线503连接。存储器501中存储有实现增强现实设备的软阴影处理方法的计算机程序,包括至少一个可以软件或固件的形式存储于存储器501中的软件功能模块,处理器502通过运行存储在存储器501内的软件程序以及模块,从而执行各种功能应用以及数据处理。
存储器501可以是,但不限于,随机存取存储器(Random Access Memory,简称:RAM),只读存储器(Read Only Memory,简称:ROM),可编程只读存储器(ProgrammableRead-Only Memory,简称:PROM),可擦除只读存储器(Erasable Programmable Read-OnlyMemory,简称:EPROM),电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory,简称:EEPROM)等。其中,存储器501用于存储程序,处理器502在接收到执行指令后,执行程序。进一步地,上述存储器501内的软件程序以及模块还可包括操作系统,其可包括各种用于管理系统任务(例如内存管理、存储设备控制、电源管理等)的软件组件和/或驱动,并可与各种硬件或软件组件相互通信,从而提供其他软件组件的运行环境。
处理器502可以是一种集成电路芯片,具有信号的处理能力。上述的处理器502可以是通用处理器,包括中央处理器(Central Processing Unit,简称:CPU)、网络处理器(Network Processor,简称:NP)等。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。可以理解,图5的结构仅为示意,还可以包括比图5中所示更多或者更少的组件,或者具有与图5所示不同的配置。图5中所示的各组件可以采用硬件和/或软件实现。
本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时可以实现上述任一方法实施例提供的增强现实设备的软阴影处理方法的技术方案。本实施例中的计算机可读存储介质可以是计算机能够存取的任何可用介质,或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备,可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如SSD)等。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (11)
1.一种增强现实设备的软阴影处理方法,其特征在于,包括:
获取增强现实AR设备的运动向量,根据所述运动向量,获取所述AR设备的AR场景相机的第一移动向量,其中,所述AR场景相机随所述AR设备的移动而移动;
根据所述第一移动向量,确定所述AR设备的阴影相机的第二移动向量;
所述AR场景相机进行场景渲染;
所述阴影相机进行阴影渲染,生成图像帧中的阴影图;
根据所述AR场景相机和所述阴影相机的渲染结果生成图像帧;
其中,所述图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;
控制所述阴影相机移动所述第二移动向量;
生成阴影图;
根据所述阴影图生成并输出图像帧;
其中,所述阴影相机移动所述第二移动向量后生成的阴影图与移动所述第二移动向量前生成的阴影图相比,移动整数个像素。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第一移动向量,确定所述AR设备的阴影相机的第二移动向量,包括:
将所述第一移动向量投影到灯光空间的XoY平面,获得所述第一移动向量在X轴上的第一移动距离以及在Y轴上的第二移动距离;所述灯光空间是以灯光所在的位置为原点,灯光的照射方向为-Z轴,灯光的右方为X轴,灯光的上方为Y轴;
根据单个阴影图像素的真实长度和真实宽度、所述第一移动距离和所述第二移动距离,确定阴影相机在所述X轴的第三移动距离和在所述Y轴的第四移动距离;
根据所述第三移动距离和所述第四移动距离,确定所述AR设备的阴影相机的所述第二移动向量。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第三移动距离和所述第四移动距离,确定所述AR设备的阴影相机的所述第二移动向量,包括:
将平面向量F(S3,S4,0)从所述灯光空间反向投影到世界空间,获得所述第二移动向量;
其中,S3表示所述第三移动距离,S4表示所述第四移动距离。
4.根据权利要求2所述的方法,其特征在于,所述根据单个阴影图像素的真实长度和真实宽度、所述第一移动距离和所述第二移动距离,确定阴影相机在所述X轴的第三移动距离和在所述Y轴的第四移动距离,包括:
根据如下公式确定所述第三移动距离:
S3=floor(S1/L)*L;
根据如下公式确定所述第四移动距离:
S4=floor(S2/W)*W;
其中,S1表示所述第一移动距离,S2表示所述第二移动距离,S2表示所述第三移动距离,S4表示所述第四移动距离,floor表示向下取整,L表示所述真实长度,W表示所述真实宽度。
5.根据权利要求2所述的方法,其特征在于,还包括:
获取所述AR场景相机的视锥在所述灯光空间中的包围盒;
获取所述包围盒在所述XoY平面的投影区域的长度和宽度;
将所述长度除以阴影图的分辨率长度,获得所述真实长度,将所述宽度除以阴影图的分辨率宽度,获得所述真实宽度。
6.根据权利要求5所述的方法,其特征在于,所述获取所述AR场景相机的视锥在所述灯光空间中的包围盒,包括:
获取所述AR场景相机的视锥的包围球;
将所述包围球转换到所述灯光空间,并获取所述包围球在所述灯光空间的所述包围盒。
7.根据权利要求2所述的方法,其特征在于,所述将所述第一移动向量投影到灯光空间的XoY平面,包括:
通过预设矩阵,将所述第一移动向量投影到所述XoY平面。
8.根据权利要求7所述的方法,其特征在于,还包括:
根据灯光的参数,确定所述预设矩阵;
所述灯光的参数包括:灯光的位置、姿态角、视场角fov的角度。
9.一种增强现实设备的软阴影处理装置,其特征在于,包括:
获取模块,用于获取增强现实AR设备的运动向量,根据所述运动向量,获取所述AR设备的AR场景相机的第一移动向量,其中,所述AR场景相机随所述AR设备的移动而移动;
确定模块,用于根据所述第一移动向量,确定所述AR设备的阴影相机的第二移动向量;
控制模块,用于控制所述AR场景相机进行场景渲染;所述阴影相机进行阴影渲染,生成图像帧中的阴影图;根据所述AR场景相机和所述阴影相机的渲染结果生成图像帧;其中,所述图像帧中的阴影图相对于上一图像帧中的阴影图移动整数个像素;控制所述阴影相机移动所述第二移动向量;
处理模块,用于生成阴影图;根据所述阴影图生成并输出图像帧;其中,所述阴影相机移动所述第二移动向量后生成的阴影图与移动所述第二移动向量前生成的阴影图相比,移动整数个像素。
10.一种AR设备,其特征在于,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如权利要求1-8任一项所述的方法。
11.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被处理器执行以实现如权利要求1-8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811171149.0A CN111028357B (zh) | 2018-10-09 | 2018-10-09 | 增强现实设备的软阴影处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811171149.0A CN111028357B (zh) | 2018-10-09 | 2018-10-09 | 增强现实设备的软阴影处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111028357A true CN111028357A (zh) | 2020-04-17 |
CN111028357B CN111028357B (zh) | 2020-11-17 |
Family
ID=70190703
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811171149.0A Active CN111028357B (zh) | 2018-10-09 | 2018-10-09 | 增强现实设备的软阴影处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111028357B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024109247A1 (zh) * | 2022-11-21 | 2024-05-30 | 荣耀终端有限公司 | 图像处理方法及装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1653512A (zh) * | 2002-04-18 | 2005-08-10 | Jps集团控股有限公司 | 采用灰色阴影驱动方案的低功率lcd |
US20080152262A1 (en) * | 2006-12-22 | 2008-06-26 | Sony Corporation | Image processing device image processing method, and computer program |
CN102742272A (zh) * | 2010-01-18 | 2012-10-17 | 索尼公司 | 用于图像处理的设备和方法以及程序 |
CN102768765A (zh) * | 2012-06-25 | 2012-11-07 | 南京安讯网络服务有限公司 | 实时点光源软阴影渲染方法 |
CN104103092A (zh) * | 2014-07-24 | 2014-10-15 | 无锡梵天信息技术股份有限公司 | 一种基于聚光灯实时动态阴影的实现方法 |
CN104952103A (zh) * | 2015-05-19 | 2015-09-30 | 中国人民解放军理工大学 | 一种视点依赖的阴影贴图创建方法 |
CN105354833A (zh) * | 2015-10-12 | 2016-02-24 | 浙江宇视科技有限公司 | 一种阴影检测的方法和装置 |
CN107341853A (zh) * | 2017-07-13 | 2017-11-10 | 河北中科恒运软件科技股份有限公司 | 超大虚拟场景和动态摄屏的虚实融合方法及系统 |
CN108475441A (zh) * | 2016-01-22 | 2018-08-31 | 英特尔公司 | 光线追踪期间的详细级别选择 |
-
2018
- 2018-10-09 CN CN201811171149.0A patent/CN111028357B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1653512A (zh) * | 2002-04-18 | 2005-08-10 | Jps集团控股有限公司 | 采用灰色阴影驱动方案的低功率lcd |
US20080152262A1 (en) * | 2006-12-22 | 2008-06-26 | Sony Corporation | Image processing device image processing method, and computer program |
CN102742272A (zh) * | 2010-01-18 | 2012-10-17 | 索尼公司 | 用于图像处理的设备和方法以及程序 |
CN102768765A (zh) * | 2012-06-25 | 2012-11-07 | 南京安讯网络服务有限公司 | 实时点光源软阴影渲染方法 |
CN104103092A (zh) * | 2014-07-24 | 2014-10-15 | 无锡梵天信息技术股份有限公司 | 一种基于聚光灯实时动态阴影的实现方法 |
CN104952103A (zh) * | 2015-05-19 | 2015-09-30 | 中国人民解放军理工大学 | 一种视点依赖的阴影贴图创建方法 |
CN105354833A (zh) * | 2015-10-12 | 2016-02-24 | 浙江宇视科技有限公司 | 一种阴影检测的方法和装置 |
CN108475441A (zh) * | 2016-01-22 | 2018-08-31 | 英特尔公司 | 光线追踪期间的详细级别选择 |
CN107341853A (zh) * | 2017-07-13 | 2017-11-10 | 河北中科恒运软件科技股份有限公司 | 超大虚拟场景和动态摄屏的虚实融合方法及系统 |
Non-Patent Citations (3)
Title |
---|
MICHAEL HALLER ET AL: ""A real-time shadow approach for an augmented reality application using shadow volumes"", 《ACM》 * |
王成刚: ""动态实时软阴影技术的研究"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
赵乃良 等: ""基于数据修正的实时阴影反走样算法"", 《计算机辅助设计与图形学学报》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024109247A1 (zh) * | 2022-11-21 | 2024-05-30 | 荣耀终端有限公司 | 图像处理方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111028357B (zh) | 2020-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11012620B2 (en) | Panoramic image generation method and device | |
CN109658365B (zh) | 图像处理方法、装置、系统和存储介质 | |
KR102051889B1 (ko) | 스마트 글래스에서 2d 데이터를 기반으로 3d 증강현실을 구현하는 방법 및 시스템 | |
CN107945112B (zh) | 一种全景图像拼接方法及装置 | |
CN107180406B (zh) | 图像处理方法和设备 | |
CN108038897B (zh) | 阴影贴图生成方法及装置 | |
CN109660783A (zh) | 虚拟现实视差校正 | |
US11417065B2 (en) | Methods and systems for reprojection in augmented-reality displays | |
US9704282B1 (en) | Texture blending between view-dependent texture and base texture in a geographic information system | |
US9437034B1 (en) | Multiview texturing for three-dimensional models | |
JP2019536162A (ja) | シーンのポイントクラウドを表現するシステム及び方法 | |
CN112634414B (zh) | 地图显示方法及装置 | |
CN111161398B (zh) | 一种图像生成方法、装置、设备及存储介质 | |
TW201921318A (zh) | 用於產生場景之舖磚式三維影像表示之設備及方法 | |
JP2018113683A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20180213215A1 (en) | Method and device for displaying a three-dimensional scene on display surface having an arbitrary non-planar shape | |
CN111028357B (zh) | 增强现实设备的软阴影处理方法和装置 | |
JP6558365B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN110378948B (zh) | 3d模型重建方法、装置及电子设备 | |
CN111932448A (zh) | 一种数据处理方法、装置、存储介质及设备 | |
US20230316640A1 (en) | Image processing apparatus, image processing method, and storage medium | |
CN113126944B (zh) | 深度图的显示方法、显示装置、电子设备及存储介质 | |
CN116109758B (zh) | 一种光源投影位置定位、场景渲染的方法及装置 | |
CN116188668B (zh) | 一种基于ios平台的阴影渲染的方法、介质及电子设备 | |
CN113192208A (zh) | 三维漫游方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |