CN117240831A - 三维模型传输方法及其装置、存储介质、程序产品 - Google Patents
三维模型传输方法及其装置、存储介质、程序产品 Download PDFInfo
- Publication number
- CN117240831A CN117240831A CN202210640757.1A CN202210640757A CN117240831A CN 117240831 A CN117240831 A CN 117240831A CN 202210640757 A CN202210640757 A CN 202210640757A CN 117240831 A CN117240831 A CN 117240831A
- Authority
- CN
- China
- Prior art keywords
- model
- dimensional
- dimensional model
- physical
- dimensional scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 98
- 230000005540 biological transmission Effects 0.000 title claims abstract description 58
- 238000012545 processing Methods 0.000 claims abstract description 172
- 238000013461 design Methods 0.000 claims abstract description 134
- 230000003190 augmentative effect Effects 0.000 claims abstract description 78
- 238000000605 extraction Methods 0.000 claims abstract description 30
- 230000007613 environmental effect Effects 0.000 claims description 75
- 238000002372 labelling Methods 0.000 claims description 33
- 238000004590 computer program Methods 0.000 claims description 18
- 230000011218 segmentation Effects 0.000 claims description 13
- 238000009877 rendering Methods 0.000 description 76
- 230000010354 integration Effects 0.000 description 31
- 239000003795 chemical substances by application Substances 0.000 description 21
- 230000008569 process Effects 0.000 description 12
- 238000013500 data storage Methods 0.000 description 11
- 239000000463 material Substances 0.000 description 8
- 230000006978 adaptation Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 238000012790 confirmation Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/194—Transmission of image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请提供一种三维模型传输方法及其装置、存储介质、程序产品,所述方法包括:获取多个视频图像,视频图像由设计端通过对由设计端与客户端建立的增强现实视频通话的视频流进行抽帧处理而获得;对多个视频图像进行分割处理得到实物图像集合和环境图像集合;分别对实物图像集合和环境图像集合进行建模处理,得到实物三维模型和环境三维模型;根据实物三维模型和环境三维模型生成第一三维场景模型;将第一三维场景模型发送至客户端,即是说,在设计端与客户端建立的增强现实视频通话的场景下,根据该增强现实视频通话的视频流得到多个视频图像,根据该视频图像得到第一三维场景模型,将第一三维场景模型发送至客户端,实现三维模型的传输。
Description
技术领域
本申请实施例涉及但不限于通信技术领域,尤其涉及一种三维模型传输方法及其装置、存储介质、程序产品。
背景技术
相关技术中,在AR(Augmented Reality,增强现实)场景中,客户端与设计端之间只能传输视频、文本和图片等文件,而不能传输三维(3D)模型。因此,如何在增强现实场景下实现三维模型的传输,是亟待解决的一个问题。
发明内容
本申请实施例提供了一种三维模型传输方法及其装置、存储介质、程序产品,能够在增强现实场景下实现三维模型的传输。
第一方面,本申请实施例提供了一种三维模型传输方法,包括:
获取来自设计端的多个视频图像,所述视频图像由所述设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,所述增强现实视频通话由所述设计端与客户端建立;对多个所述视频图像进行分割处理,得到实物图像集合和环境图像集合;对所述实物图像集合进行建模处理,得到实物三维模型;对所述环境图像集合进行建模处理,得到环境三维模型;根据所述实物三维模型和所述环境三维模型生成第一三维场景模型;将所述第一三维场景模型发送至所述客户端。
第二方面,本申请实施例提供了一种三维模型传输方法,包括:
与设计端建立增强现实视频通话;接收服务器端发送的第一三维场景模型,所述第一三维场景模型由所述服务器端根据实物三维模型和环境三维模型而获得,所述实物三维模型由所述服务器端通过对实物图像集合进行建模处理而获得,所述环境三维模型由所述服务器端通过对环境图像集合进行建模处理而获得,所述实物图像集合和所述环境图像集合均由所述服务器端通过对多个视频图像进行分割处理而获得,所述视频图像由所述设计端通过对增强现实视频通话的视频流进行抽帧处理而获得。
第三方面,本申请实施例还提供了一种三维模型传输装置,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述的三维模型传输方法。
第四方面,本申请实施例还提供了一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行如上所述的三维模型传输方法。
第五方面,本申请实施例还提供了一种计算机程序产品,包括计算机程序或计算机指令,所述计算机程序或所述计算机指令存储在计算机可读存储介质中,计算机设备的处理器从所述计算机可读存储介质读取所述计算机程序或所述计算机指令,所述处理器执行所述计算机程序或所述计算机指令,使得所述计算机设备执行如上所述的三维模型传输方法。
本申请实施例包括:首先服务器端获取来自设计端的多个视频图像,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立,接着对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,并且对环境图像集合进行建模处理,得到环境三维模型,根据实物三维模型和环境三维模型生成第一三维场景模型,最后将第一三维场景模型发送至客户端,即是说,在设计端与客户端建立的增强现实视频通话的场景下,设计端对该增强现实视频通话的视频流进行抽帧处理得到多个视频图像,服务器端通过对该多个视频图像进行处理,最终得到第一三维场景模型,并将该第一三维场景模型发送至客户端,因此,本申请实施例能够在增强现实场景下实现三维模型的传输。
附图说明
图1是本申请一个实施例提供的三维模型传输方法的流程图;
图2是图1中步骤S150的一种具体方法的流程图;
图3是本申请另一个实施例提供的三维模型传输方法的流程图;
图4是图1中步骤S130的一种具体方法的流程图;
图5是图1中步骤S140的一种具体方法的流程图;
图6是本申请另一个实施例提供的三维模型传输方法的流程图;
图7是本申请另一个实施例提供的三维模型传输方法的流程图;
图8是本申请另一个实施例提供的三维模型传输方法的流程图;
图9是本申请一个具体示例提供的三维模型传输方法的流程图;
图10是本申请一个实施例提供的三维模型传输装置的结构示意图;
图11是本申请另一个实施例提供的三维模型传输装置的结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图的描述中,多个(或多项)的含义是两个以上,大于、小于、超过等理解为不包括本数,以上、以下、以内等理解为包括本数。如果有描述到“第一”、“第二”等只是用于区分技术特征为目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
本申请提供了一种三维模型传输方法及其装置、存储介质、程序产品,首先服务器端获取来自设计端的多个视频图像,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立,接着对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,并且对环境图像集合进行建模处理,得到环境三维模型,根据实物三维模型和环境三维模型生成第一三维场景模型,最后将第一三维场景模型发送至客户端,即是说,在设计端与客户端建立的增强现实视频通话的场景下,设计端对该增强现实视频通话的视频流进行抽帧处理得到多个视频图像,服务器端通过对该多个视频图像进行处理,最终得到第一三维场景模型,并将该第一三维场景模型发送至客户端,因此,本申请实施例能够在增强现实场景下实现三维模型的传输。
下面结合附图,对本申请实施例作进一步阐述。
参照图1,图1是本申请一个实施例提供的三维模型传输方法的流程图,该三维模型传输方法可以包括但不限于步骤S110、步骤S120、步骤S130、步骤S140、步骤S150和步骤S160。
步骤S110:获取来自设计端的多个视频图像。
一可行的实施方式,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立。
可以理解的是,由于视频的本质是一帧帧连续的图片,所以设计端可以从视频中截取一帧清晰图像,也可以截取多张图像集,即设计端通过对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像。
一可行的实施方式,设计端向客户端发送视频入会邀请,客户端确认接受后,经过服务器端鉴权确认,设计端和客户端才可以成功建立增强现实视频通话;或者,客户端向设计端发送视频入会邀请,设计端确认接受后,经过服务器端的排队系统和服务器端的鉴权系统的确认,设计端和客户端才可以成功建立增强现实视频通话,在此不做具体限制。
一可行的实施方式,在增强现实视频通话的过程中,可以支持音视频切换,比如,客户端在增强现实视频通话的过程中,客户端可以切换到应用A的播放界面,并将增强现实视频通话置为后台程序,使增强现实视频通话在后台运行,其中,应用A可以是音频,也可以是视频;又如,客户端在与设计端进行增强现实视频通话的过程中,客户端可以将视频通话切换成语音通话,在此不做具体限制。
一可行的实施方式,增强现实视频通话的视频流可以采用YUV编码和H.264视频协议,其中,YUV为一种颜色编码格式,“Y”表示明亮度,即灰阶值;“U”和“V”表示色度,“U”和“V”均可以描述影像色彩及饱和度,可以用于指定像素的颜色,其中,H.264视频协议为一种数字视频压缩编码标准。
一可行的实施方式,增强现实视频通话的视频流可以是客户端侧的视频流,也可以是设计端侧的视频流,也可以是客户端侧的视频流和用户端侧的视频流,可以根据实际情况获取,在此不做具体限制。比如,在设计端与客户端建立增强现实视频通话后,设计端可以对设计端侧的视频流进行抽帧处理,得到多个视频图像;或者,在设计端与客户端建立增强现实视频通话后,设计端可以对客户端侧的视频流进行抽帧处理,得到多个视频图像;又或者,在设计端与客户端建立增强现实视频通话后,设计端可以分别对设计端侧的视频流和客户端侧的视频流进行抽帧处理,得到多个视频图像。
步骤S120:对多个视频图像进行分割处理,得到实物图像集合和环境图像集合。
可以理解的是,实物图像集合包括多个实物图像,环境图像集合包括多个环境图像。
一可行的实施方式,对多个视频图像进行分割处理,可以有很多实施方式,比如,可以是采用边缘轮廓扫描的方式对多个视频图像进行分割处理,得到实物图像集合和环境图像集合;或者,可以利用深度学习算法对多个视频图像中的实物图像和环境图像进行识别处理,并根据构图规则在该多个视频图像中分别确定与识别出的实物图像对应的分割区域和环境图像对应的分割区域,再根据该实物图像对应的分割区域和环境图像对应的分割区域,得到的实物图像集合和环境图像集合,其中,该构图规则可以包括将实物图像或者环境图像在分割区域中所处的位置、所占的面积进行设定的规则,在此不做具体限制。
步骤S130:对实物图像集合进行建模处理,得到实物三维模型。
步骤S140:对环境图像集合进行建模处理,得到环境三维模型。
步骤S150:根据实物三维模型和环境三维模型生成第一三维场景模型。
步骤S160:将第一三维场景模型发送至客户端。
一可行的实施方式,服务器端可以将第一三维场景模型发送至设计端,在此不做具体限制。
本实施例中,通过采用包括有上述步骤S110至步骤S160的三维模型传输方法,首先服务器端获取来自设计端的多个视频图像,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立,接着对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,并且对环境图像集合进行建模处理,得到环境三维模型,根据实物三维模型和环境三维模型生成第一三维场景模型,最后将第一三维场景模型发送至客户端,即是说,在设计端与客户端建立的增强现实视频通话的场景下,设计端对该增强现实视频通话的视频流进行抽帧处理得到多个视频图像,服务器端通过对该多个视频图像进行处理,最终得到第一三维场景模型,并将该第一三维场景模型发送至客户端,因此,本申请实施例能够在增强现实场景下构建三维模型,并实现三维模型的传输。
一可行的实施方式,设计端、服务器端和客户端均可以对第一三维场景模型进行三维渲染处理,在此不做具体限制。比如,客户端将服务器端发送的第一三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型,接着对该渲染后的第一三维场景模型进行显示;或者,当服务器端将第一三维场景模型发送至设计端,设计端对服务器端发送的第一三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型,接着对该渲染后的第一三维场景模型进行显示;或者,服务器端先对第一三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型,然后将该渲染后的第一三维场景模型发送至设计端或者客户端。
一可行的实施方式,可以多次对第一三维场景模型进行三维渲染处理,可以根据第一三维场景模型的模型规模确定是否需要多次对第一三维场景模型进行三维渲染处理。举一示例,当第一三维场景模型模拟的是一个游乐园,那么可以多次对第一三维场景模型进行三维渲染处理,即服务器端先对第一三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型,然后将该渲染后的第一三维场景模型发送至设计端(或者客户端),设计端(或者客户端)对服务器端发送的该渲染后的第一三维场景模型再次进行三维渲染处理,得到再次渲染后的第一三维场景模型,将该再次渲染后的第一三维场景模型进行显示;或者,当第一三维场景模型模拟的是一个卧室,那么可以只对第一三维场景模型进行一次三维渲染处理,而且可以由设计端、服务器端或者客户端对第一三维场景模型进行三维渲染处理,在此不做具体限制。
可以理解的是,三维渲染本质上是计算机处理三维模型到二维图像的一个转换过程。渲染涉及到扫描线渲染、光线追踪、光子映射等技术,其可以模拟光与各物质(如材料材质和表面纹理)的相互作用,因此,渲染需要三维插件、三维软件以及硬件的支持。
在一实施例中,如图2所示,对步骤S150进行进一步的说明,该步骤S150可以包括但不限于有步骤S210、步骤S220和步骤S230。
步骤S210:获取预设的三维模型库,三维模型库包括环境模型库。
一可行的实施方式,环境模型库中可以包括多个预设环境模型,该多个预设环境模型可以是由模型制作人员使用三维建模工具(比如3D Studio MAX等建模工具,其中,3DStudio MAX是基于电脑操作系统的三维动画渲染和制作软件)对已有模型数据进行修改后,利用修改后的模型数据进行建模处理后得到的,也可以是已有的模型,在此不做具体限制。
一可行的实施方式,预设的三维模型库可以包括目标三维场景模型、模型相关数据、模型基础部件、模型材质素材等,其中,模型相关数据包括模型规模、模型模拟的实景的位置信息等,在此不做具体限制。例如,在路线规划的场景下,当用户处于山脚下的位置时,用户通过AR设备把位置信息发送给服务器,服务器根据该位置信息从预设的三维模型库中确定该山峰对应的目标三维场景模型,并将该目标三维场景模型发送至设计端,设计端根据该目标三维场景模型对该山峰进行路线规划以及对山路线上的标志性景点、商店、洗手间等进行标记,将该路线规划和标记的相关信息推送给AR客户端,从而提升用户体验,其中AR设备为客户端。
步骤S220:根据实物三维模型和环境三维模型从环境模型库中确定目标环境三维模型。
在一实施例中,可以将实物三维模型和环境三维模型与环境模型库中的预设环境模型进行匹配,确定目标环境三维模型,提高建模效率,同时缩短了建模时间。
步骤S230:根据实物三维模型和目标环境三维模型生成第一三维场景模型。
在本实施例中,通过采用包括上述步骤S210至步骤S230的三维模型传输方法,首先服务器端获取预设的三维模型库,其中,三维模型库包括环境模型库,接着根据实物三维模型和环境三维模型从环境模型库中确定目标环境三维模型,最后根据实物三维模型和目标环境三维模型生成第一三维场景模型,因此,本申请实施例可以通过根据实物三维模型和环境三维模型从环境模型库中确定目标环境三维模型而提高建模效率,同时缩短了建模时间。
在一实施例中,如图3所示,在执行步骤S160之后,该三维模型传输方法还可以包括但不限于步骤S310、步骤S320、步骤S330、步骤S340和步骤S350。
步骤S310:接收客户端发送的标注信息。
一可行的实施方式,标注信息可以包括坐标信息、文字信息、标注过的模型等,而且,该标注信息是由客户端对第一三维场景模型进行虚拟标注处理后得到的。比如,当第一三维场景模型模拟的是一个客厅,且在客厅中坐标为(8,4,0)处放置有沙发,若需要将该沙发换到坐标为(4,4,0)的位置摆放,则坐标信息可以是将坐标为(8,4,0)处的实物三维模型修改到坐标为(4,4,0)的位置。
步骤S320:根据标注信息在第一三维场景模型中确定标注区域。
可以理解的是,标注区域可以是修改前的区域,也可以是修改后的区域,也可以是修改前的区域和修改后的区域,比如,标注信息为将坐标为(8,4,0)处的实物三维模型修改到坐标为(4,4,0)的位置,则标注区域可以是坐标为(8,4,0)的区域,也可以是坐标为(4,4,0)的区域,在此不做具体限制。
步骤S330:在标注区域上嵌套标注信息,得到第二三维场景模型。
步骤S340:将第一三维场景模型和第二三维场景模型进行叠加处理,得到第三三维场景模型。
步骤S350:将第三三维场景模型发送至客户端。
一可行的实施方式,服务器端可以将第三三维场景模型发送至设计端,在此不做具体限制。
在本实施例中,通过采用包括上述步骤S310至步骤S350的三维模型传输方法,首先服务器端接收客户端发送的标注信息,根据标注信息在第三三维场景模型中确定标注区域,然后在标注区域上嵌套标注信息,得到第二三维场景模型,接着将第三三维场景模型和第二三维场景模型进行叠加处理,得到第三三维场景模型,最后将第三三维场景模型发送至客户端,因此,本申请实施例可以接收客户端反馈的标注信息,根据该标注信息对第三三维场景模型进行修改,减少了因专业壁垒导致的沟通成本,实现快速迭代与交付,有利于满足客户需求,同时提高了用户体验。
一可行的实施方式,设计端、服务器端和客户端均可以对第三三维场景模型进行三维渲染处理,在此不做具体限制。比如,客户端将服务器端发送的第三三维场景模型进行三维渲染处理,得到渲染后的第三三维场景模型,接着对该渲染后的第三三维场景模型进行显示;或者,当服务器端将第三三维场景模型发送至设计端,设计端对服务器端发送的第三三维场景模型进行三维渲染处理,得到渲染后的第三三维场景模型,接着对该渲染后的第三三维场景模型进行显示;或者,服务器端先对第三三维场景模型进行三维渲染处理,得到渲染后的第三三维场景模型,然后将该渲染后的第三三维场景模型发送至设计端或者客户端。
一可行的实施方式,可以多次对第三三维场景模型进行三维渲染处理,可以根据第三三维场景模型的模型规模确定是否需要多次对第三三维场景模型进行三维渲染处理。举一示例,当第三三维场景模型模拟的是一个游乐园,那么可以多次对第三三维场景模型进行三维渲染处理,即服务器端先对第三三维场景模型进行三维渲染处理,得到渲染后的第三三维场景模型,然后将该渲染后的第三三维场景模型发送至设计端(或者客户端),设计端(或者客户端)对服务器端发送的该渲染后的第三三维场景模型再次进行三维渲染处理,得到再次渲染后的第三三维场景模型,将该再次渲染后的第三三维场景模型进行显示;或者,当第三三维场景模型模拟的是一个卧室,那么可以只对第三三维场景模型进行一次三维渲染处理,而且可以由设计端、服务器端或者客户端对第三三维场景模型进行三维渲染处理,在此不做具体限制。
在一实施例中,如图4所示,在三维模型库包括实物模型库的情况下,对步骤S130进行进一步的说明,该步骤S130可以包括但不限于有步骤S410、步骤S420、步骤S430和步骤S440。
步骤S410:对实物图像集合进行解析处理,得到图形信息。
一可行的实施方式,图形信息可以包括实物图像的线条轮廓、实物图像位置、实物图像大小以及实物图像的资源地址等,在此不做具体限制。
步骤S420:根据图形信息从实物模型库中获取实物图像元素信息。
一可行的实施方式,实物模型库中可以包括多个预设实物模型,该多个预设实物模型可以是由模型制作人员使用三维建模工具(比如3D Studio MAX等建模工具,其中,3DStudio MAX是基于电脑操作系统的三维动画渲染和制作软件)对已有模型数据进行修改后,利用修改后的模型数据进行建模处理后得到的,也可以是已有的模型,在此不做具体限制。
步骤S430:利用实物图像元素信息构建实物图像底图。
一可行的实施方式,实物图像底图可以是实物三维模型的基础框架,在此不做具体限制。
步骤S440:对实物图像底图进行建模处理,得到实物三维模型。
在一实施例中,当该实物图像底图是一个花瓶的轮廓,那么对花瓶进行建模处理,即是对该花瓶进行材质贴面、调光、纹理、凹陷、凸起处理等,最终得到该花瓶的实物三维模型。
在本实施例中,通过采用包括上述步骤S410至步骤S440的三维模型传输方法,首先服务器端对实物图像集合进行解析处理,得到图形信息,根据图形信息从实物模型库中获取实物图像元素信息,接着利用实物图像元素信息构建实物图像底图,最后对实物图像底图进行建模处理,得到实物三维模型,因此,本申请实施例能够通过图形信息从实物模型库中获取实物图像元素信息,利用实物图像元素信息构建实物图像底图,以达到缩短建模时间和提高建模效率的目的。
在一实施例中,如图5所示,对步骤S140进行进一步的说明,该步骤S140可以包括但不限于有步骤S510、步骤S520和步骤S530。
步骤S510:对环境图像集合进行解析处理,得到标签信息。
一可行的实施方式,标签信息可以包括环境外观的材料属性信息、颜色属性信息、光源属性信息等,在此不做具体限制。
步骤S520:根据标签信息从环境模型库中获取环境图像元素信息。
一可行的实施方式,环境图像元素信息可以包括环境外观的材料属性信息、颜色属性信息、光源属性信息等的索引信息,在此不做具体限制。
步骤S530:利用环境图像元素信息对环境图像集合进行建模处理,得到环境三维模型。
一可行的实施方式,利用环境图像元素信息对环境图像集合进行建模处理,可以包括材质贴面、调光、纹理、凹陷、凸起处理、塌陷处理等,使得模型具有立体感,在此不做具体限制。
在本实施例中,通过采用包括上述步骤S510至步骤S530的三维模型传输方法,首先服务器端对环境图像集合进行解析处理,得到标签信息,然后根据标签信息从环境模型库中获取环境图像元素信息,最后利用环境图像元素信息对环境图像集合进行建模处理,得到环境三维模型,因此,本申请实施例通过标签信息从环境模型库中获取环境图像元素信息,利用环境图像元素信息对环境图像集合进行建模处理,以达到缩短建模时间和提高建模效率的目的。
在一实施例中,如图6所示,该三维模型传输方法还可以包括但不限于有步骤S610和步骤S620。
步骤S610:根据实物三维模型从环境模型库中确定目标环境三维模型。
一可行的实施方式,环境模型库中可以包括多个预设环境模型,该多个预设环境模型可以是由模型制作人员使用三维建模工具(比如3D Studio MAX等建模工具,其中,3DStudio MAX是基于电脑操作系统的三维动画渲染和制作软件)对已有模型数据进行修改后,利用修改后的模型数据进行建模处理后得到的,也可以是已有的模型,在此不做具体限制。
在一实施例中,可以将实物三维模型与环境模型库中预设环境模型进行适配处理,确定目标环境三维模型,而不需要对环境图像集合进行建模处理,缩短了建模时间,本申请实施例对此不做具体限制。
步骤S620:将实物三维模型与目标环境三维模型进行嵌套处理,生成第一三维场景模型。
本实施例中,通过采用包括上述步骤S610至步骤S620的三维模型传输方法,首先服务器端根据实物三维模型从环境模型库中确定目标环境三维模型,最后将实物三维模型与目标环境三维模型进行嵌套处理,生成第一三维场景模型,即是说,可以只对实物图像集合进行建模处理,得到实物三维模型,只根据实物三维模型从环境模型库中确定目标环境三维模型,将实物三维模型与目标环境三维模型进行嵌套处理,生成第一三维场景模型,而不需要对环境图像集合进行建模处理,缩短了建模时间,同时可以将客户端或者设计端所处场景中的实物通过三维模型的形式与环境模型库中的预设环境三维模型进行适配,达到远程设计的效果,满足了用户的多样化需求,提高用户体验。
在一实施例中,当对客厅进行家居布局设计时,客户端可以将包含沙发、冰箱、座椅等实物图像集合发送给服务器端,服务器端对实物图像集合进行建模处理,得到多个实物三维模型,接着服务器端根据该多个实物三维模型从环境模型库中确定目标环境三维模型,将实物三维模型与目标环境三维模型进行嵌套处理,生成第一三维场景模型,因此,本申请实施例不需要对环境图像集合进行建模处理,缩短了建模时间。
在一实施例中,对步骤S150进行进一步的说明,该步骤S150可以包括但不限于有以下步骤:
将实物三维模型与环境三维模型进行嵌套处理,生成第一三维场景模型。
本实施例中,服务器端可以获取来自设计端的多个视频图像,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立,接着对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,并且对环境图像集合进行解析处理,得到图形信息,然后将实物三维模型与环境三维模型进行嵌套处理,生成第一三维场景模型,因此,本申请实施例能够通过对用户所处场景中的环境和实物进行建模,并将实物三维模型与环境三维模型进行嵌套处理得到第一三维场景模型,还原真实场景,达到远程定制的效果。
在一实施例中,当服务器端可以获取来自设计端的多个视频图像,对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,并且对环境图像集合进行解析处理,得到标签信息,根据标签信息与环境模型库中的预设环境模型进行适配,当标签信息与预设环境模型不适配,对环境图像集合进行建模处理,得到环境三维模型,将实物三维模型与环境三维模型进行嵌套处理得到第一三维场景模型。另外,可以将该环境三维模型存储到环境模型库中,本申请实施对此不做具体限制。
在一实施例中,首先服务器端获取客户端发送的环境图像集合,并且对环境图像集合进行建模处理,得到环境三维模型,然后服务器端获取来自设计端的多个视频图像,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,增强现实视频通话由设计端与客户端建立,接着对多个视频图像进行分割处理,得到实物图像集合,然后对实物图像集合进行建模处理,得到实物三维模型,根据实物三维模型和环境三维模型生成第一三维场景模型,最后将第一三维场景模型发送至客户端,因此,本申请实施例通过对客户端发送的环境图像集合进行建模处理,以满足客户需求,达到远程定制的效果。
另外,图7是本申请另一个实施例提供的一种三维模型传输方法,该三维模型传输方法可以包括但不限于步骤S710和步骤S720。
步骤S710:与设计端建立增强现实视频通话。
一可行的实施方式,设计端向客户端发送视频入会邀请,客户端确认接受后,经过服务器端的排队系统和服务器端的鉴权系统的确认,设计端才可以与客户端建立增强现实视频通话;或者,客户端向设计端发送视频入会邀请,设计端确认接受后,经过服务器端的排队系统和服务器端的鉴权系统的确认,客户端才可以与设计端建立增强现实视频通话,在此不做具体限制。
步骤S720:接收服务器端发送的第一三维场景模型。
一可行的实施方式,第一三维场景模型由服务器端根据实物三维模型和环境三维模型而获得,实物三维模型由服务器端通过对实物图像集合进行建模处理而获得,环境三维模型由服务器端通过对环境图像集合进行建模处理而获得,实物图像集合和环境图像集合均由服务器端通过对多个视频图像进行分割处理而获得,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得。
一可行的实施方式,对多个视频图像进行分割处理,可以有很多实施方式,比如,可以是采用边缘轮廓扫描的方式对多个视频图像进行分割处理,得到实物图像集合和环境图像集合;或者,可以利用深度学习算法对多个视频图像中的实物图像和环境图像进行识别处理,并根据构图规则在该多个视频图像中分别确定与识别出的实物图像对应的分割区域和环境图像对应的分割区域,再根据该实物图像对应的分割区域和环境图像对应的分割区域,得到的实物图像集合和环境图像集合,其中,该构图规则可以包括将实物图像或者环境图像在分割区域中所处的位置、所占的面积进行设定的规则,在此不做具体限制。
可以理解的是,由于视频的本质是一帧帧连续的图片,所以设计端可以从视频中截取一帧清晰图像,也可以截取多张图像集,即设计端通过对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像。
一可行的实施方式,在增强现实视频通话的过程中,可以支持音视频切换,比如,客户端在增强现实视频通话的过程中,客户端可以切换到应用A的播放界面,并将增强现实视频通话置为后台程序,使增强现实视频通话在后台运行,其中,应用A可以是音频,也可以是视频;又如,客户端在与设计端进行增强现实视频通话的过程中,客户端可以将视频通话切换成语音通话,在此不做具体限制。
一可行的实施方式,增强现实视频通话的视频流采用YUV编码和H.264视频协议,其中,YUV为一种颜色编码格式,“Y”表示明亮度,即灰阶值;“U”和“V”表示色度,“U”和“V”均可以描述影像色彩及饱和度,可以用于指定像素的颜色,其中,H.264视频协议为一种数字视频压缩编码标准。
一可行的实施方式,增强现实视频通话的视频流可以是客户端侧的视频流,也可以是设计端侧的视频流,也可以是客户端侧的视频流和用户端侧的视频流,可以根据实际情况获取,在此不做具体限制。比如,在设计端与客户端建立增强现实视频通话后,设计端可以对设计端侧的视频流进行抽帧处理,得到多个视频图像;或者,在设计端与客户端建立增强现实视频通话后,设计端可以对客户端侧的视频流进行抽帧处理,得到多个视频图像;又或者,在设计端与客户端建立增强现实视频通话后,设计端可以分别对设计端侧的视频流和客户端侧的视频流进行抽帧处理,得到多个视频图像。
在本实施例中,通过采用包括上述步骤S710至S720的三维模型传输方法,首先客户端与设计端建立增强现实视频通话,然后客户端接收服务器端发送的第一三维场景模型,其中,该第一三维场景模型由服务器端根据实物三维模型和环境三维模型而获得,实物三维模型由服务器端通过对实物图像集合进行建模处理而获得,环境三维模型由服务器端通过对环境图像集合进行建模处理而获得,实物图像集合和环境图像集合均由服务器端通过对多个视频图像进行分割处理而获得,视频图像由设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,即是说,在设计端与客户端建立的增强现实视频通话的场景下,设计端对该增强现实视频通话的视频流进行抽帧处理得到多个视频图像,服务器端通过对该多个视频图像进行处理,最终得到第一三维场景模型,最后客户端接收服务器端发送的第一三维场景模型,因此,本申请实施例能够在增强现实场景下实现三维模型的传输。
在一实施例中,如图8所示,该三维模型传输方法可以包括但不限于步骤S810和步骤S820。
步骤S810:对第一三维场景模型进行虚拟标注处理,得到标注信息。
一可行的实施方式,标注信息可以包括坐标信息、文字信息、标注过的模型等,在此不做具体限制。
一可行的实施方式,服务器端可以将第一三维场景模型发送给设计端,设计端对该第一三维场景模型进行存储处理。当客户端对第一三维场景模型进行虚拟标注处理时,客户端可以实时将该标注信息发送给设计端,比如,客户端可以对第一三维场景模型进行视角切换,当第一三维场景模型为一个包括卧室、客厅和卫生间的房子时,客户端可以将第一三维场景模型切换到卧室区域,并对该卧室区域进行虚拟标注处理,也可以将该第一三维场景模型切换到客厅区域,并对该客厅区域进行虚拟标注处理,还可以将该第一三维场景模型切换到卫生间区域,并对该卫生间区域进行虚拟标注处理,最后将所有区域的标注信息发送给设计端(或者服务器端),设计端可以实时接收该所有区域的标注信息,并根据该标注信息对存储在设计端中的第一三维场景模型进行修改设计,实现对三维模型的远程修改,提高用户体验,在此不做具体限制。
步骤S820:将标注信息发送至服务器端。
一可行的实施方式,客户端也可以将该标准信息发送给设计端,设计端根据标准信息对存储在设计端中的第一三维场景模型进行修改设计,由于第一三维场景模型中的各个模块可能由不同的设计师负责,即多方设计师对第一三维场景模型进行并发修改,因此,可能会出现并发冲突。为规避并发冲突的问题,设计端中的多名设计师可以分别根据自身的设计副本,对与模块对应的源数据文件进行修改,最后设计端将所有修改后的源数据文件提交给服务器端,服务器端对该源数据文件进行收集后再统一交付给用户,因此,本申请实施例这样直接根据标注信息对第一三维场景模型进行修改,减少沟通成本,实现快速交付。
一可行的实施方式,将标注信息保存在相关文件中,打包成数据包发送至服务器端,服务器端接收到该数据包后,对该数据包进行解析处理,得到标注信息,在此不做具体限制。
在本实施例中,通过采用包括上述步骤S810至S820的三维模型传输方法,首先客户端可以对第一三维场景模型进行虚拟标注处理,得到标注信息,并将标注信息发送至服务器端,以使服务器端根据标注信息在第一三维场景模型中确定标注区域,在标注区域上嵌套标注信息,得到第二三维场景模型,最后将第一三维场景模型和第二三维场景模型进行叠加处理,得到第三三维场景模型,即是说,客户端可以将标注信息反馈给服务器,通过服务器根据标注信息对第一三维场景模型进行修改,减少沟通成本,同时有利于满足用户的需求,提高用户体验。
在一实施例中,在旅游实景讲解的场景下,用户通过在AR设备中对建筑物B进行标记,并将该建筑物B通过AR设备发送给服务器端,服务器端对实物图像集合进行解析处理,得到图形信息,根据图形信息从实物模型库中获取实物图像元素信息,接着利用实物图像元素信息构建实物图像底图,对实物图像底图进行建模处理,得到实物三维模型,最后将该实物三维模型发送至客户端,并且用户还通过AR设备将该建筑物B发送给设计端,设计端根据该建筑物B从数据存储模块中获取与建筑物B相关的历史资料,并将该历史资料发送给AR设备,其中,设计端可以通过语音、视频或者文字等形式将该历史资料发送给AR设备,除此之外,用户还可以通过语音控制或外设输入的方式对AR设备中的实物三维模型进行放大或者缩小,以及切换对AR设备中的实物三维模型的观察视角,以便查看模型细节,其中,AR设备为客户端,在此不做具体限制。
针对上述实施例所提供的三维模型传输方法,下面以具体的示例进行详细的描述:
在一实施例中,参考图9,首先,设计端和客户端建立增强现实视频通话,接着设计端对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像,接着对多个视频图像进行分割处理得到实物图像集合和环境图像集合,紧接着分别对实物图像集合和环境图像集合进行解析处理,其中,针对实物图像集合的解析处理,可以对实物图像集合进行解析处理得到图形信息,根据图形信息从实物模型库中获取实物图像元素信息,利用实物图像元素信息构建实物图像底图,对实物图像底图进行建模处理,得到实物三维模型;针对环境图像集合的解析处理,可以对环境图像集合进行解析处理得到标签信息,根据标签信息从环境模型库中获取环境图像元素信息,利用环境图像元素信息对环境图像集合进行建模处理得到环境三维模型,然后根据实物三维模型和环境三维模型生成第一三维场景模型,将第一三维场景模型发送至客户端,客户端对第一三维场景模型进行三维渲染处理;或者,服务器对第一三维场景模型进行三维渲染处理得到渲染后的第一三维场景模型,之后,将渲染后的第一三维场景模型发送至客户端,客户端再次对渲染后的第一三维场景模型进行三维渲染处理得到再次渲染后的第一三维场景模型,之后,客户端对渲染后的第一三维场景模型或者再次渲染后的第一三维场景模型进行虚拟标注处理,得到标注信息,客户端将该标注信息对该渲染后的第一三维场景模型或者再次渲染后的第一三维场景模型进行并发修改,即设计端中的多名设计师根据自身的设计副本,对与模块对应的源数据文件进行修改,最后设计端将所有修改后的源数据文件提交给服务器端,服务器端将该源数据文件统一发送至客户端,实现远程交付。
另外,参照图10,本申请的一个实施例还提供了一种三维模型传输装置,该三维模型传输装置包括设计端100、客户端300和服务器端200。
其中,设计端100包括第一显示模块101、第一三维渲染模块102、第一音视频处理模块103、数据存储模块104和坐席集成接口105。其中,第一显示模块101可以用于显示渲染后的第一三维场景模型或者第三三维场景模型,或者,用于显示再次渲染后的第一三维场景模型或者第三三维场景模型,其中,显示模块包括电脑显示屏或AR屏幕等;第一三维渲染模块102可以用于对第一三维场景模型或者第三三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型或者渲染后的第三三维场景模型,也可以用于对渲染后的第一三维场景模型或者渲染后的第三三维场景模型进行再次三维渲染处理,得到再次渲染后的第一三维场景模型或者再次渲染后的第三三维场景模型;第一音视频处理模块103可以用于接收对坐席集成接口105发送的增强现实视频通话的视频流,并对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像,还可以用于接收来自坐席集成接口105的第一三维场景模型或者第三三维场景模型,或者接收来自坐席集成接口105的渲染后的第一三维场景模型或者渲染后的第三三维场景模型;数据存储模块104可以用于存储来自坐席集成接口105的增强现实视频通话的视频流、标注信息、模型相关数据和第一三维场景模型、第三三维场景模型、渲染后的第一三维场景模型和渲染后的第三三维场景模型等;坐席集成接口105可以用于获取第一音视频处理模块103中的多个视频图像,并对该多个视频图像发送至服务器端200,还可以获取服务器端200的第一三维场景模型、第三三维场景模型、渲染后的第一三维场景模型和渲染后的第三三维场景模型等。
一可行的实施方式,第一音视频处理模块103可以支持音视频编码格式;可以调用数据存储模块104;可以根据优先级对视频入会邀请进行排序,并且可以对视频入会邀请选择视频应答或者音频应答;同时支持多流的媒体协商模式;可以将第一三维场景模型或者第三三维场景模型传输给第一三维渲染模块102。
一可行的实施方式,坐席集成接口105可用于接收服务器端200的接收消息处理模块203的访问请求,并对该访问请求进行解析,还可以获取第一音视频处理模块103中的相关信息进行打包得到数据包,将该数据包发送至服务器端200,在此不做具体限制。
服务器端200包括文件存储器201、消息处理模块203、消息缓存模块204、数据流模块205、图像解析模块209、模型适配模块210、三维模型构造器211、模型存储模块208和第二三维渲染模块206。其中,文件存储器201可以用于存储来自坐席集成接口105的多个视频图像;消息处理模块203可以用于对视频入会邀请进行鉴权确认;消息缓存模块204可以用于接收消息处理模块203的用户信息以及坐席地址等数据;数据流模块205可以用于对来自设计端100的坐席集成接口105的增强现实视频通话的视频流进行传输,并可用于发送视频入会邀请以及退出增强现实视频通话;图像解析模块209可以用于对实物图像集合进行解析处理得到图形信息,并且对环境图像集合进行解析处理得到标签信息;模型适配模块210可以用于利用实物图像元素信息构建实物图像底图,并对实物图像底图进行建模处理,得到实物三维模型;模型存储模块208可以用于根据标签信息从环境模型库中获取环境图像元素信息,并且还可以用于根据图形信息从实物模型库中获取实物图像元素信息;三维模型构造器211可以用于利用环境图像元素信息对环境图像集合进行建模处理,得到环境三维模型;第二三维渲染模块206可以用于将来自三维模型构造器211的第一三维场景模型或者第三三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型或者第三三维场景模型。
一可行的实施方式,文件存储器201还可以通过上传下载模块202接收来自坐席集成接口105的数据包,并存储在指定目录,其中数据包中包括三维模型信息文件。
一可行的实施方式,服务器端200还包括上传下载模块202,上传下载模可以用于根据文件存储器201存储的文件的目录,检测目录层级数,检测服务器端200的目录是否存在,以及检测文件的名称或者格式是否正确,以及令牌的合法性。确认无误后,生成URL(Uniform Resource Locator,统一资源定位符)地址,并把该URL地址发送至设计端100和客户端300。
一可行的实施方式,消息处理模块203可以转发账户登录请求;可以分发客户端300发起的查询操作给其他模块,给其他模块发送消息;同时当处理的请求消息过多时,可以把一部分用户信息及坐席地址等数据存入消息缓存模块204。
一可行的实施方式,图像解析模块209还可以应用图像处理方面的算法以及计算机视觉方面的算法,并且该图像解析模型还可以用于图像识别和图像分割,比如,一张来自设计端100的带有红色框标注的对象,经过该图像解析模块209处理后,解析出对象的图形信息,比如该对象的子模型和标注的坐标信息,然后通过消息处理模块203和消息缓存模块204通知客户端300在视频流中去捕获该对象。
一可行的实施方式,图像解析模块209可以从文件存储器201中获取多个视频图像,并对多个视频图像进行分割处理,得到实物图像集合和环境图像集合。
一可行的实施方式,模型存储模块208包括预设的三维模型库,预设的三维模型库包括实物模型库和环境模型库。
在一实施例中,设计端100与客户端300建立增强现实视频通话后,设计端100的第一音视频处理模块103可以获取来自坐席集成接口105的增强现实视频通话的视频流或者来自数据存储模块104的的增强现实视频通话的视频流,第一音视频处理模块103对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像,接着第一音视频处理模块103将该多个视频图像通过坐席集成接口105发送至服务器端200。
在一实施例中,文件存储器201可以通过上传下载模块202获取设计端100的坐席集成接口105的多个视频图像,也可以通过上传下载模块202获取客户端300的客户端集成接口302的多个视频图像,在此不做具体限制。
在一实施例中,文件存储器201存储来自设计端100的坐席集成接口105的多个视频图像,或者存储来自客户端300的客户端集成接口302的多个视频图像,图像解析模块209可以从文件存储器201中获取多个视频图像,并对多个视频图像进行分割处理,得到实物图像集合和环境图像集合,并且对实物图像集合进行解析处理得到图形信息,以及对环境图像集合进行解析处理得到标签信息,并将该图形信息和该标签信息发送给模型适配模块210,接着模型适配模块210利用图形信息从模型存储模块208中的实物模型库中获取实物图像元素信息,并且利用实物图像元素信息构建实物图像底图,并对实物图像底图进行建模处理,得到实物三维模型,并且模型适配模块210利用标签信息从模型存储模块208中的环境模型库中获取环境图像元素信息,利用环境图像元素信息对环境图像集合进行建模处理,得到环境三维模型,模型适配模块210将实物三维模型和环境三维模型发送至三维模型构造器211,三维模型构造器211利用实物三维模型和环境三维模型生成第一三维场景模型,并将第一三维场景模型发送至第二三维渲染模块206,通过第二三维渲染模块206对第一三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型,然后第二三维渲染模块206将该渲染后的第一三维场景模型发送给视频流模块,通过视频流模块发送至设计端100的坐席集成接口105;或者,三维模型构造器211通过上传下载模块202将第一三维场景模型发送至文件存储器201,文件存储器201对第一三维场景模型进行存储,也可以将该第一三维场景模块发送至坐席集成接口105,也可以将该第一三维场景模块发送至客户端300坐席接口。
在一实施例中,设计端100的坐席集成接口105可以从视频流模块获取渲染后的第一三维场景模块,并发送给数据存储模块104,第一音视频处理模块103可以从数据存储模块104获取渲染后的第一三维场景模块,第一音视频处理模块103将该渲染后的第一三维场景模块直接发送给第一显示模块101,通过第一显示模块101对渲染后的第一三维场景模型进行显示,在此不做具体限制。
在另一实施例中,设计端100的坐席集成接口105可以从数据存储模块104获取渲染后的第一三维场景模块,第一音视频处理模块103可以从数据存储模块104获取渲染后的第一三维场景模块,发送至第一三维渲染模块102,第一三维渲染模块102将渲染后的第一三维场景模型再次进行三维渲染处理,最后第一显示模块101接收来自第一三维渲染模块102的再次渲染后的第一三维场景模型,对该再次渲染后的第一三维场景模型进行显示,在此不做具体限制。
在一实施例中,设计端100的坐席集成接口105可以通过服务器端200的上传下载模块202从服务器端200的文件存储器201获取第一三维场景模块,并发送给第一音视频处理模块103,第一音视频处理模块103将该第一三维场景模块发送给第一三维渲染模块102,通过第一三维渲染模块102对该第一三维场景模型进行三维渲染处理,最后第一显示模块101接收来自第一三维渲染模块102的渲染后的第一三维场景模型,对该渲染后的第一三维场景模型进行显示,在此不做具体限制。
在另一实施例中,设计端100的坐席集成接口105可以通过服务器端200的上传下载模块202从服务器端200的文件存储器201获取第一三维场景模块,并发送给数据存储模块104,第一音视频处理模块103从数据存储模块104获取第一三维场景模块,将该第一三维场景模块发送给第一三维渲染模块102,通过第一三维渲染模块102对该第一三维场景模型进行三维渲染处理,最后第一显示模块101接收来自第一三维渲染模块102的渲染后的第一三维场景模型,对该渲染后的第一三维场景模型进行显示,在此不做具体限制。
一可行的实施方式,客户端300可以通过Web软件或者直接在本地终端的3D程序中点击云渲染按钮并借助高速互联网接入访问资源,指令从用户终端中发出,服务器根据指令执行对应的渲染任务,而渲染结果画面则被传送回用户终端中加以显示。把远端的渲染能力提供给终端设备,可以弥补终端的渲染能力短板。
一可行的实施方式,服务器端200还包括信息库207,其中,信息库207是服务器端200重要的信息数据的存储数据库,为了防止系统异常导致消息缓存模块204中用户信息以及坐席地址等数据丢失,消息缓存模块204可以将一些重要的用户信息以及坐席地址等数据存入信息库207,而且信息库207可以用来恢复中断的业务。
客户端300包括客户端集成接口302、摄像采集模块303、第二显示模块306、第三三维渲染模块305和第二音视频处理模块304。客户端集成接口302可以用于获取第二音视频处理模块304中的多个视频图像,并对该多个视频图像发送至服务器端200;第二显示模块306可以用于显示渲染后的第一三维场景模型或者第三三维场景模型,其中,显示模块包括电脑显示屏或AR屏幕等。第三三维渲染模块305,用于将来自服务器端200的第一三维场景模型或者第三三维场景模型进行三维渲染处理,得到渲染后的第一三维场景模型或者第三三维场景模型;第二音视频处理模块304可以用于接收对客户端集成接口302发送的增强现实视频通话的视频流,并对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像;摄像采集模块303用于采集增强现实视频通话的视频流。
一可行的实施方式,客户端300还包括本地存储模块301,该本地存储模块301用于当从服务器端200文件存储器201中上传或下载文件,根据上传下载模块202发送的URL地址,将服务器端200的文件保存在本地地址或者上传到服务器端200,其中,还可以对文件的格式进行转换,如图片转换为二进制文件。
一可行的实施方式,客户端集成接口302可用于接收服务器端200的消息处理模块203的访问请求,并对该访问请求进行解析,还可以获取第一音视频处理模块103中的相关信息进行打包得到数据包,将该数据包发送至服务器端200,在此不做具体限制。
在一实施例中,客户端300的本地存储模块301可以通过服务器端200的上传下载模块202从服务器端200的文件存储器201下载第一三维场景模块。
在一实施例中,摄像采集模块303采集增强现实视频通话的视频流,并将该视频流发送至第二音视频处理模块304,第二音视频处理模块304对增强现实视频通话的视频流进行抽帧处理,得到多个视频图像,并多个视频图像发送给客户端集成接口302,客户端集成接口302将该多个视频图像发送至服务器端200,比如,客户端集成接口302将该多个视频图像存储至本地存储模块301,并通过本地存储模块301将该多个视频图像通过服务器端200的上传下载模块202发送至服务器端200的文件存储器201。
在一实施例中,客户端300的客户端集成接口302可以从视频流模块获取渲染后的第一三维场景模块,并发送给第二音视频处理模块304,第二音视频处理模块304将该渲染后的第一三维场景模块直接发送给第二显示模块306,通过第二显示模块306对渲染后的第一三维场景模型进行显示,在此不做具体限制。
在另一实施例中,客户端300的客户端集成接口302可以从视频流模块获取渲染后的第一三维场景模块,并发送给第二音视频处理模块304,第二音视频处理模块304将该渲染后的第一三维场景模块发送给第三三维渲染模块305,通过第三三维渲染模块305对渲染后的第一三维场景模型再次进行三维渲染处理,最后第二显示模块306接收来自第三三维渲染模块305的再次渲染后的第一三维场景模型,对该再次渲染后的第一三维场景模型进行显示,在此不做具体限制。
在一实施例中,客户端300的客户端集成接口302可以从本地存储模块301获取第一三维场景模块,并发送给第二音视频处理模块304,第二音视频处理模块304将该第一三维场景模块发送给第三三维渲染模块305,通过第三三维渲染模块305对该第一三维场景模型进行三维渲染处理,最后第二显示模块306接收来自第三三维渲染模块305的渲染后的第一三维场景模型,对该渲染后的第一三维场景模型进行显示,在此不做具体限制。
值得注意的是,在本申请的各个具体实施方式中,当涉及到需要根据用户信息、用户行为数据,用户历史数据以及用户位置信息等与用户身份或特性相关的数据进行相关处理时,都会先获得用户的许可或者同意,而且,对这些数据的收集、使用和处理等,都会遵守相关国家和地区的相关法律法规和标准。此外,当本申请实施例需要获取用户的敏感个人信息时,会通过弹窗或者跳转到确认页面等方式获得用户的单独许可或者单独同意,在明确获得用户的单独许可或者单独同意之后,再获取用于使本申请实施例能够正常运行的必要的用户相关数据。
另外,参照图11,本申请的一个实施例还提供了另一种三维模型传输装置,该三维模型传输装置400包括存储器402、处理器401及存储在存储器402上并可在处理器401上运行的计算机程序。
处理器401和存储器402可以通过总线或者其他方式连接。
存储器402作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器402可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器402可选包括相对于处理器401远程设置的存储器,这些远程存储器可以通过网络连接至该处理器401。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现上述实施例的三维模型传输方法所需的非暂态软件程序以及指令存储在存储器402中,当被处理器401执行时,执行上述实施例中的三维模型传输方法,例如,执行以上描述的图1中的方法步骤S110至S160、图2中的方法步骤S210至S230、图3中的方法步骤S310至S350、图4中的方法步骤S410至S440、图5中的方法步骤S510至S530、图6中的方法步骤S610至S620、图7中的方法步骤S710至S720以及图8中的方法步骤S810至S820。
以上所描述的设备实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
此外,本申请的一个实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个处理器或控制器执行,例如,被上述设备实施例中的一个处理器执行,可使得上述处理器执行上述实施例中的三维模型传输方法,执行以上描述的图1中的方法步骤S110至S160、图2中的方法步骤S210至S230、图3中的方法步骤S310至S350、图4中的方法步骤S410至S440、图5中的方法步骤S510至S530、图6中的方法步骤S610至S620、图7中的方法步骤S710至S720以及图8中的方法步骤S810至S820。
此外,本申请的一个实施例还提供了一种计算机程序产品,包括计算机程序或计算机指令,计算机程序或计算机指令存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取计算机程序或计算机指令,处理器执行计算机程序或计算机指令,使得计算机设备执行上述实施例中的三维模型传输方法,例如,执行以上描述的图1中的方法步骤S110至S160、图2中的方法步骤S210至S230、图3中的方法步骤S310至S350、图4中的方法步骤S410至S440、图5中的方法步骤S510至S530、图6中的方法步骤S610至S620、图7中的方法步骤S710至S720以及图8中的方法步骤S810至S820。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器,如中央处理器、数字信号处理器或微处理器执行的软件,或者被实施为硬件,或者被实施为集成电路,如专用集成电路。这样的软件可以分布在计算机可读介质上,计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的,术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外,本领域普通技术人员公知的是,通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据,并且可包括任何信息递送介质。
Claims (12)
1.一种三维模型传输方法,包括:
获取来自设计端的多个视频图像,所述视频图像由所述设计端通过对增强现实视频通话的视频流进行抽帧处理而获得,所述增强现实视频通话由所述设计端与客户端建立;
对多个所述视频图像进行分割处理,得到实物图像集合和环境图像集合;
对所述实物图像集合进行建模处理,得到实物三维模型;
对所述环境图像集合进行建模处理,得到环境三维模型;
根据所述实物三维模型和所述环境三维模型生成第一三维场景模型;
将所述第一三维场景模型发送至所述客户端。
2.根据权利要求1所述的三维模型传输方法,其特征在于,所述根据所述实物三维模型和所述环境三维模型生成第一三维场景模型,包括:
获取预设的三维模型库,所述三维模型库包括环境模型库;
根据所述实物三维模型和所述环境三维模型从所述环境模型库中确定目标环境三维模型;
根据所述实物三维模型和所述目标环境三维模型生成第一三维场景模型。
3.根据权利要求1所述的三维模型传输方法,其特征在于,在所述将所述第一三维场景模型发送至所述客户端之后,所述三维模型传输方法还包括:
接收所述客户端发送的标注信息;
根据所述标注信息在所述第一三维场景模型中确定标注区域;
在所述标注区域上嵌套所述标注信息,得到第二三维场景模型;
将所述第一三维场景模型和所述第二三维场景模型进行叠加处理,得到第三三维场景模型;
将所述第三三维场景模型发送至所述客户端。
4.根据权利要求2所述的三维模型传输方法,其特征在于,所述三维模型库包括实物模型库,所述对所述实物图像集合进行建模处理,得到实物三维模型,包括:
对所述实物图像集合进行解析处理,得到图形信息;
根据所述图形信息从所述实物模型库中获取实物图像元素信息;
利用所述实物图像元素信息构建实物图像底图;
对所述实物图像底图进行建模处理,得到实物三维模型。
5.根据权利要求2所述的三维模型传输方法,其特征在于,所述对所述环境图像集合进行建模处理,得到环境三维模型,包括:
对所述环境图像集合进行解析处理,得到标签信息;
根据所述标签信息从所述环境模型库中获取环境图像元素信息;
利用所述环境图像元素信息对所述环境图像集合进行建模处理,得到环境三维模型。
6.根据权利要求2所述的三维模型传输方法,其特征在于,所述三维模型传输方法还包括:
根据所述实物三维模型从所述环境模型库中确定目标环境三维模型;
将所述实物三维模型与所述目标环境三维模型进行嵌套处理,生成所述第一三维场景模型。
7.根据权利要求1所述的三维模型传输方法,其特征在于,所述根据所述实物三维模型和所述环境三维模型生成第一三维场景模型,包括:
将所述实物三维模型与所述环境三维模型进行嵌套处理,生成所述第一三维场景模型。
8.一种三维模型传输方法,包括:
与设计端建立增强现实视频通话;
接收服务器端发送的第一三维场景模型,所述第一三维场景模型由所述服务器端根据实物三维模型和环境三维模型而获得,所述实物三维模型由所述服务器端通过对实物图像集合进行建模处理而获得,所述环境三维模型由所述服务器端通过对环境图像集合进行建模处理而获得,所述实物图像集合和所述环境图像集合均由所述服务器端通过对多个视频图像进行分割处理而获得,所述视频图像由所述设计端通过对所述增强现实视频通话的视频流进行抽帧处理而获得。
9.根据权利要求8所述的三维模型传输方法,其特征在于,所述三维模型传输方法还包括:
对所述第一三维场景模型进行虚拟标注处理,得到标注信息;
将所述标注信息发送至所述服务器端。
10.一种三维模型传输装置,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至9中任意一项所述的三维模型传输方法。
11.一种计算机可读存储介质,存储有计算机可执行指令,所述计算机可执行指令用于执行权利要求1至9中任意一项所述的三维模型传输方法。
12.一种计算机程序产品,包括计算机程序或计算机指令,其特征在于,所述计算机程序或所述计算机指令存储在计算机可读存储介质中,计算机设备的处理器从所述计算机可读存储介质读取所述计算机程序或所述计算机指令,所述处理器执行所述计算机程序或所述计算机指令,使得所述计算机设备执行如权利要求1至9任意一项所述的三维模型传输方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210640757.1A CN117240831A (zh) | 2022-06-08 | 2022-06-08 | 三维模型传输方法及其装置、存储介质、程序产品 |
PCT/CN2023/097180 WO2023236815A1 (zh) | 2022-06-08 | 2023-05-30 | 三维模型传输方法及其装置、存储介质、程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210640757.1A CN117240831A (zh) | 2022-06-08 | 2022-06-08 | 三维模型传输方法及其装置、存储介质、程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117240831A true CN117240831A (zh) | 2023-12-15 |
Family
ID=89083145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210640757.1A Pending CN117240831A (zh) | 2022-06-08 | 2022-06-08 | 三维模型传输方法及其装置、存储介质、程序产品 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN117240831A (zh) |
WO (1) | WO2023236815A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118427952B (zh) * | 2024-07-04 | 2024-09-06 | 中铁七局集团西安铁路工程有限公司 | 基于数字梁场管理的模型构建方法、装置及设备 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105933637A (zh) * | 2016-04-26 | 2016-09-07 | 上海与德通讯技术有限公司 | 一种视频通信的方法及系统 |
EP3329466A4 (en) * | 2016-06-10 | 2019-03-13 | DIRTT Environmental Solutions, Ltd. | ARCHITECTURAL DESIGN ENVIRONMENT WITH MIXED REALITY |
CN112446939A (zh) * | 2020-11-19 | 2021-03-05 | 深圳市中视典数字科技有限公司 | 三维模型动态渲染方法、装置、电子设备及存储介质 |
CN112907751B (zh) * | 2021-03-23 | 2023-11-24 | 中德(珠海)人工智能研究院有限公司 | 一种基于混合现实的虚拟装修方法、系统、设备和介质 |
CN113242398A (zh) * | 2021-04-16 | 2021-08-10 | 杭州易现先进科技有限公司 | 一种三维标注的音视频通话方法和系统 |
-
2022
- 2022-06-08 CN CN202210640757.1A patent/CN117240831A/zh active Pending
-
2023
- 2023-05-30 WO PCT/CN2023/097180 patent/WO2023236815A1/zh unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023236815A1 (zh) | 2023-12-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180276899A1 (en) | Method, apparatus, and system for generating an ar application and rendering an ar instance | |
US20100033484A1 (en) | Personal-oriented multimedia studio platform apparatus and method for authorization 3d content | |
CN108765270B (zh) | 一种虚拟三维空间标签绑定方法及装置 | |
CN107493228A (zh) | 一种基于增强现实的社交互动方法和系统 | |
CN108111899A (zh) | 视频传输方法、客户端、服务器 | |
CN114245228B (zh) | 页面链接投放方法、装置及电子设备 | |
EP3776480A1 (en) | Method and apparatus for generating augmented reality images | |
CN108880983A (zh) | 一种虚拟三维空间的语音实时处理方法及装置 | |
WO2022088834A1 (zh) | 动态影集生成方法、服务器、显示终端及可读存储介质 | |
CN110415318B (zh) | 图像处理方法和装置 | |
WO2023236815A1 (zh) | 三维模型传输方法及其装置、存储介质、程序产品 | |
CN111901580A (zh) | 一种电信专网中2d转3d视频的vr显示方法及系统 | |
US20160117553A1 (en) | Method, device and system for realizing visual identification | |
CN109905753B (zh) | 角标的显示方法和装置、存储介质、电子装置 | |
CN114139491A (zh) | 一种数据处理方法、装置及存储介质 | |
WO2023226504A1 (zh) | 一种媒体数据处理方法、装置、设备以及可读存储介质 | |
CN112651801B (zh) | 一种房源信息的展示方法和装置 | |
CN116758201A (zh) | 三维场景的渲染处理方法、设备、系统及计算机存储介质 | |
CN117591205A (zh) | 虚拟环境中的细节级别管理 | |
CN115174954A (zh) | 视频直播方法、装置、电子设备以及存储介质 | |
CN116962744A (zh) | 网络直播的连麦互动方法、装置及直播系统 | |
CN116467318A (zh) | 一种基于云渲染的媒体内容处理方法、设备及存储介质 | |
CN111212269A (zh) | 无人机图像显示的方法及装置、电子设备、存储介质 | |
CN118413628B (zh) | 标绘共享方法、电子设备及计算机程序产品 | |
EP4376385A1 (en) | System and method enabling live broadcasting sessions in virtual environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |