[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

CN115731355A - 一种基于SuperPoint-NeRF的三维建筑物重建方法 - Google Patents

一种基于SuperPoint-NeRF的三维建筑物重建方法 Download PDF

Info

Publication number
CN115731355A
CN115731355A CN202211513937.XA CN202211513937A CN115731355A CN 115731355 A CN115731355 A CN 115731355A CN 202211513937 A CN202211513937 A CN 202211513937A CN 115731355 A CN115731355 A CN 115731355A
Authority
CN
China
Prior art keywords
point
reconstruction
building
point cloud
buildings
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211513937.XA
Other languages
English (en)
Other versions
CN115731355B (zh
Inventor
张良
柴玉
韩鑫磊
靳于康
廉飞宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hubei University
Original Assignee
Hubei University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hubei University filed Critical Hubei University
Priority to CN202211513937.XA priority Critical patent/CN115731355B/zh
Publication of CN115731355A publication Critical patent/CN115731355A/zh
Application granted granted Critical
Publication of CN115731355B publication Critical patent/CN115731355B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明属于建筑物重构技术领域,具体涉及一种基于SuperPoint‑NeRF的三维建筑物重建方法,该方法包括以下步骤:步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;步骤3,利用离散点的局部特征对建筑物进行超体素分割;步骤4,基于多模态邻域特征构建超体素连通图;步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建。本发明结合三维超体素点云的局部特征与连通性关系,通过分层级的MLP回归神经渲染场来表示建筑物表面密度和射线,从而实现快速高精的三维建筑物重建,不仅能够极大的提高传统NeRF在三维重建领域的效率,同时由于局部邻域特征的加入也显著提升了其重建精度。

Description

一种基于SuperPoint-NeRF的三维建筑物重建方法
技术领域
本发明属于建筑物重构技术领域,具体涉及一种基于SuperPoint-NeRF的三维建筑物重建方法。
背景技术
建筑物作为智慧城市、防灾救灾、人口管理、城区规划等多领域的一个重要研究对象,其高精度三维重建一直是工业界和学术界研究的重点。随着激光雷达和图像领域技术的蓬勃发展,越来越多的新兴技术被用于三维建筑物的重建工作上。然而,传统的基于激光点云和图像的三维建筑物重建不仅需要较大的人力物力,重建周期长,时效性较低,且其重建精度也往往难以满足当前应用。
神经渲染场(Neural Radiance Fields,NeRF)作为近两年来新兴的一种技术,它通过使用稀疏的输入视图集优化底层连续的体积场景函数,实现了综合复杂场景视图的最好结果,无空洞、细节还原,且由于研究人数较多,发展也尤为迅速,在三维重建领域迅速成为火热的话题。然而,传统的NeRF由于其训练和渲染都很慢,且对于硬件基础要求较高,往往难以进行城市级的三维重建工作。
发明内容
鉴于上述问题,本发明提供了一种克服上述问题或者至少部分地解决上述问题的一种基于SuperPoint-NeRF的三维建筑物重建方法,达到城市级高效率高精度的三维建筑物重建。
具体地,本发明提供了一种基于SuperPoint-NeRF的三维建筑物重建方法,包括如下步骤:
步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;
步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;
步骤3,利用离散点的局部特征对建筑物进行超体素分割;
步骤4,基于多模态邻域特征构建超体素连通图;
步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建。
可选地,所述步骤1包括:
步骤1.1,基于搭载INS惯导设备和摄像头的无人机,采集获取城区建筑物的图像数据;
步骤1.2,基于时间戳和INS数据,对图像数据进行连续帧的拼接;
步骤1.3,基于MVS技术将采集的图像数据进行三角化,生成带有RGB信息的三维点云数据。
可选地,所述步骤2包括:
步骤2.1,将步骤1获取到的城区建筑物三维点云数据,构建成kd-tree结构;
步骤2.2,基于kd-tree结构获取各查询点周围的多尺度点云数据;
步骤2.3,利用FPFH融合多尺度局部点云,计算各查询点的局部特征。
可选地,所述步骤3包括:
步骤3.1,将步骤2的局部特征作为基础,构建特征搜索树;
步骤3.2,随机在三维点云数据中选取聚类初始点p;
步骤3.3,在特征搜索树中寻找点p的邻域特征点集M;
步骤3.4,当点集M中的点q与p在空间上也存在邻域关系,则将q和p聚为一类;
步骤3.5,若q和p在空间上不存在邻域关系时,则将其作为下一个聚类点的初始点;
步骤3.6,当以p为聚类初始点的聚类点均聚类完成之后,融合该聚类体内的所有特征,重新更新p的特征空间信息,并将其作为超体素的表达;
步骤3.7,重复步骤3.2-步骤3.6的过程,直至三维点云中每个点均归属到某一类,获取超体素聚类集M={M0,M1,…,Mn}。
可选地,所述步骤4包括:
步骤4.1,基于步骤3中获取的超体素聚类集M,计算超体素之间的特征相似度、空间邻近性、局部凸性;
步骤4.2,计算超体素间的归一化距离D(a,b);
步骤4.3,当D(a,b)小于设定阈值thr时,则认为超体素之间是连通的;
步骤4.4,重复判断超体素之间是否连通,从而构建成超体素连通图G(V,L),其中V表示图节点,即超体素点,L表示连通边集合L={Lab,Lbc,…},且每个边Lab包含了是否连接及连接的归一化距离信息。
可选地,所述步骤4.1中,计算超体素之间的特征相似度、空间邻近性、局部凸性分别采用公式1、公式2、公式3实现:
DFPFn(a,b)=1/L(Ha,Hb) 公式1
Figure BDA0003970105300000031
Figure BDA0003970105300000032
其中,xa、ya、za、xb、yb、zb分别表示超体素a、b的空间位置坐标;L(Ha,Hb)称为交集函数,用于表示超体素a,b之间FPFH之间的重叠程度,当重叠程度越大时,表示超体素之间的像素度越高,用公式4来进行描述;
Figure BDA0003970105300000033
Figure BDA0003970105300000034
分别为超体素a,b的法向量,
Figure BDA0003970105300000035
vnsim,vnsimF,vconv,vconvF均为人工设置的常数,vnsim表示法线相似阈值,vnsimF表示vnsim处的切线斜率,vconv为设置的凸度阈值,vconvF则表示vconv处的切线斜率,且sigm函数用公式5表示:
Figure BDA0003970105300000036
其中,x分别对应公式3中
Figure BDA0003970105300000041
函数对超体素a、b的法向量运算结果;θ为根据法线相似阈值vnsim、凸度阈值vconv采用余弦函数得到的阈值结果;m表示为法线相似阈值vnsim、凸度阈值vconv处的切线斜率。
可选地,所述步骤4.2中,归一化距离D(a,b)用公式6表示:
Figure BDA0003970105300000042
其中,we、wi和wp分别表示对应项在归一化距离计算中的影响因子。
可选地,所述步骤5包括:
步骤5.1,将步骤4构建的连通图中的节点V视为一个神经点云;
步骤5.2,对所有神经点利用多层级MLP构建神经渲染场,完成三维建筑物的重建。
可选地,所述步骤5.2包括:
步骤5.2.1,以每个神经点p作为相机射线入射方向,通过沿着该射线方向上采样5D坐标,获取该采样点序列P;
步骤5.2.2,同时基于步骤4获取的连通图的边集L={Lab,Lbc,…},获取步骤5.2.1中得到的采样点序列P的每个连通点序列Q;
步骤5.2.3,将采样点P及其连通点Q分别加入MLP进行训练,并将其训练的结果再通过一层MLP进行特征融合,从而产生颜色和体积密度;
步骤5.2.4,使用体积渲染技术将产生的颜色和体积密度合成图像,并通过最小化合成图像和真实观测图像之间的残差来优化该城区三维建筑物模型。
可选地,所述步骤5.2.1中,5D坐标包括位置坐标x、y、z和观看方向坐标θ、
Figure BDA0003970105300000043
本发明的有益效果在于:
1、本发明利用神经渲染场(NeRF)来重建城区三维建筑物,相对于传统利用点云和图像进行人工手动建模的方式,极大地提升了三维建筑物重建效率,促进了三维建筑物模型在城市规划,智慧城市,人口迁移等领域的研究。
2、基于SuperPoint-NeRF的三维建筑物重建方法,相比较常规NeRF,结合了超体素局部邻域特征和NeRF高精重建特征,多层级MLP充分考虑了建筑物邻域的相互影响,提高了三维建筑物的重建精度。同时,稀疏的超体素点云相较原始的三维点云,数据量极大地减少。在保证点云特征不缺失的情况下,减少了数据的输入,提高了NeRF的训练和重建效率,实现了其在城市级建筑物重建中的应用。
根据下文结合附图对本发明具体实施例的详细描述,本领域技术人员将会更加明了本发明的上述以及其他目的、优点和特征。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本发明的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解,这些附图未必是按比例绘制的。附图中:
图1是本发明基于SuperPoint-NeRF的三维建筑物重建方法的流程图;
图2是本发明多尺度FPFH结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面根据附图1-2描述本发明实施例的基于SuperPoint-NeRF的三维建筑物重建方法。
如图1所示,本发明的一个实施例提供一种基于SuperPoint-NeRF的三维建筑物重建方法,包括如下步骤:
步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;
步骤1.1,基于搭载INS惯导设备和摄像头的无人机,采集获取城区建筑物的图像数据;
步骤1.2,基于时间戳和INS数据,对图像数据进行连续帧的拼接;
步骤1.3,基于OpenMVS技术将采集的图像数据进行三角化,生成带有RGB信息的三维点云数据;
步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;
步骤2.1,将步骤1获取到的城区建筑物三维点云数据,构建成kd-tree结构;
步骤2.2,基于kd-tree结构获取各查询点周围的多尺度点云数据;
步骤2.3,利用快速点特征直方图(Fast Point Feature Histograms,FPFH)融合多尺度局部点云,计算各查询点的局部特征,其多尺度FPFH结构如图2所示;
步骤3,利用离散点的局部特征对建筑物进行超体素分割;
步骤3.1,将步骤2的局部特征作为基础,构建特征搜索树;
步骤3.2,随机在三维点云数据中选取聚类初始点p;
步骤3.3,在特征搜索树中寻找点p的邻域特征点集M;
步骤3.4,当点集M中的点q与p在空间上也存在邻域关系,则将q和p聚为一类;
步骤3.5,若q和p在空间上不存在邻域关系时,则将其作为下一个聚类点的初始点;
步骤3.6,当以p为聚类初始点的聚类点均聚类完成之后,融合该聚类体内的所有特征,重新更新p的特征空间信息,并将其作为超体素的表达;
步骤3.7,重复步骤3.2-步骤3.6的过程,直至三维点云中每个点均归属到某一类,获取超体素聚类集M={M0,M1,…,Mn};
步骤4,基于多模态邻域特征构建超体素连通图;
步骤4.1,基于步骤3中获取的超体素聚类集M,计算超体素之间的特征相似度、空间邻近性、局部凸性;
步骤4.2,计算超体素间的归一化距离D(a,b);
步骤4.3,当D(a,b)小于设定阈值thr时,则认为超体素之间是连通的;
步骤4.4,重复判断超体素之间是否连通,从而构建成超体素连通图G(V,L),其中V表示图节点,即超体素点,L表示连通边集合L={Lab,Lbc,…},且每个边Lab包含了是否连接及连接的归一化距离信息;
步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建;
步骤5.1,将步骤4构建的连通图中的节点V视为一个神经点云;
步骤5.2,对所有神经点利用多层级MLP(Multi-Layer Perception)构建神经渲染场,完成三维建筑物的重建。
本发明的另一个实施例提供一种基于SuperPoint-NeRF的三维建筑物重建方法,包括如下步骤:
步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;
步骤1.1,基于搭载INS惯导设备和摄像头的无人机,采集获取城区建筑物的图像数据;
步骤1.2,基于时间戳和INS数据,对图像数据进行连续帧的拼接;
步骤1.3,基于OpenMVS技术将采集的图像数据进行三角化,生成带有RGB信息的三维点云数据;
步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;
步骤2.1,将步骤1获取到的城区建筑物三维点云数据,构建成kd-tree结构;
步骤2.2,基于kd-tree结构获取各查询点周围的多尺度点云数据;
步骤2.3,利用快速点特征直方图(Fast Point Feature Histograms,FPFH)融合多尺度局部点云,计算各查询点的局部特征,其多尺度FPFH结构如图2所示;
步骤3,利用离散点的局部特征对建筑物进行超体素分割;
步骤3.1,将步骤2的局部特征作为基础,构建特征搜索树;
步骤3.2,随机在三维点云数据中选取聚类初始点p;
步骤3.3,在特征搜索树中寻找点p的邻域特征点集M;
步骤3.4,当点集M中的点q与p在空间上也存在邻域关系,则将q和p聚为一类;
步骤3.5,若q和p在空间上不存在邻域关系时,则将其作为下一个聚类点的初始点;
步骤3.6,当以p为聚类初始点的聚类点均聚类完成之后,融合该聚类体内的所有特征,重新更新p的特征空间信息,并将其作为超体素的表达;
步骤3.7,重复步骤3.2-步骤3.6的过程,直至三维点云中每个点均归属到某一类,获取超体素聚类集M={M0,M1,…,Mn};
步骤4,基于多模态邻域特征构建超体素连通图;
步骤4.1,基于步骤3中获取的超体素聚类集M,计算超体素之间的特征相似度、空间邻近性、局部凸性分别采用公式1、公式2、公式3实现:
DFPFH(a,b)=1/L(HaiHb) 公式1
Figure BDA0003970105300000081
Figure BDA0003970105300000082
其中,xa、ya、za、xb、yb、zb分别表示超体素a、b的空间位置坐标;L(Ha,Hb)称为交集函数,用于表示超体素a、b之间FPFH之间的重叠程度,当重叠程度越大时,表示超体素之间的像素度越高,用公式4来进行描述;
Figure BDA0003970105300000091
Figure BDA0003970105300000092
分别为超体素a,b的法向量,
Figure BDA0003970105300000093
vnsim,vnsimF,vconv,vconvF均为人工设置的常数,vnsim表示法线相似阈值,vnsimF表示vnsim处的切线斜率,vconv为设置的凸度阈值,vconvF则表示vconv处的切线斜率,且sigm函数用公式5表示:
Figure BDA0003970105300000094
其中,x分别对应公式3中
Figure BDA0003970105300000095
函数对超体素a、b的法向量运算结果;θ为根据法线相似阈值vnsim、凸度阈值vconv采用余弦函数得到的阈值结果;m表示为法线相似阈值vnsim、凸度阈值vconv处的切线斜率。
步骤4.2,计算超体素间的归一化距离D(a,b);归一化距离D(a,b)用公式6表示:
Figure BDA0003970105300000096
其中,we、wi和wp分别表示对应项在归一化距离计算中的影响因子。
步骤4.3,当D(a,b)小于设定阈值thr时,则认为超体素之间是连通的;
步骤4.4,重复判断超体素之间是否连通,从而构建成超体素连通图G(V,L),其中V表示图节点,即超体素点,L表示连通边集合L={Lab,Lbc,…},且每个边Lab包含了是否连接及连接的归一化距离信息;
步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建;
步骤5.1,将步骤4构建的连通图中的节点V视为一个神经点云;
步骤5.2,对所有神经点利用多层级MLP构建神经渲染场,完成三维建筑物的重建。
本发明的另一个实施例提供一种基于SuperPoint-NeRF的三维建筑物重建方法,包括如下步骤:
步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;
步骤1.1,基于搭载INS惯导设备和摄像头的无人机,采集获取城区建筑物的图像数据;
步骤1.2,基于时间戳和INS数据,对图像数据进行连续帧的拼接;
步骤1.3,基于OpenMVS技术将采集的图像数据进行三角化,生成带有RGB信息的三维点云数据;
步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;
步骤2.1,将步骤1获取到的城区建筑物三维点云数据,构建成kd-tree结构;
步骤2.2,基于kd-tree结构获取各查询点周围的多尺度点云数据;
步骤2.3,利用快速点特征直方图(Fast Point Feature Histograms,FPFH)融合多尺度局部点云,计算各查询点的局部特征,其多尺度FPFH结构如图2所示;
步骤3,利用离散点的局部特征对建筑物进行超体素分割;
步骤3.1,将步骤2的局部特征作为基础,构建特征搜索树;
步骤3.2,随机在三维点云数据中选取聚类初始点p;
步骤3.3,在特征搜索树中寻找点p的邻域特征点集M;
步骤3.4,当点集M中的点q与p在空间上也存在邻域关系,则将q和p聚为一类;
步骤3.5,若q和p在空间上不存在邻域关系时,则将其作为下一个聚类点的初始点;
步骤3.6,当以p为聚类初始点的聚类点均聚类完成之后,融合该聚类体内的所有特征,重新更新p的特征空间信息,并将其作为超体素的表达;
步骤3.7,重复步骤3.2-步骤3.6的过程,直至三维点云中每个点均归属到某一类,获取超体素聚类集M={M0,M1,…,Mn};
步骤4,基于多模态邻域特征构建超体素连通图;
步骤4.1,基于步骤3中获取的超体素聚类集M,计算超体素之间的特征相似度、空间邻近性、局部凸性分别采用公式1、公式2、公式3实现:
DFPFn(a,b)=1/L(Ha,Hb) 公式1
Figure BDA0003970105300000111
Figure BDA0003970105300000112
其中,xa、ya、za、xb、yb、zb分别表示超体素a、b的空间位置坐标;L(Ha,Hb)称为交集函数,用于表示超体素a、b之间FPFH之间的重叠程度,当重叠程度越大时,表示超体素之间的像素度越高,用公式4来进行描述;
Figure BDA0003970105300000113
Figure BDA0003970105300000114
分别为超体素a,b的法向量,
Figure BDA0003970105300000115
vnsim,vnsimF,vconv,vconvF均为人工设置的常数,vnsim表示法线相似阈值,vnsimF表示vnsim处的切线斜率,vconv为设置的凸度阈值,vconvF则表示vconv处的切线斜率,且sigm函数用公式5表示:
Figure BDA0003970105300000116
其中,x分别对应公式3中
Figure BDA0003970105300000117
函数对超体素a、b的法向量运算结果;θ为根据法线相似阈值vnsim、凸度阈值vconv采用余弦函数得到的阈值结果;m表示为法线相似阈值vnsim、凸度阈值vconv处的切线斜率。
步骤4.2,计算超体素间的归一化距离D(a,b);归一化距离D(a,b)用公式6表示:
Figure BDA0003970105300000121
其中,we、wi和wp分别表示对应项在归一化距离计算中的影响因子。
步骤4.3,当D(a,b)小于设定阈值thr时,则认为超体素之间是连通的;
步骤4.4,重复判断超体素之间是否连通,从而构建成超体素连通图G(V,L),其中V表示图节点,即超体素点,L表示连通边集合L={Lab,Lbc,…},且每个边Lab包含了是否连接及连接的归一化距离信息;
步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建;
步骤5.1,将步骤4构建的连通图中的节点V视为一个神经点云;
步骤5.2,对所有神经点利用多层级MLP构建神经渲染场,完成三维建筑物的重建;
步骤5.2.1,以每个神经点p作为相机射线入射方向,通过沿着该射线方向上采样5D坐标(位置坐标x、y、z和观看方向坐标θ、
Figure BDA0003970105300000122
),获取该采样点序列P;
步骤5.2.2,同时基于步骤4获取的连通图的边集L={Lab,Lbc,…},获取步骤5.2.1中得到的采样点序列P的每个连通点序列Q;
步骤5.2.3,将采样点P及其连通点Q分别加入MLP进行训练,并将其训练的结果再通过一层MLP进行特征融合,从而产生颜色和体积密度;
步骤5.2.4,使用体积渲染技术将产生的颜色和体积密度合成图像,并通过最小化合成图像和真实观测图像之间的残差来优化该城区三维建筑物模型。
本发明结合三维超体素点云的局部特征与连通性关系,通过分层级的MLP回归神经渲染场来表示建筑物表面密度和射线,从而实现快速高精的三维建筑物重建,不仅能够极大的提高传统NeRF在三维重建领域的效率,同时由于局部邻域特征的加入也显著提升了其重建精度,达到城市级高效率高精度的三维建筑物重建。
在本发明的描述中,此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接或彼此可通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系,除非另有明确的限定。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
至此,本领域技术人员应认识到,虽然本文已详尽示出和描述了本发明的多个示例性实施例,但是,在不脱离本发明精神和范围的情况下,仍可根据本发明公开的内容直接确定或推导出符合本发明原理的许多其他变型或修改。因此,本发明的范围应被理解和认定为覆盖了所有这些其他变型或修改。

Claims (10)

1.一种基于SuperPoint-NeRF的三维建筑物重建方法,其特征在于,包括如下步骤:
步骤1,利用多帧二维图像获取建筑物的初始三维点云数据;
步骤2,基于多尺度FPFH构建建筑物三维点云的局部特征;
步骤3,利用离散点的局部特征对建筑物进行超体素分割;
步骤4,基于多模态邻域特征构建超体素连通图;
步骤5,利用多层级MLP构建神经渲染场,完成三维建筑物的重建。
2.根据权利要求1所述的重建方法,其特征在于,所述步骤1包括:
步骤1.1,基于搭载INS惯导设备和摄像头的无人机,采集获取城区建筑物的图像数据;
步骤1.2,基于时间戳和INS数据,对图像数据进行连续帧的拼接;
步骤1.3,基于MVS技术将采集的图像数据进行三角化,生成带有RGB信息的三维点云数据。
3.根据权利要求1所述的重建方法,其特征在于,所述步骤2包括:
步骤2.1,将步骤1获取到的三维点云数据,构建成kd-tree结构;
步骤2.2,基于kd-tree结构获取各查询点周围的多尺度点云数据;
步骤2.3,利用FPFH融合多尺度局部点云,计算各查询点的局部特征。
4.根据权利要求1所述的重建方法,其特征在于,所述步骤3包括:
步骤3.1,将步骤2的局部特征作为基础,构建特征搜索树;
步骤3.2,随机在三维点云数据中选取聚类初始点p;
步骤3.3,在特征搜索树中寻找点p的邻域特征点集M;
步骤3.4,当点集M中的点q与p在空间上也存在邻域关系,则将q和p聚为一类;
步骤3.5,若q和p在空间上不存在邻域关系时,则将其作为下一个聚类点的初始点;
步骤3.6,当以p为聚类初始点的聚类点均聚类完成之后,融合该聚类体内的所有特征,重新更新p的特征空间信息,并将其作为超体素的表达;
步骤3.7,重复步骤3.2-步骤3.6的过程,直至三维点云中每个点均归属到某一类,获取超体素聚类集M={M0,M1,…,Mn}。
5.根据权利要求4所述的重建方法,其特征在于,所述步骤4包括:
步骤4.1,基于步骤3中获取的超体素聚类集M,计算超体素之间的特征相似度、空间邻近性、局部凸性;
步骤4.2,计算超体素间的归一化距离D(a,b);
步骤4.3,当D(a,b)小于设定阈值thr时,则认为超体素之间是连通的;
步骤4.4,重复判断超体素之间是否连通,从而构建成超体素连通图G(V,L),其中V表示图节点,即超体素点,L表示连通边集合L={Lab,Lbc,…},且每个边Lab包含了是否连接及连接的归一化距离信息。
6.根据权利要求5所述的重建方法,其特征在于,所述步骤4.1中,计算超体素之间的特征相似度、空间邻近性、局部凸性分别采用公式1、公式2、公式3实现:
DFPFH(a,b)=1/L(Ha,Hb) 公式1
Figure FDA0003970105290000021
Figure FDA0003970105290000022
其中,xa、ya、za、xb、yb、zb分别表示超体素a、b的空间位置坐标;L(Ha,Hb)称为交集函数,用于表示超体素a、b之间FPFH之间的重叠程度,当重叠程度越大时,表示超体素之间的像素度越高,用公式4来进行描述;
Figure FDA0003970105290000023
Figure FDA0003970105290000024
分别为超体素a、b的法向量,
Figure FDA0003970105290000025
vnsim,vnsimF,vconv,vconvF均为人工设置的常数,vnsim表示法线相似阈值,vnsimF表示vnsim处的切线斜率,vconv为设置的凸度阈值,vconvF则表示vconv处的切线斜率,且sigm函数用公式5表示:
Figure FDA0003970105290000031
其中,x分别对应公式3中
Figure FDA0003970105290000032
函数对超体素a、b的法向量运算结果;θ为根据法线相似阈值vnsim、凸度阈值vconv采用余弦函数得到的阈值结果;m表示为法线相似阈值vnsim、凸度阈值vconv处的切线斜率。
7.根据权利要求5所述的重建方法,其特征在于,所述步骤4.2中,归一化距离D(a,b)用公式6表示:
Figure FDA0003970105290000033
其中,we、wi和wp分别表示对应项在归一化距离计算中的影响因子。
8.根据权利要求5所述的重建方法,其特征在于,所述步骤5包括:
步骤5.1,将步骤4构建的连通图中的节点V视为一个神经点云;
步骤5.2,对所有神经点利用多层级MLP构建神经渲染场,完成三维建筑物的重建。
9.根据权利要求8所述的重建方法,其特征在于,所述步骤5.2包括:
步骤5.2.1,以每个神经点p作为相机射线入射方向,通过沿着该射线方向上采样5D坐标,获取该采样点序列P;
步骤5.2.2,同时基于步骤4获取的连通图的边集L={Lab,Lbc,…},获取步骤5.2.1中得到的采样点序列P的每个连通点序列Q;
步骤5.2.3,将采样点P及其连通点Q分别加入MLP进行训练,并将其训练的结果再通过一层MLP进行特征融合,从而产生颜色和体积密度;
步骤5.2.4,使用体积渲染技术将产生的颜色和体积密度合成图像,并通过最小化合成图像和真实观测图像之间的残差来优化该城区三维建筑物模型。
10.根据权利要求9所述的重建方法,其特征在于,所述步骤5.2.1中,5D坐标包括位置坐标x、y、z和观看方向坐标θ、
Figure FDA0003970105290000041
CN202211513937.XA 2022-11-29 2022-11-29 一种基于SuperPoint-NeRF的三维建筑物重建方法 Active CN115731355B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211513937.XA CN115731355B (zh) 2022-11-29 2022-11-29 一种基于SuperPoint-NeRF的三维建筑物重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211513937.XA CN115731355B (zh) 2022-11-29 2022-11-29 一种基于SuperPoint-NeRF的三维建筑物重建方法

Publications (2)

Publication Number Publication Date
CN115731355A true CN115731355A (zh) 2023-03-03
CN115731355B CN115731355B (zh) 2024-06-04

Family

ID=85299109

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211513937.XA Active CN115731355B (zh) 2022-11-29 2022-11-29 一种基于SuperPoint-NeRF的三维建筑物重建方法

Country Status (1)

Country Link
CN (1) CN115731355B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116543117A (zh) * 2023-03-16 2023-08-04 中国科学院地理科学与资源研究所 一种无人机影像的高精度大场景三维建模方法
CN116664782A (zh) * 2023-07-31 2023-08-29 南京信息工程大学 一种基于融合体素的神经辐射场三维重建方法
CN117593436A (zh) * 2024-01-18 2024-02-23 深圳市其域创新科技有限公司 辐射场模型重建方法、装置、计算机设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106803267A (zh) * 2017-01-10 2017-06-06 西安电子科技大学 基于Kinect的室内场景三维重建方法
CN111488769A (zh) * 2019-01-28 2020-08-04 北京工商大学 基于光斑发散尺寸的无监督式融合点云超体素化方法
CN111815776A (zh) * 2020-02-04 2020-10-23 山东水利技师学院 综合机载和车载三维激光点云及街景影像的三维建筑物精细几何重建方法
CN114898028A (zh) * 2022-04-29 2022-08-12 厦门大学 基于点云的场景重建兼渲染的方法、存储介质和电子设备
CN115170559A (zh) * 2022-08-12 2022-10-11 杭州像衍科技有限公司 基于多层级哈希编码的个性化人头神经辐射场基底表示与重建方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106803267A (zh) * 2017-01-10 2017-06-06 西安电子科技大学 基于Kinect的室内场景三维重建方法
CN111488769A (zh) * 2019-01-28 2020-08-04 北京工商大学 基于光斑发散尺寸的无监督式融合点云超体素化方法
CN111815776A (zh) * 2020-02-04 2020-10-23 山东水利技师学院 综合机载和车载三维激光点云及街景影像的三维建筑物精细几何重建方法
CN114898028A (zh) * 2022-04-29 2022-08-12 厦门大学 基于点云的场景重建兼渲染的方法、存储介质和电子设备
CN115170559A (zh) * 2022-08-12 2022-10-11 杭州像衍科技有限公司 基于多层级哈希编码的个性化人头神经辐射场基底表示与重建方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张文豪: "基于超体素的三维室内点云场景分割技术研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》, 15 July 2020 (2020-07-15), pages 1 - 70 *
杨玉泽;林文树;: "基于激光点云数据的树木枝叶分割和三维重建", 西北林学院学报, no. 03, 31 December 2020 (2020-12-31) *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116543117A (zh) * 2023-03-16 2023-08-04 中国科学院地理科学与资源研究所 一种无人机影像的高精度大场景三维建模方法
CN116543117B (zh) * 2023-03-16 2024-01-09 中国科学院地理科学与资源研究所 一种无人机影像的高精度大场景三维建模方法
CN116664782A (zh) * 2023-07-31 2023-08-29 南京信息工程大学 一种基于融合体素的神经辐射场三维重建方法
CN116664782B (zh) * 2023-07-31 2023-10-13 南京信息工程大学 一种基于融合体素的神经辐射场三维重建方法
CN117593436A (zh) * 2024-01-18 2024-02-23 深圳市其域创新科技有限公司 辐射场模型重建方法、装置、计算机设备及存储介质
CN117593436B (zh) * 2024-01-18 2024-05-03 深圳市其域创新科技有限公司 辐射场模型重建方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN115731355B (zh) 2024-06-04

Similar Documents

Publication Publication Date Title
CN113159151B (zh) 面向自动驾驶的多传感器深度融合3d目标检测方法
Xiao et al. Image-based façade modeling
CN115731355A (zh) 一种基于SuperPoint-NeRF的三维建筑物重建方法
CN108734728A (zh) 一种基于高分辨序列图像的空间目标三维重构方法
Zhang et al. Automatic object removal with obstructed façades completion using semantic segmentation and generative adversarial inpainting
WO2023280038A1 (zh) 一种三维实景模型的构建方法及相关装置
CN116797742A (zh) 室内场景的三维重建方法及系统
CN118172507B (zh) 基于数字孪生的变电站场景融合三维重建方法及系统
CN113192200B (zh) 一种基于空三并行计算算法的城市实景三维模型的构建方法
CN112242002B (zh) 基于深度学习的物体识别和全景漫游方法
Pellis et al. Assembling an image and point cloud dataset for heritage building semantic segmentation
Huang et al. Overview of LiDAR point cloud target detection methods based on deep learning
CN116912486A (zh) 基于边缘卷积和多维特征融合的目标分割方法、电子装置
CN104463962B (zh) 基于gps信息视频的三维场景重建方法
Huang et al. Multi-view stereo algorithms based on deep learning: a survey
CN118397282B (zh) 基于语义sam大模型的三维点云鲁棒性部件分割方法
CN101639355B (zh) 一种三维平面提取方法
CN112002007B (zh) 基于空地影像的模型获取方法及装置、设备、存储介质
CN112633293B (zh) 一种基于图分割的三维稀疏点云重建图像集分类方法
Amirkolaee et al. Convolutional neural network architecture for digital surface model estimation from single remote sensing image
Li et al. Bdloc: Global localization from 2.5 d building map
Li et al. Automatic Keyline Recognition and 3D Reconstruction For Quasi‐Planar Façades in Close‐range Images
Christodoulides et al. Survey on 3D Reconstruction Techniques: Large-Scale Urban City Reconstruction and Requirements
CN114943949A (zh) 一种并行多元特征处理方法及系统
Zhang et al. Automatic superpixel generation algorithm based on a quadric error metric in 3D space

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant