CN114049356A - 一种结构表观裂缝检测方法、装置及系统 - Google Patents
一种结构表观裂缝检测方法、装置及系统 Download PDFInfo
- Publication number
- CN114049356A CN114049356A CN202210046122.9A CN202210046122A CN114049356A CN 114049356 A CN114049356 A CN 114049356A CN 202210046122 A CN202210046122 A CN 202210046122A CN 114049356 A CN114049356 A CN 114049356A
- Authority
- CN
- China
- Prior art keywords
- crack
- image
- detected
- segmentation
- appearance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20132—Image cropping
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种结构表观裂缝检测方法、装置及系统。其中,方法包括利用携带图像标签的裂缝数据集训练裂缝检测模型;裂缝数据集的各样本图像为被裁剪的图像块,且图像块裂缝有像素级标注。将由携带测距仪且可移动的图像采集设备所采集的待检测结构表观的高分辨率图像分割为多个图像块;将各图像块输入至裂缝检测模型,以识别各图像块是否包括裂缝并提取裂缝特征信息,得到高分辨率图像的各像素级分割图;自动拼接各像素级分割图,得到待检测结构的裂缝分割图。根据裂缝分割图所确定的裂缝实际物理尺寸与自动读取的裂缝规范宽度限值,自动评估裂缝对待检测结构的危险程度。本申请可以精准、高效地从含复杂背景的高分辨率图像中提取裂缝特征信息。
Description
技术领域
本申请涉及建筑工程技术领域,特别是涉及一种结构表观裂缝检测方法、装置及系统。
背景技术
可以理解的是,桥梁、道路、隧道、堤坝、房屋等建筑在经过地震作用或者使用年限过长或者产生不均匀沉降时,可能会逐渐变形甚至出现建筑裂缝,裂缝的存在可能会导致整个建筑结构失稳或者破坏倒塌,影响整个建筑结构的安全使用。虽然裂缝在混凝土结构中是很常见的,但当裂缝的尺寸超过一定限值时,会严重影响建筑物的正常使用和正常承载。在对建筑物结构进行安全鉴定评估或者裂缝修复过程中,都需要对建筑物结构存在的裂缝进行准确的评估和测量。
在过去十几年中,基于视觉的结构损伤检测方法在监测民用基础设施方面受到了极大的关注。在结构周期性检查过程中,裂缝信息为建筑工程的安全性及耐久性评估提供了重要依据,因此准确地检测分析裂缝对建筑物的合理维护具有重要意义。一套自主裂缝检测系统有助于减少操作中的人为参与,降低成本,从而提高检测系统的可靠性和效率。基于计算机视觉的裂缝检测技术具有简单易操作、非接触式和对观测数据的解释更直观等优势,其已被广泛应用于实际工程现场。计算机视觉算法可分为图像检测与图像分割,将其应用在结构表观裂缝检测中,需要进行裂缝检测和裂缝分割,裂缝检测的目的是对结构表观图像中的裂缝进行分类和定位,裂缝分割的目的是从结构表观背景中准确提取裂缝。对结构表观裂缝进行分割能够准确地得到其裂缝的形态走势及尺寸信息,可以用于后期结构状态评估。
但是,在现实环境中拍摄的结构图像背景极其复杂,图像中包含多种干扰信息,不利于裂缝信息的提取。并且拍摄的图像一般为高分辨率图像,在移动端即使配备高性能的图形处理器(也即GPU),直接测试如此高分辨率的图像也会引起内存不足。
鉴于此,如何从含复杂背景的高分辨率图像中准确提取裂缝特征信息,是所属领域技术人员需要解决的技术问题。
发明内容
本申请提供了一种结构表观裂缝检测方法、装置及系统,可以精准、高效地从含复杂背景的高分辨率图像中提取裂缝特征信息。
为解决上述技术问题,本发明实施例提供以下技术方案:
本发明实施例一方面提供了一种结构表观裂缝检测方法,包括:
预先利用携带图像标签的裂缝数据集训练裂缝检测模型;
获取待检测结构表观的当前高分辨率图像,并将所述高分辨率图像分割为多个待处理图像块;
将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图;
自动拼接各像素级分割图,得到所述待检测结构的裂缝分割图;
根据所述裂缝分割图确定所述裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险;
其中,所述当前高分辨率图像为由包括图像采集器、测距仪和移动平台的图像采集设备所采集,所述图像采集器和所述测距仪搭载在所述移动平台;所述移动平台按照预设移动路径进行移动,所述图像采集器在随着所述移动平台的移动过程中采集所述待检测结构表观的高分辨率图像,所述测距仪用于记录所述图像采集器所采集的每一帧图像与所述待检测结构间的实际物理距离;所述裂缝数据集的各样本图像为被裁剪的图像块,且对携带裂缝图像块标签的图像块的裂缝进行像素级标注;所述图像标签为裂缝图像块标签或背景图像块标签;所述裂缝检测模型用于识别待处理图像块是否为裂缝图像并提取所述裂缝图像的裂缝特征信息。
可选的,所述根据所述裂缝分割图确定裂缝的实际物理尺寸,包括:
对所述裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;
根据所述骨架及轮廓信息得到所述裂缝以像素为单位的裂缝特征值;
根据所述裂缝特征值、所述高分辨率图像的采集设备与所述待检测结构表观的距离信息和相机参数计算得到所述裂缝的实际物理尺寸。
可选的,所述将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图之前,还包括:
预先利用携带结构类型标签的结构表观数据集,训练得到结构表观类型识别模型;所述结构表观数据集包括多张不同结构表观图像样本数据;所述结构表观类型识别模型用于识别所述待检测结构所属结构类型;
将所述高分辨率图像输入至所述结构表观类型识别模型,得到所述待检测结构对应的结构类型。
可选的,所述根据所述裂缝分割图确定所述裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险,包括:
根据所述待检测结构对应的结构类型,自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值;
通过比对所述实际物理尺寸和所述裂缝规范宽度限值,自动输出所述待检测结构的裂缝损伤等级和危险程度。
可选的,所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
获取多幅所述待检测结构的高分辨样本图像、多幅与所述待检测结构表观背景相似的结构的高分辨样本图像;
将各高分辨样本图像进行裁剪,得到多个样本图像块;
按照是否有裂缝对各样本图像块进行分类,并根据分类结果为各样本图像块设置相应的图像标签,生成裂缝分类数据集;
获取所述裂缝分类数据集中图像标签为所述裂缝图像块标签的目标图像块;
对各目标图像块中的裂缝进行像素级标注,并将标注后的目标图像块进行二值化转化处理,生成裂缝分割数据集。
可选的,所述裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,所述裂缝识别网络模型输出图像标签,所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
预先构建包括输入层、特征提取层、特征识别层和输出层的识别网络结构;
将所述裂缝分类数据集的各样本图像块输入至所述识别网络结构的输入层,基于交叉熵损失函数训练所述识别网络结构,以得到所述裂缝识别网络模型;
其中,所述特征提取层包括第一卷积层、第二卷积结构、第三卷积结构、第四卷积结构和第五卷积结构;所述第二卷积结构包括最大池化层和多个卷积层;所述第三卷积结构、所述第四卷积结构和所述第五卷积结构均包括多个卷积层;所述特征识别层包括平均池化层、全连接层和激活函数层。
可选的,所述裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,所述裂缝分割网络模型输出标记裂缝像素的语义分割图;所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
预先搭建基于U型网络的裂缝分割网络,所述裂缝分割网络还包括密集空洞卷积模块与尺度感知金字塔融合模块;
将所述裂缝分割数据集输入至所述裂缝分割网络,所述裂缝分割网络利用预先训练好的特征编码器,在编解码过程中基于注意力门控机制对所述裂缝分割数据集的各目标图像块的图像特征进行处理,采用二分类交叉熵损失与相似度损失组成的联合损失函数训练所述裂缝分割网络,以得到所述裂缝分割网络模型。
本发明实施例另一方面提供了一种结构表观裂缝检测装置,包括:
模型训练模块,用于预先利用携带图像标签的裂缝数据集训练裂缝检测模型;其中,所述裂缝数据集的各样本图像为被裁剪的图像块,且对携带裂缝图像块标签的图像块的裂缝进行像素级标注;所述图像标签为裂缝图像块标签或背景图像块标签;所述裂缝检测模型用于识别待处理图像块是否为裂缝图像并提取所述裂缝图像的裂缝特征信息;
图像分割模块,用于获取待检测结构表观的高分辨率图像,并将所述高分辨率图像分割为多个待处理图像块;
图像检测模块,用于将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图;
裂缝提取模块,用于自动拼接各像素级分割图,得到所述待检测结构的裂缝分割图;
量化评估模块,用于根据所述裂缝分割图确定所述裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险。
可选的,所述量化评估模块包括:
尺寸计算模块,用于对所述裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;根据所述骨架及轮廓信息得到所述裂缝以像素为单位的裂缝特征值;根据所述裂缝特征值、所述高分辨率图像的采集设备与所述待检测结构表观的距离信息和相机参数计算得到所述裂缝的实际物理尺寸;
自动评估模块,应用根据结构表观类型识别模型输出的待检测结构对应的结构类型,自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值;通过比对所述实际物理尺寸和所述裂缝规范宽度限值,自动输出所述待检测结构的裂缝损伤等级和危险程度。
本发明实施例最后还提供了一种结构表观裂缝检测系统,包括图像采集设备和如前所述的电子设备;
所述电子设备与所述图像采集设备相连,以接收所述图像采集设备输送的高分辨率图像;所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现如前任一项所述结构表观裂缝检测方法的步骤;
所述图像采集设备包括图像采集器、测距仪和移动平台,所述图像采集器和所述测距仪搭载在所述移动平台;所述移动平台按照预设移动路径进行移动,所述图像采集器在随着所述移动平台的移动过程中采集待检测结构表观的高分辨率图像,所述测距仪用于记录所述图像采集器所采集的每一帧图像与所述待检测结构间的实际物理距离。
本申请提供的技术方案的优点在于,通过深度学习和计算机视觉技术相结合的方式对待检测结构表观进行裂缝的智能检测和识别,实现了从具有复杂背景的高分辨率结构表观表面图像中精准分割出微小裂缝,并得到其裂缝的形态及特征信息,进一步拓展了深度学习方法在结构健康监测上的应用,具有安全有效、操作简便、精度更高、智能化程度高的优点,在一定程度上有效缓解人工检测成本高、效率低、主观性强等困难,为基础设施工程领域的研究人员和工程从业人员提供有益的参考和建议。通过自动比对待检测结构的裂缝物理尺寸和裂缝规范宽度限值实现裂缝的自动量化评估,提高整体自动化程度,提升用户的使用体验。进一步的,将待检测结构表观的高分辨率图像分割为多个小尺寸的图像块,对每个小尺寸图像块进行处理,这些小尺寸图像块不会占用太多资源,不会影响整个系统的正常运行,有利于提升系统稳定性。
此外,本发明实施例还针对结构表观裂缝检测方法提供了相应的实现装置及系统,进一步使得所述方法更具有实用性,所述装置及系统具有相应的优点。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。
附图说明
为了更清楚的说明本发明实施例或相关技术的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种结构表观裂缝检测方法的流程示意图;
图2为本发明实施例提供的另一种结构表观裂缝检测方法的流程示意图;
图3为本发明实施例提供的裂缝数据集制作流程图;
图4为本发明实施例提供的识别网络结构示意图;
图5为本发明实施例提供的裂缝分割网络结构示意图;
图6为本发明实施例提供的密集空洞卷积模块结构示意图;
图7为本发明实施例提供的尺度感知金字塔融合模块结构示意图;
图8为本发明实施例提供的注意力门控机制结构示意图;
图9为本发明实施例提供的结构表观裂缝检测装置的一种具体实施方式结构框架示意图;
图10为本发明实施例提供的结构表观裂缝检测系统的一种具体实施方式结构框架示意图;
图11为本发明实施例提供的结构表观裂缝检测系统的一个示意性例子的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面结合附图和具体实施方式对本发明作进一步的详细说明。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等是用于区别不同的对象,而不是用于描述特定的顺序。此外术语“包括”和“具有”以及他们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可包括没有列出的步骤或单元。
在介绍了本发明实施例的技术方案后,下面详细的说明本申请的各种非限制性实施方式。
首先参见图1,图1为本发明实施例提供的一种结构表观裂缝检测方法的流程示意图,本发明实施例可包括以下内容:
S101:预先利用携带图像标签的裂缝数据集训练裂缝检测模型。
在本实施例中,裂缝数据集是用于训练裂缝检测模型的样本数据集,其包括多张与待检测结构一样或待检测结构表观相似的样本图像,每张样本图像都是由高分辨率图像裁剪所得的小尺寸的图像块,也即裂缝数据集的各样本图像为被裁剪的图像块。这些图像块有的是携带裂缝的图像,也有不携带裂缝的图像,按照是否携带裂缝对这些样本图像块进行分类,并添加相应的图像标签,图像标签为裂缝图像块标签或背景图像块标签。为了便于处理,可将裂缝图像块标签设置为1,背景图像块标签设置为0,这样样本图像块通过设置0或1可以作为其图像标签。由于裂缝检测模型要识别并提取图像中的裂缝信息,故还可对携带裂缝图像块标签的图像块的裂缝进行像素级标注,也即将样本图像的裂缝标注出来。本实施例的裂缝检测模型可用于识别待处理图像块是否为裂缝图像并提取裂缝图像的裂缝特征信息,也即裂缝检测模型实现裂缝图像的识别功能和裂缝信息的提取功能。
S102:获取待检测结构表观的当前高分辨率图像,并将高分辨率图像分割为多个待处理图像块。
在本步骤中,待检测结构为需要进行裂缝检测的结构,当前高分辨率图像是指对当前待检测结构表观所采集的高分辨率图像,在对该高分辨率图像进行分割时,可按照任何裁剪尺寸进行裁剪,这均不影响本申请的实现。为了提高图像识别精准度,可采用与裂缝数据集相同的裁剪尺寸对当前高分辨率图像进行裁剪处理。在本步骤中,可利用携带激光测距仪的移动设备对结构表面进行高分辨率图像采集,按顺序将该高分辨率图像剪切成小尺寸图像块,通过编写的图像裁切程序对高分辨率图像进行剪切时,所得每个图像块均有对应位置,方便后续将图像块的裂缝分割结果进行自动拼接。剪切尺寸与上述数据集制作过程中的剪切尺寸相同,一般可为128×128、256×256、320×320等。
S103:将各待处理图像块输入至裂缝检测模型,得到高分辨率图像的各像素级分割图。
将上个步骤得到的多个待处理图像块均输入至裂缝检测模型,裂缝检测模型对每个待处理图像块进行裂缝识别,并将存在裂缝的待处理图像块进行裂缝分割,输出相应的像素级分割图。
S104:自动拼接各像素级分割图,得到待检测结构的裂缝分割图。
可预先编写好图像块拼接程序,调用该图像块拼接程序按照S102步骤的图像裁切顺序进行自动拼接得到结构表观高分辨率图像的裂缝分割图。
S105:根据裂缝分割图确定裂缝的实际物理尺寸,与自动读取裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估裂缝对待检测结构造成的危险。
本实施例的实际物理尺寸是指裂缝在真实世界中的待检测结构中的真实尺寸,裂缝规范宽度限值是指待检测结构所在的应用场景对裂缝所允许的最大宽度尺寸值,根据所在结构选取合适的规范,将测量出的裂缝宽度值与规范宽度限值相比较,可以评估裂缝对整个待检测结构带来的损伤等级及危险程度,从而及时进行裂缝修复,保证待检测结构的安全性。本步骤的裂缝规范宽度限值是预先存储至指定位置,并在需要时自动到该位置进行读取,自动执行本步骤,实现全自动化的评估,整个过程不需要人工参与。
在本发明实施例提供的技术方案中,通过深度学习和计算机视觉技术相结合的方式对待检测结构表观进行裂缝的智能检测和识别,实现了从具有复杂背景的高分辨率结构表观表面图像中精准分割出微小裂缝,并得到其裂缝的形态及特征信息,进一步拓展了深度学习方法在结构健康监测上的应用,具有安全有效、操作简便、精度更高、智能化程度高的优点,在一定程度上有效缓解人工检测成本高、效率低、主观性强等困难,为基础设施工程领域的研究人员和工程从业人员提供有益的参考和建议。进一步的,将待检测结构表观的高分辨率图像分割为多个小尺寸的图像块,对每个小尺寸图像块进行处理,这些小尺寸图像块不会占用太多资源,不会影响整个系统的正常运行,有利于提升系统稳定性。
基于上述实施例,在获取待检测结构的裂缝分割图之后,为了便于用户进行评估,还可在自动拼接各像素级分割图,得到待检测结构的裂缝分割图之后,包括:
对裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;
根据骨架及轮廓信息得到裂缝以像素为单位的裂缝特征值;
根据裂缝特征值、高分辨率图像的采集设备与待检测结构表观的距离信息和相机参数计算得到裂缝的实际物理尺寸。
在本实施例中,可通过诸如改进中轴变换(MAT)算法对图像中的裂缝进行骨架提取,当然也可采用其他骨架提取方法,这均不影响本申请的实现。对裂缝分割图的裂缝进行骨架提取,提取到的信息可包含一个点集和点集对应的最小距离l d ,l d 为提取的信息中包含骨架上每个点到边界点的最小距离。根据提取到的骨架及轮廓信息,可以得到以像素为单位的裂缝长度、宽度及面积等形态特征。通过裂缝骨架提取可以得到单像素宽度的裂缝骨架,其中,裂缝骨架的长度与原始裂缝的长度相同。由于裂缝形状复杂且不规则,提取的裂缝骨架线并不是简单的直线,可采取分段求和的方法计算裂缝长度。裂缝骨架的自适应分割使每条曲线被分割成一系列裂缝段,每个裂缝段的长度可以定义为两个端点之间的欧几里得距离。通过累加所有裂缝段的长度,可以得到整个裂缝曲线的总长度。也即可通过调用计算关系式(1)计算得到裂缝长度:
其中,n表示裂缝骨架分割段数,(x i1,y i1),(x i2,y i2)分别表示第i段裂缝的起点坐标与终点坐标。根据提取的信息中包含骨架上每个点到边界点的最小距离l d 可调用计算关系式(2)计算得到裂缝的最大宽度max_width,计算关系式(2)可表示为:
根据裂缝分割图中裂缝像素点的数量得出裂缝的面积,并调用计算关系式(3)计算裂缝的平均宽度,计算关系式(3)可表示为:
在对待检测结构进行高分辨率图像采集时,可在相机成像轴向方向加装三点激光测距仪,激光测距仪与相机快门同步测量物距L,即激光测距仪与被测目标之间的距离。根据透镜成像原理有:
式中,为像距;f为镜头焦距。设为目标实际尺寸,即裂缝实际物理宽度;为成像尺寸,则有,从而得到,成像尺寸为,式中,为成像的像素数;d为图像传感器长边物理尺寸;为图像传感器长边像素数,像素解析度为:,它表示单位像素所代表的实际物理尺寸,为实际物理尺寸与像素数的转换系数。对数字图像进行一系列处理,得出被测目标在整幅图像中所占像素数,由此可计算被测目标也即图像中的裂缝的实际物理尺寸。
在确定待检测结构的裂缝物理尺寸之后,还可针对裂缝进行量化评估,也即评估该裂缝对待检测结构的影响,为了进一步系统自动化程度,提升用户的使用体验,实现裂缝的自动化量化评估,本实施例可自动输出裂缝结构损伤等级及危险程度,基于上述实施例,还可包括下述内容:
预先利用携带结构类型标签的结构表观数据集,训练得到结构表观类型识别模型;结构表观数据集包括多张不同结构表观图像样本数据;结构表观类型识别模型用于识别待检测结构所属结构类型;将高分辨率图像输入至结构表观类型识别模型,得到待检测结构对应的结构类型。
其中,结构类型标签是指结构表观数据集中每张结构表观图像对应的结构所属类型,可使用消费级相机采集不同结构的表观图像,并为这些表观图像设置相应结构类型标签,根据这些携带标签的结构表观类型生成结构表观数据集。
在本实施例中,可先通过对待检测结构所属结构类型进行识别,得到该待检测结构的结构类型从而针对结构类型可以确定该待检测结构在某些应用场景的一些固定参数,如裂缝规范宽度限值。进一步的,可预先设置数据库,在该数据库中存储不同结构类型对应在不同应用场景下的一些固定参数,如裂缝规范宽度限值。在需要读取裂缝规范宽度限值时,可下发信息读取指令,基于该指令触发裂缝规范宽度限值的读取操作。也即可根据待检测结构对应的结构类型,自动读取裂缝所在结构的应用场景的裂缝规范宽度限值;通过比对实际物理尺寸和裂缝规范宽度限值,自动输出待检测结构的裂缝损伤等级和危险程度。
在本实施例中,裂缝规范宽度限值是指待检测结构所在的应用场景对裂缝所允许的最大宽度尺寸值,根据所在结构选取合适的规范,将测量出的裂缝宽度值与规范宽度限值相比较,评估裂缝对整个待检测结构带来的损伤等级及危险程度,从而及时进行裂缝修复,保证待检测结构的安全性。
为了使所述领域技术人员更加清楚本申请的实现方式,本申请还提供了一个示意性例子,请参阅图2,可包括下述内容:
S201:制作裂缝数据集,使用消费级相机对待检测结构表观进行图像采集,对采集到的高分辨率图像进行裁剪得到尺寸较小的图像块,然后将其分类为裂缝图像块与背景图像块,得到带标签的裂缝分类数据集;通过对分类数据集中裂缝图像块进行像素级标注得到裂缝分割数据集。
S202:基于深度学习构建裂缝分类及分割模型,在分类数据集上训练改进ResNet101得到分类模型Model1,在分割数据集上训练空洞金字塔注意力网络得到分割模型Model2。
S203:利用携带激光测距仪的移动设备对结构表面进行高分辨率图像采集,按顺序将检测图像剪切成小尺寸图像块,所得图像块输入到Model1中进行分类得到裂缝图像块,然后将裂缝图像块输入到Model2中得到其裂缝的像素级分割图,最后编写程序将图像块分割图按顺序自动拼接得到结构表观高分辨率图像的裂缝分割图。
S204:采用改进中轴变换算法对裂缝分割图进行处理,得到裂缝的骨架和以像素为单位的裂缝特征值;根据激光测距仪中记录距离及已知的相机参数,计算裂缝特征值的真实大小。
S205:根据裂缝所在结构的应用场景以及裂缝特征值的真实大小对裂缝的危险程度进行评估。
需要说明的是,本申请中各步骤之间没有严格的先后执行顺序,只要符合逻辑上的顺序,则这些步骤可以同时执行,也可按照某种预设顺序执行,图1-图2只是一种示意方式,并不代表只能是这样的执行顺序。
在上述实施例中,对于如何执行步骤S101并不做限定,本实施例中给出利用携带图像标签的裂缝数据集训练裂缝检测模型的一种可选的实施方式,整个步骤包括裂缝数据集的生成过程和模型训练过程两部分,可包括下述内容:
获取多幅待检测结构的高分辨样本图像、多幅与待检测结构表观背景相似的结构的高分辨样本图像;将各高分辨样本图像进行裁剪,得到多个样本图像块;按照是否有裂缝对各样本图像块进行分类,并根据分类结果为各样本图像块设置相应的图像标签,生成裂缝分类数据集;获取裂缝分类数据集中图像标签为裂缝图像块标签的目标图像块;对各目标图像块中的裂缝进行像素级标注,并将标注后的目标图像块进行二值化转化处理,生成裂缝分割数据集。
在本实施例中,如图3所示,裂缝数据集的图像来源为待测结构或与待测结构表观背景相似的结构。可使用诸如消费级相机对待检测结构表观进行图像采集,对采集到的高分辨率图像进行裁剪得到尺寸较小的图像块,然后将其分类为裂缝图像块与背景图像块,得到带标签的裂缝分类数据集;通过对分类数据集中裂缝图像块进行像素级标注得到裂缝分割数据集。在生成用于图像块分类的数据集也即裂缝分类数据集,对高分辨率图像进行裁剪时,裁剪方式可选择随机裁剪,裁剪尺寸可根据整个系统的计算能力进行确定,裁剪尺寸例如可为128×128、256×256、320×320等。当裁剪得到的图像块中带有裂缝,为裂缝图像块,其标签可设置为1,若图像块中均为背景,则为背景图像块,其标签可设置为0。在生成用于裂缝分割的数据集也即裂缝分割数据集时,可采用标注工具Lableme对裂缝图像块中的裂缝进行像素级标注。然后对标注结果图像进行二值化转化,最终图像中裂缝位置标注为白色,像素点值为255,其他背景均标注为黑色,像素点值为0,得到标准裂缝分割图。
在对裂缝检测模型进行训练过程中,可选取裂缝数据集的10%作为测试集,剩余数据中80%作为训练集、20%作为验证集。测试集不需要进行数据增强,剩余数据即训练集和验证集可进行数据增强时,对训练集和验证集的各样本图像进行翻转,旋转,裁剪,变形,缩放等各类几何操作。在本实施例中,裂缝检测模型可包括裂缝识别网络模型和裂缝分割网络模型,裂缝识别网络模型用于对输入图像进行裂缝识别,并输出图像标签,也即输出输入图像是裂缝图像块还是背景图像块。裂缝分割网络模型用于提取裂缝图像中的裂缝信息,其最终输出标记裂缝像素的语义分割图。
作为一种可选的实施方式,裂缝识别网络模型的训练过程可包括:
预先构建包括输入层、特征提取层、特征识别层和输出层的识别网络结构;将裂缝分类数据集的各样本图像块输入至识别网络结构的输入层,基于交叉熵损失函数训练识别网络结构,以得到裂缝识别网络模型;其中,特征提取层包括第一卷积层、第二卷积结构、第三卷积结构、第四卷积结构;第二卷积结构包括最大池化层和多个卷积层;第三卷积结构和第四卷积结构均包括多个卷积层;特征识别层包括平均池化层、全连接层和激活函数层。
在本实施例中,裂缝识别网络模型采用改进ResNet101网络结构,如图4所示。模型输入为裁剪得到的图像块,输出为0(表示为背景)或1(表示为带裂缝)。输入Input经过ResNet101的5个阶段(Stage0、Stage1、……)得到输出Output,其中Stage0也即第一卷积层的结构比较简单,可以视其为对Input的预处理,后4个Stage都由Bottleneck组成,结构较为相似。网络训练采用的损伤函数为交叉熵损失函数。可选的,第一卷积层的参数可设置为:卷积核可为7*7,卷积核移动的步长stride可为2,卷积操作时的参数padding为6,输入输出通道c可为64。第二卷积结构包括最大池化层和多个卷积层如三个卷积层,最大池化层的参数可设置为:卷积核可为3*3,卷积核移动的步长stride可为2,卷积操作时的参数padding为1,输入输出通道c可为64,各卷积层的参数可为:Conv1*1(卷积核),c64(输入输出通道),s2(步长),p1(padding);Conv3*3,c64,s1,p1;Conv1*1,c256,s1,p0。第三卷积结构和第四卷积结构均包括多个卷积层;第三卷积结构可包括6个卷积层,各卷积层参数可设置为:Conv1*1,c128,s1,p0;Conv3*3,c128,s2,p1;Conv1*1,c512,s1,p0;Conv1*1,c128,s1,p0;Conv3*3,c128,s1,p1;Conv1*1,c512,s1,p0;第四卷积结构可包括6个卷积层,各卷积层参数可设置为:Conv1*1,c256,s1,p0;Conv3*3,c256,s2,p1;Conv1*1,c1024,s1,p0;Conv1*1,c256,s1,p0;Conv3*3,c256,s1,p1;Conv1*1,c1024,s1,p0;第四卷积结构可包括6个卷积层,各卷积层参数可设置为:Conv1*1,c512,s1,p0;Conv3*3,c512,s2,p1;Conv1*1,c2048,s1,p0;Conv1*1,c512,s1,p0;Conv3*3,c512,s1,p1;Conv1*1,c2048,s1,p0。特征识别层包括平均池化层、全连接层和激活函数层,激活函数层例如可为softmax函数。
作为一种可选的实施方式,裂缝分割网络模型的训练过程可包括:
预先搭建基于U型网络的裂缝分割网络,裂缝分割网络还包括密集空洞卷积模块与尺度感知金字塔融合模块;将裂缝分割数据集输入至裂缝分割网络,裂缝分割网络利用预先训练好的特征编码器,在编解码过程中基于注意力门控机制对裂缝分割数据集的各目标图像块的图像特征进行处理,采用二分类交叉熵损失与相似度损失组成的联合损失函数训练裂缝分割网络,以得到裂缝分割网络模型。
在本实施例中,裂缝分割网络为一种新的空洞金字塔注意力网络,可表示为APA-Net,如图5所示。该网络在U型网络的基础上,引入了密集空洞卷积(DAC)模块与尺度感知金字塔融合(SAPF)模块这两个新的模块。可采用预先训练好的ResNet34作为特征编码器,在编解码过程中引入了注意力门控(AG)机制。模型输入为分类得到的裂缝图像块,输出是已经标记出裂缝像素(255)的语义分割图。
其中,在特征编码器中采用预先训练好的ResNet-34,保留了前四个特征提取块,同时出于兼容性目的,删除了平均池化层和完全连接层,新增加了跳跃连接机制,避免了梯度消失,加速了网络收敛。
在卷积核大小不变的情况下,空洞卷积通过提取稀疏特征来自动扩大感受野。只需插入不同数量的空洞形成具有不同空洞率的卷积核,就可以获得不同大小的感受野。密集空洞卷积(DAC)模块对高层语义特征图进行编码,如图6所示。DAC通过组合具有不同空洞率的空洞卷积,分别形成了感受野为3、7、9和15的四个平行分支,然后利用残差机制将每个分支的输出与输入相加,实现多尺度目标空间特征的融合。
尺度感知金字塔融合(SAPF)模块能够通过自学习为不同尺度的目标动态选择合适的感受野,更好地融合多尺度上下文信息,可以明显提高语义分割任务的性能,如图7所示。SAPF模块由三个并行的、用于捕获不同尺度上下文信息的、共享权重的空洞卷积滤波器和两个采用空间注意机制的级联尺度感知模块组成。共享权重可以有效减少模型参数的个数,降低网络过拟合的风险。尺度感知模块通过引入空间注意机制,可以动态选择合适的尺度特征并通过自学习进行融合。具体地说,两个不同尺度的特征FA和FB经过一系列卷积得到两个特征映射A,B,然后计算出像素级注意图A,B:
其中,H、W分别表示特征映射的高度与宽度。最后按加权和计算获得融合特征图F fusion :
通过在注意图和两个尺度特征之间进行元素乘积运算(⊙),可以得到融合后的特征图,利用两个级联的尺度感知模块得到三个分支的最终融合特征,最后通过具有可学习参数α的残差连接得到整个SAPF模块的输出。
AG机制类似于人类视觉注意力机制,将注意力集中在图像的特定局部区域,忽略其他区域。可以抑制图像中不相关区域的特征激活,促进与分割目标相关的模型参数的更新。如图8所示,AG接收两个输入,一个来自包含该层中所有上下文和空间信息的对应编码器,另一个来自其下层解码器的上采样输出。将输入融合后选择激活函数Sigmoid训练门参数的收敛性,得到注意力系数α,将输入特征与系数α逐个像素相乘得到输出。AG将从下层粗略尺度中提取的信息作为门控信号,用于消除跳跃连接中不相关的噪声响应,明显改善了分割任务目标区域的学习。
为了快速有效地恢复到高分辨率特征图,解码器可包含四个带2×2转置卷积层的残差块。使用跳跃连接和AG机制将每个解码层与相应的编码层连接,上采样使用2×2转置卷积,来自AG的输出与来自前一解码层的上采样输出联合,联合之后的输出被传递到残差块。通过每个解码层后特征图的数量将减少一半,大小增加一倍。最后一个解码层的输出被认为是模型的主输出,将该输出与真实标签进行比较后计算损失。
考虑到用于裂缝检测的图像分割数据集存在严重的类别不平衡问题,即背景类占据了照片的大部分,而裂缝仅延伸到有限的像素上,这将导致裂缝的错误分类和大量的假阴性预测。为此,本实施例使用了一个由相似度损失(Dice Loss)和二值交叉熵损失(BCELoss)组成的加权损失函数来执行所有的分割任务,其计算公式如下:
其中,λ是Dice Loss和BCE Loss之间的权重,一般设置为0.5。
本发明实施例还针对结构表观裂缝检测方法提供了相应的装置,进一步使得方法更具有实用性。其中,装置可从功能模块的角度和硬件的角度分别说明。下面对本发明实施例提供的结构表观裂缝检测装置进行介绍,下文描述的结构表观裂缝检测装置与上文描述的结构表观裂缝检测方法可相互对应参照。
基于功能模块的角度,参见图9,图9为本发明实施例提供的结构表观裂缝检测装置在一种具体实施方式下的结构图,该装置可包括:
模型训练模块901,用于预先利用携带图像标签的裂缝数据集训练裂缝检测模型;其中,裂缝数据集的各样本图像为被裁剪的图像块,且对携带裂缝图像块标签的图像块的裂缝进行像素级标注;图像标签为裂缝图像块标签或背景图像块标签;裂缝检测模型用于识别待处理图像块是否为裂缝图像并提取裂缝图像的裂缝特征信息。
图像分割模块902,用于获取待检测结构表观的高分辨率图像,并将高分辨率图像分割为多个待处理图像块。
图像检测模块903,用于将各待处理图像块输入至裂缝检测模型,得到高分辨率图像的各像素级分割图。
裂缝提取模块904,用于自动拼接各像素级分割图,得到待检测结构的裂缝分割图;
量化评估模块905,用于根据裂缝分割图确定所述裂缝的实际物理尺寸,与自动读取裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估裂缝对待检测结构造成的危险。
可选的,在本实施例的一些实施方式中,上述装置还可以包括尺寸计算模块,用于对裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;根据骨架及轮廓信息得到裂缝以像素为单位的裂缝特征值;根据裂缝特征值、高分辨率图像的采集设备与待检测结构表观的距离信息和相机参数计算得到裂缝的实际物理尺寸。
作为上述实施例的一种可选的实施方式,上述量化评估模块905例如还可包括结构识别模块和自动评估模块,结构识别模块用于预先利用携带结构类型标签的结构表观数据集,训练得到结构表观类型识别模型;结构表观数据集包括多张不同结构表观图像样本数据;结构表观类型识别模型用于识别待检测结构所属结构类型;将高分辨率图像输入至结构表观类型识别模型,得到待检测结构对应的结构类型。
自动评估模块用于根据待检测结构对应的结构类型,自动读取裂缝所在结构的应用场景的裂缝规范宽度限值;通过比对实际物理尺寸和裂缝规范宽度限值,自动输出待检测结构的裂缝损伤等级和危险程度。
可选的,在本实施例的另一些实施方式中,上述模型训练模块901可包括训练集生成单元,用于获取多幅待检测结构的高分辨样本图像、多幅与待检测结构表观背景相似的结构的高分辨样本图像;将各高分辨样本图像进行裁剪,得到多个样本图像块;按照是否有裂缝对各样本图像块进行分类,并根据分类结果为各样本图像块设置相应的图像标签,生成裂缝分类数据集;获取裂缝分类数据集中图像标签为裂缝图像块标签的目标图像块;对各目标图像块中的裂缝进行像素级标注,并将标注后的目标图像块进行二值化转化处理,生成裂缝分割数据集。
作为上述实施例的一种可选的实施方式,模型训练模块901可进一步用于:裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,裂缝识别网络模型输出图像标签,预先构建包括输入层、特征提取层、特征识别层和输出层的识别网络结构;将裂缝分类数据集的各样本图像块输入至识别网络结构的输入层,基于交叉熵损失函数训练识别网络结构,以得到裂缝识别网络模型;其中,特征提取层包括第一卷积层、第二卷积结构、第三卷积结构、第四卷积结构和第五卷积结构;第二卷积结构包括最大池化层和多个卷积层;第三卷积结构、第四卷积结构和第五卷积结构均包括多个卷积层;特征识别层包括平均池化层、全连接层和激活函数层。
作为上述实施例的一种可选的实施方式,模型训练模块901可进一步用于:裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,裂缝分割网络模型输出标记裂缝像素的语义分割图;预先搭建基于U型网络的裂缝分割网络,裂缝分割网络还包括密集空洞卷积模块与尺度感知金字塔融合模块;将裂缝分割数据集输入至裂缝分割网络,裂缝分割网络利用预先训练好的特征编码器,在编解码过程中基于注意力门控机制对裂缝分割数据集的各目标图像块的图像特征进行处理,采用二分类交叉熵损失与相似度损失组成的联合损失函数训练裂缝分割网络,以得到裂缝分割网络模型。
本发明实施例结构表观裂缝检测装置的各功能模块的功能可根据上述方法实施例中的方法具体实现,其具体实现过程可以参照上述方法实施例的相关描述,此处不再赘述。
由上可知,本发明实施例可以精准、高效地从含复杂背景的高分辨率图像中提取裂缝特征信息。
本发明实施例还提供了一种结构表观裂缝检测系统,请参见图10,可包括:
结构表观裂缝检测系统可包括图像采集设备101和电子设备102,电子设备102与图像采集设备101相连,并进行数据传输,图像采集设备101将采集的高分辨率图像发送给电子设备102,电子设备102接收图像采集设备101输送的高分辨率图像,调用如前任意一个实施例所述的结构表观裂缝检测方法的步骤识别高分辨率图像中是否包含裂缝,从而实现对待检测结构表观的裂缝检测。
图像采集设备101可包括图像采集器、测距仪和移动平台,图像采集器和测距仪搭载在移动平台;移动平台按照预设移动路径进行移动,图像采集器在随着移动平台的移动过程中采集待检测结构表观的高分辨率图像,测距仪用于记录图像采集设备的图像采集器所采集的每一帧图像与待检测结构间的实际物理距离。实际物理距离是采集当前高分辨率图像时,图像采集设备的镜头与待检测结构之间的距离。
其中,测距仪可为任何一种实现测距功能的设备,如激光测距仪,移动平台为可按照指定轨迹进行移动的任何设备,如无人机、检测机器人、爬壁机器人等,图像采集器可为任何一种可采集高分辨率图像的设备,如高清摄像机、消费机数码相机等。结合图11,举例来说,移动平台可包括无人机和爬壁机器人,图像采集器和测距仪构成数据采集模块,图像采集器可为高清摄像机,测距仪可为激光测距仪,数据处理模块可包括预先训练好的裂缝识别网络模型、裂缝分割网络模型和数据云平台,数据云平台用于预先规划移动平台的移动路径,也即审查预设移动路径,还用于确定待检测结构类型。数据云平台根据待检测结构的尺寸、形状、检测信息等规划移动平台的移动路径,从而生成预设移动路径,设定合理的高清摄像机的识别率和拍摄速度,利用携带激光测距仪和高清摄像机的移动平台对结构表观进行高分辨率图像采集,通过激光测距仪记录所拍摄视频中每一帧对应图像与结构表面的真实距离。
本发明实施例结构表观裂缝检测系统的各功能模块的功能可根据上述方法实施例中的方法具体实现,其具体实现过程可以参照上述方法实施例的相关描述,此处不再赘述。
由上可知,本发明实施例可以精准、高效地从含复杂背景的高分辨率图像中提取裂缝特征信息。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似部分互相参见即可。对于实施例公开的硬件包括装置及电子设备而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
以上对本申请所提供的一种结构表观裂缝检测方法、装置及系统进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。
Claims (10)
1.一种结构表观裂缝检测方法,其特征在于,包括:
预先利用携带图像标签的裂缝数据集训练裂缝检测模型;
获取待检测结构表观的当前高分辨率图像,并将所述高分辨率图像分割为多个待处理图像块;
将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图;
自动拼接各像素级分割图,得到所述待检测结构的裂缝分割图;
根据所述裂缝分割图确定裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险;
其中,所述高分辨率图像为由包括图像采集器、测距仪和移动平台的图像采集设备所采集,所述图像采集器和所述测距仪搭载在所述移动平台;所述移动平台按照预设移动路径进行移动,所述图像采集器在随着所述移动平台的移动过程中采集所述待检测结构表观的高分辨率图像,所述测距仪用于记录所述图像采集器所采集的每一帧图像与所述待检测结构间的实际物理距离;所述裂缝数据集的各样本图像为被裁剪的图像块,且对携带裂缝图像块标签的图像块的裂缝进行像素级标注;所述图像标签为裂缝图像块标签或背景图像块标签;所述裂缝检测模型用于识别待处理图像块是否为裂缝图像并提取所述裂缝图像的裂缝特征信息。
2.根据权利要求1所述的结构表观裂缝检测方法,其特征在于,所述根据所述裂缝分割图确定裂缝的实际物理尺寸,包括:
对所述裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;
根据所述骨架及轮廓信息得到所述裂缝以像素为单位的裂缝特征值;
根据所述裂缝特征值、所述高分辨率图像的采集设备与所述待检测结构表观的距离信息和相机参数计算得到所述裂缝的实际物理尺寸。
3.根据权利要求1所述的结构表观裂缝检测方法,其特征在于,所述将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图之前,还包括:
预先利用携带结构类型标签的结构表观数据集,训练得到结构表观类型识别模型;所述结构表观数据集包括多张不同结构表观图像样本数据;所述结构表观类型识别模型用于识别所述待检测结构所属结构类型;
将所述高分辨率图像输入至所述结构表观类型识别模型,得到所述待检测结构对应的结构类型。
4.根据权利要求3所述的结构表观裂缝检测方法,其特征在于,所述根据所述裂缝分割图确定所述裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险,包括:
根据所述待检测结构对应的结构类型,自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值;
通过比对所述实际物理尺寸和所述裂缝规范宽度限值,自动输出所述待检测结构的裂缝损伤等级和危险程度。
5.根据权利要求1至4任意一项所述的结构表观裂缝检测方法,其特征在于,所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
获取多幅所述待检测结构的高分辨样本图像、多幅与所述待检测结构表观背景相似的结构的高分辨样本图像;
将各高分辨样本图像进行裁剪,得到多个样本图像块;
按照是否有裂缝对各样本图像块进行分类,并根据分类结果为各样本图像块设置相应的图像标签,生成裂缝分类数据集;
获取所述裂缝分类数据集中图像标签为所述裂缝图像块标签的目标图像块;
对各目标图像块中的裂缝进行像素级标注,并将标注后的目标图像块进行二值化转化处理,生成裂缝分割数据集。
6.根据权利要求5所述的结构表观裂缝检测方法,其特征在于,所述裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,所述裂缝识别网络模型输出图像标签,所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
预先构建包括输入层、特征提取层、特征识别层和输出层的识别网络结构;
将所述裂缝分类数据集的各样本图像块输入至所述识别网络结构的输入层,基于交叉熵损失函数训练所述识别网络结构,以得到所述裂缝识别网络模型;
其中,所述特征提取层包括第一卷积层、第二卷积结构、第三卷积结构、第四卷积结构和第五卷积结构;所述第二卷积结构包括最大池化层和多个卷积层;所述第三卷积结构、所述第四卷积结构和所述第五卷积结构均包括多个卷积层;所述特征识别层包括平均池化层、全连接层和激活函数层。
7.根据权利要求5所述的结构表观裂缝检测方法,其特征在于,所述裂缝检测模型包括裂缝识别网络模型和裂缝分割网络模型,所述裂缝分割网络模型输出标记裂缝像素的语义分割图;所述利用携带图像标签的裂缝数据集训练裂缝检测模型,包括:
预先搭建基于U型网络的裂缝分割网络,所述裂缝分割网络还包括密集空洞卷积模块与尺度感知金字塔融合模块;
将所述裂缝分割数据集输入至所述裂缝分割网络,所述裂缝分割网络利用预先训练好的特征编码器,在编解码过程中基于注意力门控机制对所述裂缝分割数据集的各目标图像块的图像特征进行处理,采用二分类交叉熵损失与相似度损失组成的联合损失函数训练所述裂缝分割网络,以得到所述裂缝分割网络模型。
8.一种结构表观裂缝检测装置,其特征在于,包括:
模型训练模块,用于预先利用携带图像标签的裂缝数据集训练裂缝检测模型;其中,所述裂缝数据集的各样本图像为被裁剪的图像块,且对携带裂缝图像块标签的图像块的裂缝进行像素级标注;所述图像标签为裂缝图像块标签或背景图像块标签;所述裂缝检测模型用于识别待处理图像块是否为裂缝图像并提取所述裂缝图像的裂缝特征信息;
图像分割模块,用于获取待检测结构表观的当前高分辨率图像,并将所述高分辨率图像分割为多个待处理图像块;所述高分辨率图像为由包括图像采集器、测距仪和移动平台的图像采集设备所采集,所述图像采集器和所述测距仪搭载在所述移动平台;所述移动平台按照预设移动路径进行移动,所述图像采集器在随着所述移动平台的移动过程中采集所述待检测结构表观的高分辨率图像,所述测距仪用于记录所述图像采集器所采集的每一帧图像与所述待检测结构间的实际物理距离;
图像检测模块,用于将各待处理图像块输入至所述裂缝检测模型,得到所述高分辨率图像的各像素级分割图;
裂缝提取模块,用于自动拼接各像素级分割图,得到所述待检测结构的裂缝分割图;
量化评估模块,用于根据所述裂缝分割图确定裂缝的实际物理尺寸,与自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值,自动评估所述裂缝对所述待检测结构造成的危险。
9.根据权利要求8所述的结构表观裂缝检测装置,其特征在于,所述量化评估模块包括:
尺寸计算模块,用于对所述裂缝分割图的裂缝进行骨架提取,得到骨架及轮廓信息;根据所述骨架及轮廓信息得到所述裂缝以像素为单位的裂缝特征值;根据所述裂缝特征值、所述高分辨率图像的采集设备与所述待检测结构表观的距离信息和相机参数计算得到所述裂缝的实际物理尺寸;
自动评估模块,应用根据结构表观类型识别模型输出的待检测结构对应的结构类型,自动读取所述裂缝所在结构的应用场景的裂缝规范宽度限值;通过比对所述实际物理尺寸和所述裂缝规范宽度限值,自动输出所述待检测结构的裂缝损伤等级和危险程度。
10.一种结构表观裂缝检测系统,其特征在于,包括图像采集设备和电子设备;
所述电子设备与所述图像采集设备相连,以接收所述图像采集设备输送的高分辨率图像;
所述电子设备包括处理器和存储器,所述处理器用于执行所述存储器中存储的计算机程序时实现如权利要求1至7任一项所述结构表观裂缝检测方法的步骤;
所述图像采集设备包括图像采集器、测距仪和移动平台,所述图像采集器和所述测距仪搭载在所述移动平台;所述移动平台按照预设移动路径进行移动,所述图像采集器在随着所述移动平台的移动过程中采集待检测结构表观的高分辨率图像,所述测距仪用于记录所述图像采集器所采集的每一帧图像与所述待检测结构间的实际物理距离。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210046122.9A CN114049356B (zh) | 2022-01-17 | 2022-01-17 | 一种结构表观裂缝检测方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210046122.9A CN114049356B (zh) | 2022-01-17 | 2022-01-17 | 一种结构表观裂缝检测方法、装置及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114049356A true CN114049356A (zh) | 2022-02-15 |
CN114049356B CN114049356B (zh) | 2022-04-12 |
Family
ID=80196600
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210046122.9A Active CN114049356B (zh) | 2022-01-17 | 2022-01-17 | 一种结构表观裂缝检测方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114049356B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114812398A (zh) * | 2022-04-10 | 2022-07-29 | 同济大学 | 一种基于无人机的高精度实时裂缝检测平台 |
CN115131295A (zh) * | 2022-06-06 | 2022-09-30 | 清华大学 | 工程岩体裂隙网络构建方法、系统与装置 |
CN115810132A (zh) * | 2023-01-19 | 2023-03-17 | 武汉珈鹰智能科技有限公司 | 一种裂缝朝向识别方法、装置、设备及存储介质 |
CN117523470A (zh) * | 2023-02-24 | 2024-02-06 | 西安建科大智慧运维科技有限公司 | 一种钢结构疲劳裂缝识别方法及系统 |
CN118505690A (zh) * | 2024-07-17 | 2024-08-16 | 华东交通大学 | 基于深度学习的隧道衬砌裂缝检测方法、系统及电子设备 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108364280A (zh) * | 2018-01-03 | 2018-08-03 | 东南大学 | 结构裂缝自动化描绘及宽度精准测量方法与设备 |
CN109146849A (zh) * | 2018-07-26 | 2019-01-04 | 昆明理工大学 | 一种基于卷积神经网络和图像识别的路面裂缝检测方法 |
CN109682316A (zh) * | 2018-11-19 | 2019-04-26 | 湖北电鹰科技有限公司 | 基于无人机成像的混凝土裂缝识别方法及系统 |
CN109801292A (zh) * | 2018-12-11 | 2019-05-24 | 西南交通大学 | 一种基于生成对抗网络的沥青公路裂缝图像分割方法 |
CN110111334A (zh) * | 2019-04-01 | 2019-08-09 | 浙江大华技术股份有限公司 | 一种裂缝分割方法、装置、电子设备及存储介质 |
CN111080641A (zh) * | 2019-12-30 | 2020-04-28 | 上海商汤智能科技有限公司 | 裂缝检测方法、装置、计算机设备及存储介质 |
CN111627012A (zh) * | 2020-05-28 | 2020-09-04 | 华北电力大学(保定) | 一种基于特征融合的深度神经网络表面缺陷检测方法 |
CN111862088A (zh) * | 2020-08-03 | 2020-10-30 | 山东省交通科学研究院 | 一种快速计算裂缝宽度的方法 |
CN111896549A (zh) * | 2020-08-05 | 2020-11-06 | 深圳瑞莱保核能技术发展有限公司 | 一种基于机器学习的建筑物裂缝监测系统和方法 |
CN112184687A (zh) * | 2020-10-10 | 2021-01-05 | 南京信息工程大学 | 基于胶囊特征金字塔的道路裂缝检测方法和存储介质 |
CN112461136A (zh) * | 2020-11-10 | 2021-03-09 | 内蒙古交科路桥建设有限公司 | 桥梁裂缝检测系统 |
CN112734734A (zh) * | 2021-01-13 | 2021-04-30 | 北京联合大学 | 一种基于改进残差网络的铁路隧道裂缝检测方法 |
CN113252700A (zh) * | 2021-07-01 | 2021-08-13 | 湖南大学 | 一种结构裂缝检测方法、设备及系统 |
CN113744185A (zh) * | 2021-07-28 | 2021-12-03 | 江苏东印智慧工程技术研究院有限公司 | 一种基于深度学习和图像处理的混凝土表观裂缝分割方法 |
-
2022
- 2022-01-17 CN CN202210046122.9A patent/CN114049356B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108364280A (zh) * | 2018-01-03 | 2018-08-03 | 东南大学 | 结构裂缝自动化描绘及宽度精准测量方法与设备 |
CN109146849A (zh) * | 2018-07-26 | 2019-01-04 | 昆明理工大学 | 一种基于卷积神经网络和图像识别的路面裂缝检测方法 |
CN109682316A (zh) * | 2018-11-19 | 2019-04-26 | 湖北电鹰科技有限公司 | 基于无人机成像的混凝土裂缝识别方法及系统 |
CN109801292A (zh) * | 2018-12-11 | 2019-05-24 | 西南交通大学 | 一种基于生成对抗网络的沥青公路裂缝图像分割方法 |
CN110111334A (zh) * | 2019-04-01 | 2019-08-09 | 浙江大华技术股份有限公司 | 一种裂缝分割方法、装置、电子设备及存储介质 |
CN111080641A (zh) * | 2019-12-30 | 2020-04-28 | 上海商汤智能科技有限公司 | 裂缝检测方法、装置、计算机设备及存储介质 |
CN111627012A (zh) * | 2020-05-28 | 2020-09-04 | 华北电力大学(保定) | 一种基于特征融合的深度神经网络表面缺陷检测方法 |
CN111862088A (zh) * | 2020-08-03 | 2020-10-30 | 山东省交通科学研究院 | 一种快速计算裂缝宽度的方法 |
CN111896549A (zh) * | 2020-08-05 | 2020-11-06 | 深圳瑞莱保核能技术发展有限公司 | 一种基于机器学习的建筑物裂缝监测系统和方法 |
CN112184687A (zh) * | 2020-10-10 | 2021-01-05 | 南京信息工程大学 | 基于胶囊特征金字塔的道路裂缝检测方法和存储介质 |
CN112461136A (zh) * | 2020-11-10 | 2021-03-09 | 内蒙古交科路桥建设有限公司 | 桥梁裂缝检测系统 |
CN112734734A (zh) * | 2021-01-13 | 2021-04-30 | 北京联合大学 | 一种基于改进残差网络的铁路隧道裂缝检测方法 |
CN113252700A (zh) * | 2021-07-01 | 2021-08-13 | 湖南大学 | 一种结构裂缝检测方法、设备及系统 |
CN113744185A (zh) * | 2021-07-28 | 2021-12-03 | 江苏东印智慧工程技术研究院有限公司 | 一种基于深度学习和图像处理的混凝土表观裂缝分割方法 |
Non-Patent Citations (1)
Title |
---|
郭斯羽主编: "《面向检测的图像处理技术》", 31 August 2015, 湖南大学出版社 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114812398A (zh) * | 2022-04-10 | 2022-07-29 | 同济大学 | 一种基于无人机的高精度实时裂缝检测平台 |
CN114812398B (zh) * | 2022-04-10 | 2023-10-03 | 同济大学 | 一种基于无人机的高精度实时裂缝检测平台 |
CN115131295A (zh) * | 2022-06-06 | 2022-09-30 | 清华大学 | 工程岩体裂隙网络构建方法、系统与装置 |
CN115131295B (zh) * | 2022-06-06 | 2023-08-29 | 清华大学 | 工程岩体裂隙网络构建方法、系统与装置 |
CN115810132A (zh) * | 2023-01-19 | 2023-03-17 | 武汉珈鹰智能科技有限公司 | 一种裂缝朝向识别方法、装置、设备及存储介质 |
CN117523470A (zh) * | 2023-02-24 | 2024-02-06 | 西安建科大智慧运维科技有限公司 | 一种钢结构疲劳裂缝识别方法及系统 |
CN117523470B (zh) * | 2023-02-24 | 2024-06-07 | 西安建筑科技大学 | 一种钢结构疲劳裂缝识别方法及系统 |
CN118505690A (zh) * | 2024-07-17 | 2024-08-16 | 华东交通大学 | 基于深度学习的隧道衬砌裂缝检测方法、系统及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN114049356B (zh) | 2022-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114049356B (zh) | 一种结构表观裂缝检测方法、装置及系统 | |
Kalfarisi et al. | Crack detection and segmentation using deep learning with 3D reality mesh model for quantitative assessment and integrated visualization | |
Spencer Jr et al. | Advances in computer vision-based civil infrastructure inspection and monitoring | |
CN103390164B (zh) | 基于深度图像的对象检测方法及其实现装置 | |
Li et al. | Automatic bridge crack identification from concrete surface using ResNeXt with postprocessing | |
CN114705689A (zh) | 一种基于无人机的建筑物外立面裂缝检测方法及系统 | |
CN113887472B (zh) | 基于级联颜色及纹理特征注意力的遥感图像云检测方法 | |
CN113903022B (zh) | 基于特征金字塔与注意力融合的文本检测方法及系统 | |
CN116823800A (zh) | 一种基于深度学习的复杂背景下桥梁混凝土裂缝检测方法 | |
CN114332473A (zh) | 目标检测方法、装置、计算机设备、存储介质及程序产品 | |
CN116597270A (zh) | 基于注意力机制集成学习网络的道路损毁目标检测方法 | |
CN114155524A (zh) | 单阶段3d点云目标检测方法及装置、计算机设备、介质 | |
House et al. | Using deep learning to identify potential roof spaces for solar panels | |
CN118552513A (zh) | 一种基于改进YOLOv8神经网络的桥梁锈蚀检测方法、电子设备及服务器 | |
CN118037692A (zh) | 基于计算机视觉的钢材表面缺陷检测方法及系统 | |
KR102416714B1 (ko) | 3차원 이미지 및 딥러닝을 활용한 도시 규모 나무 지도 작성 시스템 및 방법 | |
CN116580232A (zh) | 一种图像自动标注方法、系统及电子设备 | |
Kee et al. | Cracks identification using mask region-based denoised deformable convolutional network | |
CN118470333B (zh) | 一种基于遥感图像的地理环境语义分割方法及系统 | |
CN115359346B (zh) | 基于街景图片的小微空间识别方法、装置及电子设备 | |
CN117152646B (zh) | 无人电力巡检ai轻量大模型方法及系统 | |
Lagahit et al. | Exploring Ground Segmentation from LIDAR Scanning-Derived Images Using Convolutional Neural Networks | |
CN113095136B (zh) | 一种基于UVid-Net的无人机航拍视频的语义分割方法 | |
Munawar et al. | Civil Infrastructure Damage and Corrosion Detection: An Application of Machine Learning. Buildings 2022, 12, 156 | |
Maroun et al. | ASSESSING PHOTOGRAMMETRY ARTIFICIAL INTELLIGENCE IN MONUMENTAL BUILDINGS’CRACK DIGITAL DETECTION |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |