CN116486438B - 一种人员轨迹的检测方法、装置、系统、设备及存储介质 - Google Patents
一种人员轨迹的检测方法、装置、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN116486438B CN116486438B CN202310735532.9A CN202310735532A CN116486438B CN 116486438 B CN116486438 B CN 116486438B CN 202310735532 A CN202310735532 A CN 202310735532A CN 116486438 B CN116486438 B CN 116486438B
- Authority
- CN
- China
- Prior art keywords
- image
- target
- person
- track
- personnel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 230000000875 corresponding effect Effects 0.000 claims abstract description 153
- 230000000007 visual effect Effects 0.000 claims abstract description 98
- 238000001514 detection method Methods 0.000 claims abstract description 56
- 230000002596 correlated effect Effects 0.000 claims abstract description 8
- 238000012545 processing Methods 0.000 claims description 43
- 230000006399 behavior Effects 0.000 claims description 28
- 230000015654 memory Effects 0.000 claims description 26
- 230000002159 abnormal effect Effects 0.000 claims description 19
- 230000009471 action Effects 0.000 claims description 18
- 238000004891 communication Methods 0.000 claims description 9
- 238000013528 artificial neural network Methods 0.000 claims description 8
- 230000001133 acceleration Effects 0.000 claims description 7
- 238000003062 neural network model Methods 0.000 claims description 7
- 239000000284 extract Substances 0.000 claims description 6
- 238000013527 convolutional neural network Methods 0.000 claims description 4
- 230000007787 long-term memory Effects 0.000 claims 1
- 238000012544 monitoring process Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/62—Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种人员轨迹的检测方法、装置、系统、设备及存储介质。包括:获取第一采集设备对入口区域进行采集得到的视频流,并从视频流提取待进行检测的第一视野图像;基于目标人员在入口区域的第一轨迹,预测目标人员对应的第二采集设备,并获取第二采集设备的第二视野图像;对比第一视野图像与第二视野图像之间的人体特征相似度;若人体特征相似度大于预设阈值,确定目标人员暴露于第二采集设备的视野范围,获取目标人员在目标区域的第二轨迹,关联存储第一轨迹以及第二轨迹。本申请利用人员轨迹预测人员未来出现的采集设备,并利用两个采集设备的视野图像,确定目标人员是否进入相关区域,便于后续进行人员追踪,提高了人员轨迹的检测效率。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种人员轨迹的检测方法、装置、系统、设备及存储介质。
背景技术
加油站的成品油可向汽车、摩托车直接进行加注销售,也可以向持有符合要求的油桶购买者进行销售,如部分工程用车需要进行汽油加注、有些助力车也需要进行汽油加注等场景,现在全国各地市已基本部署有成品油零散销售登记系统,购买散装油的用户必须进行登记,登记完成后,加油站方可进行销售,但是由于加油站的管控力度有限,加上存在特意违规操作的情况,导致会出现将桶装油直接带离加油站而没有进行登记的情况。因为桶装汽油的危险性很大,如被人不当使用,则会出现安全事故。
然而目前的监控方案中,因人流量大,针对各个区域的人员内进行有效的监控比较困难,导致无法针对性的检测到购买桶装油而没有进行登记人员。
发明内容
有鉴于此,本发明实施例提供了一种人员轨迹的检测方法、装置、系统、设备及存储介质,以解决现有监控方案中人流量大,无法对各个区域的人员内进行有效监控的问题。
第一方面,本发明实施例提供了一种人员轨迹的检测方法,所述方法包括:
获取第一采集设备对入口区域进行采集得到的视频流,并从所述视频流提取待进行检测的第一视野图像,其中,所述第一采集设备为部署在所述入口区域的采集设备,所述第一视野图像携带至少一个目标人员;
基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,并获取所述第二采集设备的第二视野图像,其中,所述第二采集设备为所述目标人员出现的下一个采集设备;
对比所述第一视野图像与所述第二视野图像之间的人体特征相似度;
在所述人体特征相似度大于预设阈值的情况下,确定所述目标人员暴露于所述第二采集设备的视野范围,并获取所述目标人员在目标区域的第二轨迹,关联存储所述第一轨迹以及所述第二轨迹,其中,所述目标区域为所述第二采集设备所在的管控区域。
进一步的,所述从所述视频流提取待进行检测的第一视野图像,包括:
获取所述视频流中的目标视频帧图像,其中,所述目标视频帧图像携带至少一个候选人员;
检测所述目标视频帧图像,得到所述目标视频帧图像中候选人员的人员行为特征;
将所述人员行为特征满足预设追踪条件的候选人员确定为目标人员,并将所述目标人员所在的目标视频帧图像确定为所述第一视野图像。
进一步的,所述获取所述视频流中的目标视频帧图像,包括:
提取所述视频流中的多个视频帧图像;
检测所述视频帧图像的清晰度,在所述清晰度大于预设清晰度的情况下,获取所述视频帧图像中候选人员的人员特征;
在所述人员特征的完整程度大于预设完整程度情况下,确定所述候选人员在所述第一采集设备的视野范围内未被遮挡,并检测所述视频帧图像对应的亮度值;
在所述亮度值大于预设亮度值的情况下,对所述视频帧图像进行去噪处理,并将去噪处理后的视频帧图像确定为所述目标视频帧图像。
进一步的,所述检测所述目标视频帧图像,得到所述目标视频帧图像中候选人员的人员行为特征,包括:
检测所述目标视频帧图像确定所述候选人员在所述目标视频帧图像的坐标信息;
按照所述坐标信息从所述目标视频帧图像中截取所述候选人员对应的分割图像;
基于所述分割图像检测所述候选人员的关键部位,得到动作信息;
将所述动作信息确定为所述候选人员对应的人员行为特征。
进一步的,所述基于所述分割图像检测所述候选人员的关键部位,得到动作信息,包括:
检测所述分割图像确定所述候选人员对应关键部位的部位位置;
基于所述部位位置提取所述关键部位对应的关键部位特征;
检测所述关键部位特征确定所述候选人员是否携带目标物,得到第一检测结果,和/或,检测所述关键部位特征确定所述候选人员的交通方式,得到第二检测结果;
基于所述第一检测结果和/或所述第二检测结果确定所述动作信息。
进一步的,所述将所述人员行为特征满足预设追踪条件的候选人员确定为目标人员,包括:
将所述第一检测结果为所述候选人员携带目标物,和/或,所述第二检测结果为所以候选人员的交通方式为预设交通方式的候选人员确定为所述目标人员。
进一步的,所述基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,包括:
检测所述目标人员当前在所述入口区域对应的第一轨迹;
获取所述目标人员在所述入口区域的运动数据,所述运动数据包括但不限于运动速度、加速度、以及运动方向;
按照所述第一轨迹以及所述运动数据对所述目标人员进行预测,得到所述目标人员出现的第二采集设备。
进一步的,所述检测所述目标人员当前在所述入口区域对应的第一轨迹,包括:
调用所述第一采集设备在所述入口区域对所述目标人员进行采集,得到图像集,其中,所述图像集包括多帧连续的人员图像;
检测所述目标人员在每帧人员图像中的位置信息;
基于每帧人员图像得到的位置信息生成所述第一轨迹。
进一步的,所述按照所述第一轨迹对所述目标人员进行轨迹预测,得到所述目标人员的预测轨迹,包括:
获取当前地图信息,其中,所述当前地图信息包括入口区域,多个管控区域以及所述入口区域和各个所述管控区域之间连通的路径;
根据当前地图信息中的路径,第一轨迹以及所述运动数据,预测所述目标人员对应的至少一个候选采集设备,以及每个候选采集设备对应的概率;
将概率最大的候选采集设备确定为第二采集设备。
进一步的,在检测所述目标人员当前在所述入口区域对应的第一轨迹之后,所述方法还包括:
从所述图像集获取第一轨迹中各个轨迹点对应的人员图像;
将所述第一轨迹,以及所述第一轨迹中各个轨迹点对应的人员图像和时间信息关联存储。
进一步的,所述对比所述第一视野图像与所述第二视野图像之间的人体特征相似度,包括:
检测所述目标人员在所述第一视野图像中第一人体特征,以及所述第二视野图像携带的第二人体特征;
计算所述第一人体特征与所述第二人体特征之间的人体特征相似度。
进一步的,所述检测所述目标人员在所述第一视野图像中第一人体特征,以及所述第二视野图像携带的第二人体特征,包括:
将所述目标人员在所述第一视野图像以及所述第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;
分别检测所述调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;
按照所述人员头部长度分别对所述调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像;
分别检测所述第一局部图像以及所述第二局部图像,得到所述第一局部图像对应的第一人体特征以及所述第二局部图像对应的第二人体特征。
进一步的,所述计算所述第一人体特征与所述第二人体特征之间的人体特征相似度,包括:
获取各个所述第一局部图像对应第一人体特征的预设权重值以及各个所述第二局部图像对应第二人体特征的预设权重值;
计算所述第一人体特征与所述预设权重值对应的第一特征值,以及第二人体特征与所述预设权重值对应的第二特征值;
基于所述第一特征值以及所述第二特征值计算所述人体特征相似度。
进一步的,所述方法还包括:
在基于所述目标人员在所述入口区域的第一轨迹,未预测到所述目标人员出现的第二采集设备的情况下,获取采集设备列表,其中,所述采集设备列表包括各个管控区域的采集设备的设备信息;
基于所述设备信息向采集设备列表中各个管控区域的采集设备发送采集指令;
接收各个管控区域的采集设备基于所述采集指令反馈的第三视野图像,并检测所述第三视野图像得到候选人员特征;
将所述候选人员特征与所述目标人员的目标人员特征相匹配的第三视野图像确定为目标视野图像;
将所述目标视野图像对应采集设备所处的管控区域作为目标区域。
进一步的,所述方法还包括:
获取人员轨迹集合,其中,所述人员轨迹集合包括所述目标人员在不同区域的轨迹以及所述轨迹中各个轨迹点对应的时间戳;
对比各个所述轨迹点对应的时间戳,确定异常轨迹点;
将所述异常轨迹点从所述人员轨迹中剔除,得到更新后的人员轨迹。
进一步的,所述对比各个所述轨迹点对应的时间戳,确定异常轨迹点,包括:
对比各个所述轨迹点对应的时间戳,确定处于预设时间差内的轨迹点集合,其中,所述轨迹点集合至少包括:第一轨迹点和第二轨迹点,所述第一轨迹点和所述第二轨迹点两个处于不同区域;
获取所述第一轨迹点所处区域的采集设备得到的第一图像,以及所述第二轨迹点所处区域的采集设备得到的第二图像;
查询所述第一图像所携带的人体特征和所述第二图像所携带的人体特征分别与目标人员的第一人体特征之间的第一相似度和第二相似度;
确定所述第一相似度和第二相似度中的最小相似度,并将最小相似度对应的轨迹点作为异常轨迹点。
本申请实施例提供的方法具有以下优点:通过利用目标人员的轨迹预测目标人员在未来时刻可能出现的采集设备,并利用当前的采集设备采集的视野图像与未来时刻可能出现的采集设备采集的视野图像进行对比,从而确定目标人员是否进入相关区域,以此通过轨迹预测目标人员在未来时刻出现的采集设备,提高了人员追踪的效率,且能够快速得到人员的完整轨迹,解决现有方案因人流量大,无法对各个区域的人员内进行有效监控的问题。
第二方面,本发明实施例提供了一种人员轨迹的检测装置,包括:
获取模块,用于获取第一采集设备对入口区域进行采集得到的视频流,并从所述视频流提取待进行检测的第一视野图像,其中,所述第一采集设备为部署在所述入口区域的采集设备,所述第一视野图像携带至少一个目标人员;
检测模块,用于基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,并获取所述第二采集设备的第二视野图像,其中,所述第二采集设备为所述目标人员出现的下一个采集设备;
检测模块,用于对比所述第一视野图像与所述第二视野图像之间的人体特征相似度;
处理模块,用于在所述人体特征相似度大于预设阈值的情况下,确定所述目标人员暴露于所述第二采集设备的视野范围,并获取所述目标人员在目标区域的第二轨迹,关联存储所述第一轨迹以及所述第二轨迹,其中,所述目标区域为所述第二采集设备所在的管控区域。
第三方面,本发明实施例提供了一种人员轨迹的检测系统,所述系统包括:处理设备,以及部署在各个管控区域的采集设备,所述处理设备与各个所述采集设备通信连接,所述处理设备用于执行上述的方法。
第四方面,本发明实施例提供了一种计算机设备,包括:存储器和处理器,存储器和处理器之间互相通信连接,存储器中存储有计算机指令,处理器通过执行计算机指令,从而执行上述第一方面或其对应的任一实施方式的方法。
第五方面,本发明实施例提供了一种计算机可读存储介质,该计算机可读存储介质上存储有计算机指令,计算机指令用于使计算机执行上述第一方面或其对应的任一实施方式的方法。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明一些实施例的人员轨迹的检测方法的流程示意图;
图2是根据本发明一些实施例的目标视频帧图像的示意图;
图3是根据本发明一些实施例提供的地图信息的示意图;
图4是根据本发明一些实施例提供的第二视野图像的示意图;
图5是根据本发明一些实施例提供的人体划分的示意图;
图6是根据本发明一些实施例的另一人员轨迹的检测方法的流程示意图;
图7是根据本发明一些实施例的另一人员轨迹的检测方法的流程示意图;
图8是根据本发明实施例的人员轨迹的检测装置的结构框图;
图9是本发明实施例的计算机设备的硬件结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
根据本发明实施例,提供了一种人员轨迹的检测方法、装置、系统、设备及存储介质,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
在本实施例中提供了一种人员轨迹的检测方法,可用于上述的移动终端,如手机、平板电脑等,图1是根据本发明实施例的一种人员轨迹的检测方法的流程图,如图1所示,该流程包括如下步骤:
步骤S11,获取第一采集设备对入口区域进行采集得到的视频流,并从视频流提取待进行检测的第一视野图像,其中,第一采集设备为部署在入口区域的采集设备,第一视野图像携带至少一个目标人员。
本申请实施例提供的方法应用于具有图像处理功能的处理设备,例如:移动手机,笔记本电脑,iPad等等。处理设备与部署在加油站的入口区域和各个管控区域的采集设备通信连接,采集设备可以是摄像头,各个管控区域包括:加油区域,停车区域,收费区域,出口区域。具体的,处理设备首先向部署在入口区域的采集设备发送采集指令,采集设备响应采集设备后,在预设时间内对入口区域进行采集,得到视频流,并将视频流传给处理设备。处理设备后续基于该视频流进行检测,从而确定需要进行追踪的目标人员。
具体的,从视频流提取待进行检测的第一视野图像,包括以下步骤A1-A3:
步骤A1,获取视频流中的目标视频帧图像,其中,目标视频帧图像携带至少一个候选人员。
在本申请实施例中,首先,提取视频流中的多个视频帧图像。其次,检测视频帧图像的清晰度,在清晰度大于预设清晰度的情况下,获取视频帧图像中的人员特征,在人员特征的完整程度大于预设完整程度情况下,确定候选人员在第一采集设备的视野范围内未被遮挡,并检测所述视频帧图像对应的亮度值。
具体的,可以将视频帧图像输入第一识别模型,通过第一识别模型提取目标视频帧图像的图像特征,并识别图像特征识中是否携带预设人员特征,预设人员特征可以是人体的基本特征,可以理解为是一个粗粒度的特征。第一识别模型的训练方式可以是利用人体特征样本以及人体特征标签进行训练得到的。如果视频帧图像中携带预设人员特征,且人员特征的完整程度大于预设完整程度,则说明视频帧图像中存在候选人员,且候选人员完全暴露于第一采集设备的视野范围。
再者,检测视频帧图像对应的亮度值,在亮度值大于预设亮度值的情况下,对视频帧图像进行去噪处理。最终,将去噪处理后的视频帧图像确定为目标视频帧图像。
需要说明的是,对候选图像进行去噪处理的过程可以是:去除候选图像中的噪点,将候选图像大小缩放到特定尺寸,特定尺寸设置为640×640,在进行图片大小缩放过程中,不改变图片的长宽比例进行缩放,将最大边缩放至640大小,小边进行灰度填充,将去噪处理后的候选图像作为第一视野图像。
步骤A2,检测目标视频帧图像,得到目标视频帧图像中候选人员的人员行为特征。
在本申请实施例中,检测目标视频帧图像,得到目标视频帧图像中候选人员的人员行为特征,包括以下步骤A201-A204:
步骤A201,检测第一视野图像确定候选人员在第一视野图像的坐标信息。
在本申请实施例中,可以检测第一视野图像中候选人员的关键点,并基于关键点确定候选人员的最小外接矩形,将最小外接矩形的顶点坐标确定为候选人员在第一视野图像的坐标信息。
步骤A202,按照坐标信息从第一视野图像中截取候选人员对应的分割图像;
在本申请实施例中,按照最小外接矩形的四个顶点坐标对第一视野图像进行分割,将分割得到的携带候选人员的图像确定为分割图像。
步骤A203,基于分割图像检测候选人员的关键部位,得到动作信息。
在本申请实施例中,基于分割图像检测候选人员的关键部位,得到动作信息,包括:检测分割图像确定候选人员对应关键部位的部位位置;基于部位位置提取关键部位对应的关键部位特征;检测关键部位特征确定候选人员是否携带目标物,得到第一检测结果,和/或,检测关键部位特征确定候选人员的交通方式,得到第二检测结果;基于第一检测结果和/或第二检测结果确定动作信息。
在本申请实施例中,候选人员对应的关键部位可以是手部,胯部,腿部等等,然后检测关键部位的部位位置,从部位位置中提取关键部位特征,从而可以关键部位的特征确定候选人员是否携带目标物,或者根据关键部位的部位特征确定候选人员的人员姿势,通过人员姿势确定候选人员的交通方式。
作为一个示例,通过关键部位特征确定为候选人员携带油桶,和/或,通过关键部位特征确定候选人员的交通方式为骑摩托车或者骑电瓶车。
步骤A204,将动作信息确定为候选人员对应的人员行为特征。
在本申请实施例中,将动作信息是否携带油桶,和/或是否骑摩托车或者骑电瓶车确定为人员行为特征。
步骤A3,将人员行为特征满足预设追踪条件的候选人员确定为目标人员,并将目标人员所在的目标视频帧图像确定为第一视野图像。
在本申请实施例中,将人员行为特征满足预设追踪条件的候选人员确定为目标人员,包括:将第一检测结果为候选人员携带目标物,和/或,第二检测结果为所以候选人员的交通方式为预设交通方式的候选人员确定为目标人员。例如:如图2所示,目标视频帧图像中的人员携带油桶,因此可将该人员确定为需要进行追踪的目标人员。需要说明的是,通过对入口区域的人员进行行为特征检测,将行为特征条件满足预设追踪条件的人员确定为追踪的人员,以此对进入加油站的人员进行初步筛选,一方面便于精准的定位需要追踪的人员,另一方面减少了后续追踪人员的数量。另外,后续通过确定追踪人员进入的目标区域,并通过目标区域对应的区域图像确定追踪人员的人员轨迹,提高了人员轨迹的检测效率,解决了现有技术中针对各个区域的人员内进行有效的监控困难的问题。
作为一个示例,通过关键部位特征确定为候选人员携带油桶,和/或,通过关键部位特征确定候选人员的交通方式为骑摩托车或者骑电瓶车的情况下,则将候选人员确定为目标人员。后续对目标人员进行追踪。
步骤S12,基于目标人员在入口区域的第一轨迹,预测目标人员对应的第二采集设备,并获取第二采集设备的第二视野图像,其中,第二采集设备为目标人员出现的下一个采集设备。
在本申请实施例中,基于目标人员在入口区域的第一轨迹,预测目标人员对应的第二采集设备,包括以下步骤C1-C3:
步骤C1,检测目标人员当前在入口区域对应的第一轨迹。
在本申请实施例中,检测目标人员当前在入口区域对应的第一轨迹,包括:调用第一采集设备在入口区域对目标人员进行采集,得到图像集,其中,图像集包括多帧连续的人员图像;检测目标人员在每帧人员图像中的位置信息;基于每帧人员图像得到的位置信息生成第一轨迹。
在本申请实施例中,调用入口区域关键的采集设备对目标人员进行采集,得到图像集。然后对图像集中的每帧人员图像输入至第二识别模型,第二识别模型提取人员图像的图像特征,并确定目标人员在入口区域的位置信息,最终基于每帧人员图像检测到的位置信息生成第一轨迹。
在本申请实施例中,在检测目标人员当前在入口区域对应的第一轨迹之后,方法还包括:从图像集获取第一轨迹中各个轨迹点对应的人员图像;将第一轨迹,以及第一轨迹中各个轨迹点对应的人员图像和时间信息关联存储。需要说明的是,将各个轨迹点的人员图像和时间信息关联存储目的是便于后续查询目标人员的轨迹以及异常轨迹点筛选。
步骤C2,获取目标人员在入口区域的运动数据,运动数据包括但不限于运动速度、加速度、以及运动方向。
在本申请实施例中,处理设备可以调用入口区域的传感器对目标人员进行探测,得到目标人员在入口区域的运动速度和加速度,同时可以基于第一轨迹确定目标人员的运动方向。最终将得到的运动速度,加速度,运动方向作为运动数据。
步骤C3,按照第一轨迹以及运动数据对目标人员进行预测,得到目标人员出现的第二采集设备。
在本申请实施例中,按照第一轨迹以及运动数据对目标人员进行预测,得到目标人员出现的第二采集设备,包括以下步骤C301-C303:
步骤C301,获取当前地图信息,其中,当前地图信息包括入口区域,多个管控区域以及入口区域和各个管控区域之间连通的路径。
在本申请实施例中,当前地图信息可以是加油站的地图信息,如图3所示,地图信息包括:入口区域10,加油区域20,停车区域30,收费区域40,出口区域50,同时还包括各个区域之间的路径。另外,地图信息还可以标记各个采集设备的位置(参考图3中的圆圈位置)。
步骤C302,根据当前地图信息中的路径,第一轨迹以及运动数据,预测目标人员对应的至少一个候选采集设备,以及每个候选采集设备对应的概率。
在本申请实施例中,可以利用当前地图信息的路径确定各个区域之间的连接关系以及路径的人员流量。首先,从当前地图信息中获取第一轨迹相匹配的多个候选路径。其次,获取当前时刻,并利用当前时刻从历史人员流量分布中查询入口区域的历史人员流量分布,历史人员流量分布是入口区域关联各个路径的人员流量。再者,可以将历史人员流量分布,第一轨迹以及运动数据输入至预测模型,预测模型可以是CRF模型,由CRF模型分别提取历史人员流量分布的流量分布特征,第一轨迹的轨迹特征以及运动数据的数据特征,并利用流量分布特征,轨迹特征,数据特征以及各个特征的权重计算每个候选路径,以及每个候选路径对应的推荐概率,候选路径可以理解为是目标人员在未来时刻可能走的路径。最终可以获取各个候选路径关联的采集设备,并将候选路径的推荐概率作为采集设备的概率。
步骤C303,将概率最大的候选采集设备确定为第二采集设备。
在本申请实施例中,对比各个采集设备的概率,将概率最大的采集设备确定为第二采集设备。
在本申请实施例中,获取第二采集设备的第二视野图像,包括:向第二采集设备发送采集指令,第二采集设备对其所在的管控区域进行采集,得到第二视野图像,第二视野图像如图4所示。
步骤S13,对比第一视野图像与第二视野图像之间的人体特征相似度。
在本申请实施例中,对比第一视野图像与第二视野图像之间的人体特征相似度,包括以下步骤D1-D2:
步骤D1,检测目标人员在第一视野图像中第一人体特征,以及第二视野图像携带的第二人体特征;
在本申请实施例中,检测目标人员在第一视野图像中第一人体特征,以及第二视野图像携带的第二人体特征,包括:
将目标人员在第一视野图像以及第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;分别检测调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;按照人员头部长度分别对调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像。
作为一个示例,将第一视野图像作为图像P,将第二视野图像作为图像Q。首先,检测图像P和图像Q中的人员位置,基于人员位置将图像P和图像Q中的人员高度缩放到预设高度。其次,分别对图像P和图像Q进行人员头部检测,然后利用人员头部长度分别对图像P和图像Q中的人员进行分割,如图5所示,即以人员头部长度为基准将图像P中的人员分成七段,得到七个第一局部图像,同时以人员头部长度为基准将图像Q中的人员分成七段,得到七个第二局部图像。
在本申请实施例中,将各个第一局部图像中的人体特征作为第一人体特征,以及将各个第二局部图像中的人体特征作为第二人体特征。
步骤D2,计算第一人体特征与第二人体特征之间的人体特征相似度。
在本申请实施例中,将视野图像进行等分后,以7等分为例,重新设置中间3个局部图像的权重值,3个局部图像的权重值大于上下4个局部图像的权重值,即七个第一局部图像分别对应的权重值为、/>、/>、/>、/>、/>、/>、/>,其中/>,,/>;/>,并且。同理,七个第二局部图像分别对应的权重值同样为/>、/>、/>、/>、/>、/>、/>、/>。其中/>,/>,;/>,并且。
在本申请实施例中,计算第一人体特征与第二人体特征之间的人体特征相似度,包括:计算各个第一局部图像中第一人体特征与预设权重值的加权和,得到第一特征值,计算各个第一局部图像中第二人体特征与预设权重值的加权和,得到第二特征值,计算第一特征值与第二特征值之间的余弦相似度,将余弦相似度作为人体特征相似度。
具体的,将多个第一局部图像输入预先训练好的神经网络模型,神经网络模型可以是长短期记忆(Long Short-Term Memory,缩写:LSTM)神经网络模型,神经网络模型将多个第一局部图像进行关联,将关联后的图像输入至Resnet50神经网络,Resnet50神经网络提取关联后的第一局部图像的图像特征,将图像特征输入至CNN神经网络,CNN神经网络从图像特征中提取第一局部图像对应的第一人体特征,然后基于每个第一局部图像的第一人体特征以及预设权重值的加权计算第一特征值,同时基于每个第二局部图像的第二人体特征以及预设权重值的加权计算第二特征值。最终基于第一特征值和第二特征值计算人体特征相似度。
本申请实施例通过计算第一人体特征与第二人体特征之间的人体特征相似度,目的是确定第一视野图像中目标人员与第二视野图像中的人员是否一致。如果第一人体特征与第二人体特征之间的相似度大于预设相似度,则确定第一采集图像中携带目标人员对应的目标人员特征。需要说明的是,通过将两个视野图像中的人体缩放至同一高度,并按照头部长度进行等分,从而便于后续对两个图像进行细粒度的人体特征对比。
基于此,在第二视野图像中携带目标人员对应的目标人员特征的情况下,将第二采集设备对应的管控区域确定为目标区域。以此说明预测得到的第二采集设备的可靠性,同时也通过第二采集设备采集的图像能够快速确定目标人员所进入的目标区域,便于进一步的对目标人员进行追踪,提高了人员追踪效率,同时进一步保证了最终得到的人员轨迹的准确性。
步骤S14,在人体特征相似度大于预设阈值的情况下,确定目标人员暴露于第二采集设备的视野范围,并获取目标人员在目标区域的第二轨迹,关联存储第一轨迹以及第二轨迹,其中,目标区域为第二采集设备所在的管控区域。
在本申请实施例中,通过人体特征对比后,如果体特征相似度大于预设阈值,确认目标人员存在于第二采集识别的视野范围下,则将第二采集设备所处的区域作为目标区域,处理设备向第二采集设备发送采集指令,以使第二采集设备在目标区域内对目标人员进行图像采集,得到多个连续的图像,并将多个连续的图像上报至处理设备。
处理设备基于图像检测目标人员所处的环境特征,环境特征可以是目标人员周围的标识物,例如:墙壁,摆件,车辆,工具等等。后续利用环境特征从预设三维地图中确定目标人员对应的位置,最终基于各个图像确定位置生成目标人员在目标区域的第二轨迹,最终将第二轨迹与第一轨迹关联存储。
作为一个示例,利用第一轨迹预测目标人员出现的第二采集设备为停车区域的采集设备时,在调用第二采集设备在停车区域采集第二视野图像,并将采集的第二视野图像与入口区域的第一视野图像进行相似度比对,如得到的相似度大于设定的阈值,则确定目标人员进入停车区域,记录目标人员在停车区域的轨迹,并将该人员信息写入人员轨迹数据库,存储目标人员出现的时间和相应的图像。
作为一个示例,利用第一轨迹预测目标人员出现的第二采集设备为加油区域的采集设备时,在调用第二采集设备在加油区域采集第二视野图像,并将采集的第二视野图像与入口区域的第一视野图像进行相似度比对,如得到的相似度大于设定的阈值,则确定目标人员进入加油区域,记录目标人员在加油区域的轨迹,并将该人员信息写入人员轨迹数据库,存储目标人员出现的时间和相应的图像。
作为一个示例,利用第一轨迹预测目标人员出现的第二采集设备为收费区域的采集设备时,在调用第二采集设备在收费区域采集第二视野图像,并将采集的第二视野图像与入口区域的第一视野图像进行相似度比对,如得到的相似度大于设定的阈值,则确定目标人员进入收费区域,记录目标人员在收费区域的轨迹,并将该人员信息写入人员轨迹数据库,存储目标人员出现的时间和相应的图像。
作为一个示例,利用第一轨迹预测目标人员出现的第二采集设备为出口区域的采集设备时,在调用第二采集设备在出口区域采集第二视野图像,并将采集的第二视野图像与入口区域的第一视野图像进行相似度比对,如得到的相似度大于设定的阈值,则确定目标人员进入出口区域,记录目标人员在出口区域的轨迹,并将该人员信息写入人员轨迹数据库,存储目标人员出现的时间和相应的图像。
本申请实施例提供的方法通过对入口区域的人员进行行为特征检测,将行为特征条件满足预设追踪条件的人员确定为追踪的人员,以此对进入加油站的人员进行初步筛选,一方面便于精准的定位需要追踪的人员,另一方面减少了后续追踪人员的数量。另外,后续通过确定追踪人员进入的目标区域,并通过目标区域对应的区域图像确定追踪人员的人员轨迹,提高了人员轨迹的检测效率,解决了现有技术中针对各个区域的人员内进行有效的监控困难的问题。
在本申请另一实施例中,如图6所示,方法还包括以下步骤:
步骤S21,在基于目标人员在入口区域的第一轨迹,未预测到目标人员出现的第二采集设备的情况下,获取采集设备列表,其中,采集设备列表包括各个管控区域的采集设备的设备信息。
在本申请实施例中,在基于目标人员在入口区域的第一轨迹,未预测到目标人员出现的第二采集设备时,即可以说明当前基于第一轨迹所预测的采集设备的概率小于预设概率,此时处理设备获取采集设备列表,该列表中包括:部署在各个管控区域的采集设备的设备信息,设备信息可以是采集设备的通信地址。
步骤S22,基于设备信息向采集设备列表中各个管控区域的采集设备发送采集指令。
在本申请实施例中,处理设备按照设备信息依次向采集设备列表中各个管控区域的采集设备发送采集指令,以使采集设备采集相应的视野图像。
步骤S23,接收各个管控区域的采集设备基于采集指令反馈的第二视野图像,并检测第二视野图像得到候选人员特征。
在本申请实施例中,处理设备收到各个采集设备基于采集指令反馈的第三视野图像后,对第三视野图像进行人员特征检测,并将检测到的人员特征确定为候选人员特征。
步骤S24,将候选人员特征与目标人员的目标人员特征相匹配的第三视野图像确定为目标视野图像。
在本申请实施例中,人员特征比对的过程详见上述实施例,在此不再赘述。
步骤S25,将目标视野图像对应采集设备所处的管控区域作为目标区域。
作为一个示例,处理设备将各个管控区域的采集设备反馈的图像作为第三视野图像,例如:室内收费区的采集设备R1反馈的第三视野图像,临时停车区的采集设备R2反馈的第三视野图像等等。然后处理设备将各个第三视野图像分别与第一视野图像进行特征对比,得到人体特征相似度,将人体特征相似度最高的第三视野图像确定为目标视野图像。最终将目标视野图像对应采集设备所处的管控区域作为目标区域。
本申请实施例提供的方法通过预测目标人员的轨迹,从而确定目标人员年进入的目标区域,便于通过目标区域的采集设备对目标人员进行追踪,提高了轨迹的检测效率。同时在无法预测目标人员的轨迹时,通过向各个管控区域的采集设备同时发送采集指令,从而能够及时得到的各个管控区域的人员情况,有利于快速确定目标人员进入的目标区域。
图7是根据本发明实施例的一种人员轨迹的检测方法的流程图,如图7所示,方法还包括:
步骤S31,获取人员轨迹集合,其中,人员轨迹集合包括目标人员的人员轨迹以及人员轨迹中各个轨迹点对应的时间戳。
在本申请实施例中,处理设备可以对数据库中已存储的人员轨迹集合进行校验。具体的,首先,从数据库中获取人员轨迹集合,人员轨迹集合包括:目标人员在至少一个区域的人员轨迹,每个人员轨迹包括多个轨迹点以及每个轨迹点对应的时间戳。
步骤S32,对比各个轨迹点对应的时间戳,确定异常轨迹点。
在本申请实施例中,对比各个轨迹点对应的时间戳,确定异常轨迹点,包括以下步骤E1-E4:
步骤E1,对比各个轨迹点对应的时间戳,确定处于预设时间差内的轨迹点集合,其中,轨迹点集合至少包括:第一轨迹点和第二轨迹点,第一轨迹点和第二轨迹点两个处于不同区域。
步骤E2,获取第一轨迹点所处区域的采集设备得到的第一图像,以及第二轨迹点所处区域的采集设备得到的第二图像。
步骤E3,查询第一图像所携带的人体特征和第二图像所携带的人体特征分别与目标人员的第一人体特征之间的第一相似度和第二相似度。
步骤E4,确定第一相似度和第二相似度中的最小相似度,并将最小相似度对应的轨迹点作为异常轨迹点。
步骤S33,将异常轨迹点从人员轨迹中剔除,得到更新后的人员轨迹。
本申请实施例提供的方法通过对数据库中存储的轨迹进行异常检测,从而将处于不同区域,且时间戳的时间差在预设时间差内的至少两个轨迹点进行校验,校验过程将每个轨迹点对应的图像所携带的人体特征分别与目标人员的第一人体特征进行相似度计算,从而保留相似度最高的轨迹点,去除相似度低的轨迹点,从而保证最终生成得到的目标人员的人员轨迹的准确性。
在本实施例中还提供了一种人员轨迹的检测装置,该装置用于实现上述实施例及优选实施方式,已经进行过说明的不再赘述。如以下所使用的,术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现,但是硬件,或者软件和硬件的组合的实现也是可能并被构想的。
本实施例提供一种人员轨迹的检测装置,如图8所示,包括:
获取模块81,用于获取第一采集设备对入口区域进行采集得到的视频流,并从视频流提取待进行检测的第一视野图像,其中,第一采集设备为部署在入口区域的采集设备,第一视野图像携带至少一个目标人员;
检测模块82,用于基于目标人员在入口区域的第一轨迹,预测目标人员对应的第二采集设备,并获取第二采集设备的第二视野图像,其中,第二采集设备为目标人员出现的下一个采集设备;
对比模块83,用于对比第一视野图像与第二视野图像之间的人体特征相似度;
处理模块84,用于在人体特征相似度大于预设阈值的情况下,确定目标人员暴露于第二采集设备的视野范围,并获取目标人员在目标区域的第二轨迹,关联存储第一轨迹以及第二轨迹,其中,目标区域为第二采集设备所在的管控区域。
在本申请实施例中,获取模块81,包括:
获取单元,用于获取视频流中的目标视频帧图像,其中,目标视频帧图像携带至少一个候选人员;
检测单元,用于检测目标视频帧图像,得到目标视频帧图像中候选人员的人员行为特征;
确定单元,用于将人员行为特征满足预设追踪条件的候选人员确定为目标人员,并将目标人员所在的目标视频帧图像确定为第一视野图像。
在本申请实施例中,获取单元,用于提取视频流中的多个视频帧图像;检测视频帧图像的清晰度,在清晰度大于预设清晰度的情况下,获取视频帧图像中候选人员的人员特征;在人员特征的完整程度大于预设完整程度情况下,确定候选人员在第一采集设备的视野范围内未被遮挡,并检测视频帧图像对应的亮度值;在亮度值大于预设亮度值的情况下,对视频帧图像进行去噪处理,并将去噪处理后的视频帧图像确定为目标视频帧图像。
在本申请实施例中,检测单元,用于检测目标视频帧图像确定候选人员在目标视频帧图像的坐标信息;按照坐标信息从目标视频帧图像中截取候选人员对应的分割图像;基于分割图像检测候选人员的关键部位,得到动作信息;将动作信息确定为候选人员对应的人员行为特征。
在本申请实施例中,检测单元,用于检测分割图像确定候选人员对应关键部位的部位位置;基于部位位置提取关键部位对应的关键部位特征;检测关键部位特征确定候选人员是否携带目标物,得到第一检测结果,和/或,检测关键部位特征确定候选人员的交通方式,得到第二检测结果;基于第一检测结果和/或第二检测结果确定动作信息。
在本申请实施例中,确定单元,用于将第一检测结果为候选人员携带目标物,和/或,第二检测结果为所以候选人员的交通方式为预设交通方式的候选人员确定为目标人员。
在本申请实施例中,检测模块82,包括:
轨迹检测单元,用于检测目标人员当前在入口区域对应的第一轨迹;
采集单元,用于获取目标人员在入口区域的运动数据,运动数据包括但不限于运动速度、加速度、以及运动方向;
预测单元,用于按照第一轨迹以及运动数据对目标人员进行预测,得到目标人员出现的第二采集设备。
在本申请实施例中,轨迹检测单元,用于调用第一采集设备在入口区域对目标人员进行采集,得到图像集,其中,图像集包括多帧连续的人员图像;检测目标人员在每帧人员图像中的位置信息;基于每帧人员图像得到的位置信息生成第一轨迹。
在本申请实施例中,预测单元,用于获取当前地图信息,其中,当前地图信息包括入口区域,多个管控区域以及入口区域和各个管控区域之间连通的路径;根据当前地图信息中的路径,第一轨迹以及运动数据,预测目标人员对应的至少一个候选采集设备,以及每个候选采集设备对应的概率;将概率最大的候选采集设备确定为第二采集设备。
在本申请实施例中,装置还包括:存储模块,用于从图像集获取第一轨迹中各个轨迹点对应的人员图像;将第一轨迹,以及第一轨迹中各个轨迹点对应的人员图像和时间信息关联存储。
在本申请实施例中,对比模块83,用于检测目标人员在第一视野图像中第一人体特征,以及第二视野图像携带的第二人体特征;计算第一人体特征与第二人体特征之间的人体特征相似度。
在本申请实施例中,对比模块83,用于将目标人员在第一视野图像以及第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;分别检测调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;按照人员头部长度分别对调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像;分别检测第一局部图像以及第二局部图像,得到第一局部图像对应的第一人体特征以及第二局部图像对应的第二人体特征。
在本申请实施例中,对比模块83,用于获取各个第一局部图像对应第一人体特征的预设权重值以及各个第二局部图像对应第二人体特征的预设权重值;计算第一人体特征与预设权重值对应的第一特征值,以及第二人体特征与预设权重值对应的第二特征值;基于第一特征值以及第二特征值计算人体特征相似度。
在本申请实施例中,装置还包括:控制模块,用于在基于目标人员在入口区域的第一轨迹,未预测到目标人员出现的第二采集设备的情况下,获取采集设备列表,其中,采集设备列表包括各个管控区域的采集设备的设备信息;基于设备信息向采集设备列表中各个管控区域的采集设备发送采集指令;接收各个管控区域的采集设备基于采集指令反馈的第三视野图像,并检测第三视野图像得到候选人员特征;将候选人员特征与目标人员的目标人员特征相匹配的第二视野图像确定为目标视野图像;将所述目标视野图像对应采集设备所处的管控区域作为目标区域。
在本申请实施例中,装置还包括:异常处理模块,用于获取人员轨迹集合,其中,人员轨迹集合包括目标人员的人员轨迹以及人员轨迹中各个轨迹点对应的时间戳;对比各个轨迹点对应的时间戳,确定异常轨迹点;将异常轨迹点从人员轨迹中剔除,得到更新后的人员轨迹。
在本申请实施例中,异常处理模块,具体用于对比各个轨迹点对应的时间戳,确定处于预设时间差内的轨迹点集合,其中,轨迹点集合至少包括:第一轨迹点和第二轨迹点,第一轨迹点和第二轨迹点两个处于不同区域;获取第一轨迹点所处区域的采集设备得到的第一图像,以及第二轨迹点所处区域的采集设备得到的第二图像;查询第一图像所携带的人体特征和第二图像所携带的人体特征分别与目标人员的第一人体特征之间的第一相似度和第二相似度;确定第一相似度和第二相似度中的最小相似度,并将最小相似度对应的轨迹点作为异常轨迹点。
本申请实施例提供的装置通过对入口区域的人员进行行为特征检测,将行为特征条件满足预设追踪条件的人员确定为追踪的人员,以此对进入加油站的人员进行初步筛选,一方面便于精准的定位需要追踪的人员,另一方面减少了后续追踪人员的数量。另外,后续通过确定追踪人员进入的目标区域,并通过目标区域对应的区域图像确定追踪人员的人员轨迹,提高了人员轨迹的检测效率,解决了现有技术中针对各个区域的人员内进行有效的监控困难的问题。
本发明实施例提供了一种人员轨迹的检测系统,系统包括:处理设备,以及部署在各个管控区域的采集设备,处理设备与各个采集设备通信连接。
在本申请实施例中,处理设备,用于获取视频流中的目标视频帧图像,其中,目标视频帧图像携带至少一个候选人员;检测目标视频帧图像,得到目标视频帧图像中候选人员的人员行为特征;将人员行为特征满足预设追踪条件的候选人员确定为目标人员,并将目标人员所在的目标视频帧图像确定为第一视野图像。
在本申请实施例中,处理设备,用于提取视频流中的多个视频帧图像;检测视频帧图像的清晰度,在清晰度大于预设清晰度的情况下,获取视频帧图像中候选人员的人员特征;在人员特征的完整程度大于预设完整程度情况下,确定候选人员在第一采集设备的视野范围内未被遮挡,并检测视频帧图像对应的亮度值;在亮度值大于预设亮度值的情况下,对视频帧图像进行去噪处理,并将去噪处理后的视频帧图像确定为目标视频帧图像。
在本申请实施例中,处理设备,用于检测目标视频帧图像确定候选人员在目标视频帧图像的坐标信息;按照坐标信息从目标视频帧图像中截取候选人员对应的分割图像;基于分割图像检测候选人员的关键部位,得到动作信息;将动作信息确定为候选人员对应的人员行为特征。
在本申请实施例中,处理设备,用于检测分割图像确定候选人员对应关键部位的部位位置;基于部位位置提取关键部位对应的关键部位特征;检测关键部位特征确定候选人员是否携带目标物,得到第一检测结果,和/或,检测关键部位特征确定候选人员的交通方式,得到第二检测结果;基于第一检测结果和/或第二检测结果确定动作信息。
在本申请实施例中,处理设备,用于将第一检测结果为候选人员携带目标物,和/或,第二检测结果为所以候选人员的交通方式为预设交通方式的候选人员确定为目标人员。
在本申请实施例中,处理设备,用于检测目标人员当前在入口区域对应的第一轨迹;获取目标人员在入口区域的运动数据,运动数据包括但不限于运动速度、加速度、以及运动方向;按照第一轨迹以及运动数据对目标人员进行预测,得到目标人员出现的第二采集设备。
在本申请实施例中,处理设备,用于调用第一采集设备在入口区域对目标人员进行采集,得到图像集,其中,图像集包括多帧连续的人员图像;检测目标人员在每帧人员图像中的位置信息;基于每帧人员图像得到的位置信息生成第一轨迹。
在本申请实施例中,处理设备,用于获取当前地图信息,其中,当前地图信息包括入口区域,多个管控区域以及入口区域和各个管控区域之间连通的路径;根据当前地图信息中的路径,第一轨迹以及运动数据,预测目标人员对应的至少一个候选采集设备,以及每个候选采集设备对应的概率;将概率最大的候选采集设备确定为第二采集设备。
在本申请实施例中,处理设备,用于从图像集获取第一轨迹中各个轨迹点对应的人员图像;将第一轨迹,以及第一轨迹中各个轨迹点对应的人员图像和时间信息关联存储。
在本申请实施例中,处理设备,用于检测目标人员在第一视野图像中第一人体特征,以及第二视野图像携带的第二人体特征;计算第一人体特征与第二人体特征之间的人体特征相似度。
在本申请实施例中,处理设备,用于将目标人员在第一视野图像以及第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;分别检测调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;按照人员头部长度分别对调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像;分别检测第一局部图像以及第二局部图像,得到第一局部图像对应的第一人体特征以及第二局部图像对应的第二人体特征。
在本申请实施例中,处理设备,用于获取各个第一局部图像对应第一人体特征的预设权重值以及各个第二局部图像对应第二人体特征的预设权重值;计算第一人体特征与预设权重值对应的第一特征值,以及第二人体特征与预设权重值对应的第二特征值;基于第一特征值以及第二特征值计算人体特征相似度。
在本申请实施例中,处理设备,用于在基于目标人员在入口区域的第一轨迹,未预测到目标人员出现的第二采集设备的情况下,获取采集设备列表,其中,采集设备列表包括各个管控区域的采集设备的设备信息;基于设备信息向采集设备列表中各个管控区域的采集设备发送采集指令;接收各个管控区域的采集设备基于采集指令反馈的第三视野图像,并检测第三视野图像得到候选人员特征;将候选人员特征与目标人员的目标人员特征相匹配的第二视野图像确定为目标视野图像;将目标视野图像对应采集设备所处的管控区域作为目标区域。
在本申请实施例中,处理设备,用于获取人员轨迹集合,其中,人员轨迹集合包括目标人员的人员轨迹以及人员轨迹中各个轨迹点对应的时间戳;对比各个轨迹点对应的时间戳,确定异常轨迹点;将异常轨迹点从人员轨迹中剔除,得到更新后的人员轨迹。
在本申请实施例中,处理设备,用于对比各个轨迹点对应的时间戳,确定处于预设时间差内的轨迹点集合,其中,轨迹点集合至少包括:第一轨迹点和第二轨迹点,第一轨迹点和第二轨迹点两个处于不同区域;获取第一轨迹点所处区域的采集设备得到的第一图像,以及第二轨迹点所处区域的采集设备得到的第二图像;查询第一图像所携带的人体特征和第二图像所携带的人体特征分别与目标人员的第一人体特征之间的第一相似度和第二相似度;确定第一相似度和第二相似度中的最小相似度,并将最小相似度对应的轨迹点作为异常轨迹点。
请参阅图9,图9是本发明可选实施例提供的一种计算机设备的结构示意图,如图9所示,该计算机设备包括:一个或多个处理器10、存储器20,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相通信连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在计算机设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在一些可选的实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个计算机设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。
处理器10可以是中央处理器,网络处理器或其组合。其中,处理器10还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路,可编程逻辑器件或其组合。上述可编程逻辑器件可以是复杂可编程逻辑器件,现场可编程逻辑门阵列,通用阵列逻辑或其任意组合。
其中,所述存储器20存储有可由至少一个处理器10执行的指令,以使所述至少一个处理器10执行实现上述实施例示出的方法。
存储器20可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据一种小程序落地页的展现的计算机设备的使用所创建的数据等。此外,存储器20可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些可选的实施方式中,存储器20可选包括相对于处理器10远程设置的存储器,这些远程存储器可以通过网络连接至该计算机设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
存储器20可以包括易失性存储器,例如,随机存取存储器;存储器也可以包括非易失性存储器,例如,快闪存储器,硬盘或固态硬盘;存储器20还可以包括上述种类的存储器的组合。
输入装置30可接收输入的数字或字符信息,以及产生与该计算机设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等。输出装置40可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。上述显示设备包括但不限于液晶显示器,发光二极管,显示器和等离子体显示器。在一些可选的实施方式中,显示设备可以是触摸屏。
该计算机设备还包括通信接口30,用于该计算机设备与其他设备或通信网络通信。
本发明实施例还提供了一种计算机可读存储介质,上述根据本发明实施例的方法可在硬件、固件中实现,或者被实现为可记录在存储介质,或者被实现通过网络下载的原始存储在远程存储介质或非暂时机器可读存储介质中并将被存储在本地存储介质中的计算机代码,从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件的存储介质上的这样的软件处理。其中,存储介质可为磁碟、光盘、只读存储记忆体、随机存储记忆体、快闪存储器、硬盘或固态硬盘等;进一步地,存储介质还可以包括上述种类的存储器的组合。可以理解,计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件,当软件或计算机代码被计算机、处理器或硬件访问且执行时,实现上述实施例示出的方法。
虽然结合附图描述了本发明的实施例,但是本领域技术人员可以在不脱离本发明的精神和范围的情况下做出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。
Claims (17)
1.一种人员轨迹的检测方法,其特征在于,所述方法包括:
获取第一采集设备对入口区域进行采集得到的视频流,并从所述视频流提取待进行检测的第一视野图像,其中,所述第一采集设备为部署在所述入口区域的采集设备,所述第一视野图像携带至少一个目标人员;
基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,并获取所述第二采集设备的第二视野图像,其中,所述第二采集设备为所述目标人员出现的下一个采集设备;
对比所述第一视野图像与所述第二视野图像之间的人体特征相似度;
在所述人体特征相似度大于预设阈值的情况下,确定所述目标人员暴露于所述第二采集设备的视野范围,并获取所述目标人员在目标区域的第二轨迹,关联存储所述第一轨迹以及所述第二轨迹,其中,所述目标区域为所述第二采集设备所在的管控区域;
所述对比所述第一视野图像与所述第二视野图像之间的人体特征相似度,包括:
检测所述目标人员在所述第一视野图像中第一人体特征,以及所述第二视野图像携带的第二人体特征;
计算所述第一人体特征与所述第二人体特征之间的人体特征相似度;
所述检测所述目标人员在所述第一视野图像中第一人体特征,以及所述第二视野图像携带的第二人体特征,包括:
将所述目标人员在所述第一视野图像以及所述第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;
分别检测所述调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;
按照所述人员头部长度分别对所述调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像;
分别检测所述第一局部图像以及所述第二局部图像,得到所述第一局部图像对应的第一人体特征以及所述第二局部图像对应的第二人体特征;
所述计算所述第一人体特征与所述第二人体特征之间的人体特征相似度,包括:
将多个第一局部图像和第二局部图像输入预先训练好的长短期记忆神经网络模型,长短期记忆神经网络模型将多个第一局部图像进行关联,以及将多个第二局部图像进行关联,将关联后的第一局部图像以及关联后的第二局部图像输入至Resnet50神经网络;
Resnet50神经网络提取关联后的第一局部图像的第一图像特征和关联后的第二局部图像的第二图像特征,将第一图像特征和第二图像特征输入至CNN神经网络;
CNN神经网络从第一图像特征中提取第一局部图像对应的第一人体特征,从第二图像特征中提取第二局部图像对应的第二人体特征,基于每个第一人体特征以及预设权重值计算第一特征值,同时基于每个第二人体特征以及预设权重值计算第二特征值,基于第一特征值和第二特征值计算人体特征相似度;
其中,所述第一局部图像对应的预设权重值由上下两侧依次向中间位置递增,所述第二局部图像对应的预设权重值由上下两侧依次向中间位置递增。
2.根据权利要求1所述的方法,其特征在于,所述从所述视频流提取待进行检测的第一视野图像,包括:
获取所述视频流中的目标视频帧图像,其中,所述目标视频帧图像携带至少一个候选人员;
检测所述目标视频帧图像,得到所述目标视频帧图像中候选人员的人员行为特征;
将所述人员行为特征满足预设追踪条件的候选人员确定为目标人员,并将所述目标人员所在的目标视频帧图像确定为所述第一视野图像。
3.根据权利要求2所述的方法,其特征在于,所述获取所述视频流中的目标视频帧图像,包括:
提取所述视频流中的多个视频帧图像;
检测所述视频帧图像的清晰度,在所述清晰度大于预设清晰度的情况下,获取所述视频帧图像中候选人员的人员特征;
在所述人员特征的完整程度大于预设完整程度情况下,确定所述候选人员在所述第一采集设备的视野范围内未被遮挡,并检测所述视频帧图像对应的亮度值;
在所述亮度值大于预设亮度值的情况下,对所述视频帧图像进行去噪处理,并将去噪处理后的视频帧图像确定为所述目标视频帧图像。
4.根据权利要求2所述的方法,其特征在于,所述检测所述目标视频帧图像,得到所述目标视频帧图像中候选人员的人员行为特征,包括:
检测所述目标视频帧图像确定所述候选人员在所述目标视频帧图像的坐标信息;
按照所述坐标信息从所述目标视频帧图像中截取所述候选人员对应的分割图像;
基于所述分割图像检测所述候选人员的关键部位,得到动作信息;
将所述动作信息确定为所述候选人员对应的人员行为特征。
5.根据权利要求4所述的方法,其特征在于,所述基于所述分割图像检测所述候选人员的关键部位,得到动作信息,包括:
检测所述分割图像确定所述候选人员对应关键部位的部位位置;
基于所述部位位置提取所述关键部位对应的关键部位特征;
检测所述关键部位特征确定所述候选人员是否携带目标物,得到第一检测结果,和/或,检测所述关键部位特征确定所述候选人员的交通方式,得到第二检测结果;
基于所述第一检测结果和/或所述第二检测结果确定所述动作信息。
6.根据权利要求5所述的方法,其特征在于,所述将所述人员行为特征满足预设追踪条件的候选人员确定为目标人员,包括:
将所述第一检测结果为所述候选人员携带目标物,和/或,所述第二检测结果为所以候选人员的交通方式为预设交通方式的候选人员确定为所述目标人员。
7.根据权利要求1所述的方法,其特征在于,所述基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,包括:
检测所述目标人员当前在所述入口区域对应的第一轨迹;
获取所述目标人员在所述入口区域的运动数据,所述运动数据包括但不限于运动速度、加速度、以及运动方向;
按照所述第一轨迹以及所述运动数据对所述目标人员进行预测,得到所述目标人员出现的第二采集设备。
8.根据权利要求7所述的方法,其特征在于,所述检测所述目标人员当前在所述入口区域对应的第一轨迹,包括:
调用所述第一采集设备在所述入口区域对所述目标人员进行采集,得到图像集,其中,所述图像集包括多帧连续的人员图像;
检测所述目标人员在每帧人员图像中的位置信息;
基于每帧人员图像得到的位置信息生成所述第一轨迹。
9.根据权利要求7所述的方法,其特征在于,所述按照所述第一轨迹以及所述运动数据对所述目标人员进行预测,得到所述目标人员出现的第二采集设备,包括:
获取当前地图信息,其中,所述当前地图信息包括入口区域,多个管控区域以及所述入口区域和各个所述管控区域之间连通的路径;
根据当前地图信息中的路径,第一轨迹以及所述运动数据,预测所述目标人员对应的至少一个候选采集设备,以及每个候选采集设备对应的概率;
将概率最大的候选采集设备确定为第二采集设备。
10.根据权利要求8所述的方法,其特征在于,在检测所述目标人员当前在所述入口区域对应的第一轨迹之后,所述方法还包括:
从所述图像集获取第一轨迹中各个轨迹点对应的人员图像;
将所述第一轨迹,以及所述第一轨迹中各个轨迹点对应的人员图像和时间信息关联存储。
11.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在基于所述目标人员在所述入口区域的第一轨迹,未预测到所述目标人员出现的第二采集设备的情况下,获取采集设备列表,其中,所述采集设备列表包括各个管控区域的采集设备的设备信息;
基于所述设备信息向采集设备列表中各个管控区域的采集设备发送采集指令;
接收各个管控区域的采集设备基于所述采集指令反馈的第三视野图像,并检测所述第三视野图像得到候选人员特征;
将所述候选人员特征与所述目标人员的目标人员特征相匹配的第三视野图像确定为目标视野图像;
将所述目标视野图像对应采集设备所处的管控区域作为目标区域。
12.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取人员轨迹集合,其中,所述人员轨迹集合包括所述目标人员在不同区域的轨迹以及所述轨迹中各个轨迹点对应的时间戳;
对比各个所述轨迹点对应的时间戳,确定异常轨迹点;
将所述异常轨迹点从所述人员轨迹中剔除,得到更新后的人员轨迹。
13.根据权利要求12所述的方法,其特征在于,所述对比各个所述轨迹点对应的时间戳,确定异常轨迹点,包括:
对比各个所述轨迹点对应的时间戳,确定处于预设时间差内的轨迹点集合,其中,所述轨迹点集合至少包括:第一轨迹点和第二轨迹点,所述第一轨迹点和所述第二轨迹点两个处于不同区域;
获取所述第一轨迹点所处区域的采集设备得到的第一图像,以及所述第二轨迹点所处区域的采集设备得到的第二图像;
查询所述第一图像所携带的人体特征和所述第二图像所携带的人体特征分别与目标人员的第一人体特征之间的第一相似度和第二相似度;
确定所述第一相似度和第二相似度中的最小相似度,并将最小相似度对应的轨迹点作为异常轨迹点。
14.一种人员轨迹的检测装置,其特征在于,所述装置包括:
获取模块,用于获取第一采集设备对入口区域进行采集得到的视频流,并从所述视频流提取待进行检测的第一视野图像,其中,所述第一采集设备为部署在所述入口区域的采集设备,所述第一视野图像携带至少一个目标人员;
检测模块,用于基于所述目标人员在所述入口区域的第一轨迹,预测所述目标人员对应的第二采集设备,并获取所述第二采集设备的第二视野图像,其中,所述第二采集设备为所述目标人员出现的下一个采集设备;
检测模块,用于对比所述第一视野图像与所述第二视野图像之间的人体特征相似度;
处理模块,用于在所述人体特征相似度大于预设阈值的情况下,确定所述目标人员暴露于所述第二采集设备的视野范围,并获取所述目标人员在目标区域的第二轨迹,关联存储所述第一轨迹以及所述第二轨迹,其中,所述目标区域为所述第二采集设备所在的管控区域;
所述检测模块,用于检测所述目标人员在所述第一视野图像中第一人体特征,以及所述第二视野图像携带的第二人体特征;计算所述第一人体特征与所述第二人体特征之间的人体特征相似度;
所述检测模块,用于将所述目标人员在所述第一视野图像以及所述第二视野图像中的人体高度缩放至预设高度,得到调整后的第一视野图像以及调整后的第二视野图像;分别检测所述调整后的第一视野图像以及调整后的第二视野图像中的人员头部长度;按照所述人员头部长度分别对所述调整后的第一视野图像以及第二视野图像中的人员进行分割,得到调整后的第一视野图像对应的多个第一局部图像,以及调整后的第二视野图像对应的多个第二局部图像;分别检测所述第一局部图像以及所述第二局部图像,得到所述第一局部图像对应的第一人体特征以及所述第二局部图像对应的第二人体特征;
所述检测模块,用于获取各个所述第一局部图像对应第一人体特征的预设权重值以及各个所述第二局部图像对应第二人体特征的预设权重值;计算所述第一人体特征与所述预设权重值对应的第一特征值,以及第二人体特征与所述预设权重值对应的第二特征值;基于所述第一特征值以及所述第二特征值计算所述人体特征相似度。
15.一种人员轨迹的检测系统,其特征在于,所述系统包括:处理设备,以及部署在各个管控区域的采集设备,所述处理设备与各个所述采集设备通信连接,所述处理设备用于执行上述权利要求1至13中任一项所述的方法。
16.一种计算机设备,其特征在于,包括:
存储器和处理器,所述存储器和所述处理器之间互相通信连接,所述存储器中存储有计算机指令,所述处理器通过执行所述计算机指令,从而执行权利要求1至13中任一项所述的方法。
17.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机指令,所述计算机指令用于使计算机执行权利要求1至13中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310735532.9A CN116486438B (zh) | 2023-06-20 | 2023-06-20 | 一种人员轨迹的检测方法、装置、系统、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310735532.9A CN116486438B (zh) | 2023-06-20 | 2023-06-20 | 一种人员轨迹的检测方法、装置、系统、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116486438A CN116486438A (zh) | 2023-07-25 |
CN116486438B true CN116486438B (zh) | 2023-11-03 |
Family
ID=87221752
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310735532.9A Active CN116486438B (zh) | 2023-06-20 | 2023-06-20 | 一种人员轨迹的检测方法、装置、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116486438B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101751677A (zh) * | 2008-12-17 | 2010-06-23 | 中国科学院自动化研究所 | 基于多摄像机的目标连续跟踪方法 |
CN111222404A (zh) * | 2019-11-15 | 2020-06-02 | 北京市商汤科技开发有限公司 | 检测同行人的方法及装置、系统、电子设备和存储介质 |
CN114882073A (zh) * | 2022-05-18 | 2022-08-09 | 深圳市慧鲤科技有限公司 | 目标跟踪方法和装置,介质和计算机设备 |
CN115273208A (zh) * | 2021-10-12 | 2022-11-01 | 杭州海康威视数字技术股份有限公司 | 轨迹生成方法、系统、装置及电子设备 |
CN115862136A (zh) * | 2022-12-06 | 2023-03-28 | 上海承飞航空特种设备有限公司 | 基于骨骼关节的轻量级加油员行为识别方法及装置 |
CN116012949A (zh) * | 2023-02-06 | 2023-04-25 | 南京智蓝芯联信息科技有限公司 | 一种复杂场景下的人流量统计识别方法及系统 |
-
2023
- 2023-06-20 CN CN202310735532.9A patent/CN116486438B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101751677A (zh) * | 2008-12-17 | 2010-06-23 | 中国科学院自动化研究所 | 基于多摄像机的目标连续跟踪方法 |
CN111222404A (zh) * | 2019-11-15 | 2020-06-02 | 北京市商汤科技开发有限公司 | 检测同行人的方法及装置、系统、电子设备和存储介质 |
CN115273208A (zh) * | 2021-10-12 | 2022-11-01 | 杭州海康威视数字技术股份有限公司 | 轨迹生成方法、系统、装置及电子设备 |
CN114882073A (zh) * | 2022-05-18 | 2022-08-09 | 深圳市慧鲤科技有限公司 | 目标跟踪方法和装置,介质和计算机设备 |
CN115862136A (zh) * | 2022-12-06 | 2023-03-28 | 上海承飞航空特种设备有限公司 | 基于骨骼关节的轻量级加油员行为识别方法及装置 |
CN116012949A (zh) * | 2023-02-06 | 2023-04-25 | 南京智蓝芯联信息科技有限公司 | 一种复杂场景下的人流量统计识别方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN116486438A (zh) | 2023-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106952303B (zh) | 车距检测方法、装置和系统 | |
CN109657533B (zh) | 行人重识别方法及相关产品 | |
CN109145680B (zh) | 一种获取障碍物信息的方法、装置、设备和计算机存储介质 | |
CN112534470B (zh) | 用于基于图像的目标对象检验的系统及方法 | |
CN110807429A (zh) | 基于tiny-YOLOv3的施工安全检测方法及系统 | |
US9483944B2 (en) | Prediction of free parking spaces in a parking area | |
Jung et al. | 3D convolutional neural network‐based one‐stage model for real‐time action detection in video of construction equipment | |
CN103927762B (zh) | 一种目标车辆自动跟踪方法及装置 | |
CN116152863B (zh) | 一种人员信息识别方法、装置、电子设备及存储介质 | |
CN109800682A (zh) | 驾驶员属性识别方法及相关产品 | |
CN116359218B (zh) | 一种工业聚集区大气污染移动监测系统 | |
CN110147731B (zh) | 车辆类型识别方法及相关产品 | |
CN109711427A (zh) | 目标检测方法及相关产品 | |
CN112069988A (zh) | 一种基于枪球联动的驾驶员安全驾驶行为检测方法 | |
CN112434566A (zh) | 客流统计方法、装置、电子设备及存储介质 | |
Zhou et al. | Vision‐based approach for predicting the probability of vehicle–pedestrian collisions at intersections | |
CN111881322B (zh) | 一种目标搜索方法、装置、电子设备及存储介质 | |
Mishra et al. | Sensing accident-prone features in urban scenes for proactive driving and accident prevention | |
CN112949457A (zh) | 基于增强现实技术的维修方法、装置及系统 | |
US20220339969A1 (en) | System and method for automatic treadwear classification | |
CN116486438B (zh) | 一种人员轨迹的检测方法、装置、系统、设备及存储介质 | |
Moseva et al. | Algorithm for Predicting Pedestrian Behavior on Public Roads | |
CN114882431A (zh) | 目标类型识别方法及装置、服务器、计算机可读存储介质 | |
CN113673583A (zh) | 一种图像识别方法、识别网络的训练方法及相关装置 | |
CN111444766A (zh) | 基于图像处理的车辆追踪方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |