KR102085168B1 - Method and apparatus for managing safety in dangerous zone based on motion tracking - Google Patents
Method and apparatus for managing safety in dangerous zone based on motion tracking Download PDFInfo
- Publication number
- KR102085168B1 KR102085168B1 KR1020180128755A KR20180128755A KR102085168B1 KR 102085168 B1 KR102085168 B1 KR 102085168B1 KR 1020180128755 A KR1020180128755 A KR 1020180128755A KR 20180128755 A KR20180128755 A KR 20180128755A KR 102085168 B1 KR102085168 B1 KR 102085168B1
- Authority
- KR
- South Korea
- Prior art keywords
- real image
- temperature distribution
- image
- thermal image
- data
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/19608—Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/1961—Movement detection not involving frame subtraction, e.g. motion detection on the basis of luminance changes in the image
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19639—Details of the system layout
- G08B13/19641—Multiple cameras having overlapping views on a single scene
- G08B13/19643—Multiple cameras having overlapping views on a single scene wherein the cameras play different roles, e.g. different resolution, different camera type, master-slave camera
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Alarm Systems (AREA)
- Emergency Alarm Devices (AREA)
Abstract
Description
본 발명은 안전관리 방법 및 장치에 관한 것으로, 더욱 상세하게는 인체추적에 기반하여 안전사고 발생을 미리 예측해서 방지함으로써 위험지역에서 안전을 관리하는 방법 및 장치에 관한 것이다.The present invention relates to a safety management method and apparatus, and more particularly, to a method and apparatus for managing safety in a dangerous area by predicting and preventing the occurrence of a safety accident in advance based on human tracking.
컴퓨팅 자원의 발달로 다양한 분야에서 인공지능 연구가 활발히 진행되고 있다. 과거에는 상상하지 못한 많은 양의 데이터를 미리 학습시키고, 학습된 결과를 이용하여 빠르고 정확한 예측/판단이 가능한 시스템이 산업 현장뿐만 아니라 일상 생활에서도 쉽게 접할 수 있게 되었다.Due to the development of computing resources, AI research is actively being conducted in various fields. A system that enables pre-learning of large amounts of data that could not have been imagined in the past, and enables fast and accurate prediction / determination using the learned results, is easily accessible not only in the industrial field but also in daily life.
그러나 이렇게 만능인 것처럼 보이는 인공지능 시스템의 경우 실제로는 시스템 내부에서 엄청난 양의 데이터 연산 및 처리가 이루어져야만 가능하고, 이는 시스템을 구성하는 장비의 고도화 다시 말해 많은 비용 투자가 있어야 함을 의미한다.However, this seemingly versatile AI system is actually only possible with a huge amount of data computation and processing within the system, which means that the equipment that composes the system needs to be upgraded, that is, costly.
카메라 영상을 이용한 영상처리는 다양한 분야에서 사용되고 있다.Image processing using camera images is used in various fields.
특히 산업현장에서의 사용은 대상 영상처리 알고리즘의 변경만으로도 인체검출, 작업자 카운팅, 위험지역 감시, 검사 장비 등 그 분야가 매우 다양하다.In particular, the use of industrial sites is very diverse, such as human body detection, worker counting, hazardous area monitoring, and inspection equipment only by changing the target image processing algorithm.
그러나 고전방식의 영상처리 방식을 이용하여서는 작업장 환경 즉 빛, 각종 기계의 움직임 등의 외부 요인으로 다양한 예외상황이 발생하기에 주요 검사, 감시 분야의 적용 시 주의가 필요하다.However, when using the classical image processing method, various exceptions occur due to external factors such as workplace environment, light, and movement of various machines.
본 발명은 인공지능이라는 고도화된 기술을 최소한의 비용으로 구성하여 기존 대비 양질의 서비스를 제공함에 그 목표로 한다.The present invention aims to provide a quality service compared to the existing by configuring the advanced technology of artificial intelligence at a minimum cost.
안전관리에 관한 종래의 기술에 의하는 경우, 주로 센서를 이용하여 사용자의 움직임을 파악하고, 기계와의 관계에서 위험한 상황에 놓일 수 있는 사용자에 대해서 미리 기계의 동작을 차단함으로써 안전을 관리하였다. 그러나 종래 기술의 경우 기계를 포함하여 산업 설비의 형태 또는 구조가 변경되는 경우 센서를 이용하는 안전관리 시스템이 다시 설계되어야 하고, 센서의 작동을 임의로 해제하는 경우 센서를 이용하는 안전관리 시스템이 무용지물에 그치는 경우가 많았다.According to the related art of safety management, safety is mainly managed by detecting a user's movement by using a sensor and blocking the operation of the machine in advance for a user who may be in a dangerous situation in relation to the machine. However, in the prior art, when the shape or structure of an industrial facility including a machine is changed, the safety management system using the sensor must be redesigned, and the safety management system using the sensor is only useless when the sensor is arbitrarily released. There were a lot.
본 발명의 일 실시 예에 따른 위험지역 안전관리 방법 및 장치에 의하면, 실영상과 열화상을 이용하여 사용자의 동작을 추적하고 사용자가 조작하는 기계, 예를 들면 공작기계 또는 PLC의 제어 대상 장치에 대해 연출할 수 있는 위험한 상황을 미리 감지하고 이를 예방하되, 전체 영역에서 관심 영역이라는 한정된 영역에 대해 인공지능을 이용하여 위험상황을 추론하는 것이 특징이다. 이러한 점에서 본 발명의 일 실시 예에 따른 위험지역 안전관리 방법 및 장치는, 상기 살펴본 종래기술과 구별되고 상기 종래기술이 갖는 문제점을 해결하기 위해 개시된다.According to the method and apparatus for safety zone safety management according to an embodiment of the present invention, a real image and a thermal image are used to track a user's motion and to control a device operated by the user, for example, a machine tool or a control device of a PLC. It detects and prevents dangerous situations that can be produced in advance, but infers the dangerous situation by using artificial intelligence in a limited area of the area of interest. In this regard, the method and apparatus for safe zone safety management according to an exemplary embodiment of the present invention are distinguished from the above-described prior art and are disclosed to solve the problems of the prior art.
본 발명이 해결하고자 하는 과제는, 기계를 조작하는 사용자가 처할 수 있는 위험한 상황을 영상을 통해 감시하고 이를 예방할 수 있는 위험상황 안전관리 방법 및 장치를 제공하는 것이다.An object of the present invention is to provide a dangerous situation safety management method and apparatus that can monitor and prevent a dangerous situation that a user operating a machine may face through an image.
본 발명이 추가적으로 해결하려는 과제는, 위험상황을 실영상 및 열화상을 이용하고, 움직임과 온도분포에 기반하여 대상체를 검출함으로써 오차율을 줄일 수 있는 위험상황 안전관리 방법 및 장치를 제공하는 것이다.Another object of the present invention is to provide a risk situation safety management method and apparatus that can reduce an error rate by detecting an object based on a motion and temperature distribution using a real image and a thermal image.
본 발명이 추가적으로 해결하려는 과제는, 인공지능 알고리즘을 이용하는 학습을 통해 훈련된 인공지능 모델을 통해 위험상황을 추론할 수 있는 위험상황 안전관리 방법 및 장치를 제공하는 것이다.Another object of the present invention is to provide a risk situation safety management method and apparatus that can infer a risk situation through an artificial intelligence model trained through learning using an artificial intelligence algorithm.
본 발명의 일 실시 예에 따른 위험지역 안전관리 방법은, 카메라를 통해 실영상 및 열화상을 획득하는 단계; 상기 실영상을 이용하여 대상체의 움직임을 검출하고, 상기 열화상을 이용하여 대상체의 온도 분포를 검출하는 단계; 상기 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도 분포 정보를 이용하여 관심영역의 존재를 확인하는 단계; 및 인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재를 확인하는 단계를 포함하는 것을 특징으로 한다.Safety zone safety management method according to an embodiment of the present invention, the step of obtaining a real image and a thermal image through a camera; Detecting a movement of the object by using the real image and detecting a temperature distribution of the object by using the thermal image; Confirming the existence of the ROI by using the motion information of the real image and the temperature distribution information of the thermal image; And confirming the existence of a risk situation by analyzing the ROI using artificial intelligence.
여기서, 상기 위험지역 안전관리 방법은, 상기 실영상 및 열화상에서 추출된 특징점 좌표의 오프셋(offset) 값을 이용하여 실영상 데이터 및 열화상 데이터 중에서 적어도 하나의 데이터를 보정함으로써 실영상 및 열화상의 픽셀을 서로 매칭시키는 전처리 단계를 더 포함하는 것을 특징으로 한다.The dangerous area safety management method may include correcting at least one of real image data and thermal image data using an offset value of feature point coordinates extracted from the real image and the thermal image. It further comprises a pre-processing step of matching each other.
여기서, 상기 움직임을 검출하는 단계는, 획득된 실영상의 인접한 프레임 사이에서 밝기 값의 변화가 일어나는 픽셀들의 움직임을 이용하되, 동일한 대상체에 관해 과거에 저장된 다수의 데이터의 평균 값을 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 한다.The detecting of the motion may be performed by using a motion of pixels in which a brightness value is changed between adjacent frames of the acquired real image, but using a mean value of a plurality of data stored in the past with respect to the same object. The detection error rate is reduced by separating the object and the background operating according to.
여기서, 상기 온도 분포 검출 단계는, 대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 한다.The temperature distribution detecting step may include detecting a region satisfying the temperature distribution of the object in the thermal image based on the temperature distribution according to the temperature profile of the object.
여기서, 상기 관심영역의 존재를 확인하는 단계는, 움직임 검출의 결과 데이터와 온도 분포 검출의 결과 데이터를 이용하여 서로 매칭하는 실영상과 열화상에서 대상체가 차지하는 관심영역을 검출하는 것을 특징으로 한다.The determining of the existence of the region of interest may include detecting a region of interest occupied by the object in the real image and the thermal image that match each other using the result data of the motion detection and the result data of the temperature distribution detection.
여기서, 상기 위험상황의 존재를 확인하는 단계는, 기계와 이를 조작하는 인간이 연출할 수 있는 대상체에 관한 위험한 상황에 대한 인공지능 알고리즘을 이용한 학습에 따라 관심영역 내의 대상체가 처한 위험상황을 추론하는 것을 특징으로 한다.Here, the step of confirming the existence of the dangerous situation may include inferring a dangerous situation of an object in the ROI according to learning using an artificial intelligence algorithm for a dangerous situation about a machine and a human-manipulating object. It features.
본 발명의 일 실시 예에 따른 위험지역 안전관리 장치는, 카메라를 통해 획득된 실영상을 이용하여 대상체의 움직임을 검출하는 움직임 검출모듈과, 열화상을 이용하여 대상체의 온도분포를 검출하는 온도 검출모듈; 상기 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도 분포 정보를 이용하여 관심영역의 존재를 확인하는 관심영역 검출부; 및 인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재를 확인하는 인공 지능 상황판단부를 포함하는 것을 특징으로 한다.According to an embodiment of the present disclosure, an apparatus for managing a danger zone according to an embodiment of the present disclosure may include a motion detection module detecting a motion of an object using a real image obtained through a camera, and a temperature detection detecting a temperature distribution of the object using a thermal image. module; A region of interest detector configured to confirm the presence of the region of interest by using motion information of the real image and temperature distribution information of the thermal image; And an artificial intelligence situation determination unit for confirming the existence of a dangerous situation by analyzing the region of interest using artificial intelligence.
여기서, 상기 위험지역 안전관리 장치는, 상기 실영상 및 열화상에서 추출된 특징점 좌표의 오프셋(offset) 값을 이용하여 실영상 데이터 및 열화상 데이터 중에서 적어도 하나의 데이터를 보정함으로써 실영상 및 열화상의 픽셀을 서로 매칭시키는 데이터 전처리부를 더 포함하는 것을 특징으로 한다.Here, the dangerous area safety management device corrects at least one of the real image data and the thermal image data by using an offset value of the feature point coordinates extracted from the real image and the thermal image. It further comprises a data preprocessor for matching each other.
여기서, 상기 움직임 검출모듈은, 획득된 실영상의 인접한 프레임 사이에서 밝기 값의 변화가 일어나는 픽셀들의 움직임을 이용하되, 동일한 대상체에 관해 과거의 저장된 다수의 데이터의 평균 값을 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 한다.Here, the motion detection module uses motions of pixels in which a change in brightness value occurs between adjacent frames of the acquired real image, but uses an average value of a plurality of data stored in the past with respect to the same object according to a change of state. The detection error rate may be lowered by separating the moving object from the background.
여기서, 상기 온도 검출모듈은, 대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 한다.Here, the temperature detection module, based on the temperature distribution according to the temperature profile of the object, characterized in that for detecting a region satisfying the temperature distribution of the object in the thermal image.
여기서, 상기 관심영역 검출부는, 움직임 검출의 결과 데이터와 온도 검출의 결과 데이터를 이용하여 서로 매칭하는 실영상과 열화상에서 대상체가 차지하는 관심영역을 검출하는 것을 특징으로 한다.The ROI detector may detect an ROI occupied by the object in the real image and the thermal image that match each other using the result data of the motion detection and the result data of the temperature detection.
여기서, 청구항 7에 있어서, 상기 인공지능 상황판단부는, 기계와 이를 조작하는 인간이 연출할 수 있는 대상체에 관한 위험한 상황에 대한 인공지능 알고리즘을 이용한 학습에 따라 관심영역 내의 대상체가 처한 위험상황을 추론하는 것을 특징으로 한다.The method according to claim 7, wherein the artificial intelligence situation determination unit, infer the risk situation of the object in the region of interest according to the learning using the artificial intelligence algorithm for the dangerous situation with respect to the machine and the human subject that can manipulate the human It is characterized by.
본 발명에 의하면, 기계를 조작하는 사용자가 처할 수 있는 위험한 상황을 영상을 통해 감시하고 이를 예방함으로써, 산업 설비 변화에 유연하고 위험 상황의 감시를 임의 해제시키는 것을 방지할 수 있다.According to the present invention, by monitoring and preventing a dangerous situation that a user who operates a machine may face through the image, it is possible to be flexible to industrial equipment changes and to prevent any release of the dangerous situation.
또한, 위험상황을 실영상 및 열화상을 이용하고, 움직임과 온도분포에 기반하여 대상체를 검출함으로써 연산량과 오차율을 줄일 수 있다.In addition, it is possible to reduce the amount of computation and the error rate by using real images and thermal images for risk situations and detecting objects based on movement and temperature distribution.
또한, 인공지능 알고리즘을 이용하는 학습을 통해 훈련된 인공지능 모델을 통해 위험상황을 추론할 수 있다.In addition, the risk situation can be inferred from the AI model trained through the AI algorithm.
도 1은 본 발명의 일 실시 예에 따른 위험상황 안전관리 시스템의 구성도이다.
도 2는 본 발명의 일 실시 예에 따른 위험상황 안전관리 장치의 블록도이다.
도 3은 컴퓨팅 장치에 해당하는 위험상황 안전관리 장치의 일 실시예에 따른 블록도이다.
도 4는 본 발명의 일 실시 예에 따른 위험상황 안전관리 방법의 흐름도이다.1 is a block diagram of a risk situation safety management system according to an embodiment of the present invention.
2 is a block diagram of a risk situation safety management apparatus according to an embodiment of the present invention.
3 is a block diagram according to an exemplary embodiment of a risk situation safety management apparatus corresponding to a computing device.
4 is a flowchart illustrating a risk situation safety management method according to an embodiment of the present invention.
이하, 첨부한 도면을 참조하여 위험상황 안전관리 방법 및 장치에 대한 바람직한 실시 예를 상세히 설명하기로 한다.Hereinafter, with reference to the accompanying drawings will be described in detail a preferred embodiment of the risk situation safety management method and apparatus.
각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다. 또한 본 발명의 일 실시 예들에 대해서 특정한 구조적 내지 기능적 설명들은 단지 본 발명에 따른 실시 예를 설명하기 위한 목적으로 예시된 것으로, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는 것이 바람직하다.Like reference numerals in the drawings denote like elements. In addition, specific structural to functional descriptions of one embodiment of the present invention are only illustrated for the purpose of describing the embodiment according to the present invention, and unless otherwise defined, all terms used herein including technical or scientific terms are used. The terms have the same meaning as commonly understood by one of ordinary skill in the art. Terms such as those defined in the commonly used dictionaries should be construed as having meanings consistent with the meanings in the context of the related art, and shall not be construed in ideal or excessively formal meanings unless expressly defined herein. It is preferable not to.
이하 본 발명의 일 실시 예에 따른 위험상황 안전관리 시스템(1000)에 대해 설명하기로 한다.Hereinafter, a risk situation
도 1은 본 발명의 일 실시 예에 따른 위험상황 안전관리 시스템의 구성도이다.1 is a block diagram of a risk situation safety management system according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시 예에 따른 위험지역 안전관리 시스템(1000)은, 위험지역 안전관리 장치(100), 서버(200), 카메라(300) 및 제어 대상장치(400) 및 네트워크(500)를 포함한다.Referring to FIG. 1, the hazardous area
위험지역 안전관리 장치(100)는 카메라(300)를 통해 획득된 실영상 및 열화상을 이용하여 사용자의 위험상황을 추론하는 역할을 한다. 단계적으로 위험지역 안전관리 장치(100)는 실영상을 이용하여 대상체의 움직임을 검출하고, 열화상을 이용하여 대상체의 온도분포를 검출한다. 그리고 위험지역 안전관리 장치(100)는 검출 결과를 이용하여 관심영역의 존재를 확인하고, 관심영역을 분석해서 위험상황의 존재를 확인하는 역할을 한다.The dangerous area
서버(200)는 그 종류로서 위험지역 안전관리 장치(100)에 의해 수집된 데이터를 저장하는 데이터 서버, 인공지능 활용을 위한 API, 인공지능 모델의 생성 및 학습을 위한 서버 및 위험지역 안전관리를 위한 관제 서버를 포함한다.The
데이터 서버(200)는 카메라(300)를 통해 획득한 로우 데이터 및 위험지역 안전관리 장치(100)에 의해 가공된 데이터를 저장한다. 저장된 데이터는 위험지역 안전관리 장치(100)에 의해 수행되는 관심영역 검출에 사용될 수 있다. 즉 위험지역 안전관리 장치(100)는 각 해당 구역, 예를 들어 각종 제어 대상장치(400)가 구비된 작업 현장에서 촬영되어서 저장된 누적 데이터를 이용하여 대상체의 움직임을 검출하거나 온도분포를 검출할 수 있다.The
인공지능을 위한 서버(200)는 인공지능 알고리즘에 관한 API를 제공한다. 또한 인공지능을 위한 서버(200)는 위험상황을 판단하는 인공지능 모델을 생성할 수 있다. 생성된 모델은 위험상황 학습모듈(151)에 의해 저장된 데이터를 이용하여 학습된다.The
관제 서버(200)는 각종 설비에 설치된 위험지역 안전관리 장치(100)를 통합하여 관리하고 위험상황을 감시하는 역할을 한다. 그리고 위험지역 안전관리 장치(100)를 통해 수신한 정보를 이용하여 위험상황 발생을 인식하고, 네트워크에 연결된 다른 단말 특히 사용자 단말에 위험상황을 알리는 역할을 한다.The
카메라(300)는 그 종류로서 실화상 카메라(310)와 열화상 카메라(320)를 포함한다. 실화상 카메라(310)는 가시광선 파장 영역의 빛을 이용하여 실영상을 획득한다. 그리고 열화상 카메라(320)는 적외선 파장 영역의 빛을 이용하여 열화상을 획득한다. 여기서, 카메라(300)를 통해 획득된 실영상 및 열화상은 네트워크를 통해서 위험지역 안전관리 장치(100)로 전송되거나, 직접 연결된 영상 데이터 전송 케이블을 통해 위험지역 안전관리 장치(1000)로 전송될 수 있다.The
카메라(300)는 대상체의 움직임을 포착할 수 있는 위치에 복수 개로 설치될 수 있다. 예를 들어 대상체 중에서 모터 동력에 의해 일정 직선 궤적을 왕복 운동하는 절단 수단이 구비된 기계가 포함되어 있는 경우를 생각해 보자. 이 경우에 카메라(300)는 상기 직선 궤적과 직각을 이루는 방향에서 상기 왕복 운동을 영상 내에서 수평 방향 운동으로 표시할 수 있다. 또한 상기 직선 궤적이 점으로 표시되는 방향에서 상기 절단 수단과 인간의 모습이 서로 중첩되는 모습을 감지하기 위해, 카메라(300)는 상기 직선 궤적이 점으로 표시되는 방향에서 상기 점에 대향하여 추가적으로 설치될 수도 있다.The
위험상황 추론 결과의 통계에 기반하여 카메라(300)가 설치되는 위치 및 장소는 변경될 수 있다. 즉, 움직임 검출과 온도 분포 검출에 기반하여 관심영역이 검출되고 관심영역이 위험상황으로 판단되는 과정에서 실제의 위험이 감지되지 못하는 경우에, 기존에 설치된 카메라(300)의 위치는 새로운 위치 및 방향으로 변경될 수 있다.The location and place where the
제어 대상장치(400)는 사용자와의 관계에서 위험상황을 연출할 수 있는 전자 및 기계장치를 의미한다. 예를 들어, 제어 대상장치(400)는 그 종류로서, PLC 시스템, 각종 공작기계 및 PLC에 연결된 부속장치를 포함한다. 그리고 제어 대상장치(400)는 모터 또는 엔진 등의 동력원을 포함하고 이러한 동력원에 따라 왕복운동, 회전운동, 관절운동을 하면서 정형적인 궤적의 움직임을 보이는 것이 특징이다.The
제어 대상장치(400)는 위험지역 관리장치(100)와 제어명령을 전송하는 전용의 케이블을 통해 연결되거나 네트워크를 통해 연결될 수 있다. 네트워크를 통해 위험지역 관리장치(100)와 연결되는 제어 대상장치(400)는 임베디드 시스템으로서 연산장치 및 통신장치와 이들을 구동하는 소프트웨어로서의 OS를 포함한다.The
네트워크(500)는 유선 및 무선 네트워크, 예를 들어 인터넷(internet), 인트라넷(intranet) 및 엑스트라넷(extranet), 셀룰러, 예를 들어 무선 전화 네트워크, LAN(local area network), WAN(wide area network), WiFi 네트워크, 애드혹 네트워크 및 이들의 조합을 비롯한 임의의 적절한 통신 네트워크 일 수 있다.
네트워크(500)는 허브, 브리지, 라우터, 스위치 및 게이트웨이와 같은 네트워크 요소들의 연결을 포함할 수 있다. 네트워크(500)는 인터넷과 같은 공용 네트워크 및 안전한 기업 사설 네트워크와 같은 사설 네트워크를 비롯한 하나 이상의 연결된 네트워크들, 예컨대 다중 네트워크 환경을 포함할 수 있다. 네트워크(500)에의 액세스는 하나 이상의 유선 또는 무선 액세스 네트워크들을 통해 제공될 수 있다.
도 2는 본 발명의 일 실시 예에 따른 위험지역 안전관리 장치의 블록도이다.2 is a block diagram of a danger zone safety management apparatus according to an embodiment of the present invention.
도 2를 참조하면, 위험지역 안전관리 장치(100)는 카메라 제어부(110), 데이터 검출부(120), 데이터 전처리부(130), 관심영역 검출부(140), 인공지능 상황판단부(150), 및 위험상황 처리부(160)를 포함한다.Referring to FIG. 2, the danger zone
카메라 제어부(110)는 서로 동일한 영역이 촬영되도록 카메라의 동작 제어를 통해 실영상 카메라와 열화상 카메라가 촬영하는 영역을 조정하는 역할을 한다. 구체적으로 카메라 제어부(110)는 카메라의 줌인 및 줌아웃 동작을 제어하거나 카메라의 회전 정도를 제어하여 촬영각 및 촛점을 제어할 수 있다. 궁극적으로 카메라 제어부(110)는 실영상을 획득하는 카메라(110)와 열화상을 획득하는 카메라(120)를 동기화하여 제어하는 것을 특징으로 한다. 따라서, 동기화된 실영상 카메라(110)와 열화상 카메라(120)는 동일한 영역 및 동일한 피사체가 촬영된 영상을 획득한다.The camera controller 110 adjusts an area photographed by the real image camera and the thermal image camera through the operation control of the camera so that the same area is captured. In detail, the camera controller 110 may control the zoom-in and zoom-out operations of the camera, or control the photographing angle and focus by controlling the degree of rotation of the camera. Ultimately, the camera controller 110 may synchronize and control the camera 110 acquiring the real image and the camera 120 acquiring the thermal image. Accordingly, the synchronized real image camera 110 and the thermal image camera 120 acquire images of the same region and the same subject.
데이터 검출부(120)는 움직임 검출모듈(121) 및 온도 검출모듈(122)을 포함한다.The data detector 120 includes a motion detection module 121 and a temperature detection module 122.
움직임 검출모듈(121)은 카메라를 통해 획득된 실영상을 이용하여 대상체의 움직임을 검출하는 역할을 한다.The motion detection module 121 detects the movement of the object by using the real image acquired through the camera.
특히 움직임 검출모듈(121)은, 획득된 영상의 인접한 프레임 간의 밝기 데이터의 차이 값을 이용하여 대상체의 움직임을 검출하는 것을 특징으로 한다.In particular, the motion detection module 121 detects the movement of the object using a difference value of brightness data between adjacent frames of the acquired image.
구체적으로 움직임 검출모듈(121)은, 실영상에 분포되어 있는 픽셀의 밝기 값을 이용하여 움직이는 대상체의 윤곽을 이루는 특징점을 추출하고, 인접한 프레임 마다 이러한 특징점의 변화를 감지하여 대상체의 움직임을 검출한다. 그리고 움직임 검출모듈(121)은 픽셀의 밝기 값의 차이를 이용하여 상태 변화를 인식하고, 누적 데이터를 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 한다.In detail, the motion detection module 121 extracts feature points that form a contour of the moving object by using brightness values of pixels distributed in the real image, and detects the movement of the object by detecting the change of these feature points in adjacent frames. . The motion detection module 121 recognizes the state change by using the difference in the brightness value of the pixel, and reduces the detection error rate by separating the object and the background operating according to the state change by using the accumulated data.
여기서, 대상체는 인간과 기계를 포함하는 개념이다. 그리고 위험상황이란 대상체를 구성하는 인간과 기계의 관계에서 인간이 기계에 의해 침해를 받을 수 있는 상황을 말한다. 예를 들어 기계의 동작 범위와 인간의 동작 범위가 미리 설정되어 있고, 각각의 범위에서 기계와 인간의 위치가 동일 시각에 서로 중첩하거나 서로의 위치가 한계 범위를 넘어 근접하는 상황은 위험상황에 속한다.Here, the object is a concept including a human and a machine. In addition, the risk situation refers to a situation in which a human being can be infringed by a machine in the relationship between the human body and the machine that constitutes the object. For example, the operating range of the machine and the human operating range are set in advance, and in each range, the situation where the machine and the human position overlap with each other at the same time or the position of each other is beyond the limit range is a dangerous situation. .
위험상환 판단의 기초를 위해 움직임 검출모듈(121)은 대상체 중에서 기계와 인간의 움직임을 검출하는 역할을 한다. 대상체 중에서 기계는 일정 시각을 주기로 일정 범위를 반복적으로 움직이는 것을 특징으로 한다. 따라서 움직임 검출모듈(121)은 주기 및 이동 범위에 기초하여 상대적으로 높은 인식률에 따라 기계의 움직임을 검출할 수 있다. 반면에 인간의 움직임은 일정 범위를 벗어나는 경우가 있을 수 있다.The motion detection module 121 detects motion of the machine and the human among the objects for the basis of the risk repayment determination. Among the subjects, the machine is characterized by repeatedly moving a certain range at a predetermined time interval. Therefore, the motion detection module 121 may detect the motion of the machine according to a relatively high recognition rate based on the period and the movement range. On the other hand, human movement may be out of range.
움직임 검출모듈(121)은 획득한 영상을 구성하는 인접한 프레임을 서로 비교하여 움직이는 인간을 감지하는 역할을 한다. 예를 들어 인접한 프레임 간의 밝기를 비교하여 밝기 값의 차이를 보이는 픽셀을 인간의 형상으로 파악하여 인간의 움직임을 감지한다. 그리고 프레임 간의 비교에서 변하지 않는 밝기 값을 갖는 픽셀을 배경으로 취급할 수 있다.The motion detection module 121 compares adjacent frames constituting the acquired image with each other to detect a moving human. For example, by comparing the brightness between adjacent frames, human pixels are detected by identifying the pixels with different brightness values as human shapes. A pixel having a brightness value that does not change in a comparison between frames may be treated as a background.
온도 검출모듈(122)은 열화상을 이용하여 대상체의 온도분포를 검출하는 역할을 한다. 대상체는 기계와 인간을 포함하므로 대상체의 온도분포는 기계와 인간의 온도분포 특성을 잘 나타낸다. 예를 들어, 인간의 온도분포는 체온의 변화 범위와 일치하는 것이 특징이다. 그리고 기계의 온도분포는 가동 시간 및 실내 공기의 온도에 따라 시간에 따라 상향 변화하는 것이 특징이다. 특히, 기계 내에서는 엔진 및 모터와 같이 연료 또는 전력의 소비에 따라 온도가 올라가는 파트가 있을 수 있으며, 온도 검출모듈은 기계의 특성 및 운전 시간을 고려하여 대상체 기계의 온도분포를 검출할 수 있다.The temperature detection module 122 detects the temperature distribution of the object by using the thermal image. Since the subject includes a machine and a human, the temperature distribution of the subject well represents the temperature distribution characteristics of the machine and the human. For example, the temperature distribution in humans is characterized by a consistent range of body temperature changes. And the temperature distribution of the machine is characterized by a change up with time according to the operating time and the temperature of the room air. In particular, there may be a part in which the temperature rises according to the consumption of fuel or power, such as an engine and a motor, and the temperature detection module may detect the temperature distribution of the target machine in consideration of the characteristics of the machine and the operation time.
온도 검출모듈(122)은, 대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 한다.The temperature detection module 122 may detect a region that satisfies the temperature distribution of the object in the thermal image based on the temperature distribution according to the temperature profile of the object.
데이터 전처리부(130)는 상기 실영상과 열화상에서 추출된 특징점의 좌표를 선택하고, 각 좌표에서 두 좌표의 오프셋(offset) 값을 비교하여 실영상 데이터와 열화상 데이터를 매칭하는 역할을 한다. 데이터 전처리부(130)는 관심영역 검출부(140)가 관심영역을 검출하는데 도움을 주기 위해 실영상 데이터와 열화상 데이터를 가공하는 역할을 한다. 하나의 실시 예로서 데이터 전처리부(130)는 서로 다른 파라미터 값, 예를 들어 해상도, 영상의 크기, 영상의 밝기를 갖는 실영상과 열화상의 파라미터를 서로 일치시켜 보정하고 실영상과 열화상의 픽셀을 서로 매칭할 수 있다. 관심영역 검출부(140)는 매칭된 새로운 영상에 기초하거나, 매칭되지 않은 실영상과 열화상에 기초하여 관심영역을 검출하는 것을 특징으로 한다.The data preprocessor 130 selects coordinates of the feature points extracted from the real image and the thermal image, and compares the offset values of the two coordinates in each coordinate to match the real image data and the thermal image data. The data preprocessor 130 processes the real image data and the thermal image data to help the ROI detector 140 detect the ROI. In one embodiment, the data preprocessor 130 corrects a real image having a different parameter value, for example, a resolution, a size of an image, a brightness of an image by matching parameters of a real image and a thermal image, and corrects the pixels of the real image and the thermal image. Can match each other. The region of interest detector 140 may detect the region of interest based on the new image matched or based on the unmatched real image and the thermal image.
관심영역 검출부(140)는 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도분포를 이용하여 관심영역을 검출하는 역할을 한다. 즉, 관심영역이란 획득한 전체 영상에서 실영상에 의한 움직임 정보에 기초하여 대상체의 움직임이 나타나는 영역 및 열화상에 의한 대상체의 온도분포가 나타나는 영역을 말한다. 여기서, 관심영역 검출부는 대상체의 움직임 정보와 온도분포를 이용하여 대상체 중에서 인간과 기계의 영역을 서로 구별하여 검출할 수 있다.The ROI detector 140 detects an ROI by using motion information of a real image and a temperature distribution of the thermal image. That is, the region of interest refers to a region in which the movement of the object appears and a region in which the temperature distribution of the object appears by the thermal image based on the motion information of the real image in the obtained entire image. Here, the ROI detector may distinguish the human and machine regions from the object by using the motion information and the temperature distribution of the object.
구체적으로 관심영역 검출부(140)는 움직임 검출 결과를 이용하여 전체 영상에서 대상체로 예상되는 영역을 필터링하여 추출하고, 추출된 영역에 움직임 검출 결과를 적용하여 AND 조건에 해당하는 영역을 관심영역으로 검출한다. 또는 관심영역 검출부(140)는 움직임 검출 결과를 이용하여 움직이는 대상체를 추적 및 추출하고, 온도분포 결과를 이용하여 추출한 영역이 대상체 영역이 맞는지 검증을 통해 관심영역을 검출한다. 위 방법 중에서 어느 경우이든 실영상 전체 영역에 대해서 인접한 프레임 간의 비교를 할 필요가 없고, 전체 영역에서 대상체로 예상되는 영역에 대해서만 프레임 간의 비교를 하므로 연산량을 현격히 줄일 수 있는 것이 특징이다.In detail, the ROI detecting unit 140 detects an area corresponding to an AND condition as an ROI by filtering and extracting an area predicted as an object from the entire image using the motion detection result, and applying a motion detection result to the extracted area. do. Alternatively, the ROI detector 140 may track and extract the moving object by using the motion detection result, and detect the ROI by verifying whether the extracted region is the object area by using the temperature distribution result. In any of the above methods, it is not necessary to compare the adjacent frames with respect to the entire real image area, and the computation amount can be significantly reduced since the comparison between the frames is only performed with respect to the area expected as the object in the entire area.
인공지능 상황판단부(150)는 인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재를 확인하는 역할을 한다. 전술하였듯이 위험상황 여부는 대상체의 상호 위치에 의해 감지될 수 있다.The artificial intelligence situation determination unit 150 serves to confirm the existence of a dangerous situation through analysis of the ROI using artificial intelligence. As described above, the risk situation may be detected by the mutual position of the subjects.
인공지능 상황판단부(150)는 그 구성요소로서 위험상황 학습모듈(151) 및 위험상황 판단모듈(152)를 포함할 수 있다. 구체적으로 위험상황 학습모듈(151)은 서버(200)에 의해 수행되는 학습 모델 생성 및 학습화 과정을 제어할 수 있다. 위험상황 판단모듈(152)은 학습된 모델을 이용하여 관심영역에서 감지될 수 있는 위험상황을 추론하는 역할을 한다.The artificial intelligence situation determination unit 150 may include a risk situation learning module 151 and a risk situation determination module 152 as its components. In more detail, the risk learning module 151 may control a learning model generation and learning process performed by the
먼저, 위험상황을 나타내는 영상 데이터가 준비된다. 영상 데이터는 서로 다른 구성의 설비마다 설비의 특징을 반영하여 구비된다. 그리고 위험상황을 나타내는 영상 데이터는 위험의 정도에 따라 등급을 나누어 구비될 수 있다.First, video data indicating a dangerous situation is prepared. Image data is provided reflecting the characteristics of the facilities for each facility of different configurations. In addition, the image data representing the danger situation may be provided by dividing the grade according to the degree of danger.
학습용 데이터에는 위험상황에서의 대상체의 위치가 묘사되어 있는데, 특히 대상체 중에서 기계의 전형적인 움직임과 인간의 일탈적인 움직임이 묘사될 수 있다. 위험상황 학습모듈(151)은 시간 개념을 고려하여 미래에 발생할 수 있는 대상체 간의 충돌을 예고하는 학습용 영상 데이터를 이용하여 위험상황임을 학습할 수 있고, 위험상황의 정도에 따라 미리 설정된 위험의 등급에 관해 학습할 수 있다.The training data depicts the position of the subject at risk, particularly the typical movement of the machine and the deviant movement of the human. The risk situation learning module 151 may learn a risk situation using learning image data for predicting a collision between objects that may occur in the future in consideration of the concept of time, and may be set to a predetermined level of risk according to the degree of risk situation. Learn about
위험상황 판단모듈(152)은 위험상황 학습모듈을 통해 학습된 모델을 이용하여 실전용 데이터에 대해 위험상황을 추론하는 역할을 한다. 여기서, 위험상황 추론에는 위험의 정도를 등급에 따라 분류하는 것이 포함된다.The risk situation determination module 152 serves to infer a risk situation with respect to actual data using a model learned through the risk situation learning module. In this context, risk inference involves classifying the degree of risk.
그 밖에, 위험상황에는 대상체의 상호 충돌뿐만 아니라 대상체 중에서 기계의 발열 파트의 온도 변화에 따른 열적 위험상황이 포함될 수 있다. 예를 들어, 기계 과열에 의한 화재 위험이 위험상황 판단모듈(152)에 의해 추론될 수 있다.In addition, the dangerous situation may include not only mutual collisions of the subjects, but also thermal hazards according to temperature changes of the heat generating parts of the machine among the subjects. For example, the risk of fire due to overheating of the machine may be inferred by the dangerous situation determination module 152.
인공지능 상황판단부(150)는, 인공지능 알고리즘을 이용하여 기계와 이를 조작하는 인간이 연출할 수 있는 대상체에 관한 위험한 상황에 대해 학습하고, 상기 학습에 따라 관심영역 내의 대상체가 처한 위험상황을 추론하는 것을 특징으로 한다.The artificial intelligence situation determination unit 150 learns a dangerous situation about a machine and an object that can be produced by a human who manipulates it using an artificial intelligence algorithm, and infers a dangerous situation of an object in the region of interest according to the learning. Characterized in that.
위험상황 처리부(160)는 대상체 중에서 인간과 기계와의 관계에서 인간이 위험상황을 벗어나도록 하기 위해 기계의 동작 중단을 위해 기계를 제어하는 역할을 한다. 위험상황 처리부(160)는 제어 대상장치(400)와 위험지역 관리장치(100)의 연결되는 방식에 따라 직접 연결된 케이블을 통해 제어명령을 전송하거나 네트워크를 통해 제어명령에 관한 패킷을 임베디드 시스템에 해당하는 제어 대상장치(400)에 전송할 수 있다.The dangerous
도 2에 도시된 위험지역 안전관리 장치(100)의 구성은 설명의 편의를 위해 기능적으로 구분한 구성으로, 하드웨어적으로는 하나의 프로세서에 의해 처리되는 논리적인 기능으로 구성될 수 있는 것으로, 제시된 구분에 의해 본 발명을 한정하는 것은 아니다.The configuration of the hazardous area
또한, 각 구성간의 연결 관계가 연결선으로 도시되어 있거나, 상호 간의 연결 관계가 일일이 표현되어 있지 않지만, 연결선이 도시되지 않은 구성 간에도 제어 또는 데이터 교환을 위한 통신, 전달이 발생될 수 있으며, 제시된 바에 의해서만 본 발명을 한정하는 것은 아니다.In addition, although the connection relationship between each configuration is shown as a connection line, or the connection relationship between each other is not expressed individually, communication or transmission for control or data exchange may occur even between the configurations in which the connection line is not shown, and only as shown. It does not limit the invention.
본 발명의 일 실시 예에 따른 위험지역 안전관리 장치(100)는 컴퓨팅 장치(600)에 해당될 수 있다. 이하 컴퓨팅 장치(600)에 해당하는 본 발명의 일 실시 예에 따른 위험지역 안전관리 장치(100)는 다른 실시 예를 통해 보다 구체적으로 설명될 수 있다.The danger zone
위험지역 안전관리 장치(100)는 하나 이상의 CPU(central processing unit)들, 메모리, 대용량 저장소, 입력 인터페이스 장치, 출력 인터페이스 장치로 구성된 컴퓨팅 시스템을 포함할 수 있다. 컴퓨팅 시스템의 요소들은 버스를 통해 서로 통신할 수 있다.The hazardous area
컴퓨팅 장치의 하드웨어 플랫폼은 개인용 컴퓨터, 핸드헬드 또는 랩톱 디바이스, 다중 프로세서 시스템, 마이크로프로세서 기반 시스템, 프로그램 가전제품, 및 이상의 시스템들 또는 디바이스들 중 임의의 것을 포함하는 분산 컴퓨팅 환경, 예컨대 클라우드 기반 컴퓨팅 시스템을 비롯한 많은 형태들로 구현될 수 있다.The hardware platform of the computing device may be a distributed computing environment, such as a cloud based computing system, including any of a personal computer, handheld or laptop device, a multiprocessor system, a microprocessor based system, a program appliance, and any of the above systems or devices. It can be implemented in many forms, including.
도 3은 컴퓨팅 장치에 해당하는 위험상황 안전관리 장치의 일 실시예에 따른 블록도이다.3 is a block diagram according to an exemplary embodiment of a risk situation safety management apparatus corresponding to a computing device.
도 3을 참조하면, 컴퓨팅 장치(600)는 입력 인터페이스 장치(610), 출력 인터페이스 장치(620), 메모리(631), 저장장치(632), 전원 장치(640), 프로세서(650), 네트워크 인터페이스 장치(660), 무선통신 장치(670) 및 버스(680)를 포함한다.Referring to FIG. 3, the
입력 인터페이스 장치(610)는 사용자의 입력에 따라 문자 또는 개체를 입력한다. 입력 인터페이스 장치(610)는 키보드(keyboard), 터치스크린(touch screen), 마우스(mouse), 전자펜(stylus pen) 및 펜 태블릿(pen tablet)을 포함하되, 이에 한정되는 것은 아니다.The
출력 인터페이스 장치(620)는 위험지역 안전관리를 위한 애플리케이션 모듈 관련 사용자 인터페이스 등을 표시하는 디스플레이(display) 및 프린트 출력하는 프린터(printer)를 포함한다. 또한, 출력 인터페이스 장치(620)는 문자를 음성합성(text to speech, TTS) 엔진을 이용하여 음성으로 출력하는 스피커(speaker), 헤드폰(head-phone) 및 헤드셋(head-set)을 포함한다.The
프로세서(650)는 메모리(631) 및/또는 저장 장치(632)에 저장된 본 발명의 일 실시 예에 따른 위험지역 안전관리를 위한 애플리케이션이 포함하고 있는 컴퓨터 명령어 셋을 실행할 수 있다. 프로세서(650)는 중앙 처리 장치(central processing unit, CPU), 그래픽 처리 장치(graphics processing unit, GPU) 또는 본 발명에 따른 방법들이 수행되는 전용의 프로세서를 의미할 수 있다. 메모리(631)와 저장 장치(632)는 휘발성 저장 매체 및/또는 비휘발성 저장 매체로 구성될 수 있다. 예를 들어, 메모리(631)는 읽기 전용 메모리(read only memory, ROM) 및/또는 랜덤 액세스 메모리(random access memory, RAM)로 구성될 수 있다.The
무선통신 장치(670)는 근거리 무선통신, 무선 데이터 통신 및 무선 음성 통신을 위한 장치를 포함한다.The
컴퓨팅 장치(600)에 포함된 각각의 구성 요소들은 버스(680)에 의해 연결되어 서로 통신을 수행한다.Each component included in the
이하 상기 설명한 위험지역 안전관리 장치(100)가 위험지역 안전관리를 위한 하드웨어 또는 애플리케이션 모듈에 포함된 컴퓨터 명령어 셋의 연산을 통해 실행하는 본 발명의 일 실시 예에 따른 위험지역 안전관리 방법에 대해 도 1, 도 2 및 도 4를 참조하여 설명하기로 한다.Hereinafter, a dangerous area safety management method according to an exemplary embodiment of the present invention executed by the dangerous area
본 발명의 일 실시 예에 따른 위험지역 안전관리 방법은 위험지역 안전관리 장치(100)에 의해 수행되는 것이 특징이며, 방법의 각 단계에서 위험지역 안전관리 장치(100)를 구성하는 각각의 구성요소가 역할을 수행하는 것을 특징으로 한다.The dangerous area safety management method according to an embodiment of the present invention is characterized by being performed by the dangerous area
도 4는 본 발명의 일 실시 예에 따른 위험지역 안전관리 방법의 흐름도이다.4 is a flowchart illustrating a method for safeguarding a danger zone according to an embodiment of the present invention.
도 4를 참조하면, 본 발명의 일 실시 예에 따른 위험지역 안전관리 방법(S100)은 S111 내지 S160 단계를 포함한다.4, the dangerous area safety management method (S100) according to an embodiment of the present invention includes steps S111 to S160.
선택적으로, 서로 동일한 영역이 촬영되도록 카메라의 동작 제어를 통해 실영상 카메라와 열화상 카메라가 촬영하는 영역을 조정하는 카메라 제어 단계가 선행될 수 있다.Optionally, a camera control step of adjusting an area photographed by the real image camera and the thermal imaging camera may be preceded by controlling the operation of the camera so that the same areas are captured.
먼저, 카메라를 통해 쵤영된 실영상 및 열화상 각각이 획득된다(S111, S112).First, each of the real image and the thermal image captured by the camera is obtained (S111, S112).
다음으로, 실영상을 이용하여 대상체의 움직임이 검출되고, 열화상을 이용하여 대상체의 온도분포가 검출된다(S121, S122).Next, the movement of the object is detected using the real image, and the temperature distribution of the object is detected using the thermal image (S121 and S122).
여기서, 상기 움직임을 검출하는 단계는, 획득된 영상의 인접한 프레임 간의 밝기 데이터의 차이 값을 이용하여 대상체의 움직임을 검출하는 것을 특징으로 한다.The detecting of the motion may include detecting a motion of the object using a difference value of brightness data between adjacent frames of the acquired image.
또한, 상기 움직임을 검출하는 단계는, 상기 밝기 데이터의 차이 값을 이용하여 상태 변화를 인식하고, 누적 데이터를 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 한다.The detecting of the motion may include detecting a state change by using a difference value of the brightness data and lowering a detection error rate by separating an object and a background operating according to the state change by using cumulative data. do.
또한, 상기 온도분포 검출 단계는, 대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 한다.The temperature distribution detecting step may include detecting a region satisfying the temperature distribution of the object in the thermal image, based on the temperature distribution according to the temperature profile of the object.
선택적으로, 상기 실영상과 열화상에서 추출된 특징점의 좌표를 선택하고, 각 좌표에서 두 좌표의 오프셋(offset) 값을 비교하여 실영상 데이터와 열화상 데이터를 정합하는 전처리 단계가 수행될 수 있다(S130).Optionally, a preprocessing step of selecting coordinates of the feature points extracted from the real image and the thermal image, matching the real image data and the thermal image data by comparing offset values of the two coordinates at each coordinate ( S130).
다음으로, 상기 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도분포를 이용하여 관심영역의 존재가 확인된다(S140).Next, the presence of the ROI is confirmed using the motion information of the real image and the temperature distribution of the thermal image (S140).
여기서, 상기 관심영역의 존재를 확인하는 단계는, 움직임 검출의 결과 데이터와 온도 검출의 결과 데이터를 이용하여 대상체가 포함된 관심영역을 검출하는 것을 특징으로 한다.The determining of the existence of the region of interest may include detecting the region of interest including the object using the result data of the motion detection and the result data of the temperature detection.
다음으로, 인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재가 확인된다(S150).Next, the existence of a risk situation is confirmed through analysis of the ROI using artificial intelligence (S150).
여기서, 상기 위험상황의 존재를 확인하는 단계는, 인공지능 알고리즘을 이용하여 기계와 이를 조작하는 인간이 연출할 수 있는 대상체에 관한 위험한 상황에 대해 학습하고, 상기 학습에 따라 관심영역 내의 대상체가 처한 위험상황을 추론하는 것을 특징으로 한다.Here, the step of confirming the existence of the danger situation, learning about a dangerous situation about a machine and an object that can be produced by a human manipulating the same by using an artificial intelligence algorithm, the risk of an object in the region of interest according to the learning It is characterized by inferring the situation.
최종적으로, 위험상황의 판단 결과에 기초하여 위험상황이 처리된다(S160).Finally, the risk situation is processed based on the determination result of the risk situation (S160).
상기 도면을 통해 설명된 일 실시 예에 따른 위험지역 안전관리 방법(S100)은, 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행이 가능한 명령어 셋을 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.The dangerous area safety management method (S100) according to an embodiment described with reference to the drawings may be implemented in the form of a recording medium including a command set executable by a computer, such as a program module executed by a computer. have. Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. In addition, computer readable media may include both computer storage media and communication media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data. Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
이와 같이 본 발명의 일 실시 예에 따르면, 기계를 조작하는 사용자가 처할 수 있는 위험한 상황을 영상을 통해 감시하고 이를 예방함으로써, 산업 설비 변화에 유연하고 위험 상황의 감시를 임의 해제시키는 것을 방지할 수 있다.As such, according to an embodiment of the present invention, by monitoring and preventing a dangerous situation that a user who operates a machine may face through the image, it is possible to prevent the release of the monitoring of the dangerous situation flexibly in response to industrial equipment changes. have.
또한, 위험상황을 실영상 및 열화상을 이용하고, 움직임과 온도분포에 기반하여 대상체를 검출함으로써 연산량과 오차율을 줄일 수 있다.In addition, it is possible to reduce the amount of computation and the error rate by using real images and thermal images for risk situations and detecting objects based on movement and temperature distribution.
또한, 인공지능 알고리즘을 이용하는 학습을 통해 훈련된 인공지능 모델을 통해 위험상황을 추론할 수 있다.In addition, the risk situation can be inferred from the AI model trained through the AI algorithm.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is intended for illustration, and it will be understood by those skilled in the art that the present invention may be easily modified in other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is shown by the following claims rather than the above description, and all changes or modifications derived from the meaning and scope of the claims and their equivalents should be construed as being included in the scope of the present invention. do.
100: 위험지역 안전관리 장치
110: 카메라 제어부
120: 데이터 검출부
121: 움직임 검출모듈
122: 온도 검출모듈
130: 데이터 전처리부
140: 관심영역 검출부
150: 인공지능 상황판단부
151: 위험상황 학습모듈
152: 위험상황 판단모듈
160: 위험상황 처리부100: hazardous area safety management device
110: camera control unit
120: data detector
121: motion detection module
122: temperature detection module
130: data preprocessing unit
140: region of interest detector
150: artificial intelligence situation determination unit
151: Risk Learning Module
152: risk assessment module
160: dangerous situation processing unit
Claims (10)
상기 실영상을 이용하여 대상체의 움직임을 검출하고, 상기 열화상을 이용하여 대상체의 온도 분포를 검출하는 단계;
상기 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도 분포 정보를 이용하여 관심영역의 존재를 확인하는 단계; 및
인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재를 확인하는 단계를 포함하며,
상기 대상체의 온도 분포를 검출하는 단계와 관심영역의 존재를 확인 하는 단계 사이에 상기 실영상 및 열화상에서 추출된 특징점 좌표의 오프셋(offset) 값을 이용하여 실영상 데이터 및 열화상 데이터 중에서 적어도 하나의 데이터를 보정함으로써 실영상 및 열화상의 픽셀을 서로 매칭시키는 전처리 단계를 더 포함하고,
상기 움직임을 검출하는 단계는,
획득된 실영상의 인접한 프레임 사이에서 밝기 값의 변화가 일어나는 픽셀들의 움직임을 이용하되,
동일한 대상체에 관해 과거에 저장된 다수의 데이터의 평균 값을 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 하는, 위험지역 안전관리 방법.Acquiring a real image and a thermal image through a camera;
Detecting a movement of an object using the real image and detecting a temperature distribution of the object using the thermal image;
Confirming the existence of the ROI by using the motion information of the real image and the temperature distribution information of the thermal image; And
Confirming the existence of a risk situation by analyzing the ROI using artificial intelligence,
At least one of real image data and thermal image data using an offset value of feature point coordinates extracted from the real image and the thermal image between detecting the temperature distribution of the object and confirming the existence of the ROI. A preprocessing step of matching the pixels of the real image and the thermal image to each other by correcting the data,
Detecting the movement,
By using the movement of the pixels that change the brightness value between adjacent frames of the acquired real image,
Using the average value of a plurality of data stored in the past with respect to the same object, it is characterized in that the detection error rate is lowered by separating the background and the object operating in accordance with the change of state, dangerous area safety management method.
상기 온도 분포 검출 단계는,
대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 하는, 위험지역 안전관리 방법.The method according to claim 1,
The temperature distribution detection step,
On the basis of the temperature distribution according to the temperature profile of the object, the risk area safety management method, characterized in that for detecting a region satisfying the temperature distribution of the object.
상기 관심영역의 존재를 확인하는 단계는,
움직임 검출의 결과 데이터와 온도 분포 검출의 결과 데이터를 이용하여 서로 매칭하는 실영상과 열화상에서 대상체가 차지하는 관심영역을 검출하는 것을 특징으로 하는, 위험지역 안전관리 방법.The method according to claim 4,
Confirming the existence of the region of interest,
And detecting a region of interest occupied by the object in the real image and the thermal image that match each other using the result data of the motion detection and the result data of the temperature distribution detection.
상기 실영상에 의한 움직임 정보와 상기 열화상에 의한 온도 분포 정보를 이용하여 관심영역의 존재를 확인하는 관심영역 검출부; 및
인공 지능을 이용한 상기 관심영역의 분석을 통해 위험상황의 존재를 확인하는 인공 지능 상황판단부를 포함하하며,
상기 실영상 및 열화상에서 추출된 특징점 좌표의 오프셋(offset) 값을 이용하여 실영상 데이터 및 열화상 데이터 중에서 적어도 하나의 데이터를 보정함으로써 실영상 및 열화상의 픽셀을 서로 매칭시키는 데이터 전처리부를 더 포함하고,
상기 움직임 검출모듈은,
획득된 실영상의 인접한 프레임 사이에서 밝기 값의 변화가 일어나는 픽셀들의 움직임을 이용하되,
동일한 대상체에 관해 과거의 저장된 다수의 데이터의 평균 값을 이용하여 상태 변화에 따라 동작하는 대상체와 배경의 분리를 통해 검출 에러율을 낮추는 것을 특징으로 하는, 위험지역 안전관리 장치.A motion detection module that detects the movement of the object by using the real image acquired through the camera, and a temperature detection module that detects the temperature distribution of the object by using the thermal image;
A region of interest detector configured to confirm the presence of the region of interest using motion information of the real image and temperature distribution information of the thermal image; And
Including an artificial intelligence situation determination unit for confirming the existence of a risk situation through the analysis of the region of interest using artificial intelligence,
And a data preprocessor configured to match pixels of the real image and the thermal image by correcting at least one of the real image data and the thermal image data by using an offset value of the feature point coordinates extracted from the real image and the thermal image. ,
The motion detection module,
By using the movement of the pixels that change the brightness value between adjacent frames of the acquired real image,
Using a mean value of a plurality of data stored in the past with respect to the same object, it is characterized in that the detection error rate is lowered by separating the object and the background operating in accordance with the change of state, dangerous area safety management device.
상기 온도 검출모듈은,
대상체의 온도 프로파일에 따른 온도 분포에 기반하여, 열화상 내에서 대상체의 온도 분포를 만족하는 영역을 검출하는 것을 특징으로 하는, 위험지역 안전관리 장치.The method according to claim 6,
The temperature detection module,
On the basis of the temperature distribution according to the temperature profile of the object, the danger zone safety management device, characterized in that for detecting a region satisfying the temperature distribution of the object in the thermal image.
상기 관심영역 검출부는,
움직임 검출의 결과 데이터와 온도 검출의 결과 데이터를 이용하여 서로 매칭하는 실영상과 열화상에서 대상체가 차지하는 관심영역을 검출하는 것을 특징으로 하는, 위험지역 안전관리 장치.The method according to claim 9,
The region of interest detection unit,
And a region of interest occupied by the object in the real image and the thermal image matched with each other using the result data of the motion detection and the result data of the temperature detection.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180128755A KR102085168B1 (en) | 2018-10-26 | 2018-10-26 | Method and apparatus for managing safety in dangerous zone based on motion tracking |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180128755A KR102085168B1 (en) | 2018-10-26 | 2018-10-26 | Method and apparatus for managing safety in dangerous zone based on motion tracking |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102085168B1 true KR102085168B1 (en) | 2020-03-04 |
Family
ID=69783433
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180128755A KR102085168B1 (en) | 2018-10-26 | 2018-10-26 | Method and apparatus for managing safety in dangerous zone based on motion tracking |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102085168B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210117697A (en) | 2020-03-20 | 2021-09-29 | 하청일 | AI-based risk notification system for infectious disease |
KR20230054957A (en) * | 2021-10-18 | 2023-04-25 | 라온피플 주식회사 | Apparatus and method for detecting abnormal object |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009545789A (en) * | 2006-08-02 | 2009-12-24 | ピルツ ゲーエムベーハー アンド コー.カーゲー | How to observe a human in an industrial environment |
KR20100138202A (en) * | 2009-06-24 | 2010-12-31 | 전자부품연구원 | System and method of tracking object using different kind camera |
KR20160059105A (en) * | 2014-11-17 | 2016-05-26 | (주)익스트리플 | Safety administration system for industries |
KR20160073490A (en) * | 2014-12-16 | 2016-06-27 | 연세대학교 산학협력단 | System for assessment of safety level at construction site based on computer vision |
KR20160081735A (en) * | 2014-12-31 | 2016-07-08 | 주식회사 포스코아이씨티 | Worker Behavior Based Safety Management System and Method |
KR101852284B1 (en) | 2015-10-28 | 2018-04-25 | 시아오미 아이엔씨. | Alarming method and device |
-
2018
- 2018-10-26 KR KR1020180128755A patent/KR102085168B1/en active IP Right Grant
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009545789A (en) * | 2006-08-02 | 2009-12-24 | ピルツ ゲーエムベーハー アンド コー.カーゲー | How to observe a human in an industrial environment |
KR20100138202A (en) * | 2009-06-24 | 2010-12-31 | 전자부품연구원 | System and method of tracking object using different kind camera |
KR20160059105A (en) * | 2014-11-17 | 2016-05-26 | (주)익스트리플 | Safety administration system for industries |
KR20160073490A (en) * | 2014-12-16 | 2016-06-27 | 연세대학교 산학협력단 | System for assessment of safety level at construction site based on computer vision |
KR20160081735A (en) * | 2014-12-31 | 2016-07-08 | 주식회사 포스코아이씨티 | Worker Behavior Based Safety Management System and Method |
KR101852284B1 (en) | 2015-10-28 | 2018-04-25 | 시아오미 아이엔씨. | Alarming method and device |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210117697A (en) | 2020-03-20 | 2021-09-29 | 하청일 | AI-based risk notification system for infectious disease |
KR20230054957A (en) * | 2021-10-18 | 2023-04-25 | 라온피플 주식회사 | Apparatus and method for detecting abnormal object |
KR102640565B1 (en) * | 2021-10-18 | 2024-02-27 | 라온피플 주식회사 | Apparatus and method for detecting abnormal object |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110494861B (en) | Image-based anomaly detection method and system | |
KR102219598B1 (en) | Fire monitoring system for field equipment | |
KR102093477B1 (en) | Method and apparatus for managing safety in dangerous zone based on different kind camera | |
EP2798840B1 (en) | Visual command processing | |
JP6900918B2 (en) | Learning device and learning method | |
US12094252B2 (en) | Occlusion-aware prediction of human behavior | |
KR102315371B1 (en) | Smart cctv control and warning system | |
JP7282186B2 (en) | situational awareness surveillance | |
KR102085168B1 (en) | Method and apparatus for managing safety in dangerous zone based on motion tracking | |
CN110288801A (en) | Electric field video monitoring method, device, computer equipment and storage medium | |
KR20220077404A (en) | Method and System for Implementation of Multi-level On-site Safety Control of Worker Safety | |
CN117711131A (en) | Constructor warning protection system based on gesture danger analysis | |
Aleksandrovich et al. | Machine vision system for assessment of firing process parameters in rotary kiln | |
US10789472B1 (en) | Multiple image processing and sensor targeting for object detection | |
KR20230097854A (en) | Method and system for recognizing dangerous behavior of workers in power plant | |
JP6897593B2 (en) | Learning target device and operation method | |
EP3885972A1 (en) | Context based perception method and system for managing environmental safety in a computing environment | |
KR102081577B1 (en) | Intelligence Fire Detecting System Using CCTV | |
KR102658563B1 (en) | Apparatus for monitoring video, apparatus for analyzing video and learning methods thereof | |
TWM608616U (en) | Intelligent image security identification system | |
WO2023112214A1 (en) | Video-of-interest detection device, method, and program | |
KR101977626B1 (en) | CCTV camera maintenance and correction system, and computer-readable recording medium with providing CCTV camera maintenance and correction program | |
KR102641536B1 (en) | Cloud-edge platform | |
KR102616789B1 (en) | Industrial smart safety lighting system with intelligent hazard awareness | |
WO2022018902A1 (en) | Object detection apparatus, system, and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |