[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2013159930A - Periphery monitoring device - Google Patents

Periphery monitoring device Download PDF

Info

Publication number
JP2013159930A
JP2013159930A JP2012021275A JP2012021275A JP2013159930A JP 2013159930 A JP2013159930 A JP 2013159930A JP 2012021275 A JP2012021275 A JP 2012021275A JP 2012021275 A JP2012021275 A JP 2012021275A JP 2013159930 A JP2013159930 A JP 2013159930A
Authority
JP
Japan
Prior art keywords
warning
marker
monitoring
restriction target
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012021275A
Other languages
Japanese (ja)
Other versions
JP5755578B2 (en
Inventor
Yoshinaga Kiyota
芳永 清田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Ltd
Original Assignee
Sumitomo Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Ltd filed Critical Sumitomo Heavy Industries Ltd
Priority to JP2012021275A priority Critical patent/JP5755578B2/en
Publication of JP2013159930A publication Critical patent/JP2013159930A/en
Application granted granted Critical
Publication of JP5755578B2 publication Critical patent/JP5755578B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a periphery monitoring device capable of changing an output form of an alarm between the case that a specific object approaches a work machine and the case that an object other than that approaches the work machine.SOLUTION: A peripheral monitoring device 100 for monitoring the periphery of a shovel 50 includes: an alarm limitation object propriety determination part 202 for determining whether or not an object inside a monitoring area A1 is an alarm limitation object, on the basis of a detection result of an object detector 25 which detects an object inside the monitoring area A1 set around the shovel 50 and a marker image corresponding to a marker MK1 on a work site inside a peripheral image captured by an imaging device 24; and an alarm output control part 203 for controlling the output form of the alarm corresponding to whether or not the object inside the monitoring area A1 is the alarm limitation object.

Description

本発明は、作業機械の周囲を監視する周囲監視装置に関し、特に、作業機械と物体とが接近した場合に警告を出力する周囲監視装置に関する。   The present invention relates to a surrounding monitoring device that monitors the surroundings of a work machine, and more particularly, to a surrounding monitoring device that outputs a warning when a working machine and an object approach each other.

従来、建設機械の周囲に設定された監視領域内に障害物が入った場合に警報を発し、且つ、障害物が建設機械に接触した場合に建設機械を停止させる監視装置が知られている(例えば、特許文献1参照。)。   Conventionally, a monitoring device that issues an alarm when an obstacle enters a monitoring area set around the construction machine and stops the construction machine when the obstacle comes into contact with the construction machine is known ( For example, see Patent Document 1.)

また、作業機械の周囲の障害物が静止障害物であるか移動障害物であるかを判定し、静止障害物に対応する画像と移動障害物に対応する画像とを異なる形態で表示用モニタに表示する周囲監視装置が知られている(例えば、特許文献2参照。)。この周囲監視装置は、作業機械の周囲に設定された警報範囲内に移動障害物が入った場合に警報を発するように構成されている。   Also, it is determined whether the obstacle around the work machine is a stationary obstacle or a moving obstacle, and the image corresponding to the stationary obstacle and the image corresponding to the moving obstacle are displayed in different forms on the display monitor. A surrounding monitoring device for displaying is known (for example, see Patent Document 2). This surrounding monitoring apparatus is configured to issue an alarm when a moving obstacle enters within an alarm range set around the work machine.

特開平9−158258号公報JP-A-9-158258 特開2008−163719号公報JP 2008-163719 A

しかしながら、特許文献1の監視装置は、障害物がどのようなものであっても、監視領域内に入りさえすれば警報を発してしまう。   However, the monitoring device of Patent Document 1 issues an alarm as long as it enters the monitoring area, regardless of the obstacles.

同様に、特許文献2の周囲監視装置は、警報範囲内に移動障害物が入った場合には、移動障害物がどのようなものであったとしても、警報範囲内に入りさえすれば警報を発してしまう。   Similarly, the surroundings monitoring device disclosed in Patent Document 2 is configured so that when a moving obstacle enters the alarm range, the alarm is only required if the moving obstacle enters the alarm range. It will be emitted.

このように、特許文献1及び2に記載の装置は何れも、操作者が障害物の存在を既に知っていたとしてもその障害物が接近すれば常に警報を発してしまい、操作者に煩わしさを感じさせてしまう。   As described above, both of the devices described in Patent Documents 1 and 2 always issue an alarm if the obstacle approaches even if the operator already knows the presence of the obstacle, which is bothersome for the operator. Makes you feel.

上述の点に鑑み、本発明は、特定の物体が作業機械に接近した場合とそれ以外の物体が作業機械に接近した場合とで警告の出力態様を変えられる周囲監視装置を提供することを目的とする。   SUMMARY OF THE INVENTION In view of the above, an object of the present invention is to provide a surrounding monitoring device that can change a warning output mode when a specific object approaches a work machine and when another object approaches the work machine. And

上述の目的を達成するために、本発明の実施例に係る周囲監視装置は、作業機械の周囲を監視する周囲監視装置であって、前記作業機械に搭載される、前記作業機械の周囲に設定される監視領域内の物体を検知する物体検知装置の検知結果と、前記作業機械に搭載される撮像装置が撮像する画像内の、作業現場におけるマーカーに対応するマーカー画像とに基づいて、前記監視領域内の物体が警告制限対象物であるか否かを判定する警告制限対象物当否判定部と、前記監視領域内の物体が警告制限対象物であるか否かに応じて警告の出力態様を制御する警告出力制御部と、を備えることを特徴とする。   In order to achieve the above object, an ambient monitoring device according to an embodiment of the present invention is an ambient monitoring device that monitors the surroundings of a work machine, and is set around the work machine that is mounted on the work machine. Monitoring based on a detection result of an object detection device that detects an object in a monitored area and a marker image corresponding to a marker at a work site in an image captured by an imaging device mounted on the work machine A warning restriction target object determination unit that determines whether or not an object in the area is a warning restriction target; and a warning output mode according to whether or not the object in the monitoring area is a warning restriction target. A warning output control unit for controlling.

上述の手段により、本発明は、特定の物体が作業機械に接近した場合とそれ以外の物体が作業機械に接近した場合とで警告の出力態様を変えられる周囲監視装置を提供することができる。   According to the above-described means, the present invention can provide a surrounding monitoring device that can change a warning output mode when a specific object approaches the work machine and when another object approaches the work machine.

本発明の実施例に係る周囲監視装置が搭載されるショベルの概略図である。It is the schematic of the shovel in which the surroundings monitoring apparatus which concerns on the Example of this invention is mounted. 本発明の実施例に係る周囲監視装置の構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of the surroundings monitoring apparatus which concerns on the Example of this invention. 第一周囲監視処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a 1st periphery monitoring process. 周囲監視装置が進入防止処理を実行する際の作業現場の状況を示す図である。It is a figure which shows the condition of the work site at the time of a periphery monitoring apparatus performing an approach prevention process. 第一判定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a 1st determination process. 周囲監視装置が第一判定処理を実行する際の作業現場の状況を示す図である。It is a figure which shows the condition of the work site at the time of a surroundings monitoring apparatus performing a 1st determination process. 第二判定処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a 2nd determination process. 周囲監視装置が第二判定処理を実行する際の作業現場の状況を示す図である。It is a figure which shows the condition of the work site at the time of a surroundings monitoring apparatus performing a 2nd determination process. 第二周囲監視処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a 2nd surroundings monitoring process. 周囲監視装置が第二周囲監視処理を実行する際の作業現場の状況を示す図である。It is a figure which shows the condition of the work site at the time of a surroundings monitoring apparatus performing a 2nd surroundings monitoring process.

以下、図面を参照しつつ、本発明を実施するための最良の形態の説明を行う。   Hereinafter, the best mode for carrying out the present invention will be described with reference to the drawings.

図1は、本発明の実施例に係る周囲監視装置が搭載される作業機械であるショベル50の構成例を示す概略図である。ショベル50の下部走行体1には、旋回機構2を介して上部旋回体3が搭載される。上部旋回体3には、ブーム4が取り付けられ、ブーム4の先端には、アーム5が取り付けられ、アーム5の先端には、バケット6が取り付けられる。ブーム4、アーム5、及びバケット6は、掘削アタッチメントを構成し、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9によりそれぞれ油圧駆動される。また、上部旋回体3には、キャビン10が設けられ、且つエンジン等の動力源が搭載される。さらに、上部旋回体3には、ショベル50の向きに関する向き情報を取得する向き情報取得装置22、ショベル50の周囲を撮像する撮像装置24、及び、ショベル50の周囲に存在する物体を検知する物体検知装置25が搭載される。また、キャビン10の内部には、制御装置20、記憶装置26、表示装置27、及び音声出力装置28が搭載され、キャビン10の天井部には、本体位置情報取得装置21が搭載される。なお、制御装置20、本体位置情報取得装置21、向き情報取得装置22、撮像装置24、物体検知装置25、記憶装置26、表示装置27、及び音声出力装置28の詳細は後述する。   FIG. 1 is a schematic diagram illustrating a configuration example of an excavator 50 that is a work machine on which a surrounding monitoring apparatus according to an embodiment of the present invention is mounted. The upper swing body 3 is mounted on the lower traveling body 1 of the excavator 50 via the swing mechanism 2. A boom 4 is attached to the upper swing body 3, an arm 5 is attached to the tip of the boom 4, and a bucket 6 is attached to the tip of the arm 5. The boom 4, the arm 5, and the bucket 6 constitute a digging attachment, and are hydraulically driven by the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9, respectively. Further, the upper swing body 3 is provided with a cabin 10 and is mounted with a power source such as an engine. Further, the upper swing body 3 includes an orientation information acquisition device 22 that acquires orientation information related to the orientation of the excavator 50, an imaging device 24 that images the periphery of the excavator 50, and an object that detects an object existing around the excavator 50. A detection device 25 is mounted. A control device 20, a storage device 26, a display device 27, and an audio output device 28 are mounted inside the cabin 10, and a main body position information acquisition device 21 is mounted on the ceiling of the cabin 10. Details of the control device 20, the body position information acquisition device 21, the orientation information acquisition device 22, the imaging device 24, the object detection device 25, the storage device 26, the display device 27, and the audio output device 28 will be described later.

図2は、本発明の実施例に係る周囲監視装置100の構成を示す機能ブロック図である。周囲監視装置100は、制御装置20を含み、本体位置情報取得装置21、向き情報取得装置22、撮像装置24、物体検知装置25、記憶装置26、表示装置27、及び音声出力装置28に接続される。   FIG. 2 is a functional block diagram showing a configuration of the surroundings monitoring apparatus 100 according to the embodiment of the present invention. The surroundings monitoring device 100 includes a control device 20 and is connected to a main body position information acquisition device 21, an orientation information acquisition device 22, an imaging device 24, an object detection device 25, a storage device 26, a display device 27, and an audio output device 28. The

制御装置20は、周囲監視装置100の動作を制御する装置であり、例えば、CPU、RAM、ROM等を備えるコンピュータである。具体的には、制御装置20は、マーカー認識部200、マーカー解読部201、警告制限対象物当否判定部202、及び警告出力制御部203の各機能要素に対応するプログラムをROMから読み出してRAMにロードし、各機能要素に対応する処理をCPUに実行させる。   The control device 20 is a device that controls the operation of the surroundings monitoring device 100, and is, for example, a computer that includes a CPU, a RAM, a ROM, and the like. Specifically, the control device 20 reads programs corresponding to the functional elements of the marker recognition unit 200, the marker decoding unit 201, the warning restriction target object determination unit 202, and the warning output control unit 203 from the ROM and stores them in the RAM. Load the CPU and execute processing corresponding to each functional element.

本体位置情報取得装置21は、作業機械本体の位置に関する本体位置情報を取得する装置である。本実施例では、本体位置情報取得装置21は、GPS(Global Positioning System)受信機によりGPSアンテナを介してGPS衛星が出力する信号を受信して本体位置情報(例えば、緯度、経度、高度である。)を測位・演算するGPS装置である。具体的には、本体位置情報取得装置21は、ショベル50の天井部に搭載されるGPS装置であり、例えば、ショベル50の基準位置(例えば、旋回中心である。)に対応する本体位置情報を取得し、取得した本体位置情報を制御装置20に対して出力する。   The main body position information acquisition device 21 is a device that acquires main body position information relating to the position of the work machine main body. In the present embodiment, the main body position information acquisition device 21 receives a signal output from a GPS satellite via a GPS antenna by a GPS (Global Positioning System) receiver, and is main body position information (for example, latitude, longitude, and altitude). .) Is a GPS device for positioning and calculating. Specifically, the main body position information acquisition device 21 is a GPS device mounted on the ceiling portion of the excavator 50. For example, main body position information corresponding to a reference position (for example, the turning center) of the excavator 50 is obtained. The acquired main body position information is output to the control device 20.

向き情報取得装置22は、作業機械の向きに関する向き情報を取得する装置である。本実施例では、向き情報取得装置22は、掘削アタッチメントが位置する側を前側としてショベル50の向き(方位)を取得する地磁気センサであり、検出した向き情報を制御装置20に対して出力する。   The orientation information acquisition device 22 is a device that acquires orientation information related to the orientation of the work machine. In the present embodiment, the orientation information acquisition device 22 is a geomagnetic sensor that acquires the orientation (azimuth) of the excavator 50 with the side where the excavation attachment is located as the front side, and outputs the detected orientation information to the control device 20.

また、向き情報取得装置22は、本体位置情報取得装置21としてのGPS装置の設置位置とは異なるショベル50上の位置に搭載される別のGPS装置であってもよい。2つのGPS装置のそれぞれが取得する位置情報に基づいてショベル50の向きを特定できるためである。   Further, the orientation information acquisition device 22 may be another GPS device mounted at a position on the excavator 50 different from the installation position of the GPS device as the main body position information acquisition device 21. This is because the orientation of the excavator 50 can be specified based on the position information acquired by each of the two GPS devices.

撮像装置24は、作業機械の周囲を撮像する装置であり、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えたカメラである。本実施例では、撮像装置24は、ショベル50の左側方を撮像する左側方カメラ24L、ショベル50の右側方を撮像する右側方カメラ24R、及び、ショベル50の後方を撮像する後方カメラ24Bを含む。撮像装置24は、撮像した画像(以下、「周囲画像」とする。)を制御装置20に対して出力する。   The imaging device 24 is a device that images the surroundings of the work machine. For example, the imaging device 24 is a camera including an imaging element such as a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS). In the present embodiment, the imaging device 24 includes a left side camera 24L that images the left side of the excavator 50, a right side camera 24R that images the right side of the excavator 50, and a rear camera 24B that images the rear side of the excavator 50. . The imaging device 24 outputs the captured image (hereinafter referred to as “ambient image”) to the control device 20.

物体検知装置25は、作業機械の周囲に存在する物体を検知する装置であり、例えば、レーザーレンジファインダ、超音波センサ、ミリ波センサ等である。本実施例では、物体検知装置25は、ショベル50の左側方に存在する物体を検知する左側方レーザレンジファインダ25L、及び、ショベル50の右側方に存在する物体を検知する右側方レーザレンジファインダ25Rを含む。なお、物体検知装置25は、ショベル50の後方に存在する物体を検知する後方レーザレンジファインダを含んでいてもよい。   The object detection device 25 is a device that detects an object existing around the work machine, and is, for example, a laser range finder, an ultrasonic sensor, a millimeter wave sensor, or the like. In this embodiment, the object detection device 25 includes a left side laser range finder 25L that detects an object that is present on the left side of the excavator 50, and a right side laser range finder 25R that is configured to detect an object that is present on the right side of the shovel 50. including. Note that the object detection device 25 may include a rear laser range finder that detects an object existing behind the excavator 50.

図3は、物体検知装置25の監視領域A1を示す図である。図3の点線で示すように、左側方レーザレンジファインダ25Lは、ショベル50の左側方に左側方監視領域A1Lを有し、右側方レーザレンジファインダ25Rは、ショベル50の右側方に右側方監視領域A1Rを有する。   FIG. 3 is a diagram showing the monitoring area A1 of the object detection device 25. As shown in FIG. 3, the left side laser range finder 25L has a left side monitoring area A1L on the left side of the excavator 50, and the right side laser range finder 25R has a right side monitoring area on the right side of the excavator 50. Has A1R.

記憶装置26は、各種情報を記憶するための装置であり、例えば、ハードディスク、光学ディスク、又は半導体メモリ等を含む。本実施例では、記憶装置26は、キャビン10内に設置される半導体メモリである。   The storage device 26 is a device for storing various types of information, and includes, for example, a hard disk, an optical disk, or a semiconductor memory. In the present embodiment, the storage device 26 is a semiconductor memory installed in the cabin 10.

表示装置27は、各種情報を表示する装置であり、例えば、液晶ディスプレイ、LED等を含む。本実施例では、表示装置27は、キャビン10内に設置される液晶ディスプレイである。   The display device 27 is a device that displays various information, and includes, for example, a liquid crystal display, an LED, and the like. In the present embodiment, the display device 27 is a liquid crystal display installed in the cabin 10.

音声出力装置28は、各種情報を音声出力する装置であり、例えば、スピーカ、ブザー等を含む。本実施例では、音声出力装置28は、キャビン10内に設置されるスピーカである。   The audio output device 28 is a device that outputs various information as audio, and includes, for example, a speaker, a buzzer, and the like. In the present embodiment, the audio output device 28 is a speaker installed in the cabin 10.

次に、制御装置20における各種機能要素について説明する。   Next, various functional elements in the control device 20 will be described.

マーカー認識部200は、作業現場におけるマーカーに対応するマーカー画像を認識する機能要素である。   The marker recognition unit 200 is a functional element that recognizes a marker image corresponding to a marker at a work site.

「マーカー」とは、所定の幾何学的な形状又は模様を有する物体であり、例えば、AR(Augmented Reality)技術で用いられるARマーカー、QRコード(登録商標)等の二次元コードを含む。   The “marker” is an object having a predetermined geometric shape or pattern, and includes, for example, an AR marker used in AR (Augmented Reality) technology and a two-dimensional code such as a QR code (registered trademark).

また、マーカーは、作業現場の所定位置に固定的に設置される。マーカーは、例えば、建造物の壁面に貼り付けられてもよく、作業現場に設置される杭の頂部に取り付けられてもよく、或いは、表面を露出させながら地面に埋め込まれてもよい。   The marker is fixedly installed at a predetermined position on the work site. A marker may be affixed on the wall surface of a building, for example, may be attached to the top of a pile installed at a work site, or may be embedded in the ground while exposing the surface.

具体的には、マーカー認識部200は、パターンマッチング等の画像処理技術を用いて、撮像装置24が撮像した周囲画像における、マーカーに対応するマーカー画像を認識する。   Specifically, the marker recognition unit 200 recognizes a marker image corresponding to the marker in the surrounding image captured by the imaging device 24 using an image processing technique such as pattern matching.

また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、撮像装置24とマーカーとの間の距離を算出し、認識したマーカー画像の周囲画像内における位置に基づいて、撮像装置24から見たマーカーの方向を算出する。この場合、マーカーは、所定の大きさを有する。   The marker recognizing unit 200 calculates the distance between the imaging device 24 and the marker based on the size of the recognized marker image, and the imaging device 24 based on the position of the recognized marker image in the surrounding image. Calculate the direction of the marker viewed from. In this case, the marker has a predetermined size.

マーカー解読部201は、マーカー認識部200が認識したマーカー画像が表す内容を解読する機能要素である。   The marker decoding unit 201 is a functional element that decodes the content represented by the marker image recognized by the marker recognition unit 200.

マーカー画像が表す内容は、例えば、マーカーが貼り付けられた物体に関する情報、マーカーが定める所定領域に関する情報等を含む。   The content represented by the marker image includes, for example, information on the object on which the marker is pasted, information on a predetermined area defined by the marker, and the like.

マーカーが貼り付けられた物体に関する情報は、例えば、その物体が警告制限対象物であることを表す情報を含む。「警告制限対象物」とは、作業機械との接触を防止するための警告の出力態様が、その他の物体(以下、「警告対象物」とする。)に関する警告の出力態様と異なる物体である。具体的には、周囲監視装置100は、ショベル50と警告対象物との間の距離が閾値以下となった場合、すなわち警告対象物が物体検知装置25の監視領域A1に入った場合に警告を出力する。これに対し、周囲監視装置100は、ショベル50と警告制限対象物との間の距離が閾値以下となった場合、すなわち警告制限対象物が物体検知装置25の監視領域A1に入った場合であっても警告の出力を禁止する。   The information regarding the object on which the marker is pasted includes, for example, information indicating that the object is a warning restriction target. “Warning restriction target object” is an object in which a warning output mode for preventing contact with a work machine is different from a warning output mode regarding other objects (hereinafter referred to as “warning target”). . Specifically, the surroundings monitoring device 100 issues a warning when the distance between the excavator 50 and the warning object is equal to or less than a threshold value, that is, when the warning object enters the monitoring area A1 of the object detection device 25. Output. On the other hand, the surrounding monitoring device 100 is a case where the distance between the excavator 50 and the warning restricted object is equal to or smaller than the threshold value, that is, the case where the warning restricted object enters the monitoring area A1 of the object detection device 25. Even the warning output is prohibited.

マーカーが定める所定領域に関する情報は、例えば、所定領域を定めるのに用いられるマーカーの数、所定領域の位置情報(例えば緯度及び経度で表される情報である。)、所定領域の大きさ、高さ、又は深さ、所定領域が設定される時間帯又は有効期限等を含む。なお、所定領域は、例えば、警報禁止領域、警報制限領域等を含む。警報禁止領域は、その領域内にある物体と作業機械との間の距離が閾値以下となっても、すなわち物体が物体検知装置25の監視領域A1に入ったとしても警告の出力が禁止されるようにする領域である。また、警報制限領域は、その領域内にある物体と作業機械との間の距離が、通常の閾値より小さい閾値以下となった場合に限り警告が出力されるようにする領域である。   The information related to the predetermined area defined by the marker includes, for example, the number of markers used to define the predetermined area, position information of the predetermined area (for example, information expressed by latitude and longitude), the size of the predetermined area, and the height Or a depth, a time zone in which a predetermined area is set, an expiration date, or the like. The predetermined area includes, for example, an alarm prohibition area, an alarm restriction area, and the like. In the alarm prohibition area, even if the distance between the object in the area and the work machine is equal to or smaller than the threshold, that is, even if the object enters the monitoring area A1 of the object detection device 25, the output of the warning is prohibited. It is an area to do. The warning restriction area is an area in which a warning is output only when the distance between an object in the area and the work machine is equal to or smaller than a threshold value smaller than a normal threshold value.

具体的には、マーカー解読部201は、記憶装置26に予め記憶された、マーカー画像とそのマーカー画像が表す内容との対応関係を保持するテーブルを参照し、認識されたマーカー画像が表す内容を解読する。   Specifically, the marker decoding unit 201 refers to a table stored in advance in the storage device 26 that holds a correspondence relationship between the marker image and the content represented by the marker image, and displays the content represented by the recognized marker image. Decipher.

また、マーカー解読部201は、解読した内容を随時読み出し可能に記憶装置26に記憶する。マーカー画像を繰り返し認識・解読することなく、後述の警告制限対象物当否判定部202による判定が行われるようにするためである。具体的には、マーカー解読部201は、マーカーが貼り付けられた物体の位置及び範囲に関する情報、警報禁止領域の位置及び範囲に関する情報、警報制限領域の位置及び範囲に関する情報等を随時読み出し可能に記憶装置26に記憶する。なお、マーカー解読部201は、解読した内容の記憶装置26への記憶を省略してもよい。警告制限対象物当否判定部202による判定が行われる度に、マーカー画像の認識・解読が行われるようにするためである。   Further, the marker decoding unit 201 stores the decoded contents in the storage device 26 so as to be readable at any time. This is for the determination by the warning restriction target object determination unit 202 described later to be performed without repeatedly recognizing and decoding the marker image. Specifically, the marker decoding unit 201 can read information on the position and range of the object on which the marker is pasted, information on the position and range of the alarm prohibited area, information on the position and range of the alarm restricted area, and the like at any time. Store in the storage device 26. The marker decoding unit 201 may omit storing the decoded contents in the storage device 26. This is because the marker image is recognized and decoded each time the warning restriction target object determination unit 202 performs the determination.

なお、マーカー解読部201は、1つのマーカー画像に基づいて1つの内容を解読してもよく、複数のマーカー画像の組み合わせに基づいて1つの内容を解読してもよい。   The marker decoding unit 201 may decode one content based on one marker image, or may decode one content based on a combination of a plurality of marker images.

警告制限対象物当否判定部202は、物体検知装置25の監視領域A1に入った物体が警告制限対象物であるか警告対象物であるかを判定する機能要素である。   The warning restriction target object determination unit 202 is a functional element that determines whether an object that enters the monitoring area A1 of the object detection device 25 is a warning restriction target object or a warning target object.

具体的には、警告制限対象物当否判定部202は、物体検知装置25により監視領域A1内で物体が検知された場合に、マーカー解読部201が出力する解読結果に基づいて、或いは、マーカー解読部201が記憶装置26に記憶した解読結果に基づいて、その物体が警告制限対象物であるか否かを判定する。警告制限対象物当否判定部202は、例えば、物体検知装置25が検知した物体の位置と、マーカー解読部201が解読したマーカーの位置とが一致する場合にその物体が警告制限対象物であると判定する。或いは、警告制限対象物当否判定部202は、物体検知装置25が検知した物体の位置が、マーカー解読部201が解読した警告禁止領域又は警告制限領域に含まれる場合に、その物体が警告制限対象物であると判定する。   Specifically, the warning restriction target object determination unit 202 determines whether the object detection device 25 detects an object in the monitoring area A1 based on the decoding result output from the marker decoding unit 201 or the marker decoding. Based on the decoding result stored in the storage device 26 by the unit 201, it is determined whether or not the object is a warning restriction target. For example, the warning restriction target object determination unit 202 determines that the object is a warning restriction target when the position of the object detected by the object detection device 25 matches the position of the marker decoded by the marker decoding unit 201. judge. Alternatively, when the position of the object detected by the object detection device 25 is included in the warning prohibition area or the warning restriction area decoded by the marker decoding unit 201, the warning restriction target object determination unit 202 determines that the object is a warning restriction target. Judge that it is a thing.

検知された物体が警告制限対象物でない、すなわち警告対象物であると判定した場合、警告制限対象物当否判定部202は、所定の制御信号(以下、「警告許可信号」とする。)を警告出力制御部203に対して出力する。音声出力装置28に警告を出力させるための制御信号(以下、「警告信号」とする。)を警告出力制御部203が音声出力装置28に対して出力できるようにするためである。   When it is determined that the detected object is not a warning restriction target, that is, a warning target, the warning restriction target object determination unit 202 warns a predetermined control signal (hereinafter referred to as a “warning permission signal”). Output to the output control unit 203. This is because the warning output control unit 203 can output to the audio output device 28 a control signal for causing the audio output device 28 to output a warning (hereinafter referred to as “warning signal”).

一方、検知された物体が警告制限対象物であると判定した場合、警告制限対象物当否判定部202は、警告許可信号を警告出力制御部203に対して出力しない。警告出力制御部203が警告信号を音声出力装置28に対して出力しないようにするためである。   On the other hand, when it is determined that the detected object is a warning restriction target, the warning restriction target object determination unit 202 does not output a warning permission signal to the warning output control unit 203. This is to prevent the warning output control unit 203 from outputting a warning signal to the audio output device 28.

或いは、警告制限対象物当否判定部202は、検知された物体が警告制限対象物であると判定した場合に所定の制御信号(以下、「警告禁止信号」とする。)を警告出力制御部203に対して出力してもよい。音声出力装置28に警告を出力させるための制御信号(以下、「警告信号」とする。)を警告出力制御部203が音声出力装置28に対して出力できないようにするためである。この場合、警告制限対象物当否判定部202は、検知された物体が警告制限対象物でないと判定した場合には、警告禁止信号を警告出力制御部203に対して出力しない。警告出力制御部203が警告信号を音声出力装置28に対して出力できるようにするためである。   Alternatively, when the warning restriction target object determination unit 202 determines that the detected object is a warning restriction target, the warning output control unit 203 outputs a predetermined control signal (hereinafter referred to as a “warning prohibition signal”). May be output. This is to prevent the warning output control unit 203 from outputting a control signal (hereinafter referred to as “warning signal”) for causing the voice output device 28 to output a warning to the voice output device 28. In this case, the warning restriction target object determination unit 202 does not output a warning prohibition signal to the warning output control unit 203 when it is determined that the detected object is not a warning restriction target. This is because the warning output control unit 203 can output a warning signal to the audio output device 28.

或いは、警告制限対象物当否判定部202は、検知された物体が警告制限対象物であると判定した場合に警告禁止信号を警告出力制御部203に対して出力し、検知された物体が警告制限対象物でないと判定した場合に警告許可信号を警告出力制御部203に対して出力してもよい。   Alternatively, the warning restriction target object determination unit 202 outputs a warning prohibition signal to the warning output control unit 203 when it is determined that the detected object is a warning restriction target, and the detected object is a warning restriction. If it is determined that the object is not an object, a warning permission signal may be output to the warning output control unit 203.

警告出力制御部203は、警告制限対象物当否判定部202の判定結果に応じて警告の出力態様を制御する機能要素である。   The warning output control unit 203 is a functional element that controls a warning output mode according to the determination result of the warning restriction target object determination unit 202.

具体的には、警告出力制御部203は、警告制限対象物当否判定部202から警告許可信号を受信した場合に、音声出力装置28に対して警告信号を出力する。一方、警告出力制御部203は、警告制限対象物当否判定部202から警告許可信号を受信しない場合、音声出力装置28に対して警告信号を出力しない。監視領域A1の物体が警告制限対象物のためである。   Specifically, the warning output control unit 203 outputs a warning signal to the audio output device 28 when a warning permission signal is received from the warning restriction target object determination unit 202. On the other hand, the warning output control unit 203 does not output a warning signal to the audio output device 28 when the warning output signal is not received from the warning restriction target object determination unit 202. This is because the object in the monitoring area A1 is a warning restriction target.

或いは、警告出力制御部203は、警告制限対象物当否判定部202から警告禁止信号を受信した場合に、警告信号の出力を禁止し、警告禁止信号を受信しない場合に、警告信号を出力してもよい。   Alternatively, the warning output control unit 203 prohibits the output of the warning signal when receiving the warning prohibition signal from the warning restriction target object determination unit 202, and outputs the warning signal when the warning prohibition signal is not received. Also good.

或いは、警告出力制御部203は、警告制限対象物当否判定部202から警告禁止信号を受信した場合に警告信号の出力を禁止し、警告許可信号を受信した場合に警告信号を出力してもよい。   Alternatively, the warning output control unit 203 may prohibit the output of the warning signal when the warning prohibition signal is received from the warning restriction target object determination unit 202 and may output the warning signal when the warning permission signal is received. .

次に、図4を参照しながら、周囲監視装置100がショベル50の周囲を監視する処理(以下、「第一周囲監視処理」とする。)について説明する。なお、図4は、第一周囲監視処理の流れを示すフローチャートであり、周囲監視装置100は、この第一周囲監視処理を所定周期で繰り返し実行する。   Next, a process in which the surroundings monitoring device 100 monitors the surroundings of the excavator 50 (hereinafter referred to as “first surroundings monitoring process”) will be described with reference to FIG. FIG. 4 is a flowchart showing the flow of the first surrounding monitoring process, and the surrounding monitoring apparatus 100 repeatedly executes the first surrounding monitoring process at a predetermined cycle.

最初に、周囲監視装置100の制御装置20は、物体検知装置25の出力に基づいて監視領域A1内で物体が検知されたか否かを判定する(ステップS1)。   First, the control device 20 of the surrounding monitoring device 100 determines whether or not an object is detected in the monitoring area A1 based on the output of the object detection device 25 (step S1).

監視領域A1内で物体が検知されたと制御装置20が判定した場合(ステップS1のYES)、制御装置20の警告制限対象物当否判定部202は、その物体が警告制限対象物であるか否かを判定する(ステップS2)。   When the control device 20 determines that an object is detected in the monitoring area A1 (YES in step S1), the warning restriction target object determination unit 202 of the control device 20 determines whether or not the object is a warning restriction target object. Is determined (step S2).

監視領域A1内で検知された物体が警告制限対象物であると判定した場合(ステップS2のYES)、警告制限対象物当否判定部202は、制御装置20の警告出力制御部203に対して警告禁止信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力しないようにする。   When it is determined that the object detected in the monitoring area A1 is a warning restriction target (YES in Step S2), the warning restriction target object determination unit 202 warns the warning output control unit 203 of the control device 20. A prohibition signal is output so that the warning output control unit 203 does not output a warning signal to the audio output device 28.

このように、監視領域A1に入った物体が警告制限対象物であるため、警告出力制御部203は、音声出力装置28による警告の出力を禁止する(ステップS3)。   As described above, since the object that has entered the monitoring area A1 is a warning restriction target, the warning output control unit 203 prohibits the warning output by the audio output device 28 (step S3).

一方、監視領域A1内で検知された物体が警告制限対象物でない、すなわち警告対象物であると判定した場合(ステップS2のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。   On the other hand, when it is determined that the object detected in the monitoring area A1 is not a warning restriction target, that is, a warning target (NO in Step S2), the warning restriction target object determination unit 202 is a warning output control unit 203. The warning output control unit 203 can output a warning signal to the audio output device 28.

このように、監視領域A1に入った物体が警告対象物であるため、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS4)。   Thus, since the object that entered the monitoring area A1 is a warning object, the warning output control unit 203 permits the audio output device 28 to output a warning (step S4).

次に、図5及び図6を参照しながら、監視領域A1に入った物体が警告制限対象物であるか否かを周囲監視装置100が判定する処理(以下、「第一判定処理」とする。)について説明する。なお、図5は、第一判定処理の流れを示すフローチャートであり、周囲監視装置100は、物体検知装置25により監視領域A1内で物体が検知された場合に、この第一判定処理を実行する。また、図6は、周囲監視装置100が第一判定処理を実行する際の作業現場の状況を示す図である。図6に示すように、作業現場には、マーカーMK1が貼り付けられた物体OB1と、マーカーが貼り付けられていない物体OB2とが存在する。また、マーカーMK1の模様は、マーカーMK1の位置から所定の距離範囲内にある物体、すなわち物体OB1が警告制限対象物であることを表す二次元コードを構成する。また、図6(A)は、左側方監視領域A1Lに物体OB1が入った状態を示し、図6(B)は、右側方監視領域A1Rに物体OB2が入った状態を示す。   Next, referring to FIG. 5 and FIG. 6, a process (hereinafter referred to as “first determination process”) in which the surroundings monitoring apparatus 100 determines whether or not an object that has entered the monitoring area A1 is a warning restriction target object. .). FIG. 5 is a flowchart showing the flow of the first determination process, and the surroundings monitoring apparatus 100 executes the first determination process when an object is detected in the monitoring area A1 by the object detection apparatus 25. . FIG. 6 is a diagram illustrating a situation at the work site when the surroundings monitoring device 100 executes the first determination process. As shown in FIG. 6, at the work site, there are an object OB1 to which the marker MK1 is attached and an object OB2 to which no marker is attached. The pattern of the marker MK1 constitutes a two-dimensional code indicating that an object within a predetermined distance range from the position of the marker MK1, that is, the object OB1 is a warning restriction target. 6A shows a state in which the object OB1 has entered the left side monitoring area A1L, and FIG. 6B shows a state in which the object OB2 has entered the right side monitoring area A1R.

最初に、制御装置20のマーカー認識部200は、撮像装置24が出力する周囲画像内における、マーカーMK1に対応するマーカー画像の認識を試みる(ステップS11)。具体的には、マーカー認識部200は、パターンマッチングにより、周囲画像内に含まれるマーカー画像を認識する。   First, the marker recognition unit 200 of the control device 20 tries to recognize a marker image corresponding to the marker MK1 in the surrounding image output from the imaging device 24 (step S11). Specifically, the marker recognizing unit 200 recognizes a marker image included in the surrounding image by pattern matching.

また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、ショベル50の基準位置とマーカーMK1との間の距離を算出する。また、マーカー認識部200は、認識したマーカー画像の周囲画像内における位置に基づいて、ショベル50の基準位置から見たマーカーMK1の方向を算出する。さらに、マーカー認識部200は、算出した距離及び方向と、本体位置情報取得装置21及び向き情報取得装置22のそれぞれの出力とに基づいて、マーカーMK1の位置に関する情報(例えば緯度及び経度で表される二次元座標、又は、緯度、経度、及び高度で表される三次元座標である。)を算出する。   The marker recognizing unit 200 calculates the distance between the reference position of the excavator 50 and the marker MK1 based on the recognized size of the marker image. The marker recognizing unit 200 calculates the direction of the marker MK1 viewed from the reference position of the excavator 50 based on the position of the recognized marker image in the surrounding image. Further, the marker recognizing unit 200 is represented by information (for example, latitude and longitude) regarding the position of the marker MK1 based on the calculated distance and direction and the respective outputs of the main body position information acquisition device 21 and the orientation information acquisition device 22. 2D coordinates or 3D coordinates expressed by latitude, longitude, and altitude).

マーカー認識部200がマーカー画像を認識した場合(ステップS11のYES)、制御装置20におけるマーカー解読部201は、マーカー画像が表す内容を解読する。具体的には、マーカー解読部201は、マーカーMK1に対応するマーカー画像によって、マーカーMK1から所定の距離範囲内にある物体を警告制限対象物とする内容を解読する。なお、マーカーMK1は、自身の位置に関する情報(例えば、緯度及び経度によって表される二次元座標、又は、緯度、経度、及び高度で表される三次元座標である。)を有していてもよい。その場合、マーカー認識部200は、ショベル50の基準位置とマーカーMK1との間の距離、ショベル50の基準位置から見たマーカーMK1の方向、マーカーMK1の位置に関する情報等を算出する必要はない。   When the marker recognition unit 200 recognizes the marker image (YES in step S11), the marker decoding unit 201 in the control device 20 decodes the content represented by the marker image. Specifically, the marker decoding unit 201 decodes the content that uses an object within a predetermined distance range from the marker MK1 as a warning restriction target by using the marker image corresponding to the marker MK1. Note that the marker MK1 may have information regarding its own position (for example, two-dimensional coordinates represented by latitude and longitude, or three-dimensional coordinates represented by latitude, longitude, and altitude). Good. In that case, the marker recognizing unit 200 does not need to calculate the distance between the reference position of the excavator 50 and the marker MK1, the direction of the marker MK1 viewed from the reference position of the excavator 50, information on the position of the marker MK1, and the like.

ここで、警告制限対象物当否判定部202は、物体検知装置25が検知した物体の位置と、マーカー認識部201が認識したマーカーMK1の位置とを比較する(ステップS12)。   Here, the warning restriction target object determination unit 202 compares the position of the object detected by the object detection device 25 with the position of the marker MK1 recognized by the marker recognition unit 201 (step S12).

検知した物体の位置とマーカーMK1の位置とが一致する場合(ステップS12のYES)、すなわち、図6(A)に示す状態では、警告制限対象物当否判定部202は、物体OB1を警告制限対象物であると判定する(ステップS13)。   When the detected position of the object matches the position of the marker MK1 (YES in step S12), that is, in the state shown in FIG. 6A, the warning restriction target object determination unit 202 sets the object OB1 as a warning restriction target. It determines with it being a thing (step S13).

なお、「検知した物体の位置とマーカーの位置とが一致する場合」は、検知した物体の座標(例えばショベル50との間の距離が最小となる物体上の点に対応する座標である。)が、マーカーが定める座標範囲内にある場合を含む。   Note that “when the position of the detected object matches the position of the marker” is the coordinates of the detected object (for example, the coordinates corresponding to the point on the object that minimizes the distance to the excavator 50). Is within the coordinate range defined by the marker.

一方、マーカー認識部200がマーカー画像を認識しない場合(ステップS11のNO)、或いは、検知した物体の位置とマーカーMK1の位置とが一致しない場合(ステップS12のYES)、すなわち、図6(B)に示す状態では、警告制限対象物当否判定部202は、物体OB2を警告対象物であると判定する(ステップS14)。   On the other hand, when the marker recognizing unit 200 does not recognize the marker image (NO in step S11), or when the detected position of the object does not match the position of the marker MK1 (YES in step S12), that is, FIG. ), The warning restriction target object determination unit 202 determines that the object OB2 is a warning target (step S14).

以上の構成により、周囲監視装置100は、マーカーMK1を用いて予め定められる警告制限対象物を認識することによって、警告制限対象物がショベル50に接近した場合と警告対象物がショベル50に接近した場合とで警告の出力態様を変えることができる。その結果、周囲監視装置100は、例えば、既知の障害物を警告の対象外とすることで、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止することができ、操作者が煩わしさを感じるのを防止することができる。   With the above configuration, the surroundings monitoring device 100 recognizes a predetermined warning restriction object using the marker MK1, so that the warning restriction object approaches the shovel 50 and the warning object approaches the shovel 50. The warning output mode can be changed depending on the case. As a result, the surroundings monitoring device 100 can prevent a warning from being output frequently even though it is a known obstacle, for example, by excluding a known obstacle from a warning target. It is possible to prevent the operator from feeling troublesome.

次に、図7及び図8を参照しながら、監視領域A1に入った物体が警告制限対象物であるか否かを周囲監視装置100が判定する別の処理(以下、「第二判定処理」とする。)について説明する。なお、図7は、第二判定処理の流れを示すフローチャートであり、周囲監視装置100は、監視領域A1内で物体が検知された場合に、この第二判定処理を実行する。また、図8は、周囲監視装置100が第二判定処理を実行する際の作業現場の状況を示す図である。図8に示すように、作業現場には、マーカーMK11〜MK15が固定的に設置されている。マーカーMK11〜MK15は、隣接するマーカー同士を結ぶ想像線によって、図8の斜線ハッチングで示す警告禁止領域を定める。なお、マーカーMK11〜MK15のそれぞれは、同じ大きさ及び同じ模様を有し、その模様は、特定数のマーカーによって警告禁止領域が定められていることを表す二次元コードを構成する。また、図8(A)は、左側方監視領域A1Lに物体OB1が入った状態を示し、図8(B)は、右側方監視領域A1Rに物体OB2が入った状態を示す。   Next, referring to FIG. 7 and FIG. 8, another process (hereinafter, “second determination process”) in which the surroundings monitoring apparatus 100 determines whether or not the object that has entered the monitoring area A1 is a warning restriction target object. ). FIG. 7 is a flowchart showing the flow of the second determination process, and the surroundings monitoring apparatus 100 executes the second determination process when an object is detected in the monitoring area A1. FIG. 8 is a diagram illustrating a situation at the work site when the surroundings monitoring device 100 executes the second determination process. As shown in FIG. 8, markers MK11 to MK15 are fixedly installed at the work site. The markers MK11 to MK15 define warning prohibited areas indicated by hatching in FIG. 8 by imaginary lines connecting adjacent markers. Each of the markers MK11 to MK15 has the same size and the same pattern, and the pattern constitutes a two-dimensional code indicating that the warning prohibited area is defined by a specific number of markers. 8A shows a state in which the object OB1 has entered the left side monitoring area A1L, and FIG. 8B shows a state in which the object OB2 has entered the right side monitoring area A1R.

最初に、マーカー認識部200は、撮像装置24が出力する周囲画像内における、マーカーMK11〜MK15のそれぞれに対応する未認識のマーカー画像の認識を試みる(ステップS21)。具体的には、マーカー認識部200は、パターンマッチングにより、周囲画像内に含まれるマーカー画像を認識する。   First, the marker recognizing unit 200 tries to recognize unrecognized marker images corresponding to the markers MK11 to MK15 in the surrounding image output by the imaging device 24 (step S21). Specifically, the marker recognizing unit 200 recognizes a marker image included in the surrounding image by pattern matching.

また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、ショベル50の基準位置とマーカーMK11〜MK15のそれぞれとの間の距離を算出する。また、マーカー認識部200は、認識したマーカー画像の周囲画像内における位置に基づいて、ショベル50の基準位置から見たマーカーMK11〜MK15のそれぞれの方向を算出する。さらに、マーカー認識部200は、算出した距離及び方向と、本体位置情報取得装置21及び向き情報取得装置22のそれぞれの出力とに基づいて、マーカーMK11〜MK15のそれぞれの位置に関する情報を算出する。   Further, the marker recognition unit 200 calculates the distance between the reference position of the excavator 50 and each of the markers MK11 to MK15 based on the recognized size of the marker image. The marker recognizing unit 200 calculates the directions of the markers MK11 to MK15 viewed from the reference position of the excavator 50 based on the position of the recognized marker image in the surrounding image. Furthermore, the marker recognizing unit 200 calculates information on the positions of the markers MK11 to MK15 based on the calculated distance and direction and the outputs of the main body position information acquisition device 21 and the orientation information acquisition device 22, respectively.

マーカー認識部200が未認識のマーカー画像を認識した場合(ステップS21のYES)、制御装置20におけるマーカー解読部201は、マーカー画像が表す内容を解読する(ステップS22)。具体的には、マーカー解読部201は、マーカーMK11〜MK15のそれぞれに対応する5つのマーカー画像によって警告禁止領域が定められるとの内容を解読する。   When the marker recognition unit 200 recognizes an unrecognized marker image (YES in step S21), the marker decoding unit 201 in the control device 20 decodes the content represented by the marker image (step S22). Specifically, the marker decoding unit 201 decodes the content that the warning prohibited area is defined by the five marker images corresponding to the markers MK11 to MK15.

その後、マーカー解読部201は、警告禁止領域に関する情報を随時読み出し可能に記憶装置26に記憶する。例えば、マーカー解読部201は、算出されたマーカーMK11〜MK15のそれぞれの位置に関する情報を用いて定められる警告禁止領域を記憶装置26に記憶する。なお、マーカーMK11〜MK15のそれぞれが警告禁止領域の位置及び範囲に関する情報を保持する場合、マーカー解読部201は、その情報をそのまま記憶装置26に記憶すればよい。その場合、マーカー認識部200は、ショベル50の基準位置とマーカーMK11〜MK15のそれぞれとの間の距離、ショベル50の基準位置から見たマーカーMK11〜MK15のそれぞれの方向、マーカーMK11〜MK15のそれぞれの位置に関する情報等を算出する必要はない。   Thereafter, the marker decoding unit 201 stores information related to the warning prohibited area in the storage device 26 so as to be readable at any time. For example, the marker decoding unit 201 stores, in the storage device 26, a warning prohibited area that is determined using information regarding the calculated positions of the markers MK11 to MK15. When each of the markers MK11 to MK15 holds information regarding the position and range of the warning prohibited area, the marker decoding unit 201 may store the information in the storage device 26 as it is. In that case, the marker recognizing unit 200 includes the distance between the reference position of the excavator 50 and each of the markers MK11 to MK15, the respective directions of the markers MK11 to MK15 viewed from the reference position of the excavator 50, and the respective markers MK11 to MK15. It is not necessary to calculate information on the position of the.

なお、マーカー認識部200が未認識のマーカー画像を認識しない場合(ステップS21のNO)、周囲監視装置100は、ステップS22及びステップS23を実行することなく、以下のステップS24を実行する。   When the marker recognizing unit 200 does not recognize an unrecognized marker image (NO in step S21), the surroundings monitoring device 100 executes the following step S24 without executing steps S22 and S23.

その後、制御装置20は、記憶装置26を参照して警告禁止領域が設定されているか否かを判定する(ステップS24)。   Thereafter, the control device 20 refers to the storage device 26 to determine whether or not a warning prohibition area is set (step S24).

制御装置20により警告禁止領域が設定されていると判定された場合(ステップS24のYES)、警告制限対象物当否判定部202は、物体検知装置25が検知した物体が警告禁止領域内に存在するか否かを判定する(ステップS25)。   When it is determined by the control device 20 that a warning prohibited area is set (YES in step S24), the warning restriction target object determination unit 202 has an object detected by the object detection device 25 in the warning prohibited area. It is determined whether or not (step S25).

検知した物体が警告禁止領域内に存在すると判定した場合(ステップS25のYES)、すなわち、図8(A)に示す状態では、警告制限対象物当否判定部202は、物体OB1を警告制限対象物であると判定する(ステップS26)。   When it is determined that the detected object exists in the warning prohibited area (YES in step S25), that is, in the state illustrated in FIG. 8A, the warning restriction target object determination unit 202 determines that the object OB1 is the warning restriction target object. (Step S26).

一方、制御装置20により警告禁止領域が設定されていないと判定された場合(ステップS24のNO)、或いは、検知した物体が警告禁止領域内に存在しないと判定した場合(ステップS25のNO)、すなわち、図8(B)に示す状態では、警告制限対象物当否判定部202は、物体OB2を警告対象物であると判定する(ステップS27)。   On the other hand, when it is determined by the control device 20 that the warning prohibited area is not set (NO in step S24), or when it is determined that the detected object does not exist in the warning prohibited area (NO in step S25). That is, in the state shown in FIG. 8B, the warning restriction target object determination unit 202 determines that the object OB2 is a warning target (step S27).

なお、上述の実施例では、複数のマーカーによって警告禁止領域が設定されているが、1つのマーカーによって警告禁止領域が設定されてもよい。   In the above-described embodiment, the warning prohibited area is set by a plurality of markers, but the warning prohibited area may be set by one marker.

以上の構成により、周囲監視装置100は、マーカーMK11〜MK15を用いて予め定められる警告禁止領域を認識することによって、警告禁止領域内の物体がショベル50に接近した場合と、警告禁止領域外の物体がショベル50に接近した場合とで警告の出力態様を変えることができる。その結果、周囲監視装置100は、例えば、既知の障害物を警告の対象外とすることで、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止することができ、操作者が煩わしさを感じるのを防止することができる。   With the above configuration, the surroundings monitoring device 100 recognizes a warning prohibited area determined in advance using the markers MK11 to MK15, so that an object in the warning prohibited area approaches the excavator 50 and a case outside the warning prohibited area. The warning output mode can be changed when the object approaches the shovel 50. As a result, the surroundings monitoring device 100 can prevent a warning from being output frequently even though it is a known obstacle, for example, by excluding a known obstacle from a warning target. It is possible to prevent the operator from feeling troublesome.

次に、図9及び図10を参照しながら、周囲監視装置100がショベル50の周囲を監視する別の処理(以下、「第二周囲監視処理」とする。)について説明する。なお、図9は、第二周囲監視処理の流れを示すフローチャートであり、周囲監視装置100は、この第二周囲監視処理を所定周期で繰り返し実行する。また、図10は、図8(A)に対応し、周囲監視装置100が第二周囲監視処理を実行する際の作業現場の状況を示す。図10に示すように、作業現場には、マーカーMK11〜MK15が固定的に設置されている。マーカーMK11〜MK15は、隣接するマーカー同士を結ぶ想像線によって、図10の斜線ハッチングで示す警告禁止領域を定める。なお、マーカーMK11〜MK15のそれぞれは、同じ大きさ及び同じ模様を有し、その模様は、特定数のマーカーによって警告禁止領域が定められていることを表す二次元コードを構成する。また、図10に示すように、監視領域A1の内部には、物体検知装置25による別の監視領域である第二監視領域A2が設定されている。具体的には、左側方監視領域A1Lの内部には、第二左側方監視領域A2Lが設定され、右側方監視領域A1Lの内部には、第二右側方監視領域A2Rが設定されている。なお、図10は、第二左側方監視領域A2Lに物体OB1が入った状態を示す。   Next, another process in which the surroundings monitoring device 100 monitors the surroundings of the excavator 50 (hereinafter referred to as “second surroundings monitoring process”) will be described with reference to FIGS. 9 and 10. FIG. 9 is a flowchart showing the flow of the second surrounding monitoring process, and the surroundings monitoring apparatus 100 repeatedly executes the second surrounding monitoring process at a predetermined cycle. FIG. 10 corresponds to FIG. 8A and shows the situation at the work site when the surroundings monitoring device 100 executes the second surroundings monitoring process. As shown in FIG. 10, markers MK11 to MK15 are fixedly installed at the work site. The markers MK11 to MK15 define warning prohibition areas indicated by hatching in FIG. 10 by imaginary lines connecting adjacent markers. Each of the markers MK11 to MK15 has the same size and the same pattern, and the pattern constitutes a two-dimensional code indicating that the warning prohibited area is defined by a specific number of markers. Also, as shown in FIG. 10, a second monitoring area A2, which is another monitoring area by the object detection device 25, is set inside the monitoring area A1. Specifically, a second left side monitoring area A2L is set inside the left side monitoring area A1L, and a second right side monitoring area A2R is set inside the right side monitoring area A1L. FIG. 10 shows a state in which the object OB1 has entered the second left side monitoring area A2L.

最初に、制御装置20は、物体検知装置25の出力に基づいて監視領域A1内で物体が検知されたか否かを判定する(ステップS31)。   First, the control device 20 determines whether an object is detected in the monitoring area A1 based on the output of the object detection device 25 (step S31).

監視領域A1内で物体が検知されたと制御装置20が判定した場合(ステップS31のYES)、警告制限対象物当否判定部202は、その物体が警告制限対象物であるか否かを判定する(ステップS32)。   When the control device 20 determines that an object is detected in the monitoring area A1 (YES in step S31), the warning restriction target object determination unit 202 determines whether or not the object is a warning restriction target ( Step S32).

監視領域A1内で検知された物体が警告制限対象物であると判定した場合(ステップS32のYES)、警告制限対象物当否判定部202は、その物体が第二監視領域A2内に存在するか否かを判定する(ステップS33)。   When it is determined that the object detected in the monitoring area A1 is a warning restriction target (YES in step S32), the warning restriction target object determination unit 202 determines whether the object exists in the second monitoring area A2. It is determined whether or not (step S33).

物体検知装置25が検知した物体が第二監視領域A2内に存在すると判定した場合(ステップS33のYES)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。この場合、第二監視領域A2内に入った物体が警告制限対象物であったとしても、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS34)。   When it is determined that the object detected by the object detection device 25 exists in the second monitoring area A2 (YES in step S33), the warning restriction target object determination unit 202 sends a warning permission signal to the warning output control unit 203. The warning output control unit 203 can output a warning signal to the audio output device 28. In this case, even if the object that has entered the second monitoring area A2 is a warning restriction target, the warning output control unit 203 allows the voice output device 28 to output a warning (step S34).

また、監視領域A1内で検知された物体が警告制限対象物でないと判定した場合にも(ステップS32のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。このようにして、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS34)。   Even when it is determined that the object detected in the monitoring area A1 is not a warning restriction target (NO in step S32), the warning restriction target object determination unit 202 permits the warning output control unit 203 to warn. A signal is output so that the warning output control unit 203 can output a warning signal to the audio output device 28. In this manner, the warning output control unit 203 permits the warning output by the audio output device 28 (step S34).

一方、監視領域A1内で物体が検知されていないと制御装置20が判定した場合(ステップS31のNO)、或いは、警告制限対象物が未だ第二監視領域A2内にないと判定した場合には(ステップS33のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力せず、警告出力制御部203が音声出力装置28に対して警告信号を出力しないようにする。その結果、警告出力制御部203は、音声出力装置28による警告の出力を禁止する。   On the other hand, when the control device 20 determines that no object is detected in the monitoring area A1 (NO in step S31), or when it is determined that the warning restriction target is not yet in the second monitoring area A2. (NO in step S33), the warning restriction target object determination unit 202 does not output a warning permission signal to the warning output control unit 203, and the warning output control unit 203 outputs a warning signal to the audio output device 28. Do not. As a result, the warning output control unit 203 prohibits the voice output device 28 from outputting a warning.

以上の構成により、周囲監視装置100は、監視範囲A1内で検知した物体が警告制限対象物であっても、その警告制限対象物が第二監視領域A2に入った場合には警告を出力する。このように、周囲監視装置100は、例えば、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止しながらも、その既知の障害物がさらに接近した場合には警告を出力する。その結果、操作者が煩わしさを感じるのを防止しながらも、その既知の障害物がショベル50に接触するのを防止することができる。   With the above configuration, the surroundings monitoring apparatus 100 outputs a warning when the warning restricted object enters the second monitoring area A2 even if the object detected in the monitoring range A1 is the warning restricted object. . In this way, the surroundings monitoring device 100, for example, prevents a warning from being frequently output even though it is a known obstacle, but warns when the known obstacle is further approached. Is output. As a result, it is possible to prevent the known obstacle from coming into contact with the excavator 50 while preventing the operator from feeling troublesome.

以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施例に種々の変形及び置換を加えることができる。   Although the preferred embodiments of the present invention have been described in detail above, the present invention is not limited to the above-described embodiments, and various modifications and substitutions can be made to the above-described embodiments without departing from the scope of the present invention. Can be added.

例えば、上述の実施例において、警告制限対象物や警告禁止領域は、マーカーを用いて予め設定されるが、表示装置27と入力装置(図示せず。)を用いて動的に設定されてもよい。具体的には、操作者は、表示装置27と入力装置とを兼ねるタッチパネルを用いて、タッチパネル上に表示される周囲画像の一部領域を選択することによって、警告制限対象物や警告禁止領域を設定してもよい。   For example, in the above-described embodiment, the warning restricted object and the warning prohibited area are set in advance using a marker, but may be set dynamically using a display device 27 and an input device (not shown). Good. Specifically, the operator uses a touch panel that serves as both the display device 27 and the input device to select a partial area of the surrounding image displayed on the touch panel, so that the warning restriction target object and the warning prohibited area are selected. It may be set.

1・・・下部走行体 2・・・旋回機構 3・・・上部旋回体 4・・・ブーム 5・・・アーム 6・・・バケット 7・・・ブームシリンダ 8・・・アームシリンダ 9・・・バケットシリンダ 10・・・キャビン 20・・・制御装置 21・・・本体位置情報取得装置 22・・・向き情報取得装置 24・・・撮像装置 24L・・・左側方カメラ 24R・・・右側方カメラ 24B・・・後方カメラ 25・・・物体検知装置 25L・・・左側方超音波センサ 25R・・・右側方超音波センサ 26・・・記憶装置 27・・・表示装置 28・・・音声出力装置 50・・・ショベル 100・・・周囲監視装置 200・・・マーカー認識部 201・・・マーカー解読部 202・・・警告制限対象物当否判定部 203・・・警告出力制御部   DESCRIPTION OF SYMBOLS 1 ... Lower traveling body 2 ... Turning mechanism 3 ... Upper turning body 4 ... Boom 5 ... Arm 6 ... Bucket 7 ... Boom cylinder 8 ... Arm cylinder 9 ... Bucket cylinder 10 ... cabin 20 ... control device 21 ... main body position information acquisition device 22 ... direction information acquisition device 24 ... imaging device 24L ... left side camera 24R ... right side Camera 24B ... Rear camera 25 ... Object detection device 25L ... Left side ultrasonic sensor 25R ... Right side ultrasonic sensor 26 ... Storage device 27 ... Display device 28 ... Audio output Device 50 ... Excavator 100 ... Ambient monitoring device 200 ... Marker recognition unit 201 ... Marker decoding unit 202 ... Warning restriction target object determination unit 203 ... Warning Output control unit

Claims (5)

作業機械の周囲を監視する周囲監視装置であって、
前記作業機械に搭載される、前記作業機械の周囲に設定される監視領域内の物体を検知する物体検知装置の検知結果と、前記作業機械に搭載される撮像装置が撮像する画像内の、作業現場におけるマーカーに対応するマーカー画像とに基づいて、前記監視領域内の物体が警告制限対象物であるか否かを判定する警告制限対象物当否判定部と、
前記監視領域内の物体が警告制限対象物であるか否かに応じて警告の出力態様を制御する警告出力制御部と、
を備えることを特徴とする周囲監視装置。
A surrounding monitoring device for monitoring the surroundings of a work machine,
Work in a detection result of an object detection device that detects an object in a monitoring area set around the work machine and mounted on the work machine, and an image captured by an image pickup device mounted on the work machine Based on a marker image corresponding to a marker in the field, a warning restriction target object determination unit that determines whether or not the object in the monitoring region is a warning restriction target;
A warning output control unit that controls a warning output mode according to whether or not an object in the monitoring region is a warning restriction target; and
An ambient monitoring device comprising:
前記警告出力制御部は、前記監視領域内の物体が警告制限対象物である場合に、警告の出力を禁止する、
ことを特徴とする請求項1に記載の周囲監視装置。
The warning output control unit prohibits warning output when an object in the monitoring area is a warning restriction target;
The surroundings monitoring device according to claim 1, wherein:
前記警告出力制御部は、前記監視領域に含まれる、前記作業機械により近い所定の領域内に警告制限対象物が入った場合に、警告を出力する、
ことを特徴とする請求項1又は2に記載の周囲監視装置。
The warning output control unit outputs a warning when a warning restriction target object is included in a predetermined area closer to the work machine included in the monitoring area.
The surrounding monitoring apparatus according to claim 1 or 2, wherein
前記警告制限対象物は、前記マーカーが貼り付けられた物体である、
ことを特徴とする請求項1乃至3の何れか一項に記載の周囲監視装置。
The warning restriction target is an object to which the marker is attached.
The surroundings monitoring device according to any one of claims 1 to 3 characterized by things.
前記警告制限対象物は、前記マーカーによって定められる領域内に存在する物体である、
ことを特徴とする請求項1乃至3の何れか一項に記載の周囲監視装置。
The warning restriction target is an object that exists in an area defined by the marker.
The surroundings monitoring device according to any one of claims 1 to 3 characterized by things.
JP2012021275A 2012-02-02 2012-02-02 Ambient monitoring device Active JP5755578B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012021275A JP5755578B2 (en) 2012-02-02 2012-02-02 Ambient monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012021275A JP5755578B2 (en) 2012-02-02 2012-02-02 Ambient monitoring device

Publications (2)

Publication Number Publication Date
JP2013159930A true JP2013159930A (en) 2013-08-19
JP5755578B2 JP5755578B2 (en) 2015-07-29

Family

ID=49172433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012021275A Active JP5755578B2 (en) 2012-02-02 2012-02-02 Ambient monitoring device

Country Status (1)

Country Link
JP (1) JP5755578B2 (en)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013250601A (en) * 2012-05-30 2013-12-12 Seiko Epson Corp Intrusion detection device, robot system, intrusion detection method, and intrusion detection program
WO2015162801A1 (en) * 2014-04-25 2015-10-29 株式会社小松製作所 Surroundings-monitoring system, work vehicle, and surroundings-monitoring method
WO2015162800A1 (en) * 2014-04-25 2015-10-29 株式会社小松製作所 Surroundings-monitoring system, work vehicle, and surroundings-monitoring method
JP2019167821A (en) * 2015-12-28 2019-10-03 住友建機株式会社 Shovel and work site image processing system
WO2019210931A1 (en) * 2018-04-30 2019-11-07 Volvo Construction Equipment Ab System and method for selectively displaying image data in a working machine
WO2020054154A1 (en) 2018-09-14 2020-03-19 日立建機株式会社 Work machine
US20210010236A1 (en) * 2018-03-26 2021-01-14 Sumitomo Construction Machinery Co., Ltd. Shovel
JP2021017761A (en) * 2019-07-22 2021-02-15 コベルコ建機株式会社 Work machine and work machine supporting server
JP2021055381A (en) * 2019-09-30 2021-04-08 日立建機株式会社 Area setting support system and work vehicle equipped with the same
WO2021065430A1 (en) * 2019-09-30 2021-04-08 日立建機株式会社 Region-setting system, and work machine in which said region-setting system is installed
JP2022042244A (en) * 2020-09-02 2022-03-14 ヤンマーホールディングス株式会社 Work vehicle and notification method
WO2022059334A1 (en) * 2020-09-15 2022-03-24 株式会社小松製作所 Work vehicle
WO2022070832A1 (en) * 2020-09-29 2022-04-07 ソニーセミコンダクタソリューションズ株式会社 Information processing system, and information processing method
EP3922777A4 (en) * 2019-04-26 2022-11-23 Hitachi Construction Machinery Co., Ltd. Work machine

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0518720A (en) * 1991-07-12 1993-01-26 Fujita Corp Three-dimensional shape and distance recognizing method
JP2003105807A (en) * 2001-09-27 2003-04-09 Komatsu Ltd Stop control method in intrusion-prohibitive region for service car and its controller
JP2008163719A (en) * 2007-01-05 2008-07-17 Hitachi Constr Mach Co Ltd Circumference monitor of working machine
JP2012001995A (en) * 2010-06-18 2012-01-05 Hitachi Constr Mach Co Ltd Monitoring equipment of work machine surrounding
JP2013009267A (en) * 2011-06-27 2013-01-10 Kyushu Electric Power Co Inc Periphery monitoring device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0518720A (en) * 1991-07-12 1993-01-26 Fujita Corp Three-dimensional shape and distance recognizing method
JP2003105807A (en) * 2001-09-27 2003-04-09 Komatsu Ltd Stop control method in intrusion-prohibitive region for service car and its controller
JP2008163719A (en) * 2007-01-05 2008-07-17 Hitachi Constr Mach Co Ltd Circumference monitor of working machine
JP2012001995A (en) * 2010-06-18 2012-01-05 Hitachi Constr Mach Co Ltd Monitoring equipment of work machine surrounding
JP2013009267A (en) * 2011-06-27 2013-01-10 Kyushu Electric Power Co Inc Periphery monitoring device

Cited By (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013250601A (en) * 2012-05-30 2013-12-12 Seiko Epson Corp Intrusion detection device, robot system, intrusion detection method, and intrusion detection program
WO2015162801A1 (en) * 2014-04-25 2015-10-29 株式会社小松製作所 Surroundings-monitoring system, work vehicle, and surroundings-monitoring method
WO2015162800A1 (en) * 2014-04-25 2015-10-29 株式会社小松製作所 Surroundings-monitoring system, work vehicle, and surroundings-monitoring method
JP5933004B2 (en) * 2014-04-25 2016-06-08 株式会社小松製作所 Perimeter monitoring system, work vehicle, and perimeter monitoring method
JPWO2015162800A1 (en) * 2014-04-25 2017-04-13 株式会社小松製作所 Perimeter monitoring system, work vehicle, and perimeter monitoring method
JPWO2015162801A1 (en) * 2014-04-25 2017-04-13 株式会社小松製作所 Perimeter monitoring system, work vehicle, and perimeter monitoring method
US9975485B2 (en) 2014-04-25 2018-05-22 Komatsu Ltd. Surroundings monitoring system, work vehicle, and surroundings monitoring method
US10240323B2 (en) 2014-04-25 2019-03-26 Komatsu Ltd. Surroundings monitoring system, work vehicle, and surroundings monitoring method
US10907322B2 (en) 2015-12-28 2021-02-02 Sumitomo(S.H.I.) Construction Machinery Co., Ltd. Shovel
JP2019167821A (en) * 2015-12-28 2019-10-03 住友建機株式会社 Shovel and work site image processing system
JP6999604B2 (en) 2015-12-28 2022-01-18 住友建機株式会社 Excavator and image processing system at work site
US20210010236A1 (en) * 2018-03-26 2021-01-14 Sumitomo Construction Machinery Co., Ltd. Shovel
WO2019210931A1 (en) * 2018-04-30 2019-11-07 Volvo Construction Equipment Ab System and method for selectively displaying image data in a working machine
WO2020054154A1 (en) 2018-09-14 2020-03-19 日立建機株式会社 Work machine
KR20210018451A (en) 2018-09-14 2021-02-17 히다찌 겐끼 가부시키가이샤 Working machine
US11879233B2 (en) 2018-09-14 2024-01-23 Hitachi Construction Machinery Co., Ltd. Work machine
EP3922777A4 (en) * 2019-04-26 2022-11-23 Hitachi Construction Machinery Co., Ltd. Work machine
JP2021017761A (en) * 2019-07-22 2021-02-15 コベルコ建機株式会社 Work machine and work machine supporting server
JP7293939B2 (en) 2019-07-22 2023-06-20 コベルコ建機株式会社 Work machines and work machine support servers
WO2021065814A1 (en) * 2019-09-30 2021-04-08 日立建機株式会社 Area setting assistance system and work vehicle mounting same
WO2021065430A1 (en) * 2019-09-30 2021-04-08 日立建機株式会社 Region-setting system, and work machine in which said region-setting system is installed
JP7321047B2 (en) 2019-09-30 2023-08-04 日立建機株式会社 work vehicle
JP2021055381A (en) * 2019-09-30 2021-04-08 日立建機株式会社 Area setting support system and work vehicle equipped with the same
JP2022042244A (en) * 2020-09-02 2022-03-14 ヤンマーホールディングス株式会社 Work vehicle and notification method
JP7462520B2 (en) 2020-09-02 2024-04-05 ヤンマーホールディングス株式会社 Work vehicle and notification method
WO2022059334A1 (en) * 2020-09-15 2022-03-24 株式会社小松製作所 Work vehicle
WO2022070832A1 (en) * 2020-09-29 2022-04-07 ソニーセミコンダクタソリューションズ株式会社 Information processing system, and information processing method

Also Published As

Publication number Publication date
JP5755578B2 (en) 2015-07-29

Similar Documents

Publication Publication Date Title
JP5755578B2 (en) Ambient monitoring device
JP5755576B2 (en) Driving assistance device
EP3164769B1 (en) Machine safety dome
US11401696B2 (en) Work machine
WO2019111859A1 (en) Surrounding-area monitoring device, information processing terminal, information processing device, and information processing program
US9167214B2 (en) Image processing system using unified images
JP4719590B2 (en) In-vehicle peripheral status presentation device
JP5505702B2 (en) Vehicle periphery monitoring device
JP2018106676A (en) Information processing device, operated vehicle, information processing method, and program
JP2016218732A5 (en)
WO2015198410A1 (en) Outside recognition device
JP5976442B2 (en) Method and system for detecting approaching workers around heavy machinery
JP2008179940A (en) Surrounding monitoring equipment of working machine
JP7058582B2 (en) Work machine
JP6559464B2 (en) Work vehicle ambient monitoring device
WO2012158476A2 (en) Machine display system
JP2020027325A (en) Ship or vehicle navigation system
JP5223563B2 (en) Warning device and warning method
US20170323159A1 (en) Methods Circuits Devices Assemblies Systems and Associated Machine Executable Code For Obstacle Detection
WO2017188230A1 (en) Construction machine
KR20210011609A (en) System for preventing damage of underground facilties from excavating in construction field using gpas-ar technology
AU2010355231A1 (en) Method and control unit for controlling a display of a proximity warning system
US20220067403A1 (en) Visual guidance system and method
JP2009110037A (en) Vehicle guidance device, vehicle guidance method, and vehicle guidance program
JP2020139312A (en) Worker detection device, worker detection method, and worker detection program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150527

R150 Certificate of patent or registration of utility model

Ref document number: 5755578

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150