JP2013159930A - Periphery monitoring device - Google Patents
Periphery monitoring device Download PDFInfo
- Publication number
- JP2013159930A JP2013159930A JP2012021275A JP2012021275A JP2013159930A JP 2013159930 A JP2013159930 A JP 2013159930A JP 2012021275 A JP2012021275 A JP 2012021275A JP 2012021275 A JP2012021275 A JP 2012021275A JP 2013159930 A JP2013159930 A JP 2013159930A
- Authority
- JP
- Japan
- Prior art keywords
- warning
- marker
- monitoring
- restriction target
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
Description
本発明は、作業機械の周囲を監視する周囲監視装置に関し、特に、作業機械と物体とが接近した場合に警告を出力する周囲監視装置に関する。 The present invention relates to a surrounding monitoring device that monitors the surroundings of a work machine, and more particularly, to a surrounding monitoring device that outputs a warning when a working machine and an object approach each other.
従来、建設機械の周囲に設定された監視領域内に障害物が入った場合に警報を発し、且つ、障害物が建設機械に接触した場合に建設機械を停止させる監視装置が知られている(例えば、特許文献1参照。)。
Conventionally, a monitoring device that issues an alarm when an obstacle enters a monitoring area set around the construction machine and stops the construction machine when the obstacle comes into contact with the construction machine is known ( For example, see
また、作業機械の周囲の障害物が静止障害物であるか移動障害物であるかを判定し、静止障害物に対応する画像と移動障害物に対応する画像とを異なる形態で表示用モニタに表示する周囲監視装置が知られている(例えば、特許文献2参照。)。この周囲監視装置は、作業機械の周囲に設定された警報範囲内に移動障害物が入った場合に警報を発するように構成されている。 Also, it is determined whether the obstacle around the work machine is a stationary obstacle or a moving obstacle, and the image corresponding to the stationary obstacle and the image corresponding to the moving obstacle are displayed in different forms on the display monitor. A surrounding monitoring device for displaying is known (for example, see Patent Document 2). This surrounding monitoring apparatus is configured to issue an alarm when a moving obstacle enters within an alarm range set around the work machine.
しかしながら、特許文献1の監視装置は、障害物がどのようなものであっても、監視領域内に入りさえすれば警報を発してしまう。
However, the monitoring device of
同様に、特許文献2の周囲監視装置は、警報範囲内に移動障害物が入った場合には、移動障害物がどのようなものであったとしても、警報範囲内に入りさえすれば警報を発してしまう。
Similarly, the surroundings monitoring device disclosed in
このように、特許文献1及び2に記載の装置は何れも、操作者が障害物の存在を既に知っていたとしてもその障害物が接近すれば常に警報を発してしまい、操作者に煩わしさを感じさせてしまう。
As described above, both of the devices described in
上述の点に鑑み、本発明は、特定の物体が作業機械に接近した場合とそれ以外の物体が作業機械に接近した場合とで警告の出力態様を変えられる周囲監視装置を提供することを目的とする。 SUMMARY OF THE INVENTION In view of the above, an object of the present invention is to provide a surrounding monitoring device that can change a warning output mode when a specific object approaches a work machine and when another object approaches the work machine. And
上述の目的を達成するために、本発明の実施例に係る周囲監視装置は、作業機械の周囲を監視する周囲監視装置であって、前記作業機械に搭載される、前記作業機械の周囲に設定される監視領域内の物体を検知する物体検知装置の検知結果と、前記作業機械に搭載される撮像装置が撮像する画像内の、作業現場におけるマーカーに対応するマーカー画像とに基づいて、前記監視領域内の物体が警告制限対象物であるか否かを判定する警告制限対象物当否判定部と、前記監視領域内の物体が警告制限対象物であるか否かに応じて警告の出力態様を制御する警告出力制御部と、を備えることを特徴とする。 In order to achieve the above object, an ambient monitoring device according to an embodiment of the present invention is an ambient monitoring device that monitors the surroundings of a work machine, and is set around the work machine that is mounted on the work machine. Monitoring based on a detection result of an object detection device that detects an object in a monitored area and a marker image corresponding to a marker at a work site in an image captured by an imaging device mounted on the work machine A warning restriction target object determination unit that determines whether or not an object in the area is a warning restriction target; and a warning output mode according to whether or not the object in the monitoring area is a warning restriction target. A warning output control unit for controlling.
上述の手段により、本発明は、特定の物体が作業機械に接近した場合とそれ以外の物体が作業機械に接近した場合とで警告の出力態様を変えられる周囲監視装置を提供することができる。 According to the above-described means, the present invention can provide a surrounding monitoring device that can change a warning output mode when a specific object approaches the work machine and when another object approaches the work machine.
以下、図面を参照しつつ、本発明を実施するための最良の形態の説明を行う。 Hereinafter, the best mode for carrying out the present invention will be described with reference to the drawings.
図1は、本発明の実施例に係る周囲監視装置が搭載される作業機械であるショベル50の構成例を示す概略図である。ショベル50の下部走行体1には、旋回機構2を介して上部旋回体3が搭載される。上部旋回体3には、ブーム4が取り付けられ、ブーム4の先端には、アーム5が取り付けられ、アーム5の先端には、バケット6が取り付けられる。ブーム4、アーム5、及びバケット6は、掘削アタッチメントを構成し、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9によりそれぞれ油圧駆動される。また、上部旋回体3には、キャビン10が設けられ、且つエンジン等の動力源が搭載される。さらに、上部旋回体3には、ショベル50の向きに関する向き情報を取得する向き情報取得装置22、ショベル50の周囲を撮像する撮像装置24、及び、ショベル50の周囲に存在する物体を検知する物体検知装置25が搭載される。また、キャビン10の内部には、制御装置20、記憶装置26、表示装置27、及び音声出力装置28が搭載され、キャビン10の天井部には、本体位置情報取得装置21が搭載される。なお、制御装置20、本体位置情報取得装置21、向き情報取得装置22、撮像装置24、物体検知装置25、記憶装置26、表示装置27、及び音声出力装置28の詳細は後述する。
FIG. 1 is a schematic diagram illustrating a configuration example of an
図2は、本発明の実施例に係る周囲監視装置100の構成を示す機能ブロック図である。周囲監視装置100は、制御装置20を含み、本体位置情報取得装置21、向き情報取得装置22、撮像装置24、物体検知装置25、記憶装置26、表示装置27、及び音声出力装置28に接続される。
FIG. 2 is a functional block diagram showing a configuration of the surroundings monitoring
制御装置20は、周囲監視装置100の動作を制御する装置であり、例えば、CPU、RAM、ROM等を備えるコンピュータである。具体的には、制御装置20は、マーカー認識部200、マーカー解読部201、警告制限対象物当否判定部202、及び警告出力制御部203の各機能要素に対応するプログラムをROMから読み出してRAMにロードし、各機能要素に対応する処理をCPUに実行させる。
The
本体位置情報取得装置21は、作業機械本体の位置に関する本体位置情報を取得する装置である。本実施例では、本体位置情報取得装置21は、GPS(Global Positioning System)受信機によりGPSアンテナを介してGPS衛星が出力する信号を受信して本体位置情報(例えば、緯度、経度、高度である。)を測位・演算するGPS装置である。具体的には、本体位置情報取得装置21は、ショベル50の天井部に搭載されるGPS装置であり、例えば、ショベル50の基準位置(例えば、旋回中心である。)に対応する本体位置情報を取得し、取得した本体位置情報を制御装置20に対して出力する。
The main body position
向き情報取得装置22は、作業機械の向きに関する向き情報を取得する装置である。本実施例では、向き情報取得装置22は、掘削アタッチメントが位置する側を前側としてショベル50の向き(方位)を取得する地磁気センサであり、検出した向き情報を制御装置20に対して出力する。
The orientation
また、向き情報取得装置22は、本体位置情報取得装置21としてのGPS装置の設置位置とは異なるショベル50上の位置に搭載される別のGPS装置であってもよい。2つのGPS装置のそれぞれが取得する位置情報に基づいてショベル50の向きを特定できるためである。
Further, the orientation
撮像装置24は、作業機械の周囲を撮像する装置であり、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えたカメラである。本実施例では、撮像装置24は、ショベル50の左側方を撮像する左側方カメラ24L、ショベル50の右側方を撮像する右側方カメラ24R、及び、ショベル50の後方を撮像する後方カメラ24Bを含む。撮像装置24は、撮像した画像(以下、「周囲画像」とする。)を制御装置20に対して出力する。
The
物体検知装置25は、作業機械の周囲に存在する物体を検知する装置であり、例えば、レーザーレンジファインダ、超音波センサ、ミリ波センサ等である。本実施例では、物体検知装置25は、ショベル50の左側方に存在する物体を検知する左側方レーザレンジファインダ25L、及び、ショベル50の右側方に存在する物体を検知する右側方レーザレンジファインダ25Rを含む。なお、物体検知装置25は、ショベル50の後方に存在する物体を検知する後方レーザレンジファインダを含んでいてもよい。
The
図3は、物体検知装置25の監視領域A1を示す図である。図3の点線で示すように、左側方レーザレンジファインダ25Lは、ショベル50の左側方に左側方監視領域A1Lを有し、右側方レーザレンジファインダ25Rは、ショベル50の右側方に右側方監視領域A1Rを有する。
FIG. 3 is a diagram showing the monitoring area A1 of the
記憶装置26は、各種情報を記憶するための装置であり、例えば、ハードディスク、光学ディスク、又は半導体メモリ等を含む。本実施例では、記憶装置26は、キャビン10内に設置される半導体メモリである。
The
表示装置27は、各種情報を表示する装置であり、例えば、液晶ディスプレイ、LED等を含む。本実施例では、表示装置27は、キャビン10内に設置される液晶ディスプレイである。
The
音声出力装置28は、各種情報を音声出力する装置であり、例えば、スピーカ、ブザー等を含む。本実施例では、音声出力装置28は、キャビン10内に設置されるスピーカである。
The
次に、制御装置20における各種機能要素について説明する。
Next, various functional elements in the
マーカー認識部200は、作業現場におけるマーカーに対応するマーカー画像を認識する機能要素である。
The
「マーカー」とは、所定の幾何学的な形状又は模様を有する物体であり、例えば、AR(Augmented Reality)技術で用いられるARマーカー、QRコード(登録商標)等の二次元コードを含む。 The “marker” is an object having a predetermined geometric shape or pattern, and includes, for example, an AR marker used in AR (Augmented Reality) technology and a two-dimensional code such as a QR code (registered trademark).
また、マーカーは、作業現場の所定位置に固定的に設置される。マーカーは、例えば、建造物の壁面に貼り付けられてもよく、作業現場に設置される杭の頂部に取り付けられてもよく、或いは、表面を露出させながら地面に埋め込まれてもよい。 The marker is fixedly installed at a predetermined position on the work site. A marker may be affixed on the wall surface of a building, for example, may be attached to the top of a pile installed at a work site, or may be embedded in the ground while exposing the surface.
具体的には、マーカー認識部200は、パターンマッチング等の画像処理技術を用いて、撮像装置24が撮像した周囲画像における、マーカーに対応するマーカー画像を認識する。
Specifically, the
また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、撮像装置24とマーカーとの間の距離を算出し、認識したマーカー画像の周囲画像内における位置に基づいて、撮像装置24から見たマーカーの方向を算出する。この場合、マーカーは、所定の大きさを有する。
The
マーカー解読部201は、マーカー認識部200が認識したマーカー画像が表す内容を解読する機能要素である。
The
マーカー画像が表す内容は、例えば、マーカーが貼り付けられた物体に関する情報、マーカーが定める所定領域に関する情報等を含む。 The content represented by the marker image includes, for example, information on the object on which the marker is pasted, information on a predetermined area defined by the marker, and the like.
マーカーが貼り付けられた物体に関する情報は、例えば、その物体が警告制限対象物であることを表す情報を含む。「警告制限対象物」とは、作業機械との接触を防止するための警告の出力態様が、その他の物体(以下、「警告対象物」とする。)に関する警告の出力態様と異なる物体である。具体的には、周囲監視装置100は、ショベル50と警告対象物との間の距離が閾値以下となった場合、すなわち警告対象物が物体検知装置25の監視領域A1に入った場合に警告を出力する。これに対し、周囲監視装置100は、ショベル50と警告制限対象物との間の距離が閾値以下となった場合、すなわち警告制限対象物が物体検知装置25の監視領域A1に入った場合であっても警告の出力を禁止する。
The information regarding the object on which the marker is pasted includes, for example, information indicating that the object is a warning restriction target. “Warning restriction target object” is an object in which a warning output mode for preventing contact with a work machine is different from a warning output mode regarding other objects (hereinafter referred to as “warning target”). . Specifically, the
マーカーが定める所定領域に関する情報は、例えば、所定領域を定めるのに用いられるマーカーの数、所定領域の位置情報(例えば緯度及び経度で表される情報である。)、所定領域の大きさ、高さ、又は深さ、所定領域が設定される時間帯又は有効期限等を含む。なお、所定領域は、例えば、警報禁止領域、警報制限領域等を含む。警報禁止領域は、その領域内にある物体と作業機械との間の距離が閾値以下となっても、すなわち物体が物体検知装置25の監視領域A1に入ったとしても警告の出力が禁止されるようにする領域である。また、警報制限領域は、その領域内にある物体と作業機械との間の距離が、通常の閾値より小さい閾値以下となった場合に限り警告が出力されるようにする領域である。
The information related to the predetermined area defined by the marker includes, for example, the number of markers used to define the predetermined area, position information of the predetermined area (for example, information expressed by latitude and longitude), the size of the predetermined area, and the height Or a depth, a time zone in which a predetermined area is set, an expiration date, or the like. The predetermined area includes, for example, an alarm prohibition area, an alarm restriction area, and the like. In the alarm prohibition area, even if the distance between the object in the area and the work machine is equal to or smaller than the threshold, that is, even if the object enters the monitoring area A1 of the
具体的には、マーカー解読部201は、記憶装置26に予め記憶された、マーカー画像とそのマーカー画像が表す内容との対応関係を保持するテーブルを参照し、認識されたマーカー画像が表す内容を解読する。
Specifically, the
また、マーカー解読部201は、解読した内容を随時読み出し可能に記憶装置26に記憶する。マーカー画像を繰り返し認識・解読することなく、後述の警告制限対象物当否判定部202による判定が行われるようにするためである。具体的には、マーカー解読部201は、マーカーが貼り付けられた物体の位置及び範囲に関する情報、警報禁止領域の位置及び範囲に関する情報、警報制限領域の位置及び範囲に関する情報等を随時読み出し可能に記憶装置26に記憶する。なお、マーカー解読部201は、解読した内容の記憶装置26への記憶を省略してもよい。警告制限対象物当否判定部202による判定が行われる度に、マーカー画像の認識・解読が行われるようにするためである。
Further, the
なお、マーカー解読部201は、1つのマーカー画像に基づいて1つの内容を解読してもよく、複数のマーカー画像の組み合わせに基づいて1つの内容を解読してもよい。
The
警告制限対象物当否判定部202は、物体検知装置25の監視領域A1に入った物体が警告制限対象物であるか警告対象物であるかを判定する機能要素である。
The warning restriction target
具体的には、警告制限対象物当否判定部202は、物体検知装置25により監視領域A1内で物体が検知された場合に、マーカー解読部201が出力する解読結果に基づいて、或いは、マーカー解読部201が記憶装置26に記憶した解読結果に基づいて、その物体が警告制限対象物であるか否かを判定する。警告制限対象物当否判定部202は、例えば、物体検知装置25が検知した物体の位置と、マーカー解読部201が解読したマーカーの位置とが一致する場合にその物体が警告制限対象物であると判定する。或いは、警告制限対象物当否判定部202は、物体検知装置25が検知した物体の位置が、マーカー解読部201が解読した警告禁止領域又は警告制限領域に含まれる場合に、その物体が警告制限対象物であると判定する。
Specifically, the warning restriction target
検知された物体が警告制限対象物でない、すなわち警告対象物であると判定した場合、警告制限対象物当否判定部202は、所定の制御信号(以下、「警告許可信号」とする。)を警告出力制御部203に対して出力する。音声出力装置28に警告を出力させるための制御信号(以下、「警告信号」とする。)を警告出力制御部203が音声出力装置28に対して出力できるようにするためである。
When it is determined that the detected object is not a warning restriction target, that is, a warning target, the warning restriction target
一方、検知された物体が警告制限対象物であると判定した場合、警告制限対象物当否判定部202は、警告許可信号を警告出力制御部203に対して出力しない。警告出力制御部203が警告信号を音声出力装置28に対して出力しないようにするためである。
On the other hand, when it is determined that the detected object is a warning restriction target, the warning restriction target
或いは、警告制限対象物当否判定部202は、検知された物体が警告制限対象物であると判定した場合に所定の制御信号(以下、「警告禁止信号」とする。)を警告出力制御部203に対して出力してもよい。音声出力装置28に警告を出力させるための制御信号(以下、「警告信号」とする。)を警告出力制御部203が音声出力装置28に対して出力できないようにするためである。この場合、警告制限対象物当否判定部202は、検知された物体が警告制限対象物でないと判定した場合には、警告禁止信号を警告出力制御部203に対して出力しない。警告出力制御部203が警告信号を音声出力装置28に対して出力できるようにするためである。
Alternatively, when the warning restriction target
或いは、警告制限対象物当否判定部202は、検知された物体が警告制限対象物であると判定した場合に警告禁止信号を警告出力制御部203に対して出力し、検知された物体が警告制限対象物でないと判定した場合に警告許可信号を警告出力制御部203に対して出力してもよい。
Alternatively, the warning restriction target
警告出力制御部203は、警告制限対象物当否判定部202の判定結果に応じて警告の出力態様を制御する機能要素である。
The warning
具体的には、警告出力制御部203は、警告制限対象物当否判定部202から警告許可信号を受信した場合に、音声出力装置28に対して警告信号を出力する。一方、警告出力制御部203は、警告制限対象物当否判定部202から警告許可信号を受信しない場合、音声出力装置28に対して警告信号を出力しない。監視領域A1の物体が警告制限対象物のためである。
Specifically, the warning
或いは、警告出力制御部203は、警告制限対象物当否判定部202から警告禁止信号を受信した場合に、警告信号の出力を禁止し、警告禁止信号を受信しない場合に、警告信号を出力してもよい。
Alternatively, the warning
或いは、警告出力制御部203は、警告制限対象物当否判定部202から警告禁止信号を受信した場合に警告信号の出力を禁止し、警告許可信号を受信した場合に警告信号を出力してもよい。
Alternatively, the warning
次に、図4を参照しながら、周囲監視装置100がショベル50の周囲を監視する処理(以下、「第一周囲監視処理」とする。)について説明する。なお、図4は、第一周囲監視処理の流れを示すフローチャートであり、周囲監視装置100は、この第一周囲監視処理を所定周期で繰り返し実行する。
Next, a process in which the
最初に、周囲監視装置100の制御装置20は、物体検知装置25の出力に基づいて監視領域A1内で物体が検知されたか否かを判定する(ステップS1)。
First, the
監視領域A1内で物体が検知されたと制御装置20が判定した場合(ステップS1のYES)、制御装置20の警告制限対象物当否判定部202は、その物体が警告制限対象物であるか否かを判定する(ステップS2)。
When the
監視領域A1内で検知された物体が警告制限対象物であると判定した場合(ステップS2のYES)、警告制限対象物当否判定部202は、制御装置20の警告出力制御部203に対して警告禁止信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力しないようにする。
When it is determined that the object detected in the monitoring area A1 is a warning restriction target (YES in Step S2), the warning restriction target
このように、監視領域A1に入った物体が警告制限対象物であるため、警告出力制御部203は、音声出力装置28による警告の出力を禁止する(ステップS3)。
As described above, since the object that has entered the monitoring area A1 is a warning restriction target, the warning
一方、監視領域A1内で検知された物体が警告制限対象物でない、すなわち警告対象物であると判定した場合(ステップS2のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。
On the other hand, when it is determined that the object detected in the monitoring area A1 is not a warning restriction target, that is, a warning target (NO in Step S2), the warning restriction target
このように、監視領域A1に入った物体が警告対象物であるため、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS4)。
Thus, since the object that entered the monitoring area A1 is a warning object, the warning
次に、図5及び図6を参照しながら、監視領域A1に入った物体が警告制限対象物であるか否かを周囲監視装置100が判定する処理(以下、「第一判定処理」とする。)について説明する。なお、図5は、第一判定処理の流れを示すフローチャートであり、周囲監視装置100は、物体検知装置25により監視領域A1内で物体が検知された場合に、この第一判定処理を実行する。また、図6は、周囲監視装置100が第一判定処理を実行する際の作業現場の状況を示す図である。図6に示すように、作業現場には、マーカーMK1が貼り付けられた物体OB1と、マーカーが貼り付けられていない物体OB2とが存在する。また、マーカーMK1の模様は、マーカーMK1の位置から所定の距離範囲内にある物体、すなわち物体OB1が警告制限対象物であることを表す二次元コードを構成する。また、図6(A)は、左側方監視領域A1Lに物体OB1が入った状態を示し、図6(B)は、右側方監視領域A1Rに物体OB2が入った状態を示す。
Next, referring to FIG. 5 and FIG. 6, a process (hereinafter referred to as “first determination process”) in which the
最初に、制御装置20のマーカー認識部200は、撮像装置24が出力する周囲画像内における、マーカーMK1に対応するマーカー画像の認識を試みる(ステップS11)。具体的には、マーカー認識部200は、パターンマッチングにより、周囲画像内に含まれるマーカー画像を認識する。
First, the
また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、ショベル50の基準位置とマーカーMK1との間の距離を算出する。また、マーカー認識部200は、認識したマーカー画像の周囲画像内における位置に基づいて、ショベル50の基準位置から見たマーカーMK1の方向を算出する。さらに、マーカー認識部200は、算出した距離及び方向と、本体位置情報取得装置21及び向き情報取得装置22のそれぞれの出力とに基づいて、マーカーMK1の位置に関する情報(例えば緯度及び経度で表される二次元座標、又は、緯度、経度、及び高度で表される三次元座標である。)を算出する。
The
マーカー認識部200がマーカー画像を認識した場合(ステップS11のYES)、制御装置20におけるマーカー解読部201は、マーカー画像が表す内容を解読する。具体的には、マーカー解読部201は、マーカーMK1に対応するマーカー画像によって、マーカーMK1から所定の距離範囲内にある物体を警告制限対象物とする内容を解読する。なお、マーカーMK1は、自身の位置に関する情報(例えば、緯度及び経度によって表される二次元座標、又は、緯度、経度、及び高度で表される三次元座標である。)を有していてもよい。その場合、マーカー認識部200は、ショベル50の基準位置とマーカーMK1との間の距離、ショベル50の基準位置から見たマーカーMK1の方向、マーカーMK1の位置に関する情報等を算出する必要はない。
When the
ここで、警告制限対象物当否判定部202は、物体検知装置25が検知した物体の位置と、マーカー認識部201が認識したマーカーMK1の位置とを比較する(ステップS12)。
Here, the warning restriction target
検知した物体の位置とマーカーMK1の位置とが一致する場合(ステップS12のYES)、すなわち、図6(A)に示す状態では、警告制限対象物当否判定部202は、物体OB1を警告制限対象物であると判定する(ステップS13)。
When the detected position of the object matches the position of the marker MK1 (YES in step S12), that is, in the state shown in FIG. 6A, the warning restriction target
なお、「検知した物体の位置とマーカーの位置とが一致する場合」は、検知した物体の座標(例えばショベル50との間の距離が最小となる物体上の点に対応する座標である。)が、マーカーが定める座標範囲内にある場合を含む。 Note that “when the position of the detected object matches the position of the marker” is the coordinates of the detected object (for example, the coordinates corresponding to the point on the object that minimizes the distance to the excavator 50). Is within the coordinate range defined by the marker.
一方、マーカー認識部200がマーカー画像を認識しない場合(ステップS11のNO)、或いは、検知した物体の位置とマーカーMK1の位置とが一致しない場合(ステップS12のYES)、すなわち、図6(B)に示す状態では、警告制限対象物当否判定部202は、物体OB2を警告対象物であると判定する(ステップS14)。
On the other hand, when the
以上の構成により、周囲監視装置100は、マーカーMK1を用いて予め定められる警告制限対象物を認識することによって、警告制限対象物がショベル50に接近した場合と警告対象物がショベル50に接近した場合とで警告の出力態様を変えることができる。その結果、周囲監視装置100は、例えば、既知の障害物を警告の対象外とすることで、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止することができ、操作者が煩わしさを感じるのを防止することができる。
With the above configuration, the
次に、図7及び図8を参照しながら、監視領域A1に入った物体が警告制限対象物であるか否かを周囲監視装置100が判定する別の処理(以下、「第二判定処理」とする。)について説明する。なお、図7は、第二判定処理の流れを示すフローチャートであり、周囲監視装置100は、監視領域A1内で物体が検知された場合に、この第二判定処理を実行する。また、図8は、周囲監視装置100が第二判定処理を実行する際の作業現場の状況を示す図である。図8に示すように、作業現場には、マーカーMK11〜MK15が固定的に設置されている。マーカーMK11〜MK15は、隣接するマーカー同士を結ぶ想像線によって、図8の斜線ハッチングで示す警告禁止領域を定める。なお、マーカーMK11〜MK15のそれぞれは、同じ大きさ及び同じ模様を有し、その模様は、特定数のマーカーによって警告禁止領域が定められていることを表す二次元コードを構成する。また、図8(A)は、左側方監視領域A1Lに物体OB1が入った状態を示し、図8(B)は、右側方監視領域A1Rに物体OB2が入った状態を示す。
Next, referring to FIG. 7 and FIG. 8, another process (hereinafter, “second determination process”) in which the
最初に、マーカー認識部200は、撮像装置24が出力する周囲画像内における、マーカーMK11〜MK15のそれぞれに対応する未認識のマーカー画像の認識を試みる(ステップS21)。具体的には、マーカー認識部200は、パターンマッチングにより、周囲画像内に含まれるマーカー画像を認識する。
First, the
また、マーカー認識部200は、認識したマーカー画像の大きさに基づいて、ショベル50の基準位置とマーカーMK11〜MK15のそれぞれとの間の距離を算出する。また、マーカー認識部200は、認識したマーカー画像の周囲画像内における位置に基づいて、ショベル50の基準位置から見たマーカーMK11〜MK15のそれぞれの方向を算出する。さらに、マーカー認識部200は、算出した距離及び方向と、本体位置情報取得装置21及び向き情報取得装置22のそれぞれの出力とに基づいて、マーカーMK11〜MK15のそれぞれの位置に関する情報を算出する。
Further, the
マーカー認識部200が未認識のマーカー画像を認識した場合(ステップS21のYES)、制御装置20におけるマーカー解読部201は、マーカー画像が表す内容を解読する(ステップS22)。具体的には、マーカー解読部201は、マーカーMK11〜MK15のそれぞれに対応する5つのマーカー画像によって警告禁止領域が定められるとの内容を解読する。
When the
その後、マーカー解読部201は、警告禁止領域に関する情報を随時読み出し可能に記憶装置26に記憶する。例えば、マーカー解読部201は、算出されたマーカーMK11〜MK15のそれぞれの位置に関する情報を用いて定められる警告禁止領域を記憶装置26に記憶する。なお、マーカーMK11〜MK15のそれぞれが警告禁止領域の位置及び範囲に関する情報を保持する場合、マーカー解読部201は、その情報をそのまま記憶装置26に記憶すればよい。その場合、マーカー認識部200は、ショベル50の基準位置とマーカーMK11〜MK15のそれぞれとの間の距離、ショベル50の基準位置から見たマーカーMK11〜MK15のそれぞれの方向、マーカーMK11〜MK15のそれぞれの位置に関する情報等を算出する必要はない。
Thereafter, the
なお、マーカー認識部200が未認識のマーカー画像を認識しない場合(ステップS21のNO)、周囲監視装置100は、ステップS22及びステップS23を実行することなく、以下のステップS24を実行する。
When the
その後、制御装置20は、記憶装置26を参照して警告禁止領域が設定されているか否かを判定する(ステップS24)。
Thereafter, the
制御装置20により警告禁止領域が設定されていると判定された場合(ステップS24のYES)、警告制限対象物当否判定部202は、物体検知装置25が検知した物体が警告禁止領域内に存在するか否かを判定する(ステップS25)。
When it is determined by the
検知した物体が警告禁止領域内に存在すると判定した場合(ステップS25のYES)、すなわち、図8(A)に示す状態では、警告制限対象物当否判定部202は、物体OB1を警告制限対象物であると判定する(ステップS26)。
When it is determined that the detected object exists in the warning prohibited area (YES in step S25), that is, in the state illustrated in FIG. 8A, the warning restriction target
一方、制御装置20により警告禁止領域が設定されていないと判定された場合(ステップS24のNO)、或いは、検知した物体が警告禁止領域内に存在しないと判定した場合(ステップS25のNO)、すなわち、図8(B)に示す状態では、警告制限対象物当否判定部202は、物体OB2を警告対象物であると判定する(ステップS27)。
On the other hand, when it is determined by the
なお、上述の実施例では、複数のマーカーによって警告禁止領域が設定されているが、1つのマーカーによって警告禁止領域が設定されてもよい。 In the above-described embodiment, the warning prohibited area is set by a plurality of markers, but the warning prohibited area may be set by one marker.
以上の構成により、周囲監視装置100は、マーカーMK11〜MK15を用いて予め定められる警告禁止領域を認識することによって、警告禁止領域内の物体がショベル50に接近した場合と、警告禁止領域外の物体がショベル50に接近した場合とで警告の出力態様を変えることができる。その結果、周囲監視装置100は、例えば、既知の障害物を警告の対象外とすることで、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止することができ、操作者が煩わしさを感じるのを防止することができる。
With the above configuration, the
次に、図9及び図10を参照しながら、周囲監視装置100がショベル50の周囲を監視する別の処理(以下、「第二周囲監視処理」とする。)について説明する。なお、図9は、第二周囲監視処理の流れを示すフローチャートであり、周囲監視装置100は、この第二周囲監視処理を所定周期で繰り返し実行する。また、図10は、図8(A)に対応し、周囲監視装置100が第二周囲監視処理を実行する際の作業現場の状況を示す。図10に示すように、作業現場には、マーカーMK11〜MK15が固定的に設置されている。マーカーMK11〜MK15は、隣接するマーカー同士を結ぶ想像線によって、図10の斜線ハッチングで示す警告禁止領域を定める。なお、マーカーMK11〜MK15のそれぞれは、同じ大きさ及び同じ模様を有し、その模様は、特定数のマーカーによって警告禁止領域が定められていることを表す二次元コードを構成する。また、図10に示すように、監視領域A1の内部には、物体検知装置25による別の監視領域である第二監視領域A2が設定されている。具体的には、左側方監視領域A1Lの内部には、第二左側方監視領域A2Lが設定され、右側方監視領域A1Lの内部には、第二右側方監視領域A2Rが設定されている。なお、図10は、第二左側方監視領域A2Lに物体OB1が入った状態を示す。
Next, another process in which the
最初に、制御装置20は、物体検知装置25の出力に基づいて監視領域A1内で物体が検知されたか否かを判定する(ステップS31)。
First, the
監視領域A1内で物体が検知されたと制御装置20が判定した場合(ステップS31のYES)、警告制限対象物当否判定部202は、その物体が警告制限対象物であるか否かを判定する(ステップS32)。
When the
監視領域A1内で検知された物体が警告制限対象物であると判定した場合(ステップS32のYES)、警告制限対象物当否判定部202は、その物体が第二監視領域A2内に存在するか否かを判定する(ステップS33)。
When it is determined that the object detected in the monitoring area A1 is a warning restriction target (YES in step S32), the warning restriction target
物体検知装置25が検知した物体が第二監視領域A2内に存在すると判定した場合(ステップS33のYES)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。この場合、第二監視領域A2内に入った物体が警告制限対象物であったとしても、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS34)。
When it is determined that the object detected by the
また、監視領域A1内で検知された物体が警告制限対象物でないと判定した場合にも(ステップS32のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力し、警告出力制御部203が音声出力装置28に対して警告信号を出力できるようにする。このようにして、警告出力制御部203は、音声出力装置28による警告の出力を許可する(ステップS34)。
Even when it is determined that the object detected in the monitoring area A1 is not a warning restriction target (NO in step S32), the warning restriction target
一方、監視領域A1内で物体が検知されていないと制御装置20が判定した場合(ステップS31のNO)、或いは、警告制限対象物が未だ第二監視領域A2内にないと判定した場合には(ステップS33のNO)、警告制限対象物当否判定部202は、警告出力制御部203に対して警告許可信号を出力せず、警告出力制御部203が音声出力装置28に対して警告信号を出力しないようにする。その結果、警告出力制御部203は、音声出力装置28による警告の出力を禁止する。
On the other hand, when the
以上の構成により、周囲監視装置100は、監視範囲A1内で検知した物体が警告制限対象物であっても、その警告制限対象物が第二監視領域A2に入った場合には警告を出力する。このように、周囲監視装置100は、例えば、既知の障害物であるにもかかわらず警告が頻繁に出力されてしまうのを防止しながらも、その既知の障害物がさらに接近した場合には警告を出力する。その結果、操作者が煩わしさを感じるのを防止しながらも、その既知の障害物がショベル50に接触するのを防止することができる。
With the above configuration, the
以上、本発明の好ましい実施例について詳説したが、本発明は、上述した実施例に制限されることはなく、本発明の範囲を逸脱することなしに上述した実施例に種々の変形及び置換を加えることができる。 Although the preferred embodiments of the present invention have been described in detail above, the present invention is not limited to the above-described embodiments, and various modifications and substitutions can be made to the above-described embodiments without departing from the scope of the present invention. Can be added.
例えば、上述の実施例において、警告制限対象物や警告禁止領域は、マーカーを用いて予め設定されるが、表示装置27と入力装置(図示せず。)を用いて動的に設定されてもよい。具体的には、操作者は、表示装置27と入力装置とを兼ねるタッチパネルを用いて、タッチパネル上に表示される周囲画像の一部領域を選択することによって、警告制限対象物や警告禁止領域を設定してもよい。
For example, in the above-described embodiment, the warning restricted object and the warning prohibited area are set in advance using a marker, but may be set dynamically using a
1・・・下部走行体 2・・・旋回機構 3・・・上部旋回体 4・・・ブーム 5・・・アーム 6・・・バケット 7・・・ブームシリンダ 8・・・アームシリンダ 9・・・バケットシリンダ 10・・・キャビン 20・・・制御装置 21・・・本体位置情報取得装置 22・・・向き情報取得装置 24・・・撮像装置 24L・・・左側方カメラ 24R・・・右側方カメラ 24B・・・後方カメラ 25・・・物体検知装置 25L・・・左側方超音波センサ 25R・・・右側方超音波センサ 26・・・記憶装置 27・・・表示装置 28・・・音声出力装置 50・・・ショベル 100・・・周囲監視装置 200・・・マーカー認識部 201・・・マーカー解読部 202・・・警告制限対象物当否判定部 203・・・警告出力制御部
DESCRIPTION OF
Claims (5)
前記作業機械に搭載される、前記作業機械の周囲に設定される監視領域内の物体を検知する物体検知装置の検知結果と、前記作業機械に搭載される撮像装置が撮像する画像内の、作業現場におけるマーカーに対応するマーカー画像とに基づいて、前記監視領域内の物体が警告制限対象物であるか否かを判定する警告制限対象物当否判定部と、
前記監視領域内の物体が警告制限対象物であるか否かに応じて警告の出力態様を制御する警告出力制御部と、
を備えることを特徴とする周囲監視装置。 A surrounding monitoring device for monitoring the surroundings of a work machine,
Work in a detection result of an object detection device that detects an object in a monitoring area set around the work machine and mounted on the work machine, and an image captured by an image pickup device mounted on the work machine Based on a marker image corresponding to a marker in the field, a warning restriction target object determination unit that determines whether or not the object in the monitoring region is a warning restriction target;
A warning output control unit that controls a warning output mode according to whether or not an object in the monitoring region is a warning restriction target; and
An ambient monitoring device comprising:
ことを特徴とする請求項1に記載の周囲監視装置。 The warning output control unit prohibits warning output when an object in the monitoring area is a warning restriction target;
The surroundings monitoring device according to claim 1, wherein:
ことを特徴とする請求項1又は2に記載の周囲監視装置。 The warning output control unit outputs a warning when a warning restriction target object is included in a predetermined area closer to the work machine included in the monitoring area.
The surrounding monitoring apparatus according to claim 1 or 2, wherein
ことを特徴とする請求項1乃至3の何れか一項に記載の周囲監視装置。 The warning restriction target is an object to which the marker is attached.
The surroundings monitoring device according to any one of claims 1 to 3 characterized by things.
ことを特徴とする請求項1乃至3の何れか一項に記載の周囲監視装置。 The warning restriction target is an object that exists in an area defined by the marker.
The surroundings monitoring device according to any one of claims 1 to 3 characterized by things.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012021275A JP5755578B2 (en) | 2012-02-02 | 2012-02-02 | Ambient monitoring device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012021275A JP5755578B2 (en) | 2012-02-02 | 2012-02-02 | Ambient monitoring device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013159930A true JP2013159930A (en) | 2013-08-19 |
JP5755578B2 JP5755578B2 (en) | 2015-07-29 |
Family
ID=49172433
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012021275A Active JP5755578B2 (en) | 2012-02-02 | 2012-02-02 | Ambient monitoring device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5755578B2 (en) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013250601A (en) * | 2012-05-30 | 2013-12-12 | Seiko Epson Corp | Intrusion detection device, robot system, intrusion detection method, and intrusion detection program |
WO2015162801A1 (en) * | 2014-04-25 | 2015-10-29 | 株式会社小松製作所 | Surroundings-monitoring system, work vehicle, and surroundings-monitoring method |
WO2015162800A1 (en) * | 2014-04-25 | 2015-10-29 | 株式会社小松製作所 | Surroundings-monitoring system, work vehicle, and surroundings-monitoring method |
JP2019167821A (en) * | 2015-12-28 | 2019-10-03 | 住友建機株式会社 | Shovel and work site image processing system |
WO2019210931A1 (en) * | 2018-04-30 | 2019-11-07 | Volvo Construction Equipment Ab | System and method for selectively displaying image data in a working machine |
WO2020054154A1 (en) | 2018-09-14 | 2020-03-19 | 日立建機株式会社 | Work machine |
US20210010236A1 (en) * | 2018-03-26 | 2021-01-14 | Sumitomo Construction Machinery Co., Ltd. | Shovel |
JP2021017761A (en) * | 2019-07-22 | 2021-02-15 | コベルコ建機株式会社 | Work machine and work machine supporting server |
JP2021055381A (en) * | 2019-09-30 | 2021-04-08 | 日立建機株式会社 | Area setting support system and work vehicle equipped with the same |
WO2021065430A1 (en) * | 2019-09-30 | 2021-04-08 | 日立建機株式会社 | Region-setting system, and work machine in which said region-setting system is installed |
JP2022042244A (en) * | 2020-09-02 | 2022-03-14 | ヤンマーホールディングス株式会社 | Work vehicle and notification method |
WO2022059334A1 (en) * | 2020-09-15 | 2022-03-24 | 株式会社小松製作所 | Work vehicle |
WO2022070832A1 (en) * | 2020-09-29 | 2022-04-07 | ソニーセミコンダクタソリューションズ株式会社 | Information processing system, and information processing method |
EP3922777A4 (en) * | 2019-04-26 | 2022-11-23 | Hitachi Construction Machinery Co., Ltd. | Work machine |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0518720A (en) * | 1991-07-12 | 1993-01-26 | Fujita Corp | Three-dimensional shape and distance recognizing method |
JP2003105807A (en) * | 2001-09-27 | 2003-04-09 | Komatsu Ltd | Stop control method in intrusion-prohibitive region for service car and its controller |
JP2008163719A (en) * | 2007-01-05 | 2008-07-17 | Hitachi Constr Mach Co Ltd | Circumference monitor of working machine |
JP2012001995A (en) * | 2010-06-18 | 2012-01-05 | Hitachi Constr Mach Co Ltd | Monitoring equipment of work machine surrounding |
JP2013009267A (en) * | 2011-06-27 | 2013-01-10 | Kyushu Electric Power Co Inc | Periphery monitoring device |
-
2012
- 2012-02-02 JP JP2012021275A patent/JP5755578B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0518720A (en) * | 1991-07-12 | 1993-01-26 | Fujita Corp | Three-dimensional shape and distance recognizing method |
JP2003105807A (en) * | 2001-09-27 | 2003-04-09 | Komatsu Ltd | Stop control method in intrusion-prohibitive region for service car and its controller |
JP2008163719A (en) * | 2007-01-05 | 2008-07-17 | Hitachi Constr Mach Co Ltd | Circumference monitor of working machine |
JP2012001995A (en) * | 2010-06-18 | 2012-01-05 | Hitachi Constr Mach Co Ltd | Monitoring equipment of work machine surrounding |
JP2013009267A (en) * | 2011-06-27 | 2013-01-10 | Kyushu Electric Power Co Inc | Periphery monitoring device |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013250601A (en) * | 2012-05-30 | 2013-12-12 | Seiko Epson Corp | Intrusion detection device, robot system, intrusion detection method, and intrusion detection program |
WO2015162801A1 (en) * | 2014-04-25 | 2015-10-29 | 株式会社小松製作所 | Surroundings-monitoring system, work vehicle, and surroundings-monitoring method |
WO2015162800A1 (en) * | 2014-04-25 | 2015-10-29 | 株式会社小松製作所 | Surroundings-monitoring system, work vehicle, and surroundings-monitoring method |
JP5933004B2 (en) * | 2014-04-25 | 2016-06-08 | 株式会社小松製作所 | Perimeter monitoring system, work vehicle, and perimeter monitoring method |
JPWO2015162800A1 (en) * | 2014-04-25 | 2017-04-13 | 株式会社小松製作所 | Perimeter monitoring system, work vehicle, and perimeter monitoring method |
JPWO2015162801A1 (en) * | 2014-04-25 | 2017-04-13 | 株式会社小松製作所 | Perimeter monitoring system, work vehicle, and perimeter monitoring method |
US9975485B2 (en) | 2014-04-25 | 2018-05-22 | Komatsu Ltd. | Surroundings monitoring system, work vehicle, and surroundings monitoring method |
US10240323B2 (en) | 2014-04-25 | 2019-03-26 | Komatsu Ltd. | Surroundings monitoring system, work vehicle, and surroundings monitoring method |
US10907322B2 (en) | 2015-12-28 | 2021-02-02 | Sumitomo(S.H.I.) Construction Machinery Co., Ltd. | Shovel |
JP2019167821A (en) * | 2015-12-28 | 2019-10-03 | 住友建機株式会社 | Shovel and work site image processing system |
JP6999604B2 (en) | 2015-12-28 | 2022-01-18 | 住友建機株式会社 | Excavator and image processing system at work site |
US20210010236A1 (en) * | 2018-03-26 | 2021-01-14 | Sumitomo Construction Machinery Co., Ltd. | Shovel |
WO2019210931A1 (en) * | 2018-04-30 | 2019-11-07 | Volvo Construction Equipment Ab | System and method for selectively displaying image data in a working machine |
WO2020054154A1 (en) | 2018-09-14 | 2020-03-19 | 日立建機株式会社 | Work machine |
KR20210018451A (en) | 2018-09-14 | 2021-02-17 | 히다찌 겐끼 가부시키가이샤 | Working machine |
US11879233B2 (en) | 2018-09-14 | 2024-01-23 | Hitachi Construction Machinery Co., Ltd. | Work machine |
EP3922777A4 (en) * | 2019-04-26 | 2022-11-23 | Hitachi Construction Machinery Co., Ltd. | Work machine |
JP2021017761A (en) * | 2019-07-22 | 2021-02-15 | コベルコ建機株式会社 | Work machine and work machine supporting server |
JP7293939B2 (en) | 2019-07-22 | 2023-06-20 | コベルコ建機株式会社 | Work machines and work machine support servers |
WO2021065814A1 (en) * | 2019-09-30 | 2021-04-08 | 日立建機株式会社 | Area setting assistance system and work vehicle mounting same |
WO2021065430A1 (en) * | 2019-09-30 | 2021-04-08 | 日立建機株式会社 | Region-setting system, and work machine in which said region-setting system is installed |
JP7321047B2 (en) | 2019-09-30 | 2023-08-04 | 日立建機株式会社 | work vehicle |
JP2021055381A (en) * | 2019-09-30 | 2021-04-08 | 日立建機株式会社 | Area setting support system and work vehicle equipped with the same |
JP2022042244A (en) * | 2020-09-02 | 2022-03-14 | ヤンマーホールディングス株式会社 | Work vehicle and notification method |
JP7462520B2 (en) | 2020-09-02 | 2024-04-05 | ヤンマーホールディングス株式会社 | Work vehicle and notification method |
WO2022059334A1 (en) * | 2020-09-15 | 2022-03-24 | 株式会社小松製作所 | Work vehicle |
WO2022070832A1 (en) * | 2020-09-29 | 2022-04-07 | ソニーセミコンダクタソリューションズ株式会社 | Information processing system, and information processing method |
Also Published As
Publication number | Publication date |
---|---|
JP5755578B2 (en) | 2015-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5755578B2 (en) | Ambient monitoring device | |
JP5755576B2 (en) | Driving assistance device | |
EP3164769B1 (en) | Machine safety dome | |
US11401696B2 (en) | Work machine | |
WO2019111859A1 (en) | Surrounding-area monitoring device, information processing terminal, information processing device, and information processing program | |
US9167214B2 (en) | Image processing system using unified images | |
JP4719590B2 (en) | In-vehicle peripheral status presentation device | |
JP5505702B2 (en) | Vehicle periphery monitoring device | |
JP2018106676A (en) | Information processing device, operated vehicle, information processing method, and program | |
JP2016218732A5 (en) | ||
WO2015198410A1 (en) | Outside recognition device | |
JP5976442B2 (en) | Method and system for detecting approaching workers around heavy machinery | |
JP2008179940A (en) | Surrounding monitoring equipment of working machine | |
JP7058582B2 (en) | Work machine | |
JP6559464B2 (en) | Work vehicle ambient monitoring device | |
WO2012158476A2 (en) | Machine display system | |
JP2020027325A (en) | Ship or vehicle navigation system | |
JP5223563B2 (en) | Warning device and warning method | |
US20170323159A1 (en) | Methods Circuits Devices Assemblies Systems and Associated Machine Executable Code For Obstacle Detection | |
WO2017188230A1 (en) | Construction machine | |
KR20210011609A (en) | System for preventing damage of underground facilties from excavating in construction field using gpas-ar technology | |
AU2010355231A1 (en) | Method and control unit for controlling a display of a proximity warning system | |
US20220067403A1 (en) | Visual guidance system and method | |
JP2009110037A (en) | Vehicle guidance device, vehicle guidance method, and vehicle guidance program | |
JP2020139312A (en) | Worker detection device, worker detection method, and worker detection program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140521 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141010 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141104 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141218 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150526 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150527 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5755578 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |