JP7190088B2 - Parking lot monitoring device, parking lot management system and parking lot management program - Google Patents
Parking lot monitoring device, parking lot management system and parking lot management program Download PDFInfo
- Publication number
- JP7190088B2 JP7190088B2 JP2017190867A JP2017190867A JP7190088B2 JP 7190088 B2 JP7190088 B2 JP 7190088B2 JP 2017190867 A JP2017190867 A JP 2017190867A JP 2017190867 A JP2017190867 A JP 2017190867A JP 7190088 B2 JP7190088 B2 JP 7190088B2
- Authority
- JP
- Japan
- Prior art keywords
- parking
- parking lot
- image
- vehicle
- monitoring device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Devices For Checking Fares Or Tickets At Control Points (AREA)
- Closed-Circuit Television Systems (AREA)
Description
本発明は、駐車場監視装置、駐車場管理システム及び駐車場管理プログラムに関する。 The present invention relates to a parking lot monitoring device, a parking lot management system, and a parking lot management program.
従来、駐車場を監視カメラによって監視する技術が提案されている(例えば、特許文献1)。 Conventionally, there has been proposed a technique of monitoring a parking lot with a surveillance camera (for example, Patent Literature 1).
特に都市部においては、小規模の駐車場が多く、監視カメラで取得した画像を確認するために多くの人手が必要となる。また、パークロックなどの機械設置の負担も必要となる。 Especially in urban areas, there are many small parking lots, and many people are required to check the images acquired by the surveillance cameras. In addition, the burden of installing machines such as parking locks is also required.
本発明はかかる問題の解決を試みたものであり、少人数で、もしくは無人で、多くの駐車場を管理することを可能にする駐車場監視装置、駐車場管理システム及び駐車場管理プログラムの提供を目的とする。 The present invention attempts to solve such problems, and provides a parking lot monitoring device, a parking lot management system, and a parking lot management program that make it possible to manage many parking lots with a small number of people or unmanned. With the goal.
第一の発明は、駐車場内において、画像を取得する画像取得手段と、前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段と、前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段と、前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段と、前記画像に基づいて、前記駐車場内における異常状態の有無を判断する異常状態判断手段と、前記異常状態判断手段によって認識した前記異常状態に関する情報を画像データとして前記統括装置に送信する画像データ送信手段と、を有する駐車場監視装置である。 A first invention includes image acquisition means for acquiring an image in a parking lot, parking frame recognition means for recognizing a plurality of parking spaces included in the parking lot based on the image, and based on the image, vehicle recognition means for recognizing vehicles existing in the parking frame; and text data transmission means for transmitting information on the vehicle recognized by the vehicle recognition means as text data to a generalization device managing the plurality of parking lots. abnormal state determination means for determining the presence or absence of an abnormal state in the parking lot based on the image; and image data transmission for transmitting information regarding the abnormal state recognized by the abnormal state determination means to the supervising device as image data. and a parking lot monitoring device.
第一の発明の構成によれば、駐車場監視装置は、駐車枠内に存在する自動車に関する情報をテキストデータとして統括装置に送信し、異常状態情報は画像データとして統括装置に送信する。自動車に関する情報はテキストデータであり、画像データに比べて容量が小さなデータである。異常状態情報は画像データであり、テキストデータに比べて容量は大きいが、異常状態が生じた場合にのみ送信される。すなわち、駐車場監視装置は、異常状態情報のみを画像データとして統括装置に送信するから、すべての画像でデータを統括装置に送信する場合に比べて、通信回線の容量は小さくてもよい。また、統括装置を管理する管理者は、異常状態情報のみを画像で目視して適宜の対応をとれば足りるから、一人の管理者で数多くの駐車場監視装置を管理することができる。これにより、少人数で、多くの駐車場を管理することができる。 According to the configuration of the first aspect of the invention, the parking lot monitoring device transmits the information about the vehicle existing in the parking frame as text data to the supervising device, and transmits the abnormal state information as image data to the supervising device. Information about automobiles is text data, which is smaller in capacity than image data. The abnormal state information is image data, which has a larger capacity than text data, but is transmitted only when an abnormal state occurs. That is, since the parking lot monitoring device transmits only abnormal state information as image data to the commanding device, the capacity of the communication line may be smaller than in the case of transmitting data of all images to the commanding device. In addition, since it is sufficient for the manager who manages the supervising device to visually check only the abnormal state information on the image and take appropriate measures, one manager can manage a large number of parking lot monitoring devices. As a result, many parking lots can be managed by a small number of people.
第二の発明は、第一の発明の構成において、前記駐車枠認識手段及び前記自動車認識手段は、深層学習(ディープラーニング)によって生成された特徴データを参照するように構成されており、前記テキストデータには、前記自動車の種類及び登録番号を含む、駐車場監視装置である。 In a second invention, in the configuration of the first invention, the parking frame recognition means and the car recognition means are configured to refer to feature data generated by deep learning, and the text The data is a parking monitor, including the type and registration number of the vehicle.
第三の発明は、第一の発明の構成において、前記異常状態判断手段は、前記自動車と人間との関係が所定の異常条件を満たすときに、前記異常状態であると判断する、駐車場監視装置である。 A third aspect of the present invention is the parking lot monitoring system according to the first aspect, wherein the abnormal condition determination means determines that the abnormal condition exists when the relationship between the vehicle and the human satisfies a predetermined abnormal condition. It is a device.
第四の発明は、第一の発明の構成において、前記統括装置から駐車の予約を希望する予約情報を受信する予約情報受信手段を有し、前記駐車場内に実際に存在する前記自動車と前記予約情報に基づいて、利用可能な前記駐車枠があるか否かを外部に表示する表示装置を制御する表示制御手段を有する、駐車場監視装置である。 A fourth aspect of the invention, in the configuration of the first aspect, has reservation information receiving means for receiving reservation information requesting a reservation for parking from the supervising device, wherein the vehicle actually existing in the parking lot and the reservation The parking lot monitoring device has display control means for controlling a display device for displaying to the outside whether or not there is the available parking space based on the information.
第五の発明は、第一の発明の構成において、前記画像中の人物を検知し、自動車の運転者を特定する運転者特定手段と、前記運転者を示す画像データを送信する運転者画像データ送信手段を有する、駐車場監視装置である。 A fifth invention, in the configuration of the first invention, is based on driver identification means for detecting a person in the image and identifying a driver of the vehicle, and driver image data for transmitting image data indicating the driver. A parking lot monitor having a transmitting means.
第六の発明は、第一の発明の構成において、駐車場内に進入してきた進入自動車の画像を取得する進入自動車画像取得手段と、前記進入自動車の外形を算出する外形算出手段と、前記外形算出手段によって算出した前記進入自動車の外形に基づいて、前記進入自動車が駐車可能な駐車枠を判断する駐車枠判断手段と、前記駐車枠判断手段によって判断した前記駐車枠に前記進入自動車を導くナビゲート手段と、を有する、駐車場監視装置である。 According to a sixth invention, in the configuration of the first invention, entering vehicle image acquisition means for acquiring an image of an entering vehicle that has entered the parking lot; outline calculation means for calculating an outline of the entering vehicle; parking frame determination means for determining a parking frame in which the entering vehicle can be parked based on the outer shape of the entering vehicle calculated by the means; and navigation for guiding the entering vehicle to the parking frame determined by the parking frame determining means. A parking lot monitoring device comprising means.
第七の発明は、駐車場に配置される駐車場監視装置と、複数の前記駐車場監視装置と通信可能な統括装置と、前記統括装置と通信可能なユーザー装置と、を有する駐車場システムであって、前記駐車場監視装置は、前記駐車場内において、画像を取得する画像取得手段と、前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段と、前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段と、前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段と、を有し、前記統括装置は、前記ユーザー装置からの問い合わせに応じて、駐車可能な前記駐車枠を有する前記駐車場に関する情報を前記ユーザー装置に送信する情報提供手段を有する、駐車場管理システムである。 A seventh invention is a parking lot system having a parking lot monitoring device arranged in a parking lot, an integrated device capable of communicating with the plurality of parking lot monitoring devices, and a user device capable of communicating with the integrated device. The parking lot monitoring device includes image acquisition means for acquiring an image in the parking lot, parking frame recognition means for recognizing a plurality of parking spaces included in the parking lot based on the image, and Vehicle recognition means for recognizing vehicles existing in the parking frame based on the image, and information on the vehicles recognized by the vehicle recognition means are transmitted as text data to a centralizing device for managing the plurality of parking lots. and text data transmission means, wherein the supervising device has information providing means for transmitting information on the parking lot having the available parking spaces to the user device in response to an inquiry from the user device. , is a parking lot management system.
第八の発明は、第七の発明の構成において、前記統括装置は、前記ユーザー装置から位置情報を受信し、前記情報提供手段は、前記ユーザー装置の位置に近い前記駐車場に関する情報を前記ユーザー装置に送信するように構成されており、さらに、前記ユーザー装置から特定の前記駐車場の利用を希望する予約情報を受け付ける予約情報受付手段と、前記予約情報を前記駐車場監視装置に送信する予約情報送信手段と、を有する、駐車場管理システムである。 In an eighth invention based on the configuration of the seventh invention, the centralizing device receives location information from the user device, and the information providing means provides the information on the parking lot near the location of the user device to the user. a reservation information reception means for receiving reservation information requesting use of a specific parking lot from the user device; and a reservation for transmitting the reservation information to the parking monitoring device. and information transmission means.
第九の発明は、駐車場を管理する駐車場監視装置を制御するコンピュータを、駐車場内において、画像を取得する画像取得手段、前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段、前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段、前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段、前記画像に基づいて、前記駐車場内における異常状態の有無を判断する異常状態判断手段、及び、前記異常状態判断手段によって認識した前記異常状態に関する情報を画像データとして前記統括装置に送信する画像データ送信手段、として、機能させるための駐車場管理プログラムである。 A ninth aspect of the invention comprises a computer that controls a parking lot monitoring device that manages a parking lot, an image acquiring means that acquires an image in the parking lot, and a plurality of parking spaces included in the parking lot based on the image. parking space recognizing means for recognizing, vehicle recognizing means for recognizing a vehicle existing in the parking space based on the image, information about the vehicle recognized by the vehicle recognizing means as text data, a plurality of the parking lots. text data transmission means for transmitting text data to a supervising device to be managed; abnormal condition determination means for determining the presence or absence of an abnormal condition in the parking lot based on the image; A parking lot management program for functioning as image data transmission means for transmitting image data to the generalizing device.
以上のように、本発明によれば、少人数で、多くの駐車場を管理することができる駐車場監視装置、駐車場管理システム及び駐車場管理プログラムを提供することができる。 As described above, according to the present invention, it is possible to provide a parking lot monitoring device, a parking lot management system, and a parking lot management program capable of managing a large number of parking lots with a small number of people.
本発明の実施形態を、図面を参照して説明する。なお、当業者が適宜実施できる構成については説明を省略し、本発明の基本的な構成についてのみ説明する。 Embodiments of the present invention will be described with reference to the drawings. It should be noted that description of configurations that can be appropriately implemented by those skilled in the art will be omitted, and only the basic configuration of the present invention will be described.
図1は、駐車場1Aを上空から見た概略平面図である。駐車場監視装置10(以下、「監視装置10」という。)は、駐車場1Aを監視するための構成であり、駐車場1A内に配置される。監視装置10は、筐体10a、及び、筐体10aに配置された可視光カメラ10b及び赤外線カメラ10cを備える。可視光カメラ10bによって可視光画像を取得し、赤外線カメラ10cによってサーモグラフィー(熱分布を示す画像:thermography)を取得する。監視装置10は、回転軸10dを軸として水平方向(矢印X1方向)に回動可能であり、回転軸10eを軸として上下方向(矢印Z1方向)に回動可能である。監視装置10は、駐車場1Aの領域内全体の画像を取得することができる。監視装置10は、また、スピーカー10fを備える。
FIG. 1 is a schematic plan view of a
駐車場1Aは、矢印G1に示す方向へ、自動車が移動するように構成されている。駐車場1Aには、駐車枠S1乃至S10がある。現在、駐車枠S2には自動車20Aが存在し、駐車枠S5には自動車20Bが存在し、駐車枠S6には自動車20Cが存在し、駐車枠S8には自動車20Dが存在し、駐車枠S9には自動車20Eが存在する。駐車場1Aの入口には表示装置12が配置されており、駐車場1A内に、利用可能な駐車枠が存在するか否かを示す。現在、駐車枠S1乃至S10のうち、5つの駐車枠が空いているから、表示装置12は、利用可能な駐車枠があることを示す「空き」の表示をしている。表示装置12は、利用可能な駐車枠がない場合には「満車」の表示を行う。
The
図2に示すように、駐車場管理システム300は、多数の監視装置10、多数のユーザー装置200A等、及び、統括装置100で構成される。駐車場管理システム300は、多数の駐車場1A等を管理するシステムであり、駐車場1Aごとに監視装置10が配置される。図2では、駐車場1A乃至1Dのみを示しているが、実際には、例えば、100~1000という、多数の監視装置10が存在し得る。多数の監視装置10はインターネット120を介して、統括装置100と通信可能になっている。統括装置100は、インターネット120を介して、ユーザー装置200A乃至200E(ユーザー装置200A等を総括して、以下、「ユーザー装置200」という。)と通信可能になっている。ユーザー装置200等は、実際には、例えば、10000~100000という、非常に多くの数が存在し得る。監視装置10及び統括装置100は、種々のコンピュータプログラムを格納しているが、いわゆる、クラウドコンピューティングを利用するようにしてもよい。
As shown in FIG. 2, the parking
監視装置10は、可視光カメラ10b及び赤外線カメラ10cで取得した画像に含まれる物体について、画像認識を行う。監視装置10は、深層学習(ディープラーニング)によって生成された特徴データを参照するようになっており、取得した画像に含まれる物体の特徴を識別して、物体を画像認識できるようになっている。なお、深層学習(ディープラーニング)とは、多層構造のニューラルネットワークの機械学習であり、画像認識の分野が有力な活用分野の一つである。
The
監視装置10は、カテゴリーごとの多数の特徴情報に基づいて、可視光カメラ10b等によって取得した画像に含まれる物体の特徴を識別して、物体のカテゴリーを認識できるようになっている。ここで、カテゴリーとは、駐車枠、各種の自動車、自動車の登録番号、人間等を意味する。カテゴリーは、細分化されており、自動車の登録番号を構成する具体的な文字(例えば、漢字、ひらがな及び数字というだけではなく、数字であれば、「1123」など、具体的な文字)を認識することができる。人間等は、その特徴である、顔の造作、服の色等を認識することができる。これにより、例えば、過去に認識した人間と、現在に認識した人間の異同を判断することもできる。
The
具体的には、監視装置10は、取得した画像について、例えば、輪郭や個々の構成の方向といった特徴を多数抽出し、ディープラーニングで取得した各カテゴリーの特徴データと対比して、相関性(相関度)を判断する。相関度が高いほど、取得した画像中の物体が特定のカテゴリーに属する可能性が高い。例えば、相関度が0の場合には、特定のカテゴリーに属する可能性(以下、「カテゴリー共通確率」と呼ぶ。)は0%として、相関度が最大値を示すときに、カテゴリー共通確率が100%であると定義する。監視装置10は、カテゴリー共通確率が所定の基準値である、例えば、95%以上であるときに、取得した画像中の物体のカテゴリーが、特定のカテゴリーに属すると判断する。監視装置10は、可視光画像を使用してディープラーニングして得た特徴データと、サーモグラフィーを使用してディープラーニングして得た特徴データを有する。監視装置10は、可視光カメラ10bで得た画像中の物体の画像認識は可視光画像に基づく特徴データを参照し、赤外線カメラ10cで得た画像中の物体の画像認識はサーモグラフィーに基づく特徴データを参照するように構成されている。
Specifically, the
監視装置10は、駐車場の領域の境界を示す特徴データ、駐車枠を示す特徴データ、各種の自動車を示す特徴データ、自動車のナンバープレートを示す特徴データ、人間を示す特徴データ等の特徴データを有しており、画像認識によって、駐車枠、自動車の種類や登録番号、人間等を認識することができるようになっている。さらに、監視装置10は、画像認識した結果に基づいて、不自然な状態(異常状態)を判断することができる。
The
図3に示すように、監視装置10は、統括装置100とインターネット120を介して、テキストデータの送受信(矢印R1及びR5)、及び、画像データの送信(矢印R2)を行う。統括装置100は、インターネット120を介して、監視装置10及びユーザー装置200とデータを送受信(矢印R3及びR4)できる。ユーザー装置200は、インターネット120を介して、統括装置100とデータを送受信(矢印R6及びR7)できる。
As shown in FIG. 3, the
監視装置10は、駐車場領域、駐車枠、自動車の車種、自動車の登録番号、人間等を画像認識する。そして、監視装置10自体の識別番号(配置される駐車場の識別番号)、住所(所在地)、駐車枠数、駐車場内に駐車されている自動車の車種、自動車の登録番号から構成される基本情報をテキストデータとして統括装置100に送信する。基本情報は、テキストデータであるから、画像データを送信する場合に比べて、通信速度は速く、また、通信回線の容量も比較的小さくてもよい。また、統括装置100を管理する担当者は、基本情報を目視して確認する必要はない。
The
監視装置10は、画像認識に基づいて、異常状態の有無を判断する。異常状態は、例えば、普通の状態以外の状態と定義する。駐車場1A(図1参照)に、自動車20Aが入ってきて、駐車枠S2が空いていれば、他の自動車20B等に接触することなく、駐車枠S2に駐車するのは普通の状態である。そして、運転者30Aが、数分以内に自動車20Aから出て、駐車場1Aを出るのは普通の状態である。これに対して、自動車20Aが他の自動車20B等に接触するのは普通の状態ではないから異常状態である。また、運転者30Aが、他の自動車20B等に近づいて、所定時間以上(例えば、5分間以上)、近距離(例えば、1メートル(m)以内)を維持するのは普通の状態ではないから異常状態である。また、運転者30Aが自動車20Aを出たにもかかわらず、自動車20Aの内部に子供等の人間が存在し、所定時間以上(例えば、20分以上)経過する状態は普通の状態ではないから異常状態である。あるいは、駐車場1Aに存在した記録のない人物が、自動車20A等に所定時間以上(例えば、5分間以上)、近距離(例えば、1メートル(m)以内)を維持するのは普通の状態ではないから異常状態である。監視装置10は、「異常状態」の存在を判断した場合には、その異常状態に関する画像データをインターネット120経由にて統括装置100に送信する。画像データは、例えば、自動車20Aの運転者30A以外の人間が自動車20Aの近距離に所定時間以上存在する場合には、過去5分間の画像データ及び現在の画像(動画)である。異常状態に関する画像データは、異常状態が生じた場合以外には統括装置100に送信されないから、やはり、通信回線の容量は比較的小さくてもよい。また、統括装置100を管理する担当者は、異常状態が生じた場合にのみ、受信した画像データを目視で確認すればよいから、少人数で、多数の監視装置10(駐車場1A等)を管理することができる。
The
統括装置100は、ユーザー装置200から、利用可能な駐車場の問い合わせを受けた場合には、ユーザー装置200に対して、利用可能な駐車場に関するデータを送信する。統括装置100は、ユーザー装置200から予約希望を示すデータを受信した場合には、予約希望を示す駐車予約情報を対象となる監視装置10に送信する。監視装置10は、統括装置100から予約希望を示すデータを受信すると、
When the
図4に示すように、監視装置10は、CPU(Central Processing Unit)50、記憶部52、通信部54、画像処理部56、表示制御部58、及び、電源部60を有する。
As shown in FIG. 4 , the
通信部54によって、監視装置10は統括装置100と通信可能になっている。
The
画像処理部56によって、監視装置10は、可視光カメラ10b等を作動させて、可視光画像等を取得することができる。
The
電源部60は、例えば、交流電源と接続されており、監視装置10の各部に電力を供給するようになっている。
The
記憶部52には、筐体10aを回動させるプログラムや可視光カメラ10b等を作動させるプログラム等の基本的なプログラムのほか、以下の各プログラムが格納されている。
The
記憶部52には、駐車場領域認識プログラム、駐車枠認識プログラム、自動車認識プログラム、予約情報受信プログラム、表示制御プログラム、テキストデータ送信プログラム、異常状態判断プログラム、画像データ送信プログラム、運転者特定プログラム、運転者画像データ送信プログラム、侵入自動車画像取得プログラム、外形算出プログラム、駐車枠判断プログラム、及び、ナビゲートプログラムが格納されている。
The
CPU50及び駐車場領域認識プログラムは、駐車場1Aの領域を認識する駐車場領域認識手段の一例である。CPU50及び駐車枠認識プログラムは、駐車枠認識手段の一例である。CPU50及び自動車認識プログラムは、自動車認識手段の一例である。CPU50及び予約情報受信プログラムは、予約情報受信手段の一例である。CPU50及び表示制御プログラムは、表示制御手段の一例である。CPU50及びテキストデータ送信プログラムは、テキストデータ送信手段の一例である。CPU50及び異常状態判断プログラムは、異常状態判断手段の一例である。CPU50及び画像データ送信プログラムは、画像データ送信手段の一例である。CPU50及び運転者特定プログラムは運転者特定手段の一例である。CPU50及び運転者画像データ送信プログラムは運転者画像データ送信手段の一例である。CPU50及び侵入自動車画像プログラムは侵入自動車画像取得手段の一例である。CPU50及び外形算出プログラムは外形算出手段の一例である。CPU50及び駐車枠判断プログラムは駐車枠判断手段の一例である。CPU50及びナビゲートプログラムはナビゲート手段の一例である。
The
監視装置10は、特定の駐車場である、例えば、駐車場1Aに配置されると、駐車場領域認識プログラムによって、駐車場1Aの境界を画像認識し、駐車場1Aの外部と内部を識別する。このため、監視装置10を特定の駐車場に配置するときには、その駐車場の識別番号及び住所を登録しておけば足り、駐車場の境界や駐車枠の情報を入力する必要はない。
When the
また、監視装置10は、駐車場1Aに配置されると、駐車枠認識プログラムによって、駐車枠の数、駐車枠の配置、駐車枠の位置を画像認識する。このため、監視装置10を設定するときに、特定の駐車場の構造を入力しておく必要はない。
Further, when the
監視装置10は、自動車認識プログラムによって、各駐車枠S1等に自動車が存在するか否かを認識する。監視装置10は、自動車の車種も認識する。また、監視装置10は、自動車のナンバープレートを画像認識し、そこに記載されている登録番号も認識する。監視装置10は、例えば、図5に示す駐車場データを作成して保持している。
The
監視装置10は、表示制御プログラムによって、駐車場1Aの駐車枠数と、各駐車枠S1等に存在する自動車の数を対比する。監視装置10は、自動車の数が駐車枠数よりも少ない場合には、表示装置12に「空き」を表示し、自動車の数が駐車場と同一である場合には、表示装置12に「満車」を表示する。
The
監視装置10は、予約情報受信プログラムによって、統括装置100から予約情報を受信する。監視装置10は、統括装置100から、駐車予約情報を受信した場合には、駐車予約情報を踏まえて、上述の表示制御プログラムによる処理を実施する。例えば、駐車枠S1乃至10の10枠に、自動車が現実に9台存在する場合において、1台分の駐車予約情報を受信した場合には、合計で10台であるから、自動車の数が駐車場と同一であるとみなし、表示装置12に「満車」を表示する。予約番号は、例えば、登録番号の下4桁など、自動車の登録番号の一部でよい。また、駐車場1Aの各駐車枠S1等に、せり上がり式のロック板(バー)が配置されている場合には、例えば、「満車」を表示するに至らない場合(駐車枠が実際の駐車数と予約分の合計よりも多い場合)であっても、駐車予約情報を受信した場合に、駐車枠S1等のいずれかのロック板を上げておいて駐車できないようにしておき、予約番号に対応する自動車が駐車場1Aに入ってきた場合に、ロック板を下げるようにしてもよい。
The
監視装置10は、駐車予約情報に示される予約番号を有する自動車が現実に駐車場1Aに入ってきて駐車した場合には、図5の駐車場データの「予約番号」を消去して、「登録番号」に書き換える。
When the vehicle having the reservation number indicated in the parking reservation information actually enters the
監視装置10は、テキストデータ送信プログラムによって、基本情報(図3参照)をテキストデータとして、統括装置100に送信する。
The
監視装置10は、異常状態判断プログラムによって異常状態が発生していると判断すると、画像データ送信プログラムによって、その異常状態に関する画像データを統括装置100に送信する。
When the
監視装置10は、上述の異常状態に関する画像において、運転者特定プログラムによって、画像中の人物を検知し、自動車の運転者を特定する。監視装置10は、人間を画像認識できるから、その人間が自動車のハンドルの後ろに位置する場合に、運転者であると特定する。監視装置10は、例えば、駐車場1Aに進入してきた自動車20Fの運転者M(図1参照)を特定することができる。
The
監視装置10は、運転者画像データ送信プログラムによって、運転者を示す画像データを統括装置100に送信する。これにより、統括装置100は、異常状態に関連する運転者の画像データを取得し、例えば、直近の警察署に送信するなどの利用を行うことができる。なお、本実施形態とは異なり、監視装置10は、駐車場1Aに駐車している自動車や進入してきた自動車の運転者を常に特定し、その画像データを統括装置100に送信するようにしてもよい。
The
監視装置10は、進入自動車画像取得プログラムによって、駐車場1A内に進入してきた自動車(進入自動車)の画像を取得する。例えば、自動車20F(図1参照)が進入してきた場合には、自動車20Fの画像を取得する。
The
監視装置10は、外形算出プログラムによって、駐車場1A内に進入してきた進入自動車20Fの外形を算出する。監視装置10は、自動車20Fの画像のピクセル数に基づいて、自動車の横長さL1及び縦長さL2を算出する。ここで、監視装置10は、その設置時に、駐車場1A内の複数の位置において基準物(例えば、長さ1メートル(m)の棒状のもの)を認識し、その位置における1メートルのものが占めるピクセル数(以下、「基準ピクセル数」という。)を記憶する。複数の位置は、例えば、入口に配置された表示装置12の位置、駐車枠S1等の各入口の位置である。これにより、監視装置10は、駐車場1A内に侵入してきた自動車20Fが画像に占めるピクセル数によって、その外形を算出することができる。
The
監視装置10は、駐車枠判断プログラムによって、自動車20Fの外形を踏まえて、自動車20Fが駐車枠を判断する。監視装置10は、基準ピクセル数に基づいて、各駐車枠S1等の外形も算出し、自動車20Fが駐車可能な駐車枠を、例えば、駐車枠S1であると判断する。
The
監視装置10は、ナビゲートプログラムによって、自動車20Fが駐車可能な駐車枠に自動車20Fを導く。具体的には、監視装置10は、スピーカー10fから、例えば、「今進入してきた登録番号○○の自動車は、駐車枠S1へ駐車してください。」という音声を発する。
The
図6に示すように、統括装置100は、CPU110、記憶部112、通信部114、及び、電源部120を有する。
As shown in FIG. 6 , the supervising
通信部114によって、総括装置100は、監視装置10及びユーザー装置200と通信可能になっている。
The
電源部120は、例えば、交流電源と接続されており、統括装置100の各部に電力を供給するようになっている。
The
記憶部112には、統括装置100のディスプレイ装置(図示せず)やスピーカー(図示せず)を作動させる等の基本的なプログラムのほか、情報提供プログラム及び予約情報受付プログラムが格納されている。CPU110と情報提供プログラムは、情報提供手段の一例である。CPU110と予約情報受付プログラムは、予約情報受付手段の一例である。
The
統括装置100は、情報提供プログラムによって、ユーザー装置200からの問い合わせに応じて、駐車可能な駐車枠を有する駐車場に関する駐車情報をユーザー装置200に送信する。駐車情報には、特定の駐車場の住所、名称及び空いている駐車枠数を含む。統括装置100は、ユーザー装置200の現在位置を示す情報も受信し、ユーザー装置200の現在位置に近い順に、一または複数の駐車場に関する駐車情報をユーザー装置200に送信する。
In response to an inquiry from the
また、統括装置100は、予約情報受付プログラムによって、ユーザー装置200から、特定の駐車場の予約を希望する予約希望情報を受信した場合には、対象となる駐車場1A等の監視装置10に対して、駐車予約情報を送信する。
Further, when receiving reservation request information requesting reservation of a specific parking lot from the
統括装置100は、複数の監視装置10及びユーザー装置200から受信したデータを、例えば、図7に示す統括装置データとして記憶している。
The supervising
図8に示すように、ユーザー装置200は、CPU210、記憶部212、無線通信部214、測位部216及び、電源部220を有する。
As shown in FIG. 8 , the
無線通信部214によって、ユーザー装置200は、統括装置100と通信可能になっている。
The
電源部220は、例えば、充電可能な可充電電池である。
The
以下、図9乃至図11を参照して、監視装置10の動作を概括する。監視装置10は、特定の駐車場である、例えば、駐車場1Aに配置されて、作動を開始すると、駐車場1A内の画像を取得する(図9のステップST1)。そして、監視装置10は、駐車場1Aの領域及び駐車枠を画像認識する(ステップST2)。
The operation of the
監視装置10は、駐車場1Aへの自動車の出入りを認識し(ステップST3)、自動車が入ってきた場合には、車種及び登録番号を画像認識し(ステップST4)、基本情報をテキストデータとして統括装置100へ送信する(ステップST5)。続いて、監視装置10は、駐車枠管理処理を実施する(ステップST6)。
The
図10を参照して、駐車枠管理処理の詳細を説明する。監視装置10は、直近に駐車枠の空があるか否かを判断し(ステップST61)、駐車場の空があれば、表示装置12(図1参照)に「空き」を表示し、空きがなければ、表示装置12に「満車」を表示する。監視装置10は、予約情報を受信すると(ステップST62)、予約情報に示される自動車の台数を加味して駐車枠の空があるか否かを判断する(ステップST61)。また、監視装置10は、予約情報を受信して(ステップST62)、所定時間内に予約した自動車が到着しない場合には(ステップST63)、駐車場データ(図5参照)の予約を取り消し、取消情報を統括装置100へ送信し(ステップST64)、予約の取り消しを踏まえて、駐車枠の空があるか否かを判断する(ステップST61)。
Details of the parking frame management process will be described with reference to FIG. 10 . The
監視装置10は、図9及び図10の処理と平行して、図11に示す異常状態の判断及び画像データの送信を行う。監視装置10は、異常状態が存在すると判断すると(図11のステップST101)、統括装置100に画像データを送信する(ステップST102)。
The
なお、本発明は、上記実施形態に限らず、本発明の要旨を逸脱しない範囲内において種々変更を加えることができる。 The present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the gist of the present invention.
10 駐車場監視装置
100 統括装置
200 ユーザー装置
10 parking
Claims (9)
前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段と、
前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段と、
前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段と、
前記画像に基づいて、前記駐車場内における異常状態の有無を判断する異常状態判断手段と、
前記異常状態判断手段によって判断した前記異常状態に関する情報を画像データとして前記統括装置に送信する画像データ送信手段と、
を有し、
前記テキストデータは、前記駐車枠内における前記自動車の存否を示す情報に限定されず、前記自動車の種類及び登録番号を含み、
前記画像データは、前記自動車の運転者以外の人間が前記自動車の近距離に所定時間以上存在する場合における、所定時間範囲の過去分の画像データ及び現在の画像(動画)である、
駐車場監視装置。 image acquisition means for acquiring an image in the parking lot;
Parking frame recognition means for recognizing a plurality of parking spaces included in the parking lot based on the image;
car recognition means for recognizing a car existing in the parking frame based on the image;
text data transmission means for transmitting information about the vehicle recognized by the vehicle recognition means as text data to a supervising device that manages the plurality of parking lots;
Abnormal state determination means for determining the presence or absence of an abnormal state in the parking lot based on the image;
image data transmission means for transmitting information about the abnormal state determined by the abnormal state determination means as image data to the supervising device;
has
The text data is not limited to information indicating the presence or absence of the car in the parking frame, and includes the type and registration number of the car,
The image data is past image data and a current image (moving image) within a predetermined time range when a person other than the driver of the vehicle exists in the vicinity of the vehicle for a predetermined period of time or more.
Parking monitor.
請求項1に記載の駐車場監視装置。 The parking frame recognition means and the vehicle recognition means are configured to refer to feature data generated by deep learning,
The parking lot monitoring device according to claim 1.
請求項1に記載の駐車場監視装置。 The abnormal state determination means determines that the abnormal state exists when the relationship between the vehicle and the human satisfies a predetermined abnormal condition.
The parking lot monitoring device according to claim 1.
前記駐車場内に実際に存在する前記自動車と前記予約情報に基づいて、利用可能な前記駐車枠があるか否かを外部に表示する表示装置を制御する表示制御手段を有する、
請求項1に記載の駐車場監視装置。 Reservation information receiving means for receiving reservation information requesting a reservation for parking from the supervising device,
Display control means for controlling a display device that externally displays whether or not there is an available parking space based on the car actually existing in the parking lot and the reservation information,
The parking lot monitoring device according to claim 1.
前記運転者を示す画像データを送信する運転者画像データ送信手段を有する、請求項1に記載の駐車場監視装置。 a driver identifying means for detecting a person in the image and identifying the driver of the vehicle;
2. The parking lot monitoring apparatus according to claim 1, further comprising driver image data transmission means for transmitting image data representing said driver.
前記進入自動車の外形を算出する外形算出手段と、
前記外形算出手段によって算出した前記進入自動車の外形に基づいて、前記進入自動車が駐車可能な駐車枠を判断する駐車枠判断手段と、
前記駐車枠判断手段によって判断した前記駐車枠に前記進入自動車を導くナビゲート手段と、
を有する、
請求項1に記載の駐車場監視装置。 an entering vehicle image acquiring means for acquiring an image of an entering vehicle that has entered the parking lot;
an outline calculation means for calculating an outline of the approaching vehicle;
parking frame determination means for determining a parking frame in which the approaching vehicle can be parked based on the outer shape of the approaching vehicle calculated by the outer shape calculating means;
navigation means for guiding the entering vehicle to the parking space determined by the parking space determining means;
having
The parking lot monitoring device according to claim 1.
複数の前記駐車場監視装置と通信可能な統括装置と、
前記統括装置と通信可能なユーザー装置と、
を有する駐車場システムであって、
前記駐車場監視装置は、
前記駐車場内において、画像を取得する画像取得手段と、
前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段と、
前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段と、
前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段と、
前記画像に基づいて、前記駐車場内における異常状態の有無を判断する異常状態判断手段と、
前記異常状態判断手段によって判断した前記異常状態に関する情報を画像データとして前記統括装置に送信する画像データ送信手段と、
を有し、
前記統括装置は、
前記ユーザー装置からの問い合わせに応じて、駐車可能な前記駐車枠を有する前記駐車場に関する情報を前記ユーザー装置に送信する情報提供手段を有し、
前記テキストデータは、前記駐車枠内における前記自動車の存否を示す情報に限定されず、前記自動車の種類及び登録番号を含み、
前記画像データは、前記自動車の運転者以外の人間が前記自動車の近距離に所定時間以上存在する場合における、所定時間範囲の過去分の画像データ及び現在の画像(動画)である、
駐車場管理システム。 a parking lot monitoring device arranged in the parking lot;
a supervising device capable of communicating with the plurality of parking lot monitoring devices;
a user device communicable with the centralized device;
A parking lot system having
The parking lot monitoring device
an image acquisition means for acquiring an image in the parking lot;
Parking frame recognition means for recognizing a plurality of parking spaces included in the parking lot based on the image;
car recognition means for recognizing a car existing in the parking frame based on the image;
text data transmission means for transmitting information about the vehicle recognized by the vehicle recognition means as text data to a commanding device that manages a plurality of the parking lots;
Abnormal state determination means for determining the presence or absence of an abnormal state in the parking lot based on the image;
image data transmission means for transmitting information about the abnormal state determined by the abnormal state determination means as image data to the supervising device;
has
The controlling device is
Having information providing means for transmitting information about the parking lot having the parking space that can be parked to the user device in response to an inquiry from the user device;
The text data is not limited to information indicating the presence or absence of the car in the parking frame, and includes the type and registration number of the car,
The image data is generated when a person other than the driver of the vehicle exists within a short distance of the vehicle for a predetermined time or more.leave, which is the past image data and the current image (moving image) within a predetermined time range,
Parking management system.
前記情報提供手段は、前記ユーザー装置の位置に近い前記駐車場に関する情報を前記ユーザー装置に送信するように構成されており、
さらに、
前記ユーザー装置から特定の前記駐車場の利用を希望する予約情報を受け付ける予約情報受付手段と、
前記予約情報を前記駐車場監視装置に送信する予約情報送信手段と、
を有する請求項7に記載の駐車場管理システム。 the centralized device receives location information from the user device;
The information providing means is configured to transmit information about the parking lot near the location of the user device to the user device,
moreover,
Reservation information receiving means for receiving reservation information requesting use of a specific parking lot from the user device;
Reservation information transmission means for transmitting the reservation information to the parking monitoring device;
8. The parking lot management system of claim 7, comprising:
駐車場内において、画像を取得する画像取得手段、
前記画像に基づいて、前記駐車場に含まれる複数の駐車枠を認識する駐車枠認識手段、
前記画像に基づいて、前記駐車枠内に存在する自動車を認識する自動車認識手段、
前記自動車認識手段によって認識した前記自動車に関する情報をテキストデータとして、複数の前記駐車場を管理する統括装置に送信するテキストデータ送信手段、
前記画像に基づいて、前記駐車場内における異常状態の有無を判断する異常状態判断手段、及び、
前記異常状態判断手段によって認識した前記異常状態に関する情報を画像データとして前記統括装置に送信する画像データ送信手段、
として、機能させるための駐車場管理プログラムであって、
前記テキストデータは、前記駐車枠内における前記自動車の存否を示す情報に限定されず、前記自動車の種類及び登録番号を含み、
前記画像データは、前記自動車の運転者以外の人間が前記自動車の近距離に所定時間以上存在する場合における、所定時間範囲の過去分の画像データ及び現在の画像(動画)である、
駐車場管理プログラム。 The computer that controls the parking lot monitoring device that manages the parking lot,
image acquisition means for acquiring an image in the parking lot;
Parking frame recognition means for recognizing a plurality of parking spaces included in the parking lot based on the image;
vehicle recognition means for recognizing a vehicle existing in the parking frame based on the image;
text data transmission means for transmitting information about the vehicle recognized by the vehicle recognition means as text data to a supervising device that manages the plurality of parking lots;
Abnormal state determination means for determining the presence or absence of an abnormal state in the parking lot based on the image; and
image data transmission means for transmitting information about the abnormal state recognized by the abnormal state determination means as image data to the supervising device;
A parking lot management program for functioning as
The text data is not limited to information indicating the presence or absence of the car in the parking frame, and includes the type and registration number of the car,
The image data is past image data and a current image (moving image) within a predetermined time range when a person other than the driver of the vehicle exists in the vicinity of the vehicle for a predetermined period of time or more.
Parking management program.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017190867A JP7190088B2 (en) | 2017-09-29 | 2017-09-29 | Parking lot monitoring device, parking lot management system and parking lot management program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017190867A JP7190088B2 (en) | 2017-09-29 | 2017-09-29 | Parking lot monitoring device, parking lot management system and parking lot management program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019068213A JP2019068213A (en) | 2019-04-25 |
JP7190088B2 true JP7190088B2 (en) | 2022-12-15 |
Family
ID=66340706
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017190867A Active JP7190088B2 (en) | 2017-09-29 | 2017-09-29 | Parking lot monitoring device, parking lot management system and parking lot management program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7190088B2 (en) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7199304B2 (en) * | 2019-05-20 | 2023-01-05 | 株式会社Ihi | Foreign object detection system |
SG11202111650YA (en) * | 2019-05-20 | 2021-12-30 | Ihi Corp | Foreign matter detection system |
JP7402779B2 (en) * | 2020-10-19 | 2023-12-21 | 新明和工業株式会社 | Program, information processing method, and information processing system |
KR102538649B1 (en) * | 2020-12-15 | 2023-06-02 | 주식회사 포커스에이치엔에스 | Parking management method and apparatus based on occupant authentication |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003302234A (en) | 2002-04-09 | 2003-10-24 | Matsushita Electric Ind Co Ltd | On-vehicle information processor |
JP2005222159A (en) | 2004-02-03 | 2005-08-18 | Glory Ltd | System, method and program for monitoring suspicious person |
JP2005227965A (en) | 2004-02-12 | 2005-08-25 | Fujitsu Ten Ltd | Vehicle monitor and portable terminal |
JP2006338479A (en) | 2005-06-03 | 2006-12-14 | Mitsubishi Electric Corp | Parking lot management system |
JP2007048174A (en) | 2005-08-12 | 2007-02-22 | Dainippon Printing Co Ltd | Parking lot system |
WO2009090695A1 (en) | 2008-01-16 | 2009-07-23 | Mitsubishi Electric Corporation | Sensor system for vehicle |
JP2009267679A (en) | 2008-04-24 | 2009-11-12 | Mitsubishi Electric Building Techno Service Co Ltd | Vehicle monitor system |
JP2014119827A (en) | 2012-12-13 | 2014-06-30 | Secom Co Ltd | Imaging system |
JP2014123303A (en) | 2012-12-21 | 2014-07-03 | Secom Co Ltd | Monitoring system |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3570198B2 (en) * | 1998-01-07 | 2004-09-29 | オムロン株式会社 | Image processing method and apparatus |
-
2017
- 2017-09-29 JP JP2017190867A patent/JP7190088B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003302234A (en) | 2002-04-09 | 2003-10-24 | Matsushita Electric Ind Co Ltd | On-vehicle information processor |
JP2005222159A (en) | 2004-02-03 | 2005-08-18 | Glory Ltd | System, method and program for monitoring suspicious person |
JP2005227965A (en) | 2004-02-12 | 2005-08-25 | Fujitsu Ten Ltd | Vehicle monitor and portable terminal |
JP2006338479A (en) | 2005-06-03 | 2006-12-14 | Mitsubishi Electric Corp | Parking lot management system |
JP2007048174A (en) | 2005-08-12 | 2007-02-22 | Dainippon Printing Co Ltd | Parking lot system |
WO2009090695A1 (en) | 2008-01-16 | 2009-07-23 | Mitsubishi Electric Corporation | Sensor system for vehicle |
JP2009267679A (en) | 2008-04-24 | 2009-11-12 | Mitsubishi Electric Building Techno Service Co Ltd | Vehicle monitor system |
JP2014119827A (en) | 2012-12-13 | 2014-06-30 | Secom Co Ltd | Imaging system |
JP2014123303A (en) | 2012-12-21 | 2014-07-03 | Secom Co Ltd | Monitoring system |
Also Published As
Publication number | Publication date |
---|---|
JP2019068213A (en) | 2019-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11907976B2 (en) | Image-based parking recognition and navigation | |
JP7190088B2 (en) | Parking lot monitoring device, parking lot management system and parking lot management program | |
US20240086982A1 (en) | Image-based parking recognition and navigation | |
US20170323227A1 (en) | System for managing parking spaces using artificial intelligence and computer vision | |
US20120188100A1 (en) | Terminal, apparatus and method for providing customized auto-valet parking service | |
US20220114893A1 (en) | Image capturing apparatus of vehicle, server, user terminal apparatus and method for providing parking lot guidance service using them | |
CN112820137B (en) | Parking lot management method and device | |
CN114466305A (en) | Rescue system, rescue method and server used by rescue system | |
US20140372155A1 (en) | System and method for parking reservation and finding parking space suitable for user's vehicle size | |
KR20170015720A (en) | Public service system adn method using autonomous smart car | |
KR100999522B1 (en) | Parking management system for guiding parking by providing present state of parking lot by monitoring parking area and device thereof | |
CN105539194A (en) | Intelligent parking stall management device and management method | |
KR20180101648A (en) | Sharing system for individual parking zone Smart human body counter | |
JP7445441B2 (en) | Parking lot control system, parking lot control method, and program | |
CN114999222B (en) | Abnormal behavior notification device, notification system, notification method, and recording medium | |
JP7401292B2 (en) | Parking lot control system, parking lot control method, and program | |
Pareek et al. | IoT based prototype for smart vehicle and parking management system | |
KR20200062474A (en) | System and method for bicycle management | |
KR20230004073A (en) | Method, apparatus and system for determining a slight accident of a moving object | |
JP7545878B2 (en) | Parking lot control device, parking lot control system, parking lot control program, and parking lot control method | |
KR20170073429A (en) | Method for parking control by sharing, server and system thereof | |
WO2022196136A1 (en) | Parking lot management device, parking lot management method, and non-transitory computer-readable medium | |
US20240265808A1 (en) | System and method for managing parking of vehicles | |
KR20190024240A (en) | A car hiring service system with enhanced security | |
KR20220165338A (en) | A method, a system and an apparatus for providing payment services based on facility operation information by using facial recognitions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20200629 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200924 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20201007 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20201007 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201113 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210915 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211005 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220510 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220704 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221004 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20221031 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221101 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20221031 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7190088 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |