JP6165422B2 - Information processing system, information processing device, server, terminal device, information processing method, and program - Google Patents
Information processing system, information processing device, server, terminal device, information processing method, and program Download PDFInfo
- Publication number
- JP6165422B2 JP6165422B2 JP2012145309A JP2012145309A JP6165422B2 JP 6165422 B2 JP6165422 B2 JP 6165422B2 JP 2012145309 A JP2012145309 A JP 2012145309A JP 2012145309 A JP2012145309 A JP 2012145309A JP 6165422 B2 JP6165422 B2 JP 6165422B2
- Authority
- JP
- Japan
- Prior art keywords
- poi
- information
- correction
- road
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 32
- 238000003672 processing method Methods 0.000 title claims description 3
- 238000012937 correction Methods 0.000 claims description 117
- 230000006870 function Effects 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 11
- 238000000034 method Methods 0.000 description 10
- 239000012925 reference material Substances 0.000 description 8
- 239000000284 extract Substances 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Landscapes
- Navigation (AREA)
- Traffic Control Systems (AREA)
Description
本発明の実施形態は、情報処理システム、情報処理装置、サーバ、端末装置、情報処理方法、及びプログラムに関する。 Embodiments described herein relate generally to an information processing system, an information processing device, a server, a terminal device, an information processing method, and a program.
近年、GPS(Global Positioning System)等の測位技術が知られている。例えば、GPSでは、複数のGPS衛星から発信された測位信号を受信し、測位信号の到達時間の時間差に基づいて、3次元空間における位置を計算する。 In recent years, positioning techniques such as GPS (Global Positioning System) are known. For example, in GPS, positioning signals transmitted from a plurality of GPS satellites are received, and a position in a three-dimensional space is calculated based on a time difference in arrival times of positioning signals.
しかしながら、従来の測位技術では、マルチパス等に起因する測位誤差により、測位位置が実際の位置とは異なる場合がある。この場合には、測位位置を利用する装置(例えば、ナビゲーション装置)において、実際の位置とは異なる測位位置が表示されるという問題がある。 However, in the conventional positioning technique, the positioning position may be different from the actual position due to positioning error caused by multipath or the like. In this case, there is a problem that a positioning position different from the actual position is displayed in a device (for example, a navigation device) that uses the positioning position.
これに対して、車載カメラが撮影した画像を利用して、位置及び方位を補正する技術が知られている(例えば、特許文献1を参照)。特許文献1の車載ナビゲーション装置は、道路の画像を撮影し、撮影した画像に含まれる道路(以下「画像道路」という)の種別を特定し、案内中の道路(以下「案内道路」という)の種別と画像道路の種別とが合致するか否かを判断し、2つの種別が合致しない場合に、位置及び方位を補正する。
On the other hand, a technique for correcting the position and orientation using an image taken by an in-vehicle camera is known (see, for example, Patent Document 1). The in-vehicle navigation device of
しかしながら、同一種別の複数の道路が併走する環境下において、特許文献1の車載ナビゲーション装置は、上記2つの種別が合致するか否かを正確に判断することができない。その結果、位置及び方位の補正精度が低下するという問題がある。
However, in an environment where a plurality of roads of the same type run side by side, the in-vehicle navigation device of
例えば、2つの高速道路が併走する環境下において、移動体が実際に走行している高速道路と、案内道路に対応する高速道路とが異なる場合(即ち、移動体が案内道路とは異なる高速道路を走行している場合)には、特許文献1の車載ナビゲーション装置は、実際に走行している高速道路の画像の種別と案内道路に対応する高速道路の種別とが合致するか否かを判断する。この場合には、2つの種別は何れも高速道路である(即ち、合致する)ので、実際に走行している高速道路と案内道路とが異なっているにもかかわらず、位置及び方位の補正が行われない。
For example, in an environment where two expressways run side by side, if the expressway on which the mobile body actually travels is different from the expressway corresponding to the guide road (that is, the expressway where the mobile body is different from the guide road) The vehicle-mounted navigation device of
本発明は、上記の問題に考えみてなされたものである。本発明の目的は、より簡易な方法で、高精度に補正された測位情報を提供することである。 The present invention has been made in view of the above problems. An object of the present invention is to provide positioning information corrected with high accuracy by a simpler method.
本発明の実施形態の情報処理システムは、測位情報を取得する測位情報取得手段と、基準物の位置情報を含む基準物情報を取得する情報取得手段と、複数の基準物を含む画像データを取得する画像データ取得手段と、前記画像データにおける複数の基準物の位置関係を特定する基準特定手段と、前記基準物の位置情報と、前記位置関係と、に基づいて、前記測位情報を補正する補正手段と、を備える。 An information processing system according to an embodiment of the present invention acquires positioning information acquisition means for acquiring positioning information, information acquisition means for acquiring reference object information including position information of a reference object, and image data including a plurality of reference objects Correction that corrects the positioning information based on the image data acquisition means, the reference specifying means for specifying the positional relationship of a plurality of reference objects in the image data, the positional information of the reference object, and the positional relationship Means.
本発明によれば、より簡易な方法で、高精度に補正された測位情報を提供することができる。 According to the present invention, it is possible to provide positioning information corrected with high accuracy by a simpler method.
本実施形態について、図面を参照して説明する。 The present embodiment will be described with reference to the drawings.
本実施形態の情報処理システム1の構成について説明する。図1は、本実施形態の情報処理システム1の構成を示すブロック図である。
A configuration of the
情報処理システム1は、サーバ10と、端末装置30と、ネットワーク50と、を備える。サーバ10及び端末装置30は、ネットワーク50を介して互いに通信可能である。サーバ10及び端末装置30の数は、それぞれ、1台であってもよいし、複数台であってもよい。ネットワーク50は、有線ネットワークであってもよいし、無線ネットワークであってもよい。サーバ10と端末装置30との間の通信は、ネットワーク50以外の媒体(例えば、USB(Universal Serial Bus)等のデータバスケーブル、又はSD(Secuere Digital)カード等のリムーバルメディア)を介して行われてもよい。
The
サーバ10は、サーバ制御部12と、サーバ記憶部14と、サーバ通信部16と、を備える。
The
サーバ制御部12は、サーバ通信制御部120と、サーバ情報取得部122と、基準特定部125と、補正部126と、サーバ出力制御部128と、を備える。サーバ制御部12の各部については、後述する。
The
サーバ記憶部14には、サーバ制御部12が取り扱うデータが記憶される。例えば、サーバ記憶部14には、地図情報と、基準物の位置情報を含む基準物情報と、サーバ制御部12が実行可能なアプリケーションと、が記憶される。例えば、基準物情報は、POI(Point Of Interest)を規定するPOI情報を含む。POI情報は、POIを識別するPOI識別情報と、POIの名称を定義するPOI名称情報と、POIの位置を規定するPOI位置情報と、を含む。
The
また、基準物情報は、さらに、道路を規定する道路情報を含んでもよい。道路情報は、各道路の始点と終点の位置情報を含んだ情報である。例えば、道路情報は、道路ネットワークを示す道路ネットワーク情報であってもよい。道路ネットワーク情報は、複数のノードと、複数のノード間を接続するリンクと、を含む。ノードは、当該ノードの位置情報を含んでおり、リンクは、当該リンクの始点ノードと終点ノードの情報を含んでいる。 Further, the reference object information may further include road information that defines a road. The road information is information including position information of the start point and end point of each road. For example, the road information may be road network information indicating a road network. The road network information includes a plurality of nodes and links connecting the plurality of nodes. The node includes position information of the node, and the link includes information of a start point node and an end point node of the link.
なお、サーバ記憶部14は、サーバ10の外部に設けられ、ネットワーク50を介して、サーバ10と接続されてもよい。
The
サーバ通信部16は、サーバ10とネットワーク50との間の通信インタフェースである。
The
端末装置30は、端末制御部32と、端末記憶部34と、端末通信部36と、操作部38と、測位情報取得部40と、表示部42と、画像データ取得部44と、を備える。例えば、端末装置30は、デスクトップコンピュータ、ノートブックコンピュータ、携帯電話、スマートフォン、タブレット端末、又はカーナビゲーション装置である。
The
端末制御部32は、端末通信制御部320と、端末出力制御部322と、を備える。端末制御部32の各部については、後述する。
The
端末記憶部34には、端末制御部32が取り扱うデータが記憶される。例えば、端末記憶部34には、ユーザ情報と、端末制御部32が実行可能なアプリケーションと、が記憶される。
The
端末通信部36は、端末装置30とネットワーク50との間の通信インタフェースである。
The
操作部38は、ユーザの指示を受け付ける。例えば、操作部38は、タッチパネルである。この場合には、ユーザは、タッチパネルを用いて所定の操作(例えば、タッチ又はスワイプ)を行うことにより、端末装置30にユーザの指示を与える。操作部38は、ユーザが行った操作に応じて、ユーザの指示を受け付ける。
The
測位情報取得部40は、測位情報を取得する。測位情報は、端末装置30の測位位置を示す測位位置情報と、端末装置30の測位方位を示す測位方位情報と、を含む。例えば、測位情報取得部40は、GPS(Global Positioning System)レシーバ及び電子コンパスである。
The positioning
表示部42は、様々な情報を出力する。例えば、表示部42は、タッチパネル型液晶ディスプレイである。
The
画像データ取得部44は、画像を撮影し、撮影した画像に対応する画像データを取得する。例えば、画像データ取得部44は、静止画像に対応する静止画像データを取得するデジタルスチルカメラである。
The image
本実施形態の情報処理について説明する。図2は、本実施形態の情報処理のシーケンス図である。図2の情報処理は、端末制御部32が情報処理アプリケーションを起動したときに開始される。情報処理アプリケーションとは、コンピュータに情報処理を実行させるためのコンピュータプログラムである。
Information processing according to the present embodiment will be described. FIG. 2 is a sequence diagram of information processing according to the present embodiment. The information processing in FIG. 2 is started when the
<S2−30> 端末装置30が、補正要求発行を行う。例えば、ユーザは、表示部42に表示された地図画像(図3を参照)における現在位置表示C及び方向表示Dcを補正したい場合に、操作部38を介して、情報処理アプリケーションに、補正指示を与える。端末装置30は、この補正指示に応じて、補正要求発行を行う。
<S2-30> The
図4は、本実施形態の図2のS2−30のフローチャートである。 FIG. 4 is a flowchart of S2-30 in FIG. 2 of the present embodiment.
<S2−300> 画像データ取得部44が、補正用画像データを取得する。補正用画像データとは、複数の基準物を含む画像データである。基準物とは、測位情報を補正するための基準となる物体であって、補正用画像データが示す画像を撮影した位置を特定するために使用可能な情報を提供する物体である。基準物は、POIに対応する基準物(以下「POI対応基準物」という)及び基準道路を含む。例えば、POI対応基準物は、看板、標識及び建築物である。
<S2-300> The image
図5は、本実施形態の図4のS2−300の説明図である。 FIG. 5 is an explanatory diagram of S2-300 in FIG. 4 of the present embodiment.
例えば、ユーザがカメラアプリケーションを起動して風景を撮影すると、画像データ取得部44が、補正用画像データを取得する。ここで、道路を確実に含む補正用画像データを取得するために、表示部42に、図5に示すような画像取得画面を表示してもよい。画像取得画面には、基準物が含まれる領域である枠線AL及びARと、道路が含まれる領域である枠線ACと、「枠線に合わせて、看板と道路を撮影して下さい」というメッセージと、が含まれている。なお、枠線AL、AC、及びARの形状は、何れも、図5に示す形状(即ち、長方形)に限られるものではなく、複数のパターンを用意してもよい。例えば、道路を表示する位置が、画面中心、右端、又は左端に寄せられたパターンであってもよく、道路の形状が、縦、横、又は斜めになっているパターンであってもよく、あるいは、複数の道路を含むパターンであってもよい。これらの複数のパターンの中から、撮影場所に応じて表示するパターンを選択してもよく、あるいは、ユーザに、複数のパターンの中から適切なパターンを選択させるようにしてもよい。
For example, when the user activates a camera application and captures a landscape, the image
次いで、ユーザが、枠線ALに「A銀行」という看板が含まれ、枠線ACに国道R1が含まれ、且つ、枠線ARに「B屋」という看板が含まれた状態で、撮影ボタン42aを押すと、デジタルスチルカメラ(即ち、画像データ取得部44)が、補正用画像データ(即ち、複数の看板と、少なくとも1つの道路と、を含む画像データ)を取得する。取得した補正用画像データは、道路を示す枠線AC内に道路が含まれており、且つ、基準物が含まれる領域である枠線内に少なくとも1つの看板が含まれていればよく、基準物が含まれるべき枠線内のいずれかに、看板が含まれていない枠線があってもよい。 Next, when the user includes the signboard “A bank” in the frame line AL, the national road R1 is included in the frame line AC, and the signboard “B shop” is included in the frame line AR, the shooting button When 42a is pressed, the digital still camera (that is, the image data acquisition unit 44) acquires image data for correction (that is, image data including a plurality of signboards and at least one road). The acquired correction image data only needs to include a road in the frame AC indicating the road, and include at least one signboard in the frame that is an area including the reference object. There may be a frame line that does not include a signboard in any of the frame lines that should include objects.
<S2−302> 測位情報取得部40が、測位情報を取得する。S2−302において取得された測位情報は、S2−300において補正用画像データが取得されたときの測位位置を示す測位位置情報を含む。
<S2-302> The positioning
なお、測位情報は、測位位置情報に加えて、S2−300において補正用画像データが取得されたときの測位方位を示す測位方位情報をさらに含んでもよい。 In addition to the positioning position information, the positioning information may further include positioning direction information indicating the positioning direction when the correction image data is acquired in S2-300.
例えば、S2−300において、ユーザが撮影ボタン42aを押すと、測位情報取得部40は、ユーザが撮影ボタン42aを押したときの測位情報を取得する。取得された測位情報は、測位位置を示す測位位置情報が含まれている。なお、測位情報が測位位置情報及び測位方位情報の両方を含む場合には、取得された測位情報は、測位位置情報に加えて、ユーザが撮影ボタン42aを押したときの測位方位を示す測位方位情報をさらに含んでもよい。
For example, in S2-300, when the user presses the shooting button 42a, the positioning
<S2−304> 端末制御部32が、補正要求を発行する。測位情報の補正を要求するためのデータである。補正要求は、S2−300において取得された補正用画像データと、S2−302において取得された測位情報と、を含む。
<S2-304> The
図4のS2−304が終了すると、図4に示すように、端末通信制御部320が、端末通信部36及びネットワーク50を介して、補正要求をサーバ10に送信する。
When S2-304 in FIG. 4 ends, the terminal
<S2−10> サーバ10が、測位情報補正を行う。図8は、本実施形態の測位情報補正(S2−10)のフローチャートである。
<S2-10> The
<S2−100> サーバ通信制御部120が、ネットワーク50及びサーバ通信部16を介して、補正要求を受信する。
<S2-100> The server
<S2−102> 基準特定部125が、補正要求に含まれる補正用画像データにおける複数の基準物の位置関係を特定する。
<S2-102> The
図9は、本実施形態の図8のS2−102の説明図である。 FIG. 9 is an explanatory diagram of S2-102 of FIG. 8 of the present embodiment.
はじめに、基準特定部125は、補正用画像データにおいて、POI対応基準物(例えば、「A銀行」及び「B屋」という看板)と、基準道路(例えば、国道R1)と、を抽出する。
First, the
一例として、図4のS2−300において、図5の画像取得画面に従って(即ち、枠線ALに「A銀行」という看板が含まれ、枠線ACに国道R1が含まれ、且つ、枠線ARに「B屋」という看板が含まれるように)、補正用画像データが取得された場合には、基準特定部125は、枠線AL及びARに含まれる「A銀行」及び「B屋」という看板を、POI対応基準物として抽出し、且つ、枠線ACに含まれる国道R1を、基準道路として抽出する。以下、基準物と基準道路との位置関係を考慮する場合には、基準道路の一方領域(具体的には、図5における枠線AL)に含まれる基準物を「第1POI対応基準物」とし、基準道路の他方領域(同様に、図5における枠線AR)に含まれる基準物を「第2POI対応基準物」として区別する。
As an example, in S2-300 of FIG. 4, according to the image acquisition screen of FIG. 5 (that is, the signboard “A bank” is included in the frame line AL, the national road R1 is included in the frame line AC, and the frame line AR is included. When the correction image data is acquired, the
他の例として、図4のS2−300において、図5の枠線が含まれない画像取得画面に従って、補正用画像データが取得された場合を、図9を用いて説明する。基準特定部125は、補正用画像データから道路部分を特定して、特定結果に基づいて基準道路を抽出する。補正用画像データから道路部分を特定する方法については、公知技術を用いるものであるため、説明を省略する。補正用画像データに複数の道路が含まれる場合には、複数の基準道路を抽出してもよく、あるいは、道路の仕様(例えば、道路の幅員)を考慮して、1つの基準道路を抽出してもよい。
As another example, the case where the correction image data is acquired in S2-300 of FIG. 4 according to the image acquisition screen not including the frame line of FIG. 5 will be described with reference to FIG. The
次いで、図9に示すように、基準特定部125は、補正用画像データにおいて、基準道路に沿って、基準線Vを設定する。そして、基準特定部125は、基準線Vの両側の領域(第1領域L及び第2領域R)のうち、第1領域Lに配置された基準物(看板「A銀行」)を第1POI対応基準物として抽出し、第2領域Rに配置された基準物(看板「B屋」)を第2POI対応基準物として抽出する。
Next, as illustrated in FIG. 9, the
<S2−104> 基準特定部125が、POI対応基準物特定(POI検索)を行う。
<S2-104> The
図10は、本実施形態の図8のS2−104の説明図である。 FIG. 10 is an explanatory diagram of S2-104 in FIG. 8 of the present embodiment.
基準特定部125は、補正用画像データに含まれるPOI対応基準物が示すPOIを特定する。例えば、看板に含まれる文字をOCR(Optical Character Reader)を用いて認識することにより、対応するPOIを特定してもよい。認識する文字は、例えば、POI名称、住所、又は電話番号であってもよい。また、POI対応基準物として看板のロゴ(例えば、マーク等)を認識し、認識したロゴを、サーバ記憶部16に予め記憶されたロゴデータとマッチングすることにより、対応するPOIを特定してもよい。また、建造物の形状や外観から、対応するPOIを特定してもよく、標識のように設置位置を特定可能な基準物の位置情報を用いて、対応するPOIを特定してもよい。図9の場合には、POI対象基準物である2つの看板から、「A銀行」という文字と「B屋」という文字が認識されることで、対応するPOIが、銀行である「A銀行」と、飲食店「B屋」とであることが特定される。
The
次いで、図10(A)に示すように、基準特定部125が、POI情報から、特定したPOIに対応する、測位位置周辺のPOI(以下「基準POI」という)を検索する。以下、基準物と基準道路との位置関係を考慮するために、第1POI対応基準物に対応する基準POIを「第1基準POI」とし、第2POI対応基準物に対応する基準POIを「第2基準POI」と区別することがある。
Next, as shown in FIG. 10A, the
図9の場合には、POI識別情報「Pa」に対応するPOIが第1基準POIとして検索され、POI識別情報「Pb」に対応するPOIが第2基準POIとして検索される。 In the case of FIG. 9, the POI corresponding to the POI identification information “Pa” is searched as the first reference POI, and the POI corresponding to the POI identification information “Pb” is searched as the second reference POI.
他の例として、特定したPOIに対応する基準POIが測位位置周辺に複数あって、1つの基準POIを特定できない(即ち、複数の基準POIの候補がある)場合には、特定した他の基準POIに基づいて、1つの基準POIを特定してもよい。より具体的には、飲食店「B屋」がチェーン店であり、測位位置周辺に複数の店舗がある場合には、特定された他の基準POIである「A銀行」の情報を用いて(例えば「A銀行」から所定の範囲に含まれていることを条件として)、「B屋」に対応する基準POIを特定してもよい。 As another example, when there are a plurality of reference POIs corresponding to the specified POI around the positioning position and one reference POI cannot be specified (that is, there are a plurality of reference POI candidates), the other specified reference One reference POI may be specified based on the POI. More specifically, when the restaurant “B store” is a chain store and there are a plurality of stores around the positioning position, information on “A bank”, which is another specified reference POI ( For example, on the condition that it is included in a predetermined range from “A bank”, the reference POI corresponding to “B store” may be specified.
<S2−106> 基準特定部125が、基準道路特定(リンク検索)を行う。
<S2-106> The
図11は、本実施形態の図8のS2−106の説明図である。 FIG. 11 is an explanatory diagram of S2-106 in FIG. 8 of the present embodiment.
基準特定部125は、道路ネットワーク情報に含まれるリンクから、測位位置周辺のリンクを抽出する。そして、基準特定部125は、基準POIの位置情報(緯度経度)に基づいて、抽出したリンクの中から、基準道路に対応するリンクを特定する。
The
より具体的に説明すると、図11に示すように、基準特定部125は、道路ネットワーク情報に含まれるリンクのうち測位位置周辺のリンクの中から、第1基準POIの位置座標と第2基準POIの位置座標を結ぶ線分を設定し、当該線分と交差するリンクを、基準リンクとして特定する。図9の場合には、測位位置周辺のリンクであるリンクL1a、L1b、L2a、L3a、L3b、及びL4aから、2つの基準POIの位置座標(すなわち、位置座標Npa及び位置座標Npb)を結ぶ線分と交差するリンクL1bが、基準リンクとして特定される。なお、第1基準POIまたは第2基準POIが複数特定されている場合には、複数の線分を設定したうえで、基準リンクを特定してもよい。
More specifically, as shown in FIG. 11, the
なお、第1基準POIまたは第2基準POIの少なくとも一方が特定できない場合(すなわち、特定した基準POIがすべて特定の領域内に含まれる場合)には、複数の基準POIを結ぶ線分と交差するリンクが存在しない場合がある。このような場合には、複数の基準POIを結ぶ線分と交差しないことを条件として、基準リンクを特定してもよい。 Note that when at least one of the first reference POI and the second reference POI cannot be specified (that is, when all the specified reference POIs are included in a specific region), it intersects with a line segment connecting a plurality of reference POIs. The link may not exist. In such a case, the reference link may be specified on the condition that it does not cross a line segment connecting a plurality of reference POIs.
<S2−108> 補正部126が、補正用画像データにおける第1POI対応基準物、第2POI対応基準物、及び基準道路の位置関係に基づいて、補正用画像データの撮影方位を計算する。
<S2-108> The
図12は、本実施形態の図8のS2−108の説明図である。 FIG. 12 is an explanatory diagram of S2-108 in FIG. 8 of the present embodiment.
図12に示すように、補正部126は、第1POI対応基準物に対応する位置座標Npaと、第2POI対応基準物に対応する位置座標Npbと、基準道路に対応する基準リンク(リンクL1b)と、の位置関係(即ち、図9に示すように、補正用画像データにおいて、第1基準POIが第1領域L側に位置し、第2基準POIが第2領域R側に位置し、国道R1が第1基準POIと第2基準POIとの間に位置する、という関係)に基づいて、撮影方位Dc´を計算する。
As illustrated in FIG. 12, the
具体的な方法の一例としては、リンクL1bに対して、ノードN1b側からの撮影方向と、ノードN1c側からの撮影方向のうち、いずれの方向で撮影された補正用画像データであるかを計算してもよい。例えば、一方の方向から撮影した場合における、基準リンクと第1POI対応基準物との座標平面上での位置関係を算出し、座標平面上での位置関係が、補正用データにおける位置関係と一致するか否かを判定してもよい。両者が一致した場合には、当該方向から撮影したものとして撮影方位Dc´を算出してもよい。また、両者が一致しなかった場合には、当該方向とは逆の方向から撮影したものとして、撮影方位Dc´を算出してもよい。 As an example of a specific method, for the link L1b, it is calculated which of the shooting direction from the node N1b side and the shooting direction from the node N1c side is the correction image data shot in the shooting direction. May be. For example, the positional relationship on the coordinate plane between the reference link and the first POI corresponding reference object when the image is taken from one direction is calculated, and the positional relationship on the coordinate plane matches the positional relationship in the correction data. It may be determined whether or not. If the two match, the shooting direction Dc ′ may be calculated as if shooting was taken from that direction. If the two do not match, the shooting direction Dc ′ may be calculated on the assumption that the image is taken from the opposite direction.
<S2−110> 補正部126が、測位位置と、基準リンクと、補正方位と、に基づいて、補正位置を計算する。
<S2-110> The
図13は、本実施形態の図8のS2−110の説明図である。 FIG. 13 is an explanatory diagram of S2-110 of FIG. 8 of the present embodiment.
図13に示すように、補正部126は、基準リンク(リンクL1b)に接続されたリンクL1a、L3a、L3b、及びL4aの中から、基準リンク(リンクL1b)に対して補正方位Dc´と逆方向に位置するリンクL1aを、補正リンクとして選択する。
As illustrated in FIG. 13, the
次いで、補正部126は、測位位置Cに対して最も近い補正リンク(リンクL1a)上の点(即ち、測位位置Cから補正リンク(リンクL1a)に対して垂線を下ろした点)を、補正位置として計算する。図13において、C´は、補正位置を示す。これにより、従来は、測位位置Cに対して最も近いリンクであるリンクL2a上に補正位置が計算されていたのに対して、本発明では、より適切な補正位置を算出することができる。
Next, the
なお、補正リンクの選択にあたっては、補正用画像データにおける基準道路の位置を考慮してもよい。例えば、図9のように基準道路が中央に縦に撮影されている場合には、基準リンクL1bと直線となるように接続しているリンク(リンクL1a)を重み付けするように、補正リンクを算出してもよい。同様に、基準道路が左上から右下にかけて斜めに撮影されている場合には、直線となるリンク(リンクL1a)に加えて、基準リンクL1bに向かって左側に位置するリンク(リンクL2a、L3a)を重み付けしてもよい。 In selecting the correction link, the position of the reference road in the correction image data may be taken into consideration. For example, when the reference road is photographed vertically in the center as shown in FIG. 9, the correction link is calculated so as to weight the link (link L1a) connected to form a straight line with the reference link L1b. May be. Similarly, when the reference road is photographed obliquely from the upper left to the lower right, in addition to a straight link (link L1a), links (links L2a and L3a) located on the left side toward the reference link L1b May be weighted.
<S2−112> 補正部126が、補正測位情報を生成する。補正測位情報は、S2−108で計算された補正方位と、S2−110で計算された補正位置と、を含む情報である。
<S2-112> The
図8のS2−112が終了すると、図4に示すように、サーバ通信制御部120が、サーバ通信部16及びネットワーク50を介して、補正測位情報を端末装置30に送信する。
When S2-112 in FIG. 8 ends, the server
<S2−32> 端末装置30が、補正測位情報に基づいて、測位情報を補正する。
<S2-32> The
例えば、端末通信制御部320が、ネットワーク50及び端末通信部36を介して、補正測位情報を受信する。
For example, the terminal
次いで、端末出力制御部322が、測位情報を補正する。例えば、端末出力制御部322は、測位位置情報を補正位置に補正してもよく、あるいは、測位方位情報を補正方位に補正してもよい。
Next, the terminal
他の例として、端末出力制御部322は、補正測位情報に基づいて、補正地図情報を生成してもよい。例えば、補正地図情報は、補正測位情報(補正位置及び補正方位)を含む補正地図画像である。
As another example, the terminal
図14は、本実施形態の補正地図画像の概略図である。 FIG. 14 is a schematic diagram of a corrected map image of the present embodiment.
本実施形態によれば、現在位置の測位精度や方位センサによって取得した測位方位の精度が低い場合に、測位位置または測位方位を、より簡易な方法で、高精度に補正することができる。また、測位位置及び測位方位(即ち、実際の位置及び方位とは異なる測位情報)に対応する地図情報に代えて、補正位置及び補正方位(即ち、実際の位置及び方位に相当する測位情報)に対応する補正地図情報(例えば、図14の補正地図画像)が得られる。換言すると、本実施形態によれば、より簡易な方法で、高精度に補正された測位情報を提供することができる。 According to the present embodiment, when the positioning accuracy of the current position or the positioning azimuth obtained by the azimuth sensor is low, the positioning position or the positioning azimuth can be corrected with high accuracy by a simpler method. Further, instead of the map information corresponding to the positioning position and the positioning direction (that is, positioning information different from the actual position and direction), the correction position and the correction direction (that is, positioning information corresponding to the actual position and direction) are used. Corresponding correction map information (for example, the correction map image of FIG. 14) is obtained. In other words, according to the present embodiment, positioning information corrected with high accuracy can be provided by a simpler method.
なお、本実施形態では、認識されるPOI対応基準物として、看板(特に看板中に含まれる文字)を例示したが、本発明の範囲はこれに限られるものではない。例えば、認識されるPOI対応基準物は、POI対応基準物の形態(例えば、ビルのサイズ(幅、奥行き、及び高さ)、形状、並びに色の少なくとも1つ)であってもよい。 In the present embodiment, a signboard (in particular, a character included in the signboard) is exemplified as the recognized POI-compliant reference material, but the scope of the present invention is not limited to this. For example, the recognized POI-compliant reference may be in the form of a POI-compliant reference (eg, at least one of building size (width, depth, and height), shape, and color).
また、本実施形態では、補正方位及び補正位置の両方を含む補正測位情報を生成することを例示したが、本発明の範囲はこれに限られるものではない。例えば、補正部126は、測位方位及び測位位置と補正方位及び補正位置とをそれぞれ対比し、測位情報(測位方位及び測位位置の少なくとも1つ)と補正測位情報(補正方位及び補正位置の少なくとも1つ)との差が所定の値以下である場合(すなわち、測位精度が高い場合)には、補正方位の計算(図8のS2−108)及び補正位置の計算(図8のS2−110)の一方(即ち、測位情報と補正測位情報との差が所定の値以下であるものの計算)を省略してもよい。
In the present embodiment, generation of corrected positioning information including both the correction direction and the correction position is exemplified, but the scope of the present invention is not limited to this. For example, the
また、本実施形態では、補正用画像データに含まれる全てのPOI対応基準物(図9の「A銀行」及び「B屋」)を認識して、基準POIを特定することを例示したが、本発明の範囲はこれに限られるものではない。例えば、補正用画像データに含まれる基準物のうち、位置関係の特定に用いる基準物を選択して、選択された基準物のみを認識して、基準POIを特定してもよい。すなわち、画像データに含まれる基準物の中から、任意の道路を選択して、基準道路を特定してもよく、任意のPOI対応基準物を選択して、基準POIを特定してもよい。 In the present embodiment, it is exemplified that all the POI-compliant reference objects (“A bank” and “B store” in FIG. 9) included in the correction image data are recognized and the reference POI is specified. The scope of the present invention is not limited to this. For example, the reference POI may be specified by selecting a reference object used for specifying the positional relationship from among the reference objects included in the correction image data and recognizing only the selected reference object. That is, an arbitrary road may be selected from the reference objects included in the image data to specify the reference road, or an arbitrary POI-compatible reference object may be selected to specify the reference POI.
具体的には、基準特定部125は、補正用画像データに含まれるPOI対応基準物(例えば、図15(A)の4つのPOI対応基準物「A銀行」、「B屋」、「C堂」、及び「D堂」)のうち、少なくとも2つのPOI対応基準物(例えば、図15(B)の3つのPOI対応基準物「A銀行」、「B屋」、及び「C堂」)を選択し、選択したPOI対応基準物を認識して、基準POIを特定してもよい。POI対応基準物の数が多いほど、本実施形態の位置補正の精度を向上させることができる。
Specifically, the
別の例として、基準特定部125は、POI対応基準物のうち、基準POIがPOI情報から検索不可能なPOI対応基準物や、POI情報との関連性が低い対応基準物を除外して、基準POIがPOI情報から検索可能なPOI対応基準物を選択し、選択したPOI対応基準物のみを認識して選択してもよい。
As another example, the
例えば、対応するPOIが測位位置周辺に複数あるPOI対応基準物については、当該POIに対応する基準POIを特定することが困難となり、位置関係を特定して補正情報を算出することが難しい。また、対応するPOI情報がPOI情報記憶手段に、対応するPOI情報のデータが含まれていない場合もある。さらに、取得した補正用画像データにおける解像度やサイズにより、POI対応基準物が不鮮明な場合や、認識精度(読み取り精度)が低い場合がある。そこで、そのようなPOI対応基準物を予め除外し、容易に基準POIを特定できるPOI対応基準物を選択してもよい。 For example, for a POI-compatible reference object having a plurality of corresponding POIs around the positioning position, it is difficult to specify the reference POI corresponding to the POI, and it is difficult to calculate correction information by specifying the positional relationship. In some cases, the corresponding POI information does not include the corresponding POI information data in the POI information storage means. Furthermore, depending on the resolution and size of the acquired correction image data, the POI-compatible reference object may be unclear or the recognition accuracy (reading accuracy) may be low. Accordingly, such a POI-compatible reference material may be excluded in advance, and a POI-compatible reference material that can easily specify the reference POI may be selected.
なお、基準特定部125は、補正用画像データに含まれる基準物の中から、予め定められた基準に基づいて基準物を選択してもよい。あるいは、位置特定に用いる基準物をユーザが選択して、ユーザが操作部38を用いて与えた選択指示に対応する基準物を認識して、選択してもよい。
The
さらに、本実施形態では、1つの基準道路と複数のPOI対応基準物に基づいて、補正測位情報を生成する例について例示したが、本発明の範囲はこれに限られるものではない。すなわち、特定する基準物はPOI対応基準物や基準道路に限られず、画像データに含まれる上述の基準物を特定してもよく、特定した複数の基準物の位置関係に基づいて、補正情報を算出してもよい。例えば、基準特定部125は、1つのPOI対応基準物(例えば、図15(A)の「A銀行」)を認識し、補正部126は、1つのPOI対応基準物と1つの基準道路(例えば、図15(A)の国道R1)を用いて、補正方位及び補正位置を計算してもよい。また、基準道路を複数特定して、複数の基準道路と1つのPOI対応基準物との位置関係に基づいて補正情報を算出してもよい。さらに、基準道路を特定することなく、複数のPOI対応基準物の位置関係に基づいて補正情報を算出してもよい。
Furthermore, in this embodiment, although the example which produces | generates correction | amendment positioning information based on one reference | standard road and several POI corresponding | compatible reference thing was illustrated, the scope of the present invention is not limited to this. In other words, the reference object to be specified is not limited to the POI-compliant reference object or the reference road, and the above-mentioned reference object included in the image data may be specified, and the correction information is obtained based on the positional relationship of the plurality of specified reference objects. It may be calculated. For example, the
また、本実施形態では、測位位置と、基準リンクと、補正方位と、に基づいて、補正位置を計算することを例示したが、本発明の範囲はこれに限られるものではない。 Moreover, although this embodiment illustrated calculating a correction position based on a positioning position, a reference link, and a correction direction, the scope of the present invention is not limited to this.
一例として、POI情報は、基準物のサイズ(幅、高さ、及び奥行き)を示す基準物サイズ情報をさらに含み、補正部126は、補正用画像データにおける基準物のサイズ(幅及び高さ)と基準物サイズ情報における基準物のサイズ(幅及び高さ)との比率を計算し、計算した比率に基づいて、補正用画像データが取得された位置と基準物との距離を計算し、計算した距離に基づいて、補正位置を計算してもよい。
As an example, the POI information further includes reference object size information indicating the size (width, height, and depth) of the reference object, and the
その他の例として、画像データ取得部44は、補正用画像データだけでなく、補正用画像データが取得された位置と基準物との間の距離も取得可能なカメラ(例えば、ステレオカメラ)であって、補正部126は、画像データ取得部44が取得した距離に基づいて、測位情報を補正してもよい。
As another example, the image
また、本実施形態では、画像データ取得部44がデジタルスチルカメラである例を例示したが、本発明の範囲はこれに限られるものではない。
In the present embodiment, an example in which the image
一例として、画像データ取得部44は、デジタルビデオカメラであってもよい。この場合には、画像データ取得部44は、複数のフレームデータ(即ち、静止画像データ)から構成される動画像データを取得し、所定のサンプルレートに従って当該動画像データから補正用画像データを取得してもよい。なお、動画像データを取得する場合には、動画像データに含まれる基準POIの相対的な位置や、撮影位置や撮影方向の変化を考慮して、補正情報を算出してもよい。
As an example, the image
他の例として、画像データ取得部44は、端末装置30に対して着脱可能なリムーバルメディア又は端末記憶部34に記憶された画像データを、補正用画像データとして取得してもよい。
As another example, the image
さらに他の例として、画像データ取得部44は、端末装置30の外部に設けられたカメラが取得した画像データを、補正用画像データとして取得してもよい。例えば、端末装置30がカーナビゲーション装置である場合には、画像データ取得部44は、端末装置30が取り付けられた車両に搭載されたカメラが取得した画像データ(例えば、走行中の当該車両の周辺の画像を示す画像データ)を、補正用画像データとして取得してもよい。
As yet another example, the image
本実施形態に係る情報処理システム1の少なくとも一部は、ハードウェアで構成してもよいし、ソフトウェアで構成してもよい。ソフトウェアで構成する場合には、情報処理システム1の少なくとも一部の機能を実現するプログラムをフレキシブルディスクやCD−ROM等の記録媒体に収納し、コンピュータに読み込ませて実行させてもよい。記録媒体は、磁気ディスクや光ディスク等の着脱可能なものに限定されず、ハードディスク装置やメモリなどの固定型の記録媒体でもよい。
At least a part of the
また、本実施形態に係る情報処理システム1の少なくとも一部の機能を実現するプログラムを、インターネット等の通信回線(無線通信も含む)を介して頒布してもよい。さらに、同プログラムを暗号化したり、変調をかけたり、圧縮した状態で、インターネット等の有線回線や無線回線を介して、あるいは記録媒体に収納して頒布してもよい。
Further, a program that realizes at least a part of functions of the
なお、本発明は、上述した実施形態に限定されるものではなく、その要旨を逸脱しない範囲で構成要素を変形して具体化される。すなわち、装置の分散・統合の具体的形態は図示するものに限られず、その全部または一部を、各種の付加等に応じて、または機能負荷に応じて、任意の単位で機械的または物理的に分散・統合して構成することができる。また、上述した実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明が形成可能である。例えば、上述した実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。 In addition, this invention is not limited to embodiment mentioned above, It deform | transforms and implements a component in the range which does not deviate from the summary. That is, the specific form of the distribution / integration of the devices is not limited to that shown in the drawings, and all or a part thereof may be mechanically or physically in arbitrary units according to various additions or according to functional loads. Can be distributed and integrated. Various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the above-described embodiments. For example, you may delete a some component from all the components shown by embodiment mentioned above. Furthermore, constituent elements over different embodiments may be appropriately combined.
1 情報処理システム
10 サーバ
12 サーバ制御部
120 サーバ通信制御部
122 サーバ情報取得部
125 基準特定部
126 補正部
128 サーバ出力制御部
14 サーバ記憶部
16 サーバ通信部
30 端末装置
32 端末制御部
320 端末通信制御部
322 端末出力制御部
34 端末記憶部
36 端末通信部
38 操作部
40 測位情報取得部
42 表示部
44 画像データ取得部
DESCRIPTION OF
Claims (9)
特定した上記道路と上記複数のPOI対応基準物との位置関係に基づいて、測位した測位情報を補正する補正手段と、
を備えることを特徴とする情報処理システム。 A specifying means for specifying a road and a plurality of different POI-compliant reference objects from the captured image data;
Correction means for correcting the positioning information measured based on the positional relationship between the identified road and the plurality of POI-compliant reference objects;
An information processing system comprising:
前記画像データに含まれる看板を、前記POI対応基準物として特定し、
前記看板と前記道路との間の位置関係を特定する、請求項1に記載の情報処理システム。 The specifying means is:
The signboard included in the image data is specified as the POI-compliant reference object,
The information processing system according to claim 1, wherein a positional relationship between the signboard and the road is specified.
前記補正手段は、前記測位方位情報及び前記測位位置情報の少なくとも1つを補正する、請求項1乃至請求項4の何れかに記載の情報処理システム。 The positioning information includes positioning direction information and / or positioning position information,
The information processing system according to claim 1, wherein the correction unit corrects at least one of the positioning direction information and the positioning position information.
撮影した画像データから、道路および互いに異なる複数のPOI対応基準物を特定する特定手段、若しくは、サーバから、上記道路および上記複数のPOI対応基準物を特定する情報を取得する取得手段、
特定した上記道路と上記複数のPOI対応基準物との位置関係に基づいて、測位した測位情報を補正する補正手段と、
として機能させることを特徴とする情報処理プログラム。 Computer
A specifying means for specifying a road and a plurality of different POI-compatible reference objects from captured image data, or an acquisition means for acquiring information for specifying the road and the plurality of POI-compatible reference objects from a server;
Correction means for correcting the positioning information measured based on the positional relationship between the identified road and the plurality of POI-compliant reference objects;
An information processing program that functions as a computer program.
撮影した画像データから、道路および互いに異なる複数のPOI対応基準物を特定する特定手段、
特定した上記道路と上記複数のPOI対応基準物との位置関係に基づいて、測位した測位情報を補正する補正手段、若しくは、端末装置にて前記補正を可能にすべく、特定した上記道路と上記複数のPOI対応基準物との位置関係に基づく情報を前記端末装置に送信する送信手段、
として機能させることを特徴とする情報処理プログラム。 Computer
A specifying means for specifying a road and a plurality of different POI-compliant reference objects from the captured image data;
Based on the positional relationship between the identified road and the plurality of POI-compliant reference objects, correction means for correcting the positioning information measured, or the specified road and the above-mentioned to enable the correction by a terminal device Transmitting means for transmitting information based on the positional relationship with a plurality of POI-compliant reference objects to the terminal device;
An information processing program that functions as a computer program.
補正手段が、特定した上記道路と上記複数のPOI対応基準物との位置関係に基づいて、測位した測位情報を補正するステップと、
を備えることを特徴とする情報処理方法。 A step of specifying a road and a plurality of different POI-compatible reference objects from the captured image data by the specifying means;
A step of correcting the positioning information measured based on the positional relationship between the identified road and the plurality of POI-compliant reference objects;
An information processing method comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012145309A JP6165422B2 (en) | 2012-06-28 | 2012-06-28 | Information processing system, information processing device, server, terminal device, information processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012145309A JP6165422B2 (en) | 2012-06-28 | 2012-06-28 | Information processing system, information processing device, server, terminal device, information processing method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014009993A JP2014009993A (en) | 2014-01-20 |
JP6165422B2 true JP6165422B2 (en) | 2017-07-19 |
Family
ID=50106833
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012145309A Active JP6165422B2 (en) | 2012-06-28 | 2012-06-28 | Information processing system, information processing device, server, terminal device, information processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6165422B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105021201B (en) * | 2015-08-17 | 2017-12-01 | 武汉光庭信息技术有限公司 | Utilize the anti-system and method for pushing away automobile self-position of the coordinate of traffic marking board |
WO2018134897A1 (en) * | 2017-01-17 | 2018-07-26 | マクセル株式会社 | Position and posture detection device, ar display device, position and posture detection method, and ar display method |
JP2019057014A (en) * | 2017-09-20 | 2019-04-11 | 株式会社ミクシィ | Subject specification information processing device, and control method and control program thereof |
CN111750882B (en) * | 2019-03-29 | 2022-05-27 | 北京魔门塔科技有限公司 | Method and device for correcting vehicle pose during initialization of navigation map |
KR102112715B1 (en) * | 2019-05-14 | 2020-05-20 | 주식회사비지웰 | Method and system for estimating a location of mobile computing device |
WO2020242434A1 (en) * | 2019-05-24 | 2020-12-03 | Google Llc | Method and device for navigating two or more users to a meeting location |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07159190A (en) * | 1993-12-09 | 1995-06-23 | Zanabui Informatics:Kk | Sound device totallizing system on vehicle |
JP2000097714A (en) * | 1998-09-21 | 2000-04-07 | Sumitomo Electric Ind Ltd | Car navigation apparatus |
JP2005141348A (en) * | 2003-11-05 | 2005-06-02 | Sumitomo Electric Ind Ltd | Location detecting system and stolen vehicle tracing system |
JP2006287435A (en) * | 2005-03-31 | 2006-10-19 | Pioneer Electronic Corp | Information processing apparatus, system thereof, method thereof, program thereof, and recording medium with the program recorded thereon |
JP4577655B2 (en) * | 2005-12-27 | 2010-11-10 | アイシン・エィ・ダブリュ株式会社 | Feature recognition device |
KR100887721B1 (en) * | 2007-11-26 | 2009-03-12 | 한국전자통신연구원 | Image car navigation system and method |
US8854453B2 (en) * | 2009-06-23 | 2014-10-07 | Here Global B.V. | Determining geographic position information from a single image |
JP5255595B2 (en) * | 2010-05-17 | 2013-08-07 | 株式会社エヌ・ティ・ティ・ドコモ | Terminal location specifying system and terminal location specifying method |
-
2012
- 2012-06-28 JP JP2012145309A patent/JP6165422B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2014009993A (en) | 2014-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6763448B2 (en) | Visually enhanced navigation | |
KR102344012B1 (en) | Method and apparatus for displaying point of interest | |
JP4847090B2 (en) | Position positioning device and position positioning method | |
TWI391632B (en) | Position/navigation system using identification tag and position/navigation method | |
JP4591353B2 (en) | Character recognition device, mobile communication system, mobile terminal device, fixed station device, character recognition method, and character recognition program | |
US20180045516A1 (en) | Information processing device and vehicle position detecting method | |
US9129163B2 (en) | Detecting common geographic features in images based on invariant components | |
KR100985737B1 (en) | Method, terminal device and computer-readable recording medium for providing information on an object included in visual field of the terminal device | |
US9064155B2 (en) | Guidance device, guidance method, and guidance program | |
JP6165422B2 (en) | Information processing system, information processing device, server, terminal device, information processing method, and program | |
US20140301645A1 (en) | Method and apparatus for mapping a point of interest based on user-captured images | |
JP5795278B2 (en) | Navigation device, autonomous navigation support method, and autonomous navigation support program | |
US8761435B2 (en) | Detecting geographic features in images based on invariant components | |
CN110998684B (en) | Image collection system, image collection method, image collection device, and recording medium | |
EP3644013A1 (en) | Method, apparatus, and system for location correction based on feature point correspondence | |
US9437047B2 (en) | Method, electronic apparatus, and computer-readable medium for retrieving map | |
JP5883723B2 (en) | 3D image display system | |
JP2009037062A (en) | Map data updating apparatus and map data updating system | |
US20140288827A1 (en) | Guiding server, guiding method and recording medium recording guiding program | |
JP5225542B2 (en) | MAP INFORMATION GENERATION METHOD, MAP INFORMATION GENERATION PROGRAM, AND MAP INFORMATION COLLECTION DEVICE | |
JP5709261B2 (en) | Information terminal, information providing system, and information providing method | |
WO2019119358A1 (en) | Method, device and system for displaying augmented reality poi information | |
CN111833253B (en) | Point-of-interest space topology construction method and device, computer system and medium | |
JP6727032B2 (en) | Mobile terminal, self-position estimation system using the same, server and self-position estimation method | |
US9245192B2 (en) | Ad collateral detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150526 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160226 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160426 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160923 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20161109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170523 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170621 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6165422 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |