JP2013117406A - Posture detection device and posture detection method - Google Patents
Posture detection device and posture detection method Download PDFInfo
- Publication number
- JP2013117406A JP2013117406A JP2011264283A JP2011264283A JP2013117406A JP 2013117406 A JP2013117406 A JP 2013117406A JP 2011264283 A JP2011264283 A JP 2011264283A JP 2011264283 A JP2011264283 A JP 2011264283A JP 2013117406 A JP2013117406 A JP 2013117406A
- Authority
- JP
- Japan
- Prior art keywords
- posture
- terminal device
- mobile terminal
- detection
- axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Navigation (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、姿勢検出装置および姿勢検出方法に関するものである。 The present invention relates to an attitude detection device and an attitude detection method.
従来より、自装置にかかる重力加速度の変化を検出することで、自装置の姿勢が変化したことを検出する技術が知られている(たとえば、特許文献1)。 2. Description of the Related Art Conventionally, a technique for detecting a change in the posture of the device itself by detecting a change in gravitational acceleration applied to the device is known (for example, Patent Document 1).
しかしながら、従来技術では、自装置が、重力方向に延びる軸を中心として回転した場合(水平面上において回転した場合)には、自装置にかかる重力加速度の変化が小さくなるため、自装置の姿勢が変化したことを検出できない場合があった。 However, in the prior art, when the own device rotates around an axis extending in the direction of gravity (when rotated on a horizontal plane), the change in the gravitational acceleration applied to the own device becomes small, so that the posture of the own device is In some cases, it was impossible to detect changes.
本発明が解決しようとする課題は、自装置の姿勢の変化を適切に検出することが可能な姿勢検出装置を提供することである。 The problem to be solved by the present invention is to provide a posture detection device capable of appropriately detecting a change in the posture of the device itself.
本発明は、自装置周囲の画像および/または自装置周囲の音声に基づいて、自装置周囲と自装置との相対的な位置関係が変化したか否かを判断し、自装置周囲と自装置との相対位置関係が変化したものと判断された場合に、自装置の姿勢を検出することで、上記課題を解決する。 The present invention determines whether or not the relative positional relationship between the own device periphery and the own device has changed based on the image around the own device and / or the sound around the own device. When it is determined that the relative positional relationship has changed, the above-described problem is solved by detecting the posture of the device itself.
本発明によれば、自装置が重力方向を中心として回転した場合でも、自装置周囲の画像および/または自装置周囲の音声に基づいて、自装置の姿勢が変化したか否かを適切に検出することができる。 According to the present invention, even when the device rotates about the gravity direction, it is appropriately detected whether the posture of the device has changed based on the image around the device and / or the sound around the device. can do.
以下、本発明の実施形態を図面に基づいて説明する。なお、本実施形態では、たとえば、PND(Personal Navigation Device)や携帯電話機などのように、ユーザが携帯して持ち運び可能な携帯端末装置であり、ユーザが、このような携帯端末装置を車内に持ち込むことにより、携帯端末装置自体の移動速度を、車両の速度として算出し、算出した車両の速度を、各種ナビゲーションに用いることが可能な携帯端末装置を例示して説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. In the present embodiment, for example, a portable terminal device that can be carried and carried by the user, such as a PND (Personal Navigation Device) or a mobile phone, and the user brings such a portable terminal device into the vehicle. Thus, the moving speed of the mobile terminal device itself is calculated as the vehicle speed, and the mobile terminal device that can use the calculated vehicle speed for various navigations will be described as an example.
≪第1実施形態≫
図1は、第1実施形態に係る携帯端末装置1を示す構成図である。第1実施形態に係る携帯端末装置1は、図1に示すように、制御装置10、GPSユニット20、加速度センサ30、カメラ40、およびメモリ50の各構成を備える。
<< First Embodiment >>
FIG. 1 is a configuration diagram illustrating a
GPS(Global Positioning System)ユニット20は、図示しない複数の衛星通信から送信される電波を検出して、携帯端末装置1の位置情報を取得する。GPSユニット20により取得された携帯端末装置1の位置情報は、制御装置10に送信される。
A GPS (Global Positioning System) unit 20 detects radio waves transmitted from a plurality of satellite communications (not shown) and acquires position information of the
加速度センサ30は、携帯端末装置1にかかる加速度を検出する。ここで、図2は、加速度センサ30にかかる加速度を説明するための図である。加速度センサ30は、図2(A)に示すように、互いに直交する3軸方向を、それぞれX2軸方向、Y2軸方向、およびZ2軸方向として予め規定しており、X2軸方向の加速度をSx *、Y2軸方向の加速度をSy *、およびZ2軸方向の加速度をSz *としてそれぞれ検出する。なお、互いに直交するX2軸方向、Y2軸方向、およびZ2軸方向は、図2(A)および図2(B)に示すように、携帯端末装置1の姿勢に伴って決定される方向であり、たとえば、図2(A)に示す携帯端末装置1の姿勢では、重力方向とZ2軸方向とが一致するように、互いに直交する3軸方向が決定されるが、図2(A)に示す携帯端末装置1の姿勢と異なる図2(B)に示す携帯端末装置1の姿勢では、重力方向がX2軸方向と一致するように、互いに直交する3軸方向が決定される。なお、加速度センサ30により検出された加速度Sx *、Sy *、およびSz *は、制御装置10に送信される。
The
なお、加速度センサ30により検出される加速度Sx *、Sy *、およびSz *はベクトルである。そのため、図2においては、ベクトルであることを示す「→」を、「Sx」の真上、「Sy」の真上、「Sz」の真上に示すことで、加速度センサ30により検出される加速度を表しているが、下記式(1)に示すように、図2に示す加速度(ベクトルであることを示す「→」を「Sx」の真上、「Sy」の真上、「Sz」の真上に示したもの)と、本明細書の加速度Sy *、Sy *、およびSz *とは同義である。以下、X*、Y*、Z*においても同様である。
カメラ40は、例えば、二次元CCDイメージセンサ、MOSセンサ、又はCID等の複数の光電変換素子が二次元に配列された光電変換モジュールを備えており、携帯端末装置1周囲の画像を、所定の時間間隔で繰り返し撮像する。なお、カメラ40により撮像された画像は、制御装置10に送信される。 The camera 40 includes, for example, a two-dimensional CCD image sensor, a MOS sensor, or a photoelectric conversion module in which a plurality of photoelectric conversion elements such as a CID are two-dimensionally arranged. Take images repeatedly at time intervals. Note that the image captured by the camera 40 is transmitted to the control device 10.
制御装置10は、たとえばユーザが携帯端末装置1を車内に持ち込んだ場合に、GPSユニット20から取得した携帯端末装置1の位置情報に基づいて、携帯端末装置1の移動速度を算出し、算出した携帯端末装置1の移動速度を、車両の速度として検出する。また、制御装置10は、携帯端末装置1の姿勢が変化する度に携帯端末装置1の姿勢を検出しており、たとえば、車両がトンネル内やビルの合間などを走行している際に、GPSユニット20から携帯端末装置1の位置情報を取得することができない場合に、携帯端末装置1の姿勢と、加速度センサ30から取得した加速度とに基づいて、携帯端末装置1の移動速度を算出し、算出した携帯端末装置1の移動速度を、車両の速度として検出することもできる。
For example, when the user brings the
制御装置10は、このように携帯端末装置1の移動速度の算出や、携帯端末装置1の姿勢の検出を行うためのプログラムが格納されたROM(Read Only Memory)と、このROMに格納されたプログラムを実行する動作回路としてのCPU(Central Processing Unit)と、アクセス可能な記憶装置として機能するRAM(Random Access Memory)とを備える。なお、動作回路としては、CPUに代えて又はこれとともに、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)などを用いることができる。
The control device 10 thus stores a ROM (Read Only Memory) in which a program for calculating the moving speed of the
そして、制御装置10は、図3に示すように、携帯端末装置1の移動速度を算出するための移動速度算出部110、携帯端末装置1の姿勢を検出するための姿勢検出部120、姿勢検出部120により検出された携帯端末装置1の姿勢を記憶する姿勢情報記憶部130、および携帯端末装置1の姿勢が変化したか否かを判断する姿勢変化判断部140を有する。なお、図3は、第1実施形態に係る携帯端末装置1を示すブロック構成図である。
Then, as shown in FIG. 3, the control device 10 includes a movement speed calculation unit 110 for calculating the movement speed of the
移動速度算出部110は、GPSユニット20から携帯端末装置1の位置情報を取得し、取得した携帯端末装置1の位置情報に基づいて、携帯端末装置1の移動速度を算出する。ここで、図4は、GPSユニット20により検出された携帯端末装置1の位置情報に基づいて、携帯端末装置1の移動速度を算出する方法を説明するための図である。なお、図4では、GPSユニット20により、携帯端末装置1の位置情報が1秒間隔で検出されており、その結果、図4において黒丸で示す位置で、携帯端末装置1の位置情報が検出された場面を例示している。たとえば、図4に示す例において、携帯端末装置1の位置が、Pnの位置からPn+1の位置に移動した場合、移動速度算出部110は、現在のPn+1の位置情報と、1つ前に検出したPnの位置情報とに基づいて、携帯端末装置1の位置情報の検出時間間隔である1秒間(s)における、携帯端末装置1の移動距離Rn(m)を算出する。これにより、移動速度算出部110は、携帯端末装置1の移動速度を、Rn(m/s)として算出する。なお、移動速度算出部110により算出された移動速度は、メモリ50に記憶される。
The moving speed calculation unit 110 acquires the position information of the
また、移動速度算出部110は、たとえば、携帯端末装置1を搭載した車両がトンネル内やビルの合間を走行しており、GPSユニット20から携帯端末装置1の位置情報を取得することができない場合には、後述する姿勢情報記憶部130に記憶されている携帯端末装置1の姿勢情報と、加速度センサ30により検出された加速度とに基づいて、携帯端末装置1の移動速度を算出する。なお、携帯端末装置1の姿勢情報と、加速度センサ30により検出された加速度とに基づいて、携帯端末装置1の移動速度を算出する方法の詳細については、後述する。
For example, the moving speed calculation unit 110 may not be able to acquire the position information of the
姿勢検出部120は、移動速度算出部110によって算出された携帯端末装置1の移動速度および進行方向の情報と、加速度センサ30により検出された加速度とに基づいて、携帯端末装置1の姿勢の検出を行う。具体的には、姿勢検出部120は、携帯端末装置1の姿勢にかかわらずに予め定められた、互いに直交する3軸方向を、それぞれX1軸方向、Y1軸方向、およびZ1軸方向とした場合に、これらX1軸、Y1軸、およびZ1軸に対する姿勢検出部120の姿勢を検出する。
The posture detection unit 120 detects the posture of the
たとえば、姿勢検出部120は、図5に示すように、車両の進行方向(前後方向)をX1軸方向、車両の幅方向(X1軸と水平面において直交する方向)をY1軸方向、重力方向をZ1軸方向として、互いに直交する3軸方向を予め定めている場合には、これらX1軸、Y1軸、およびZ1軸に対する姿勢検出部120の姿勢を検出する。具体的には、姿勢検出部120は、これらX1軸、Y1軸、およびZ1軸と、携帯端末装置1の姿勢に伴って決められるX2軸、Y2軸、およびZ2軸とが、それぞれ一致する場合の携帯端末装置1の姿勢に対して、携帯端末装置1を、図2に示すように、X2軸を中心としてθXだけ回転させた場合の携帯端末装置1の姿勢を、θXを求めることにより検出する。また、同様に、姿勢検出部120は、これらX1軸、Y1軸、およびZ1軸と、携帯端末装置1の姿勢に伴って決定されるX2軸、Y2軸、およびZ2軸とが、それぞれ一致する場合の携帯端末装置1の姿勢に対して、たとえば、携帯端末装置1を、図2に示すY2軸を中心としてθyだけ回転させた場合の携帯端末装置1の姿勢を、θyを求めることで検出し、Z2軸を中心としてθZだけ回転させた場合の携帯端末装置1の姿勢を、θZを求めることで検出する。このように、姿勢検出装置120は、X2軸を中心とした回転角θX、Y2軸を中心とした回転角θy、およびZ2軸を中心とした回転角θZを求めることで、X1軸、Y1軸、およびZ1軸に対する携帯端末装置1の姿勢を検出する。
For example, the attitude detection unit 120, as shown in FIG. 5, the traveling direction (longitudinal direction) of the X 1 axis direction of the vehicle, (a direction perpendicular in the X 1 axis and the horizontal plane) the width direction of the vehicle Y 1 axially, gravity direction Z 1 axial direction, 3 when an axial direction is predetermined in mutually orthogonal, these X 1 axis, detects the orientation of the orientation detection unit 120 for Y 1 axis, and Z 1 axis. Specifically, the attitude detection unit 120 includes the X 1 axis, the Y 1 axis, and the Z 1 axis, and the X 2 axis, the Y 2 axis, and the Z 2 axis that are determined according to the attitude of the mobile
なお、本実施形態では、姿勢検出部120により検出された携帯端末装置1の姿勢の情報(θx,θy,θz)は、姿勢情報記憶部130に記憶され、移動速度算出部110により携帯端末装置1の移動速度を算出する際に用いられる。また、本実施形態では、図5に示すように、車両の進行方向(前後方向)をX1軸方向、車両の幅方向(X1軸と水平面において直交する方向)をY1軸方向、重力方向をZ1軸方向として予め定めた場合を例示して説明したが、X1軸方向、Y1軸方向、Z1軸方向は、互いに直交するものであれば、これらの方向に限定されるものではない。
In this embodiment, the posture information (θ x , θ y , θ z ) of the mobile
姿勢変化判断部140は、カメラ40により繰り返し撮像された携帯端末装置1周囲の画像を取得し、取得した携帯端末装置1周囲の画像を比較することで、携帯端末装置1の姿勢が変化したか否かを判断する。そして、本実施形態では、姿勢変化判断部140により携帯端末装置1の姿勢が変化したと判断された場合は、上述した姿勢検出部120による携帯端末装置1の姿勢の検出が行われる。なお、携帯端末装置1の姿勢の変化を検出する方法の詳細については、後述する。
Whether the posture
続いて、図6に基づいて、第1実施形態に係る姿勢検出処理について説明する。第1実施形態に係る姿勢検出処理では、カメラ40により撮像された画像に基づいて、携帯端末装置1の姿勢が変化したか否かを判断し、携帯端末装置1の姿勢が変化したと判断された場合に、携帯端末装置1の姿勢の検出を行うものである。なお、図6は、第1実施形態に係る姿勢検出処理を説明するフローチャートである。
Next, the posture detection process according to the first embodiment will be described with reference to FIG. In the attitude detection process according to the first embodiment, it is determined whether the attitude of the mobile
まず、ステップS101では、カメラ40により、携帯端末装置1周囲の画像の撮像が行われ、カメラ40により撮像された画像が、カメラ40から制御装置10へと送出される。そして、続くステップS102では、制御装置10の姿勢変化判断部140により、カメラ40により撮像された携帯端末装置1周囲の画像が取得され、取得された画像が今回処理画像として、制御装置10に備えるRAMに記憶される。
First, in step S <b> 101, an image around the mobile
ステップS103では、制御装置10の姿勢変化判断部140により、前回処理時に撮像された携帯端末装置1周囲の画像(前回処理画像)と、ステップS101で撮像された今回処理画像との比較が行われる。具体的には、姿勢変化判断部140は、制御装置10のRAMに記憶されている、前回処理時に撮像された携帯端末装置1周囲の画像を前回処理画像として読み出し、読み出した前回処理画像と、ステップS101で撮像された今回処理画像とを比較し、カメラ40により撮像された画像が変化したか否かを判断する。
In step S103, the posture
そして、ステップS104では、制御装置10の姿勢変化判断部140により、ステップS103の比較結果に基づいて、前回処理画像と今回処理画像とが異なるか否かの判断が行われる。たとえば、姿勢変化判断部140は、前回処理画像と今回処理画像とを比較した結果、画像全体に対して前回処理画像と今回処理画像とで一致する部分の割合が、所定の割合S1以上であると判断した場合には、前回処理画像と今回処理画像とは一致するものと判断し、ステップS108に進み、前回処理画像と今回処理画像とは一致するため、携帯端末装置1の姿勢は変化していないものと判断する。一方、姿勢変化判断部140は、前回処理画像と今回処理画像とを比較した結果、画像全体に対して前回処理画像と今回処理画像とで一致する部分の割合が、所定の割合S1未満であると判断した場合には、前回処理画像と今回処理画像とは異なるものと判断して、ステップS105に進む。なお、所定割合S1は、特に限定されないが、たとえば、カメラ40により撮像された画像の変化が、携帯端末装置1の姿勢が変化したことによるものか、あるいは、ユーザの体の一部がカメラ40の撮像範囲に入った場合など、被写体が移動したことによるものかを判断することができるような割合とすることが好適である。これにより、携帯端末装置1の姿勢は実際に変化していない場合でも、被写体が移動したことにより、携帯端末装置1の姿勢が変化したものと誤って判断されてしまうことを有効に防止することができる。
In step S104, the posture
ステップS105では、制御装置10の姿勢変化判断部140により、今回処理画像が、前回処理画像を平行移動させたものであるか否かの判断が行われる。たとえば、姿勢変化判断部140は、今回処理画像と前回処理画像とに基づいて、オプティカルフローを求めることにより、今回処理画像が前回処理画像を平行移動させたものであるか否かを判断することができる。そして、今回処理画像が前回処理画像を平行移動させたものであると判断された場合には、ステップS108に進み、携帯端末装置1は、図2に示すように、X2軸、Y2軸、またはZ2軸を中心として回転しておらず、携帯端末装置1の姿勢自体は変化していないものと判断される。一方、今回処理画像が前回処理画像を平行移動させたものではないと判断された場合には、ステップS106に進む。このように、今回処理画像が前回処理画像を平行移動させたものであるか否かの判断することで、携帯端末装置1の姿勢の変化を適切に検出することができる。
In step S105, the posture
ステップS106では、制御装置10の姿勢変化判断部140により、今回処理画像と前回処理画像とは異なるため、携帯端末装置1周囲とカメラ40との相対位置関係が変化したものと判断され、携帯端末装置1の姿勢が変化したものと判断される。
In step S106, the posture
そして、ステップS106で、携帯端末装置1の姿勢が変化したものと判断された場合には、ステップS107に進み、ステップS107で、制御装置10の姿勢検出部120により、携帯端末装置1の姿勢の検出が行われる。以下に、本実施形態における携帯端末装置1の姿勢の検出方法について説明する。
If it is determined in step S106 that the attitude of the mobile
すなわち、姿勢検出部120は、まず、図5に示すように、車両の進行方向(前後方向)であるX1軸方向の加速度X*と、車両の幅方向(X1軸と水平面において直交する方向)であるY1軸方向の加速度Y*と、重力方向であるZ1軸方向の加速度Z*とを算出する。たとえば、姿勢検出部120は、GPSユニット20により検出された位置情報から、携帯端末装置1の移動速度と進行方向とを求め、携帯端末装置1の移動速度の時間変化量から、X1軸方向の加速度X*とY1軸方向の加速度Y*とを算出することができる。また、Z1軸方向は重力方向であるため、姿勢検出部120は、Z1軸方向の加速度Sz *を重力加速度−Gとして検出することができる。
That is, the posture detection unit 120, first, as shown in FIG. 5, an acceleration X * of X 1 axis direction which is the traveling direction of the vehicle (longitudinal direction), perpendicular to the width direction (X 1 axis and the horizontal plane of the vehicle calculating Y 1 to the axial direction of the acceleration Y * is the direction), and acceleration Z * of Z 1 axial direction which is the direction of gravity. For example, the attitude detection unit 120, the position information detected by the GPS unit 20 obtains the moving speed of the mobile
さらに、姿勢検出部120は、加速度センサ30から、携帯端末装置1の姿勢に伴って決定される、X2軸方向の加速度Sx *、Y2軸方向の加速度Sy *、およびZ2軸方向の加速度Sz *を取得する。
Furthermore, the posture detection unit 120, the
ここで、たとえば、図5に示すX1軸、Y1軸、1軸と、図2に示すX2軸、Y2軸、Z2軸とをそれぞれ一致させた状態から、携帯端末装置1を、X2軸を中心としてθx、Y2軸を中心としてθy、および、Z2軸を中心としてθZだけ回転させた場合、X1軸方向の加速度X*、Y1軸方向の加速度Y*、およびZ1軸方向の加速度Sz *と、回転後のX2軸方向の加速度Sx *、Y2軸方向の加速度Sy *、およびZ2軸方向の加速度Sz *とを、下記式(2)に示す関係で表すことができる。
そこで、姿勢検出部120は、算出した加速度X*、Y*、Z*と、加速度センサ30により検出した加速度Sx *、Sy *、Sz *とに基づいて、上記式(2)により、θx、θy、θZを求めることで、図5に示すX1軸、Y1軸、およびZ1軸と、図2に示すX2軸、Y2軸、およびZ2軸とがそれぞれ一致する場合の携帯端末装置1の姿勢に対して、X2軸を中心としてθx、Y2軸を中心としてθy、および、Z2軸を中心としてθZだけ回転させた、現在の携帯端末装置1の姿勢を検出することができる。
Therefore, the posture detection unit 120 uses the above formula (2) based on the calculated accelerations X * , Y * , Z * and the accelerations S x * , S y * , S z * detected by the
なお、上記式(2)において、加速度X*、Y*、Z*および加速度Sx *、Sy *、Sz *は既に得られているため、上記式(2)より、θx,θy,θZについての連立方程式が得られることとなる。そのため、姿勢検出部120は、θx,θy,θZについての連立方程式を解くことで、θx,θy,θZをそれぞれ求めることができる。そして、姿勢検出部120は、このように求めたθx,θy,θZを、X1軸、Y1軸、およびZ1軸に対する携帯端末装置1の姿勢情報として、姿勢情報記憶部130に記憶する。
In the above formula (2), since accelerations X * , Y * , Z * and accelerations S x * , S y * , S z * have already been obtained, θ x , θ from the above formula (2). y, so that the system of equations for θ Z is obtained. Therefore, the posture detecting unit 120, theta x, theta y, by solving simultaneous equations about the theta Z, can be calculated θ x, θ y, θ Z, respectively. Then, the posture detection unit 120 uses the thus obtained θ x , θ y , and θ Z as posture information of the mobile
そして、ステップS107で携帯端末装置1の姿勢が検出された後、または、ステップS108で携帯端末装置1の姿勢が変化していないと判断された後は、ステップS101に戻り、上述した姿勢検出処理が繰り返される。なお、今回処理において今回処理画像として記憶された画像は、次回処理においては、前回処理画像として用いられることとなる。
Then, after the attitude of the mobile
以上のように、第1実施形態に係る姿勢検出処理が行われる。そして、この姿勢検出処理で検出された携帯端末装置1の姿勢情報は、たとえば、以下に説明するように、車両の移動速度を算出する処理などに用いられる。
As described above, the posture detection process according to the first embodiment is performed. Then, the attitude information of the mobile
すなわち、携帯端末装置1の移動速度算出部110は、携帯端末装置1を搭載した車両がトンネル内やビルの合間を走行する場合など、GPSユニット20から携帯端末装置1の位置情報を取得することができない場合には、上述した姿勢検出処理によって検出された携帯端末装置1の姿勢情報と、加速度センサ30により検出された加速度とに基づいて、携帯端末装置1の移動速度を算出する。
That is, the moving speed calculation unit 110 of the mobile
具体的には、移動速度算出部110は、上述した姿勢検出処理によって、携帯端末装置1の姿勢情報として検出したθx,θy,およびθZを、姿勢情報記憶部130から取得する。そして、移動速度算出部110は、取得したθx,θy,およびθZと、加速度センサ30により検出した加速度Sx *、Sy *、およびSz *と基づいて、下記式(3)により、車両の進行方向であるX1軸方向の加速度X*と、水平面上においてX1軸方向に直交するY1軸方向の加速度Y*とを算出する。
そして、移動速度算出部110は、上記式(3)に基づいて算出したX1軸方向における加速度X*と、Y1軸方向における加速度Y*との合成ベクトルを生成し、生成した合成ベクトルの時系列データの積算することで、携帯端末装置1の移動速度を算出する。このように、本実施形態では、携帯端末装置1の姿勢情報と、加速度センサ30により検出した加速度とに基づいて、携帯端末装置1の移動速度を算出することができるため、たとえば、携帯端末装置1を搭載した車両がトンネル内やビルの合間などを走行しているために、GPSユニット20から位置情報を検出することができない場合でも、携帯端末装置1を搭載した車両の速度を適切に算出することができる。
Then, the moving speed calculation unit 110, an acceleration X * in the X 1 axis direction calculated based on the equation (3) to generate a combined vector of the acceleration Y * in Y 1 axis direction, of the generated synthesized vector The moving speed of the mobile
なお、このように算出された携帯端末装置1の移動速度は、時系列に沿って、メモリ50に蓄積されることとなる。そして、メモリ50に蓄積された移動速度の時系列データは、たとえば、カーナビゲーションを行う際に車両の位置を特定するために用いられたり、ユーザによる省燃費運転(燃費の良い運転)の度合いを決定するために用いられたり、ユーザによる安全運転の度合いなどの運転傾向を分析するために用いられたり、あるいは、営業担当者などの移動履歴を管理者が確認するために用いられる。
Note that the movement speed of the mobile
以上のように、第1実施形態では、カメラ40により携帯端末装置1周囲の画像を繰り返し撮像し、カメラ40により繰り返し撮像された画像を比較する。そして、比較の結果、画像が変化したものと判断された場合には、携帯端末装置1の姿勢が変化したものと判断して、携帯端末装置1の姿勢の検出を行う。このように、第1実施形態では、カメラ40により撮像された携帯端末装置1周囲の画像に基づいて、携帯端末装置1の姿勢が変化したか否かを判断することで、たとえば、インストルメントパネル、座席シート、またはカップホルダーなどの上に置かれた携帯端末装置1が、重力方向に延びる軸(たとえば、図2(B)に示す例ではX2軸)を中心として回転した場合でも、携帯端末装置1の姿勢の変化を適切に検出することができる。
As described above, in the first embodiment, the camera 40 repeatedly captures images around the mobile
また、第1実施形態では、カメラ40により繰り返し撮像された画像を比較することで、携帯端末装置1の姿勢が変化したか否かを判断し、携帯端末装置1の姿勢が変化したと判断した場合には、上記式(2)に示すように、車両の加速度を加味して、携帯端末装置1の姿勢を検出することで、以下のような問題を解決することができる。すなわち、単に、重力加速度の変化により、携帯端末装置1の姿勢が変化したか否かを判断する場合には、たとえば、携帯端末装置1を搭載した車両が加速または減速した際に、携帯端末装置1にかかる重力加速度が、重力加速度と車両の加減速による加速度とのベクトル成分の合成により変化してしまい、これにより、携帯端末装置1の姿勢が変化したものと誤って判断される場合があり、さらに、このような重力加速度に基づいて、携帯端末装置1の姿勢が算出されてしまうため、携帯端末装置1の姿勢を適切に検出することができないという問題があった。これに対して、第1実施形態では、カメラ40により繰り返し撮像された画像を比較することで、携帯端末装置1を搭載した車両が加速または減速した場合でも、互いに直交するX2軸、Y2軸、またはZ2軸を中心として、携帯端末装置1が回転したか否かを適切に判断することができ、携帯端末装置1の姿勢が変化したかを適切に判断することができるとともに、携帯端末装置1の姿勢が変化した場合には、上記式(2)により、車両の加速度を加味して、携帯端末装置1の姿勢を検出することができるため、携帯端末装置1の姿勢を適切に検出することができる。
Further, in the first embodiment, by comparing the images repeatedly captured by the camera 40, it is determined whether or not the attitude of the mobile
≪第2実施形態≫
続いて、第2実施形態に係る携帯端末装置1aについて説明する。第2実施形態に係る携帯端末装置1aは、図7に示すように、指向性マイク60を備えており、以下に説明するように動作すること以外は、第1実施形態と同様である。ここで、図7は、第2実施形態に係る携帯端末装置1aを示す構成図である。
<< Second Embodiment >>
Next, the mobile terminal device 1a according to the second embodiment will be described. As shown in FIG. 7, the mobile terminal device 1 a according to the second embodiment includes a directional microphone 60 and is the same as the first embodiment except that the mobile terminal device 1 a operates as described below. Here, FIG. 7 is a configuration diagram illustrating the mobile terminal device 1a according to the second embodiment.
第2実施形態に係る携帯端末装置1aは、図7に示すように、指向性マイク60を備えている。指向性マイク60は、運転者の音声など、携帯端末装置1a周囲の音声を繰り返し検出し、検出した音声の音声データを、制御装置10に送信する。また、指向性マイク60は指向性を有しており、指向性マイク60により検出された音声の音声データに基づいて、音声の音源が存在する方向(音声が発せられた方向)を検出することができるようになっている。そのため、制御装置10の姿勢変化判断部140は、指向性マイク60により繰り返し検出された音声を比較することで、該音声の音源の存在する方向が変化したか否かを判断し、音声の音源の存在する方向が変化したと判断した場合に、携帯端末装置1aの姿勢が変化したと判断する。なお、携帯端末装置1a周囲の音声に基づいて、携帯端末装置1aの姿勢が変化したか否かを判断する方法の詳細については、後述する。
As shown in FIG. 7, the mobile terminal device 1 a according to the second embodiment includes a directional microphone 60. The directional microphone 60 repeatedly detects a voice around the mobile terminal device 1 a such as a driver's voice, and transmits voice data of the detected voice to the control device 10. The directional microphone 60 has directivity, and detects the direction in which the sound source is present (the direction in which the sound is emitted) based on the sound data of the sound detected by the directional microphone 60. Can be done. Therefore, the posture
続いて、図8に基づいて、第2実施形態に係る姿勢検出処理について説明する。第2実施形態に係る姿勢検出処理は、指向性マイク60により検出された音声に基づいて、携帯端末装置1aの姿勢が変化したか否かを判断し、該判断の結果、携帯端末装置1aの姿勢が変化したと判断された場合に、携帯端末装置1aの姿勢の検出を行うものである。なお、図8は、第2実施形態に係る姿勢検出処理を説明するフローチャートである。 Next, based on FIG. 8, the posture detection process according to the second embodiment will be described. The posture detection process according to the second embodiment determines whether or not the posture of the mobile terminal device 1a has changed based on the sound detected by the directional microphone 60. As a result of the determination, the posture detection processing of the mobile terminal device 1a is performed. When it is determined that the posture has changed, the posture of the mobile terminal device 1a is detected. FIG. 8 is a flowchart for explaining posture detection processing according to the second embodiment.
まず、ステップS201では、指向性マイク60により携帯端末装置1a周囲の音声の検出が行われ、指向性マイク60により検出された携帯端末装置1a周囲の音声の音声データが、指向性マイク60から制御装置10へと送出される。そして、続くステップS202では、制御装置10の姿勢変化判断部140により、指向性マイク60により検出された携帯端末装置1a周囲の音声の音声データが取得され、取得された音声データが今回処理時音声データとして、制御装置10に備えるRAMに記憶される。
First, in step S <b> 201, sound around the mobile terminal device 1 a is detected by the directional microphone 60, and sound data of the sound around the mobile terminal device 1 a detected by the directional microphone 60 is controlled from the directional microphone 60. Sent to the device 10. In subsequent step S202, the posture
ステップS203では、制御装置10の姿勢変化判断部140により、前回処理時において検出された携帯端末装置1a周囲の音声の音声データ(前回処理時音声データ)と、ステップS202で取得された今回処理時音声データとの比較が行われる。ここで、本実施形態の指向性マイク60は指向性を有しており、姿勢変化判断部140は、指向性マイク60により検出された携帯端末装置1a周囲の音声の音声データに基づいて、該音声の音源が存在する方向(音声が聞こえてくる方向)を検出することができる。
In step S203, the voice change data of the surroundings of the mobile terminal device 1a detected during the previous processing by the posture
たとえば、図9(A)に示す例では、音源である運転者が、携帯端末装置1aのZ2軸方向よりもθaの角度の方向に存在しているため、姿勢変化判断部140は、指向性マイク60により検出された音声の音源が、Z2軸方向よりもθaの角度の方向に存在していると検出することができる。また、図9(B)に示す例では、音源である運転者が、携帯端末装置1aのZ2軸よりもθbの角度の方向に位置しており、姿勢変化判断部140は、指向性マイク60からの音声の音源が、Z2軸に対してθbの角度の方向に存在していると検出することができる。
For example, in the example shown in FIG. 9 (A), since a sound source driver, it is present in the direction of the angle theta a than Z 2 axial direction of the mobile terminal apparatus 1a, the posture
このように、図9に示す例では、携帯端末装置1aがX2軸を中心として角度(θb−θa)だけ回転しているため、姿勢変化判断部140は、図9(A)に示す例で検出された音声と、図9(B)に示す例で検出された音声とを比較した場合に、図9(A)に示す例で検出された音声の音源が存在する方向と、図9(B)に示す例で検出された音声の音源が存在する方向とが異なるものであると判断する。なお、図9は、指向性マイク60で検出された音声に基づいて、携帯端末装置1aの姿勢が変化したか否かを判断する方法を説明するための図である。
Thus, in the example shown in FIG. 9, since the portable terminal device 1a is rotating about the X 2 axis by an angle (θ b -θ a), the posture
ステップS204では、制御装置10の姿勢変化判断部140により、ステップS203の比較結果に基づいて、前回処理時に音源が存在していた方向と、今回処理時に音源が存在している方向とが異なるか否かの判断が行われる。そして、図9に示す例のように、前回処理時に音源が存在していた方向と今回処理時に音源が存在している方向とが異なるものであると判断された場合には、ステップS205に進み、姿勢変化判断部140により、携帯端末装置1a周囲と携帯端末装置1aとの相対位置関係が変化したものと判断され、携帯端末装置1aの姿勢が変化したものと判断される。一方、前回処理時に音源が存在していた方向と、今回処理時に音源が存在している方向とが同じ場合には、ステップS206に進み、姿勢変化判断部140により、携帯端末装置1aの姿勢は変化していないものと判断される。
In step S204, based on the comparison result in step S203, the orientation
そして、ステップS205で、携帯端末装置1aの姿勢が変化したものと判断された場合には、ステップS207に進み、第1実施形態のステップS108と同様に、制御装置10の姿勢検出部120により、携帯端末装置1aの姿勢の検出が行われる。 If it is determined in step S205 that the posture of the mobile terminal device 1a has changed, the process proceeds to step S207, and the posture detection unit 120 of the control device 10 performs the same as in step S108 of the first embodiment. The attitude of the mobile terminal device 1a is detected.
以上のように第2実施形態では、指向性マイク60で検出した携帯端末装置1周囲の音声に基づいて、前回処理時に検出された音声と今回処理時に検出された音声とを比較して、前回処理時に音源が存在していた方向と、今回処理時に音源が存在している方向とが異なるか否かを判断することで、携帯端末装置1の姿勢が変化したか否かを判断する。これにより、第2実施形態では、第1実施形態の効果に加えて、車室内が暗い場合や、携帯端末装置1が鞄の中に入っている場合などでも、携帯端末装置1周囲の音声に基づいて、携帯端末装置1の姿勢の変化を適切に検出することができる。
As described above, in the second embodiment, based on the sound around the mobile
以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。たとえば、本発明の実施形態は、上述した第1実施形態または第2実施形態に限られるものではなく、また上述した第1実施形態と第2実施形態を組み合わせてもよい。 The embodiment described above is described for facilitating understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention. For example, the embodiment of the present invention is not limited to the first embodiment or the second embodiment described above, and the first embodiment and the second embodiment described above may be combined.
また、上述した第1実施形態では、携帯端末装置1がカメラ40を備える構成を例示したが、カメラ40の数は特に限定されるものではなく、たとえば、一対のカメラ40を備え、この一対のカメラ40のうち、一方のカメラ40を携帯端末装置1の一方の主面に設けるとともに、他方のカメラ40を携帯端末装置1の他方の主面に設ける構成としてもよい。これにより、たとえば、ユーザが、携帯端末装置1を、車室内の座席シートの上に、一方のカメラ40を下向きにして置いた場合でも、もう一方のカメラ40で画像を適切に撮像することができるため、携帯端末装置1の姿勢が変化したか否かを適切に判断することができる。
Moreover, in 1st Embodiment mentioned above, although the structure in which the portable
さらに、上述した第1実施形態では、前回処理画像と今回処理画像とが異なるものと判断された場合には、携帯端末装置1の姿勢は変化したものと判断する構成を例示したが、この構成に加えて、たとえば、画像全体に対して前回処理画像と今回処理画像とで異なる部分の割合が、上述した所定の割合S1よりも低い所定の割合S2以下であるか否かをさらに判断し、画像全体に対して前回処理画像と今回処理画像とで異なる部分の割合が所定の割合S2以下である場合には、携帯端末装置1の姿勢は変化していないと判断する構成としてもよい。なお、所定割合S2は、特に限定されないが、たとえば、画像の変化が、ノイズによるものであるか否かを判断することができる割合とすることができる。このように、画像全体に対して前回処理画像と今回処理画像とで異なる部分の割合が所定の割合S2以下である場合には、カメラ40で撮像した画像の変化は、携帯端末装置1自体の姿勢の変化によるものではなく、たとえば、ノイズによるものであると判断し、携帯端末装置1自体の姿勢が変化していないものと判断することで、携帯端末装置1の姿勢が変化したか否かをより適切に判断することができる。
Furthermore, in 1st Embodiment mentioned above, when it was judged that the last process image and this process image differ, the structure which judges that the attitude | position of the portable
なお、上述した実施形態のカメラ40および指向性マイク60は、本発明の周囲状況検出手段に、制御装置10の姿勢検出部120は、本発明の姿勢検出手段に、制御装置10の姿勢変化判断部140は、本発明の判断手段に、GPSユニット20および姿勢検出部120は、本発明の第1加速度検出手段に、加速度センサ30は、本発明の第2加速度検出手段に、それぞれ相当する。
It should be noted that the camera 40 and the directional microphone 60 of the above-described embodiment are the ambient condition detection unit of the present invention, and the posture detection unit 120 of the control device 10 is the posture detection unit of the present invention. The
1…携帯端末装置
10…制御装置
110…移動速度検出部
120…姿勢検出部
130…姿勢情報記憶部
140…姿勢変化判断部
20…GPSユニット
30…加速度センサ
40…カメラ
50…メモリ
60…指向性マイク
DESCRIPTION OF
Claims (9)
自装置周囲の画像の撮像および/または自装置周囲の音声の検出を行う周囲状況検出手段と、
前記周囲状況検出手段による検出結果に基づいて、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したか否かを判断する判断手段と、を備え、
前記姿勢検出手段は、前記判断手段により、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したと判断された場合に、自装置の姿勢の検出を行うことを特徴とする姿勢検出装置。 Posture detection means for detecting the posture of the device itself;
An ambient condition detection means for capturing an image around the own device and / or detecting sound around the own device;
Determination means for determining whether or not the relative positional relationship between the surroundings of the device and the surrounding condition detecting means has changed based on the detection result by the surrounding condition detecting means;
The posture detection unit detects the posture of the own device when the determination unit determines that the relative positional relationship between the surroundings of the own device and the surrounding state detection unit has changed. apparatus.
前記周囲状況検出手段は、前記自装置周囲の画像を繰り返し撮像し、
前記判断手段は、前記周囲状況検出手段によって繰り返し撮像された前記自装置周囲の画像を比較し、前記自装置周囲の画像の変化を検出することで、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したか否かを判断することを特徴とする姿勢検出装置。 The posture detection apparatus according to claim 1,
The ambient condition detecting means repeatedly captures an image around the device,
The determination unit compares the surroundings of the own device repeatedly captured by the surrounding state detection unit, and detects a change in the image around the own device, thereby detecting the surroundings of the own device and the surrounding state detection unit. An attitude detection device that determines whether or not the relative positional relationship has changed.
前記判断手段は、前記自装置周囲の画像を比較した結果、前記自装置周囲の画像が変化した場合には、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したと判断することを特徴とする姿勢検出装置。 The posture detection apparatus according to claim 2,
The determination unit determines that the relative positional relationship between the surroundings of the own device and the surrounding state detection unit has changed when the image around the own device changes as a result of comparing the images around the own device. An attitude detection device characterized by the above.
前記判断手段は、前記自装置周囲の画像を比較した結果、前記自装置周囲の画像が変化した部分の画像の割合が所定割合以下である場合には、自装置周囲と前記周囲状況検出手段との相対位置関係が変化していないと判断することを特徴とする姿勢検出装置。 The posture detection device according to claim 2 or 3,
As a result of comparing the images around the own device, if the ratio of the image of the portion where the image around the own device has changed is equal to or less than a predetermined rate, the determining means It is judged that the relative positional relationship of has not changed.
前記判断手段は、前記自装置周囲の画像を比較した結果、前記自装置周囲の画像が変化した場合でも、変化後の画像が、変化前の画像を平行に移動させたものである場合には、自装置周囲と前記周囲状況検出手段との相対位置関係が変化していないと判断することを特徴とする姿勢検出装置。 The posture detection device according to any one of claims 2 to 4,
As a result of comparing the images around the own device, the determination means, even when the image around the own device changes, if the image after the change is an image obtained by moving the image before the change in parallel. An attitude detection device that determines that the relative positional relationship between the surroundings of the device itself and the surrounding state detection means has not changed.
前記周囲状況検出手段は、前記自装置周囲の音声を繰り返し検出し、
前記判断手段は、前記周囲状況検出手段によって繰り返し検出された前記自装置周囲の音声を比較し、前記自装置周囲の音声の変化を検出することで、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したか否かを判断することを特徴とする姿勢検出装置。 It is an attitude | position detection apparatus in any one of Claims 1-5,
The ambient condition detection means repeatedly detects the voice around the device,
The determination means compares the sound around the own apparatus repeatedly detected by the surrounding condition detection means, and detects a change in the sound around the own apparatus, thereby detecting the surroundings of the own apparatus and the surrounding condition detection means. An attitude detection device that determines whether or not the relative positional relationship has changed.
前記判断手段は、前記自装置周囲の音声を比較した結果、前記音声の音源が存在する方向が変化した場合には、自装置周囲と前記周囲状況検出手段との相対位置関係が変化したと判断することを特徴とする姿勢検出装置。 The posture detection apparatus according to claim 6,
When the direction in which the sound source of the sound is changed as a result of comparing the sounds around the own device, the determining unit determines that the relative positional relationship between the own device and the surrounding state detecting unit has changed. An attitude detection device characterized by:
自装置の姿勢にかかわらずに予め定められた、互いに直交するX1軸方向、Y1軸方向、およびZ1軸方向の加速度を検出する第1加速度検出手段と、
自装置の姿勢の変化に伴って決定される、互いに直交するX2軸方向、Y2軸方向、およびZ2軸方向の加速度を検出する第2加速度検出手段と、をさらに備え、
前記姿勢検出手段は、前記第1加速度検出手段および前記第2加速度検出手段の検出結果に基づいて、下記式(4)により、前記X2軸を中心とした回転角θX、前記Y2軸を中心とした回転角θY、および前記Z2軸を中心とした回転角θZを求めることで、前記X1軸、Y1軸、およびZ1軸に対する自装置の姿勢を検出することを特徴とする姿勢検出装置。
First acceleration detecting means for detecting accelerations in the X 1 axis direction, the Y 1 axis direction, and the Z 1 axis direction orthogonal to each other, which are determined in advance regardless of the posture of the device;
A second acceleration detecting means for detecting acceleration in the X 2 axis direction, the Y 2 axis direction, and the Z 2 axis direction orthogonal to each other, which is determined in accordance with a change in the posture of the own device;
Based on the detection results of the first acceleration detection unit and the second acceleration detection unit, the posture detection unit is configured to rotate the rotation angle θ X about the X 2 axis and the Y 2 axis according to the following equation (4): To detect the attitude of the device with respect to the X 1 axis, the Y 1 axis, and the Z 1 axis by obtaining the rotation angle θ Y about the axis Z and the rotation angle θ Z about the Z 2 axis. A posture detection device as a feature.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011264283A JP2013117406A (en) | 2011-12-02 | 2011-12-02 | Posture detection device and posture detection method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011264283A JP2013117406A (en) | 2011-12-02 | 2011-12-02 | Posture detection device and posture detection method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013117406A true JP2013117406A (en) | 2013-06-13 |
Family
ID=48712072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011264283A Withdrawn JP2013117406A (en) | 2011-12-02 | 2011-12-02 | Posture detection device and posture detection method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013117406A (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014063294A (en) * | 2012-09-20 | 2014-04-10 | Mitsubishi Electric Corp | Terminal position and direction detection device of moving body mounted terminal |
WO2022237383A1 (en) * | 2021-05-09 | 2022-11-17 | International Business Machines Corporation | Skeleton-based action recognition using bi-directional spatial-temporal transformer |
-
2011
- 2011-12-02 JP JP2011264283A patent/JP2013117406A/en not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014063294A (en) * | 2012-09-20 | 2014-04-10 | Mitsubishi Electric Corp | Terminal position and direction detection device of moving body mounted terminal |
WO2022237383A1 (en) * | 2021-05-09 | 2022-11-17 | International Business Machines Corporation | Skeleton-based action recognition using bi-directional spatial-temporal transformer |
US11854305B2 (en) | 2021-05-09 | 2023-12-26 | International Business Machines Corporation | Skeleton-based action recognition using bi-directional spatial-temporal transformer |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6295554B2 (en) | Program, information processing device | |
JP4515497B2 (en) | Traveling direction measuring device and traveling direction measuring method | |
JP4167263B2 (en) | Mobile terminal device | |
US9664772B2 (en) | Sound processing device, sound processing method, and sound processing program | |
KR101361463B1 (en) | Calibration techniques for an electronic compass in a portable device | |
EP3281020B1 (en) | Opportunistic calibration of a smartphone orientation in a vehicle | |
US20140288873A1 (en) | Pre-processing inertial sensor measurements for navigation | |
US20100164807A1 (en) | System and method for estimating state of carrier | |
TW201142749A (en) | Orientation determination of a mobile station using side and top view images | |
WO2014113159A1 (en) | Orientation determination based on vanishing point computation | |
JP2007108326A (en) | Mobile map display apparatus and its method | |
JP2020095406A (en) | On-vehicle device, program, and vehicle | |
KR101413605B1 (en) | System and method for Navigation | |
JP2014240754A5 (en) | ||
JP2011058854A (en) | Portable terminal | |
JP6627823B2 (en) | Electronic equipment, altitude measurement method and program | |
US20120026324A1 (en) | Image capturing terminal, data processing terminal, image capturing method, and data processing method | |
JP2013117406A (en) | Posture detection device and posture detection method | |
JP4736070B2 (en) | Portable navigation system | |
JP2015155802A (en) | Portable electronic equipment and position calculation program | |
JP4552658B2 (en) | Attitude detection method using two-axis magnetic sensor and program thereof | |
JP5514062B2 (en) | Electronic device, imaging screen display method with information, and program | |
US8903163B2 (en) | Using gravity measurements within a photogrammetric adjustment | |
JP6289047B2 (en) | Imaging apparatus, imaging system, imaging method, and imaging program | |
JP2005216200A (en) | Other vehicle detecting apparatus and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141029 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20150603 |