JP2000285245A - 移動体の衝突防止装置、衝突防止方法、および記録媒体 - Google Patents
移動体の衝突防止装置、衝突防止方法、および記録媒体Info
- Publication number
- JP2000285245A JP2000285245A JP11093884A JP9388499A JP2000285245A JP 2000285245 A JP2000285245 A JP 2000285245A JP 11093884 A JP11093884 A JP 11093884A JP 9388499 A JP9388499 A JP 9388499A JP 2000285245 A JP2000285245 A JP 2000285245A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- moving
- collision
- image
- alarm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
Abstract
の画像から他車両を迅速に且つ確実に検出し、この検出
結果に基づいて両方の車両の衝突や異常接近に関わるト
ラブルを未然に回避させるための措置を確実にとらせて
衝突防止を図る。 【解決手段】テレビカメラを用いて走行中の車両の周囲
の状況を観測し、衝突の可能性のある周囲の車両を検出
すると共に、その結果を元に自車両の運転手に警報を発
生する(ステップS1〜S8)。特に、追い越しをかけ
てくる車両を高精度に検出すると共に、自車両のターン
シグナルやハンドル舵角などを考慮して衝突の可能性を
予測し、警報を発する。
Description
両を追い越すとき等、車両同士が互いに接近する瞬間状
態を経験するときの車両間の衝突を防止する衝突防止装
置および衝突防止方法に係り、とくに、カメラで後方の
走行状態を撮像し、その画像から他の車両を検出してカ
メラ搭載車両に必要に応じて警報を発するようにした衝
突防止装置および衝突防止方法に関する。
があるが、車線変更や追い越し走行を原因とする事故も
相当数に上る。したがって、走行中の車両の運転者がそ
の周囲の状況、とくに後方の走行状態を常時把握してい
れば、不用意な車線変更やハンドル操作を回避するのに
多いに役立つものと考えられている。
測するには、レーダやテレビカメラなどが多用されてい
る。レーダとしては、レーザレーダや超音波レーダが用
いられる。これらのレーダを利用した環境認識装置の場
合、障害物に対する相対速度や障害物との距離は検出可
能であるが、指向性が狭く、曲がった道路での利用など
は困難であった。
画像を用いる方法の場合、その1つの態様として、画像
中の車両の位置から、車両の3次元位置を推定すること
も可能であり、観測範囲も広くなるという特徴がある。
しかし、この方法は、車両周辺のある一瞬の状況を認識
して、画像中での障害物の位置を検出するだけであり、
障害物との時間的な位置の変化などを考慮していなかっ
た。
載の技術によれば、車両に装着されたテレビカメラの画
像を元に、この画像から走行レーンを認識して、走行レ
ーン中に障害物が存在する場合、その方向にターンシグ
ナルを出すと警報が発生される装置が提案されている。
具体的には、この装置は画像上で走行レーンの画素濃度
と異なる領域を2値化によって求め、走行レーン中の障
害物を認識している。
行レーンの中だけを障害物(他の車両など)の検出対象
としているため、走行レーンの検出に失敗した場合や走
行レーンの端を走行する2輪車がある場合などにおいて
は、検出能がうまく機能しない場合もある。また、この
装置の手法によれば、ある時刻の一点で道路上に存在す
る障害物を検出するため、道路上の影やペイントなどを
障害物として誤認する可能性もある。さらに、ある時刻
の一点で障害物の存在を検出するだけであるので、自車
両よりも速度が遅く、相対的に遠ざかっていく車両に対
しても警報を誤って発生する可能性がある。
法として、時系列的に連続的に取り込まれる画像から車
両などの移動体を検出する手法が提案されている。
l., Motion Tracking with
an Active Camera, PAMI,V
o.16,NO.5,449−459"で提案されてい
るように、既知のカメラ移動量を利用して画像を変換す
ることによって時系列画像間の対応関係を演算し、移動
体を抽出する手法である。また、「移動カメラで撮影し
た動画像からの移動物体の抽出」(情報処理学会、第5
1回全国大会、1995:寺久保他著)によれば、画像
上の注目点を配置し、これらの点を頂点とする領域の対
応を時系列画像間で探索することによって、画像間での
アフィン変換パラメータを2段階に分けて求め、これに
より移動物体を抽出する手法が提案されている。さら
に、特開平7−110864号公報によれば、移動ベク
トル場に2次元ラプラシアンフィルタを掛け、その出力
値をしきい値処理することにより移動物体を抽出する方
式が提案されている。
た従来の時系列的に連続した画像を利用した移動物体
(車両)検出の場合、所定の演算処理を画像全体の画素
について一様に実行することから、画像処理の演算負荷
が非常に大きく、高速処理が難しくなる。これを回避す
るには、演算能力が高いコントローラが要求される。つ
まり、車両の衝突防止のような高いリアルタイム性を求
められ、且つ、車載が可能なコストの装置には不向きで
あるという問題がある。
況に鑑みてなされたもので、自車両に搭載したカメラの
画像から他車両を検出するときの演算量を減らすことが
でき、これにより、処理の高速化を図るとともに、車載
が可能な程度の演算能力の装置であっても他車両を確実
に検出することができる衝突防止装置および衝突防止方
法を提供することを、1つの目的とする。
ら後方を撮像し、その画像から他車両を迅速に且つ確実
に検出し、この検出結果に基づいて両方の車両の衝突や
異常接近に関わるトラブルを未然に回避させるための措
置を確実にとらせることができる衝突防止装置および衝
突防止方法を提供することを、別の目的とする。
め、本発明に係る移動体の衝突防止装置は、衝突防止の
警報発令の対象となる移動体の周囲の状況を撮像する撮
像手段と、この撮像手段が時系列に撮像した複数フレー
ムの画像夫々の限定した検出領域を探索して他の移動体
を検出する検出手段と、前記対象となる移動体の移動状
態と検出された前記他の移動体の移動状態との関係から
両移動体間における衝突の可能性の程度を予測する予測
手段と、この予測手段の予測結果に応じて前記対象とな
る移動体に警報を発する警報発生手段とを備えたことを
特徴とする。
手段、および警報発生手段は全て前記対象となる移動体
に設ける。例えば、前記両方の移動体は共に車両であ
る。例えば、前記検出手段は、前記画像での前記対象車
両が走行している道路に存在するエッジとその交点であ
る消失点の位置情報を決める手段と、この位置情報を元
にして前記限定した検出領域を決める手段と、前記時系
列の画像間における前記検出領域の移動量を検出する手
段と、この移動量に基づき前記対象車両に接近するか又
はその車両と等速で走行する他の車両のみを検出する手
段とを備えたことを特徴とする。
た前記他の車両の前記移動量に基づき当該車両の領域が
前記画像上でその端部まで到達する時間を算出する手段
と、この算出値を用いて前記対象車両に前記他の車両が
追い付くまでの時間を予測する手段とを備える。この場
合、前記警報発生手段は、前記予測時間に基づき前記他
の車両が前記対象車両に衝突する可能性を見極める手段
と、前記対象車両の走行方向の変更を検知する手段と、
前記衝突の可能性があると判断され且つ前記対象車両が
前記他の車両が走行している車線方向に走行方向を変更
しようとしている状態が検知されたときに警報を発する
手段とを備えていてもよい。例えば、前記検知手段は、
前記対象車両の運転者によるウィンカーの点灯状況また
はハンドルの操作角状況を検知する手段である。
の警報発令の対象となる移動体の周囲の状況を時系列に
撮像し、この撮像した複数フレームの画像夫々の限定し
た検出領域を探索して他の移動体を検出し、前記対象と
なる移動体の移動状態と検出された前記他の移動体の移
動状態との関係から両移動体間における衝突の可能性の
程度を予測し、この予測結果に応じて前記対象となる移
動体に警報を発することを特徴とする。
の衝突防止のためのプログラムを記録したコンピュータ
読み取り可能な記録媒体であって、前記衝突防止の警報
を出す対象となる移動体の周囲の状況を撮像する撮像手
段が時系列に撮像した複数フレームの画像を入力する手
段と、当該画像夫々の限定した検出領域を探索して他の
移動体を検出する手段と、前記対象となる移動体の移動
状態と検出された前記他の移動体の移動状態との関係か
ら両移動体間における衝突の可能性の程度を予測する手
段と、この予測結果に応じて前記対象となる移動体に警
報器を介して警報を発令する手段とを実行するプログラ
ムを記録した記録媒体を備えてもよい。
報をもとに移動体としての自車両に衝突する可能性のあ
る他の移動体としての追越し車両のみを検出することが
でき、検出された追い越し車両と自車両との間の関係の
時間的な変化を利用することにより、衝突を安定して且
つ確実に防止する上で有効である。
〜12に基づき説明する。なお、この実施形態では、移
動体として実空間の路面などを移動する車両を例にとっ
て説明する。
ずつの車両に搭載されるようになっている。この衝突防
止装置は、図1に示す如く、撮像手段としてのカメラ1
1、舵角センサ12、ウィンカーセンサ13、および車
速センサ14を備えるとともに、CPU、メモリなどを
有するコントローラ15、警報器16を備える。
センサ14とコントローラ15との間にA/D変換器1
7、18及びカウンタ19が夫々介挿されている。ま
た、コントローラ15と警報器16との間にはドライバ
20が介挿されている。
行うプログラムを格納しており、車両Cのキースイッチ
をオンにすることでそれらの処理を自動的に起動させ、
キースイッチをオフにするまでそれらの処理を継続させ
る。
OSカメラ、ITVカメラ等を利用することができる。
このカメラ11は、本実施形態では図2に示す如く、車
両C(自車両Cs、他車両Co)のリアウィンドウに視
野を後方に向けて取り付けられている。なお、カメラ1
1は、車両Cの後方を撮像できる位置であれば何れの位
置に取り付けてもよい。このカメラ11で撮像された道
路、車両およびその周辺環境の画像のデータは、時系列
的に連続してA/D換器17などを介してディジタル信
号に処理され、コントローラ15に送られる。
作角度を検出する。この操作角度信号はA/D変換器1
8によりデジタル量の信号に変換され、コントローラ1
5に送られる。
側又は右側のウィンカーを点灯させた状態を検知し、そ
れを論理値で成るオン・オフ信号としてコントローラ1
5に送る。
を例えば車輪の回転に応じたパルス信号として検出す
る。このパルス信号はカウンタ19により単位時間当た
りのパルス数として計測され、この計測値がデジタル量
の状態でコントローラ15に供給される。
ンドル角度は、後方から自車両Csに接近してくる他車
両Coとの衝突の可能性を判断するときの自車両の走行
状態を表すパラメータとしてコントローラ15で使用さ
れる。
両Csと他車両Coとの間の衝突の可能性を予測したと
きに、デジタル量の警報信号をドライバ20に出力す
る。この信号はドライバ20により所要パワーのアナロ
グ量の信号に変換され、警報器16に供給される。警報
器16は例えば、光や音(または音声)を発して運転者
に警報を与えるユニットであり、運転席に聞こえる位置
や運転席から見ることのできる位置に設けられている。
る。
ゴリズムに基づいて後方から接近する他車両Coを検出
し、必要に応じて警報を発する。
メラ11からの画像データをフレーム毎に入力し(ステ
ップS1)、次いで前回の処理で使用した画像データ
(1フレーム前の画像データ)をメモリからワークエリ
アに読み出す(ステップS2)。
後方を走行している他車両Coの検出処理を行う。この
検出処理は、路面の白線検出(ステップS3)、画像中
の特徴点の移動量算出(ステップS4)、及び追い越す
他車両Co(追越し車両)の検出(ステップS5)から
成る。これらの各ステップの処理は後で詳述する。
としている他車両Coが検出された場合、後述するよう
に、追いつかれる時間を予測する(ステップS6)。そ
して、必要に応じて、自車Csの運転者に追越し車両C
oが居ることを知らせるための警報を発する(ステップ
S7)。この後、かかる処理を継続する場合(ステップ
S8)、ステップS1で入力した現在のフレームの画像
データを次回の検出処理のために記憶する(ステップS
9)。
かる検出処理が継続され、時系列的に連続する2画像に
基づく追越し車両の検出、衝突の可能性判断、および、
必要に応じた警報発生の処理が行われる。以下に、この
処理を詳述する。
トローラ15により、道路上の白線検出処理が実行され
る。
る各時系列画像に対してエッジの抽出を行い、画像内の
路面上の白線および道路の稜線を構成する直線エッジと
その交点である消失点とを検出する処理である。抽出さ
れた白線、稜線のエッジ処理結果および消失点は後述の
移動量算出処理で使用される。なお、以降の説明におい
て、白線、黄線、及び舗道の稜線など、車線を区分でき
る線状体を一括して「白線」と記述する。
4(a),(b)に示す画像のデータが入力するものと
する。同図(a)は時刻tのときに得られた入力画像、
同図(b)は時刻t+1のときに得られた入力画像で、
時系列的に連続している。ここに示した画像は、カメラ
11から入力する画像群の内の、任意の2つの連続時刻
の画像である。
は、道路、その側壁、後方を走行する車両などが映って
いるが、この中で本装置が最終的に抽出するのは追い越
していこうとする車両(追越し車両)である。
線や路肩などで限定されているので、これらの白線や路
肩が構成する稜線などを抽出することによって追い越し
車両の存在位置を限定することができる。また、直進し
ている車両から後方をー般的なテレビカメラで撮影した
場合、背景はFOE(focus of expans
ion)と呼ばれる動きベクトルの集中点に収束するよ
うに移動する。とくに、車両が平行に引かれた車線を区
別する白線の間を白線に沿って走行するとき、FOEは
画面上の白線の交点である消失点にー致することにな
る。
クトルからFOEを求めるためには、カメラの動きによ
る背景の動きと背景以外の移動物体に生じる動きとを分
割し、背景の動きを持つ点の動きベクトルの集中点を求
める必要があるため、演算量が非常に大きくなる。これ
に対して、消失点は、白線や稜線を求めて、その交点を
計算することによって求めることができるので、比較的
少ない計算量で求めることができる。そこで、本実施例
では、白線や稜線から消失点を求め、これを仮想的なF
OEであるとして移動量の算出などに利用する手法を採
用する。これにより演算量を減らす、高速で処理できる
ようになる。
中点である消失点の画像上の位置は、カメラ11の内部
パラメータやカメラ11と地面(路面)との成す角度な
どから一意的に決定できる。そこで、カメラ11を車両
Cに搭載したときに、最初に道路の画像を撮影し、その
とき写し出された画像上の白線の位置と消失点の位置を
記憶させ、この記憶情報を実際の走行中の車両検出を行
うときのデフォルト値として用いるようにする。また、
カメラの振動などに起因してデフォルト位置がずれる可
能性があるので、装置の稼動中に安定して白線の位置検
出ができているならば、デフォルト値をその位置に更新
することも好適な態様である。
ように実行される。白線検出を行うために、まず画面か
らエッジ成分を抽出する。エッジの抽出では、エッジの
方向や強度を検出する必要があるため、ソーペルオペレ
ータやラプラシンアンガウシアンオペレータなどが用い
られる。ただし、エッジの強度と方向を求めることがで
きるオペレータであれば、これらのオペレータ以外のも
のを使うこともできる。
て、白線のデフォルト値の近傍にある白線候補を検出す
る。例えば、図5に示す如く、自車両が走行する車線を
区分する白線のデフオルト位置PWが求められていた場
合、白線候補の探索(検出)範囲RWは図示の如く、白
線のデフォルト位置PWを含む狭い斜線範囲に限定でき
る。
取りつけられたカメラ11の振動の大きさなどを考慮し
て適宜変更することもできる。
いるレーンの白線のみを表示したが、それ以外の白線や
稜線を検出して消失点の算出に用いることもできる。た
だし、その場合、自車両が走行している以外の白線のデ
フォルト位置の定義が難しいため、まず、自車両が走行
している白線のデフォルト値を用いて、自車両が走行し
ているレーンの白線のみを求める。次いで、この自車線
を構成する白線から得られる消失点を通るその他の白線
や稜線を探索する。これにより、自車線以外のの白線や
稜線を検出することができる。
稜線を使って最小自乗法を用いて消失点を求める。求め
られた白線と消失点の情報およびエッジ抽出結果は次の
移動量算出に用いられる。
ントローラ15により、連続する2枚の画像を使つて画
像上の特徴点(特徴領域)の時系列画像間(フレーム間
インターバル)に対する移動量が算出される。
する各画像に対して、白線検出により得られた白線や消
失点の情報を利用して処理対象領域を限定し、この処理
対象領域を複数の小領域に分割することによって、各小
領域の時系列画像間での移動量を算出する。算出された
各小領域の移動量は追越し車両の移動量として用いられ
る。
づき説明する。
動量は、2枚の画像間で各特徴点(特徴領域)の対応を
取ることによって求めることができる。例えば、図4
(a)、(b)の画像に対して求められた移動量は図4
(c)に示す矢印のようになる。このように移動量は向
きと大きさを持つベクトルとして表現できる。
す。これはコントローラ15により図3のステップS4
の処理として実行される。図6に示すように、白線や消
失点の位置情報に基づいて追越し車両の探索領域RSを
限定する。例えば、図7では破線による斜線部分の領域
が探索領域RSとなり、探索領域が狭くなる分、演算負
荷が少なくなる。また、自車両Csの後ろを、すなわち
自車両と同じ車線を走行する他車両Coを検出する場
合、実線による斜線部分の領域RS'も探索領域とすれ
ばよい。図7中、参照符号PWは自車線の白線(デフォ
ルト値)を示し、VPは消失点を示す。ここで、3次元
空間において隣の車線を走行している車両であっても、
2次元画像に投影した場合、その車両が隣車線を構成す
る2本の白線の間からはみ出して見える場合もあるの
で、これらの投影変換による影響を考慮して探索領域を
蝶形に設定してある。これにより、隣車線を走行する車
両を確実に探索することができる。
域を格子状に分割する(ステップS4a)。次に、この
各格子領域が強いエッジ成分を持つか否かを検証し、強
いエッジ成分を持つ格子領域を探索候補領域とする(ス
テップS4b)。路面と光軸が平行になるように自動車
に取りつけたカメラで後方を撮像する場合、他車両の動
きは画像中でX(横)成分が多く、Y(縦)方向にはあ
まり動かないことになる。したがって、任意の追跡領域
に対する探索領域RSを図8のように横長の長方形領域
に限定することができる。さらに、検出対象を自車を追
い越す他車量に限定すれば消失点の左では探索領域はX
軸のマイナス方向だけとなる。
て、次の時刻での対応領域を探索する(ステップS4
c)。例えば、時刻tにおける探索候補の各格子領域を
初期位置とし、時刻t+1においてこれに対応する領域
を探索する。すなわち、それぞれの格子領域を探索範囲
RS内で動かした場合に、相関値が最も大きくなる領域
を検出する。このとき、最大相関値がしきい値より小さ
い場合は、その領域は対応が取れないということにな
る。
決定する(ステップS4d)。具体的には、時刻tにお
ける探索候補の格子領域夫々の初期位置と時刻t+1に
おけるそれらの対応領域との空間距離の差(具体的には
画素数で定義される)を演算し、これを移動量とする。
動量を含む連続画像間での各種の移動量を保存する(ス
テップS4e)。
処理に加えてステップ4fを行い、この後、ステップS
4d、S4eの処理を行うようにしてもよい。つまり、
既に過去の各時刻で探索候補の各格子領域の対応がとら
れている場合、その各領域に対して輝度やエッジ成分な
どの情報を蓄積しているので、ステップS4fでは、こ
れらの情報を用いて順次新しい画像について対応領域が
探索される。すなわち、ステップS4fを加えることに
よって、数フレームにわたって連続して領域を追跡する
ことができる。このときに、過去に得られている全ての
探索候補格子領域について探索を行ってもよいが、処理
量が膨大になるので、過去のある時点以降の格子領域の
みを対象としたり、各時刻での対応の評価値が高い領域
のみを対象として探索を続けることによって、より高速
に処理することができる。
く、明度の差分値やエッジ強度の差分値なども用いるこ
ともできる。また、ここでは領域ベースの手法について
述べたが、強い特徴点を用いた移動量検出法や、全ての
点の動きを勾配法を使って求める手法なども採用でき
る。また、これらの手法で得られた移動量を用いること
も可能である。さらに、探索によって得られた移動量が
過去2フレーム分以上、蓄積されている場合、この蓄積
データを利用して任意の時間(フレーム)間隔の移動量
を求めることも可能である。
車両検出に用いられる。
は、コントローラ15により、自車両Csを追い越そう
としている追越し車両(他車両)Coが検出される。
補格子領域の移動量に基づき同程度の移動量を持つ領域
がまとまって存在する領域を抽出して、各領域の移動量
の向きと大きさより衝突の可能性のある領域を追い越し
車両であると認識する処理である。この追越し車両Co
の情報は警報発生処理に使用される。
両Coの速度Vのしきい値が設定される(ステップS5
a)。例えば、しきい値V=2の場合、移動量が2画素
以下の格子領域は排除されるので、ノイズや静止物体の
情報が追越し車両であると誤認される可能性が低下し、
検出精度が向上する。このしきい値は探索領域全体で1
つの値を設定することも可能であるが、必要に応じて、
探索領域中の場所毎にしきい値Vを変更することもでき
る。
が行われる(ステップS5b)。具体的には、図10に
示す如く、探索領域上に設定した各帯領域BR内に含ま
れる移動量のヒストグラムが作成される。各ヒストグラ
ムに幾つかのピーク値が現れるので、これが検出される
(ステップS5c)。
Coが持つ速度に対応している。そこで、ヒストグラム
をピーク値で分割して、それぞれのピーク値との差がし
きい値以内の領域を検出し、追越し車両Coの候補が検
出される。さらに、それぞれの速度を持つ領域の画像中
の位置関係を調べて、隣接している領域を併合し、個々
の追越し車両Coが検出される(ステップS5d)。
背景は全てFOEに収束する方向に動くが、追越し車両
CoはFOEから湧き出す方向に移動する。そこで、湧
き出す方向の速度が0以上の領域のみを抽出して、追越
し車両Coを表す領域の候補とすることができる。
動量が似た探索領域同士を併合して追い越し車両が検出
される。
のステップS6に相当する処理として、コントローラ1
5により、追越し車両Coが自車両Csに追い付く時間
を予測する。この処理は図11に示す。
っているので、画像の左右端に追越し車両Coが来た場
合に、その追越し車両Coが自車両Csに対して3次元
シーン中でどの位置にいるのかを求めることができる。
そこで、まず画面中で追越し車両Coの先端がどの位置
に存在するのかを算出する(ステップS6a)。次い
で、現在の追越し車両Coの画面中での速度をもって連
続して前方に移動してきた場合、あと何秒でカメラ画面
の端に到達するか、その時間を演算する。そして、追越
し車両Coが画面端に到達したときの追越し車両Coと
自車両Csとの3次元シーン中での相対距離を考慮し
て、追付くまでの最終的な時間を予測する(ステップS
6b)。
追越しまでの時間などの情報は警報発生処理で用いられ
る。
S7に相当する処理として、コントローラ15により、
必要に応じて、自車両Csに警報が発令される。この処
理は図12に示す。
可能性のある追越し車両Coが存在する場合、その方向
にターンシグナルを出して車線変更の意思表示をした
り、車線変更するためにその方向ヘハンドルを切ったり
したときに、衝突の可能性があることを運転者に警告す
るための処理である。
ーラ15は、追越し車両Coが検出されたか否かを判断
する(ステップ7a)。この判断で追越し車両Coが検
出されたと判断された場合、次いで、その追い付く時間
がしきい値以下か否かが判断される(ステップS7
b)。つまり、追越し車両Coが存在した場合、しきい
値として定めた時間以内にその車両が追い付くかの否か
が判断される。
い値以下の時間で自車両Csに追い付く(すなわち、も
う直ぐ追いつく)と判断されたときには、コントローラ
15は次いで、自車両Csの運転者が追越し車両Coが
追いつきながら走行してくる車線に車両の走行方向を変
更しようとしているか否かを判断する(ステップS7
c)。この判断は、舵角センサ12及び/又はウィンカ
ーセンサ13の検出信号を読み込み、ハンドル操作また
はウィンカー操作を監視しながら行う。
は、追越し車両Coが後方から接近してきており、その
ままで走行方向を変更したときには後続車両との間で衝
突の恐れが大の場合である。そこで、コントローラ15
は警報器16に警報用の制御信号を送って、警報器16
から警報を発生させる。つまり、追い越し車両の居る方
向にターンシグナルを出してその方向に車線変更の意思
を示したり、その方向に車線を変更しようとハンドルを
切ったときには、警報器16から音(音声)及び/又は
光によって運転者に警告を発する。
危険性を確実に知ることができ、車線変更をとり止める
などの適切な処置を講ずることができ、安全な走行に寄
与できる。
法によれば、画像の各領域の動きが分かるので、自車に
対して追い越しをかける車両のみを抽出することができ
る。また、時間的変化の少ない連続した2枚の画像を利
用するため、2値化等の手法に比べて、しきい値の影響
を押さえることができ、精度の高い衝突防止装置が実現
できる。さらに、3次元シーンの中では、走行レーンの
上に実際に車両が存在している場合でも、カメラの設置
位置によっては画像中の走行レーン上に障害物が存在し
ないように見える場合があるが、このような場合でも、
動き情報を基礎にすれば画像中の追越し車両を選択的に
高精度で検出することができる。
突可能性のある他車両が存在する場合に、その方向に車
両が居ることを音や光によって運転者に知らせるという
実施形態も可能である。また、コントローラ15は追越
し車両の位置と速度を認識しているので、その情報を元
に追越し車両が追い付くまでの時間に応じて光の色や強
度または音の強弱を変えることによって、追越し車両の
存在を運転者に事前に知らせるという変形形態も可能で
ある。
つの変形形態を図13,14に基づき説明する。
1で撮像した時系列の連続画像から画像フレーム間に移
動した特徴部位の移動量を検出する装置に関する。とく
に、特徴部位の移動量を画像から安定して検出するため
に、画像中の強いエッジを特徴部位(移動量算出対象)
として選択し、このエッジに対する画像中での動きの拘
束を利用して高速に特徴部位の移動量を検出する装置に
関する。
した衝突防止装置における自車両に搭載され、後続の車
両を撮像し、その時系列の画像から特徴部位の移動量を
検出する装置として有効に機能する。これを達成するた
め、この検出装置は、カメラなどの撮像手段と、この撮
像手段から順次、出力される時系列の複数画像から強い
エッジなどの特徴部位を検出する検出手段と、この検出
された特徴部位の移動量を探索方向を限定して演算する
演算手段とを備える。検出手段および演算手段は例えば
コンピュータで構成される。
3に示す如く、道路横の樹木の幹部分31、後続を走る
他の車両のフロントバンパ32、道路標識のポール部3
2などがある。例えば、図14に示すように、道路標識
のポール部33に特徴部位を検出されると、この特徴部
位と消失点VPを結ぶ延長線上に探索範囲(方向)を限
定し(拘束し)、特徴部位(この場合には自車両)の移
動量を高速に且つ高精度に求めることができる。
部位のエッジ強度と移動量算出時の探索方向を限定する
ことで、特徴部位の移動量を高速に且つ高精度に検出す
ることができる。
の変形形態を図15に基づき説明する。
1で撮像した時系列の連続画像から画像フレーム間に移
動した特徴量の移動量を高精度に検出する装置に関す
る。
る場合、探索方向に例えば図15に示す如くガイドレー
ル34やゼブラパターン35などの繰り返しパターンが
映り込んでいると、非常に似通って画素値の繰り返しパ
ターンにより特徴量の移動量の演算に誤差を生じること
がある。
としてのカメラと、このカメラで撮像された時系列の複
数画像から探索方向の特徴量およびその変化を算出する
手段と、所定周期以上の繰り返しパターンが在るか否か
を判断する手段と、繰り返しパターンが在ると判断され
たときには、正確な移動量を算出できないとして、その
存在範囲については特徴量の移動量の算出を禁止する手
段を設ける一方で、かかる繰り返しパターンが存在しな
くなった時点で、移動量の算出を再開する手段を設け、
これにより、安定な移動量のみを精度良く算出すること
ができる。ここで、上記各手段はコンピュータに所定の
プログラムを実行させることで機能的に実現できる。
した衝突防止装置における自車両に搭載され、後続の車
両を撮像し、その時系列の画像から特徴部位の移動量を
検出する装置として用いることができる。
態において、検出手段、演算手段、算出手段はコンピュ
ータ(コントローラ)に所定のプログラムを実行させる
ことで機能的に構成するとしたが、アナログ回路、デジ
タル論理回路などの電子回路で同等の機能を果たすよう
に構成するようにしてもよい。
形形態は、移動体として道路上を走行する車両を例示し
て説明したが、本発明の移動体には車両は列車や航空機
なども含まれる。
像中の動き情報を元に移動体とての自車両に衝突する可
能性のある他の移動体としての追越し車両のみを検出す
ることができ、検出された追越し車両と自車両の関係の
時間的な変化を利用することで、安定した且つ確実な衝
突防止効果に貢献することができる。
置の概略構成を示すブロック図。
止処理の概略フローチャート。
説明する図。
明する図。
ート。
る概略フローチャート。
図。
向との関係を説明する図。
の図。
Claims (9)
- 【請求項1】 衝突防止の警報発令の対象となる移動体
の周囲の状況を撮像する撮像手段と、この撮像手段が時
系列に撮像した複数フレームの画像夫々の限定した検出
領域を探索して他の移動体を検出する検出手段と、前記
対象となる移動体の移動状態と検出された前記他の移動
体の移動状態との関係から両移動体間における衝突の可
能性の程度を予測する予測手段と、この予測手段の予測
結果に応じて前記対象となる移動体に警報を発する警報
発生手段とを備えたことを特徴とする移動体の衝突防止
装置。 - 【請求項2】 請求項1記載の衝突防止装置において、 前記撮像手段、検出手段、予測手段、および警報発生手
段は全て前記対象となる移動体に設けてあることを特徴
とする移動体の衝突防止装置。 - 【請求項3】 請求項2記載の衝突防止装置において、 前記両方の移動体は共に車両であることを特徴とする移
動体の衝突防止装置。 - 【請求項4】 請求項3記載の衝突防止装置において、 前記検出手段は、前記画像での前記対象車両が走行して
いる道路に存在するエッジとその交点である消失点の位
置情報を決める手段と、この位置情報を元にして前記限
定した検出領域を決める手段と、前記時系列の画像間に
おける前記検出領域の移動量を検出する手段と、この移
動量に基づき前記対象車両に接近するか又はその車両と
等速で走行する他の車両のみを検出する手段とを備えた
ことを特徴とする移動体の衝突防止装置。 - 【請求項5】 請求項4記載の衝突防止装置において、 前記予測手段は、検出した前記他の車両の前記移動量に
基づき当該車両の領域が前記画像上でその端部まで到達
する時間を算出する手段と、この算出値を用いて前記対
象車両に前記他の車両が追い付くまでの時間を予測する
手段とを備えたことを特徴とする移動体の衝突防止装
置。 - 【請求項6】 請求項5記載の衝突防止装置において、 前記警報発生手段は、前記予測時間に基づき前記他の車
両が前記対象車両に衝突する可能性を見極める手段と、
前記対象車両の走行方向の変更を検知する手段と、前記
衝突の可能性があると判断され且つ前記対象車両が前記
他の車両が走行している車線方向に走行方向を変更しよ
うとしている状態が検知されたときに警報を発する手段
とを備えたことを特徴とする移動体の衝突防止装置。 - 【請求項7】 請求項6記載の衝突防止装置において、 前記検知手段は、前記対象車両の運転者によるウィンカ
ーの点灯状況またはハンドルの操作角状況を検知する手
段であることを特徴とする移動体の衝突防止装置。 - 【請求項8】 衝突防止の警報発令の対象となる移動体
の周囲の状況を時系列に撮像し、この撮像した複数フレ
ームの画像夫々の限定した検出領域を探索して他の移動
体を検出し、前記対象となる移動体の移動状態と検出さ
れた前記他の移動体の移動状態との関係から両移動体間
における衝突の可能性の程度を予測し、この予測結果に
応じて前記対象となる移動体に警報を発することを特徴
とする移動体の衝突防止方法。 - 【請求項9】 移動体の衝突防止のためのプログラムを
記録したコンピュータ読み取り可能な記録媒体であっ
て、 前記衝突防止の警報を出す対象となる移動体の周囲の状
況を撮像する撮像手段が時系列に撮像した複数フレーム
の画像を入力する手段と、当該画像夫々の限定した検出
領域を探索して他の移動体を検出する手段と、前記対象
となる移動体の移動状態と検出された前記他の移動体の
移動状態との関係から両移動体間における衝突の可能性
の程度を予測する手段と、この予測結果に応じて前記対
象となる移動体に警報器を介して警報を発令する手段と
を実行するプログラムを記録したことを特徴とする記録
媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09388499A JP4377474B2 (ja) | 1999-03-31 | 1999-03-31 | 移動体の衝突防止装置、衝突防止方法、および記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP09388499A JP4377474B2 (ja) | 1999-03-31 | 1999-03-31 | 移動体の衝突防止装置、衝突防止方法、および記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000285245A true JP2000285245A (ja) | 2000-10-13 |
JP4377474B2 JP4377474B2 (ja) | 2009-12-02 |
Family
ID=14094915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP09388499A Expired - Lifetime JP4377474B2 (ja) | 1999-03-31 | 1999-03-31 | 移動体の衝突防止装置、衝突防止方法、および記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4377474B2 (ja) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002202136A (ja) * | 2001-01-04 | 2002-07-19 | Omron Corp | 車両の周囲状況観測装置 |
WO2004057537A1 (ja) * | 2002-12-20 | 2004-07-08 | The Foundation For The Promotion Of Industrial Science | 画像における移動物体の追跡方法及び装置 |
JP2004341979A (ja) * | 2003-05-19 | 2004-12-02 | Nissan Motor Co Ltd | 障害物検出装置および障害物検出方法 |
JP2006318015A (ja) * | 2005-05-10 | 2006-11-24 | Sony Corp | 画像処理装置および画像処理方法、画像表示システム、並びに、プログラム |
US7170548B2 (en) | 2001-11-26 | 2007-01-30 | Denso Corporation | Obstacle monitoring device using one-dimensional signal |
US7190281B2 (en) | 2004-02-06 | 2007-03-13 | Sharp Kabushiki Kaisha | Vehicle environment monitoring device, vehicle environment monitoring method, control program and computer-readable recording medium |
US7250593B2 (en) | 2004-02-06 | 2007-07-31 | Sharp Kabushiki Kaisha | Mobile body surrounding surveillance apparatus, mobile body surrounding surveillance method, control program, and readable recording medium |
US7253389B2 (en) | 2005-02-01 | 2007-08-07 | Sharp Kabushiki Kaisha | Mobile body surrounding surveillance apparatus, mobile body surrounding surveillance method, control program and computer-readable recording medium |
JP2007233469A (ja) * | 2006-02-27 | 2007-09-13 | Toshiba Corp | 物体検出装置及びその方法 |
WO2008084592A1 (ja) * | 2007-01-12 | 2008-07-17 | Honda Motor Co., Ltd. | 車線認識装置、車両、車線認識方法、及び車線認識プログラム |
JP2008249685A (ja) * | 2007-03-06 | 2008-10-16 | Ikegami Tsushinki Co Ltd | 速度計測方法 |
EP1988488A1 (en) | 2007-05-03 | 2008-11-05 | Sony Deutschland Gmbh | Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device |
JP2009143385A (ja) * | 2007-12-13 | 2009-07-02 | Fujitsu Ltd | 移動体検出装置、移動体検出方法および移動体検出プログラム |
JP2009157943A (ja) * | 2009-04-02 | 2009-07-16 | Toyota Motor Corp | 車載画像処理装置 |
JP2010256955A (ja) * | 2009-04-21 | 2010-11-11 | Victor Co Of Japan Ltd | 動きベクトル検出装置及び方法 |
JP2012150765A (ja) * | 2011-01-21 | 2012-08-09 | Fujitsu Ten Ltd | 並走物体検知装置 |
EP2466567A3 (de) * | 2010-12-14 | 2012-12-05 | Robert Bosch GmbH | Verfahren und Vorrichtung zur Ermittlung fahrzeugbezogener Daten |
US8526681B2 (en) | 2007-07-17 | 2013-09-03 | Toyota Jidosha Kabushiki Kaisha | On-vehicle image processing device for vehicular control |
WO2013129352A1 (ja) * | 2012-03-01 | 2013-09-06 | 日産自動車株式会社 | 立体物検出装置 |
US20130286205A1 (en) * | 2012-04-27 | 2013-10-31 | Fujitsu Limited | Approaching object detection device and method for detecting approaching objects |
KR101478072B1 (ko) * | 2010-06-23 | 2015-01-02 | 주식회사 만도 | 차량 검출 방법 |
WO2015098510A1 (ja) * | 2013-12-27 | 2015-07-02 | 日立オートモティブシステムズ株式会社 | 車両制御装置、車両制御装置を搭載した車両、及び、移動体検出方法 |
JP2017142661A (ja) * | 2016-02-10 | 2017-08-17 | 株式会社デンソー | 車両周辺監視システム及びコンピュータプログラム |
JP2020077103A (ja) * | 2018-11-06 | 2020-05-21 | 株式会社デンソー | 自車挙動推定装置、自車挙動推定プログラム、記憶媒体および自車挙動推定装置の制御方法 |
US11921823B2 (en) | 2021-03-17 | 2024-03-05 | Kabushiki Kaisha Toshiba | Image processing device and image processing method |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02287799A (ja) * | 1989-04-28 | 1990-11-27 | Matsushita Electric Ind Co Ltd | 車両用衝突防止装置 |
JPH0660300A (ja) * | 1992-08-04 | 1994-03-04 | Takata Kk | 神経回路網による衝突予防予測システム |
JPH07110864A (ja) * | 1993-10-13 | 1995-04-25 | Natl Aerospace Lab | 移動物体の判定方法 |
JPH08106323A (ja) * | 1994-10-05 | 1996-04-23 | Matsushita Electric Ind Co Ltd | 走行方向制御装置 |
JPH0918863A (ja) * | 1995-06-26 | 1997-01-17 | Yazaki Corp | 車両用後側方監視装置 |
JPH0986314A (ja) * | 1995-09-27 | 1997-03-31 | Yazaki Corp | 車両用後側方監視装置 |
JPH09142209A (ja) * | 1995-11-17 | 1997-06-03 | Yazaki Corp | 車両周辺監視装置 |
JPH09221052A (ja) * | 1996-02-16 | 1997-08-26 | Honda Motor Co Ltd | 車両衝突予防装置 |
JPH10147200A (ja) * | 1997-09-08 | 1998-06-02 | Yazaki Corp | 車両用監視方法 |
-
1999
- 1999-03-31 JP JP09388499A patent/JP4377474B2/ja not_active Expired - Lifetime
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02287799A (ja) * | 1989-04-28 | 1990-11-27 | Matsushita Electric Ind Co Ltd | 車両用衝突防止装置 |
JPH0660300A (ja) * | 1992-08-04 | 1994-03-04 | Takata Kk | 神経回路網による衝突予防予測システム |
JPH07110864A (ja) * | 1993-10-13 | 1995-04-25 | Natl Aerospace Lab | 移動物体の判定方法 |
JPH08106323A (ja) * | 1994-10-05 | 1996-04-23 | Matsushita Electric Ind Co Ltd | 走行方向制御装置 |
JPH0918863A (ja) * | 1995-06-26 | 1997-01-17 | Yazaki Corp | 車両用後側方監視装置 |
JPH0986314A (ja) * | 1995-09-27 | 1997-03-31 | Yazaki Corp | 車両用後側方監視装置 |
JPH09142209A (ja) * | 1995-11-17 | 1997-06-03 | Yazaki Corp | 車両周辺監視装置 |
JPH09221052A (ja) * | 1996-02-16 | 1997-08-26 | Honda Motor Co Ltd | 車両衝突予防装置 |
JPH10147200A (ja) * | 1997-09-08 | 1998-06-02 | Yazaki Corp | 車両用監視方法 |
Cited By (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002202136A (ja) * | 2001-01-04 | 2002-07-19 | Omron Corp | 車両の周囲状況観測装置 |
US7170548B2 (en) | 2001-11-26 | 2007-01-30 | Denso Corporation | Obstacle monitoring device using one-dimensional signal |
CN100385462C (zh) * | 2002-12-20 | 2008-04-30 | 财团法人生产技术研究奖励会 | 图像中的移动物体的跟踪方法及装置 |
WO2004057537A1 (ja) * | 2002-12-20 | 2004-07-08 | The Foundation For The Promotion Of Industrial Science | 画像における移動物体の追跡方法及び装置 |
JP2004341979A (ja) * | 2003-05-19 | 2004-12-02 | Nissan Motor Co Ltd | 障害物検出装置および障害物検出方法 |
US7190281B2 (en) | 2004-02-06 | 2007-03-13 | Sharp Kabushiki Kaisha | Vehicle environment monitoring device, vehicle environment monitoring method, control program and computer-readable recording medium |
US7250593B2 (en) | 2004-02-06 | 2007-07-31 | Sharp Kabushiki Kaisha | Mobile body surrounding surveillance apparatus, mobile body surrounding surveillance method, control program, and readable recording medium |
US7253389B2 (en) | 2005-02-01 | 2007-08-07 | Sharp Kabushiki Kaisha | Mobile body surrounding surveillance apparatus, mobile body surrounding surveillance method, control program and computer-readable recording medium |
JP2006318015A (ja) * | 2005-05-10 | 2006-11-24 | Sony Corp | 画像処理装置および画像処理方法、画像表示システム、並びに、プログラム |
JP4575315B2 (ja) * | 2006-02-27 | 2010-11-04 | 株式会社東芝 | 物体検出装置及びその方法 |
JP2007233469A (ja) * | 2006-02-27 | 2007-09-13 | Toshiba Corp | 物体検出装置及びその方法 |
WO2008084592A1 (ja) * | 2007-01-12 | 2008-07-17 | Honda Motor Co., Ltd. | 車線認識装置、車両、車線認識方法、及び車線認識プログラム |
JP2008249685A (ja) * | 2007-03-06 | 2008-10-16 | Ikegami Tsushinki Co Ltd | 速度計測方法 |
JP4701225B2 (ja) * | 2007-03-06 | 2011-06-15 | 池上通信機株式会社 | 速度計測方法 |
EP1988488A1 (en) | 2007-05-03 | 2008-11-05 | Sony Deutschland Gmbh | Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device |
US8040227B2 (en) | 2007-05-03 | 2011-10-18 | Sony Deutschland Gmbh | Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device |
EP3594853A3 (en) * | 2007-05-03 | 2020-04-08 | Sony Deutschland GmbH | Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device |
US8526681B2 (en) | 2007-07-17 | 2013-09-03 | Toyota Jidosha Kabushiki Kaisha | On-vehicle image processing device for vehicular control |
JP2009143385A (ja) * | 2007-12-13 | 2009-07-02 | Fujitsu Ltd | 移動体検出装置、移動体検出方法および移動体検出プログラム |
JP2009157943A (ja) * | 2009-04-02 | 2009-07-16 | Toyota Motor Corp | 車載画像処理装置 |
JP2010256955A (ja) * | 2009-04-21 | 2010-11-11 | Victor Co Of Japan Ltd | 動きベクトル検出装置及び方法 |
KR101478072B1 (ko) * | 2010-06-23 | 2015-01-02 | 주식회사 만도 | 차량 검출 방법 |
EP2466567A3 (de) * | 2010-12-14 | 2012-12-05 | Robert Bosch GmbH | Verfahren und Vorrichtung zur Ermittlung fahrzeugbezogener Daten |
JP2012150765A (ja) * | 2011-01-21 | 2012-08-09 | Fujitsu Ten Ltd | 並走物体検知装置 |
JPWO2013129352A1 (ja) * | 2012-03-01 | 2015-07-30 | 日産自動車株式会社 | 立体物検出装置 |
US9830519B2 (en) | 2012-03-01 | 2017-11-28 | Nissan Motor Co., Ltd. | Three-dimensional object detection device |
WO2013129352A1 (ja) * | 2012-03-01 | 2013-09-06 | 日産自動車株式会社 | 立体物検出装置 |
US20130286205A1 (en) * | 2012-04-27 | 2013-10-31 | Fujitsu Limited | Approaching object detection device and method for detecting approaching objects |
WO2015098510A1 (ja) * | 2013-12-27 | 2015-07-02 | 日立オートモティブシステムズ株式会社 | 車両制御装置、車両制御装置を搭載した車両、及び、移動体検出方法 |
JP2015125669A (ja) * | 2013-12-27 | 2015-07-06 | 日立オートモティブシステムズ株式会社 | 車両制御装置、車両制御装置を搭載した車両、及び、移動体検出方法 |
JP2017142661A (ja) * | 2016-02-10 | 2017-08-17 | 株式会社デンソー | 車両周辺監視システム及びコンピュータプログラム |
JP2020077103A (ja) * | 2018-11-06 | 2020-05-21 | 株式会社デンソー | 自車挙動推定装置、自車挙動推定プログラム、記憶媒体および自車挙動推定装置の制御方法 |
JP7151387B2 (ja) | 2018-11-06 | 2022-10-12 | 株式会社デンソー | 自車挙動推定装置、自車挙動推定プログラム、記憶媒体および自車挙動推定装置の制御方法 |
US11921823B2 (en) | 2021-03-17 | 2024-03-05 | Kabushiki Kaisha Toshiba | Image processing device and image processing method |
JP7528009B2 (ja) | 2021-03-17 | 2024-08-05 | 株式会社東芝 | 画像処理装置および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4377474B2 (ja) | 2009-12-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4377474B2 (ja) | 移動体の衝突防止装置、衝突防止方法、および記録媒体 | |
US9836657B2 (en) | System and method for periodic lane marker identification and tracking | |
JP3822515B2 (ja) | 障害物検知装置及びその方法 | |
JP3463858B2 (ja) | 周辺監視装置及び方法 | |
Wu et al. | Applying a functional neurofuzzy network to real-time lane detection and front-vehicle distance measurement | |
US20180038689A1 (en) | Object detection device | |
US20200097739A1 (en) | Object detection device and object detection method | |
US20130286205A1 (en) | Approaching object detection device and method for detecting approaching objects | |
CN107891808B (zh) | 行车提醒方法、装置及车辆 | |
JP2008168811A (ja) | 車線認識装置、車両、車線認識方法、及び車線認識プログラム | |
WO2019026785A1 (ja) | 付着物検出装置、および、それを備えた車両システム | |
JP2000090243A (ja) | 周辺監視装置及び方法 | |
CN102792314A (zh) | 交叉通行碰撞警报系统 | |
JPWO2019202627A1 (ja) | 障害物検出装置、障害物検出装置を利用した自動ブレーキ装置、障害物検出方法、および障害物検出方法を利用した自動ブレーキ方法 | |
JP2006184276A (ja) | 視覚検知による全天候障害物衝突防止装置とその方法 | |
JP4940177B2 (ja) | 交通流計測装置 | |
JP2005309797A (ja) | 歩行者警報装置 | |
JPH05298591A (ja) | 物体認識装置 | |
WO2019065970A1 (ja) | 車両用外界認識装置 | |
JP3656056B2 (ja) | 割り込み車両検出装置及びその方法 | |
Aytekin et al. | Increasing driving safety with a multiple vehicle detection and tracking system using ongoing vehicle shadow information | |
JP2001195698A (ja) | 歩行者検知装置 | |
Leng et al. | Vision-based lane departure detection system in urban traffic scenes | |
JP2007280387A (ja) | 物体移動の検出方法及び検出装置 | |
Kanhere et al. | Real-time detection and tracking of vehicle base fronts for measuring traffic counts and speeds on highways |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060116 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20081217 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090514 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090728 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090818 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090911 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120918 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120918 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130918 Year of fee payment: 4 |
|
EXPY | Cancellation because of completion of term |