[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4425669B2 - Vehicle driving support device - Google Patents

Vehicle driving support device Download PDF

Info

Publication number
JP4425669B2
JP4425669B2 JP2004065977A JP2004065977A JP4425669B2 JP 4425669 B2 JP4425669 B2 JP 4425669B2 JP 2004065977 A JP2004065977 A JP 2004065977A JP 2004065977 A JP2004065977 A JP 2004065977A JP 4425669 B2 JP4425669 B2 JP 4425669B2
Authority
JP
Japan
Prior art keywords
preceding vehicle
vehicle information
information
ipu
driving support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004065977A
Other languages
Japanese (ja)
Other versions
JP2005258570A (en
Inventor
弘幸 関口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2004065977A priority Critical patent/JP4425669B2/en
Publication of JP2005258570A publication Critical patent/JP2005258570A/en
Application granted granted Critical
Publication of JP4425669B2 publication Critical patent/JP4425669B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Controls For Constant Speed Travelling (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、ミリ波レーダや赤外線レーダ等のレーダ手段による検出情報と、ステレオカメラや単眼カメラ等の撮像手段による検出情報とに基づいて車外情報を認識し、認識した車外情報に基づいて各種運転支援制御を行う車両用運転支援装置に関する。   The present invention recognizes out-of-vehicle information based on detection information by radar means such as millimeter wave radar and infrared radar and detection information by imaging means such as a stereo camera and a monocular camera, and performs various driving operations based on the recognized out-of-vehicle information. The present invention relates to a vehicle driving support device that performs support control.

近年、ミリ波レーダや赤外線レーザレーダ等のレーダ手段と、ステレオカメラや単眼カメラ等の撮像手段とを併用して車両前方の車外情報を認識し、認識した車外情報に基づいて自車の走行制御等を行う車両用運転支援装置については様々な提案がされており、特に、この種の車両用運転支援装置では、先行車の認識結果に応じて、定速走行制御や先行車に対する追従走行制御を行う車間距離制御クルーズコントロール(ACC;Adaptive Cruise Control)機能が広く実用化されている。   In recent years, radar information such as millimeter wave radar and infrared laser radar and imaging means such as a stereo camera and a monocular camera are used in combination to recognize information outside the vehicle in front of the vehicle, and control of the own vehicle based on the recognized information outside the vehicle. Various proposals have been made for a vehicle driving support device that performs the above-mentioned, in particular, in this type of vehicle driving support device, constant speed traveling control and follow-up traveling control for the preceding vehicle are performed according to the recognition result of the preceding vehicle. The inter-vehicle distance control cruise control (ACC) function is widely put into practical use.

この場合、車両用運転支援装置では、一般に、撮像手段で撮像された画像情報に基づいて自車走行レーンの推定等が行われる。また、一般に、レーダ手段は立体物の測距精度が撮像手段よりも優れているため、通常、自車走行レーン上で検出された先行車の情報(先行車速度や車間距離等)は、レーダ手段の測定結果に基づいて検出される。   In this case, in the vehicle driving support apparatus, in general, the own vehicle travel lane is estimated based on the image information captured by the imaging unit. In general, since the radar means is superior to the imaging means in the distance measurement accuracy of the three-dimensional object, the information on the preceding vehicle (preceding vehicle speed, inter-vehicle distance, etc.) detected on the own vehicle traveling lane is usually obtained from the radar. It is detected based on the measurement result of the means.

ところで、レーダ手段では、出射した赤外線やレーザの立体物や側壁での乱反射等によって、先行車情報等の検出が一時的に不能となる場合がある。これに対処し、例えば、特許文献1には、レーザレーダ(レーダ手段)による測距が不能となった際に、当該レーザレーダの測定結果に基づく先行車情報(車間距離)の認識に代えて、画像入力装置(撮像手段)からの入力画像に基づいて先行車情報の認識を行う技術が開示されている。
特開平11−44533号公報
By the way, in the radar means, detection of the preceding vehicle information and the like may be temporarily disabled due to the emitted infrared rays, the three-dimensional object of the laser, irregular reflection on the side wall, or the like. In response to this, for example, in Patent Document 1, when distance measurement by a laser radar (radar unit) becomes impossible, instead of recognizing preceding vehicle information (inter-vehicle distance) based on the measurement result of the laser radar. A technique for recognizing preceding vehicle information based on an input image from an image input device (imaging means) is disclosed.
Japanese Patent Laid-Open No. 11-44533

しかしながら、レーダ手段の計測結果に基づく先行車情報と、撮像手段からの撮像画像に基づく先行車情報との間には、誤差が生じている場合があるため、上述の技術では、認識方法の切替時に先行車情報が大きく変動し、ACC制御等が一時的に不自然となる虞がある。   However, since there may be an error between the preceding vehicle information based on the measurement result of the radar unit and the preceding vehicle information based on the captured image from the imaging unit, in the above technique, the recognition method is switched. Sometimes the preceding vehicle information fluctuates greatly, and there is a risk that the ACC control or the like becomes temporarily unnatural.

また、特に、先行車等が遠方に存在する場合、撮像画像に基づく先行車情報は、画像のゆらぎ等に起因して不安定となる場合があり、このような不安定な先行車情報に基づいてACC制御等が行われた場合、その制御が不自然となる虞がある。   In particular, when there is a preceding vehicle or the like in the distance, the preceding vehicle information based on the captured image may become unstable due to image fluctuation or the like, and based on such unstable preceding vehicle information. If ACC control or the like is performed, the control may become unnatural.

本発明は上記事情に鑑みてなされたもので、レーダ手段で得られる情報と撮像手段で得られる情報との適切な融合によって、安定した先行車情報の認識を行うことのできる車両用運転支援装置を提供することを目的とする。   The present invention has been made in view of the above circumstances, and is a vehicle driving support device capable of stably recognizing preceding vehicle information by appropriately combining information obtained by a radar unit and information obtained by an imaging unit. The purpose is to provide.

本発明は、レーダ手段と撮像手段とを併用して先行車情報を認識する車両用運転支援装置において、上記レーダ手段の測定結果に基づいて第1の先行車情報を検出する第1の先行車情報検出手段と、上記撮像手段で撮像された画像に基づいて第2の先行車情報を検出する第2の先行車情報検出手段と、上記第1の先行車情報或いは上記第2の先行車情報の何れかに基づいて最終的な先行車情報を認識する先行車情報認識手段と、上記最終的な先行車情報を認識する基となる先行車情報を、予め設定した条件に基づいて上記第1の先行車情報或いは上記第2の先行車情報の何れかに選択的に切り替える先行車情報切換手段とを備え、上記先行車情報認識手段は、上記第1の先行車情報から上記第2の先行車情報への切替時、及び、上記第2の先行車情報から上記第1の先行車情報への切替時に、上記最終的な先行車情報を、予め設定した過渡時間をかけて漸次的に、新たに選択された上記先行車情報に収束させることを特徴とする。   The present invention provides a vehicle driving support apparatus that recognizes preceding vehicle information using a radar unit and an imaging unit in combination, and detects a first preceding vehicle information based on a measurement result of the radar unit. Information detecting means; second preceding vehicle information detecting means for detecting second preceding vehicle information based on an image captured by the imaging means; and the first preceding vehicle information or the second preceding vehicle information. The preceding vehicle information recognizing means for recognizing the final preceding vehicle information based on any of the above, and the preceding vehicle information serving as a basis for recognizing the final preceding vehicle information based on the first condition Preceding vehicle information switching means for selectively switching to either the preceding preceding vehicle information or the second preceding vehicle information, and the preceding vehicle information recognizing means includes the second preceding vehicle information from the first preceding vehicle information. When switching to car information and the second destination When the vehicle information is switched to the first preceding vehicle information, the final preceding vehicle information is gradually converged to the newly selected preceding vehicle information over a preset transition time. Features.

本発明の車両用運転支援装置によれば、レーダ手段で得られる情報と撮像手段で得られる情報との適切な融合によって、安定した先行車情報の認識を行うことができる。   According to the vehicle driving support device of the present invention, stable preceding vehicle information can be recognized by appropriate fusion of information obtained by the radar means and information obtained by the imaging means.

以下、図面を参照して本発明の形態を説明する。図面は本発明の一形態に係わり、図1は運転支援装置を搭載した車両の概略構成図、図2は車両用運転支援装置の概略構成を示す機能ブロック図、図3は各検出形態での立体物の説明図、図4,5は先行車情報認識ルーチンを示すフローチャート、図6は先行車情報切替時の状態を示す図表である。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The drawings relate to an embodiment of the present invention, FIG. 1 is a schematic configuration diagram of a vehicle equipped with a driving support device, FIG. 2 is a functional block diagram showing a schematic configuration of the vehicle driving support device, and FIG. FIGS. 4 and 5 are flow charts showing a preceding vehicle information recognition routine, and FIG. 6 is a chart showing a state when the preceding vehicle information is switched.

図1において、符号1は自動車等の車両(自車)を示し、この車両1には運転支援装置(ADA;Active Drive Assist system)2が搭載されている。図2に示すように、運転支援装置2は、撮像手段としてのステレオカメラ3と、レーダ手段としてのミリ波レーダ4と、イメージプロセッシングユニット(IPU)5と、プレビューコントロールユニット(PCU)6と、エンジンコントロールユニット(ECU)7と、ビークルダイナミクスコントロールユニット(VDC)8と、統合ユニット9とを有し、これらがCAN(Controller Area Network)等の多重通信系で接続されている。また、統合ユニット9には、例えば、通信速度の異なる他の通信系(車体側通信系)を介して、センターディスプレイ10と、コンビネーションメータ11と、オーディオ装置12とが接続されている。   In FIG. 1, reference numeral 1 denotes a vehicle such as an automobile (own vehicle), and a driving assistance device (ADA: Active Drive Assist system) 2 is mounted on the vehicle 1. As shown in FIG. 2, the driving support apparatus 2 includes a stereo camera 3 as an imaging unit, a millimeter wave radar 4 as a radar unit, an image processing unit (IPU) 5, a preview control unit (PCU) 6, An engine control unit (ECU) 7, a vehicle dynamics control unit (VDC) 8, and an integrated unit 9 are connected through a multiplex communication system such as a CAN (Controller Area Network). Moreover, the center display 10, the combination meter 11, and the audio apparatus 12 are connected to the integrated unit 9 via other communication systems (vehicle body side communication systems) having different communication speeds, for example.

ステレオカメラ3は、例えば電荷結合素子(CCD)等の固体撮像素子を用いた1組の(左右の)CCDカメラを有して構成されている。これら左右のCCDカメラは、それぞれ車室内の天井前方に一定の間隔をもって取付けられ(図1参照)、車外の対象を異なる視点で撮像する。そして、ステレオカメラ3は、左右のCCDカメラで撮像した各画像(基準画像及び比較画像)にA/D変換やアフィン変換等を行い、これらの画像信号をIPU5に出力する。   The stereo camera 3 has a set of (left and right) CCD cameras using a solid-state image sensor such as a charge coupled device (CCD). These left and right CCD cameras are each mounted at a predetermined interval in front of the ceiling in the vehicle interior (see FIG. 1), and images the object outside the vehicle from different viewpoints. The stereo camera 3 performs A / D conversion, affine conversion, and the like on each image (reference image and comparison image) captured by the left and right CCD cameras, and outputs these image signals to the IPU 5.

ミリ波レーダ4は、例えば、車両1のフロントバンパ構造材に取り付けられている(図1参照)。このミリ波レーダ4は送受信部(図示せず)を有し、送受信部は、車両1の水平方向に、所定の走査範囲で、一定の間隔毎にミリ波を送受信する。そして、ミリ波レーダ4は、送信したミリ波が立体物等の反射対象で反射されて戻ってくるまでの時間差の測定結果を基に、自車前方の立体物の二次元分布情報からなるレーダ画像を生成し、これをIPU5に出力する。   The millimeter wave radar 4 is attached to, for example, a front bumper structure material of the vehicle 1 (see FIG. 1). The millimeter wave radar 4 has a transmission / reception unit (not shown), and the transmission / reception unit transmits and receives millimeter waves in the horizontal direction of the vehicle 1 within a predetermined scanning range at regular intervals. The millimeter wave radar 4 is a radar comprising two-dimensional distribution information of a three-dimensional object in front of the host vehicle based on a measurement result of a time difference until the transmitted millimeter wave is reflected by a reflection object such as a three-dimensional object and returns. An image is generated and output to the IPU 5.

IPU5は、ステレオカメラ3及びミリ波レーダ4からの各画像信号に基づいて、車外環境の認識を行う。   The IPU 5 recognizes the environment outside the vehicle based on the image signals from the stereo camera 3 and the millimeter wave radar 4.

具体的に説明すると、IPU5は、ステレオ画像に基づき、三角測量の原理等を用いた周知の演算処理により、道路上の白線、道路に沿って存在するガードレールや縁石等の側壁、車両等の立体物を検出する。そして、IPU5は、検出された白線、側壁、立体物に係る各情報(例えば、自車1との相対速度Vi、相対加速度Ai、及び相対距離Zi等)毎に、それぞれ異なったIDを割り当てる。その際、車両等の立体物は2以上の面がコーナーを介して連続して検出されることが多いため、IPU5は、このような車両等の可能性が高い立体物を、コーナー状立体物として別途登録する。   More specifically, the IPU 5 uses a well-known calculation process based on the stereo image and the triangulation principle, etc., to obtain a white line on the road, a side wall such as a guardrail or curb along the road, and a three-dimensional vehicle or the like. Detect objects. Then, the IPU 5 assigns a different ID to each piece of information (for example, relative speed Vi, relative acceleration Ai, relative distance Zi, etc. with the own vehicle 1) related to the detected white line, side wall, and three-dimensional object. At this time, since a three-dimensional object such as a vehicle often has two or more planes detected continuously through a corner, the IPU 5 converts a three-dimensional object such as a vehicle into a corner-shaped three-dimensional object. Register separately.

また、IPU5は、レーダ画像上の距離値が連続する部分を1つの立体物として抽出することで、レーダ画像に基づく立体物検出を行う。そして、IPU5は、検出された立体物に係る各情報(例えば、自車1との相対速度Vm、相対加速度Am、及び相対距離Zm等)毎に、それぞれ異なったIDを割り当てる。   Further, the IPU 5 performs a three-dimensional object detection based on the radar image by extracting a portion where distance values on the radar image are continuous as one solid object. Then, the IPU 5 assigns a different ID for each piece of information (for example, relative speed Vm, relative acceleration Am, relative distance Zm, etc. with the host vehicle 1) related to the detected three-dimensional object.

そして、IPU5は、ステレオ画像に基づいて検出した立体物(以下、画像立体物と称す)とレーダ画像に基づいて検出した立体物(以下、レーダ立体物と称す)とを融合することで、最終的な立体物認識を行う。   Then, the IPU 5 combines the three-dimensional object detected based on the stereo image (hereinafter referred to as an image three-dimensional object) and the three-dimensional object detected based on the radar image (hereinafter referred to as a radar three-dimensional object). 3D object recognition.

すなわち、IPU5は、各画像立体物と各レーダ立体物の位置や移動速度に基づいて、各画像立体物と各レーダ立体物の各組合せ全てについての同一確率の判定を行い、同一確率が所定以上で最も一致する画像立体物とレーダ立体物の各組み合わせをフュージョン立体物として認識する。これにより、IPU5では、画像立体物単体により認識された立体物(例えば、図3中に丸で示す立体物)、レーダ立体物単体により認識された立体物(例えば、図3中に、四角で示す立体物)、画像立体物とレーダ立体物との組み合わせにより認識されたフュージョン立体物(例えば、図3中に丸と四角とで示す立体物)の何れかからなる各立体物を自車前方に認識する。   That is, the IPU 5 determines the same probability for each combination of each image solid object and each radar solid object based on the position and moving speed of each image solid object and each radar solid object, and the same probability exceeds a predetermined value. Each combination of the image solid object and the radar solid object that most closely matches is recognized as a fusion solid object. Thereby, in the IPU 5, a solid object recognized by the image solid object alone (for example, a solid object indicated by a circle in FIG. 3), a solid object recognized by the radar solid object alone (for example, a square in FIG. 3) 3D objects that are recognized by a combination of an image 3D object and a radar 3D object (for example, a 3D object indicated by a circle and a square in FIG. 3). To recognize.

また、IPU5は、ステレオ画像から認識した白線、側壁等の情報や、VDC8から得られる自車1の走行状態情報等に基づいて自車走行レーンの推定を行い、さらに、推定した自車走行レーン上での先行車の捕捉・離脱判定を行う。すなわち、IPU5は、推定した自車走行レーン上に立体物が存在するとき、その中から自車1の最も近くに存在する立体物を先行車として捕捉(検出)する。   Further, the IPU 5 estimates the own vehicle traveling lane based on the information such as the white line and the side wall recognized from the stereo image, the traveling state information of the own vehicle 1 obtained from the VDC 8, and the estimated own vehicle traveling lane. Carry out the preceding vehicle capture / departure judgment. That is, when there is a three-dimensional object on the estimated own vehicle travel lane, the IPU 5 captures (detects) the three-dimensional object that is present closest to the own vehicle 1 as a preceding vehicle.

その際、IPU5は、先行車として捕捉された立体物がフュージョン立体物である場合に、当該フュージョン立体物を構成するレーダ立体物の情報に基づく先行車情報を第1の先行車情報(以下、先行車情報Aともいう)として登録するとともに、画像立体物の情報に基づく先行車情報を第2の先行車情報(以下、先行車情報Bともいう)として登録する。また、IPU5は、先行車として捕捉された立体物がレーダ立体物である場合に、当該レーダ立体物の情報に基づく先行車情報を第1の先行車情報として登録し、第2の先行車情報を無効と登録する。また、IPU5は、先行車として捕捉された立体物が画像立体物である場合に、当該立体物の情報に基づく先行車情報を第2の先行車情報として登録し、第1の先行車情報を無効と登録する。すなわち、IPU5は、ミリ波レーダ4の測定結果に基づいて第1の先行車情報を検出する第1の先行車情報検出手段としての機能と、ステレオカメラ3で撮像されたステレオ画像に基づいて第2の先行車情報を検出する第2の先行車情報検出手段としての機能を有する。   At that time, when the three-dimensional object captured as the preceding vehicle is a fusion three-dimensional object, the IPU 5 converts the preceding vehicle information based on the information of the radar three-dimensional object constituting the fusion three-dimensional object to the first preceding vehicle information (hereinafter, The preceding vehicle information based on the information of the image solid object is registered as second preceding vehicle information (hereinafter also referred to as preceding vehicle information B). Further, when the three-dimensional object captured as the preceding vehicle is a radar three-dimensional object, the IPU 5 registers the preceding vehicle information based on the information of the radar three-dimensional object as the first preceding vehicle information, and the second preceding vehicle information Register as invalid. Further, when the three-dimensional object captured as the preceding vehicle is an image three-dimensional object, the IPU 5 registers the preceding vehicle information based on the information of the three-dimensional object as the second preceding vehicle information, and the first preceding vehicle information is registered. Register as invalid. That is, the IPU 5 functions as a first preceding vehicle information detecting unit that detects first preceding vehicle information based on the measurement result of the millimeter wave radar 4 and the stereo image captured by the stereo camera 3. It has a function as a 2nd preceding vehicle information detection means which detects 2 preceding vehicle information.

さらに、IPU5は、予め設定された条件に基づいて第1の先行車情報或いは第2の先行車情報の何れかを選択し、選択された先行車情報に基づいて最終的な先行車情報Cを認識する。すなわち、IPU5は、先行車情報選択手段、及び先行車情報認識手段としての機能を有する。   Further, the IPU 5 selects either the first preceding vehicle information or the second preceding vehicle information based on a preset condition, and obtains the final preceding vehicle information C based on the selected preceding vehicle information. recognize. That is, the IPU 5 functions as a preceding vehicle information selection unit and a preceding vehicle information recognition unit.

PCU6は、運転支援装置2の各機能を統括するもので、IPU5やVDC8から得られる各種情報等に基づいて警報や加減速制御等の要否判定を行う。そして、これらの判定結果に応じて、PCU6は、センターディスプレイ10やコンビネーションメータ11への表示信号の出力、コンビネーションメータ11、オーディオ装置12に接続するスピーカ11a、12aへのブザー(或いは音声)信号の出力、ECU7、VDC8への制御信号の出力等を適宜行うことで、各種運転支援機能を実現する。   The PCU 6 supervises each function of the driving support device 2 and determines whether or not an alarm or acceleration / deceleration control is necessary based on various information obtained from the IPU 5 or the VDC 8. Then, according to these determination results, the PCU 6 outputs a display signal to the center display 10 and the combination meter 11, and outputs a buzzer (or sound) signal to the speakers 11a and 12a connected to the combination meter 11 and the audio device 12. Various driving support functions are realized by appropriately performing output, outputting control signals to the ECU 7 and the VDC 8, and the like.

例えば、PCU6は、自車走行レーン上に先行車を捕捉している場合において、先行車との車間距離が所定の警報車間距離以下になったとき、コンビネーションメータ11の警報灯を表示するとともに、スピーカ11aからブザーを出力する(車間距離警報機能)。   For example, when the preceding vehicle is captured on the own vehicle traveling lane, the PCU 6 displays the warning light of the combination meter 11 when the inter-vehicle distance with the preceding vehicle is equal to or less than a predetermined warning inter-vehicle distance, A buzzer is output from the speaker 11a (inter-vehicle distance warning function).

また、PCU6は、自車走行レーンの白線と自車1との位置関係から、予め設定された前方距離内で、白線と自車1の外側側壁の延長線の間隔とが略”0”となると判定したとき、コンビネーションメータ11の警報灯を点灯表示するとともに、スピーカ11aからブザーを出力する(車線逸脱警報機能)。   Further, the PCU 6 determines that the distance between the white line and the extension line of the outer side wall of the own vehicle 1 is approximately “0” within a preset front distance from the positional relationship between the white line of the own vehicle traveling lane and the own vehicle 1. When it is determined, the warning light of the combination meter 11 is turned on and a buzzer is output from the speaker 11a (lane departure warning function).

また、PCU6は、ECU7やVDC8を通じた加減速制御によって、自車走行レーン上での先行車の捕捉時に先行車に対する追従走行制御を行うとともに、自車走行レーンからの先行車の離脱を判定したとき、設定車速での定速走行制御へと移行する(ACC機能;車間距離制御クルーズコントロール機能)。   Further, the PCU 6 performs follow-up driving control for the preceding vehicle when the preceding vehicle is captured on the own vehicle traveling lane by acceleration / deceleration control through the ECU 7 and the VDC 8, and determines whether the preceding vehicle has left the own vehicle traveling lane. At this time, the vehicle shifts to constant speed traveling control at the set vehicle speed (ACC function; inter-vehicle distance control cruise control function).

また、PCU6は、自車1と白線との関係に基づいて自車走行レーン上でのふらつきを計測し、その周波数分析からよそ見や居眠りに関係の深いふらつきを検出したとき、車線逸脱警報の警報タイミングを早める。さらに、車線逸脱を検出した際にスピーカ12aからの音声による警報を行う(ふらつき警報機能)。   Further, the PCU 6 measures the wobbling on the driving lane based on the relationship between the own vehicle 1 and the white line, and when detecting the wandering deeply related to looking away or falling asleep from the frequency analysis, Advance timing. Further, when a lane departure is detected, a warning is given by voice from the speaker 12a (stagger warning function).

また、PCU6は、ドライバによるブレーキ踏み込み時の前後輪の車輪速差を検出し、この値が所定値を越えたとき、タイヤがスリップしやすい状態にあると判断し、センターディスプレイ10を通じてその旨を表示する(グリップ予測機能)。   Further, the PCU 6 detects the wheel speed difference between the front and rear wheels when the driver depresses the brake. When this value exceeds a predetermined value, the PCU 6 determines that the tire is likely to slip, and this is indicated through the center display 10. Display (grip prediction function).

また、PCU6は、自車走行レーン上を走行する先行車や、対向車との車間距離情報をセンターディスプレイ10を通じて表示する。また、先行車に自車が一定速度以上の速さで接近しているとき、スピーカ12aからブザーを出力する(視界支援機能)。   Further, the PCU 6 displays information on the distance between the preceding vehicle traveling on the vehicle traveling lane and the oncoming vehicle through the center display 10. Further, when the host vehicle approaches the preceding vehicle at a speed equal to or higher than a certain speed, a buzzer is output from the speaker 12a (visual field support function).

ここで、センターディスプレイ10には、タッチスイッチ機能が設けられており、PCU6は、ドライバによるタッチスイッチの操作に応じて、各運転支援機能の実行/解除やセンターディスプレイ10の表示切り替え等を行う。   Here, the center display 10 is provided with a touch switch function, and the PCU 6 executes / cancels each driving support function and switches the display of the center display 10 in accordance with the operation of the touch switch by the driver.

次に、IPU5で実行される先行車情報Cの認識処理について、図4,5に示す先行車情報認識ルーチンに従って詳細に説明する。ここで、本形態では、例えば、自車1に対する先行車速度V及び車間距離Zが先行車情報Cとして認識される。   Next, the preceding vehicle information C recognition process executed by the IPU 5 will be described in detail according to the preceding vehicle information recognition routine shown in FIGS. Here, in this embodiment, for example, the preceding vehicle speed V and the inter-vehicle distance Z with respect to the host vehicle 1 are recognized as the preceding vehicle information C.

このルーチンは、設定時間毎(例えば、100mmsec毎)に繰り返し実行されるもので、ルーチンがスタートすると、IPU5は、先ず、ステップS101において、現在、自車走行レーン上に先行車が検出されているか否かを調べる。そして、ステップS101において、自車走行レーン上に先行車が検出されていないと判定した場合、IPU5は、ステップS102に進み、先行車情報Cが無効であると認識した後、ルーチンを抜ける。   This routine is repeatedly executed every set time (for example, every 100 mmsec). When the routine starts, the IPU 5 first determines whether a preceding vehicle is currently detected on the own vehicle traveling lane in step S101. Check for no. If it is determined in step S101 that the preceding vehicle is not detected on the own vehicle traveling lane, the IPU 5 proceeds to step S102 and recognizes that the preceding vehicle information C is invalid, and then exits the routine.

一方、ステップS101で自車走行レーン上に先行車が検出されていると判定すると、IPU5は、ステップS103に進み、検出された先行車がレーダ立体物或いはフュージョン立体物に基づくものであるか否か(すなわち、少なくともミリ波レーダ4で先行車が検出されているか否か)を調べる。   On the other hand, if it is determined in step S101 that a preceding vehicle has been detected on the own vehicle traveling lane, the IPU 5 proceeds to step S103, and whether or not the detected preceding vehicle is based on a radar three-dimensional object or a fusion three-dimensional object. (That is, whether or not a preceding vehicle is detected by at least the millimeter wave radar 4).

そして、ステップS103において、ミリ波レーダ4で先行車が検出されていると判定すると、IPU5は、ステップS104に進み、レーダ立体物の情報に基づく先行車情報Aとして、先行車速度Va=Vm、車間距離Za=Zm、先行車加速度Aa=Amを登録した後、ステップS106に進む。   When it is determined in step S103 that the preceding vehicle is detected by the millimeter wave radar 4, the IPU 5 proceeds to step S104, and the preceding vehicle speed Va = Vm as the preceding vehicle information A based on the information of the radar three-dimensional object. After the inter-vehicle distance Za = Zm and the preceding vehicle acceleration Aa = Am are registered, the process proceeds to step S106.

一方、ステップS103において、ミリ波レーダ4で先行車が検出されていないと判定すると、IPU5は、ステップS105に進み、レーダ立体物の情報に基づく先行車情報Aは無効であると登録した後、ステップS106に進む。   On the other hand, if it is determined in step S103 that the preceding vehicle is not detected by the millimeter wave radar 4, the IPU 5 proceeds to step S105, and after registering that the preceding vehicle information A based on the information of the radar three-dimensional object is invalid, Proceed to step S106.

ステップS104或いはステップS105からステップS106に進むと、IPU5は、検出された先行車が画像立体物或いはフュージョン立体物に基づくものであるか否か(すなわち、少なくともステレオカメラ3で先行車が検出されているか否か)を調べる。   When the process proceeds from step S104 or step S105 to step S106, the IPU 5 determines whether or not the detected preceding vehicle is based on an image solid object or a fusion solid object (that is, at least the stereo camera 3 detects the preceding vehicle). Whether or not).

そして、ステップS106において、ステレオカメラ3で先行車が検出されていないと判定すると、IPU5は、ステップS107に進み、画像立体物に基づく先行車情報Bは無効であると登録した後、ステップS121に進む。   If it is determined in step S106 that the preceding vehicle is not detected by the stereo camera 3, the IPU 5 proceeds to step S107, registers that the preceding vehicle information B based on the image solid object is invalid, and then proceeds to step S121. move on.

一方、ステップS106において、ステレオカメラ3で先行車が検出されていると判定すると、IPU5は、ステップS108に進み、以下のステップS120までの処理により、先行車として捕捉された画像立体物の情報に基づく先行車情報Bの登録を行う。具体的には、先行車情報Bとして、先行車速度Vbと車間距離Zbが登録される。その際、画像のゆらぎ等に起因して先行車情報Bが不安定に変動することを防止するため、IPU5は、現在の相対速度Viを含む過去所定時間(所定サンプル数)の相対速度Viを平均化した値(移動平均値)を先行車速度Vbとして登録するとともに、現在の相対距離Ziを含む過去所定時間(所定サンプル数)の相対距離Ziを平均化した値(移動平均値)を車間距離Zbとして登録する。   On the other hand, if it is determined in step S106 that the preceding vehicle has been detected by the stereo camera 3, the IPU 5 proceeds to step S108, and the processing up to step S120 below is performed to obtain information about the image solid object captured as the preceding vehicle. Based on the preceding vehicle information B is registered. Specifically, the preceding vehicle speed Vb and the inter-vehicle distance Zb are registered as the preceding vehicle information B. At this time, in order to prevent the preceding vehicle information B from fluctuating unstable due to image fluctuation or the like, the IPU 5 determines the relative speed Vi of the past predetermined time (predetermined number of samples) including the current relative speed Vi. The average value (moving average value) is registered as the preceding vehicle speed Vb, and the value (moving average value) obtained by averaging the relative distance Zi of the past predetermined time (predetermined number of samples) including the current relative distance Zi is the inter-vehicle distance. Register as distance Zb.

すなわち、先ず、ステップS108において、IPU5は、先行車がステレオカメラ3で継続して検出された回数を表すカウンタTiをインクリメント(Ti←Ti+1)した後、ステップS109に進む。   That is, first, in step S108, the IPU 5 increments a counter Ti indicating the number of times that the preceding vehicle has been continuously detected by the stereo camera 3 (Ti ← Ti + 1), and then proceeds to step S109.

続くステップS109において、IPU5は、先行車情報Aが無効、或いは、先行車情報Aの先行車加速度Aaが−2km/h2〜2km/h2の範囲外であるか否かを調べる。 In subsequent step S109, the IPU 5 checks whether the preceding vehicle information A is invalid or whether the preceding vehicle acceleration Aa of the preceding vehicle information A is outside the range of −2 km / h 2 to 2 km / h 2 .

そして、ステップS109において、先行車情報Aが無効であると判定した場合、或いは、先行車情報Aの先行車加速度Aaが−2km/h2〜2km/h2の範囲外であると判定した場合には、IPU5は、ステップS110に進み、サンプルカウンタSをデクリメント(S←S−1)した後、ステップS112に進む。ここで、サンプルカウンタSとは、先行車情報Bを平均化する際のサンプル数を規定するためのカウント値である。 In step S109, when it is determined that the preceding vehicle information A is invalid, or when it is determined that the preceding vehicle acceleration Aa of the preceding vehicle information A is outside the range of −2 km / h 2 to 2 km / h 2. In step S110, the IPU 5 decrements the sample counter S (S ← S-1), and then proceeds to step S112. Here, the sample counter S is a count value for defining the number of samples when the preceding vehicle information B is averaged.

一方、ステップS109において、先行車情報Aが有効であり、且つ、先行車情報Aの先行車加速度Aaが−2km/h2〜2km/h2の範囲内であると判定した場合には、IPU5は、ステップS111に進み、サンプルカウンタSをインクリメント(S←S+1)した後、ステップS112に進む。 On the other hand, if it is determined in step S109 that the preceding vehicle information A is valid and the preceding vehicle acceleration Aa of the preceding vehicle information A is within the range of −2 km / h 2 to 2 km / h 2 , the IPU 5 Proceeds to step S111, increments the sample counter S (S ← S + 1), and then proceeds to step S112.

ステップS110或いはステップS111からステップS112に進むと、IPU5は、サンプルカウンタSが予め設定された上限値(例えば、S=50)よりも大きいか否かを調べる。   When the process proceeds from step S110 or step S111 to step S112, the IPU 5 checks whether or not the sample counter S is larger than a preset upper limit value (for example, S = 50).

そして、ステップS112において、サンプルカウンタS>50であると判定すると、IPU5は、ステップS113に進み、サンプルカウンタSを上限値に補正(S←50)した後、ステップS116に進む。   If it is determined in step S112 that the sample counter S> 50, the IPU 5 proceeds to step S113, corrects the sample counter S to the upper limit (S ← 50), and then proceeds to step S116.

一方、ステップS112において、サンプルカウンタS≦50であると判定すると、IPU5は、ステップS114に進み、サンプルカウンタSが予め設定された下限値(例えば、S=20)よりも小さいか否かを調べる。   On the other hand, if it is determined in step S112 that the sample counter S ≦ 50, the IPU 5 proceeds to step S114, and checks whether the sample counter S is smaller than a preset lower limit value (for example, S = 20). .

そして、ステップS114において、サンプルカウンタS<20であると判定すると、IPU5は、ステップS115に進み、サンプルカウンタSを下限値に補正(S←20)した後、ステップS116に進む。   If it is determined in step S114 that the sample counter S <20, the IPU 5 proceeds to step S115, corrects the sample counter S to the lower limit (S ← 20), and then proceeds to step S116.

一方、ステップS114において、サンプルカウンタS≧20であると判定すると、IPU5は、そのままステップS116に進む。   On the other hand, if it is determined in step S114 that the sample counter S ≧ 20, the IPU 5 directly proceeds to step S116.

ステップS113、ステップS115、或いは、ステップS114からステップS116に進むと、IPU5は、前フレームにおいて現フレームと同一の先行車がステレオカメラ3で検出されていたか否かを調べる。ここで、前フレームと同一の先行車が検出されていない場合とは、ステレオカメラ3によって、例えば、前フレームで先行車が検出されておらず今回検出された先行車が新たに検出された場合や、先行車の車線変更等によって前フレームとは異なる先行車が新たに検出された場合等をいう。   When the process proceeds from step S113, step S115, or step S114 to step S116, the IPU 5 checks whether or not the same preceding vehicle as the current frame has been detected by the stereo camera 3 in the previous frame. Here, the case where the same preceding vehicle as the previous frame is not detected means that, for example, the preceding vehicle detected this time is not detected in the previous frame and the preceding vehicle detected this time is newly detected by the stereo camera 3. Or a case where a preceding vehicle different from the previous frame is newly detected due to a lane change or the like of the preceding vehicle.

ステップS116において、前フレームと同一の先行車がステレオカメラ3で検出されていると判定すると、IPU5は、ステップS117に進み、カウンタTiがサンプルカウンタS以下であるか否かを調べる。   If it is determined in step S116 that the same preceding vehicle as the previous frame is detected by the stereo camera 3, the IPU 5 proceeds to step S117 and checks whether the counter Ti is equal to or smaller than the sample counter S.

そして、ステップS117において、カウンタTi>サンプルカウンタSであると判定すると、IPU5は、ステップS118に進み、画像立体物の情報に基づく先行車情報Bとして、
先行車速度Vb=(現フレームを含む過去Sフレームで検出されたViの平均値)
車間距離Zb=(現フレームを含む過去Sフレームで検出されたZiの平均値)
を登録した後、ステップS121に進む。
If it is determined in step S117 that the counter Ti> sample counter S, the IPU 5 proceeds to step S118, where the preceding vehicle information B based on the information of the image solid object is as follows.
Prior vehicle speed Vb = (average value of Vi detected in past S frames including current frame)
Inter-vehicle distance Zb = (average value of Zi detected in past S frames including current frame)
Is registered, the process proceeds to step S121.

一方、ステップS117において、カウンタTi≦サンプルカウンタSであると判定すると、IPU5は、ステップS119に進み、画像立体物の情報に基づく先行車情報Bとして、
先行車速度Vb=(現フレームを含む過去Tiフレームで検出されたViの平均値)
車間距離Zb=(現フレームを含む過去Tiフレームで検出されたZiの平均値)
を登録する。さらに、ステップS119において、IPU5は、サンプルカウンタSを下限値に補正(S←20)した後、ステップS121に進む。
On the other hand, if it is determined in step S117 that the counter Ti ≦ sample counter S, the IPU 5 proceeds to step S119, and as the preceding vehicle information B based on the information of the image solid object,
Prior vehicle speed Vb = (average value of Vi detected in past Ti frames including current frame)
Inter-vehicle distance Zb = (average value of Zi detected in past Ti frames including the current frame)
Register. In step S119, the IPU 5 corrects the sample counter S to the lower limit (S ← 20), and then proceeds to step S121.

また、ステップS116において、前フレームと同一の先行車をステレオカメラ3で検出していないと判定すると、IPU5は、ステップS120に進み、画像立体物の情報に基づく先行車情報Bとして、先行車速度Vb=Vi、車間距離Zb=Ziを登録する。さらに、ステップS120において、IPU5は、カウンタTiを初期値に補正(Ti←0)し、サンプルカウンタSを下限値に補正(S←20)した後、ステップS121に進む。   If it is determined in step S116 that the same preceding vehicle as the previous frame is not detected by the stereo camera 3, the IPU 5 proceeds to step S120, and the preceding vehicle speed B is set as the preceding vehicle information B based on the information of the image solid object. Vb = Vi and inter-vehicle distance Zb = Zi are registered. In step S120, the IPU 5 corrects the counter Ti to an initial value (Ti ← 0), corrects the sample counter S to a lower limit (S ← 20), and then proceeds to step S121.

ステップS118、ステップS119、或いはステップS120からステップS121に進むと、IPU5は、ステップS139までの処理により、先行車情報A或いは先行車情報Bを選択的に用いて最終的な先行車情報Cの認識を行う。具体的には、最終的な先行車情報Cとして、先行車速度Vと車間距離Zが認識される。その際、IPU5は、先行車情報Aが有効である場合、当該先行車情報Aを、先行車情報Cを認識するための基となる先行車情報として優先的に選択する。また、先行車情報Aから先行車情報Bへの切替時、或いは、先行車情報Bから先行車情報Aへの切替時において、IPU5は、先行車情報Cの急激な変動を抑制するため、切替直前に認識された先行車情報Cを、予め設定した過渡時間をかけて漸次的に、新たに選択された先行車情報(A或いはB)に収束させる。   When the process proceeds from step S118, step S119, or step S120 to step S121, the IPU 5 selectively recognizes the preceding preceding vehicle information C by selectively using the preceding vehicle information A or the preceding vehicle information B through the processing up to step S139. I do. Specifically, the preceding vehicle speed V and the inter-vehicle distance Z are recognized as the final preceding vehicle information C. At this time, when the preceding vehicle information A is valid, the IPU 5 preferentially selects the preceding vehicle information A as the preceding vehicle information that is a basis for recognizing the preceding vehicle information C. Further, when switching from the preceding vehicle information A to the preceding vehicle information B, or at the time of switching from the preceding vehicle information B to the preceding vehicle information A, the IPU 5 switches in order to suppress rapid fluctuations in the preceding vehicle information C. The preceding vehicle information C recognized immediately before is gradually converged to the newly selected preceding vehicle information (A or B) over a preset transition time.

先ず、IPU5は、ステップS118、ステップS119、或いはステップS120からステップS121に進むと、先行車情報Aが有効であるか否かを調べる。   First, when the IPU 5 proceeds from step S118, step S119, or step S120 to step S121, it checks whether the preceding vehicle information A is valid.

そして、ステップS121において、先行車情報Aが有効であると判定すると、IPU5は、ステップS122に進み、前フレームで現フレームと同一の先行車がステレオカメラ3或いはミリ波レーダ4の少なくとも何れか一方で検出されていたか否かを調べる。ここで、前フレームと同一の先行車が検出されていない場合とは、例えば、ステレオカメラ3及びミリ波レーダ4の何れからも前フレームで先行車が検出されておらず今回新たに先行車が検出された場合や、先行車の車線変更等によって前フレームとは異なる先行車が新たに検出された場合等をいう。   If it is determined in step S121 that the preceding vehicle information A is valid, the IPU 5 proceeds to step S122, and the preceding vehicle that is the same as the current frame in the previous frame is at least one of the stereo camera 3 and the millimeter wave radar 4. Check if it was detected in. Here, the case where the same preceding vehicle as the previous frame has not been detected means, for example, that no preceding vehicle has been detected in the previous frame from any of the stereo camera 3 and the millimeter wave radar 4, and a new preceding vehicle has been detected this time. When it is detected, or when a preceding vehicle different from the previous frame is newly detected due to a lane change or the like of the preceding vehicle.

そして、ステップS122において、現フレームと同一の先行車が前フレームで検出されていたと判定すると、IPU5は、ステップS125に進み、前フレームでの先行車情報Aが無効であったか否かを調べる。すなわち、ステップS122において、IPU5は、前フレームでの先行車情報Aが無効であったか否かを調べることにより、現在、先行車情報Cの基となる先行車情報が先行車情報Bから先行車情報Aに切り替えられた直後であるか否かを調べる。   When it is determined in step S122 that the same preceding vehicle as the current frame has been detected in the previous frame, the IPU 5 proceeds to step S125 and checks whether the preceding vehicle information A in the previous frame is invalid. That is, in step S122, the IPU 5 checks whether or not the preceding vehicle information A in the previous frame is invalid, so that the preceding vehicle information that is currently the basis of the preceding vehicle information C is changed from the preceding vehicle information B to the preceding vehicle information. It is checked whether or not it is immediately after switching to A.

そして、ステップS125において、前フレームで先行車情報Aが無効であり、現在、先行車情報Bから先行車情報Aに切り替えられた直後であると判定すると、IPU5は、ステップS126に進み、カウンタCTを初期値(例えば、CT←19)に設定した後、ステップS127に進む。ここで、カウンタCTは、最終的な先行車情報の基となる先行車情報の切替時に過渡時間の残時間を規定するためのカウンタであり、先行車情報Bから先行車情報Aへの切替時には、例えば、カウンタCTが”19”に初期設定されることにより、過渡時間が2秒に設定される。   If it is determined in step S125 that the preceding vehicle information A is invalid in the previous frame and is immediately after switching from the preceding vehicle information B to the preceding vehicle information A, the IPU 5 proceeds to step S126, and the counter CT Is set to an initial value (for example, CT ← 19), and then the process proceeds to step S127. Here, the counter CT is a counter for defining the remaining time of the transition time when switching the preceding vehicle information that is the basis of the final preceding vehicle information, and at the time of switching from the preceding vehicle information B to the preceding vehicle information A. For example, when the counter CT is initialized to “19”, the transient time is set to 2 seconds.

一方、ステップS125において、前フレームでの先行車情報Aが有効であると判定すると、IPU5は、そのままステップS127に進む。   On the other hand, if it is determined in step S125 that the preceding vehicle information A in the previous frame is valid, the IPU 5 proceeds directly to step S127.

ステップS125或いはステップS126からステップS127に進むと、IPU5は、カウンタCTが”0”であるか否かを調べる。すなわち、IPU5は、カウンタCTが”0”であるか否かの判定により、現在、先行車情報Aへの切り替えによる過渡時間が満了しているか否かを調べる。   When the process proceeds from step S125 or step S126 to step S127, the IPU 5 checks whether or not the counter CT is “0”. That is, the IPU 5 checks whether or not the transition time due to switching to the preceding vehicle information A has expired by determining whether or not the counter CT is “0”.

そして、ステップS127において、カウンタCT≠0であり、未だ過渡時間が満了していないと判定すると、IPU5は、ステップS128に進み、現フレームの先行車情報A(先行車速度Va、車間距離Za)に対する補正量を規定するための補正係数ΔV、ΔZを、
ΔV=(前フレームの先行車速度V−Va)/(CT+1)
ΔZ=(前フレームの車間距離Z−Za)/(CT+1)
によって算出する。
If it is determined in step S127 that the counter CT ≠ 0 and the transition time has not yet expired, the IPU 5 proceeds to step S128, and the preceding vehicle information A (preceding vehicle speed Va, inter-vehicle distance Za) of the current frame. Correction coefficients ΔV and ΔZ for defining the correction amount with respect to
ΔV = (preceding vehicle speed V-Va of previous frame) / (CT + 1)
ΔZ = (distance between previous frames Z−Za) / (CT + 1)
Calculated by

そして、ステップS128からステップS129に進むと、IPU5は、カウンタCTをデクリメント(CT←CT−1)した後、ステップS130に進む。   Then, when the process proceeds from step S128 to step S129, the IPU 5 decrements the counter CT (CT ← CT-1), and then proceeds to step S130.

一方、ステップS127において、カウンタCT=0であり、過渡時間が満了していると判定すると、IPU5は、ステップS124に進み、補正係数ΔV、ΔZをそれぞれ”0”に設定した後、ステップS130に進む。   On the other hand, if it is determined in step S127 that the counter CT = 0 and the transition time has expired, the IPU 5 proceeds to step S124, sets the correction coefficients ΔV and ΔZ to “0”, and then proceeds to step S130. move on.

また、ステップS122において、前フレームで現フレームと同一の先行車が検出されていないと判定すると、IPU5は、ステップS123に進み、カウンタCTを”0”に設定し、ステップS124で、補正係数ΔV、ΔZをそれぞれ”0”に設定した後、ステップS130に進む。   If it is determined in step S122 that the same preceding vehicle as the current frame is not detected in the previous frame, the IPU 5 proceeds to step S123, sets the counter CT to “0”, and in step S124, the correction coefficient ΔV , ΔZ are set to “0”, respectively, and the process proceeds to step S130.

ステップS124或いはステップS129からステップS130に進むと、IPU5は、先行車情報Aに基づいて認識される最終的な先行車情報C(先行車速度V、車間距離Z)を、
先行車速度V=Va+(ΔV・CT)
車間距離Z=Za+(ΔV・CT)
によって算出した後、ルーチンを抜ける。
When the process proceeds from step S124 or step S129 to step S130, the IPU 5 obtains final preceding vehicle information C (preceding vehicle speed V, inter-vehicle distance Z) recognized based on the preceding vehicle information A,
Leading vehicle speed V = Va + (ΔV · CT)
Inter-vehicle distance Z = Za + (ΔV · CT)
After calculating, the routine is exited.

これにより、先行車情報Cは、認識の基となる先行車情報が先行車情報Bから先行車情報Aに切り替えられた後に、所定の過渡時間(例えば2秒)かけて漸次的に、先行車情報Aに収束される。すなわち、例えば、図6に示すように、先行車速度V認識の基となる先行車速度が先行車速度Vbから先行車速度Vaに切り替えられると、先行車速度Vは、2秒間の過渡時間を経て漸次的に、先行車速度Vaに収束される。図示しないが同様に、車間距離Z認識の基となる車間距離が車間距離Zbから車間距離Zaに切り替えられると、車間距離Zは、2秒間の過渡時間を経て漸次的に、車間距離Zaに収束される。また、過渡時間を満了した場合、或いは、新たな先行車が検出された場合には、ΔV、ΔZがともに”0”に設定されるので、先行車速度Va及び車間距離Zaがそのまま、先行車速度V及び車間距離Zとして認識される。   As a result, the preceding vehicle information C is gradually obtained over a predetermined transition time (for example, 2 seconds) after the preceding vehicle information that is the basis of recognition is switched from the preceding vehicle information B to the preceding vehicle information A. It is converged to information A. That is, for example, as shown in FIG. 6, when the preceding vehicle speed that is the basis for the preceding vehicle speed V is switched from the preceding vehicle speed Vb to the preceding vehicle speed Va, the preceding vehicle speed V has a transition time of 2 seconds. Gradually, the vehicle speed is converged to the preceding vehicle speed Va. Similarly, although not shown, when the intervehicular distance that is the basis for the intervehicular distance Z is switched from the intervehicular distance Zb to the intervehicular distance Za, the intervehicular distance Z gradually converges to the intervehicular distance Za through a transition time of 2 seconds. Is done. Further, when the transition time expires or when a new preceding vehicle is detected, ΔV and ΔZ are both set to “0”, so that the preceding vehicle speed Va and the inter-vehicle distance Za remain unchanged. Recognized as speed V and inter-vehicle distance Z.

一方、ステップS121において、先行車情報Aが無効であると判定すると、IPU5は、ステップS131に進み、前フレームで現フレームと同一の先行車がステレオカメラ3或いはミリ波レーダ4の少なくとも何れか一方で検出されていたか否かを調べる。   On the other hand, if it is determined in step S121 that the preceding vehicle information A is invalid, the IPU 5 proceeds to step S131, and the preceding vehicle that is the same as the current frame in the previous frame is at least one of the stereo camera 3 and the millimeter wave radar 4. Check if it was detected in.

そして、ステップS134において、現フレームと同一の先行車が前フレームで検出されていたと判定すると、IPU5は、ステップS134に進み、前フレームでの先行車情報Aが有効であったか否かヲ調べる。すなわち、ステップS134において、IPU5は、前フレームでの先行車情報Aが有効であったか否かヲ調べることにより、現在、先行車情報Cの基となる先行車情報が先行車情報Aから先行車情報Bに切り替えられた直後であるか否かを調べる。   If it is determined in step S134 that the same preceding vehicle as the current frame has been detected in the previous frame, the IPU 5 proceeds to step S134 and checks whether the preceding vehicle information A in the previous frame is valid. That is, in step S134, the IPU 5 checks whether or not the preceding vehicle information A in the previous frame is valid, so that the preceding vehicle information that is currently the basis of the preceding vehicle information C is changed from the preceding vehicle information A to the preceding vehicle information. It is checked whether or not it is immediately after switching to B.

そして、ステップS134において、前フレームで先行車情報Aが有効であり、現在、先行車情報Aから先行車情報Bに切り替えられた直後であると判定すると、IPU5は、ステップS135に進み、カウンタCTを初期値(例えば、CT←49)に設定した後、ステップS136に進む。ここで、先行車情報Aから先行車情報Bへの切替時には、例えば、カウンタCTが”49”に設定されることにより、過渡時間が5秒に設定される。   If it is determined in step S134 that the preceding vehicle information A is valid in the previous frame and is immediately after switching from the preceding vehicle information A to the preceding vehicle information B, the IPU 5 proceeds to step S135, and the counter CT Is set to an initial value (for example, CT ← 49), and the process proceeds to step S136. Here, when switching from the preceding vehicle information A to the preceding vehicle information B, for example, the transient time is set to 5 seconds by setting the counter CT to “49”.

一方、ステップS134において、前フレームでの先行車情報Aが無効であると判定すると、IPU5は、そのままステップS136に進む。   On the other hand, if it is determined in step S134 that the preceding vehicle information A in the previous frame is invalid, the IPU 5 directly proceeds to step S136.

ステップS134或いはステップS135からステップS136に進むと、IPU5は、カウンタCTが”0”であるか否かを調べる。すなわち、IPU5は、カウンタCTが”0”であるか否かの判定により、現在、先行車情報Bへの切り替えによる過渡時間が満了しているか否かを調べる。   When the process proceeds from step S134 or step S135 to step S136, the IPU 5 checks whether or not the counter CT is “0”. That is, the IPU 5 checks whether or not the transition time due to switching to the preceding vehicle information B has expired by determining whether or not the counter CT is “0”.

そして、ステップS136において、カウンタCT≠0であり、未だ過渡時間が満了していないと判定すると、IPU5は、ステップS137に進み、現フレームの先行車情報B(先行車速度Vb、車間距離Zb)に対する補正量を規定するための補正係数ΔV、ΔZを、
ΔV=(前フレームの先行車速度V−Vb)/(CT+1)
ΔZ=(前フレームの車間距離Z−Zb)/(CT+1)
によって算出する。
If it is determined in step S136 that the counter CT ≠ 0 and the transition time has not yet expired, the IPU 5 proceeds to step S137, and the preceding vehicle information B (the preceding vehicle speed Vb, the inter-vehicle distance Zb) of the current frame. Correction coefficients ΔV and ΔZ for defining the correction amount with respect to
ΔV = (preceding vehicle speed of previous frame V−Vb) / (CT + 1)
ΔZ = (distance between front frames Z−Zb) / (CT + 1)
Calculated by

そして、ステップS137からステップS138に進むと、IPU5は、カウンタCTをデクリメント(CT←CT−1)した後、ステップS139に進む。   Then, when the process proceeds from step S137 to step S138, the IPU 5 decrements the counter CT (CT ← CT-1), and then proceeds to step S139.

一方、ステップS136において、カウンタCT=0であり、過渡時間が満了していると判定すると、IPU5は、ステップS133に進み、補正係数ΔV、ΔZをそれぞれ”0”に設定した後、ステップS139に進む。   On the other hand, if it is determined in step S136 that the counter CT = 0 and the transition time has expired, the IPU 5 proceeds to step S133, sets the correction coefficients ΔV and ΔZ to “0”, and then proceeds to step S139. move on.

また、ステップS131において、前フレームで現フレームと同一の先行車が検出されていないと判定すると、IPU5は、ステップS132に進み、カウンタCTを”0”に設定し、ステップS133で、補正係数ΔV、ΔZをそれぞれ”0”に設定した後、ステップS139に進む。   If it is determined in step S131 that the same preceding vehicle as the current frame is not detected in the previous frame, the IPU 5 proceeds to step S132, sets the counter CT to “0”, and in step S133, the correction coefficient ΔV , ΔZ are respectively set to “0”, and the process proceeds to step S139.

ステップS133或いはステップS137からステップS139に進むと、IPU5は、先行車情報Bに基づいて認識される最終的な先行車情報C(先行車速度V、車間距離Z)を、
先行車速度V=Vb+ΔV・CT
車間距離Z=Zb+ΔV・CT
によって算出した後、ルーチンを抜ける。
When the process proceeds from step S133 or step S137 to step S139, the IPU 5 determines the final preceding vehicle information C (preceding vehicle speed V, inter-vehicle distance Z) recognized based on the preceding vehicle information B.
Leading vehicle speed V = Vb + ΔV · CT
Distance between vehicles Z = Zb + ΔV · CT
After calculating, the routine is exited.

これにより、先行車情報Cは、認識の基となる先行車情報が先行車情報Aから先行車情報Bに切り替えられた後に、所定の過渡時間(例えば5秒)かけて漸次的に、先行車情報Bに収束される。すなわち、先行車速度V認識の基となる先行車速度が先行車速度Vaから先行車速度Vbに切り替えられると、先行車速度Vは、5秒間の過渡時間を経て漸次的に、先行車速度Vbに収束される。同様に、車間距離Z認識の基となる車間距離が車間距離Zaから車間距離Zbに切り替えられると、車間距離Zは、5秒間の過渡時間を経て漸次的に、車間距離Zbに収束される。また、過渡時間を満了した場合、或いは、新たな先行車が検出された場合には、ΔV、ΔZがともに”0”に設定されるので、先行車速度Vb及び車間距離Zbがそのまま、先行車速度V及び車間距離Zとして認識される。   As a result, the preceding vehicle information C is gradually updated over a predetermined transition time (for example, 5 seconds) after the preceding vehicle information as the basis of recognition is switched from the preceding vehicle information A to the preceding vehicle information B. It is converged to information B. That is, when the preceding vehicle speed, which is the basis for recognition of the preceding vehicle speed V, is switched from the preceding vehicle speed Va to the preceding vehicle speed Vb, the preceding vehicle speed V is gradually increased through the transition time of 5 seconds. To converge. Similarly, when the inter-vehicle distance that becomes the basis of the inter-vehicle distance Z is switched from the inter-vehicle distance Za to the inter-vehicle distance Zb, the inter-vehicle distance Z gradually converges to the inter-vehicle distance Zb after a transition time of 5 seconds. Further, when the transition time expires or when a new preceding vehicle is detected, ΔV and ΔZ are both set to “0”, so that the preceding vehicle speed Vb and the inter-vehicle distance Zb remain unchanged. Recognized as speed V and inter-vehicle distance Z.

このような形態によれば、ミリ波レーダ4の測定結果に基づいて検出された先行車情報Aと、ステレオカメラ3で撮像されたステレオ画像に基づいて検出された先行車情報Bとを選択的に用いて最終的な先行車情報Cを認識する処理において、先行車情報Aから先行車情報Bへの切替時、或いは、先行車情報Bから先行車情報Aへの切替時に、予め設定された過渡時間をかけて漸次的に、先行車情報Cを新たに選択された先行車情報に収束させる構成であるため、先行車情報Aと先行車情報Bとの間に誤差が発生している場合等にも先行車情報Cの急激な変動を抑制でき、安定した先行車情報Cの認識を行うことができる。従って、違和感のないACC制御等を実現することができる。   According to such a form, the preceding vehicle information A detected based on the measurement result of the millimeter wave radar 4 and the preceding vehicle information B detected based on the stereo image captured by the stereo camera 3 are selectively selected. In the process of recognizing the final preceding vehicle information C used in the above, it is preset at the time of switching from the preceding vehicle information A to the preceding vehicle information B, or at the time of switching from the preceding vehicle information B to the preceding vehicle information A. When there is an error between the preceding vehicle information A and the preceding vehicle information B because the preceding vehicle information C is gradually converged to the newly selected preceding vehicle information over a transition time. In addition, rapid fluctuations in the preceding vehicle information C can be suppressed, and the stable preceding vehicle information C can be recognized. Accordingly, it is possible to realize ACC control or the like without a sense of incongruity.

その際、先行車情報Cの認識には、先行車情報A,Bが何れも検出されている場合には、ステレオカメラ3に基づく先行車情報Bよりも測距性に優れたミリ波レーダ4に基づく先行車情報Aを優先的に選択することにより、精度の高い先行車情報Cを認識することができる。   At this time, in the recognition of the preceding vehicle information C, when both the preceding vehicle information A and B are detected, the millimeter wave radar 4 having better distance measurement than the preceding vehicle information B based on the stereo camera 3. By preferentially selecting the preceding vehicle information A based on this, it is possible to recognize the preceding vehicle information C with high accuracy.

また、先行車情報Bから先行車情報Aへの切替時の過渡時間よりも先行車情報Aから先行車情報Bへの切替時の過渡時間を長く設定することにより、精度の高い先行車情報Aを先行車情報Cの認識に用いる比重を高くすることができ、先行車情報Cの認識精度をより向上することができる。   Further, by setting the transition time at the time of switching from the preceding vehicle information A to the preceding vehicle information B longer than the transition time at the time of switching from the preceding vehicle information B to the preceding vehicle information A, the highly accurate preceding vehicle information A The specific gravity used for the recognition of the preceding vehicle information C can be increased, and the recognition accuracy of the preceding vehicle information C can be further improved.

また、所定サンプル数の画像立体物の情報を平均化して先行車情報Bの検出を行うことにより、先行車の画像上でのゆらぎ等に起因する先行車情報Bの不要な変動を抑制することができる。   Further, by detecting the preceding vehicle information B by averaging the information of the three-dimensional image object of a predetermined number of samples, it is possible to suppress unnecessary fluctuations in the preceding vehicle information B caused by fluctuations on the image of the preceding vehicle. Can do.

その際、先行車情報Aが無効な場合、或いは、先行車情報A(先行車加速度Aa)に基づいて先行車が所定以上の加速度で加減速していることが確認された場合には、サンプルカウンタSをデクリメントすることにより、先行車速度Vb及び車間距離Zbを、実際の先行車の走行状態に応じてレスポンスよく変動させることができる。また、先行車情報A(先行車加速度Aa)に基づいて先行車が略定速走行していることが確認された場合には、サンプルカウンタSがインクリメントすることにより、先行車速度Vb及び車間距離Zbの不要な変動をより効果的に抑制することができる。   At that time, if the preceding vehicle information A is invalid, or if it is confirmed that the preceding vehicle is accelerating / decelerating at a predetermined acceleration or more based on the preceding vehicle information A (preceding vehicle acceleration Aa) By decrementing the counter S, the preceding vehicle speed Vb and the inter-vehicle distance Zb can be varied with good response according to the actual traveling state of the preceding vehicle. When it is confirmed that the preceding vehicle is traveling at a substantially constant speed based on the preceding vehicle information A (preceding vehicle acceleration Aa), the sample counter S is incremented to increase the preceding vehicle speed Vb and the inter-vehicle distance. Unnecessary fluctuations in Zb can be more effectively suppressed.

なお、上述の形態においては、撮像手段としてステレオカメラ3を用い、レーダ手段としてミリ波レーダ4を用いた一例について説明したが、本発明は、これに限定されるものではなく、例えば、撮像手段として単眼カメラ等を用いてもよく、また、レーダ手段として赤外線レーザレーダ等を用いてもよいことは勿論である。   In the above-described embodiment, an example in which the stereo camera 3 is used as the imaging unit and the millimeter wave radar 4 is used as the radar unit has been described. However, the present invention is not limited to this example. Of course, a monocular camera or the like may be used, and an infrared laser radar or the like may be used as the radar means.

また、上述の形態においては、ミリ波レーダ4がステレオカメラ3よりも一般的に測距性に優れることから、最終的な先行車情報Cを認識する際に、先行車情報Aを優先的に用い、また、先行車情報Aから先行車情報Bへの切替時の過渡時間よりも先行車情報Bから先行車情報Aへの切替時の過渡時間を短く設定した一例について説明したが、本発明はこれに限定されるものではなく、例えば、撮像手段がレーダ手段よりも測距性に優れる場合には逆の設定としてもよいことは勿論である。   In the above-described embodiment, since the millimeter wave radar 4 is generally superior in distance measurement performance than the stereo camera 3, the preceding vehicle information A is given priority when recognizing the final preceding vehicle information C. In addition, an example in which the transition time at the time of switching from the preceding vehicle information B to the preceding vehicle information A is set shorter than the transition time at the time of switching from the preceding vehicle information A to the preceding vehicle information B has been described. However, the present invention is not limited to this. For example, when the imaging unit is more excellent in distance measurement than the radar unit, it is needless to say that the reverse setting may be used.

運転支援装置を搭載した車両の概略構成図Schematic configuration diagram of a vehicle equipped with a driving support device 車両用運転支援装置の概略構成を示す機能ブロック図Functional block diagram showing a schematic configuration of a vehicle driving support device 各検出形態での立体物の説明図Illustration of three-dimensional object in each detection form 先行車情報認識ルーチンを示すフローチャートFlowchart showing a preceding vehicle information recognition routine 先行車情報認識ルーチンを示すフローチャートFlowchart showing a preceding vehicle information recognition routine 先行車情報切替時の状態を示す図表Chart showing the state when the preceding vehicle information is switched

符号の説明Explanation of symbols

1 … 車両
2 … 運転支援装置
3 … ステレオカメラ(撮像手段)
4 … ミリ波レーダ(レーダ手段)
5 … イメージプロセッシングユニット(第1の先行車情報検出手段、第2の先行車情報検出手段、先行車情報認識手段、先行車情報選択手段)
A … 先行車情報(第1の先行車情報)
B … 先行車情報(第2の先行車情報)
C … 先行車情報(最終的な先行車情報)
代理人 弁理士 伊 藤 進
DESCRIPTION OF SYMBOLS 1 ... Vehicle 2 ... Driving assistance apparatus 3 ... Stereo camera (imaging means)
4 ... Millimeter wave radar (radar means)
5. Image processing unit (first preceding vehicle information detecting means, second preceding vehicle information detecting means, preceding vehicle information recognizing means, preceding vehicle information selecting means)
A ... Preceding car information (first preceding car information)
B ... Preceding car information (second preceding car information)
C ... Preceding car information (final preceding car information)
Agent Patent Attorney Susumu Ito

Claims (5)

レーダ手段と撮像手段とを併用して先行車情報を認識する車両用運転支援装置において、
上記レーダ手段の測定結果に基づいて第1の先行車情報を検出する第1の先行車情報検出手段と、
上記撮像手段で撮像された画像に基づいて第2の先行車情報を検出する第2の先行車情報検出手段と、
上記第1の先行車情報或いは上記第2の先行車情報の何れかに基づいて最終的な先行車情報を認識する先行車情報認識手段と、
上記最終的な先行車情報を認識する基となる先行車情報を、予め設定した条件に基づいて上記第1の先行車情報或いは上記第2の先行車情報の何れかに選択的に切り替える先行車情報切換手段とを備え、
上記先行車情報認識手段は、上記第1の先行車情報から上記第2の先行車情報への切替時、及び、上記第2の先行車情報から上記第1の先行車情報への切替時に、上記最終的な先行車情報を、予め設定した過渡時間をかけて漸次的に、新たに選択された上記先行車情報に収束させることを特徴とする車両用運転支援装置。
In a vehicle driving support device that recognizes preceding vehicle information using a radar unit and an imaging unit in combination,
First preceding vehicle information detecting means for detecting first preceding vehicle information based on the measurement result of the radar means;
Second preceding vehicle information detection means for detecting second preceding vehicle information based on the image captured by the imaging means;
Preceding vehicle information recognition means for recognizing final preceding vehicle information based on either the first preceding vehicle information or the second preceding vehicle information;
A preceding vehicle that selectively switches the preceding vehicle information that becomes the basis for recognizing the final preceding vehicle information to either the first preceding vehicle information or the second preceding vehicle information based on a preset condition. Information switching means,
The preceding vehicle information recognition means is configured to switch from the first preceding vehicle information to the second preceding vehicle information and when switching from the second preceding vehicle information to the first preceding vehicle information. A vehicle driving support apparatus characterized in that the final preceding vehicle information is gradually converged to the newly selected preceding vehicle information over a preset transition time.
上記先行車情報選択手段は、上記第1の先行車情報及び上記第2の先行車情報の何れもが検出されている際に、上記第1の先行車情報を優先して選択することを特徴とする請求項1記載の車両用運転支援装置。   The preceding vehicle information selection means preferentially selects the first preceding vehicle information when both the first preceding vehicle information and the second preceding vehicle information are detected. The vehicle driving support device according to claim 1. 上記第1の先行車情報から上記第2の先行車情報への切替時の過渡時間を、上記第2の先行車情報から上記第1の先行車情報への切替時の過渡時間よりも長く設定したことを特徴とする請求項1または請求項2記載の車両用運転支援装置。   The transition time at the time of switching from the first preceding vehicle information to the second preceding vehicle information is set longer than the transition time at the time of switching from the second preceding vehicle information to the first preceding vehicle information. The vehicle driving support device according to claim 1, wherein the vehicle driving support device is a vehicle driving support device. 上記第2の先行車情報検出手段は、画像毎に継続的に検出される所定サンプル数の先行車情報を平均化処理して上記第2の先行車情報を求めることを特徴とする請求項1乃至請求項3記載の車両用運転支援装置。   2. The second preceding vehicle information detecting means obtains the second preceding vehicle information by averaging the preceding vehicle information of a predetermined number of samples continuously detected for each image. The vehicle driving support device according to claim 3. 上記第2の先行車情報検出手段は、上記第1の先行車情報に基づいて上記サンプル数を可変に設定することを特徴とする請求項4記載の車両用運転支援装置。   5. The vehicle driving support apparatus according to claim 4, wherein the second preceding vehicle information detecting means variably sets the number of samples based on the first preceding vehicle information.
JP2004065977A 2004-03-09 2004-03-09 Vehicle driving support device Expired - Fee Related JP4425669B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004065977A JP4425669B2 (en) 2004-03-09 2004-03-09 Vehicle driving support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004065977A JP4425669B2 (en) 2004-03-09 2004-03-09 Vehicle driving support device

Publications (2)

Publication Number Publication Date
JP2005258570A JP2005258570A (en) 2005-09-22
JP4425669B2 true JP4425669B2 (en) 2010-03-03

Family

ID=35084252

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004065977A Expired - Fee Related JP4425669B2 (en) 2004-03-09 2004-03-09 Vehicle driving support device

Country Status (1)

Country Link
JP (1) JP4425669B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9360328B2 (en) 2014-09-02 2016-06-07 Hyundai Motor Company Apparatus and method for recognizing driving environment for autonomous vehicle

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4426436B2 (en) * 2004-12-27 2010-03-03 株式会社日立製作所 Vehicle detection device
JP4811025B2 (en) * 2006-01-06 2011-11-09 トヨタ自動車株式会社 Vehicle control device
JP5101075B2 (en) * 2006-10-11 2012-12-19 アルパイン株式会社 Perimeter monitoring system
WO2008078736A1 (en) * 2006-12-27 2008-07-03 Nec Corporation Sameness judgment device, sameness judging method, and sameness judging program
JP5727356B2 (en) 2011-11-30 2015-06-03 日立オートモティブシステムズ株式会社 Object detection device
US20170080929A1 (en) * 2014-05-15 2017-03-23 Honda Motor Co., Ltd. Movement-assisting device
JP6151670B2 (en) * 2014-06-30 2017-06-21 本田技研工業株式会社 Mobility support device
KR102159357B1 (en) * 2014-07-02 2020-09-23 현대모비스 주식회사 Smart cruise control system of the vehicle
JP6550887B2 (en) * 2015-04-21 2019-07-31 日産自動車株式会社 Vehicle control apparatus and vehicle control method
CN115134496B (en) * 2022-06-24 2023-07-14 重庆长安汽车股份有限公司 Intelligent driving control method, system, vehicle, electronic equipment and storage medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9360328B2 (en) 2014-09-02 2016-06-07 Hyundai Motor Company Apparatus and method for recognizing driving environment for autonomous vehicle

Also Published As

Publication number Publication date
JP2005258570A (en) 2005-09-22

Similar Documents

Publication Publication Date Title
US8204678B2 (en) Vehicle drive assist system
EP3330942B1 (en) Method for controlling travel control device, and travel control device
EP3330945B1 (en) Method for controlling travel control device, and travel control device
EP3039450B1 (en) In-vehicle control device
JP4615038B2 (en) Image processing device
JP2005186813A (en) Drive assisting device for vehicle
EP3330943B1 (en) Method for controlling travel control device, and travel control device
JP2004117071A (en) Vehicle surroundings monitoring apparatus and traveling control system incorporating the same
JP2007310741A (en) Solid object recognition device
JP2018072105A (en) Object detection device
JP4425669B2 (en) Vehicle driving support device
EP2894618B1 (en) Speed calculating device and speed calculating method, and collision determination device
JP2017114429A (en) Driving support device and driving support method
JP2008149860A (en) Travel control device
JP2008008679A (en) Object detecting apparatus, collision predicting apparatus and vehicle controlling apparatus
JP2010108168A (en) Collision prediction device
JP2008137467A (en) Driving assistance system for vehicle
JP4812343B2 (en) Driving tendency estimation device and driving support device
JP4204830B2 (en) Vehicle driving support device
JP4047249B2 (en) Vehicle driving support device
JP4872517B2 (en) Obstacle recognition device
JP4294450B2 (en) Vehicle driving support device
JP2005081999A (en) Vehicular driving assistance device
JP4237686B2 (en) Vehicle driving support device
JP4163074B2 (en) Vehicle driving support device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091201

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091209

R150 Certificate of patent or registration of utility model

Ref document number: 4425669

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees