[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6082556B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6082556B2
JP6082556B2 JP2012215454A JP2012215454A JP6082556B2 JP 6082556 B2 JP6082556 B2 JP 6082556B2 JP 2012215454 A JP2012215454 A JP 2012215454A JP 2012215454 A JP2012215454 A JP 2012215454A JP 6082556 B2 JP6082556 B2 JP 6082556B2
Authority
JP
Japan
Prior art keywords
image
optical element
light
image sensor
passed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012215454A
Other languages
English (en)
Other versions
JP2014072592A (ja
Inventor
青木 利幸
利幸 青木
笹田 義幸
義幸 笹田
未来 樋口
未来 樋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2012215454A priority Critical patent/JP6082556B2/ja
Priority to PCT/JP2013/070276 priority patent/WO2014050288A1/ja
Priority to US14/422,239 priority patent/US10627218B2/en
Publication of JP2014072592A publication Critical patent/JP2014072592A/ja
Application granted granted Critical
Publication of JP6082556B2 publication Critical patent/JP6082556B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • G03B13/20Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は、複数の撮像画像から距離画像を算出する撮像装置に関する。
従来、特許文献1のように、距離画像算出における被探索画像(比較画像)側の撮像素子に比べて、テンプレート画像(基準画像)側の撮像素子に長波長側の感度を有するものを備え、焦点距離情報や収差情報などと、波長成分の関係を規定する関数を用いて、対象物の三次元情報を算出し、広い波長帯域における波長ごとの焦点距離や収差特性などの変動に起因する三次元測定精度の悪化を防いでいた。
国際公開第2011/083669号公報
撮像素子には、個体ごとに感度特性、ノイズや欠陥画素などにばらつきがある。また、レンズには、個体ごとに透過率や歪などにばらつきがある。このため、特許文献1では、撮像素子及びレンズの性能のばらつきにより、認識処理に用いる画像の品質がばらつき、撮像装置の個体ごとに認識性能にばらつきが発生する。
以上から本発明は、認識性能を向上させるとともに、個体ごとの認識性能のばらつきを低減する撮像装置を提供することを目的とする。
上記課題を解決するために、本発明の撮像装置は、第1の光学素子と、第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有して、基準画像として処理される画像を出力する第1の撮像素子と、第2の光学素子と、第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有して、比較画像として処理される画像を出力する第2の撮像素子と、基準画像と比較画像に基づいて距離画像を算出する距離算出手段と、距離画像に基づいて対象物を認識する認識手段と、を有し、第1の光学素子及び第2の光学素子、又は第1の撮像素子及び第2の撮像素子は、第1光学素子の透過率が第2の光学素子に比べて高い、第1の光学素子の歪が第2の光学素子に比べて小さい、第1の撮像素子の感度特性が第2の撮像素子に比べて高い、第1の撮像素子のノイズが第2の撮像素子に比べて小さい、第1の撮像素子の欠陥画素の数が第2の撮像素子に比べて少ない、第1の光学素子を通過した光を受けた第1の撮像素子の感度特性が第2の光学素子を通過した光を受けた第2の撮像素子に比べて高い、第1の光学素子を通過した光を受けた第1の撮像素子のノイズが第2の光学素子を通過した光を受けた第2の撮像素子に比べて小さい、の少なくとも1つを満足する構成とする。
また、第1の光学素子と、第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第1の画像を出力する第1の撮像素子と、第2の光学素子と、第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第2の画像を出力する第2の撮像素子と、第1の画像と第2の画像に対して所定条件を満たす一方の画像を基準画像として、他方の画像を比較画像とする基準画像選定手段と、基準画像と比較画像に基づいて距離画像を算出する距離算出手段と、距離算出手段で算出された距離画像に基づいて対象物を認識する認識手段と、を有し、基準画像選定手段の所定条件は、第1の光学素子と第2の光学素子の透過率を比べて大きい方の画像、第1の光学素子と第2の光学素子の歪を比べて小さい方の画像、第1の撮像素子と第2の撮像素子の感度特性を比べて大きい方の画像、第1の撮像素子と第2の撮像素子のノイズを比べて小さい方の画像、第1の撮像素子と第2の撮像素子の画素欠陥の数を比べて少ない方の画像、第1の光学素子を通過した光を受けた第1の撮像素子と第2の光学素子を通過した光を受けた第2の撮像素子の感度特性を比べて高い方の画像、第1の光学素子を通過した光を受けた第1の撮像素子と第2の光学素子を通過した光を受けた第2の撮像素子のノイズを比べて小さい方の画像、のいずれかである構成とする。
また、第1の光学素子と、第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第1の画像を出力する第1の撮像素子と、第2の光学素子と、第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第2の画像を出力する第2の撮像素子と、第1の光学素子及び第2の光学素子の歪、第1の撮像素子と第2の撮像素子の感度特性、ノイズ、欠陥画素の数、第1の光学素子を通過した光を受けた第1の撮像素子及び第2の光学素子を通過した光を受けた第2の撮像素子の感度特性、ノイズ、の少なくとも1つの特性情報が記憶された特性記憶手段と、特性記憶手段に記憶された特性情報に基づいて、所定条件を満たす一方の画像を基準画像として、他方の画像を比較画像とする基準画像選定手段と、基準画像と比較画像に基づいて距離画像を算出する距離算出手段と、距離算出手段で算出された距離画像に基づいて対象物を認識する認識手段と、を有し、基準画像選定手段の所定条件は、第1の光学素子と第2の光学素子の透過率を比べて大きい方の画像、第1の光学素子と第2の光学素子の歪を比べて小さい方の画像、第1の撮像素子と第2の撮像素子の感度特性を比べて大きい方の画像、第1の撮像素子と第2の撮像素子のノイズを比べて小さい方の画像、第1の撮像素子と第2の撮像素子の画素欠陥の数を比べて少ない方の画像、第1の光学素子を通過した光を受けた第1の撮像素子と第2の光学素子を通過した光を受けた第2の撮像素子の感度特性を比べて高い方の画像、第1の光学素子を通過した光を受けた第1の撮像素子と第2の光学素子を通過した光を受けた第2の撮像素子のノイズを比べて小さい方の画像、のいずれかである構成とする。
本発明によれば、認識性能を向上させるとともに、個体ごとの認識性能のばらつきを低減する撮像装置を提供できる。
本発明に係る撮像装置の一実施の形態の構成を示す図である。 図1の撮像装置の動作例を示す図である。 本発明の撮像装置の基準画像及び比較画像を示す図である。 本発明に係る撮像装置の他の実施の形態の構成を示す図である。 図4の撮像装置の動作例を示す図である。 図4の撮像装置の他の動作例を示す図である。
図1に本発明の撮像装置の一実施例の構成を示す。
本発明の一実施例は、撮像部(第1の撮像部)100a、撮像部(第2の撮像部)100b、演算部110、画面音声出力部130、制御部140と、を備えている。
カメラなどの撮像部100aは、光学素子(第1の光学素子)101a、シャッタ手段(第1のシャッタ手段)102a、撮像素子(第1の撮像素子)103a、特性記憶手段104aと、を備えている。
レンズなどの光学素子101aは、光を屈折させて、撮像素子に像を結ぶ。
シャッタなどのシャッタ手段102aは、光学素子101aを通過した光が通る箇所に設置され、撮影時の露光時間中のみ、その光が通るようにシャッタの機構を開き、それ以外の時は光をさえぎるようにシャッタの機構を閉じる。
撮像素子103aは、光学素子101aにより屈折した光の像を受光し、その光の強さに応じた画像を生成する。
特性記憶手段104aは、光学素子101aの透過率及び歪などの情報、撮像素子103aの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部100aの感度特性及びノイズなどの情報を記憶している。光学素子101aの歪の情報として、半径方向のレンズの歪係数及び接線方向のレンズの歪係数などがある。撮像素子103aの感度特性の情報として、ダイナミックレンジ、及び、均一のライトや対象物を撮影したときの画像の輝度値などがある。撮像素子103aのノイズの情報として、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズなどがある。撮像部100aの感度特性の情報として、光学素子101aを通過した光を受光した撮像素子103aのダイナミックレンジ、及び、均一のライトや対象物を撮影したときに光学素子101aを通過した光を受光した撮像素子103aの画像の輝度値などがある。撮像部100aのノイズの情報として、光学素子101aを通過した光を受光した撮像素子103aのSN比、均一のライトや対象物を撮影したときに光学素子101aを通過した光を受光した撮像素子103aの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101aを通過した光を受光した撮像素子103aのショットノイズ、光学素子101aを通過した光を受光した撮像素子103aの暗電流ノイズ、光学素子101aを通過した光を受光した撮像素子103aの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101aを通過した光を受光した撮像素子103aの固定パターンノイズなどがある。
カメラなどの撮像部100bは、光学素子(第2の光学素子)101b、シャッタ手段(第2のシャッタ手段)102b、撮像素子(第2の撮像素子)103b、特性記憶手段104bと、を備えている。また、撮像部100aと撮像部100bの焦点距離の設計値は同じである。撮像部100aと撮像部100bの光軸の方向は、おおむね同じである。
レンズなどの光学素子101bは、光を屈折させて、撮像素子に像を結ぶ。
シャッタなどのシャッタ手段102bは、光学素子101bを通過した光が通る箇所に設置され、撮影時の露光時間中のみ、その光が通るようにシャッタの機構を開き、それ以外の時は光をさえぎるようにシャッタの機構を閉じる。
撮像素子などの撮像素子103bは、光学素子101bにより屈折した光の像を受光し、その光の強さに応じた画像を生成する。
特性記憶手段104bは、光学素子101bの透過率及び歪などの情報、撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部100bの感度特性及びノイズなどの情報を記憶している。光学素子101bの歪の情報として、半径方向のレンズの歪係数及び接線方向のレンズの歪係数などがある。撮像素子103bの感度特性の情報として、ダイナミックレンジ、及び、均一のライトや対象物を撮影したときの画像の輝度値などがある。撮像素子103bのノイズの情報として、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズなどがある。撮像部100bの感度特性の情報として、光学素子101bを通過した光を受光した撮像素子103bのダイナミックレンジ、及び、均一のライトや対象物を撮影したときに光学素子101bを通過した光を受光した撮像素子103bの画像の輝度値などがある。撮像部100bのノイズの情報として、光学素子101bを通過した光を受光した撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101bを通過した光を受光した撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101bを通過した光を受光した撮像素子103bのショットノイズ、光学素子101bを通過した光を受光した撮像素子103bの暗電流ノイズ、光学素子101bを通過した光を受光した撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101bを通過した光を受光した撮像素子103bの固定パターンノイズなどがある。
撮像部100a及び撮像部100bは、予め設定された下記の項目1−1〜1−7のうちのひとつの項目aを満足する光学素子101a及び光学素子101b、あるいは、撮像素子103a及び撮像素子103bを有している。複数の撮像装置を製作する場合、所定条件である項目aを満足するように構成する。

・項目1−1:光学素子101bに比べて、光学素子101aの透過率は高い。
・項目1−2:光学素子101bに比べて、光学素子101aの歪が小さい。
・項目1−3:撮像素子103bに比べて、撮像素子103aの感度特性が大きい。
・項目1−4:撮像素子103bに比べて、撮像素子103aのノイズが小さい。
・項目1−5:撮像素子103bに比べて、撮像素子103aの欠陥画素の数が少ない。
・項目1−6:撮像部100bに比べて、撮像部100aの感度特性が大きい。
・項目1−7:撮像部100bに比べて、撮像部100aのノイズが小さい。
CPU(central processing unit、中央演算処理装置)及びメモリなどから構成される演算部110は、基準画像記憶手段111、比較画像記憶手段112、処理画像記憶手段113、輝度補正情報記憶手段114、幾何補正情報記憶手段115、同期信号発信手段116、基準画像取込手段117a、比較画像取込手段117b、輝度補正手段118、幾何補正手段119、視差算出手段120、距離算出手段121、認識手段122、特性入出力手段123と、を備えている。
メモリやハードディスクなどの基準画像記憶手段111は、撮像部100aで撮影された画像を記憶する。視差算出において、基準画像記憶手段111に記憶されている画像からテンプレート画像を切り出されるため、この画像は基準画像である。
メモリやハードディスクなどの比較画像記憶手段112は、撮像部100bで撮影された画像を記憶する。視差算出において、比較画像記憶手段112に記憶されている画像をテンプレート画像で探索されるため、この画像は比較画像である。
メモリやハードディスクなどの処理画像記憶手段113は、演算部110で処理され、生成された画像を記憶する。
メモリやハードディスクなどの輝度補正情報記憶手段114は、撮像部100a及び撮像部100bの画像(基準画像及び比較画像)における各画素の輝度の補正係数を記憶する。この補正係数は、均一なライトや対象物を撮影したときの画像の輝度が画像全面で同じになる値である。
メモリやハードディスクなどの幾何補正情報記憶手段115は、撮像部100a及び撮像部100bの画像(基準画像及び比較画像)における各画素の幾何の補正量を記憶する。この補正量は、光学素子101a及び光学素子101bの歪、撮像部100a及び撮像部100bの焦点距離の誤差、画像上の光軸位置の誤差及び取付誤差が0であるときの画像に補正する値である。
同期信号発信手段116は、同期信号を生成し、発信する。
基準画像取込手段117aは、同期信号発信手段116の同期信号に合わせて、シャッタ手段102aにシャッタを開けるという信号を送るとともに、撮像素子103aが生成する画像を取得する。
比較画像取込手段117bは、同期信号発信手段116の同期信号に合わせて、シャッタ手段102bにシャッタを開けるという信号を送るとともに、撮像素子103bが生成する画像を取得する。
輝度補正手段118は、輝度補正情報記憶手段114から各画素の輝度の補正係数を読み込み、基準画像及び比較画像の輝度を補正する。
幾何補正手段119は、幾何補正情報記憶手段115から各画素の幾何の2次元補正量を読み込み、基準画像及び比較画像に幾何学的に補正し、写る像の形状を補正する。
視差算出手段120は、基準画像上から抽出した所定のサイズの領域(テンプレート画像)に対応する比較画像上の領域を探索する。テンプレート画像と一致する比較画像上の領域の位置と、基準画像上のテンプレート画像の位置の差すなわち視差を算出する。各画素について視差を算出することにより、視差画像を算出する。
距離算出手段121は、視差算出手段120が算出した視差、撮像部100aと撮像部100bの焦点の距離(基線長)及び焦点距離をもとに、撮像部100a及び撮像部100bの光軸方向に撮像装置から画像上の対象物までの距離を算出する。各画素について距離を算出することにより、距離画像を算出する。
認識手段122は、基準画像及び距離画像を用いて、基準画像に写っている対象物及び基準画像上の対象物の位置を認識し、撮像装置に対する対象物の3次元の相対位置及び相対速度を算出する。ここで、撮像装置に対する3次元の相対位置座標系は、撮像部100aと撮像部100bの焦点間の中点を原点として、撮像部100a及び撮像部100bに対して右方向にx座標、上方向にy座標、光軸方向にz座標をとる。また、撮像装置と対象物の相対位置及び相対速度をもとに衝突までに時間を算出して、所定の時間内に衝突するかどうかを判定する。撮像装置と対象物の相対位置、相対速度、衝突判定結果及び衝突時間を画面音声出力部130及び制御部140に送る。
特性入出力手段123は、特性記憶手段104a及び特性記憶手段104bが記憶している光学素子101a及び光学素子101bの透過率及び歪などの情報、あるいは、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び画素欠陥の数などの情報、撮像部100a及び撮像部100bの感度特性及びノイズなどの情報を取得して、撮像装置の外部に出力する。
モニタ及びスピーカなどの画面音声出力部130は、基準画像、あるいは、視差画像、距離画像を画面に表示する。また、対象物の位置に枠あるいはマーカを表示する。このとき、認識手段122からの衝突判定結果が衝突するという判定である対象物の枠あるいはマーカの色を、衝突しない対象物と異なるものとする。認識手段122からの衝突判定結果が衝突するという判定である対象物がある場合、警告音を出力する。
CPUなどの制御部140は、撮像装置と対象物の相対位置、相対速度、衝突時間及び衝突判定結果をもとに制御信号を生成して、撮像装置の外部に出力する。
図1に示す本発明の撮像装置の一実施例の動作手順を、図2を用いて説明する。
ステップ201:同期信号発信手段116は、同期信号を生成して、基準画像取込手段117a及び比較画像取込手段117bに送る。基準画像取込手段117aは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102aにシャッタ開閉信号及び露光時間の情報を送る。シャッタ手段102aは、基準画像取込手段117aからのシャッタ開閉信号及び露光時間の情報を受け取った直後に、シャッタの機構を露光時間だけ開き、その後、閉じる。撮像素子103aは、光学素子101aにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、基準画像取込手段117aに画像を送る。基準画像取込手段117aは、撮像素子103aから画像を受け取り、基準画像記憶手段111に格納する。
比較画像取込手段117bは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102bにシャッタ開閉信号及び露光時間の情報を送る。シャッタ手段102bは、比較画像取込手段117bからのシャッタ開閉信号及び露光時間の情報を受け取った直後に、シャッタの機構を露光時間だけ開き、その後、閉じる。撮像素子103bは、光学素子101bにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、比較画像取込手段117bに画像を送る。比較画像取込手段117bは、撮像素子103bから画像を受け取り、比較画像記憶手段112に格納する。
ステップ202:輝度補正手段118は、輝度補正情報記憶手段114から撮像素子103a及び撮像素子103bの画像における各画素の補正係数を読み込み、基準画像記憶手段111及び比較画像記憶手段112からそれぞれ基準画像及び比較画像を読み込む。基準画像の各画素の輝度値に基準画像側の撮像素子の画像における各画素の補正係数を掛け合わせて、基準画像の輝度値を補正する。同様に、比較画像の各画素の輝度値に比較画像側の撮像素子の画像における各画素の補正係数を掛け合わせて、比較画像の輝度値を補正する。補正した基準画像及び比較画像をそれぞれ基準画像記憶手段111及び比較画像記憶手段112に格納する。
ステップ203:幾何補正手段119は、幾何補正情報記憶手段115から撮像素子103a及び撮像素子103bの画像における各画素の幾何の2次元補正量を読み込み、基準画像記憶手段111及び比較画像記憶手段112からそれぞれ基準画像及び比較画像を読み込む。基準画像の各画素から2次元補正量を変化させた基準画像上の位置を算出して、その位置周辺の画素の輝度値から補間計算によりその位置の輝度値を算出する。この計算を基準画像上の全ての画素について実施する。同様に、比較画像の各画素から2次元補正量を変化させた比較画像上の位置を算出して、その位置周辺の画素の輝度値から補間計算によりその位置の輝度値を算出する。この計算を比較画像上の全ての画素について実施する。補正した基準画像及び比較画像をそれぞれ基準画像記憶手段111及び比較画像記憶手段112に格納する。
ステップ204:視差算出手段120は、図3に示すように、基準画像301上の所定のサイズの領域の画像303(テンプレート画像)を抽出する。比較画像302上でテンプレート画像303と同じ対象物が写っている領域の画像を以下のテンプレートマッチングで探索する。比較画像302上の所定のサイズの領域の画像304を抽出して、基準画像301上のテンプレート画像303の輝度値と比較画像302上の所定のサイズの領域の画像304の輝度値の差の絶対値の和(SAD、Sum of Absolute Difference)を比較画像302上の各領域の画像304について算出して、最も小さい値の比較画像302上の領域の画像304とテンプレート画像303の領域の距離、すなわち、視差を算出する。この処理を基準画像301上の全ての領域について実施して、基準画像301の全体での視差を算出する。このようにして算出した視差画像を処理画像記憶手段113に格納する。ステップ205:距離算出手段121は、処理画像記憶手段113から視差画像を読み込む。撮像部100aと撮像部100bの焦点間の距離と焦点距離をかけて得られた値を、ステップ4で算出した各領域の視差で割て、基準画像上の各領域の画像303に写っている像と撮像装置との光軸方向の距離を算出する。この処理を基準画像上の全ての領域について実施して、基準画像の全体における各像と撮像装置との光軸方向の距離を算出する。このようにして算出した距離画像を処理画像記憶手段113に格納する。
ステップ206:認識手段122は、基準画像記憶手段111から基準画像を、処理画像記憶手段113から距離画像を読み込む。そこで、基準画像上の消失点の位置の算出、自動車や歩行者などの対象物の判定、撮像装置に対する対象物の相対位置及び相対速度の算出、対象物と撮像装置との衝突判定を行う。
先ず、認識手段122は、基準画像上の消失点の位置の算出を以下の手順で実施する。基準画像上の車線の境界にある両側の白線を検出して、基準画像上の白線の傾きを算出する。両側の白線が直線であるとして、算出した傾きにより、両側の白線が交わる点の基準画像上の位置を算出する。これが消失点の位置である。
次に、認識手段122は、自動車や歩行者などの対象物の検出を以下の手順で実施する。距離画像において、距離が所定の範囲内にある画素が連結している領域を求める。所定の範囲の例として、5〜10m、7.5〜12.5m、10〜15mなどと幅5mので2.5mごとに範囲が重複する複数の範囲を設定する。距離が所定の範囲内にある画素が連結している各領域の基準画像上の縦及び横方向の長さを求める。各領域の基準画像上の縦方向の長さ、距離と画素ピッチをかけた値を焦点距離で割って、各領域の3次元の縦方向の長さを算出する。同様に、各領域の基準画像上の横方向の長さ、距離と画素ピッチをかけた値を焦点距離で割って、各領域の3次元の横方向の長さを算出する。
数1を用いて、各領域の地面に関する基準画像上の縦方向の位置Vgを近似的に算出する。ここで、Vvは消失点の高さ、fは焦点距離、Hiは撮像装置の取付高さ、Lrは領域の平均距離、cは画素ピッチである。また、撮像部100a及び撮像部100bの光軸はおおむね水平方向であるという仮定を設定したときの計算式である。
〔数1〕
Vg=Vv−f×Hi/(Lr×c)

領域の3次元の縦及び横方向の長さが自動車の所定の範囲内であり、かつ、領域の下限の基準画像上の縦方向の位置と、数1で算出した領域の地面の基準画像上の縦方向の位置の差が閾値以内である場合、領域の対象物は自動車であると判定する。同様に、領域の3次元の縦及び横方向の長さが歩行者の所定の範囲内であり、かつ、領域の下限の基準画像上の縦方向の位置と、数1で算出した領域の地面の基準画像上の縦方向の位置の差が閾値以内である場合、領域の対象物は歩行者であると判定する。これらの処理を全ての領域について実施して、自動車、歩行者であるかを判定する。
次に、撮像装置に対する対象物の相対位置及び相対速度の算出を以下の手順で実施する。自動車あるいは歩行者と判定された領域について、数2〜数4を用いて、撮像装置に対する対象物の相対位置(Xo、Yo、Zo)を算出する。ここで、(Uo、Vo)は自動車あるいは歩行者と判定された領域の中央に関する基準画像上の位置である。
〔数2〕
Xo=Lr×c×Uo/f
〔数3〕
Yo=H+Lr×c×(Vo−Vv)/f
〔数4〕
Zo=Lr

ステップ201〜208の処理は、所定の周期で繰り返し実施される。前回と今回の処理のステップ206で検出された領域の基準画像上の位置の差が閾値以内である場合、同じ対象物であると判定して、今回の処理で算出された撮像装置に対する対象物の相対位置から、前回の処理のステップ206で算出された相対位置を引きた値を、ステップ201〜208の処理周期の時間間隔で割って、撮像装置に対する対象物の相対速度(Vx、Vy、Vz)を算出する。
最後に、対象物と撮像装置との衝突判定を以下の手順で実施する。撮像装置に対する対象物の相対速度Vzが0以上である場合、自動車あるいは歩行者と判定された領域の対象物に衝突しないと判定する。撮像装置に対する対象物の相対速度Vzが負である場合、今回の処理で算出した撮像装置に対する対象物の相対位置Zoを、撮像装置に対する対象物の相対速度Vzの絶対値で割り、衝突までの時間(衝突時間)を算出する。また、撮像装置に対する対象物の相対速度Vxに衝突時間をかけた値に対象物の相対位置Xoを足して、衝突時における撮像装置に対する対象物の相対位置Xoを算出する。そこで、撮像装置に対する対象物の相対速度Vzが負であり、かつ、衝突時間が閾値以内であり、かつ、衝突時における撮像装置に対する対象物の相対位置Xoの絶対値が閾値内である場合、自動車あるいは歩行者と判定された領域の対象物に衝突すると判定する。それ以外の場合、衝突しないと判定する。認識手段122は、自動車あるいは歩行者と判定された領域に関する基準画像上の四隅の位置、撮像装置に対する対象物の相対位置及び相対速度、衝突判定結果及び衝突時間を画面音声出力部130及び制御部140に送る。
ステップ207:画面音声出力部130は、認識手段122から自動車あるいは歩行者と判定された領域に関する基準画像上の四隅の位置、撮像装置に対する対象物の相対位置及び相対速度、衝突判定結果及び衝突時間を受け取る。基準画像記憶手段111から基準画像を読み込む。画面に基準画像を表示し、自動車あるいは歩行者と判定された領域を枠として表示する。また、衝突判定結果が衝突するという判定結果である領域の枠の色を衝突しないという判定結果の対象物の領域の枠の色と変えて、画面に表示する。領域の中に、衝突判定結果が衝突するという判定結果がある場合、警告音を出力する。
ステップ208:制御部140は、認識手段122から自動車あるいは歩行者と判定された領域に関する基準画像上の四隅の位置、撮像装置に対する対象物の相対位置及び相対速度、衝突判定結果及び衝突時間を受け取る。自動車あるいは歩行者と判定された領域の中に、衝突判定結果が衝突するという判定結果がある場合、衝突を回避する制御信号を生成して、撮像装置の外部に出力する。
図1に示す本発明の撮像装置の一実施例の動作手順を説明する。
特性入出力手段123は、特性記憶手段104a及び特性記憶手段104bからそれぞれ光学素子101a及び光学素子101bの透過率及び歪(半径方向のレンズの歪係数及び接線方向のレンズの歪係数など)などの情報、撮像素子103a及び撮像素子103bの感度特性(均一のライトや対象物を撮影したときの画像の輝度値及びダイナミックレンジなど)、ノイズ(SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズなど)及び欠陥画素の数などの情報、撮像部100a及び撮像部100bの感度特性(光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、及び、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値など)及びノイズ(光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなど)などの情報を読み込み、それらの情報を撮像装置の外部に出力する。
図1に示す本発明の撮像装置の一実施例の動作手順(図2)によれば、基準画像側の撮像部100a及び100bは、予め設定された下記の所定条件である項目1−1〜1−7のうちのひとつの項目aを満足する光学素子101a及び光学素子101b、あるいは、撮像素子103a及び撮像素子103bを有している。
このため、項目aを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されることにより、対象物の認識性能が向上する。また、項目aを考慮せずに撮像装置を製造すると、項目aを満足しないケースが発生する。項目aを満足するように撮像装置を製造すると、項目aを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目aを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目aを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

・項目1−1:比較画像側の光学素子101bに比べて、基準画像側の光学素子101aの透過率は高い。
・項目1−2:比較画像側の光学素子101bに比べて、基準画像側の光学素子101aの歪が小さい。
・項目1−3:比較画像側の撮像素子103bに比べて、基準画像側の撮像素子103aの感度特性が大きい。
・項目1−4:比較画像側の撮像素子103bに比べて、基準画像側の撮像素子103aのノイズが小さい。
・項目1−5:比較画像側の撮像素子103bに比べて、基準画像側の撮像素子103aの欠陥画素の数が少ない。
・項目1−6:比較画像側の撮像部100bに比べて、基準画像側の撮像部100aの感度特性が大きい。
・項目1−7:比較画像側の撮像部100bに比べて、基準画像側の撮像部100aのノイズが小さい。
図1に示す本発明の撮像装置の一実施例の動作手順によれば、特性入出力手段123により、特性記憶手段104a及び特性記憶手段104bにそれぞれ格納されている光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部100a及び撮像部100bの感度特性及びノイズなどの情報を読み込み、撮像装置の外部に出力することにより、それらの値を見て、上記の項目1−1〜1−7のうちのひとつを満足するかどうかを確認できる。
図1に示す本発明の撮像装置の一実施例の動作手順(図2)によれば、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示することにより、衝突する対象物をユーザに知らせることができる。
なお、本発明の撮像装置は、上記で説明したような実施の形態に限定されるものではなく、様々に変形して適用することができる。以下では、本発明の撮像装置の変形例について説明する。

(変形例1−1)
図1に示す本発明の撮像装置の一実施例において、撮像部100a及び撮像部100bは、予め設定された下記の所定条件である項目1−11〜1−30のうちのひとつの項目bを満足する光学素子101a及び光学素子101b、あるいは、撮像素子103a及び撮像素子103bを有しているとしても、項目bを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されることにより、対象物の認識性能が向上する。
また、項目bを考慮せずに撮像装置を製造すると、項目bを満足しないケースが発生する。項目bを満足するように撮像装置を製造すると、項目bを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目bを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目bを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

・項目1−11:光学素子101bに比べて、光学素子101aの透過率は高い。
・項目1−12:光学素子101bに比べて、光学素子101aの半径方向のレンズの歪係数が小さい。
・項目1−13:光学素子101bに比べて、光学素子101aの接線方向のレンズの歪係数が小さい。
・項目1−14:撮像素子103bに比べて、撮像素子103aのダイナミックレンジが大きい。
・項目1−15:撮像素子103bに比べて、撮像素子103aの均一な光の画像の輝度値が大きい。
・項目1−16:撮像素子103bに比べて、撮像素子103aのSN比が小さい。
・項目1−17:撮像素子103bに比べて、撮像素子103aの均一な光の画像の輝度値の標準偏差が小さい。
・項目1−18:撮像素子103bに比べて、撮像素子103aの所定の強度の光のショットノイズが小さい。
・項目1−19:撮像素子103bに比べて、撮像素子103aの暗電流ノイズが小さい。
・項目1−20:撮像素子103bに比べて、撮像素子103aの読み出しノイズが小さい。
・項目1−21:撮像素子103bに比べて、撮像素子103aの所定の強度の光の固定パターンノイズが小さい。
・項目1−22:撮像素子103bに比べて、撮像素子103aの欠陥画素の数が少ない。
・項目1−23:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aのダイナミックレンジが大きい。
・項目1−24:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの均一な光の画像の輝度値が大きい。
・項目1−25:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aのSN比が小さい。
・項目1−26:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの均一な光の画像の輝度値の標準偏差が小さい。
・項目1−27:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの所定の強度の光のショットノイズが小さい。
・項目1−28:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの暗電流ノイズが小さい。
・項目1−29:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの読み出しノイズが小さい。
・項目1−30:光学素子101bを通過した光を受光した撮像素子103bに比べて、光学素子101aを通過した光を受光した撮像素子103aの所定の強度の光の固定パターンノイズが小さい。
図1に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段123が、特性記憶手段104a及び特性記憶手段104bからそれぞれ光学素子101a及び光学素子101bの透過率,半径方向のレンズの歪係数及び接線方向のレンズの歪係数、撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどの情報を読み込み、撮像装置の外部に出力すると、それらの値を見て、上記の項目1−11〜1−30のうちのひとつを満足するかどうかを確認できる。

(変形例1−2)
図1に示す本発明の撮像装置の一実施例の動作手順(図2)のステップ204において、視差算出手段120がSADの値を算出し、最も小さい比較画像上の領域を探索して、視差を算出する代わりに、ZSAD(Zero−mean Sum of Absolute Differences)、あるいは、SSD(Sum of Squared Differences)、ZSSD(Zero−mean Sum of Squared Differences)、NCC(Normalized Cross Correlation)、ZNCC(Zero−mean Normalized Cross Correlation)を算出し、最も小さい比較画像上の領域を探索して、視差を算出しても、視差を求めることができる。

(変形例1−3)
図1に示す本発明の撮像装置の一実施例において、撮像素子103a及び撮像素子103b内に、それぞれ撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報を記憶するメモリなどの撮像素子特性記憶手段105a及び撮像素子特性記憶手段105bを設けて、図1に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段123が、撮像素子特性記憶手段105a及び撮像素子特性記憶手段105bから撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目1−3〜1−5のうちのひとつを満足するかどうかを確認できる。
また、図1に示す本発明の撮像装置の動作手順において、特性入出力手段123が、撮像素子特性記憶手段105a及び撮像素子特性記憶手段105bから撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数などの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目1−14〜1−22のうちのひとつを満足するかどうかを確認できる。

(変形例1−4)
図1に示す本発明の撮像装置の一実施例において、撮像部100a及び撮像部100bの代わりに演算部110に特性記憶手段104a及び特性記憶手段104bを設けて、図1に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段123が、特性記憶手段104a及び特性記憶手段104bに記憶している光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部100a及び撮像部100bの感度特性及びノイズなどの情報を読み込み、撮像装置の外部に出力するにしても、それらの値を見て、項目1−1〜1−7のひとつを満足するかどうかを確認できる。
また、図1に示す本発明の撮像装置の動作手順において、特性入出力手段123が、特性記憶手段104a及び特性記憶手段104bからそれぞれ光学素子101a及び光学素子101bの透過率、半径方向のレンズの歪係数及び接線方向のレンズの歪係数、撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目1−11〜1−30のうちのひとつを満足するかどうかを確認できる。

(変形例1−5)
図1に示す本発明の撮像装置の一実施例の動作手順(図2)のステップ207において、画面音声出力部130が、画面に基準画像の代わりに視差画像あるいは距離画像を表示して、「衝突する」と判定した対象物に所定の色の枠を表示しても、衝突する対象物をユーザに知らせることができる。

(変形例1−6)
図1に示す本発明の撮像装置の一実施例において、撮像部を2つだけでなく、3つ以上を設けて、図2に示す動作手順を、複数の撮像部の2つずつの組合せについて実施する。これにより、複数の撮像部で撮影された対象物までの距離や対象物の認識が可能になるとともに、複数の撮像部の2つずつの組合せにおいて、基準画像側の撮像部は、予め設定された項目1−1〜1−7のうちのひとつの項目aを満足する光学素子、あるいは、撮像素子を有している。
このため、項目aを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されることにより、対象物の認識性能が向上する。
また、項目aを考慮せずに撮像装置を製造すると、項目aを満足しないケースが発生する。項目aを満足するように撮像装置を製造すると、項目aを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目aを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目aを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。
図4に本発明の撮像装置の一実施例の構成を示す。
本発明の一実施例は、撮像部400a、撮像部400b、演算部410、画面音声出力部130、制御部140と、を備えている。画面音声出力部130、制御部140は、図1に示すものと同じであり、説明の記述を省略する。
カメラなどの撮像部400aは、光学素子101a、シャッタ手段102a、撮像素子103aと、を備えている。
光学素子101a、シャッタ手段102a、撮像素子103aは、図1に示すものと同じであり、説明の記述を省略する。
カメラなどの撮像部400bは、光学素子101b、シャッタ手段102b、撮像素子103bと、を備えている。
光学素子101b、シャッタ手段102b、撮像素子103bは、図1に示すものと同じであり、説明の記述を省略する。
CPU(central processing unit、中央演算処理装置)及びメモリなどから構成される演算部410は、基準画像記憶手段111、比較画像記憶手段112、処理画像記憶手段113、特性記憶手段404、輝度補正情報記憶手段114、幾何補正情報記憶手段115、同期信号発信手段116、画像取込手段417a、画像取込手段417b、基準画像選定手段424、輝度補正手段118、幾何補正手段119、視差算出手段120、距離算出手段121、認識手段122、特性入出力手段423と、を備えている。
基準画像記憶手段111、比較画像記憶手段112、処理画像記憶手段113、輝度補正情報記憶手段114、幾何補正情報記憶手段115、同期信号発信手段116、輝度補正手段118、幾何補正手段119、視差算出手段120、距離算出手段121、認識手段122は、図1に示すものと同じであり、説明の記述を省略する。
メモリやハードディスクなどの特性記憶手段404は、光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を記憶している。光学素子101a及び光学素子101bの歪の情報として、半径方向のレンズの歪係数及び接線方向のレンズの歪係数などがある。撮像素子103a及び撮像素子103bの感度特性の情報として、ダイナミックレンジ、及び、均一のライトや対象物を撮影したときの画像の輝度値などがある。撮像素子103a及び撮像素子103bのノイズの情報として、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズなどがある。撮像部400a及び撮像部400bの感度特性の情報として、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、及び、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値などがある。撮像部400a及び撮像部400bのノイズの情報として、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどがある。
画像取込手段417aは、同期信号発信手段116の同期信号に合わせて、シャッタ手段102aにシャッタを開けるという信号を送るとともに、撮像素子103aが生成する画像を取得する。
画像取込手段417bは、同期信号発信手段116の同期信号に合わせて、シャッタ手段102bにシャッタを開けるという信号を送るとともに、撮像素子103bが生成する画像を取得する。
基準画像選定手段424は、特性記憶手段404から光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を読み込む。画像取込手段417a及び画像取込手段417bがそれぞれ取り込んだ画像を受け取る。予め設定された下記の所定条件である項目2−1〜2−7のうちのひとつの項目cを満足する光学素子、あるいは、撮像素子の画像を基準画像とし、もう一方の画像を比較画像とする。基準画像を基準画像記憶手段111に、比較画像を比較画像記憶手段112に格納する。

・項目2−1:光学素子の透過率は高い。
・項目2−2:光学素子の歪が小さい。
・項目2−3:撮像素子の感度特性が大きい。
・項目2−4:撮像素子のノイズが小さい。
・項目2−5:撮像素子の欠陥画素の数が少ない。
・項目2−6:撮像部の感度特性が大きい。
・項目2−7:撮像部のノイズが小さい。
特性入出力手段423は、特性記憶手段404が記憶している光学素子101a及び光学素子101bの透過率及び歪などの情報、あるいは、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び画素欠陥の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を取得して、撮像装置の外部に出力する。
図4に示す本発明の撮像装置の一実施例の動作手順を、図5を用いて説明する。ここで、ステップ202〜208の処理は、図2のステップ202〜208と同じであるため、記述を省略する。
ステップ501:基準画像選定手段424は、特性記憶手段404から光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を読み込む。画像取込手段417a及び画像取込手段417bがそれぞれ取り込んだ画像を受け取る。予め設定された前述の項目2−1〜2−7のひとつの項目cを満足する光学素子、あるいは、撮像素子側の撮像部を基準画像側の撮像部を決定する。
ステップ502:同期信号発信手段116は、同期信号を生成して、画像取込手段417a及び画像取込手段417bに送る。画像取込手段417aは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102aにシャッタ開閉信号及び露光時間の情報を送る。シャッタ手段102aは、画像取込手段417aからのシャッタ開閉信号及び露光時間の情報を受け取った直後に、シャッタの機構を露光時間だけ開き、その後、閉じる。撮像素子103aは、光学素子101aにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、画像取込手段417aに画像を送る。画像取込手段417aは、撮像素子103aから画像を受け取り、基準画像選定手段424に送る。
画像取込手段417bは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102bにシャッタ開閉信号及び露光時間の情報を送る。シャッタ手段102bは、画像取込手段417bからのシャッタ開閉信号及び露光時間の情報を受け取った直後に、シャッタの機構を露光時間だけ開き、その後、閉じる。撮像素子103bは、光学素子101bにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、画像取込手段417bに画像を送る。画像取込手段417bは、撮像素子103bから画像を受け取り、基準画像選定手段424に送る。
ステップ503:基準画像選定手段424は、画像受取手段417a及び画像受取手段417bからそれぞれ画像を受け取る。ステップ501で決定した基準画像側の撮像部の画像を基準画像とし、もう一方の画像を比較画像とする。基準画像を基準画像記憶手段111に、比較画像を比較画像記憶手段112に格納する。
図4に示す本発明の撮像装置の一実施例の動作手順を説明する。
特性入出力手段423は、特性記憶手段404からそれぞれ光学素子101a及び光学素子101bの透過率及び歪(半径方向のレンズの歪係数及び接線方向のレンズの歪係数など)などの情報、撮像素子103a及び撮像素子103bの感度特性(ダイナミックレンジ、及び、均一のライトや対象物を撮影したときの画像の輝度値など)、ノイズ(SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズ)及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性(光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、及び、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値など)及びノイズ(光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなど)などの情報を読み込み、それらの情報を撮像装置の外部に出力する。
図4に示す本発明の撮像装置の一実施例の動作手順(図5)によれば、ステップ501で、基準画像選定手段424が、予め設定された前述の項目2−1〜2−7のうちのひとつの項目cを満足する光学素子、あるいは、撮像素子側の撮像部を基準画像側の撮像部を決定し、ステップ503で、基準画像選定手段424が、ステップ501で決定した基準画像側の撮像部の画像を基準画像とし、もう一方の画像を比較画像とすることにより、項目cを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。
また、項目cを考慮せずに撮像装置を製造すると、項目cを満足しないケースが発生する。項目cを満足するように撮像装置を製造すると、項目cを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目cを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目cを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。
図4に示す本発明の撮像装置の一実施例の動作手順によれば、特性入出力手段423により、特性記憶手段404にそれぞれ格納されている光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を読み込み、撮像装置の外部に出力することにより、それらの値を見て、前述の項目2−1〜2−7のうちの少なくともひとつを満足するかどうかを確認できる。
なお、本発明の撮像装置は、上記で説明したような実施の形態に限定されるものではなく、様々に変形して適用することができる。以下では、本発明の撮像装置の変形例について説明する。

(変形例2−1)
図4に示す本発明の撮像装置の一実施例のステップ501において、基準画像選定手段424は、前述の項目2−1〜2−7の代わりに、予め設定された下記の所定条件である項目2−11〜2−30のうちのひとつの項目dを満足する光学素子、あるいは、撮像素子側の撮像部を基準画像側の撮像部と決定しても、項目dを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。
また、項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

・項目2−11:光学素子の透過率は高い。
・項目2−12:光学素子の半径方向のレンズの歪係数が小さい。
・項目2−13:光学素子の接線方向のレンズの歪係数が小さい。
・項目2−14:撮像素子のダイナミックレンジが大きい。
・項目2−15:撮像素子の均一な光の画像の輝度値が大きい。
・項目2−16:撮像素子のSN比性が小さい。
・項目2−17:撮像素子の均一な光の画像の輝度値の標準偏差が小さい。
・項目2−18:撮像素子の所定の強度の光のショットノイズが小さい。
・項目2−19:撮像素子の暗電流ノイズが小さい。
・項目2−20:撮像素子の読み出しノイズが小さい。
・項目2−21:撮像素子の所定の強度の光の固定パターンノイズが小さい。
・項目2−22:撮像素子の欠陥画素の数が少ない。
・項目2−23:光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きい。
・項目2−24:光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きい。
・項目2−25:光学素子を通過した光を受光した撮像素子のSN比が小さい。
・項目2−26:光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が小さい。
・項目2−27:光学素子を通過した光を受光した撮像素子の所定の強度の光のショットノイズが小さい。
・項目2−28:光学素子を通過した光を受光した撮像素子の暗電流ノイズが小さい。
・項目2−29:光学素子を通過した光を受光した撮像素子の読み出しノイズが小さい。
・項目2−30:光学素子を通過した光を受光した撮像素子の所定の強度の光の固定パターンノイズが小さい。
図4に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段423が、特性記憶手段404から光学素子101a及び光学素子101bの透過率,半径方向のレンズの歪係数及び接線方向のレンズの歪係数、撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどの情報を読み込み、撮像装置の外部に出力すると、それらの値を見て、上記の項目2−11〜2−30のうちのひとつを満足するかどうかを確認できる。

(変形例2−2)
図4に示す本発明の撮像装置の一実施例において、撮像素子103a及び撮像素子103bにそれぞれ撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報を記憶させ、図4に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段423が、撮像素子103a及び撮像素子103bから撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目2−3〜2−5のうちのひとつを満足するかどうかを確認できる。
また、図4に示す本発明の撮像装置の動作手順において、特性入出力手段423が、撮像素子103a及び撮像素子103bから撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、及び、所定の強度の光の固定パターンノイズ及び欠陥画素の数などの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目2−14〜2−22のうちのひとつを満足するかどうかを確認できる。
また、図4に示す本発明の撮像装置の動作手順(図5)のステップ501において、基準画像選定手段424は、撮像素子103a及び撮像素子103bから読み込んだ撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報をもとに、予め設定された前述の項目2−3〜2−5のひとつの項目cを満足する撮像素子側の撮像部を基準画像側の撮像部を決定しても、項目cを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。また、項目cを考慮せずに撮像装置を製造すると、項目cを満足しないケースが発生する。項目cを満足するように撮像装置を製造すると、項目cを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、図4に示す本発明の撮像装置の動作手順(図5)のステップ501において、基準画像選定手段424は、撮像素子103a及び撮像素子103bから読み込んだ撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数などの情報をもとに、予め設定された前述の項目2−14〜2−22のひとつの項目dを満足する撮像素子側の撮像部を基準画像側の撮像部を決定しても、項目dを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。また、項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。

(変形例2−3)
図4に示す本発明の撮像装置の一実施例において、演算部410の特性記憶手段404の代わりに、撮像部400a及び撮像部400bにそれぞれ特性記憶手段104a及び特性記憶手段104bを設けて、図4に示す本発明の撮像装置の一実施例の動作手順において、特性入出力手段423が、特性記憶手段104a及び104bから光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報を読み込み、撮像装置の外部に出力するとしても、それらの値を見て、項目2−1〜2−7のひとつを満足するかどうかを確認できる。
また、図4に示す本発明の撮像装置の動作手順において、特性入出力手段423が、特性記憶手段104a及び104bからそれぞれ光学素子101a及び光学素子101bの透過率、半径方向のレンズの歪係数及び接線方向のレンズの歪係数、撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどの情報を読み込み、それらの情報を外部に出力しても、それらの値を見て、項目2−1〜2−30のうちのひとつを満足するかどうかを確認できる。
また、図4に示す本発明の撮像装置の動作手順(図5)のステップ501において、基準画像選定手段424は、特性記憶手段104a及び特性記憶手段104bからそれぞれ読み込んだ光学素子101a及び光学素子101bの透過率及び歪などの情報、撮像素子103a及び撮像素子103bの感度特性、ノイズ及び欠陥画素の数などの情報、撮像部400a及び撮像部400bの感度特性及びノイズなどの情報をもとに、予め設定された前述の項目2−1〜2−7のひとつの項目cを満足する撮像素子側の撮像部を基準画像側の撮像部を決定しても、項目cを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。また、項目cを考慮せずに撮像装置を製造すると、項目cを満足しないケースが発生する。項目cを満足するように撮像装置を製造すると、項目cを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、図4に示す本発明の撮像装置の動作手順(図5)のステップ501において、基準画像選定手段424は、撮像素子103a及び撮像素子103bから読み込んだ光学素子101a及び光学素子101bの透過率、半径方向のレンズの歪係数及び接線方向のレンズの歪係数、撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときの画像の輝度値、SN比、均一のライトや対象物を撮影したときの画像の輝度値の標準偏差(ばらつき)、所定の強度の光のショットノイズ、暗電流ノイズ、読み出しノイズ、所定の強度の光の固定パターンノイズ及び欠陥画素の数、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのダイナミックレンジ、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのSN比、均一のライトや対象物を撮影したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの画像の輝度値の標準偏差(ばらつき)、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bのショットノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの暗電流ノイズ、光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの読み出しノイズ、及び、所定の強度の光が入射したときに光学素子101a及び光学素子101bを通過した光を受光した撮像素子103a及び撮像素子103bの固定パターンノイズなどの情報をもとに、予め設定された前述の項目2−11〜2−30のひとつの項目dを満足する撮像素子側の撮像部を基準画像側の撮像部を決定しても、項目dを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。また、項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。

(変形例2−4)
図4に示す本発明の撮像装置の一実施例のステップ501において、基準画像選定手段424は、「シャッタ手段が閉まっているときの画像を取得する」という信号を画像取込手段417a及び画像取込手段417bに送る。画像取込手段417aは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102aのシャッタの機構が閉まった状態で、光学素子101aにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、画像取込手段417aに画像を送る。画像取込手段417aは、撮像素子103aから画像を受け取り、基準画像選定手段424に送る。画像取込手段417bは、同期信号発信手段116からの同期信号を受け取った直後に、シャッタ手段102bのシャッタの機構が閉まった状態で、光学素子101bにより屈折した光の像を受光し、その光の強さに応じた画像を生成して、画像取込手段417bに画像を送る。画像取込手段417bは、撮像素子103bから画像を受け取り、基準画像選定手段424に送る。基準画像選定手段424は、画像取込手段417a及び画像取込手段417bから画像を受け取る。各画像の各画素の輝度値が閾値以上である場合、欠陥画素であると判定して、それぞれの画像について欠陥画素の数を検出する。欠陥画素の数が少ない画像側の撮像部を基準画像側の撮像部とすると、撮像素子の経年劣化により、欠陥画素が増えたとしても、実画像をもとに基準画像側の撮像部を決定するため、欠陥画素の数が少ない画像を正しく基準画像に設定でき、基準画像を用いた認識の性能の低下を防ぐことができる。
また、欠陥画素の数が少ないという項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

(変形例2−5)
図4に示す本発明の撮像装置の一実施例の動作手順において、図6に示すように、ステップ601及びステップ602を追加する。以下にステップ601及びステップ602を記載する。
ステップ601:ステップ602で基準側像側の撮像部を再決定した場合、ステップ503に進む。再決定していない場合、ステップ602に進む。
ステップ602:基準画像選定手段424は、画像取込手段417a及び画像取込手段417bから画像を受け取る。それらの画像をそれぞれ複数の領域に分割する。各画像の各領域の輝度値の平均を算出して、各画像で輝度の平均が最も大きい領域と最も小さい領域が2つの画像で一致している場合、以下の判定を実施する。各画像において輝度の平均が最も大きい領域と最も小さい領域の輝度の平均の差が大きいほうが、光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きいと判定する。光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きいと判定された画像の撮像部を基準画像側の撮像部と決定する。
ステップ602に示すように、基準画像側の撮像部と決定すると、撮像素子の経年劣化により、光学素子を通過した光を受光した撮像素子のダイナミックレンジが変化したとしても、実画像をもとに基準画像側の撮像部を決定するため、光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きい画像を正しく基準画像に設定でき、基準画像を用いた認識の性能の低下を防ぐことができる。
また、光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きいという項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

(変形例2−6)
図4に示す本発明の撮像装置の一実施例の動作手順において、図6に示すように、ステップ601及びステップ602を追加する。以下にステップ601及びステップ602を記載する。
ステップ601:ステップ602で基準側像側の撮像部を再決定した場合、ステップ503に進む。再決定していない場合、ステップ602に進む。
ステップ602:基準画像選定手段424は、画像取込手段417a及び画像取込手段417bから画像を受け取る。それらの画像をそれぞれ複数の領域に分割する。各画像で輝度が最も大きい領域が2つの画像で一致している場合、各画像でこれらの領域の輝度値の平均及び標準偏差を算出して、これらの値が全て閾値以内である場合、それらの領域では均一な光が入射していると判定して、以下の処理を実施する。それらの領域で輝度値の平均が大きいほうが、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいと判定する。光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいと判定された画像の撮像部を基準画像側の撮像部と決定する。
ステップ602に示すように、基準画像側の撮像部と決定すると、撮像素子の経年劣化により、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が変化したとしても、実画像をもとに基準画像側の撮像部を決定するため、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きい画像を正しく基準画像に設定でき、基準画像を用いた認識の性能の低下を防ぐことができる。
また、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいという項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。

(変形例2−7)
図4に示す本発明の撮像装置の一実施例の動作手順において、図6に示すように、ステップ601及びステップ602を追加する。以下にステップ601及びステップ602を記載する。
ステップ601:ステップ602で基準側像側の撮像部を再決定した場合、ステップ503に進む。再決定していない場合、ステップ602に進む。
ステップ602:基準画像選定手段424は、画像取込手段417a及び画像取込手段417bから画像を受け取る。それらの画像をそれぞれ複数の領域に分割する。各画像で輝度が最も大きい領域が2つの画像で一致している場合、各画像でこれらの領域の輝度値の平均及び標準偏差を算出して、これらの値が全て閾値以内である場合、それらの領域では均一な光が入射していると判定して、以下の判定を実施する。それらの領域で輝度値の標準偏差が小さいほうが、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が小さいと判定する。光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が小さいと判定された画像の撮像部を基準画像側の撮像部と決定する。
ステップ602に示すように、基準画像側の撮像部と決定すると、撮像素子の経年劣化により、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が変化したとしても、実画像をもとに基準画像側の撮像部を決定するため、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が小さい画像を正しく基準画像に設定でき、基準画像を用いた認識の性能の低下を防ぐことができる。
また、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値の標準偏差が小さいという項目dを考慮せずに撮像装置を製造すると、項目dを満足しないケースが発生する。項目dを満足するように撮像装置を製造すると、項目dを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目dを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。
(変形例2−
図1に示す本発明の撮像装置の一実施例において、撮像部を2つだけでなく、3つ以上を設けて、図5あるいは図6に示す動作手順を、複数の撮像部の2つずつの組合せについて実施する。

これにより、複数の撮像部で撮影された対象物までの距離や対象物の認識が可能になるとともに、複数の撮像部の2つずつの組合せにおいて、ステップ501で、基準画像選定手段424が、予め設定された前述の項目2−1〜2−7のうちのひとつの項目cを満足する光学素子、あるいは、撮像素子側の側の撮像部を基準画像側の撮像部を決定し、ステップ503で、基準画像選定手段424が、ステップ501で決定した基準画像側の撮像部の画像を基準画像とし、もう一方の画像を比較画像とすることにより、項目cを満足しない場合に比べて、基準画像の品質が比較画像より良くなり、ステップ206で品質の良い基準画像を用いて、対象物の認識処理が実施されるため、対象物の認識性能が向上する。
また、項目cを考慮せずに撮像装置を製造すると、項目cを満足しないケースが発生する。項目cを満足するように撮像装置を製造すると、項目cを考慮せずに製造された撮像装置に比べて、このケースで対象物の認識性能が向上することになり、撮像装置の個体ごとの対象物の認識性能のばらつきを低減できる。
また、ステップ207で、画面音声出力部130が、画面の基準画像上に「衝突する」と判定した対象物に所定の色の枠を表示して、警告音を出力することにより、項目cを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に衝突する対象物をユーザに知らせることができる。
また、ステップ208で、画面の基準画像上に「衝突する」と判定した対象物がある場合、制御部が、衝突を回避する制御信号を生成して、撮像装置の外部に出力することにより、項目cを満足しない場合に比べて、対象物の認識性能が向上するため、より早い段階でより確実に対象物を回避する制御が行われ、衝突する確率を低減できる。
100a…撮像部、100b…撮像部、101a…光学素子、101b…光学素子、102a…シャッタ手段、102b…シャッタ手段、103a…撮像素子、103b…撮像素子、104a…特性記憶手段、104b…特性記憶手段、110…演算部、111…基準画像記憶手段、112…比較画像記憶手段、113…処理画像記憶手段、114…輝度補正情報記憶手段、115…幾何補正情報記憶手段、116…同期信号発信手段、117a…基準画像取込手段、117b…比較画像取込手段、118…輝度補正手段、119…幾何補正手段、120…視差算出手段、121…距離算出手段、122…認識手段、130…画面音声出力部、140…制御部、301…基準画像、302…比較画像、400a…撮像部、400b…撮像部、404…特性記憶手段

Claims (14)

  1. 第1の光学素子と、
    前記第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有して、基準画像として処理される画像を出力する第1の撮像素子と、
    第2の光学素子と、
    前記第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有して、比較画像として処理される画像を出力する第2の撮像素子と、
    前記基準画像上から所定のサイズの領域を抽出した第1の画像領域と同じ対象物が写っている前記比較画像上の第2の画像領域を探索して、前記第1の画像領域と前記第2の画像領域の距離を算出して,前記距離を視差として、前記視差に基づいて距離画像を算出する距離算出手段と、
    前記距離算出手段で算出され、所定項目を満たす距離画像に基づいて対象物を認識する認識手段と、を有し、
    前記第1の光学素子及び前記第2の光学素子、又は前記第1の撮像素子及び前記第2の撮像素子は、前記第1の光学素子の透過率が前記第2の光学素子に比べて高い、前記第1の光学素子の歪が前記第2の光学素子に比べて小さい、前記第1の撮像素子の感度特性が前記第2の撮像素子に比べて高い、前記第1の撮像素子のノイズが前記第2の撮像素子に比べて小さい、前記第1の撮像素子の欠陥画素の数が前記第2の撮像素子に比べて少ない、前記第1の光学素子を通過した光を受けた前記第1の撮像素子の感度特性が前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて高い、前記第1の光学素子を通過した光を受けた前記第1の撮像素子のノイズが前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて小さい、の少なくとも1つを満足する撮像装置。
  2. 請求項1記載の撮像装置において、
    前記第1の光学素子及び前記第2の光学素子、又は前記第1の撮像素子及び前記第2の撮像素子は、前記第1の光学素子の透過率が前記第2の光学素子に比べて高い、前記第1の光学素子の半径方向のレンズの歪係数が前記第2の光学素子に比べて小さい、前記第1の光学素子の接線方向のレンズの歪係数が前記第2の光学素子に比べて小さい、前記第1の撮像素子のダイナミックレンジが前記第2の撮像素子に比べて大きい、前記第1の撮像素子の均一な光の画像の輝度値が前記第2の撮像素子に比べて大きい、前記第1の撮像素子のSN比が前記第2の撮像素子に比べて小さい、前記第1の撮像素子の均一な光の画像の輝度値の標準偏差が前記第2の撮像素子に比べて小さい、前記第1の撮像素子の欠陥画素の数が前記第2の撮像素子に比べて少ない、前記第1の光学素子を通過した光を受けた前記第1の撮像素子のダイナミックレンジが前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて大きい、前記第1の光学素子を通過した光を受けた前記第1の撮像素子の均一な光の画像の輝度値が前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて大きい、前記第1の光学素子を通過した光を受けた前記第1の撮像素子のSN比が前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて小さい、前記第1の光学素子を通過した光を受けた前記第1の撮像素子の均一な光の画像の輝度値の標準偏差が前記第2の光学素子を通過した光を受けた前記第2の撮像素子に比べて小さい、の少なくとも1つを満足する撮像装置。
  3. 請求項1記載の撮像装置において、
    前記第1の光学素子及び前記第2の光学素子の透過率や歪、前記第1の撮像素子及び前記第2の撮像素子の感度特性やノイズや欠陥画素の数、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の感度特性やノイズ、の少なくとも1つを記憶する特性記憶手段を有する撮像装置。
  4. 請求項3記載の撮像装置において、
    前記特性記憶手段は、前記第1の光学素子及び前記第2の光学素子の透過率、前記第1の光学素子及び前記第2の光学素子の半径方向のレンズの歪係数、前記第1の光学素子及び前記第2の光学素子の接線方向のレンズの歪係数、前記第1の撮像素子及び前記第2の撮像素子のダイナミックレンジ、前記第1の撮像素子及び前記第2の撮像素子の均一な光の画像の輝度値、前記第1の撮像素子及び前記第2の撮像素子のSN比、前記第1の撮像素子及び前記第2の撮像素子の均一な光の画像の輝度値の標準偏差、前記第1の撮像素子及び前記第2の撮像素子の欠陥画素の数、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子のダイナミックレンジ、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子のSN比、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値の標準偏差、の少なくとも1つが記憶された撮像装置。
  5. 請求項1記載の撮像装置において、
    前記第1の撮像素子は、前記第1の撮像素子の感度特性、前記第1の撮像素子のノイズ、前記第1の撮像素子の欠陥画素の数、の少なくとも1つが記憶され、
    前記第2の撮像素子は、前記第2の撮像素子の感度特性、前記第2の撮像素子のノイズ、前記第2の撮像素子の欠陥画素の数、の少なくとも1つが記憶された撮像装置。
  6. 請求項1記載の撮像装置において、
    前記第1の撮像素子は、前記第1の撮像素子のダイナミックレンジ、前記第1の撮像素子の均一な光の画像の輝度値、前記第1の撮像素子のSN比、前記第1の撮像素子の均一な光の画像の輝度値の標準偏差、前記第1の撮像素子の欠陥画素の数、の少なくとも1つが記憶され、
    前記第2の撮像素子は、前記第2の撮像素子のダイナミックレンジ、前記第2の撮像素子の均一な光の画像の輝度値、前記第2の撮像素子のSN比、前記第2の撮像素子の均一な光の画像の輝度値の標準偏差、前記第2の撮像素子の欠陥画素の数、の少なくとも1つが記憶された撮像装置。
  7. 第1の光学素子と、
    前記第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第1の画像を出力する第1の撮像素子と、
    第2の光学素子と、
    前記第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第2の画像を出力する第2の撮像素子と、
    前記第1の画像と前記第2の画像に対して所定条件を満たす一方の画像を基準画像として、他方の画像を比較画像とする基準画像選定手段と、
    前記基準画像上から所定のサイズの領域を抽出した第1の画像領域と同じ対象物が写っている前記比較画像上の第2の画像領域を探索して、前記第1の画像領域と前記第2の画像領域の距離を算出して,前記距離を視差として、前記視差に基づいて距離画像を算出する距離算出手段と、
    前記距離算出手段で算出され、所定項目を満たす前記距離画像に基づいて対象物を認識する認識手段と、を有し、
    前記基準画像選定手段の前記所定条件は、
    前記第1の光学素子と前記第2の光学素子の透過率を比べて大きい方の画像、前記第1の光学素子と前記第2の光学素子の歪を比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子の感度特性を比べて大きい方の画像、前記第1の撮像素子と前記第2の撮像素子のノイズを比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子の画素欠陥の数を比べて少ない方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子の感度特性を比べて高い方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子のノイズを比べて小さい方の画像、のいずれかである撮像装置。
  8. 第1の光学素子と、
    前記第1の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第1の画像を出力する第1の撮像素子と、
    第2の光学素子と、
    前記第2の光学素子を通過した光を受光して、光の強度に応じた輝度値を有した第2の画像を出力する第2の撮像素子と、
    前記第1の光学素子及び前記第2の光学素子の歪、前記第1の撮像素子と前記第2の撮像素子の感度特性、ノイズ、欠陥画素の数、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の感度特性、ノイズ、の少なくとも1つの特性情報が記憶された特性記憶手段と、
    前記特性記憶手段に記憶された前記特性情報に基づいて、所定条件を満たす一方の画像を基準画像として、他方の画像を比較画像とする基準画像選定手段と、
    前記基準画像上から所定のサイズの領域を抽出した第1の画像領域と同じ対象物が写っている前記比較画像上の第2の画像領域を探索して、前記第1の画像領域と前記第2の画像領域の距離を算出して,前記距離を視差として、前記視差に基づいて距離画像を算出する距離算出手段と、
    前記距離算出手段で算出され、所定項目を満たす距離画像に基づいて対象物を認識する認識手段と、を有し、
    前記基準画像選定手段の前記所定条件は、
    前記第1の光学素子と前記第2の光学素子の透過率を比べて大きい方の画像、前記第1の光学素子と前記第2の光学素子の歪を比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子の感度特性を比べて大きい方の画像、前記第1の撮像素子と前記第2の撮像素子のノイズを比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子の画素欠陥の数を比べて少ない方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子の感度特性を比べて高い方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子のノイズを比べて小さい方の画像、のいずれかである撮像装置。
  9. 請求項7又は請求項8記載の撮像装置において、
    前記基準画像選定手段の前記所定条件は、前記第1の光学素子と前記第2の光学素子の透過率を比べて大きい方の画像、前記第1の光学素子と前記第2の光学素子の半径方向のレンズの歪係数を比べて小さい方の画像、前記第1の光学素子と前記第2の光学素子の接線方向のレンズの歪係数を比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子のダイナミックレンジを比べて大きい方の画像、前記第1の撮像素子と前記第2の撮像素子の均一な光の画像の輝度値を比べて大きい方の画像、前記第1の撮像素子と前記第2の撮像素子のSN比を比べて大きい方の画像、前記第1の撮像素子と前記第2の撮像素子の均一な光の画像の輝度値の標準偏差を比べて小さい方の画像、前記第1の撮像素子と前記第2の撮像素子の画素欠陥の数を比べて少ない方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子のダイナミックレンジを比べて大きい方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値を比べて大きい方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子のSN比を比べて小さい方の画像、前記第1の光学素子を通過した光を受けた前記第1の撮像素子と前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値の標準偏差を比べて小さい方の画像、のいずれかである撮像装置。
  10. 請求項8記載の撮像装置において、
    前記特性記憶手段は、前記第1の光学素子及び前記第2の光学素子の透過率、前記第1の光学素子及び前記第2の光学素子の半径方向のレンズの歪係数、前記第1の光学素子及び前記第2の光学素子の接線方向のレンズの歪係数、前記第1の撮像素子及び前記第2の撮像素子のダイナミックレンジ、前記第1の撮像素子及び前記第2の撮像素子の均一な光の画像の輝度値、前記第1の撮像素子及び前記第2の撮像素子のSN比、前記第1の撮像素子及び前記第2の撮像素子の均一な光の画像の輝度値の標準偏差、前記第1の撮像素子及び前記第2の撮像素子の欠陥画素の数、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子のダイナミックレンジ、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子のSN比、前記第1の光学素子を通過した光を受けた前記第1の撮像素子及び前記第2の光学素子を通過した光を受けた前記第2の撮像素子の均一な光の画像の輝度値の標準偏差、の少なくとも1つの前記特性情報が記憶された撮像装置。
  11. 請求項7記載の撮像装置において、
    前記第1の光学素子を通過した光を所定の露光時間だけ通過させる第1のシャッタ手段と、
    前記第2の光学素子を通過した光を所定の露光時間だけ通過させる第2のシャッタ手段と、を有し、
    前記基準画像選定手段は、前記第1のシャッタ手段及び前記第2のシャッタ手段を閉じたときの前記第1の画像及び前記第2の画像において、輝度値が閾値以上である画素を欠陥画素と判定し、前記第1の画像及び前記第2の画像のそれぞれで欠陥画素の数を算出し、欠陥画素の少ない方の画像を、基準画像とし、他方の画像を比較画像とする撮像装置。
  12. 請求項7記載の撮像装置において、
    前記基準画像選定手段は、前記第1の画像及び前記第2の画像のそれぞれを複数の領域に分割し、各領域の輝度値の平均を算出し、
    算出した前記輝度値の平均が最も大きい領域と最も小さい領域が、前記第1の画像と前記第2の画像とで一致している場合、各画像において輝度値の平均が最も大きい領域と最も小さい領域の輝度値の平均の差が大きい方が、光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きいと判定し、光学素子を通過した光を受光した撮像素子のダイナミックレンジが大きいと判定された画像を基準画像とし、他方の画像を比較画像とする撮像装置。
  13. 請求項7記載の撮像装置において、
    前記基準画像選定手段は、前記第1の画像及び前記第2の画像のそれぞれを複数の領域に分割し、各領域の輝度値の平均を算出し、
    算出した前記輝度値の平均が最も大きい領域と最も小さい領域が、前記第1の画像と前記第2の画像とで一致している場合、輝度が最も大きい領域の輝度値の平均及び標準偏差を算出し、
    輝度が最も大きい領域の輝度値の平均及び標準偏差の値が、全て、予め定めた閾値以内である場合、輝度が最も大きい領域では均一な光が入射していると判定し、輝度が最も大きい領域で輝度値の平均が大きい方が、光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいと判定し、
    光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいと判定された画像を基準画像として、他方の画像を比較画像とする撮像装置。
  14. 請求項7記載の撮像装置において、
    前記基準画像選定手段は、前記第1の画像及び前記第2の画像のそれぞれを複数の領域に分割し、各領域の輝度値の平均を算出し、
    算出した前記輝度値の平均が最も大きい領域と最も小さい領域が、前記第1の画像と前記第2の画像とで一致している場合、輝度が最も大きい領域の輝度値の平均及び標準偏差を算出し、
    輝度が最も大きい領域の輝度値の平均及び標準偏差の値が、全て、予め定めた閾値以内である場合、輝度が最も大きい領域では均一な光が入射していると判定し、輝度が最も大きい領域で輝度値の標準偏差が小さい方が、光学素子を通過した光を受光した撮像素子の均一な光の画像の標準偏差が小さいと判定し、
    光学素子を通過した光を受光した撮像素子の均一な光の画像の輝度値が大きいと判定された画像を基準画像として、他方の画像を比較画像とする撮像装置。
JP2012215454A 2012-09-28 2012-09-28 撮像装置 Active JP6082556B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012215454A JP6082556B2 (ja) 2012-09-28 2012-09-28 撮像装置
PCT/JP2013/070276 WO2014050288A1 (ja) 2012-09-28 2013-07-26 撮像装置
US14/422,239 US10627218B2 (en) 2012-09-28 2013-07-26 Imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012215454A JP6082556B2 (ja) 2012-09-28 2012-09-28 撮像装置

Publications (2)

Publication Number Publication Date
JP2014072592A JP2014072592A (ja) 2014-04-21
JP6082556B2 true JP6082556B2 (ja) 2017-02-15

Family

ID=50387702

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012215454A Active JP6082556B2 (ja) 2012-09-28 2012-09-28 撮像装置

Country Status (3)

Country Link
US (1) US10627218B2 (ja)
JP (1) JP6082556B2 (ja)
WO (1) WO2014050288A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170132365A1 (en) * 2015-11-10 2017-05-11 Ricoh Company, Ltd. Healthcare Content Management System
US10666874B2 (en) * 2017-06-02 2020-05-26 Apple Inc. Reducing or eliminating artifacts in high dynamic range (HDR) imaging
JP6838225B2 (ja) 2017-09-20 2021-03-03 日立Astemo株式会社 ステレオカメラ
WO2019165956A1 (zh) * 2018-02-27 2019-09-06 Oppo广东移动通信有限公司 控制方法、控制装置、终端、计算机设备和存储介质
JP7278096B2 (ja) * 2019-02-20 2023-05-19 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
WO2021008712A1 (en) * 2019-07-18 2021-01-21 Toyota Motor Europe Method for calculating information relative to a relative speed between an object and a camera

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4172554B2 (ja) * 1998-03-12 2008-10-29 富士重工業株式会社 ステレオカメラの調整装置
JP2000102040A (ja) * 1998-09-28 2000-04-07 Olympus Optical Co Ltd 電子ステレオカメラ
JP2001167276A (ja) * 1999-12-13 2001-06-22 Mega Chips Corp 撮影装置
JP3965067B2 (ja) * 2002-04-10 2007-08-22 富士重工業株式会社 ステレオ式監視装置およびステレオ式監視方法
JP2006005608A (ja) * 2004-06-17 2006-01-05 Hitachi Ltd 撮像装置
JP4224449B2 (ja) * 2004-11-30 2009-02-12 本田技研工業株式会社 画像抽出装置
DE102004061998A1 (de) * 2004-12-23 2006-07-06 Robert Bosch Gmbh Stereokamera für ein Kraftfahrzeug
JP5172314B2 (ja) * 2007-12-14 2013-03-27 日立オートモティブシステムズ株式会社 ステレオカメラ装置
JP5273356B2 (ja) * 2008-06-18 2013-08-28 株式会社リコー 複眼画像入力装置及びそれを用いた距離測定装置
JP4626684B2 (ja) * 2008-07-31 2011-02-09 富士フイルム株式会社 複眼撮像装置及び像ブレ補正方法
JP2010206521A (ja) * 2009-03-03 2010-09-16 Fujifilm Corp 撮像装置、画像補正方法およびプログラム
US8786682B2 (en) * 2009-03-05 2014-07-22 Primesense Ltd. Reference image techniques for three-dimensional sensing
JP5216640B2 (ja) * 2009-03-11 2013-06-19 富士フイルム株式会社 撮像装置および方法
JP5426262B2 (ja) * 2009-07-17 2014-02-26 富士フイルム株式会社 複眼撮像装置
JP5258722B2 (ja) * 2009-09-24 2013-08-07 富士フイルム株式会社 複眼カメラ及びその制御方法
US8654195B2 (en) * 2009-11-13 2014-02-18 Fujifilm Corporation Distance measuring apparatus, distance measuring method, distance measuring program, distance measuring system, and image pickup apparatus
JP5440615B2 (ja) * 2010-01-06 2014-03-12 コニカミノルタ株式会社 ステレオカメラ装置
KR20120010764A (ko) * 2010-07-27 2012-02-06 엘지전자 주식회사 이동 단말기 및 3차원 영상 제어 방법
US9200895B2 (en) * 2010-11-16 2015-12-01 Konica Minolta, Inc. Image input device and image processing device
JP5704975B2 (ja) * 2011-03-08 2015-04-22 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
US10627218B2 (en) 2020-04-21
JP2014072592A (ja) 2014-04-21
US20150226541A1 (en) 2015-08-13
WO2014050288A1 (ja) 2014-04-03

Similar Documents

Publication Publication Date Title
JP6545997B2 (ja) 画像処理装置
JP7057097B2 (ja) 距離計測装置、距離計測システム、撮像装置、移動体、距離計測装置の制御方法およびプログラム
JP6082556B2 (ja) 撮像装置
US9378553B2 (en) Stereo image processing device for vehicle
US9767545B2 (en) Depth sensor data with real-time processing of scene sensor data
US9424462B2 (en) Object detection device and object detection method
JP5867807B2 (ja) 車両識別装置
US20180108150A1 (en) Systems and methods for in-field stereocamera calibration
JP6561512B2 (ja) 視差値導出装置、移動体、ロボット、視差値導出方法、視差値生産方法及びプログラム
US11173841B2 (en) Multicamera system for autonamous driving vehicles
US20120045100A1 (en) Position measuring apparatus, position measuring method, image processing apparatus and image processing method
JP2008039491A (ja) ステレオ画像処理装置
KR101449160B1 (ko) 차량의 사각지대 정보 제공 장치 및 방법
US10026158B2 (en) Imaging device
CN112069862A (zh) 目标检测方法和装置
JP6907513B2 (ja) 情報処理装置、撮像装置、機器制御システム、情報処理方法およびプログラム
JP2020057869A (ja) 撮像装置
CN111105465A (zh) 一种摄像装置校准方法、装置、系统电子设备及存储介质
JP2021025868A (ja) ステレオカメラ
JP6983740B2 (ja) ステレオカメラシステム、及び測距方法
JP2015143657A (ja) 車両のステレオカメラシステム
KR101679699B1 (ko) 라이다 센서 제작을 위한 사양 분석 시스템 및 이를 이용한 사양 최적화 방법
JP7207889B2 (ja) 測距装置および車載カメラシステム
JP6836350B2 (ja) 移動速度演算装置
WO2023017635A1 (ja) 演算装置、監視システム、視差算出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170123

R150 Certificate of patent or registration of utility model

Ref document number: 6082556

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250