[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP5668951B2 - 画像入力装置 - Google Patents

画像入力装置 Download PDF

Info

Publication number
JP5668951B2
JP5668951B2 JP2013236827A JP2013236827A JP5668951B2 JP 5668951 B2 JP5668951 B2 JP 5668951B2 JP 2013236827 A JP2013236827 A JP 2013236827A JP 2013236827 A JP2013236827 A JP 2013236827A JP 5668951 B2 JP5668951 B2 JP 5668951B2
Authority
JP
Japan
Prior art keywords
pixel
saturated
image
signal
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013236827A
Other languages
English (en)
Other versions
JP2014060779A (ja
Inventor
清 高
清 高
洪 博哲
博哲 洪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013236827A priority Critical patent/JP5668951B2/ja
Publication of JP2014060779A publication Critical patent/JP2014060779A/ja
Application granted granted Critical
Publication of JP5668951B2 publication Critical patent/JP5668951B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/86Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Input (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、撮像素子を備えた画像入力装置に関し、特に撮像素子の画素が飽和した場合でも、適切な画像を形成できる画像入力装置に関するものである。
近年、夜間のシーンをカラーで撮像する撮像装置が開発されており、更に監視カメラや、夜間走行時のドライバーの視覚をサポートする運転支援システムとして車両に搭載する研究などが行われている。しかし、一般的には撮像素子のダイナミックレンジに限度があるので、ハロゲン光の信号や車のランプなど輝度の高い発光体を撮像する際に、撮像素子のいずれかの画素が飽和してしまい、各色成分の値がともに最大値になり、色度信号が失われる場合がある。一旦、色度信号が失われてしまうと、カラー画像を適切に形成できなくなる。
これに対し特許文献1には、道路のカラー画像を取得し、該道路の路面標示を検出し、画像内で路面標示が含まれる領域である路面標示領域を特定し、路面標示領域の信号が、該信号の出力範囲内で設定された所定レベル以上であるときには、該信号が飽和していると判定して、所定時点の制御サイクルにおいて、次の制御サイクルにおける撮像手段の露出量を減少させる技術が開示されている。
特開2007−28279号公報
しかるに、特許文献1の従来技術によれば、露出量を減少させることで、飽和領域の色再現が改善されるが、飽和していない領域では露出量の減少により暗くなってしまい、全体的にカラー画像として不適切となる恐れがある。
本発明は、上述の問題に鑑みてなされたものであり、画素が飽和した場合でも、適切なカラー画像作成に必要な情報を得ることができる画像入力装置を提供することを目的とする。
請求項1に記載の画像入力装置は、
被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正し、
前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正することを特徴とする。
本発明によれば、前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正するので、周囲画素より出力されたカラー画像信号から、飽和画素が撮像すべき被写体像の本来の色を推定でき、それにより適切なカラー画像を形成することができる。尚、「周囲画素」とは、飽和画素に隣接する非飽和画素、並びに飽和画素から5画素以内の非飽和画素も含む。
前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正する。これにより、飽和画素の周囲に広がるフレア成分を用いて、飽和画素が撮像すべき被写体像の本来の色を推定でき、それにより適切なカラー画像を形成することができる。尚、「色度座標系の原点」とは、予め指定された色度座標系の白色領域内の任意の点をいう。
請求項に記載の画像入力装置は、前記処理手段は、前記飽和画素と前記周囲画素から出力されたカラー画像信号を、平滑化フィルタを通過させ、平滑化された信号を用いて前記飽和画素が出力したカラー画像信号を補正することを特徴とする。これにより、飽和画素と周囲画素の信号を平均化して、飽和画素が撮像すべき被写体像の本来の色を推定できる。平滑化フィルタは、例えばWO2006/129529号明細書に記載されたものを用いることができる。
なお、別の画像入力装置は、
被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
前記処理手段は、特定間隔で並んだ3つの円形パターンを記憶しており、前記検出手段が、前記撮像手段の撮像により、得られた画像において前記3つの円形パターンが認識され、且つ1つの円形パターンに応じて前記撮像手段のいずれかの画素が飽和したことを検出した場合には、飽和した画素の位置が3つの円形パターンのいずれかに対応するかによって、飽和した画素の受光した光の色が青色、黄色、赤色のうちの1色と推定することを特徴とする。
例えば車両管制用の信号機は、形状パターンや色の並び順が各国毎に定まっている。そこで、前記処理手段が、特定間隔で並んだ青色、黄色、赤色の円形パターンを記憶していれば、前記検出手段が、前記撮像手段の撮像により、得られた画像において前記3つの円形パターンが認識され、且つ1つの円形パターンに応じて前記撮像手段のいずれかの画素が飽和したことを検出した場合には、被写体像が車両管制用の信号機であると認定して、飽和した画素の位置が3つの円形パターンのいずれかに対応するかによって、飽和した画素の受光した光の色が青色、黄色、赤色のうちの1色と推定するため、かかる情報に基づいて前記撮像素子からのカラー画像信号を補正することで、適切なカラー画像を得ることができる。尚、「特定間隔」とは、青色円、黄色円、赤色円の径に対して、一定の割合で決定された間隔をいう。
本発明によれば、画素が飽和した場合でも、適切なカラー画像作成に必要な情報を得ることができる画像入力装置を提供することができる。
第1の実施の形態に係る画像入力装置MGの概略図である。 画像入力装置MGにより撮像した画像の一例を示す図である。 飽和画素と高輝度画素の重なり具合を示す図である。 複数枚の画像からなる一連のフレームを示す図である。 第2の実施の形態に係る画像入力装置MGの概略図である。 色度座標を示す図である。 第3の実施の形態に係る画像入力装置MGの概略図である。
(第1の実施の形態)
以下、図面を参照して本発明の実施の形態を詳細に説明する。図1は、第1の実施の形態に係る画像入力装置MGの概略図である。かかる画像入力装置MGは、車載カメラに用いることができるが、用途はそれに限られず、例えば監視カメラであっても良い。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、撮像枚数カウント回路104,露光量算出回路105、露光量制御回路106,検出手段である飽和/高輝度領域検出回路107,処理手段である飽和領域色補正回路108を備えている。
レンズ101を介して入射した被写体像は、不図示のRGBカラーフィルタを介して撮像素子102の複数の画素に結像する。これによりアナログのカラー画像信号を発生させるので、A/D変換部を介してデジタルのカラー画像信号に変換されて出力される。かかるカラー画像信号は、画像取得回路103に入力されてフレーム毎に1枚の画像を形成され、これに基づき撮像枚数カウント回路104で撮像枚数(撮像回数)がカウントされる、又,露光量算出回路105で露光量が算出され、これに基づき露光量制御回路106は,撮像素子102の露光量(シャッタスピード)を制御するようになっている。一方、画像取得回路103からの信号に基づいて、飽和/高輝度領域検出回路107で,飽和画素と高輝度画素とが検出され、更に飽和領域色補正回路108で、飽和画素からのカラー画像信号が補正され、不図示のディスプレイを介して表示されたり、不図示のメモリ等に記憶されるようになっている。
次に、画像入力装置MGの具体的な画像処理(以下、補間画像処理という)について説明する。例えば図2に示すように、夜間のシーンにおいて、周囲が暗い中で、ハロゲン光を発する赤信号SRや自動車VHのブレーキランプBLなどの高輝度発光体を撮像すると、その被写体像が結像した画素は飽和する可能性が高い。しかしながら、画素が飽和すると色情報が失われてしまい、赤信号やブレーキランプの点灯を検出できないという問題がある。そこで、本実施の形態にかかる画像入力装置MGは、以下のように補間画像処理を行う。
まず、予め設定された通常の第1のシャッタスピード(第1の露光量)で1枚の画像Img0を撮像する。このとき、画像取得回路103から、画像Img0に対応したカラー画像信号が出力される。かかるカラー画像信号を入力した飽和/高輝度領域検出回路107は、信号が飽和した飽和画素の有無を検出し、飽和画素がある場合には、撮像面上における飽和画素の座標を検出する。飽和画素としては、画素から出力される信号値(例えばR、G、B値)が最大値であるものを選択する。又、飽和画素に隣接している飽和画素がある場合、その全数nをカウントする。なお、画素から出力される信号値が最大値である画素のみならず、信号値が飽和闘値(例えばR、G、B値が最大値の95%)以上の画素を飽和画素としてもよい。但し、飽和画素として認定するのは、信号値が飽和闘値以上の画素が所定数以上(例えばn≧5)連続して並んでいる場合とする。これは白キズなどを誤って飽和画素として判別することを回避するためである。
次いで、画像入力装置MGは、露光量制御回路106の制御により、第1のシャッタスピードより速い第2のシャッタスピード(第1の露光量より少ない第2の露光量)を設定し、1枚の画像Img1を撮像する。ここで、第2のシャッタスピードは、実験やシミュレーション等により、点灯した赤信号やブレーキランプを撮像しても飽和画素が発生しないと予めわかっているシャッタスピードとしても良いし、シャッタスピードを漸次速く(1/2,1/4、1/8・・・)しながら複数回の撮像を行って、その都度飽和画素を検出し、最初に飽和画素が検出されなくなった撮像におけるシャッタスピードを第2のシャッタスピードとしても良い。
更に、飽和/高輝度領域検出回路107が、第2のシャッタスピードで撮像を行って得られたカラー画像信号より、信号値が高輝度闘値(飽和閾値より低く、例えばR、G、B値が最大値の95%未満、80%以上)以上の画素を高輝度画素として、その座標を検出する。但し、高輝度画素として認定するのは、信号値が高輝度闘値以上の画素が所定数以上(例えばn≧5)連続して並んでいる場合とする。
次に、画像入力装置MGは、シャッタスピードを第1のシャッタスピードに戻して撮像を行い、画像Img2を得る。例えば車載カメラに組み込まれた画像入力装置MGの場合、画像Img2と画像Img0との違いは、例えば車両の移動に応じて撮像シーンが変化することが主要因となって生じる。よって、シーン変化が少ない場合、画像Img2を新たに撮像する代わりに、既に撮像した画像Img0を用いても良い。
次に、飽和/高輝度領域検出回路107は、第1のシャッタスピードで撮像して得られた画像Img2(又は画像Img0)と、第2のシャッタスピードで撮像して得られた画像Img1から、撮像面における飽和画素と高輝度画素の座標を比較する。同じ座標を持つ画素がある場合、これらは同じ被写体を撮像したものと推定し、飽和領域色補正回路108が、画像Img1における高輝度画素からの信号に含まれる色度に合わせるように、同じ座標を持つ画像Img2(又は画像Img0)の飽和画素からの信号に含まれる色度を調整する。
また、飽和領域色補正回路108は、カラー画像信号R,G,Bを、輝度信号Yと色度信号Cb、Crとを含む色空間に変換する。
例えば、以下の式により輝度信号Y、色度信号Cb、Crを算出する。色度信号CbはBと輝度信号Yの色度(色差)信号を示し、色度信号CrはRと輝度信号Yの色度(色差)信号を示す。
Y=0.3R+0.59G+0.11B
Cb=−0.17R−0.33G+0.5B
Cr=0.5R−0.42G−0.08B
ここで、撮像面上x行y列に配置された画素の座標を(x、y)で表したとき、画像Img1の高輝度画素の1つである画素I1(x,y)の輝度信号はY1(x,y)、色度信号はCb1(x,y)、Cr1(x,y)とする。一方、画像Img2(又は画像Img0)の飽和画素において、同じ座標を持つ画素I2(x、y)がある場合、画素I2(x,y)の輝度信号はY2(x,y)、色度信号はCb2(x,y)、Cr2(x,y)であるが、信号値が飽和してしまっているため、各色成分の値がともに最大値になり、色度信号Cb2(x,y)、Cr2(x,y)が0に近い値になっている。そこで、画像Img2(又は画像Img0)の画素I2(x,y)の新しい色度を以下の式で算出する。
Cb’2(x,y)=Cb1(x,y)×Y2(x、y)/Y1(x,y)・・(1)
Cr’2(x,y)=Cr1(x,y)×Y2(x,y)/Y1(x、y)・・(2)
ここで、図3(a)に示す画像Img2(又は画像Img0)と、図3(b)に示す画像Img1とは、撮像上で被写体の位置が若干ずれることが多い。しかるに、図3(a)にハッチングで示すように、画像Img1の高輝度画素と同じ座標を持つ画像Img2(又は画像Img0)の飽和画素PX1(重合飽和画素という)の色度信号は、(1)、(2)式に基づいて、画像Img1の高輝度画素からの信号を、更に高輝度画素の輝度信号と飽和画素の輝度信号の比で増大することによって補正することができる。
一方、図3(a)に白抜きで示すように、画像Img1の高輝度画素と同じ座標を持っていない画像Img2(又は画像Img0)の飽和画素PX2(非重合飽和画素という)の色度信号は不明である。そこで、このような場合には、図3(b)に示すように、重合飽和画素PX1と同じ座標を持たない(或いは全ての)高輝度画素PX3の色度信号の平均値を求め、(1)、(2)式に代入して、重合飽和画素PX1に隣接した非重合飽和画素PX2の色度信号に置き換えることで補正する。これは、飽和画素は、例えば赤信号やブレーキランプなど高輝度被写体から照射された単色光によって飽和されたと推定するからである。但し、重合飽和画素PX1に隣接した非重合飽和画素PX2の補正された色度信号を、重合飽和画素PX1の色度信号に置き換えても良い。
このようにして、画像Img2(又は画像Img0)において、全ての飽和画素の輝度信号Y2(x,y)及び補正された色度信号Cb’2(x,y)、Cr’2(x,y)を求めることができる。
更に、画像入力装置MGは、画像Img2(又は画像Img0)の飽和画素以外の輝度を、画像Img1の信号を用いて補正することもできる。かかる補正は、まず、画像Img1の高輝度画素以外の画素(低輝度画素という)の座標と、画像Img2(又は画像Img0)の飽和画素以外の画素(非飽和画素という)の座標を比較することにより行う。同じ座標を持つ画素がある場合、非飽和画素の輝度信号を、それに対応する低輝度画素の輝度信号に置き換える。
一方、同じ座標を持つ画素がなければ、低輝度画素の周囲にある画素の輝度信号の平均値を求め、非飽和画素の輝度信号を、その平均値に置き換える。このようにして、画像Img2(又は画像Img0)において、全ての画素の輝度信号及び色度信号を求めることができたので、これからRGB値を算出して、適切なカラー画像信号を出力することができる。
画像入力装置MGは、1フレーム毎に、第1のシャッタスピードと第2のシャッタスピードで繰り返し撮像することができる。図4に示すように、第1のシャッタスピードで撮像された画像Aから飽和画素を検出し、第2のシャッタスピードで撮像された画像Bの高輝度画素の信号より、先の画像Aの飽和画素の信号を補正する。このとき、画素が飽和しない画像Bを表示せず、補正された画像Aのみを表示する。従って、1枚置きに動画のフレームを表示することになる。尚、1枚の画像Bの高輝度画素の信号より、複数枚(例えば2枚)の画像Aを補正することも出来る。よって、この場合におけるフレームは、B,A,A,B,A,A・・・という順序で並ぶが、表示されるのは補正された画像Aだけである。画像B、B間に3枚以上の画像Aがあってもよい。
尚、撮像枚数カウント回路104が、第1のシャッタスピードで撮像された画像の枚数をカウントして、積算枚数が所定の枚数となったことを検出した場合、露光量制御回路106は、所定の枚数目の画像から検出された飽和領域が飽和しないように、第2のシャッタスピードで撮像を行うよう露光量を制御することができる。
以上の補間画像処理は、飽和/高輝度領域検出回路107が飽和画素を検出しない限り行う必要はない。無駄な処理をなくすためである。飽和/高輝度領域検出回路107が飽和画素を検出したときから、上記補間画像処理を行えばよい。
更に、被写体の動きを予想して、飽和画素と高輝度画素の撮像面上の位置合わせを行うことも可能である。例えば、車載カメラで撮像を行っている場合、信号機などの定地物は、車両の移動に応じて画面上を移動する。そこで、現在の車速とフレーム間隔とから、被写体の撮像面上の移動方向及び移動量を検出して、前後フレームでの位置ズレを抑制して、飽和画素と高輝度画素の位置合わせを精度良く行うことが出来る。
又、飽和画素の発生頻度が少ない(例えば、30フレーム間における飽和画素の発生回数が閾値以下)場合には、上述した補間画像処理の頻度を減らすか、全く補間画像処理を行わなくても良い。飽和画素の発生頻度が少なければユーザーが気にならない場合もあるからであり、それにより処理の無駄を省くことができる。
更に、車両の速度に連動して、上述した補間画像処理の頻度を調整することもできる。例えば車両の速度が高い場合は、補間画像処理の頻度を小さくし、車両の速度が低い場合は、補間画像処理の頻度を高くする。これにより飽和画素と高輝度画素の補間をしやすくなり、前後フレームにおける同じ領域の画素の座標ズレを抑えることができる。
(第2の実施の形態)
図5は、第2の実施の形態に係る画像入力装置MGの概略図である。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、検出手段である飽和領域検出回路111,フレア領域検出回路112、処理手段である飽和領域色補正回路113を含む。撮像素子102,画像取得回路103は、上述した実施の形態と同様である。又、飽和画素の検出は、上述した処理と同様に行うことができる。
画像入力装置MGの画像処理について説明する。例えば図2に示すように、夜間のシーンにおいて、周囲が暗い中で、ハロゲン光を発する赤信号SRや自動車VHのブレーキランプBLなどの高輝度発光体を撮像した場合、その被写体像が結像した画素が飽和したときは、その周囲の画素がフレア光FLを検出する可能性が高い。フレア光は、高輝度の被写体を撮像した場合において、ゴーストや迷光が原因となって発生することが多い。
飽和領域検出回路111が、上述した第1の実施の形態と同様にして飽和画素を検出したときは、フレア領域検出回路112が、フレア光を受光した画素(フレア画素という)を検出する。尚、飽和画素に隣接した非飽和画素がある場合、フレア画素と推定できる。
更にフレア領域検出回路112は、フレア画素からの信号に含まれる輝度信号の平均値Yfと、色度信号の平均値Cbf、Crfを算出する。
ここで、飽和領域色補正回路113は、記憶した図6に示すJIS規格の安全色光の色度座標系において、フレア画素からの信号に含まれる色度信号の平均値Cbf、Crf(色度座標)を点Pとしてプロットする。更に、白色を示す領域WRの中心を原点Oとし、原点Oから点Pに直線を引き、その直線の点P側を延長したときに、かかる延長線が赤色の領域RRを通過した場合、飽和画素に結像した被写体光は本来的には赤色を含んでいると推定する。よって、JIS規格の安全色光の赤色に従い、飽和画素の色度信号を補正することで、撮像された画像の適正なRGB値を得ることができる。明らかであるが、その延長線が黄色の領域YRを通過した場合、飽和画素に結像した被写体光は本来的には黄色を含んでおり、その延長線が緑色の領域GRを通過した場合、飽和画素に結像した被写体光は本来的には緑色を含んでいると推定出来、同様に補正できる。
一般的にフレア光は、高輝度光源の周囲で、その光源の色でにじんだような色を持つため、色度は必ずしも光源と一致しない。一方、JIS規格では、信号機や自動車用ランプなどの色の色度座標の範囲を規定している。よって、飽和領域色補正回路113が、それらを予め記憶し、フレア画素からの平均色度信号を用いて、最も近い色度を飽和画素の信号における色度として推定するのである。
尚、飽和画素に隣接する画素のみならず、飽和画素から5画素以内で離れた非飽和画素をフレア画素と認定しても良い。
別の画像処理として、飽和領域色補正回路113は、飽和画素及びそれに隣接した(5画素以内を含む)非飽和画素を含む領域における画素からの信号を、平滑化フィルタを通過させることで平滑化信号を作成し、これを飽和画素からの信号に置き換えることもできる。飽和画素及びそれに隣接した非飽和画素を含む領域における画素からの信号を、平滑化フィルタを通過させると、周囲の色を飽和領域に惨ませることができるため、フレア光を用いずとも、ある程度本来の色を推定できるからである。かかる例では、フレア領域検出回路112は不要となる。
(第3の実施の形態)
図7は、第3の実施の形態に係る画像入力装置MGの概略図である。画像入力装置MGは、レンズ101、撮像手段である撮像素子102(A/D変換部を含む),画像取得回路103、検出手段である信号機検出回路114及び点灯信号検出回路115、信号位置検出回路116,処理手段である信号色推定回路117及び信号色付与回路118を含む。撮像素子102,画像取得回路103は、上述した実施の形態と同様である。又、飽和画素の検出は、上述した処理と同様に行うことができる。
本実施の形態にかかる画像入力装置MGは、パターン認識技術を用いて、信号機を検出するものである。具体的には、前記処理手段は、特定間隔で並んだ3つの円形パターンを記憶しており、信号機検出回路114は、画像取得回路103から出力されたカラー画像信号において、近距離にある大きさがほぼ等しい3つの円を含み、それらの重心が水平もしくは垂直に一直線で並んでいる被写体があった場合、かかる被写体を信号機として認識することができる。
ところで、夜間シーンにおいて、信号機のいずれかの色が発光していた場合、飽和画素が生じる恐れがあり、点灯している色がわからなくなる恐れがある。しかしながら、信号機は各国の規則により形状と点灯色が定まっている。例えば、日本国内では、点灯色は左から「青色、黄色、赤色」の順である。そこで、点灯信号検出回路115が1つの円形パターンに応じていずれかの画素が飽和したことを検出した場合には、信号色推定回路117が、3つの円に対応する画素のうち、左側の円に相当する画素が飽和画素である場合、かかる画素から青色の光が投射されていると判断し、中央の円に相当する画素が飽和画素である場合、かかる画素から黄色の光が投射されていると判断し、右側の円に相当する画素が飽和画素である場合、かかる画素から赤色の光が投射されていると判断できる。信号色付与回路118は、飽和画素からの色度信号を、図6に示す安全色光の色度座標系に従って青色、黄色、赤色のいずれかの色に補正して出力する。飽和画素の輝度信号は、検出された3つの円に対応した画素の輝度信号の平均値として良い。以上のようにして飽和画素の色度信号を補正することで、撮像された画像の適正なRGB値を得ることができる。
尚、信号位置検出回路116は、例えばGPS情報等から信号機の緯度・経度を求め、信号機が位置する緯度・経度付近を走行しているときにのみ、信号機検出回路114に信号機を検出させても良い。これにより、信号機の誤検出を抑制できる。
本発明は、車載カメラや監視カメラ等に適用可能であるが、用途はそれに限られない。
101 レンズ
102 撮像素子
103 画像取得回路
104 撮像枚数カウント回路
105 露光量算出回路
106 露光量制御回路
107 飽和/高輝度領域検出回路
108 飽和領域色補正回路
111 飽和領域検出回路
112 フレア領域検出回路
113 飽和領域色補正回路
114 信号機検出回路
115 点灯信号検出回路
116 信号位置検出回路
117 信号色推定回路
118 信号色付与回路
BL ブレーキランプ
FL フレア光
MG 画像入力装置
O 原点
P 点
PX1 重合飽和画素
PX2 非重合飽和画素
PX3 高輝度画素
RR 赤色領域
SR 赤信号
VH 自動車
WR 白色領域

Claims (2)

  1. 被写体像を撮像し、それに応じてカラー画像信号を出力する複数の画素を備えた撮像手段と、
    前記撮像手段が出力したカラー画像信号を画像処理する処理手段と、
    前記撮像手段のいずれかの画素が飽和したことを検出する検出手段と、を有し、
    前記検出手段が、前記撮像手段の撮像により、前記撮像手段のいずれかの画素が飽和したことを検出したときは、前記処理手段は、飽和した飽和画素の周囲に配置された周囲画素より出力されたカラー画像信号に基づいて、前記飽和画素が出力したカラー画像信号を補正し、
    前記周囲画素はフレア成分を検出し、前記処理手段は、前記周囲画素から出力されたカラー画像信号の色度座標と、所定の色度座標系の原点との相対関係から、前記飽和画素が出力したカラー画像信号の色度座標を推定して補正することを特徴とする画像入力装置。
  2. 前記処理手段は、前記飽和画素と前記周囲画素から出力されたカラー画像信号を、平滑化フィルタを通過させ、平滑化された信号を用いて前記飽和画素が出力したカラー画像信号を補正することを特徴とする請求項1に記載の画像入力装置。
JP2013236827A 2009-04-07 2013-11-15 画像入力装置 Expired - Fee Related JP5668951B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013236827A JP5668951B2 (ja) 2009-04-07 2013-11-15 画像入力装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009092588 2009-04-07
JP2009092588 2009-04-07
JP2013236827A JP5668951B2 (ja) 2009-04-07 2013-11-15 画像入力装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2011508338A Division JP5454572B2 (ja) 2009-04-07 2010-03-30 画像入力装置

Publications (2)

Publication Number Publication Date
JP2014060779A JP2014060779A (ja) 2014-04-03
JP5668951B2 true JP5668951B2 (ja) 2015-02-12

Family

ID=42936207

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2011508338A Expired - Fee Related JP5454572B2 (ja) 2009-04-07 2010-03-30 画像入力装置
JP2013236827A Expired - Fee Related JP5668951B2 (ja) 2009-04-07 2013-11-15 画像入力装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2011508338A Expired - Fee Related JP5454572B2 (ja) 2009-04-07 2010-03-30 画像入力装置

Country Status (2)

Country Link
JP (2) JP5454572B2 (ja)
WO (1) WO2010116922A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5750291B2 (ja) * 2011-04-07 2015-07-15 日立オートモティブシステムズ株式会社 画像処理装置
JP5272041B2 (ja) * 2011-05-12 2013-08-28 富士重工業株式会社 環境認識装置および環境認識方法
JP5803505B2 (ja) * 2011-09-28 2015-11-04 株式会社デンソー 映像処理装置
JP5832855B2 (ja) 2011-11-01 2015-12-16 クラリオン株式会社 画像処理装置、撮像装置および画像処理プログラム
JP5397714B1 (ja) * 2012-08-01 2014-01-22 株式会社ジェイエイアイコーポレーション 監視用カメラ装置
JP6206299B2 (ja) * 2013-08-29 2017-10-04 株式会社Jvcケンウッド 撮像装置および撮像画像の色補正方法
KR101606476B1 (ko) 2014-04-02 2016-03-25 한양대학교 산학협력단 카메라의 다중 노출 영상을 이용한 신호등 자동 인식 장치 및 방법
JP6428245B2 (ja) * 2014-12-19 2018-11-28 日亜化学工業株式会社 発光装置
JP6616573B2 (ja) * 2015-01-27 2019-12-04 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置
JP6859659B2 (ja) * 2016-10-25 2021-04-14 株式会社リコー 情報処理装置、情報処理方法およびプログラム
JP6948243B2 (ja) * 2017-12-15 2021-10-13 フォルシアクラリオン・エレクトロニクス株式会社 信号機認識装置
JP7226986B2 (ja) 2018-12-14 2023-02-21 株式会社デンソーテン 画像処理装置および画像処理方法
JP7203586B2 (ja) 2018-12-14 2023-01-13 株式会社デンソーテン 画像処理装置および画像処理方法
JP7203587B2 (ja) 2018-12-14 2023-01-13 株式会社デンソーテン 画像処理装置および画像処理方法
JP7141940B2 (ja) 2018-12-14 2022-09-26 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095620A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置および画像処理方法
JP7195131B2 (ja) 2018-12-14 2022-12-23 株式会社デンソーテン 画像処理装置および画像処理方法
JP7252750B2 (ja) 2018-12-14 2023-04-05 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095623A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置および画像処理方法
JP2020095624A (ja) 2018-12-14 2020-06-18 株式会社デンソーテン 画像処理装置、および画像処理方法
JP7359541B2 (ja) 2018-12-14 2023-10-11 株式会社デンソーテン 画像処理装置および画像処理方法
JP7236857B2 (ja) * 2018-12-14 2023-03-10 株式会社デンソーテン 画像処理装置および画像処理方法
WO2024053824A1 (ko) * 2022-09-07 2024-03-14 삼성전자 주식회사 이미지를 제공하는 전자 장치 및 그의 동작 방법

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3836237B2 (ja) * 1997-12-26 2006-10-25 富士写真フイルム株式会社 画像修正方法および装置
JP4040171B2 (ja) * 1998-04-24 2008-01-30 キヤノン株式会社 信号処理装置
JP3707725B2 (ja) * 2000-05-30 2005-10-19 松下電器産業株式会社 静止画固体撮像装置
JP3985134B2 (ja) * 2001-12-25 2007-10-03 ソニー株式会社 撮像装置及びその画像合成方法
JP4031299B2 (ja) * 2002-06-21 2008-01-09 富士フイルム株式会社 カラー画像信号処理方法およびカラー画像出力装置並びに撮影装置
JP2005284423A (ja) * 2004-03-29 2005-10-13 Seiko Epson Corp 画像処理装置、および、画像処理方法
JP4272221B2 (ja) * 2006-07-25 2009-06-03 株式会社アクセル カラー画像動き検出回路、多重カラー画像統合装置およびカラー画像動き検出方法
JP4700656B2 (ja) * 2007-06-20 2011-06-15 オリンパス株式会社 電子撮像装置

Also Published As

Publication number Publication date
JP5454572B2 (ja) 2014-03-26
JP2014060779A (ja) 2014-04-03
JPWO2010116922A1 (ja) 2012-10-18
WO2010116922A1 (ja) 2010-10-14

Similar Documents

Publication Publication Date Title
JP5668951B2 (ja) 画像入力装置
JP5852637B2 (ja) 矢印信号認識装置
JP4863951B2 (ja) 信号機認識装置
JP5435307B2 (ja) 車載カメラ装置
US9758086B2 (en) Vehicle lamp control device
EP2471691A1 (en) Obstacle detection device, obstacle detection system provided therewith, and obstacle detection method
JP2010286791A5 (ja)
JP5921983B2 (ja) 車載撮像装置
JP5071198B2 (ja) 信号機認識装置,信号機認識方法および信号機認識プログラム
WO2015015580A1 (ja) 撮像装置、撮像方法並びに車載撮像システム
JP2018526851A (ja) 振幅変調光のフリッカ補正のためのビデオストリーム画像処理システムおよび方法
JP2014171214A (ja) 画像処理装置
JP2013005234A5 (ja)
US20140055572A1 (en) Image processing apparatus for a vehicle
JP2012190258A (ja) エッジ点抽出装置、車線検出装置、およびプログラム
CN110915204B (zh) 图像处理装置、图像处理方法、存储介质和成像装置
JP6267493B2 (ja) 矢印信号灯検出装置
JP6478138B2 (ja) 画像処理装置、撮像装置、画像処理プログラム、画像処理方法
JP5545596B2 (ja) 画像入力装置
JP6266022B2 (ja) 画像処理装置、警報装置、および画像処理方法
JP2022188888A (ja) 画像処理装置および画像処理方法
JP2023134013A (ja) 画像処理装置
US20120206628A1 (en) Noise suppression
JP7116001B2 (ja) 撮像装置及び画像処理方法
JP2007013777A (ja) 撮像装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141202

R150 Certificate of patent or registration of utility model

Ref document number: 5668951

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees