[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP4450799B2 - 対象画像検出装置の制御方法 - Google Patents

対象画像検出装置の制御方法 Download PDF

Info

Publication number
JP4450799B2
JP4450799B2 JP2006065054A JP2006065054A JP4450799B2 JP 4450799 B2 JP4450799 B2 JP 4450799B2 JP 2006065054 A JP2006065054 A JP 2006065054A JP 2006065054 A JP2006065054 A JP 2006065054A JP 4450799 B2 JP4450799 B2 JP 4450799B2
Authority
JP
Japan
Prior art keywords
data representing
image
memory
feature
target image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006065054A
Other languages
English (en)
Other versions
JP2007241782A5 (ja
JP2007241782A (ja
Inventor
幸博 河田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2006065054A priority Critical patent/JP4450799B2/ja
Priority to US11/715,335 priority patent/US7873186B2/en
Publication of JP2007241782A publication Critical patent/JP2007241782A/ja
Publication of JP2007241782A5 publication Critical patent/JP2007241782A5/ja
Application granted granted Critical
Publication of JP4450799B2 publication Critical patent/JP4450799B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/242Aligning, centring, orientation detection or correction of the image by image rotation, e.g. by 90 degrees
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

この発明は,対象画像検出装置およびその制御方法に関する。
被写体像の中から顔の画像などの対象画像を検出することが考えられている。検出された顔画像の部分が適正な明るさとなるような処理が実現できるようになる。
たとえば,顔の特徴を表すデータがあらかじめデータベースに格納されており,このデータベースに格納されている特徴を表すデータを用いて,被写体像の中から顔の画像が検出される(特許文献1)。
特開2001-216515号公報
顔の画像などの対象画像の検出精度を向上させるためには,多くの特徴を表すデータをデータベースに格納しなければならない。しかしながら,データベースに格納できる特徴を表すデータには限りがある。
この発明は,特徴を表すデータを追加できるようにすることを目的とする。
この発明による対象画像の検出装置は,被写体像の中から対象画像を検出するために利用される第1の特徴量を表すデータを記憶する第1のメモリ,上記対象画像を検出するために利用される第2の特徴量を表すデータを書き換え可能に記憶する第2のメモリから上記第2の特徴量を表すデータを読取る読取手段,上記第1のメモリに記憶されている第1の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出する第1の対象画像検出回路,ならびに上記読取手段によって読取られた第2の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出する第2の対象画像検出回路を備えていることを特徴とする。
この発明は,上記対象画像検出装置に適した制御方法も提供している。すなわち,この方法は,被写体像の中から対象画像を検出するために利用される第1の特徴量を表すデータを書き換え不能の第1のメモリに記憶しておき,上記対象画像を検出するために利用される第2の特徴量を表すデータを記憶する第2のメモリから上記第2の特徴量を読取り,上記第1のメモリに記憶されている第1の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出し,上記読取られた第2の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出するものである。
第1の対象画像検出回路と第2の検出回路とは共通のものでもよいし,異なるものでもよい。
この発明によると,被写体像の中から対象画像(顔の画像など)を検出するために利用される第1の特徴量を表すデータが第1のメモリ(書き換え可能なものでも,不能なものでもよい)に記憶されている。この第1のメモリに記憶されている第1の特徴量を表すデータを用いて対象画像の検出処理が行われる。また,この発明による対象画像検出装置には,第2のメモリ(書き換え可能なものであっても書き換え不能なものであってもよい。)から第2の特徴量を表すデータを読取る読取手段(接続端子,入力手段,第2の特徴量を表すデータが送信される場合には受信手段)が設けられている。第2のメモリから読取られた第2の特徴量を表すデータを用いても対象画像の検出処理を行うことができる。
たとえば,第1のメモリには対象画像を検出するために利用される特徴量のうち基本的な特徴量を記憶しておき,第2のメモリには,対象画像の検出精度を向上させる,あるいは,より詳細な対象画像を検出できるような追加的な特徴量を記憶させる。普及機と考えられるような対象画像検出装置においては,第2のメモリを接続しないで(第2の特徴量を表すデータを入力しないで)基本的な対象画像を検出できるようにし,高級機と考えられるような対象画像検出装置においては,第2のメモリを接続して様々な対象画像を検出できるようにできる。また,第1のメモリには,第1の対象画像(たとえば,人間以外の特定対象物,車,建物,人間の顔の画像)を検出するために利用される第1の特徴量を表すデータを記憶しておき,第2のメモリには,第1の対象画像とは異なる第2の対象画像(たとえば,人間以外の動物,魚類の顔の画像など)を検出するために利用される第2の特徴量を表すデータを記憶することもできる。第1のメモリに記憶されている第1の特徴量を表すデータを利用して,人間の顔の画像を検出できるし,第2のメモリに記憶されている第2の特徴量を表すデータを利用して,人間以外の動物や魚類の顔の画像を検出できるようになる。
上記第2のメモリが書き換え可能なものの場合には,上記第2の特徴量を表すデータを,上記第2のメモリに書き込む書き込み制御手段をさらに備えるようにしてもよい。
人間の顔の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第1の書き込みモードと人間を除く特定対象物の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第2の書き込みモードとを設定可能な書き込みモード設定手段,および上記人間の顔の画像の特徴量を表すデータと上記特定対象物の画像の特徴量を表すデータとを入力する特徴量データ入力手段をさらに備えてもよい。この場合,上記書き込み制御手段は,上記書き込みモード設定手段により第1の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記人間の顔の画像の特徴量を表すデータを上記接続端子に接続された第2のメモリに書き込み,上記書き込みモード設定手段により第2の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記特定対象物の画像の特徴量を表すデータを上記第2のメモリに書き込むものとなろう。人間の顔の画像と動物の顔の画像とを検出できるようになる。
上記読取手段に,上記第2のメモリが接続されていてもよい。
上記第1のメモリは,たとえば,人間の正面からの顔の画像のうち,正立像を含む画像の特徴量を表すデータを第1の特徴量として記憶しているものであり,上記第2のメモリは,たとえば,人間の正面からの顔の画像のうち,正立像を除く角度の画像および人間を除く特定対象物の画像の少なくとも一方の画像の特徴量を表すデータを第2の特徴量を表すデータとして記憶しているものである。
被写体を撮像し,被写体像を表す画像データを出力する撮像装置をさらに備えてもよい。この場合,上記第1の対象画像検出回路および上記第2の対象画像検出回路は,上記撮像装置から出力された画像データによって表される被写体像の中から上記対象画像を検出するものとなろう。
上記読取手段に,書き換え可能な上記第2のメモリが接続されている場合には,上記対象画像検出回路によって検出された対象画像から対象画像の特徴量を抽出する特徴量抽出手段,および上記特徴量抽出手段によって抽出された特徴量を表すデータを,上記第2の特徴量を表すデータとして上記第2のメモリに書き込む書き込み制御手段をさらに備えてもよい。第2のメモリは,書き換え可能なものであるから,撮像によって得られた被写体像の中に含まれている対象画像の特徴を第2のメモリに書き込むことができ,第2のメモリに記憶されている特徴量を更新できる。
上記読取手段に,書き換え可能な上記第2のメモリが接続されている場合には,被写体像を再生する再生回路,上記再生回路によって再生された被写体像に含まれている対象画像から対象画像の特徴量を抽出する特徴量抽出手段,および上記特徴量抽出手段によって抽出された特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む書き込み制御手段をさらに備えてもよい。所望の被写体像を再生することにより,その被写体像に含まれる対象画像の特徴を第2のメモリに書き込むことができる。特定の対象画像(たとえば,特定の人物についての顔の画像)の特徴を第2のメモリに書き込むことができるので,その特定の対象画像の検出精度を向上させることができる。
上記読取手段に,書き換え可能な上記第2のメモリが接続されている場合には,上記第2の特徴量を表すデータを入力する特徴量データ入力手段,および上記特徴量データ入力手段から入力した上記第2の特徴量を表すデータを上記第2のメモリに書き込む書き込み制御手段を備えてもよい。たとえば,対象画像検出装置と第2の特徴量を表すデータが記憶されているパーソナル・コンピュータ,対象画像検出装置などの外部装置とが接続されることにより,その接続された外部装置に記憶されている第2の特徴量を表すデータが対象画像検出装置に入力することにより,その外部装置に記憶されている第2の特徴量を表すデータを上記第2のメモリに記憶させることができるようになる。第2のメモリに記憶されている第2の特徴量を表すデータを更新できる。
上記第1のメモリには,対象画像としての人間の顔の画像を検出するために利用される第1の特徴量を表すデータが記憶され,上記読取手段に,対象画像として人間を除く特定対象物の画像を検出するために利用される第2の特徴量を表すデータが記憶されている上記第2のメモリが接続されていてもよい。この場合,人間の顔の画像の検出モードまたは人間を除く特定対象物の画像の検出モードを設定する検出モード設定手段をさらに備える。そして,上記第1の対象画像検出回路は,上記検出モード設定手段によって人間の顔の画像の検出モードが設定されたことに応じて,上記第1のメモリに記憶されている第1の特徴量を表すデータを用いて,与えられる被写体像の中から上記人間の顔の画像の画像を検出するものであり,上記第2の対象画像検出回路は,上記検出モード設定手段によって人間を除く特定対象物の画像の検出モードが設定されたことに応じて,上記第2のメモリに記憶されている第2の特徴量を表すデータを用いて,与えられる被写体像の中から上記特定対象物の画像を検出するものとなろう。設定された検出モードに応じて,人間の顔の画像または動物もしくは魚類の顔の画像を検出することができるようになる。
まず,この実施例における顔画像の検出の方法について説明する。
図1は,被写体像Iの一例である。この被写体像Iの中から顔画像が検出される。もっとも,検出すべき対象画像は顔画像に限らないのはいうまでもない。
被写体像I上に,サーチ・エリアFが規定される。このサーチ・エリアFは,所定距離ずつ移動させられて被写体像I全体を走査させられる。それぞれの移動位置において,サーチ・エリアF内における画像と顔画像の特徴量とが比較される。この特徴量は,そのサーチ・エリアF内の画像が顔の画像である場合に,その顔の画像がもつ特徴を示すものである。たとえば,目がある位置に目の画像と考えられる画像部分が存在するか,鼻がある位置に鼻の画像と考えられる画像部分が存在するかなどの特徴量である。
図1においては,サーチ・エリアFは一つのエリアが図示されているが,異なる大きさをもつサーチ・エリアが規定されており,それぞれの大きさのサーチ・エリアを用いて被写体像I上が走査されて顔の画像が検出される。
図2は,特徴量とスコアとを示している。
サーチ・エリア内の画像の所定の位置の画素値,サーチ・エリア内の画像に対してフィルタ処理が行われた場合におけるサーチ・エリア内の所定の位置の画素値,画素値の差などが特徴量として規定されている。これらの特徴量に対応してスコアが規定されている。それぞれの特徴量から得られるスコアが,たとえば加算されることにより,そのサーチ・エリア内の画像の顔らしさが得られる。得られた顔らしさが所定のしきい値以上であれば,そのサーチ・エリア内の画像が顔の画像と決定される。
図3は,この実施例による顔検出装置の電気的構成を示すブロック図である。
顔画像が検出される被写体像を表す被写体像データが入力インターフェイス1から顔検出装置10に入力する。入力した被写体像データは,前処理回路2において顔検出処理に適するような処理が行われる。前処理回路2から出力された被写体像データは,メモリ3に与えられ,一時的に記憶される。
被写体像データは,メモリ3から読み出され,スキャニング回路4に入力する。スキャニング回路4において,上述したように(図1参照),サーチ・エリアFが被写体像上を所定距離ずつ移動させられて,サーチ・エリアF内の画像が切り出される。切り出されたサーチ・エリアF内の画像を表す画像データは,比較回路5に入力する。
顔検出装置10には,ROM6が含まれている。このROM6には,図4に示すように,正面から見て傾きが0度の顔画像,傾きが90度の顔画像,傾きが180度の顔画像および傾きが270度の顔画像が検出できるような基本特徴量を表すデータが記憶されている。基本特徴量を表すデータは,ROM6から読み出されて比較回路5に入力する。
比較回路5において,切り出された画像を表す画像データと,基本特徴量を表すデータとが比較されて,顔らしさを表すデータが得られる。顔らしさを表すデータは,顔決定回路8に入力する。顔らしさを表すデータが所定のしきい値以上であれば,その顔らしさを表すデータが得られたときのサーチ・エリアの位置が顔の位置を表すデータとして顔決定回路8から出力される。スキャニング回路4からはサーチ・エリアFの位置を表すデータが出力され,比較回路5を介して顔決定回路8に与えられているのはいうまでもない。
この実施例の顔検出装置10には,フラッシュROM(書き換え可能な不揮発性のメモリ)11が接続端子7によって着脱自在に接続されている。フラッシュROM11には,図5に示すように,正面から見て傾きが30度の顔画像,傾きが60度の顔画像,傾きが120度の顔画像,傾きが150度の顔画像,傾きが210度の顔画像,傾きが240度の顔画像,傾きが300度の顔画像および傾きが330度の顔画像ならびに図6(A)および(B)に示すように左向きの顔画像および右向きの顔画像を検出できるようなオプション特徴量を表すデータが記憶されている。フラッシュROM11からオプション特徴量を表すデータが読み出されて比較回路5に与えられることにより,基本特徴量を表すデータにもとづく顔画像の検出処理と同様にして,傾きが30度等の顔画像が検出されるのは理解できよう。
フラッシュROM11の装着の有無に応じて,顔画像の検出精度を変えることができる。たとえば,顔検出装置10を利用する装置が高級機であれば,フラッシュROM11が接続されている顔検出装置10を利用すれば良いし,顔検出装置10を利用する装置が普及機であれば,フラッシュROM11が接続されていない顔検出装置10を利用すればよい。また,フラッシュROM11は書き換え可能なものであるから,オプション特徴量を書き換え,または追加することにより,検出精度等をさらに向上させることができる。接続端子7に接続されるメモリは書き換え可能な不揮発性メモリであればよく,必ずしもフラッシュROM11に限定されるものではない。たとえば,EEPROM(electrically erasable programmable read only memory)などでもよい。必要に応じて,接続端子7にフラッシュROM11が接続されているかどうかを検出する回路を設けてもよい。もっともフラッシュROM11の代わりに書き換えることができないROMを接続してもよい。ROMに,オプション特徴量を表わすデータか確認しておくことにより,そのオプション特徴量を表わすデータをROMから読出して上述したのと同様に顔画像の検出処理を実行できる。
図7は,基本特徴量を用いて顔画像を検出する処理手順を示すフローチャートである。
上述のように,被写体像を表す被写体像データが顔画像検出装置に入力し(ステップ21),サーチ・エリアFによって被写体像がスキャニングされる(ステップ22)。ROM6に記憶されている基本特徴量を表す特徴量データが読み出され,読み出された特徴量データを用いて被写体像の中から顔画像が検出される(ステップ23)。ROM6に記憶されているすべての基本特徴量を用いた検出処理が終了するまでステップ23に示す顔画像検出処理が繰り返される(ステップ24)。
上述したようにROM6には正面から見て傾き0度,90度,180度および270度の顔の画像を検出する基本特徴量を表すデータが記憶されているから,顔検出処理によって傾き0度,90度,180度および270度の顔画像が検出されることとなる。
図8は,基本特徴量とオプション特徴量とを用いて顔画像を検出する処理手順を示すフローチャートである。この図において図7に示す処理と同じ処理については同一符号を付して説明を省略する。
上述のように基本特徴量を用いて顔画像を検出する処理が終了すると(ステップ21〜24),フラッシュROM11に記憶されているオプション特徴量を表す特徴量データが読み出される。読み出されたオプション特徴量を表す特徴量データを用いて顔画像検出処理が行われる(ステップ25)。フラッシュROM11に記憶されているすべての特徴量を表すデータを用いて顔画像の検出処理が終了するまでステップ25の処理が繰り返される(ステップ26)。
上述したように,フラッシュROMには,正面から見て傾き30度,60度,120度,150度,210度,240度,300度および330度ならびに右側面および左側面の顔画像を検出するためのオプション特徴量を表す特徴量データが記憶されているから,正面から見て傾き0度,90度,180度および270度の顔画像の他に,正面から見て傾き30度,60度,120度,150度,210度,240度,300度および330度ならびに右側面および左側面の顔画像が検出されることとなる。
図9は,他の実施例を示すもので,顔検出装置の電気的構成を示すブロック図である。この図において,図1に示すものと同一物については同一符号を付して説明を省略する。
この実施例による顔検出装置においては,フラッシュROM11への特徴量データの書き込み,フラッシュROM11に記憶されているオプション特徴量データの書き換えができるものである。このために顔検出装置には,書き換え制御回路12および入出力インターフェイス13が設けられている。また,比較回路1とROM6およびフラッシュROM11との間にはデータ切り替え回路9が設けられている。データ切り替え回路9によってROM6に記憶されている基本特徴量データの読み出しとフラッシュROM11に記憶されているオプション特徴量データの読み出しとが切り替えられる。ROM6には,図10にも示されているように,人の間画像の特徴量のうち正面から見て0度,90度,180度および270度の顔画像を検出するためのものが記憶されている。
顔検出装置の外部から与えられるオプション特徴量データは,入出力インターフェイス13を介して書き換え制御回路12に与えられる。書き換え制御回路12によって,顔検出装置の外部から与えられたオプション特徴量データがフラッシュROM11に書き込まれる。
この実施例による顔検出装置においては,特徴量モード・ダイアル14も設けられている。特徴量モード・ダイアル14では,フラッシュROM11に書き込むべきオプション特徴量を表すデータの種類の設定およびフラッシュROM11に記憶されているオプション特徴量のうち所定の種類のオプション特徴量データの読み出しを設定することができる。特徴量を書き込むモードには,たとえば,人の顔画像のオプション特徴量を書き込むモード,人以外の動物(犬,猫など)の顔画像のオプション特徴量を書き込むモード,魚類の顔画像のオプション特徴量を書き込むモードがある。特徴量書き込みモード・ダイアル14によって設定された書き込みモードを示す信号は,書き換え制御回路12に入力する。書き込みモードを示す信号に応じて,顔検出装置に外部から入力したオプション特徴量データの記憶場所が異なるように書き換え制御回路12によってフラッシュROM11が制御される。
たとえば,特徴量モード・ダイアル14によって人の顔の特徴量を書き込むモードが設定されると,外部から与えられた人の顔の特徴量データがフラッシュROM11の所定のアドレスに書き込まれる。これにより,たとえば,図11に示すように,正面から見て30度,60度,120度,150度,210度,240度,300度および330度ならびに右側面から見て30度置きおよび左側面から見て30度置きの人の顔画像を検出するために用いられる人の顔画像の特徴量を表すデータがフラッシュROM11に書き込まれることとなる。同様にして,特徴量モード・ダイアル14によって動物の顔の特徴量を書き込むモードが設定されると,図12(A)に示すように,正面から見て30度置きの動物の顔画像,右側面から見て30度置きの動物の顔画像および左側面から見て30度置きの動物の顔画像を検出するために用いられる動物の顔画像を検出するためのオプション特徴量データがフラッシュROM11の所定のアドレスに書き込まれる。また,特徴量モード・ダイアル14によって魚類の顔の特徴量を書き込むモードが設定されると,図12(B)に示すように,正面から見て30度置きの魚類の顔画像,右側面から見て30度置きの魚類の顔画像および左側面から見て30度置きの魚類の顔画像を検出するために用いられる魚類の顔画像を検出するためのオプション特徴量データがフラッシュROM11の所定のアドレスに書き込まれる。
図13は,オプション特徴量書き込み処理手順を示すフローチャートである。
上述したように,特徴量モード・ダイアル14によって書き込みモードが設定される(ステップ31)。人の顔の特徴量を書き込むモードに設定されると(ステップ32でNO),人の顔画像の特徴量データがフラッシュROM11の所定のアドレスに書き込まれる(ステップ33)。動物の顔の特徴量を書き込むモードが設定されると(ステップ32でNO,ステップ34でYES),動物の顔画像の特徴量データがフラッシュROM11の所定のアドレスに書き込まれる(ステップ35)。魚類の顔の特徴量を書き込むモードが設定されると(ステップ32および34でNO,ステップ36でYES),魚類の顔画像の特徴量データがフラッシュROM11の所定のアドレスに書き込まれる(ステップ37)。
図14は,顔画像検出処理手順を示すフローチャートである。
被写体像を表す被写体像データが顔検出装置に入力する(ステップ41)。上述のようにしてサーチ・エリア内の画像が切り出される(ステップ42)。
切り出された画像と,ROM6またはフラッシュROM11に記憶されている特徴量データのうち,正面から見て0度,90度,180度および270度の特徴量データによって表される特徴量とが比較されて顔らしさの算出処理が行われる(照合)(ステップ43)。つづいて,切り出された画像と,正面から見て30度,60度,120度,150度,210度,240度,300度および330度の特徴量データによって表される特徴量とが比較されて顔らしさの差出処理が行われる(ステップ44)。以下同様にして,切り出された画像と右側面から見て0度,90度,180度および270度の特徴量データによって表される特徴量との照合処理(ステップ45),右側面から見て30度,60度,120度,150度,210度,240度,300度および330度の特徴量データによって表される特徴量との照合処理(ステップ45),左側面から見て0度,90度,180度および270度の特徴量データによって表される特徴量との照合処理(ステップ47),左側面から見て30度,60度,120度,150度,210度,240度,300度および330度の特徴量データによって表される特徴量との照合処理(ステップ48)が行われる。
被写体像全体についてサーチ・エリアのスキャニングが終了するまで(ステップ49でNO),サーチ・エリアが移動させられながら(ステップ50),ステップ42から48の処理が繰り返される。
検出すべき顔画像は,人物,動物および魚類のすべてでもよいし,人物,動物および魚類の中から選択できるようにしてもよい。選択する場合には,特徴量モード・ダイアルによって顔画像を検出する対象(人物,動物または魚類)を選択するようにし,選択された対象に応じた特徴量がROM6またはフラッシュROM11から読み出されるものとなろう。
図15から図17は,他の実施例を示すもので,顔画像検出処理をディジタル・スチル・カメラに適用した場合の実施例である。
図15は,ディジタル・スチル・カメラの電気的構成を示すブロック図である。
ディジタル・スチル・カメラの全体の動作は,CPU60によって統括される。
ディジタル・スチル・カメラには,二段ストローク・タイプのシャッタ・レリーズ・ボタン,モード設定スイッチ,メニュー・ボタンなどの各種ボタンを含む操作器70が含まれている。操作器70から出力される操作信号は,CPU60に入力する。CPU60には,ディジタル・スチル・カメラの動作プログラムその他必要なデータが記憶されているROM71およびデータを一時的に記憶するRAM72が接続されている。
また,ディジタル・スチル・カメラには,ストロボ撮影のためにストロボ発光装置68が設けられている。このストロボ発光装置68は,CPU60によって制御されるストロボ制御回路69によって発光が制御される。
CCD64の前方には撮像レンズ61および絞り63が設けられている。撮像レンズ61は,CPU60によって制御されるレンズ駆動回路62によって,被写体像がCCD64の受光面上に結像するように,位置が制御される。絞り63は,CPU60によって制御される絞り駆動回路(図示略)によって適正な露光量となるように絞り値が制御される。
モード設定スイッチによって撮像モードが設定されると,CCD64によって被写体が撮像される。CCDドライバ65によってCCD64が駆動させられることにより,CCD64から被写体像を表す映像信号が出力される。映像信号は,タイミング・ジェネレータ67から与えられるクロック・パルスにもとづいて動作するアナログ/ディジタル変換回路66においてディジタル画像データに変換される。
アナログ/ディジタル変換回路66において変換された画像データは信号処理回路78に入力する。信号処理回路78においてオフセット補正,ゲイン補正,ガンマ補正などの補正が行われる。信号処理回路78から出力された画像データは表示制御回路82に入力する。表示制御回路82によって液晶表示装置83が制御されることにより,液晶表示装置83の表示画面上に被写体像が表示される。
この実施例によるディジタル・スチル・カメラにおいては被写体像の中から顔の画像を検出することができる。オン・スクリーン・ディバイス信号発生回路84から出力された信号が液晶表示装置83に与えられることによって,検出された顔画像の枠が,液晶表示装置83の表示画面に表示されている被写体像上に重ねられるように表示される。
また,この実施例によるディジタル・スチル・カメラには,通信装置76が内蔵されている。この通信装置76には,パーソナル・コンピュータ等と接続するための接続端子76Aが接続されている。これにより,ユーザは,ディジタル・スチル・カメラとパーソナル・コンピュータ等とを接続することができる。
シャッタ・レリーズ・ボタンが半押しされると,上述のようにしてアナログ/ディジタル変換回路66において変換されたディジタル画像データは,顔検出装置73に入力する。顔検出装置73には,上述したように基本特徴量が記憶されているROM74が内蔵されている。また,この顔検出装置73には,接続端子95を介してフラッシュROM85が接続されている。フラッシュROM85には,上述したようにオプション特徴量が記憶されている。
顔検出装置73において,ROM74に記憶されている基本特徴量を用いて(必要に応じてフラッシュROM85に記憶されているオプション特徴量を用いて),入力したディジタル画像データによって表される被写体像の中から顔画像の位置が検出される。検出された顔画像の位置が上述したようにOSD信号発生回路84に与えられることより,顔の枠が液晶表示装置83に表示されている被写体像上に表示される。
さらに,シャッタ・レリーズ・ボタンが全押しされると,上述のようにアナログ/ディジタル変換回路66において変換された画像データは信号処理回路78にも入力する。信号処理回路78においてオフセット補正,ゲイン補正,ガンマ補正などが行われる。これらの補正が信号処理回路78において行われると,画像データはメモリ77に与えられ,一時的に記憶される。メモリ77に記憶された画像データは,CPU60の制御により読み出さる。読み出された画像データについて補間処理が行われる。補間された画像データは,再びメモリ77に与えられ,記憶される。
補間された画像データがメモリ77から読み取られ,圧縮伸長回路79に入力する。圧縮伸長回路79において補間された画像データが圧縮される。圧縮された画像データがカード・インターフェイス80を介してメモリ・カード81に与えられ,記録される。
モード設定スイッチによって再生モードが設定されると,メモリ・カード81に記録されている圧縮された画像データがカード・インターフェイス80を介して読み取られる。読み取られた画像データが圧縮伸長回路79において伸長される。伸長された画像データが表示制御回路82に与えられることにより,メモリ・カード81に記録されている画像データによって表される被写体像が液晶表示装置83の表示画面上に表示される。
メモリ・カード81から読み出され,伸張された画像データは,顔検出装置73にも与えられる。顔検出装置73において顔画像の検出処理が行われ,検出された顔画像の位置を表すデータが得られる。顔画像の位置を表すデータは,OSD信号発生回路84に与えられることにより,液晶表示装置83の表示画面上に表示されている被写体像のうち顔の画像部分に枠が表示されるようになる。
図16は,ディジタル・スチル・カメラを用いた被写体の撮像時に特徴量を記憶する処理手順を示すフローチャートである。
撮像モードが設定されて被写体像が撮像される(ステップ91)。撮像により得られた被写体像から顔検出処理が行われる(ステップ92)。顔検出処理によって検出された顔画像のうち,顔画像の顔らしさが所定のしきい値を超えている場合には(ステップ93でYES),検出された顔画像から特徴量が作成される(ステップ94)。特徴量は,検出された顔画像における位置の画素値を算出することにより得られる。サーチ・エリアの大きさに応じて位置が補正されるのはいうまでもない。作成された特徴量はCPU60によってフラッシュROM85に書き込まれる(ステップ95)。顔らしさが所定のしきい値を超えていない場合には(ステップ93でNO),ステップ94および95の処理はスキップされる。
撮像により得られた被写体像を利用して特徴量(オプション特徴量)を作成して,作成された特徴量をフラッシュROM85に書き込むことができ,フラッシュROM85を更新できる。
図17は,再生時に特徴量を記憶する処理手順を示すフローチャートである。
メモリ・カードに記録されている画像データが読み出され,被写体像が再生される(ステップ101)。顔検出装置73によって,再生された被写体像の中から顔画像が検出される(ステップ102)。もっとも,液晶表示装置83に表示されている被写体像の中からユーザが顔画像を指定できる場合には,顔検出処理を行わずにユーザによって顔画像を指定させてもよい。たとえば,液晶表示装置83の表示画面上にタッチ・パネルが設けられている場合には,そのタッチ・パネルを利用して顔画像を指定できるし,表示画面上にカーソルを表示させて,そのカーソルを利用して顔画像を指定するようにしてもよい。
特徴量をフラッシュROMに書き込む指令が,操作装置70からディジタル・スチル・カメラに与えられると(ステップ103でYES),検出された顔画像から特徴量が作成される(ステップ104)。作成された特徴量を表すデータがフラッシュROM85に書き込まれることとなる(ステップ105)。
図18および図19は,さらに他の実施例を示すものであり,一方のディジタル・スチル・カメラのROMまたはフラッシュROMに書き込まれている特徴量を表すデータを他方のディジタル・スチル・カメラのフラッシュROMに書き込むものである。
図18を参照して,出力側のディジタル・スチル・カメラ(出力カメラ:一方のディジタル・スチル・カメラ)111と入力側のディジタル・スチル・カメラ(入力カメラ:他方のディジタル・スチル・カメラ)110とがUSBケーブルによって接続されている。このUSBケーブルは,上述したように接続端子76Aに接続されることにより,入力カメラ110と出力カメラ111とが接続される。
図19は,入力カメラ110の表示画面の一例である。
操作器70に含まれるモード・スイッチを用いてセットアップ・メニューが表示されると,そのセットアップ・メニューの中にデータ・インポート・メニューが含まれる。データ・インポート・メニューが選択されると,図19に示すデータ・インポート画像が現れる。
データ・インポート画像には,「人物」の文字が表示されている区画121,「動物」の文字が表示されている区画122および「魚」の文字が表示されている区画123が縦方向に一例に表示されている。これらの区画間を上下に移動するようにカーソル124が示されている。カーソル124の左側の上方には上矢印125が表示され,カーソル124の左側の下方には下矢印126が表示されている。これらの区画121〜123のうち,いずれかの区画が選択されることにより,入力するオプション特徴量が決定する。出力カメラ111にも図19に示すデータ・インポート画像に対応するデータ出力画像が表示されており,人物の顔画像のオプション特徴量を出力するための選択,動物の顔画像のオプション特徴量を出力するための選択および魚の顔画像のオプション特徴量を出力するための選択ができる。
入力カメラ110と出力カメラ111との両方において,送受信すべきオプション特徴量の種類が一致した後で,出力カメラ111の決定ボタンが押される。すると,出力カメラ111に書き込まれているオプション特徴量データのうち,選択された種類に対応するオプション特徴量データが読み出されて入力カメラ110に入力する。出力カメラ111に書き込まれていたオプション特徴量データが入力カメラ110のフラッシュROMに書き込まれることとなる。
図20は,変形例を示すもので,入力カメラ110と出力PC(パーソナル・コンピュータ)とがUSBケーブルによって接続されている様子を示している。このように,ディジタル・スチル・カメラだけでなく,パーソナル・コンピュータ112を利用しても,パーソナル・コンピュータに記憶されているオプション特徴量データを入力カメラ110に書き込むことができるのは上述したのと同様に理解できよう。
図21は,ディジタル・スチル・カメラの撮像処理手順を示すフローチャートである。
ディジタル・スチル・カメラには,人物の顔画像を検出するための特徴量データ,動物の顔画像を検出するための特徴量データおよび魚類の顔画像を検出するための特徴量データが記憶されているものとする。そして,撮像モードとして動物撮像モード,魚類撮像モードおよび人物撮像モードの設定ができるものとする。
ディジタル・スチル・カメラのユーザによって撮像モードが設定される(ステップ131)。動物撮像モードが設定されると(ステップ132でYES),動物の顔画像を検出するための特徴量データがフラッシュROMから読み取られる(ステップ133)。魚類撮像モードが設定されると(ステップ134でYES),魚類の顔画像を検出するための特徴量データがフラッシュROMから読み取られる(ステップ135)。人物撮像モードが設定されると(ステップ136でYES),人物の顔画像を検出するための特徴量データがフラッシュROMから読み取られる(ステップ137)。
被写体が撮像されると(ステップ138),読み取られた特徴量データを用いて顔画像検出処理が行われる(ステップ139)。顔画像が検出されると,その検出された顔画像が枠で囲まれるようにして被写体像が表示画面上に表示される(ステップ139)。
シャッタ・レリーズ・ボタンが押されると(ステップ140でYES),撮像によって得られた被写体像データがメモリ・カードに記録される(ステップ141)。
撮像モードに応じた特徴量データが読み出され,読み出された特徴量データを用いて被写体像の中から顔画像が検出されるので,撮影対象に応じた顔画像の検出ができる。検出精度が向上する。検出された顔画像に応じた画像処理(たとえば,人物の顔画像に適した画像処理,動物の顔画像に適した画像処理,魚の顔画像に適した画像処理)を実現できる。
被写体像と検出枠との関係を示している。 特徴量を示している。 顔検出装置の電気的構成を示すブロック図である。 顔画像の一例を示している。 顔画像の一例を示している。 顔画像の一例を示している。 顔画像検出処理手順を示すフローチャートである。 顔画像検出処理手順を示すフローチャートである。 顔検出装置の電気的構成を示すブロック図である。 ROMに記憶されている人の顔の特徴量の一例である。 フラッシュROMに記憶されている人の顔の特徴量の一例である。 (A)および(B)は,フラッシュROMに記憶される特徴量の一例である。 特徴量書き込み処理手順を示すフローチャートである。 顔画像検出処理手順を示すフローチャートである。 ディジタル・スチル・カメラの電気的構成を示すブロック図である。 特徴量記憶処理手順を示すフローチャートである。 特徴量記憶処理手順を示すフローチャートである。 USBケーブルによって接続されたディジタル・スチル・カメラを示している。 ディジタル・スチル・カメラの表示画面の一例である。 USBケーブルによって接続されたディジタル・スチル・カメラとパーソナル・コンピュータとを示している。 撮像処理手順を示すフローチャートである。
符号の説明
5 比較回路
6,74 ROM(第1のメモリ)
7,95 接続端子
8 顔決定回路
10,73 顔検出装置
11,85 フラッシュROM(第2のメモリ)
12 書き換え制御回路
13 入出力インターフェイス
14 特徴量モード・ダイアル
64 CCD
F サーチ・エリア
I 被写体像

Claims (12)

  1. 被写体像の中から対象画像を検出するために利用される第1の特徴量を表すデータを記憶する第1のメモリ,
    上記対象画像を検出するために利用される第2の特徴量を表すデータを記憶する書き換え可能な第2のメモリから上記第2の特徴量を表すデータを読取る読取手段,
    上記第1のメモリに記憶されている第1の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出する第1の対象画像検出回路,ならびに
    上記読取手段によって読取られた第2の特徴量を表すデータを用いて,上記与えられる被写体像の中から上記対象画像を検出する第2の対象画像検出回路を備え
    人間の顔の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第1の書き込みモードと人間を除く特定対象物の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第2の書き込みモードとを設定可能な書き込みモード設定手段,
    上記人間の顔の画像の特徴量を表すデータと上記特定対象物画像の特徴量を表すデータとを入力する特徴量データ入力手段,および
    上記書き込みモード設定手段により第1の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記人間の顔の画像の特徴量を表すデータを上記第2のメモリに書き込み,上記書き込みモード設定手段により第2の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記特定対象物画像の特徴量を表すデータを上記第2のメモリに書き込む書き込み制御手段,
    をさらに備えた対象画像検出装置。
  2. 上記第1のメモリが書き換え不能のメモリである,請求項1に記載の対象画像検出装置。
  3. 上記読取手段に,上記第2のメモリが接続されている,請求項1に記載の対象画像検出装置。
  4. 上記第1のメモリが,人間の正面からの顔の画像のうち,正立像を含む画像の特徴量を表すデータを第1の特徴量として記憶しているものであり,
    上記第2のメモリが,人間の正面からの顔の画像のうち,正立像を除く角度の画像および人間を除く特定対象物の画像の少なくとも一方の画像の特徴量を表すデータを第2の特徴量を表すデータとして記憶しているものである,
    請求項に記載の対象画像検出装置。
  5. 被写体を撮像し,被写体像を表す画像データを出力する撮像装置をさらに備え,
    上記第1の対象画像検出回路および上記第2の対象画像検出回路は,上記撮像装置から出力された画像データによって表される被写体像の中から上記対象画像を検出するものである,
    請求項1に記載の対象画像検出装置。
  6. 上記読取手段に,書き換え可能な上記第2のメモリが接続されており,
    上記対象画像検出回路によって検出された対象画像から対象画像の特徴量を抽出する特徴量抽出手段,および
    上記特徴量抽出手段によって抽出された特徴量を表すデータを,上記第2の特徴量を表すデータとして上記第2のメモリに書き込む書き込み制御手段,
    をさらに備えた請求項に記載の対象画像検出装置。
  7. 上記読取手段に,書き換え可能な上記第2のメモリが接続されており,
    被写体像を再生する再生回路,
    上記再生回路によって再生された被写体像に含まれている対象画像から対象画像の特徴量を抽出する特徴量抽出手段,および
    上記特徴量抽出手段によって抽出された特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む書き込み制御手段,
    をさらに備えた請求項1に記載の対象画像検出装置。
  8. 上記読取手段に,書き換え可能な上記第2のメモリが接続されており,
    上記第2の特徴量を表すデータを入力する特徴量データ入力手段,および
    上記特徴量データ入力手段から入力した上記第2の特徴量を表すデータを上記第2のメモリに書き込む書き込み制御手段,
    を備えた請求項1に記載の対象画像検出装置。
  9. 上記第1のメモリが,人間の正面からの顔の画像のうち,0度,90度,180度および270度の顔の画像を表すデータを第1の特徴量として記憶しているものである,請求項1に記載の対象画像検出装置。
  10. 上記第2の書き込みモードが動物の顔の特徴量を書き込むモードまたは魚類の顔の特徴量を書き込むモードであり,
    上記書き込み制御手段は,上記動物の顔の特徴量を書き込むモードが設定されると動物の顔の特徴量を表すデータを上記第2のメモリに書き込み,上記魚類の顔の特徴量を書き込むモードが設定されると魚類の顔の特徴量を表すデータを上記第2のメモリに書き込むものである,
    請求項1に記載の対象画像検出装置。
  11. 請求項1に記載の対象画像検出装置を備えたディジタル・スチル・カメラ。
  12. 第1のメモリが,被写体像の中から対象画像を検出するために利用される第1の特徴量を表すデータを記し,
    読取手段が,上記対象画像を検出するために利用される第2の特徴量を表すデータを記憶する書き換え可能な第2のメモリから上記第2の特徴量を読取り,
    第1の対象画像検出回路が,上記第1のメモリに記憶されている第1の特徴量を表すデータを用いて,与えられる被写体像の中から上記対象画像を検出し,
    第2の対象画像検出回路が,上記読取られた第2の特徴量を表すデータを用いて,上記与えられる被写体像の中から上記対象画像を検出し,
    書き込みモード設定手段が,人間の顔の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第1の書き込みモードと人間を除く特定対象物の画像の特徴量を表すデータを上記第2の特徴量を表すデータとして上記第2のメモリに書き込む第2の書き込みモードとを設定可能とし,
    特徴量データ入力手段が,上記人間の顔の画像の特徴量を表すデータと上記特定対象物画像の特徴量を表すデータとを入力し,
    書き込み制御手段が,上記書き込みモード設定手段により第1の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記人間の顔の画像の特徴量を表すデータを上記第2のメモリに書き込み,上記書き込みモード設定手段により第2の書き込みモードが設定されたことに応じて,上記特徴量データ入力手段から入力した上記特定対象物画像の特徴量を表すデータを上記第2のメモリに書き込む,
    対象画像検出装置の制御方法。
JP2006065054A 2006-03-10 2006-03-10 対象画像検出装置の制御方法 Expired - Fee Related JP4450799B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006065054A JP4450799B2 (ja) 2006-03-10 2006-03-10 対象画像検出装置の制御方法
US11/715,335 US7873186B2 (en) 2006-03-10 2007-03-08 Target-image detecting apparatus and method of controlling same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006065054A JP4450799B2 (ja) 2006-03-10 2006-03-10 対象画像検出装置の制御方法

Publications (3)

Publication Number Publication Date
JP2007241782A JP2007241782A (ja) 2007-09-20
JP2007241782A5 JP2007241782A5 (ja) 2009-10-08
JP4450799B2 true JP4450799B2 (ja) 2010-04-14

Family

ID=38478968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006065054A Expired - Fee Related JP4450799B2 (ja) 2006-03-10 2006-03-10 対象画像検出装置の制御方法

Country Status (2)

Country Link
US (1) US7873186B2 (ja)
JP (1) JP4450799B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4478093B2 (ja) * 2005-10-17 2010-06-09 富士フイルム株式会社 対象画像検索装置およびディジタル・カメラならびにそれらの制御方法
JP5099488B2 (ja) 2007-08-31 2012-12-19 カシオ計算機株式会社 撮像装置、顔認識方法およびそのプログラム
JP5217504B2 (ja) * 2008-02-29 2013-06-19 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム
JP5356162B2 (ja) * 2009-09-07 2013-12-04 株式会社ザクティ 物体像探索装置
JP5115763B2 (ja) * 2010-03-02 2013-01-09 Necソフト株式会社 画像処理装置、コンテンツ配信システム、画像処理方法、及びプログラム
JP5267695B2 (ja) * 2012-03-01 2013-08-21 カシオ計算機株式会社 撮像装置、顔認識方法及びそのプログラム
US11069054B2 (en) 2015-12-30 2021-07-20 Visiongate, Inc. System and method for automated detection and monitoring of dysplasia and administration of immunotherapy and chemotherapy
CN106845396B (zh) * 2017-01-18 2020-05-22 南京理工大学 基于自动图像识别的非法钓鱼行为识别方法
GB2588604A (en) * 2019-10-28 2021-05-05 Eaton Intelligent Power Ltd Face recognition device and method providing privacy

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3324933B2 (ja) 1996-06-05 2002-09-17 富士重工業株式会社 車両用故障診断装置
JP2001216505A (ja) 2000-02-04 2001-08-10 Canon Inc 画像加工装置、画像加工方法、表示装置及び記憶媒体
JP4017828B2 (ja) 2001-02-14 2007-12-05 富士フイルム株式会社 デジタルカメラ
US7050607B2 (en) * 2001-12-08 2006-05-23 Microsoft Corp. System and method for multi-view face detection
JP4196714B2 (ja) 2003-04-15 2008-12-17 株式会社ニコン デジタルカメラ
KR100643303B1 (ko) * 2004-12-07 2006-11-10 삼성전자주식회사 다면 얼굴을 검출하는 방법 및 장치

Also Published As

Publication number Publication date
US20070211918A1 (en) 2007-09-13
JP2007241782A (ja) 2007-09-20
US7873186B2 (en) 2011-01-18

Similar Documents

Publication Publication Date Title
JP4450799B2 (ja) 対象画像検出装置の制御方法
US11696021B2 (en) Video recording device and camera function control program
KR100919221B1 (ko) 휴대 전화기
JP4378258B2 (ja) 画像補正装置およびその制御方法
JP4818987B2 (ja) 撮像装置、表示方法、及びプログラム
JP5036612B2 (ja) 撮像装置
JP4877319B2 (ja) 画像生成装置、プログラム、画像表示方法、及び、撮像方法
US20060227385A1 (en) Image processing apparatus and image processing program
US7524066B2 (en) Projection device projection system, and image obtainment method
US20050264669A1 (en) Apparatus and method for image processing
JP4894708B2 (ja) 撮像装置
US7136102B2 (en) Digital still camera and method of controlling operation of same
CN102547091B (zh) 照相机、显示装置以及显示方法
CN102792683A (zh) 显示控制装置、显示控制程序产品、及显示控制系统
JP5703771B2 (ja) 撮像補助装置、撮像補助方法及びプログラム
JP4199535B2 (ja) 画像情報処理装置、画像情報処理プログラム、および、プログラム記録媒体
JP4520816B2 (ja) カメラ及び電子装置
JP6818482B2 (ja) 情報処理装置及びその制御方法、並びにプログラム
JP4973455B2 (ja) 撮像装置、及び、プログラム
JP6390075B2 (ja) 画像処理装置、電子カメラ及び画像処理プログラム
JP4415193B2 (ja) 撮影装置及びプログラム
JP2005079714A (ja) デジタルカメラ
JP4641752B2 (ja) 画像出力装置
JP2003204454A (ja) 画像処理装置及び電子カメラ
JP2008236352A (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090824

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20090824

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20090910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100126

R150 Certificate of patent or registration of utility model

Ref document number: 4450799

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130205

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140205

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees