[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6779683B2 - 画像検索装置、画像検索方法及びプログラム - Google Patents

画像検索装置、画像検索方法及びプログラム Download PDF

Info

Publication number
JP6779683B2
JP6779683B2 JP2016134540A JP2016134540A JP6779683B2 JP 6779683 B2 JP6779683 B2 JP 6779683B2 JP 2016134540 A JP2016134540 A JP 2016134540A JP 2016134540 A JP2016134540 A JP 2016134540A JP 6779683 B2 JP6779683 B2 JP 6779683B2
Authority
JP
Japan
Prior art keywords
image
feature
group
unit
representative
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016134540A
Other languages
English (en)
Other versions
JP2018007156A (ja
Inventor
原田 久之
久之 原田
裕一 土持
裕一 土持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2016134540A priority Critical patent/JP6779683B2/ja
Priority to US15/635,849 priority patent/US10515287B2/en
Publication of JP2018007156A publication Critical patent/JP2018007156A/ja
Application granted granted Critical
Publication of JP6779683B2 publication Critical patent/JP6779683B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/49Segmenting video sequences, i.e. computational techniques such as parsing or cutting the sequence, low-level clustering or determining units such as shots or scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Library & Information Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、画像検索装置及び方法に関するもので、多数撮影された画像を分類する画像検索の技術に関する。
業務に関し行われる撮影では、多数の画像が撮影され、その中から条件にあった画像が選択され使用されることが多い。例えば、工事現場で施工状態を記録する撮影では、撮影の失敗や撮影もれが許されないので、同じ場所でも予備として複数枚撮影が行われるため、1つの現場でも撮影枚数が数百枚〜数千枚単位となる。このような大量の画像を管理するには、大きな労力を要する。また、施工状態の記録では、工程の段階に従い撮影が可能な期間が限定される施工部分の撮影もあるため、撮影日程の管理も煩雑であった。
一方、業務用の撮影の世界でもデジタル化が進み、画像の管理も各段に進化しているが、画像数が多いため依然として管理は煩雑である。特にある施工状態の1箇所の撮影に対して、予備も含め複数枚撮影を行うと、それらに対して代表画像を選別するという作業が必要になる。建築物の規模が大きくなると、全画像数が数千〜数万枚になるので、代表画像の選別作業も短時間でできるものではなく、現場監督など工程管理者が資料を作成する上で大きな負担となっている。
代表画像を自動的に選別する選別技術の一例として、特許文献1が提案されている。特許文献1の技術では、構図等が類似する画像を画像群としてまとめ、この画像群の中からベストな代表画像の選出を行う。
また、一連の画像の中から、撮影者が画像群を指定する技術も提案されている。例えば、特許文献2では、通常の撮影とは異なる画像を区切りのための段落画像として記録する技術が提案されている。特許文献2で挙げられる段落画像は「単色またはブルーバック」、あるいは「他の画像と異なる特殊な形状」で、画像フレームに矢印を付与し、通常の画像とフレームそのものを変更させたりする。
特開2015−8385号公報 特開2008−141270号公報
特許文献1では、構図の類似した画像を集めて画像群を生成している。このやり方では、工事現場のような似たような構図が多い環境では、実際には異なる画像群が1つの画像群として設定されてしまうという問題が生じる。
実際の工事現場では、工事の進捗状況管理のため、同じ現場でも複数に分かれて作業が行われることも多い。このような場合には、それぞれの作業を撮影した画像を、別々の画像群として管理することが求められる。しかし、特許文献1の技術では、作業現場が同じであるために1つの画像群にまとめられてしまう可能性がある。また、特許文献1の技術では、同じ現場でもアングルなどを変えて撮影された画像は同じ画像群として扱われない可能性もある。いずれにせよ、特許文献1の技術では、撮影者の意図するように画像群を設定することは難しい。
また、特許文献2で挙げられる段落画像は「単色またはブルーバック」、あるいは「他の画像と異なる特殊な形状」である。つまり、特許文献2の段落画像は、画像フレームに矢印を付与したり、通常の画像に対してフレームそのものを変更させた画像で、表示や記録に特殊な加工を必要とする画像で、現場での採用は難しい。
本願発明は、上記課題に鑑み、一連の撮影画像を画像群に分類する画像検索装置、画像検索方法及びプログラムを提供することを目的とする。
上記目的を達成するために、一連の撮影画像から、第一の特徴物が被写体に含まれる画像を第一の画像と判定し、前記第一の画像よりも後に撮影された画像であって第二の特徴物が被写体に含まれる画像を第二の画像と判定する判定部と、前記一連の撮影画像の中から、前記第一の画像が撮影されてから前記第二の画像が撮影されるまでの期間で撮影された画像を画像群に設定する画像群設定部と、前記画像群の中から代表画像を抽出する代表画像抽出部と、を備え、更に、前記判定部は、被写体に第三の特徴物が含まれる画像を第三の画像と判定し、前記画像群設定部は、前記画像群に含まれる画像を、前記第三の画像より以前に撮影された画像と、前記第三の画像より以降に撮影された画像に分割して、複数の画像副群を設定し、前記代表画像抽出部は、前記設定された画像副群ごとに前記代表画像を抽出する。
本発明によれば、一連の撮影画像を画像群に分類する画像検索装置、画像検索方法及びプログラムを提供することができる。
本発明の実施の形態に係る、撮影システムの全体図である。 本発明の実施の形態に係る、情報処理装置のハードウェア構成図である。 本発明の実施の形態に係る、情報処理装置を主とする機能ブロック図である。 第1実施形態における、第一及び第二の特徴物の撮影場面の一例を示す図である。 第1実施形態における、一連の撮影画像の例である。 第1実施形態における、画像検索処理のフローチャートである。 第1実施形態における、抽出条件設定画面を示す図である。 第1実施形態における、画像群設定処理1のサブルーチンである。 第1実施形態における、代表画像抽出処理のサブルーチンである。 第1実施形態における、画像スコア算出処理のサブルーチンである。 第1実施形態における、最頻画像スコア加算処理のサブルーチンである。 第1実施形態における、露出スコア加算処理のサブルーチンである。 第1実施形態における、被写体ぶれスコア加算処理のサブルーチンである。 第1実施形態における、合焦スコア加算処理のサブルーチンである。 第1実施形態における、算出されたスコアを示す表である。 第2実施形態における、第三の特徴物の撮影場面の一例を示す図である。 第2実施形態における、一連の撮影画像の例である。 第2実施形態における、画像群設定処理2のサブルーチンである。 第3実施形態における、一連の撮影画像の例である。 第3実施形態における、画像検索処理のフローチャートである。 第3実施形態における、画像群設定処理3のサブルーチンである。
以下、図面に従って本発明の実施形態を説明する。図1は、撮影システム1の構成例を示すブロック図である。なお、以下では、本発明の撮影対象として、工事現場の工事箇所(例えば、柱、壁等々)を撮影対象として記録する例を説明するが、撮影対象が工事箇所に限定されるものではない。多数の画像を記録するような業態であれば、工事現場の撮影でなくとも、本発明の適用対象となる。例えば、自然観察の記録やプラントの点検作業の記録等も対象となる。なお、工事箇所を撮影した画像を工事画像と称す。
撮影担当者(以下、撮影者と略す)はカメラ5で、工事箇所を撮影する。撮影者は、カメラ5を情報処理装置6に接続して、撮影画像(工事画像)を情報処理装置6に出力して保存する。情報処理装置6は、例えばPC(Personal computer)である。情報処理装置6は、一連の撮影画像に対して画像検索処理を実行する。画像検索処理とは、複数の撮影画像を工事対象ごとに画像群に区分けして、区分けした画像群ごとに代表画像を抽出する等の処理である。情報処理装置6は、画像検索処理の完了した撮影画像をネットワーク7を介してサーバ8に送信する。サーバ8は、受信した撮影画像をデータベース(不図示)に保管する。以下で、情報処理装置6による画像検索処理を詳細に説明する。
図2は、情報処理装置6のハードウェアブロック図である。情報処理装置6は、CPU20、RAM30、メモリ部40、通信部50、記憶装置60、表示部70及び操作部80等を備える。CPU20は、プログラムを読込み、読込んだプログラムを実行して、所定の処理を実現する。
RAM30は、プログラムや画像データを一時的に記憶する一時記憶部である。RAM30は、例えば、DRAM(Dynamic Random Access Memory)である。メモリ部40は、各種テーブルやプログラムあるいは画像データ等を不揮発的に記憶する記憶部である。メモリ部40は、例えば、フラッシュメモリである。
通信部50は、外部機器とのデータ通信を行う通信インターフェースである。通信部50は、例えば、LAN(Local Area Network)やWAN(Wide Area Network)等々の方式に対応する。記憶装置60は、画像データ等を不揮発的に記憶する記憶部である。記憶装置60は、HDD(Hard Disk Drive)やフラッシュメモリである。表示部70は、各種操作用の画面やメッセージあるいは撮影画像を表示するものである。操作部80は、撮影者が指示内容を入力するもので、キーボード、マウスやタッチパネルいずれでもよい。
図3は、情報処理装置6を主にする機能ブロック図である。情報処理装置6は、通信部50、記憶装置60に加えて、画像管理装置100と画像検索装置110を有する。画像管理装置100と画像検索装置110は、プログラムを読込んだCPU20により実現される機能部である。
画像管理装置100は、画像データの送受信や記録等を管理するものである。画像管理装置100は、カメラ5から送信された、一連の撮影画像の画像データを記憶装置60に記憶する。また、画像管理装置100は、画像データを通信部50を介して、ネットワーク7経由でサーバ8に送信する。また、画像管理装置100は、画像検索装置110からの指示により、画像データのフォーマットや圧縮率を変更して記憶装置60に記憶する。また、画像管理装置100は、画像データのフォーマットや圧縮率を変更してサーバ8に送信する。
画像検索装置110は、画像検索制御部120、画像群処理部130及び代表画像抽出部140を有する。画像検索制御部120は、画像検索装置110の全体を制御するものである。また、画像検索制御部120は、画像管理装置100に画像データのフォーマットや圧縮率の変更の指示や、サーバ8への送信等の指示をする。
画像群処理部130は、一連の撮影画像を、撮影者の意図に即して分類(区分け)するものである。分類される1以上の撮影画像のグループを画像群と呼ぶ。画像群処理部130は、一連の撮影画像から、特定の被写体が撮影された画像を検出して、特定の被写体が撮影された画像の位置によって画像群を設定する。以下では、特定の被写体を特徴物と呼び、特徴物が撮影された画像を特徴画像と呼ぶ。また、特徴物は、複数種類を登録することができ、複数の特徴物を使い分けることで、一連の撮影画像の分類や後処理を容易にすることができる。また、本実施形態での工事物のような本来の撮影対象を撮影した画像を、特徴画像と区別するため、対象物画像とも呼ぶ。
特徴物として、第一の特徴物、第二の特徴物、第三の特徴物、第四の特徴物及び第五の特徴物を説明する。第一の特徴物を含む画像を第一の画像と呼び、第二の特徴物以下も同様とする。
第一の画像は、画像群の開始位置を示す画像で、第二の画像は、画像群の終了位置を示す画像である。つまり、画像群の開始位置で第一の特徴物を撮影し、画像群の終了位置で第二の特徴物を撮影しておけば、この期間に撮影された1以上の画像が、画像群として設定される。第一の画像と第二の画像については、第1実施形態で後述する。
第三の画像は、第一の画像と第二の画像によって設定される画像群を、さらに分割する場合に、分割位置を示す画像となる。つまり、分割希望の位置で第三の特徴物を撮影しておけば、画像群をその位置で分割することができる。第三の画像によって分割されたグループを画像副群と呼ぶ。第三の画像については、第2実施形態で後述する。
また、第四の画像は画像群設定のための検索処理の開始位置を示す画像で、第五の画像は画像群設定のための検索処理の終了位置を示す画像となる。後述するように、特徴物は任意の被写体を登録することができるため、平凡な被写体が特徴物として登録されると、画像群の開始や終了位置が誤検出されるおそれがでる。画像検索処理の開始と終了の位置を示す第四の画像、第五の画像を使用することで、画像群の誤検出を効果的に防止することができる。第四の画像、第五の画像については、第3実施形態で後述する。
画像群処理部130は、特徴物登録部310、判定部320及び画像群設定部330を有する。特徴物登録部310は、撮影者の指示や選択により、画像群や画像副群等を設定するための特徴物を登録するものである。撮影者は任意の被写体を特徴物として登録することができる。特徴物は、人体の一部(手、足、顔)や物体(帽子、ノート)でもよいし、ジェスチャーや、黒板等に書いた文字や図形でもよい。
特徴物登録部310は、画面の中央の一定領域にある被写体を特定し、その画像データを解析して、特定した被写体の形状や色のパターン等を特徴物データとして検出し、撮影した特徴画像と共に特徴物データをメモリ部40に登録する。
具体的な登録操作として、特徴物登録部310は、一連の撮影とは違う場面で、カメラ5で特徴物を撮影しておいて、操作部80で登録の操作を行ってもよい。この登録操作は、一連の撮影の前あるいは後のいずれでもよい。
また、撮影者は、一連の撮影の前に自分で特徴物を決めておき、一連の撮影中での画像群の切換りの位置等で、決めたおいた特徴部を撮影してもよい。そして、撮影後に一連の撮影画像を再生して特徴画像を探して1回だけ登録操作すればよい。一連の撮影画像の中で、最初に出現した特徴画像を登録しておけば、以降で繰り返し出現する特徴画像は自動で検出される。
あるいは、撮影者が、一連の撮影開始前に、過去に登録されメモリ部40に記憶された特徴画像の中から、今回の使用する特徴画像を決めて、登録してもよい。撮影者は、登録した特徴画像を憶えておいて、一連の撮影中に同等な被写体を、画像群の切換りの位置等で撮影すればよい。
判定部320は、特徴物登録部310によって登録された特徴物データを参照して、特徴物データと類似したパターンの被写体を撮影画像の中から検出する。そして、判定部320は、検出された特徴物の種類を判定する。
画像群設定部330は、判定された特徴画像の種類とその撮影日時あるいは撮影順番によって、画像群を設定する。例えば、画像群設定部330は、第一の画像が撮影されてから第二の画像が撮影されるまでの期間中に撮影された画像を、画像群に設定する。また、判定部320により第三の画像が判定された場合には、画像群設定部330は、設定された画像群を、第三の画像より以前に撮影された画像と、前記第三の画像より以降に撮影された画像に分割して、複数の画像副群を設定する。
代表画像抽出部140は、画像群処理部130により設定された画像群や画像副群に含まれる複数の撮影画像の中から、所定の抽出条件に基づき、代表画像を抽出する。代表画像抽出部140は、抽出条件設定部410、最頻画像スコア算出部420、露出スコア算出部430、被写体ぶれスコア算出部440及び合焦スコア算出部450及びを有する。
抽出条件設定部410は、撮影者の指示に基づき、抽出条件を設定する。最頻画像スコア算出部420は、画像群や画像副群に含まれる複数の撮影画像について、主被写体の形状や構図を判定する。次に、最頻画像スコア算出部420は、判定した主被写体の形状や構図に基づき、主被写体の形状や構図が相互に類似する撮影画像をグループ化して、いくつかのグループに分類する。そして、最頻画像スコア算出部420は、画像数の多いグループに属する画像に対してスコア(点数)を高くする。相互に類似する撮影画像の数の少ないグループに属する撮影画像は、スコアが低くなる。
露出スコア算出部430は、設定された画像群や画像副群に含まれる各撮影画像について、主被写体の画像データの輝度値に基づき露出の適正度を判定し、露出の適正度に応じてスコアで算出する。露出スコア算出部430は、露出の適正度の高い撮影画像に対し、スコアを高くする。
被写体ぶれスコア算出部440は、設定された画像群や画像副群に含まれる各撮影画像について、主被写体の画像データのエッジ検出等に基づき被写体のぶれ量を計測し、被写体ぶれのスコアを算出する。被写体ぶれスコア算出部440は、被写体のぶれ量が少ない撮影画像に対し、スコアを高くする。
合焦スコア算出部450は、設定された画像群や画像副群に含まれる各撮影画像について、主被写体の画像データの高周波成分に基づき、主被写体の合焦度のスコアを算出する。合焦スコア算出部450は、主被写体の合焦度の高い撮影画像に対し、スコアを高くする。
一例として、最頻画像スコア等の各スコアを0〜9の10段階の数値とする。例えば、最頻画像スコア算出部420は、画像数の多い分類に属する画像に対して9点を算出する。露出スコア、被写体ぶれのスコア及び合焦スコアも同様である。
代表画像抽出部140は、設定された画像群や画像副群に含まれる各撮影画像について、最頻画像スコア、露出スコア、被写体ぶれのスコア及び合焦スコアを合計して、合計スコアを算出する。代表画像抽出部140は、設定された画像群や画像副群に含まれる各撮影画像の中で、合計スコアの最大の撮影画像を代表画像として抽出する。なお、代表画像抽出部140は、代表画像を1つでなく、複数抽出するようにしてもよい。
〔第1実施形態〕
次に、第1実施形態を説明する。第1実施形態は、第一の特徴物と第二の特徴物を撮影することによって画像群を設定し、設定された画像群の中から代表画像を抽出する例である。図4は、第一の特徴物と第二の特徴物の撮影を含む一連の撮影シーンを具体的に示した図である。
撮影シーンSc1は、画像群の撮影の開始時に第一の特徴物p1が撮影される場面である。ここでは、広げた手を第一の特徴物p1としている。第一の特徴物p1の撮影後、実際の被写体(対象物)の撮影が、必要な枚数分だけ行われる。撮影シーンSc2は、実際の被写体、ここでは工事箇所(柱)の撮影シーンの例である。撮影シーンSc3は、画像群の撮影の終了時に第二の特徴物p2が撮影される場面である。ここでは、握った手を第二の特徴物p2としている。
図5は、図4で示した一連の撮影シーンで撮影された撮影画像を撮影の早い順から並べた図である。画像D1は、最初に撮影された画像で、画像D12が最後に撮影された画像である。なお、画像D1は、画像群の撮影前に撮影された画像である。画像D2が、広げた手である第一の特徴物p1を含む第一の画像である。画像D12が、握った手である第二の特徴物p2を含む第二の画像である。画像D2と画像D12が、特徴画像である。画像D1及び画像D3〜画像D11が、工事物が撮影された対象物画像であるが、第一の画像(画像D2)と第二の画像画像(画像D12)の間にある画像D3〜画像D11が画像群となる。
図6は、第1実施形態における、画像検索処理の全体の手順を示すフローチャートである。画像検索装置110は、画像検索処理の開始時に、画像検索、抽出条件設定及び特徴物登録の3つコースを表示部70に表示して(ステップS10)、撮影者にコースの選択を促す。画像検索装置110は、特徴物登録が選択された場合には、特徴物登録部310に特徴物の登録処理を実行させる(ステップS12)。例えば、特徴物の登録処理では、撮影者は、一連の撮影とは別な場面で、第1の特徴物と第2の特徴物を、順番にカメラ5に向けて撮影して登録する。特徴物登録部310は、第1の特徴物と第2の特徴物がそれぞれ撮影された特徴物画像や特徴データをメモリ部40に登録する。
画像検索装置110は、抽出条件設定が選択された場合には、抽出条件設定部410に抽出条件の設定処理を実行させる(ステップS14)。図7は、情報処理装置6の表示部70に表示される抽出条件設定画面の例を示す図である。抽出条件設定画面は、最頻画像等の抽出条件モードのオンオフや、各モード間での優先順位を設定する画面である。
表示部70の画面70aは、最頻画像がON、最適露出がOFF、ぶれ検出がOFF、合焦検出がOFFに、それぞれ設定された状態を示す。画面70aでの設定によれば、最頻画像スコア算出部420は有効になるが、露出スコア算出部430・被写体ぶれスコア算出部440及び合焦スコア算出部450は無効となる。
画面70bは、最頻画像がON、最適露出がOFF、ぶれ検出がON、合焦検出がOFFに、それぞれ設定された状態を示す。最頻画像スコア算出部420及び被写体ぶれスコア算出部440は有効になるが、露出スコア算出部430及び合焦スコア算出部450は無効となる。
画面70cは、優先度が設定された状態を示す。画面70cでは、最頻画像が優先度1、最適露出がOFF、ぶれ検出が優先度3、合焦検出が優先度2に、それぞれ設定された状態を示す。優先度1の最頻画像スコア算出部420のスコアに最大の重み付けがされ、合焦スコア算出部450のスコアに2番目の重み付けがされ、被写体ぶれスコア算出部440に3番目の重み付けがされる。例えば、最頻画像スコアが3倍にされ、合焦スコアが2倍にされ、被写体ぶれスコアはそのまま(1倍)とされる。露出スコア算出部430は無効となる。
図6に戻る。画像検索装置110は、画像検索が選択された場合には、画像検索処理を開始する(ステップS16)。画像群処理部130は、画像群設定処理を行う(ステップS20)。
図8は、画像群設定処理1の手順を説明するフローチャートである。画像検索制御部120は、記憶装置60に保存された撮影画像の画像データを、撮影日時の早い順(撮影順)に取得する(ステップS110)。図5の例では、画像D1の画像データが取得される。判定部320は、取得した画像データに対し、いずれかの特徴物が含まれているかを判定する(ステップS112)。判定部320は、取得した画像データが第一の特徴物を含む第一の画像であるかを判定する(ステップS120)。
判定部320は、取得した画像データが第一の画像であると判定すると(ステップS120のYES)、画像群設定部330は、画像群開始フラグがオンであるかを判定する(ステップS122)。画像群開始フラグとは、画像群の開始を示すフラグで、第一の画像の判定があると、オフからオンに切換り、第二の画像の判定がされるとオンからオフに切換る。
画像群設定部330は、画像群開始フラグがオンであると判断すると(ステップS122のYES)、設定エラーフラグをオンにする(ステップS146)。第一の画像の出現後であって第二の画像の出現前に、第一の画像が出現したので、画像群設定部330は、エラーと判断されるからである。
画像群設定部330は、画像群開始フラグがオンでないと判断すると(ステップS122のNO)、画像群開始フラグをオンにして(ステップS124)、ステップS144に進む。図5の例では、画像D2の判定処理により画像群開始フラグがオンになる。
判定部320は、画像データが第一の画像ではないと判定すると(ステップS120のNO)、画像データが第二の特徴物を含む第二の画像であるかを判定する(ステップS126)。判定部320は、画像データが第二の画像である判定すると(ステップS126のYES)、画像群設定部330は、画像群開始フラグがオンであるかを判断する(ステップS128)。画像群設定部330は、画像群開始フラグがオンでないと判断すると(ステップS128のNO)、ステップS146に進む。第一の画像の出現前に、第二の画像が出現したので、画像群設定部330は、エラーと判断されるからである。
画像群設定部330は、画像群開始フラグがオンであると判定すると(ステップS128のYES)、画像群を設定し(ステップS130)、画像群開始フラグをオフにする。第一の特徴物と第二の特徴物が検出されたことで、対応する第一の画像と第二の画像間に挟まれた画像を画像群と設定できるからである。図5の例では、画像D12の判定処理により、画像D3〜画像D11が画像群として設定される。そして、図6のフローチャートのステップS22に進む。
判定部320が、画像データが第二の画像ではないと判定すると(ステップS126のNO)、画像群設定部330は、画像群開始フラグがオンであるかを判断する(ステップS140)。画像群設定部330は、画像群開始フラグがオンであると判断すると(ステップS140のYES)、現画像データを画像群に組み入れる(ステップS142)。特徴画像ではない現在処理中の画像データが、第一の画像の後の画像であるので、画像群に含まれる対象物画像であると判断されるからである。画像群設定部330は、画像群開始フラグがオンでないと判断すると(ステップS140のNO)、ステップS144に進む。この場合には、現在処理中の画像データが、特徴画像ではない対象物画像であっても、画像群には含まれない画像であると判断されるからである。
画像検索制御部120は、処理した画像データが、撮影順で最後の画像データであるかを判定する(ステップS144)。画像検索制御部120は、判定した画像データが、撮影順で最後の画像データではないと判断すると(ステップS144のNO)、ステップS110に戻る。
画像検索制御部120は、判定した画像データが、撮影順で最後の画像データであると判断すると(ステップS144のYES)、ステップS146に進む。検索した一連の撮影画像に、第一の画像と第二の画像の組が検出できなかったからである。ステップS146の後、画像検索制御部120は、図6のフローチャートのステップS22に進む。
画像検索制御部120は、設定エラーフラグがオンであるかを判断する(ステップS22)。画像検索制御部120は、設定エラーフラグがオンでないと判断すると(ステップS22のNO)、代表画像抽出部140に代表画像抽出処理を行わせる(ステップS24)。
図9は、代表画像抽出処理の手順を示すサブルーチンである。代表画像抽出部140が、代表画像抽出処理を行う。代表画像抽出部140は、画像スコアを算出する(ステップS200)。
図10は、画像スコア算出処理の手順を示すサブルーチンである。画像スコア算出処理は、最頻画像スコア加算(ステップS210)、露出スコア加算(ステップS220)、被写体ぶれスコア加算(ステップS230)、合焦スコア加算(ステップS240)の各処理から構成される。各加算処理について順番に説明する。なお、各加算処理の順番は任意である。
図11は、最頻画像スコア加算処理の手順を示すサブルーチンである。最頻画像スコア算出部420は、最頻画像フラグオンであるかを判断する(ステップS310)。図7で示したように、代表画像抽出条件で最頻画像がオンに設定されていれば、最頻画像フラグがオンとなる。
最頻画像スコア算出部420は、最頻画像フラグオンであると判断すると(ステップS310のYES)、設定された画像群の各画像に対して、最頻画像スコアを算出する。前述のように、最頻画像スコア算出部420は、設定された画像群の画像を、主被写体の形状や構図の類似する同士をグループ化し、画像数の多いグループに属する画像に対して高いスコアを算出する(ステップS311)。
最頻画像スコア算出部420は、最頻画像に優先度が設定されているかを判断する(ステップS312)。最頻画像スコア算出部420は、最頻画像に優先度が設定されていると判断すると(ステップS312のYES)、ステップS311で算出した最頻画像スコアに所定の重み付けをする(ステップS313)。前述のように、優先度1が設定されていた場合には、例えば、ステップS311で算出された スコアを3倍にする。
最頻画像スコア算出部420は、最頻画像に優先度が設定されていないと判断すると(ステップS312のNO)、ステップS314に進む。最頻画像スコア算出部420は、画像スコアに、ステップS311の最頻画像スコアあるいはステップS313で重み付けされた最頻画像スコアを加算する(ステップS314)。最頻画像スコア算出部420は、ステップS314の処理後、あるいは最頻画像フラグオンでないと判断した後(ステップS310のNO)、図11の処理を終了して、図10のステップS220に進む。
図12は、露出スコア加算処理の手順を示すサブルーチンである。露出スコア算出部430は、露出フラグオンであるかを判断する(ステップS320)。図7で示したように、代表画像抽出条件で最適露出がオンに設定されていれば、露出フラグはオンとなる。露出スコア算出部430は、露出フラグオンであると判断すると(ステップS320のYES)、設定された画像群の各画像に対して、露出の適正度に基づき、露出スコアを算出する(ステップS321)。
露出スコア算出部430は、最適露出に優先度が設定されているかを判断する(ステップS322)。露出スコア算出部430は、最適露出に優先度が設定されていると判断すると(ステップS322のYES)、ステップS321で算出した露出スコアに所定の重み付けをする(ステップS323)。
露出スコア算出部430は、最適露出に優先度が設定されていないと判断すると(ステップS322のNO)、ステップS324に進む。露出スコア算出部430は、露出スコアあるいは重み付けされた露出スコアを画像スコアに加算する(ステップS324)。露出スコア算出部430は、ステップS324の処理後、あるいは露出フラグオンでないと判断した後(ステップS320のNO)、図12の処理を終了して、図10のステップS230に進む。
図13は、被写体ぶれスコア加算処理の手順を示すサブルーチンである。被写体ぶれスコア算出部440は、被写体ぶれフラグオンであるかを判断する(ステップS330)。図7で示したように、代表画像抽出条件でぶれ検出がオンに設定されていれば、被写体ぶれフラグがオンとなる。被写体ぶれスコア算出部440は、被写体ぶれフラグオンであると判断すると(ステップS330のYES)、設定された画像群の各画像に対して、被写体ぶれスコアを算出する(ステップS331)。
被写体ぶれスコア算出部440は、ぶれ検出に優先度が設定されているかを判断する(ステップS332)。被写体ぶれスコア算出部440は、ぶれ検出に優先度が設定されていると判断すると(ステップS332のYES)、ステップS331で算出した被写体ぶれスコアに所定の重み付けをする(ステップS333)。
被写体ぶれスコア算出部440は、被写体ぶれに優先度が設定されていないと判断すると(ステップS332のNO)、ステップS334に進む。被写体ぶれスコア算出部440は、被写体ぶれスコアあるいは重み付けされた被写体ぶれスコアを画像スコアに加算する(ステップS334)。被写体ぶれスコア算出部440は、ステップS334の処理後、あるいは被写体ぶれフラグオンでないと判断した後(ステップS330のNO)、図13の処理を終了して、図10のステップS240に進む。
図14は、合焦スコア加算処理の手順を示すサブルーチンである。合焦スコア算出部450は、合焦フラグオンであるかを判断する(ステップS340)。図7で示したように、代表画像抽出条件で合焦検出がオンに設定されていれば、合焦フラグがオンとなる。合焦スコア算出部450は、合焦フラグオンであると判断すると(ステップS340のYES)、設定された画像群の各画像に対して、合焦スコアを算出する(ステップS341)。
合焦スコア算出部450は、合焦検出に優先度が設定されているかを判断する(ステップS342)。合焦スコア算出部450は、合焦検出に優先度が設定されていると判断すると(ステップS342のYES)、ステップS341で算出した合焦スコアに所定の重み付けをする(ステップS343)。
合焦スコア算出部450は、合焦に優先度が設定されていないと判断すると(ステップS342のNO)、ステップS344に進む。合焦スコア算出部450は、合焦スコアあるいは重み付された合焦スコアを画像スコアに加算する(ステップS344)。合焦スコア算出部450は、ステップS344の処理後、あるいは合焦フラグオンでないと判断した後(ステップS340のNO)、図14の処理を終了して、図10に戻る。そして、図10から、図9のステップS202に進む。
代表画像抽出部140は、設定された画像群の画像の中から、画像スコアが最大の画像を判定する(ステップS202)。図15に、算出された各モードのスコアの例を表で示す。図15のスコアは、図5で示した画像D3〜D11に対応して算出されたスコアを例にしている。なお、本例では、最頻画像、最適露出、ぶれ検出及び合焦検出の全てのフラグがオンであるとする。また、優先度は設定されないものとする。
画像D3〜D11について、算出された最頻画像スコア、露出スコア、被写体ぶれスコア及び合焦スコアが示される。例えば、最頻画像スコアでは、画像D3、D4、D5に対してスコアが低く算出され、同一構図の画像D7〜D11に対してスコアが高く算出される。また、露出スコアでは、露光オーバの画像D9と露光アンダーの画像D11に低いスコアが低く算出される。合計の画像スコアが、合計スコアの欄に示される。図15の例では、代表画像抽出部140により、合計の画像スコアが36点の画像D10が代表画像として抽出される。
画像検索制御部120は、ステップS202で判定された代表画像を登録する(ステップS204)。具体的には、画像検索制御部120は、画像データのタグの一部を画像検索エリアに設定し、代表画像と判定された画像データについて、画像検索エリアに代表画像である旨の情報を書込むよう画像管理装置100を制御する。
また、画像検索制御部120は、画像群に設定された画像データについて、各画像データのタグの画像検索エリアに、共通の画像群である旨の情報を書込むよう画像管理装置100を制御してもよい。また、画像検索制御部120は、画像群に設定された画像データを1つのホルダとして、管理するよう画像管理装置100を制御してもよい。
代表画像抽出処理の終了後、図6のフローチャートに戻る。画像検索制御部120は、画像データのサイズ変更処理を指示する(ステップS26)。画像検索制御部120は、特徴物画像の画像データのサイズを縮小するよう画像管理装置100に指示する。特徴物画像は、区分けの為の画像であるので、小さなサイズで十分だからである。データサイズの縮小は、画素数を減少させたりあるいは圧縮率を高くすればよい。
また、画像検索制御部120は、対象物画像(あるいは画像群の画像)の画像データを、国土交通省で定めたCALSの規格に準じたサイズに変換するよう画像管理装置100に指示してもよい。なお、カメラ5からCALSの規格に対応した画像データを取得した場合には、CALSの規格への変換は不要である。画像管理装置100は、記憶装置60に記憶された特徴物画像及び対象物画像の画像データを、画像検索制御部120により指示されたサイズに変換する。
画像検索処理の終了後、画像管理装置100は、記憶装置60に記憶された一連の撮影画像の画像データをサーバ8に送信する。なお、画像管理装置100は、一連の撮影画像の中で、対象物画像の画像データのみをサーバ8に送信するようにしてもよい。さらに、画像管理装置100は、代表画像の画像データのみをサーバ8に送信するようにしてもよい。余分な画像データを送信しないようにすれば、通信時間の節約およびサーバ8の負担軽減になるからである。
以上、第1実施形態の画像検索装置によれば、特定の被写体を撮影するという簡単な操作で、一連の撮影画像を、撮影者の意図に沿って簡単に区分けすることができる。具体的には、工事撮影のように撮影対象となる工事箇所数が多く、各工事箇所毎に区分けして管理することが必要な場合に、各工事箇所で複数撮影された画像を画像群として簡単に区分けすることができる。そして、設定された画像群の中から、所定の条件で代表画像を抽出することによって、各工事箇所で複数撮影された画像の中から、適当な1枚を簡単に選択することができる。
〔第2実施形態〕
次に、第2実施形態を説明する。第2実施形態では、前述のように、さらに第三の特徴物を撮影することによって、第1実施形態で設定された画像群を画像副群に分割する。画像群をいくつかに分割したい場合に適用される。例えば、工事撮影の分野では、以下で説明するような、複数の工程から構成される塗装作業における記録の撮影に有効である。
図16は、第三の特徴物の撮影シーンSc4の例を示した図である。第2実施形態では、「Vマークを示す手」を第三の特徴物p3とする。第一の特徴物p1及び第二の特徴物p2は、第1実施形態と同じとする。
図17は、第2実施形態において、一連の撮影で撮影された画像D21〜D36を撮影日時の早い順(撮影順)から並べた図である。画像D21が最初に撮影された画像で、画像D36が最後に撮影された画像である。図17の画像は、段階的に塗装を行う、いわゆる複数塗りを撮影した画像である。各塗装でその都度記録を残すために、各塗装の段階で撮影が行われる。図17の例は、3段階で行われた塗装を撮影した例である。
画像D21は試し撮影の画像である。続いて、画像群の開始位置を示す画像として、第一の特徴物p1を含む第一の画像である画像D22が撮影される。塗装の第1段階の記録として、画像D23〜画像D27が撮影される。第1段階記録と第2段階記録の間に、画像群の途中の区切り位置を示す画像として、第三の画像である画像D28が撮影される。その後、塗装の第2段階の記録として、画像D29〜画像D31が撮影される。
第2段階記録と第3段階記録の間に、画像群の途中の区切り位置を示す画像として、第三の画像である画像D32が撮影される。その後、塗装の第3段階の記録として、画像D33〜画像D35が撮影される。画像群の終了位置を示す画像として、第二の特徴物p2を含む第二の画像である画像D36が撮影される。このように、第三の特徴物の撮影によって、一連の撮影画像のうち、画像D23〜画像D27が画像副群1、画像D29〜画像D31が画像副群2、画像D33〜画像D35が画像副群3に、それぞれ分割される。
第2実施形態における、画像検索処理を説明する。第2実施形態の画像検索処理の全体手順は、第1実施形態で示した図6のフローチャートと同じであるので、説明は省略する。図18は、第2実施形態において、画像群設定処理(画像群設定処理2)の手順を説明するフローチャートである。画像群設定処理2は、図8で示した第1実施形態の画像群設定処理(画像群設定処理1)と共通する部分も多いので、共通する処理には、同じ符号を付けて示す。以下では、画像群設定処理1との相違点につき主に説明し、共通する処理は原則説明を省略する。また、第三の特徴物は、特徴物登録部310によって、前述した第一の特徴物等と同様に、登録されるとする。
画像群設定部330は、画像副群カウンタK=1とする(ステップS108a)。画像副群カウンタKは、K=1,2・・・とする整数で、画像副群を区別する番号である。ステップS110〜ステップS130は、図8のフローチャートと同様である。なお、ステップ130では、さらに、画像群設定部330は、画像群開始フラグをオフにするともに、画像副群カウンタKを0にクリアする。判定部320は、取得した画像データが第三の特徴物を含む第三の画像であるかを判定する(ステップS132a)。
判定部320は、取得した画像データが第三の画像であると判定すると(ステップS132aのYES)、画像群設定部330は、画像副群カウンタK=K+1とし(ステップS134a)、ステップS144に進む。
判定部320は、取得した画像データが第三の画像ではないと判定すると(ステップS132aのNO)、画像群設定部330は、画像群開始フラグがオンであるかを判断する(ステップS140)。画像群設定部330は、画像群開始フラグがオンであると判断すると(ステップS140のYES)、画像データを画像副群のK組に組み入れる(ステップS141a)。第一の画像が検出済であるので、現在処理中の画像データが、K組の画像副群に含まれる対象画像と判断されるからである。
画像群設定部330は、画像群開始フラグがオンでないと判断すると(ステップS140のNO)、ステップS144に進む。以上により、一連の撮影画像につき、第三の画像が検出された位置で、画像群を画像副群に分割することができる。ステップS144、ステップS146は、図8と同様であるので、説明は省略する。
そして、検出された各画像副群に対して、代表画像抽出処理が行われる。なお、代表画像抽出処理の具体的内容は、第1実施形態で説明した図9〜図14と同じであるので、説明は省略する。図17の例では、例えば、画像副群1では画像D27、画像副群2では画像D31、画像副群3では画像D35が、各代表画像として抽出される。
以上のように、第一の画像及び第二の画像に更に第三の画像を設けることにより、画像群を画像副群に分割することができる。これにより、1つの工程をさらに複数の途中工程に分けることができ、各途中工程における代表画像を抽出することができる。
〔第3実施形態〕
次に、第3実施形態を説明する。第3実施形態は、前述のように、第四、第五の特徴物を撮影することによって、画像群設定のための検索処理の開始と終了、つまり画像群設定処理を開始する位置と終了する位置を設定する。第四の画像が画像群設定処理の開始位置を示す画像で、第五の画像が画像群設定処理の終了位置を示す画像である。第四の画像と第五の画像の間に挟まれた画像を、検索処理の対象画像とも呼ぶ。
図19は、第3実施形態において、一連の撮影で撮影された画像D41〜D61を撮影の早い順から並べた図である。画像D41が最初に撮影された画像で、画像D61が最後に撮影された画像である。ここで、第四の特徴物p4は人の顔とし、第五の特徴物p5は人の下半身とされた例である。第一の特徴物p1、第二の特徴物p2及び第三の特徴物p3は、第2実施形態と同じとする。
画像D41と画像D45が、第一の特徴物p1が撮影された第一の画像である。画像D59が、第二の特徴物p2が撮影された第二の画像である。画像D51と画像D55が、第三の特徴物p3が撮影された第三の画像である。そして、画像D43が、第四の特徴物p4が撮影された第四の画像で、画像D61が、第五の特徴物p5が撮影された第五の画像である。
図20は、第3実施形態における、画像検索処理の全体の手順を示すフローチャートである。第3実施形態の画像検索処理は、図6のフローチャートで説明した第1実施形態の画像検索処理と共通する部分も多いので、共通する処理には、同じ符号を付けて示す。以下では、相違点につき主に説明し、共通する処理は原則説明を省略する。
ステップS10〜ステップS16は、図6に示す第1実施形態のフローチャートと共通であるので、説明は省略する。画像検索装置110は、画像群設定処理3を行う(ステップS20b)。図21は、第3実施形態において、画像群設定処理3の手順を説明するフローチャートである。
画像群設定部330は、画像副群カウンタK=1とする(ステップS400)。画像検索制御部120は、検索フラグをオフにする(ステップS402)。検索フラグとは、画像群設定処理のための検索が実行中であることを示すフラグである。以下詳細に説明するが、設定フラグは第四の画像の出現によりオフからオンに切換り、第五の画像の出現によりオンからオフに切換る。
画像検索制御部120は、記憶装置60に保存された撮影画像の画像データを、撮影日時の早い順から取得する(ステップS404)。判定部320は、取得した画像データに対し、いずれかの特徴物が含まれているかを判定する(ステップS406)。
判定部320は、取得した画像データが第四の画像であるかを判定する(ステップS408)。判定部320が、取得した画像データが第四の画像であると判定すると(ステップS408のYES)、画像検索制御部120は、検索フラグがオンであるかを判断する(ステップS410)。画像検索制御部120は、検索フラグがオンであると判断すると(ステップS410のYES)、エラーであると判断して、ステップS472に進む。画像検索制御部120は、設定エラーフラグをオンにして(ステップS472)、図20のステップS22に進む。
画像検索制御部120は、検索フラグがオンでないと判断すると(ステップS410のNO)、検索フラグをオンにして(ステップS412)、ステップS470に進む。画像検索制御部120は、現処理中の画像データが撮影順で最後の画像データであるかを判断し(ステップS470)、最後の画像データでないと判断すると(ステップS470のNO)、ステップS404に戻り、次の撮影順の画像データの処理を行う。
判定部320は、取得した画像データが第四の画像でないと判定すると(ステップS408のNO)、取得した画像データが第五の画像であるかを判定する(ステップS420)。判定部320が、取得した画像データが第五の画像であると判定すると(ステップS420のYES)、画像検索制御部120は、検索フラグがオンであるかを判断する(ステップS422)。画像検索制御部120は、検索フラグがオンであると判断する(ステップS422のYES)、画像群設定のための検索処理を終了する(ステップS424)。また、画像群設定部330は、画像群開始フラグをオフにし、画像副群カウンタKを0にクリアする。図20のステップS22に進む。
画像検索制御部120は、検索フラグがオンでないと判断すると(ステップS422のNO)、エラーであると判断して、ステップS472に進む。
判定部320は、取得した画像データが第五の画像でないと判定すると(ステップS420のNO)、取得した画像データが第一の画像であるかを判定する(ステップS430)。判定部320が、取得した画像データが第一の画像であると判定すると(ステップS430のYES)、画像検索制御部120は、検索フラグがオンであるかを判断する(ステップS432)。
画像検索制御部120は、検索フラグがオンでないと判断すると(ステップS432のNO)、ステップS470に進む。画像検索制御部120が、検索フラグがオンであると判断すると(ステップS432のYES)、画像群設定部330は、画像群開始フラグがオフであるかを判断する(ステップS434)。画像群開始フラグは、第1実施形態で説明した通りである。
画像群設定部330は、画像群開始フラグがオンであると判断すると(ステップS434のYES)、エラーであるとして、ステップS472に進む。画像群設定部330は、画像群開始フラグがオンでないと判断すると(ステップS434のNO)、画像群開始フラグをオンにして(ステップS436)、ステップS470に進む。
判定部320は、取得した画像データが第一の画像でないと判定すると(ステップS430のNO)、取得した画像データが第二の画像であるかを判定する(ステップS440)。判定部320は、取得した画像データが第二の画像であると判定すると(ステップS440のYES)、画像検索制御部120は、検索フラグがオンであるかを判断する(ステップS442)。画像検索制御部120は、検索フラグがオンでないと判断すると(ステップS442のNO)、ステップS470に進む。画像検索制御部120が、検索フラグがオンであると判断すると(ステップS442のYES)、画像群設定部330は、画像群開始フラグがオンであるかを判断する(ステップS444)。
画像群設定部330は、画像群開始フラグがオンではないと判断すると(ステップS444のNO)、エラーであると判断し、ステップS472に進む。画像群設定部330は、画像群開始フラグがオンであると判断すると(ステップS444のYES)、画像群を設定して(ステップS446)、ステップS470に進む。
判定部320は、取得した画像データが第二の画像でないと判定すると(ステップS440のNO)、取得した画像データが第三の画像であるかを判定する(ステップS450)。判定部320が、取得した画像データが第三の画像であると判定すると(ステップS450のYES)、画像検索制御部120は、画像副群カウンタK=K+1として(ステップS452)、ステップS470に進む。なお、この場合には、画像群開始フラグがオンになっているとする。
判定部320が、取得した画像データが第三の画像でないと判定すると(ステップS450のNO)、画像群設定部330は、画像群開始フラグオンであるかを判断する(ステップS460)。画像群設定部330は、画像群開始フラグオンであると判断すると(ステップS460のYES)、画像データを画像副群のK組に組入れ(ステップS462)、ステップS470に進む。画像群設定部330は、画像群開始フラグオンでないと判断すると(ステップS460のNO)、ステップS470に進む。
図20に戻る。画像検索制御部120は、設定エラーフラグオンであるかを判断する(ステップS22)。画像検索制御部120は、設定エラーフラグオンであると判断すると(ステップS22のYES)、画像検索処理を終了する。画像検索制御部120は、設定エラーフラグオンでないと判断すると(ステップS22のNO)、代表画像抽出部140は、代表画像抽出処理を行う(ステップS24b)。
代表画像抽出処理は、検出された各画像副群について行われる。代表画像抽出部140は、各画像副群ごとに代表画像を抽出する。なお、代表画像抽出処理の具体的内容は、第1実施形態で説明した図9〜図14と同じであるので、説明は省略する。図19の例では、例えば、画像副群1では画像D50、画像副群2では画像D54、画像副群3では画像D58が、各代表画像として抽出される。
画像検索制御部120は、画像データのサイズ変更処理を指示する(ステップS26b)。第1実施形態と同様に、画像検索制御部120は、特徴物画像の画像データのサイズを縮小するよう画像管理装置100に指示する。また、画像検索制御部120は、特徴物画像を除く画像検索の対象画像である画像データを、国土交通省で定めたCALSの規格に準じたサイズに変換するよう画像管理装置100に指示する。そして、第1実施形態と同様に、画像検索処理の終了後、画像管理装置100は、記憶装置60に記憶された一連の撮影画像の画像データをサーバ8に送信する。また、画像管理装置100は、画像検索処理の終了後、各画像副群の代表画像の画像データのみをサーバ8に送信するようにしてもよい。
以上のように、第3実施形態の画像検索装置によれば、画像検索の対象が明確に設定されるので、撮影者が画像群設定を意図しない場面で第1の特徴物等が撮影されて、誤った画像群設定が行われるのを防止することができる。
〔その他の例〕
・上記実施形態では、画像検索装置を情報処理装置6に設けた例を説明したが、画像検索装置はサーバ8に設けてもよいし、またカメラ5に設けてもよい。
・上記実施形態では、図6のフローチャートで、一連の撮影画像に複数の画像群が含まれる場合に、各画像群に対して画像群の設定を行い、終了後、設定された各画像群について代表画像抽出を行うと説明したが、この順番に限るものではない。例えば、1つの画像群の設定と代表画像抽出を1組として、組を連続して行うようにしてもよい。
・カメラ5と情報処理装置6を、別体として説明したが、カメラ付のタブレット型端末装置あるいは通信機能付のカメラのような一体型であってもよい。
・また、画像検索装置が、所定のプログラムを読込んだCPUによるソフトウェア処理で実現される例を示したが、画像検索装置の一部あるいは全部をハードウェアで構成してもよい。
なお、本発明は上述した実施形態そのままに限定されるものではなく、実施段階でのその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素を適宜組み合わせても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。このような、発明の趣旨を逸脱しない範囲内において種々の変形や応用が可能であることはもちろんである。
1 撮影システム
5 カメラ
6 情報処理装置
7 ネットワーク
8 サーバ
20 CPU
30 RAM
40 メモリ部
50 通信部
60 記憶装置
70 表示部
80 操作部
100 画像管理装置
110 画像検索装置
120 画像検索制御部
130 画像群処理部
140 代表画像抽出部
310 特徴物登録部
320 判定部
330 画像群設定部
410 抽出条件設定部
420 最頻画像スコア算出部
430 露出スコア算出部
440 被写体ぶれスコア算出部
450 合焦スコア算出部

Claims (10)

  1. 一連の撮影画像から、第一の特徴物が被写体に含まれる画像を第一の画像と判定し、前記第一の画像よりも後に撮影された画像であって第二の特徴物が被写体に含まれる画像を第二の画像と判定する判定部と、
    前記一連の撮影画像の中から、前記第一の画像が撮影されてから前記第二の画像が撮影されるまでの期間で撮影された画像を画像群に設定する画像群設定部と、
    前記画像群の中から代表画像を抽出する代表画像抽出部と、を備え
    更に、前記判定部は、被写体に第三の特徴物が含まれる画像を第三の画像と判定し、
    前記画像群設定部は、前記画像群に含まれる画像を、前記第三の画像より以前に撮影された画像と、前記第三の画像より以降に撮影された画像に分割して、複数の画像副群を設定し、
    前記代表画像抽出部は、前記設定された画像副群ごとに前記代表画像を抽出す
    ことを特徴とする画像検索装置。
  2. 前記代表画像抽出部は、前記画像群に含まれる各画像を、所定の条件に基づき比較して、前記代表画像を抽出する
    ことを特徴とする請求項1に記載の画像検索装置。
  3. 前記代表画像抽出部は、露出の適正度、被写体のぶれ量または被写体の合焦度の少なくとも1つを、前記所定の条件として、前記代表画像を抽出する
    ことを特徴とする請求項2に記載の画像検索装置。
  4. 前記代表画像抽出部は、前記画像群に含まれる各画像で最も多く現れる構図を前記所定の条件の少なくとも1つとして、前記代表画像を抽出する
    ことを特徴とする請求項2に記載の画像検索装置。
  5. 前記代表画像抽出部は、前記所定の条件が複数ある場合には、前記所定の条件に優先度を設定して、各画像を比較して、前記代表画像を抽出する
    ことを特徴とする請求項2に記載の画像検索装置。
  6. さらに、前記判定部は、被写体に第四の特徴物が含まれる画像を第四の画像と判定し、前記第四の画像よりも後に撮影された画像であって被写体に第五の特徴物が含まれる画像を第五の画像と判定し、
    前記画像群設定部は、前記第四の画像が撮影されてから前記第五の画像が撮影されるまでの期間で撮影された画像の中から、前記第一の画像と前記第二の画像によって前記画像群を設定する
    ことを特徴とする請求項1に記載の画像検索装置。
  7. 記憶部に記憶された前記一連の撮影画像の画像データを制御する画像検索制御部を備え、
    前記画像検索制御部は、前記第四の画像が撮影されてから前記第五の画像が撮影されるまでの期間で撮影された画像について、前記画像データのサイズを所定のサイズに変更する
    ことを特徴とする請求項に記載の画像検索装置。
  8. 記憶部に記憶された前記一連の撮影画像の画像データを制御する画像検索制御部を備え、
    前記画像検索制御部は、前記判定部により判定された前記第一の画像もしくは前記第二の画像について、前記画像データのサイズを縮小する、
    ことを特徴とする請求項1乃至のいずれか1項に記載の画像検索装置
  9. 情報処理装置に画像検索を実行させる画像検索方法において、
    一連の撮影画像から、第一の特徴物が被写体に含まれる画像を第一の画像と判定し、
    前記第一の画像よりも後に撮影された画像であって第二の特徴物が被写体に含まれる画像を第二の画像と判定し、
    被写体に第三の特徴物が含まれる画像を第三の画像と判定し、
    前記一連の撮影画像の中から、前記第一の画像が撮影されてから前記第二の画像が撮影されるまでの期間で撮影された画像を画像群に設定し、
    前記画像群に含まれる画像を、前記第三の画像より以前に撮影された画像と、前記第三の画像より以降に撮影された画像に分割して、複数の画像副群を設定し、
    前記画像群の中から、前記設定された画像副群ごとに代表画像を抽出する
    ことを特徴とする画像検索方法。
  10. コンピュータに画像検索を実行させるプログラムにおいて、
    一連の撮影画像から、第一の特徴物が被写体に含まれる画像を第一の画像と判定し、
    前記第一の画像よりも後に撮影された画像であって第二の特徴物が被写体に含まれる画像を第二の画像と判定し、
    被写体に第三の特徴物が含まれる画像を第三の画像と判定し、
    前記一連の撮影画像の中から、前記第一の画像が撮影されてから前記第二の画像が撮影されるまでの期間で撮影された画像を画像群に設定し、
    前記画像群に含まれる画像を、前記第三の画像より以前に撮影された画像と、前記第三の画像より以降に撮影された画像に分割して、複数の画像副群を設定し、
    前記画像群の中から、前記設定された画像副群ごとに代表画像を抽出する
    ことをコンピュータに実行させるプログラム。
JP2016134540A 2016-07-06 2016-07-06 画像検索装置、画像検索方法及びプログラム Active JP6779683B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016134540A JP6779683B2 (ja) 2016-07-06 2016-07-06 画像検索装置、画像検索方法及びプログラム
US15/635,849 US10515287B2 (en) 2016-07-06 2017-06-28 Image retrieval apparatus, computer readable medium, and method for specifying an image group and extracting a representative image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016134540A JP6779683B2 (ja) 2016-07-06 2016-07-06 画像検索装置、画像検索方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2018007156A JP2018007156A (ja) 2018-01-11
JP6779683B2 true JP6779683B2 (ja) 2020-11-04

Family

ID=60910955

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016134540A Active JP6779683B2 (ja) 2016-07-06 2016-07-06 画像検索装置、画像検索方法及びプログラム

Country Status (2)

Country Link
US (1) US10515287B2 (ja)
JP (1) JP6779683B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020136898A (ja) 2019-02-19 2020-08-31 ソニーセミコンダクタソリューションズ株式会社 撮像装置、電子機器、および撮像方法
CN113841389B (zh) * 2019-05-22 2023-11-10 三菱电机楼宇解决方案株式会社 影像处理装置及影像处理方法
US11863910B2 (en) * 2020-03-03 2024-01-02 Daikin Industries, Ltd. Task support apparatus, task support program, terminal, and task support method
JP2022086521A (ja) * 2020-11-30 2022-06-09 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199028A (ja) * 2001-12-27 2003-07-11 Matsushita Electric Ind Co Ltd 電子アルバム装置
JP4606828B2 (ja) * 2003-09-25 2011-01-05 富士フイルム株式会社 特定シーンの画像を選別する装置、プログラムおよびプログラムを記録した記録媒体
JP2006065368A (ja) * 2004-08-24 2006-03-09 Sony Corp 画像表示装置,画像表示方法,およびコンピュータプログラム
JP2006331393A (ja) * 2005-04-28 2006-12-07 Fujifilm Holdings Corp アルバム作成装置、アルバム作成方法、及びプログラム
JP5009577B2 (ja) * 2005-09-30 2012-08-22 富士フイルム株式会社 画像検索装置および方法並びにプログラム
US7688379B2 (en) * 2005-12-09 2010-03-30 Hewlett-Packard Development Company, L.P. Selecting quality images from multiple captured images
JP4759498B2 (ja) 2006-11-30 2011-08-31 オリンパスイメージング株式会社 カメラ、画像記録方法およびプログラム
JP2009093334A (ja) * 2007-10-05 2009-04-30 Seiko Epson Corp 識別方法及びプログラム
WO2009090804A1 (ja) * 2008-01-18 2009-07-23 Nikon Corporation 画像群の標題付与装置、画像のグループ化装置、画像群の代表画像決定装置、画像表示装置、カメラおよび画像表示プログラム
JP5072757B2 (ja) * 2008-07-24 2012-11-14 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5176776B2 (ja) * 2008-08-21 2013-04-03 株式会社ニコン カメラ
US9495583B2 (en) * 2009-01-05 2016-11-15 Apple Inc. Organizing images by correlating faces
US8542950B2 (en) * 2009-06-02 2013-09-24 Yahoo! Inc. Finding iconic images
US8774528B2 (en) * 2010-09-24 2014-07-08 Kodak Alaris Inc. Method of selecting important digital images
US9256620B2 (en) * 2011-12-20 2016-02-09 Amazon Technologies, Inc. Techniques for grouping images
JP5872976B2 (ja) * 2012-07-17 2016-03-01 オリンパス株式会社 医療画像管理装置
US9307112B2 (en) * 2013-05-31 2016-04-05 Apple Inc. Identifying dominant and non-dominant images in a burst mode capture
JP2015008385A (ja) * 2013-06-25 2015-01-15 株式会社ニコン 画像選択装置、撮像装置および画像選択プログラム
TWI528197B (zh) * 2013-09-26 2016-04-01 財團法人資訊工業策進會 相片分群系統及相片分群方法與電腦可讀取記錄媒體

Also Published As

Publication number Publication date
JP2018007156A (ja) 2018-01-11
US10515287B2 (en) 2019-12-24
US20180012103A1 (en) 2018-01-11

Similar Documents

Publication Publication Date Title
JP6779683B2 (ja) 画像検索装置、画像検索方法及びプログラム
JP5018767B2 (ja) 被写体追跡プログラム、被写体追跡装置、およびカメラ
JP5293206B2 (ja) 画像検索装置、画像検索方法及びプログラム
CN1971398B (zh) 成像设备和图像处理方法
US20090322894A1 (en) Computer program product for photographic subject tracking, photographic subject tracking device, and camera
US20150092995A1 (en) Image processing apparatus for specifying an image relating to a predetermined moment from among a plurality of images
JP4110560B2 (ja) 画像処理方法及びその装置
CN112734659A (zh) 图像校正方法、装置及电子设备
CN104853172B (zh) 一种信息处理方法以及一种电子设备
JP2005045600A (ja) 画像撮影装置およびプログラム
JP2016189544A (ja) 画像撮影装置、画像撮影方法、プログラムおよび記録媒体
WO2016015544A1 (zh) 运动物体的轨迹的拍摄方法及装置
US8466981B2 (en) Electronic camera for searching a specific object image
KR102558959B1 (ko) 영상으로부터 객체를 추출하는 장치, 방법 및 컴퓨터 프로그램
CN114390197B (zh) 拍摄方法和装置、电子设备及可读存储介质
CN103139521B (zh) 图像采集与选取方法及图像采集装置
JP5206422B2 (ja) 構図選択装置及びプログラム
CN104104881A (zh) 物体的拍摄方法和移动终端
JP2014187551A (ja) 画像取得装置、画像取得方法及びプログラム
CN112637496B (zh) 图像矫正方法及装置
CN105631883B (zh) 一种确定图像中的目标区域的方法和装置
CN112367464A (zh) 图像输出方法、装置及电子设备
CN115499589B (zh) 拍摄方法、装置、电子设备及介质
JP5687670B2 (ja) 表示制御システム、ゲームシステム、表示制御装置、及びプログラム
JP5267645B2 (ja) 撮像装置、撮影制御方法、およびプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180628

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190610

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190610

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200929

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201014

R151 Written notification of patent or utility model registration

Ref document number: 6779683

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250