JP2012222780A - 記録配信装置、記録配信方法及び監視システム - Google Patents
記録配信装置、記録配信方法及び監視システム Download PDFInfo
- Publication number
- JP2012222780A JP2012222780A JP2011089998A JP2011089998A JP2012222780A JP 2012222780 A JP2012222780 A JP 2012222780A JP 2011089998 A JP2011089998 A JP 2011089998A JP 2011089998 A JP2011089998 A JP 2011089998A JP 2012222780 A JP2012222780 A JP 2012222780A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- data
- image data
- image
- importance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】狭帯域のネットワーク環境でも、複数の画像を効率的に送信して、効果的に監視できるようにすること。
【解決手段】記録配信装置100は、画像を撮像する画像撮像部101と、画像データを生成する画像符号化部109と、個別送信データを受信するデータ受信部114と、個別送信データから画像データを抽出する画像データ抽出部117と、画像符号化部109で生成された画像データ及び画像データ抽出部117で抽出された画像データから選択された画像データより1つの画像データを生成し、この1つの画像データを含む合成送信データを生成するデータ合成部120と、この合成送信データを送信するデータ送信部121と、を備える。
【選択図】図1
【解決手段】記録配信装置100は、画像を撮像する画像撮像部101と、画像データを生成する画像符号化部109と、個別送信データを受信するデータ受信部114と、個別送信データから画像データを抽出する画像データ抽出部117と、画像符号化部109で生成された画像データ及び画像データ抽出部117で抽出された画像データから選択された画像データより1つの画像データを生成し、この1つの画像データを含む合成送信データを生成するデータ合成部120と、この合成送信データを送信するデータ送信部121と、を備える。
【選択図】図1
Description
本発明は、画像データの記録配信装置、画像データの記録配信方法、及び、画像データを用いた監視システムに関する。
近年のネットワーク技術の向上と、画像符号化技術の向上とにより、ネットワークに接続された監視カメラを用いて遠隔地からセキュリティーの監視を行うことが行われている。このような遠隔監視においては、複数の監視カメラから送信された画像データを、ネットワークを介して、遠隔地のサーバーが受信して記録するとともに、監視者がこの記録画像を用いて異常発生時の画像を確認することが広く行われている。
また、監視カメラから送信された画像データの画像をリアルタイムで表示させ、遠隔地の監視者が異常を監視することも広く行われている。このような監視においては、監視カメラでの撮像画像の変化に応じて、異常を検出することも一般的に行われている。
このような複数の監視カメラを用いた遠隔地での監視においては、モニタに表示される画面を分割して、複数の監視カメラから送信されてくる画像データの画像を、同時にモニタに表示させることで、監視者が同時に複数の画像を視聴することが広く行われている。例えば、16台の監視カメラから送信されてきた画像データの画像を表示する場合には、モニタに表示される画面を16分割して、このモニタに、各々の監視カメラからの画像を同時に表示させることが行われている。また、この分割表示においては、モニタに、特定の監視カメラの画像のみを大きく表示させるように設定できる場合が多い。
しかしながら、監視員が、複数の監視カメラから送信されてくる画像を監視している際に、重要な画像を見つけだして、それらを関連付けて監視することは困難であった。例えば、複数の監視カメラから送られてくる画像にまたがって人物が移動していくような場合に、監視員が、それらを関連付けて監視することは困難であった。
このため、特許文献1では、複数のモーションディテクト付きIP(Internet Protocol)カメラを用いて、動きを検知したカメラの画像のみを遠隔地に送信し、遠隔地では、送信されてきた画像を1つのモニタに順次表示させるシステムが提案されている。
しかしながら、特許文献1に記載されたシステムでは、複数のIPカメラが同時に動きを検知した場合には複数のIPカメラが同時に画像送信を行うため、データ量が急激に増加し、ネットワークの帯域が狭帯域の環境では画像の送信に時間がかかり重要なシーンの確認が遅れる等の問題があった。
そこで、本発明は上記のような課題を解決するためになされたものであり、狭帯域のネットワーク環境でも、複数の画像を効率的に送信して、効果的に監視することができるようにすることを目的とする。
本発明の一態様に係る記録配信装置は、
画像を撮像する画像撮像部と、
前記画像撮像部で撮像された画像の画像データを生成する画像符号化部と、
第1ネットワークから、画像データを含む個別送信データを受信するデータ受信部と、
前記個別送信データから画像データを抽出する画像データ抽出部と、
前記生成された画像データ及び前記抽出された画像データから選択された画像データより1つの画像データを生成し、当該1つの画像データを含む合成送信データを生成するデータ合成部と、
前記合成送信データを、第2ネットワークに送信するデータ送信部と、を備えること
を特徴とする。
画像を撮像する画像撮像部と、
前記画像撮像部で撮像された画像の画像データを生成する画像符号化部と、
第1ネットワークから、画像データを含む個別送信データを受信するデータ受信部と、
前記個別送信データから画像データを抽出する画像データ抽出部と、
前記生成された画像データ及び前記抽出された画像データから選択された画像データより1つの画像データを生成し、当該1つの画像データを含む合成送信データを生成するデータ合成部と、
前記合成送信データを、第2ネットワークに送信するデータ送信部と、を備えること
を特徴とする。
本発明の一態様によれば、狭帯域のネットワーク環境でも、複数の画像を効率的に送信して、効果的に監視することができる。
実施の形態1.
図1は、実施の形態1に係る記録配信装置100の構成を概略的に示すブロック図である。記録配信装置100は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部107と、重要度算出部108と、画像符号化部109と、画像切出部110と、送信データ切替部111と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部116と、画像データ抽出部117と、重要度比較部118と、スケーリング部119と、データ合成部120と、データ送信部121とを備える。ここで、記録配信装置100は、利用者の設定に基づいて、マスタ装置又はスレーブ装置のいずれかとして機能する。
図1は、実施の形態1に係る記録配信装置100の構成を概略的に示すブロック図である。記録配信装置100は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部107と、重要度算出部108と、画像符号化部109と、画像切出部110と、送信データ切替部111と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部116と、画像データ抽出部117と、重要度比較部118と、スケーリング部119と、データ合成部120と、データ送信部121とを備える。ここで、記録配信装置100は、利用者の設定に基づいて、マスタ装置又はスレーブ装置のいずれかとして機能する。
なお、図1においては、記録配信装置100に設けられる、あるいは、記録配信装置100に接続される部分のうち、一部の部分、例えば、本装置の利用者が、記録の開始又は停止、マスタ装置又はスレーブ装置の設定等を指定するためのコマンド入力部、マスタ装置又はスレーブ装置等の設定を記憶する設定記憶部、機器の状態を表示する状態表示部、画像の符号化及び復号処理のために一時的にデータを格納するデータ一時格納部、一時的に格納されたデータを制御する制御部、並びに、出力された画像信号を表示する表示部等は、省略されている。
画像撮像部101は、画像を撮像し、当該画像に対応する電気信号である画像信号を生成する。そして、画像撮像部101は、生成された画像信号を画像解析部102及び画像符号化部109に与える。
画像解析部102は、画像撮像部101より与えられた画像信号に基づいて、画像撮像部101で撮像された画像を解析し、解析結果を示す解析結果データとして、画像解析データを生成する。例えば、画像解析部102は、画像撮像部101で撮像された画像に重要な部分が含まれているか否かを解析する。一例として、画像解析部102は、画像撮像部101で撮像された画像に基づいて、動き検知と、顔検出とを行う。そして、画像解析部102は、解析結果として、動きが検知された領域の割合と、動きが検知された場合(例えば、動きが検知された領域の割合が「0」ではない場合)には、動きが検知された領域の座標と、顔検出の有無と、顔が検出された場合には、顔が検出された領域の座標とを示すデータを含む画像解析データを生成し、この画像解析データをメタデータ生成部107に与える。
外部情報入力部103は、外部機器で生成された外部信号の入力を受け付ける。例えば、本実施の形態においては、外部信号は、センサ機器(図示せず)で生成された検出信号であるが、他の信号、例えば、エレベータで生成された運行信号等であってもよい。ここで、本実施の形態においては、センサ機器は、センシング対象が動いた場合、例えば、ドアが開いた場合に、その検出信号を出力するものとする。なお、本実施の形態では、外部情報入力部103は、1つ設けられているが、複数でもよい。
外部情報解析部104は、外部情報入力部103に入力された外部信号を解析し、その解析結果を示す解析結果データとして、外部入力データを生成する。例えば、本実施の形態においては、外部情報解析部104は、外部情報入力部103にセンサ機器からの外部信号が入力された際に、外部機器からの外部信号の入力があったことを示す外部入力データを生成し、外部情報入力部103にセンサ機器からの外部信号の入力がない場合には、外部機器からの外部信号の入力がないことを示す外部入力データを生成する。そして、外部情報解析部104は、生成された外部入力データをメタデータ生成部107に与える。
音声入力部105は、マイク(図示せず)等からの音声信号の入力を受け付ける。なお、本実施の形態では、音声入力部105は、1つ設けられているが、複数でもよい。
音声解析部106は、音声入力部105に入力された音声信号を解析し、その解析結果を示す解析結果データとして、音声入力データを生成する。例えば、音声解析部106は、音声入力部105に入力された音声信号から、音声の音量レベルを特定する。そして、音声解析部106は、予め定められた音量レベルの最大値に対する、特定された音量レベルの割合を算出し、この割合(音声入力割合)を示す音声入力データを生成する。そして、音声解析部106は、生成された音声入力データをメタデータ生成部107に与える。
以上のように、画像解析部102、外部情報解析部104及び音声解析部106は、監視対象の状態を複数の項目で解析する状態解析部を構成し、その解析結果を示す解析結果データをメタデータ生成部107に与える。
メタデータ生成部107は、画像解析部102、外部情報解析部104及び音声解析部106から与えられた解析結果データに基づいて、これらで解析された解析結果を含む部分メタデータを生成し、この部分メタデータを重要度算出部108に与える。そして、メタデータ生成部107は、部分メタデータに基づいて重要度算出部108で算出された重要度の値が与えられると、この重要度の値とこの部分メタデータとをデータ合成部120に与える。ここで、部分メタデータには、動きが検知された領域の割合と、動きが検知された場合には、動きが検知された領域の座標と、顔検出の有無と、顔が検出された場合には、顔が検出された領域の座標と、外部信号の入力の有無と、音声入力割合とを示すデータが少なくとも含まれている。
また、メタデータ生成部107は、画像解析部102から受け取った画像解析データを画像切出部110に与える。
また、メタデータ生成部107は、画像解析部102から受け取った画像解析データを画像切出部110に与える。
重要度算出部108は、個別画像データの重要度を算出する。ここで、重要度算出部108は、画像解析部102、外部情報解析部104及び音声解析部106により構成される状態解析部から、メタデータ生成部107を介して、監視対象の状態を複数の項目で解析した解析結果を示す解析結果データを取得し、この解析結果に基づいて、個別画像データの重要度を算出する。例えば、重要度算出部108は、自装置である記録配信装置100がスレーブ装置である場合には、メタデータ生成部107から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、メタデータ生成部107に与える。また、重要度算出部108は、自装置である記録配信装置100がマスタ装置である場合には、メタデータ生成部107から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、メタデータ生成部107及び重要度比較部118に与える。なお、重要度の具体的な算出方法については、図7及び図8を用いて後述する。
画像符号化部109は、画像撮像部101から与えられた画像信号を符号化して、画像データを生成する。そして、画像符号化部109は、生成された画像データを、画像切出部110及び管理情報生成部112に与える。
画像切出部110は、メタデータ生成部107から与えられた画像解析データに基づいて、必要な場合には、画像撮像部101で撮像された画像の中の一部分を切り出す。ここで、画像切出部110は、画像解析部102が画像撮像部101で撮像された画像の中に重要な部分が含まれていると判断した場合には、この重要な部分を切り出す。例えば、画像切出部110は、画像解析部102で、動きが検知された領域、あるいは、顔が検出された領域が含まれるように、切り出し範囲を決定する。なお、1つの画像で、動きが検知され、かつ、顔も検出されている場合には、画像切出部110は、顔が検出された領域を優先して、顔が検出された領域が含まれるように切出し範囲を決定することが望ましい。また、画像切出部110は、画像符号化部109によって符号化された画像データを一度復号してから切り出し処理を行ってもよいし、また、符号化形式によっては、復号せずに切り出し処理を行ってもよい。
画像切出部110は、切出し処理が行われた後の画像データを、個別画像データとして、送信データ切替部111に与える。また、画像切出部110は、動きが検知されず、かつ、顔も検出されていない場合には、画像符号化部109から与えられた画像データをそのまま、個別画像データとして、送信データ切替部111に与える。
画像切出部110は、切出し処理が行われた後の画像データを、個別画像データとして、送信データ切替部111に与える。また、画像切出部110は、動きが検知されず、かつ、顔も検出されていない場合には、画像符号化部109から与えられた画像データをそのまま、個別画像データとして、送信データ切替部111に与える。
送信データ切替部111は、画像切出部110から与えられた個別画像データを出力する出力先を切り替える。例えば、送信データ切替部111は、自装置である記録配信装置100がマスタ装置である場合には、個別画像データをスケーリング部119に与える。また、送信データ切替部111は、自装置である記録配信装置100がスレーブ装置である場合には、個別画像データをデータ合成部120に与える。
管理情報生成部112は、画像符号化部109から与えられた画像データに対して一意となる固有識別子を生成する。また、管理情報生成部112は、画像符号化部109から与えられた画像データを、生成された固有識別子に対応付けて、データ記録部113に記録させる。さらに、管理情報生成部112は、生成された固有識別子をデータ合成部120に与える。
ここで、管理情報生成部112が生成する固有識別子について説明する。固有識別子は、画像データに対して一意となるものであればどのようなものであってもよいが、例えば、本実施の形態においては、固有識別子は、自装置である記録配信装置100を識別するための識別情報である装置情報と、各々の画像データを識別するためのシーケンス番号とにより構成される。シーケンス番号は、日時情報で構成するのが望ましい。ここで、シーケンス番号として日時情報を用いる場合には、1秒間に複数の画像データが生成される場合もあるため、日時情報は、1秒以下の分解能を有するものとすることが望ましい。例えば、90kHzの分解能を有する日時情報を用いることで、画像データに対して一意のシーケンス番号を付与することができる。
ここで、管理情報生成部112が生成する固有識別子について説明する。固有識別子は、画像データに対して一意となるものであればどのようなものであってもよいが、例えば、本実施の形態においては、固有識別子は、自装置である記録配信装置100を識別するための識別情報である装置情報と、各々の画像データを識別するためのシーケンス番号とにより構成される。シーケンス番号は、日時情報で構成するのが望ましい。ここで、シーケンス番号として日時情報を用いる場合には、1秒間に複数の画像データが生成される場合もあるため、日時情報は、1秒以下の分解能を有するものとすることが望ましい。例えば、90kHzの分解能を有する日時情報を用いることで、画像データに対して一意のシーケンス番号を付与することができる。
データ記録部113は、データを記録する。例えば、データ記録部113は、管理情報生成部112から与えられた画像データ及び固有識別子を対応付けて記録する。また、データ記録部113は、メタデータ生成部107から部分メタデータが与えられると、当該部分メタデータを、当該部分メタデータに対応する画像データに対応付けて記録する。さらに、データ記録部113は、自装置である記録配信装置100がマスタ装置である場合には、データ合成部120から与えられた合成送信データを記録する。
ここで、データ記録部113は、内部にデータ蓄積用の媒体を備える。データ蓄積用の媒体は、ハードディスク、フラッシュメモリ、リムーバブルなSDメモリーカード等により構成することができる。
ここで、データ記録部113は、内部にデータ蓄積用の媒体を備える。データ蓄積用の媒体は、ハードディスク、フラッシュメモリ、リムーバブルなSDメモリーカード等により構成することができる。
データ受信部114は、データを受信する。例えば、本実施の形態においては、データ受信部114は、他の記録配信装置100から送られてきた個別送信データを受信する。
メタデータ抽出部115は、データ受信部114で受信された個別送信データから個別メタデータを抽出し、この個別メタデータを重要度抽出部116及びデータ合成部120に与える。
重要度抽出部116は、メタデータ抽出部115から与えられた個別メタデータより重要度の値を抽出し、この重要度の値を重要度比較部118に与える。
画像データ抽出部117は、データ受信部114で受信された個別送信データから個別画像データを抽出し、この個別画像データをスケーリング部119に与える。
重要度比較部118は、重要度算出部108で算出された、個別画像データの重要度の値、及び、重要度抽出部116で抽出された、各個別画像データの重要度の値、を比較して、個別画像データの画像を1つの画像データに合成する際の、個別画像データ毎のサイズ及び配置位置を特定する。そして、重要度比較部118は、個別画像データ毎のサイズをスケーリング部119に与え、個別画像データ毎の配置位置をデータ合成部120に与える。重要度比較部118が特定する各個別画像データのサイズ及び配置位置については、図11を用いて後述する。
スケーリング部119は、重要度比較部118から受け取った個別画像データ毎のサイズに合わせて、送信データ切替部111及び画像データ抽出部117から与えられた個別画像データのサイズ(解像度)を変更する。そして、スケーリング部119は、サイズ変更後の個別画像データをデータ合成部120に与える。
データ合成部120は、画像データにメタデータを添付することにより送信データを生成し、この送信データをデータ送信部121に与える。
例えば、データ合成部120は、自装置である記録配信装置100がスレーブ装置である場合には、メタデータ生成部107から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、送信データ切替部111から与えられた個別画像データに添付することで個別送信データを生成する。
また、データ合成部120は、自装置である記録配信装置100がマスタ装置である場合には、スケーリング部119から与えられたサイズ変更後の個別画像データを、重要度比較部118から受け取った個別画像データ毎の配置位置に配置することで合成画像データを生成する。そして、データ合成部120は、自装置である記録配信装置100がマスタ装置である場合には、メタデータ生成部107から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子と、メタデータ抽出部115から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部120は、以上のようにして生成された個別送信データ又は合成送信データをデータ送信部121に与える。また、データ合成部120は、以上のようにして生成された合成送信データをデータ記録部113に記録させる。
例えば、データ合成部120は、自装置である記録配信装置100がスレーブ装置である場合には、メタデータ生成部107から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、送信データ切替部111から与えられた個別画像データに添付することで個別送信データを生成する。
また、データ合成部120は、自装置である記録配信装置100がマスタ装置である場合には、スケーリング部119から与えられたサイズ変更後の個別画像データを、重要度比較部118から受け取った個別画像データ毎の配置位置に配置することで合成画像データを生成する。そして、データ合成部120は、自装置である記録配信装置100がマスタ装置である場合には、メタデータ生成部107から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子と、メタデータ抽出部115から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部120は、以上のようにして生成された個別送信データ又は合成送信データをデータ送信部121に与える。また、データ合成部120は、以上のようにして生成された合成送信データをデータ記録部113に記録させる。
データ送信部121は、ネットワークにデータを送信する。例えば、データ送信部121は、自装置である記録配信装置100がスレーブ装置である場合には、データ合成部120から与えられた個別送信データを、ネットワークを介して、マスタ装置である記録配信装置100に送信する。
また、データ送信部121は、自装置である記録配信装置100がマスタ装置である場合には、データ合成部120から与えられた合成送信データを、ネットワークを介して、予め定められた装置に送信する。ここで、合成送信データの送信先となる、予め定められた装置は、マスタ装置である記録配信装置100に個別送信データを送信する記録配信装置100以外の装置である。例えば、予め定められた装置は、合成画像を表示する表示部を備える視聴装置であることが望ましい。
なお、自装置である記録配信装置100がスレーブ装置である場合には、マスタ装置である記録配信装置100の通信アドレスが、図示しない通信アドレス記憶部に記憶されているものとし、自装置である記録配信装置100がマスタ装置である場合には、予め定められた装置の通信アドレスが、図示しない通信アドレス記憶部に記憶されているものとする。
また、データ送信部121は、自装置である記録配信装置100がマスタ装置である場合には、データ合成部120から与えられた合成送信データを、ネットワークを介して、予め定められた装置に送信する。ここで、合成送信データの送信先となる、予め定められた装置は、マスタ装置である記録配信装置100に個別送信データを送信する記録配信装置100以外の装置である。例えば、予め定められた装置は、合成画像を表示する表示部を備える視聴装置であることが望ましい。
なお、自装置である記録配信装置100がスレーブ装置である場合には、マスタ装置である記録配信装置100の通信アドレスが、図示しない通信アドレス記憶部に記憶されているものとし、自装置である記録配信装置100がマスタ装置である場合には、予め定められた装置の通信アドレスが、図示しない通信アドレス記憶部に記憶されているものとする。
図2は、記録配信装置100を用いた監視システム150の構成を概略的に示す構成図である。監視システム150は、第1カメラ151と、第2カメラ152と、第3カメラ153と、第4カメラ154と、視聴装置155と、を備える。第1カメラ151、第2カメラ152、第3カメラ153及び第4カメラ154は、ネットワークハブ156を介して、LAN(Local Are Network)に接続されている。また、このLANには、第1ネットワークルータ157が接続されており、第1カメラ151、第2カメラ152、第3カメラ153及び第4カメラ154は、第1ネットワークルータ157を介してインターネット158に接続することができるように構成されている。また、視聴装置155は、第2ネットワークルータ159を介して、インターネット158に接続することができるように構成されている。
第1カメラ151、第2カメラ152、第3カメラ153及び第4カメラ154は、記録配信装置100により構成されている。そして、第1カメラ151がマスタ装置に設定されており、第2カメラ152、第3カメラ153及び第4カメラ154がスレーブ装置に設定されている。
これらのカメラ151〜154は、監視対象とされたエリアに設置され、このエリアの画像を撮像する。そして、スレーブ装置である第2カメラ152、第3カメラ153及び第4カメラ154は、個別送信データを生成し、この個別送信データを、マスタ装置である第1カメラ151に送信する。そして、第1カメラ151は、自装置で撮像された画像から生成された個別画像データ、部分メタデータ、固有識別子、及び、第2カメラ152、第3カメラ153及び第4カメラ154から受信した個別送信データに基づいて、合成送信データを生成し、この合成送信データを視聴装置155に送信する。視聴装置155は、通常、遠隔地に設置されており、視聴装置155の利用者は、遠隔地から監視エリアを監視することができる。
これらのカメラ151〜154は、監視対象とされたエリアに設置され、このエリアの画像を撮像する。そして、スレーブ装置である第2カメラ152、第3カメラ153及び第4カメラ154は、個別送信データを生成し、この個別送信データを、マスタ装置である第1カメラ151に送信する。そして、第1カメラ151は、自装置で撮像された画像から生成された個別画像データ、部分メタデータ、固有識別子、及び、第2カメラ152、第3カメラ153及び第4カメラ154から受信した個別送信データに基づいて、合成送信データを生成し、この合成送信データを視聴装置155に送信する。視聴装置155は、通常、遠隔地に設置されており、視聴装置155の利用者は、遠隔地から監視エリアを監視することができる。
視聴装置155は、図示されていないが、受信部と、画像処理部と、表示部とを少なくとも備えており、受信部で合成送信データを受信し、画像処理部でこの合成送信データから合成画像データを抽出し、表示部でこの合成画像データに対応する画像を表示する。また、視聴装置155は、さらに、視聴装置155の利用者からの指示の入力を受け付ける入力部を備えるように構成することもできる。そして、この入力部が利用者からメタデータの表示指示の入力を受け付けた場合に、画像処理部が、合成送信データから合成メタデータを抽出して、この合成メタデータに含まれている全部又は一部のデータを所定の表示形式にしたメタデータ画像データを生成し、表示部がこのメタデータ画像データに対応する画像を表示してもよい。なお、視聴装置155は、合成送信データを記録する記録部をさらに備えていてもよい。
以上のような構成により、監視システム150では、複数のカメラ152〜154で生成された複数の画像データが、LANに接続されたマスタ装置としての第1カメラ151に送られ、この第1カメラ151は、これらの画像データと、自装置で撮像した画像に対応する画像データとを合成することで1つの合成画像データを生成し、この合成画像データを広域ネットワークに送信する。
なお、ここでは、カメラ4台で監視システム150を構成したが、カメラの台数は、この4台に限るものではなく、3台以下でも5台以上でもよい。
図3は、図2に示されているカメラ151〜154の配置例を示す概略図である。図示するようにカメラ151〜154は、監視対象としての部屋160内に、それぞれ異なる位置に配置されている。部屋160には、人が出入りするための扉161が設けられており、部屋160内には、被写体162が存在する。そして、カメラ151〜154は、被写体162をそれぞれ異なる位置から撮影する。また、扉161には、図示されてはいないが、センサ機器としての開閉センサが設けられており、この開閉センサは第4カメラ154の外部情報入力部103に接続されている。そして、開閉センサは、扉161が開かれたことを検出すると、その検出信号を第4カメラ154に出力する。
図4(A)〜(D)は、図3に示されているカメラ151〜154で撮像された画像を示す概略図である。図4(A)は、第1カメラ151で撮像された画像IM1を示す概略図である。図4(B)は、第2カメラ152で撮像された画像IM2を示す概略図である。図4(C)は、第3カメラ153で撮像された画像IM3を示す概略図である。図4(D)は、第1カメラ154で撮像された画像IM4を示す概略図である。
これらの画像IM1〜IM4は、同一の被写体162を、それぞれ異なる角度から撮影したものであるため、関連のある画像となる。しかしながら、これらの画像IM1〜IM4は、カメラの位置によって、重要な画像と、重要ではない画像とに区別できる。画像IM2では、被写体162が、他の画像よりも大きく写されている。画像IM1及び画像IM3では、被写体162が、画像IM2の次に大きく写されている。画像IM4では、被写体162が、他の画像IM1〜IM3よりも小さく写されているが、被写体162の顔が、正面に写っている。そして、記録配信装置100の重要度算出部108は、これらの画像IM1〜IM4の状態に応じて、重要度を算出する。
図5は、カメラ151〜154で撮像された画像を合成した合成画像SIMの概略図である。合成画像SIMの領域#1には、第1カメラ151で撮像された画像IM1(図4(A)参照)をスケーリングした画像が合成される。領域#2には、第2カメラ152で撮像された画像IM2(図4(B)参照)をスケーリングした画像が合成される。領域#3には、第3カメラ153で撮像された画像IM3(図4(C)参照)をスケーリングした画像が合成される。領域#4には、第4カメラ154で撮像された画像IM4からリッピングされた画像RIM4(図4(D)参照)をスケーリングした画像が合成される。
次に、記録配信装置100での動作を説明する。
図6は、記録配信装置100がスレーブ装置である場合の処理を示すフローチャートである。
図6は、記録配信装置100がスレーブ装置である場合の処理を示すフローチャートである。
まず、画像撮像部101が画像を撮像する(S10)と、画像撮像部101は、撮像された画像の画像信号を画像解析部102及び画像符号化部109に与える。そして、画像解析部102はステップS11の処理を行い、画像符号化部109はステップS14の処理を行う。
ステップS11では、画像解析部102は、与えられた画像信号に基づいて、動き検知と、顔検出とを行い、これらの解析結果を含む画像解析データを生成し、この画像解析データをメタデータ生成部107に与える。この画像解析データには、例えば、動きが検知された領域の割合と、動きが検知された場合には、動きが検知された領域の座標と、顔検出の有無と、顔が検出された場合には、顔が検出された領域の座標とを示すデータが含まれる。
次に、メタデータ生成部107は、画像解析部102から与えられる画像解析データ、外部情報解析部104から与えられる外部入力データ、及び、音声解析部106から与えられる音声入力データに基づいて、部分メタデータを生成し、この部分メタデータを重要度算出部108に与える(S12)。この部分メタデータには、動きが検知された場合には、動きが検知された領域の座標と、顔検出の有無と、顔が検出された場合には、顔が検出された領域の座標と、外部信号の入力の有無と、音声入力割合とを示すデータが少なくとも含まれている。
次に、重要度算出部108は、メタデータ生成部107から与えられた部分メタデータに基づいて、重要度を算出する(S13)。そして、重要度算出部108は、算出された重要度の値をメタデータ生成部107に与える。メタデータ生成部107は、生成された部分メタデータと、重要度算出部108より与えられた重要度の値とをデータ合成部120に与える。
図7は、重要度を算出する際に、重要度算出部108が参照する重要度算出情報IPTを示す概略図である。重要度算出情報IPTは、項目番号欄IPT1と、項目欄IPT2と、条件欄IPT3と、スコア欄IPT4とを有するテーブル形式の情報である。
項目番号欄IPT1は、重要度を算出する際に用いられる各々の項目を識別するための識別番号である項目番号を格納する。
項目欄IPT2は、項目番号欄IPT1で識別される項目の項目名を格納する。ここで、本実施の形態においては、「動き検知」、「顔検出」、「外部入力」及び「音声入力」の4つの項目を用いて重要度が算出される。
条件欄IPT3は、項目番号欄IPT1で識別される項目毎に、解析結果をスコア欄IPT4に格納されているスコアに割り当てるための条件を格納する。
スコア欄IPT4は、項目番号欄IPT1で識別される項目の解析結果が、条件欄IPT3に格納されている条件を満たしている場合に、重要度を計算するために割り当てられるスコアの値を格納する。図7の例では、項目番号iが「0」の動き検知では、撮像画像の全体が例えば81(=9×9)個のエリアに分割され、それぞれのエリアで、撮像画像に動きがあったかどうかが判定される。そして、動きのあったエリア数が全体の70%以上であれば、Score[0]の値は「1」となり、31%〜69%の場合には、Score[0]の値は「0.5」となり、30%以下の場合には、Score[0]の値は「0」となる。また、項目番号iが「1」の顔検知では、撮像画像に人物の顔が含まれている場合には、Score[1]の値は「1」となり、人物の顔が含まれていない場合には、Score[1]の値は「0」となる。また、項目番号iが「2」の外部入力では、センサ入力がある場合には、Score[2]の値は「1」となり、センサ入力がない場合には、Score[2]の値は「0」となる。また、項目番号iが「3」の音声入力では、音声入力割合が70%を超えていた場合には、Score[3]の値は「1」となり、音声入力割合が31%〜69%の場合には、Score[3]の値は「0.5」となり、音声入力割合が30%以下の場合には、Score[3]の値は「0」となる。
項目欄IPT2は、項目番号欄IPT1で識別される項目の項目名を格納する。ここで、本実施の形態においては、「動き検知」、「顔検出」、「外部入力」及び「音声入力」の4つの項目を用いて重要度が算出される。
条件欄IPT3は、項目番号欄IPT1で識別される項目毎に、解析結果をスコア欄IPT4に格納されているスコアに割り当てるための条件を格納する。
スコア欄IPT4は、項目番号欄IPT1で識別される項目の解析結果が、条件欄IPT3に格納されている条件を満たしている場合に、重要度を計算するために割り当てられるスコアの値を格納する。図7の例では、項目番号iが「0」の動き検知では、撮像画像の全体が例えば81(=9×9)個のエリアに分割され、それぞれのエリアで、撮像画像に動きがあったかどうかが判定される。そして、動きのあったエリア数が全体の70%以上であれば、Score[0]の値は「1」となり、31%〜69%の場合には、Score[0]の値は「0.5」となり、30%以下の場合には、Score[0]の値は「0」となる。また、項目番号iが「1」の顔検知では、撮像画像に人物の顔が含まれている場合には、Score[1]の値は「1」となり、人物の顔が含まれていない場合には、Score[1]の値は「0」となる。また、項目番号iが「2」の外部入力では、センサ入力がある場合には、Score[2]の値は「1」となり、センサ入力がない場合には、Score[2]の値は「0」となる。また、項目番号iが「3」の音声入力では、音声入力割合が70%を超えていた場合には、Score[3]の値は「1」となり、音声入力割合が31%〜69%の場合には、Score[3]の値は「0.5」となり、音声入力割合が30%以下の場合には、Score[3]の値は「0」となる。
なお、この図7に示されている条件は、図7に示されているものに限定されるものではなく、例えば、項目番号iが「0」の動き検知で、Score[0]の値が「1」となる条件を、動き検知エリア数が80%以上としてもよい。また、項目番号iが「3」の音声入力では、条件として音声入力割合を用いているが、特定周波数の音声における音量レベルの割合、又は、より高度な音声認識を用いて、特定の音声条件を満たした場合により高いスコアの値が付与されるように構成されていてもよい。
そして、重要度算出部108は、例えば、図7に示されている重要度算出情報IPTを用いて、下記の(1)式により重要度(IP)を算出する。
(1)式において、Score[i]は、項目番号i毎のスコアの値であり、Weight[i]は、項目番号i毎の重み係数である。例えば、本実施の形態では、項目番号iが「0」の重み係数Weight[0]の値は「2」、項目番号iが「1」の重み係数Weight[1]の値は「4」、項目番号iが「2」の重み係数Weight[2]の値は「3」、項目番号iが「3」の重み係数Weight[3]の値は「1」とされているが、これらの値に限定されるものではない。
図8(A)及び(B)は、図3に示されているカメラ151〜154において、ある撮影条件下で撮像された画像に対して、重要度算出部108が割り当てたスコアの値と、重要度算出部108が算出した重要度の値の一例を示す概略図である。
図8(A)は、重要度算出部108が割り当てたスコアの値の一例を示している。例えば、第1カメラ151で撮像された画像では、中程度の動きが検知されているため、動き検知のスコアScore[0]の値は「0.5」、また、顔は検出されていないため、顔検出のScore[1]の値は「0」、センサ入力もなく、センサ入力のScore[2]の値も「0」、音声信号の入力もなく、音声入力のScore[3]の値も「0」となっている。第2カメラ152で撮像された画像では、被写体に近く、動きが検知された領域が広いため、動き検知のスコアScore[0]の値は「1」、顔は検出されていないため、顔検知のScore[1]の値は「0」、センサ入力もなく、センサ入力のScore[2]の値も「0」、中程度の音声信号が入力されているため、音声入力のScore[3]の値は「0.5」となっている。第3カメラ153で撮像された画像では、中程度の動きが検知されているため、動き検知のスコアScore[0]の値は「0.5」、顔は検出されていないため、顔検出のScore[1]の値は「0」、センサ入力もないため、センサ入力のScore[2]の値も「0」、中程度の音声信号が入力されているため、音声入力のScore[3]の値は「0.5」となっている。第4カメラ154で撮像された画像では、被写体からの距離が遠く、動きが検出されたエリアが狭いため、動き検知のScore[0]の値は「0」、被写体の顔を正面から捉えていて、顔が検出されたため、顔検出のScore[1]の値は「1」、ドアの開閉によりセンサ入力もあるため、センサ入力のScore[2]の値は「1」、音声信号の入力はないため、音声入力のScore[3]の値は「0」となっている。
図8(B)は、図8(A)に示されているスコアの値に基づいて、重要度算出部108が算出した重要度の値の一例を示す概略図である。
重要度算出部108は、図8(A)に示されているスコアの値を、(1)式に代入することにより、重要度を算出する。図8(B)に示されている例では、第1カメラ151で撮像された画像の重要度の値は「1.0」、第2カメラ152で撮像された画像の重要度の値は「2.5」、第3カメラ153で撮像された画像の重要度の値は「1.5」、第4カメラ154で撮像された画像の重要度の値は「7」となる。このように重要度を複数の項目を組み合わせて算出することで、例えば、動きは無いが顔を検知している場合や、動きは小さいが音声入力がある場合等、監視者にとってより重要な画像を総合的に判定することが可能となる。
重要度算出部108は、図8(A)に示されているスコアの値を、(1)式に代入することにより、重要度を算出する。図8(B)に示されている例では、第1カメラ151で撮像された画像の重要度の値は「1.0」、第2カメラ152で撮像された画像の重要度の値は「2.5」、第3カメラ153で撮像された画像の重要度の値は「1.5」、第4カメラ154で撮像された画像の重要度の値は「7」となる。このように重要度を複数の項目を組み合わせて算出することで、例えば、動きは無いが顔を検知している場合や、動きは小さいが音声入力がある場合等、監視者にとってより重要な画像を総合的に判定することが可能となる。
図6の説明に戻り、ステップS14では、画像符号化部109は、画像撮像部101から与えられた画像信号を符号化して、画像データを生成する。そして、画像符号化部109は、生成された画像データを、管理情報生成部112及び画像切出部110に与える。
次に、管理情報生成部112は、画像符号化部109から与えられた画像データに対して一意となる固有識別子を生成し、画像符号化部109から与えられた画像データと、この固有識別子とをデータ記録部113に与える(S15)。例えば、管理情報生成部112は、生成された固有識別子を、画像データのフッタ部に付与して、データ記録部113に与える。
次に、データ記録部113は、管理情報生成部112から与えられた画像データと、固有識別子とを対応付けて記録する(S16)。なお、データ記録部113は、メタデータ生成部107より、当該画像データの部分メタデータが送られてきた場合には、当該部分メタデータも当該画像データに対応付けて記録する。
ステップS17では、画像切出部110は、個別画像データを生成する。例えば、画像切出部110は、メタデータ生成部107から与えられた部分メタデータに、動きが検知された領域を示すデータ及び顔が検出された領域を示すデータの少なくとも何れか一方が含まれている場合には、当該領域を含む範囲を、画像符号化部109から与えられた画像データより切り出す。そして、画像切出部110は、切り出した画像データを個別画像データとする。一方、画像切出部110は、メタデータ生成部107から与えられた部分メタデータに、動きが検知されていないことを示すデータが含まれており、かつ、顔が検出されていないことを示すデータが含まれている場合には、画像符号化部109から与えられた画像データを個別画像データとする。画像切出部110は、個別画像データを送信データ切替部111に与え、送信データ切替部111は、この個別画像データをデータ合成部120に与える。
次に、データ合成部120は、ステップS13でメタデータ生成部107から与えられた部分メタデータ及び重要度の値と、ステップS15で管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、ステップS17で送信データ切替部111から与えられた個別画像データに添付することで個別送信データを生成する(S18)。そして、データ合成部120は、生成された個別送信データをデータ送信部121に与える。
ここで、図9は、個別送信データIID1のデータ構造を示す概略図である。
個別送信データIID1は、個別画像データIID11と、固有識別子IID12と、重要度IID13と、項目個数IID14と、項目番号IID15と、解析結果データサイズIID16と、解析結果IID17とを有する。
個別画像データIID11は、ステップS17で送信データ切替部111から与えられた個別画像データである。
固有識別子IID12は、ステップS15で管理情報生成部112から与えられた固有識別子である。この固有識別子IID12により、個別画像データIID11が一意に識別される。
重要度IID13は、ステップS13でメタデータ生成部107から与えられた重要度の値である。
項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17は、ステップS13でメタデータ生成部107から与えられた部分メタデータに含まれているデータである。
項目個数IID14は、重要度を算出するために使用される項目の数を示すものであり、本実施の形態では、この個数は「4」になっている。そして、この項目個数IID14で示される数だけ、項目番号IID15と、解析結果データサイズIID16と、解析結果IID17との組み合わせが格納される。項目番号IID15は、重要度を算出するために用いられる各々の項目を識別するための識別番号であって、本実施の形態においては、「0」は動き検知、「1」は顔検出、「2」は外部入力、「3」は音声入力となっている。解析結果データサイズIID16は、解析結果IID17のデータサイズを示す。解析結果IID17は、項目番号IID15で識別される項目に対応する解析結果を含む。本実施の形態では、項目番号IID15が「0」の場合は、動きが検知された領域の割合、及び、動きが検知された場合には、動きが検知された領域の座標、項目番号IID15が「1」の場合は、顔検出の有無、及び、顔が検出された場合には、顔が検出された領域の座標、項目番号IID15が「2」の場合は、外部入力の有無、項目番号IID15が「3」の場合は、音声入力割合を示すデータが、解析結果IID17として格納される。
なお、固有識別子IID12、重要度IID13、項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17が、個別メタデータを構成する。
個別送信データIID1は、個別画像データIID11と、固有識別子IID12と、重要度IID13と、項目個数IID14と、項目番号IID15と、解析結果データサイズIID16と、解析結果IID17とを有する。
個別画像データIID11は、ステップS17で送信データ切替部111から与えられた個別画像データである。
固有識別子IID12は、ステップS15で管理情報生成部112から与えられた固有識別子である。この固有識別子IID12により、個別画像データIID11が一意に識別される。
重要度IID13は、ステップS13でメタデータ生成部107から与えられた重要度の値である。
項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17は、ステップS13でメタデータ生成部107から与えられた部分メタデータに含まれているデータである。
項目個数IID14は、重要度を算出するために使用される項目の数を示すものであり、本実施の形態では、この個数は「4」になっている。そして、この項目個数IID14で示される数だけ、項目番号IID15と、解析結果データサイズIID16と、解析結果IID17との組み合わせが格納される。項目番号IID15は、重要度を算出するために用いられる各々の項目を識別するための識別番号であって、本実施の形態においては、「0」は動き検知、「1」は顔検出、「2」は外部入力、「3」は音声入力となっている。解析結果データサイズIID16は、解析結果IID17のデータサイズを示す。解析結果IID17は、項目番号IID15で識別される項目に対応する解析結果を含む。本実施の形態では、項目番号IID15が「0」の場合は、動きが検知された領域の割合、及び、動きが検知された場合には、動きが検知された領域の座標、項目番号IID15が「1」の場合は、顔検出の有無、及び、顔が検出された場合には、顔が検出された領域の座標、項目番号IID15が「2」の場合は、外部入力の有無、項目番号IID15が「3」の場合は、音声入力割合を示すデータが、解析結果IID17として格納される。
なお、固有識別子IID12、重要度IID13、項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17が、個別メタデータを構成する。
図6の説明に戻り、データ送信部121は、データ合成部120から与えられた個別送信データを、ネットワークを介して、マスタ装置である記録配信装置100に送信する(S19)。
図10は、記録配信装置100がマスタ装置である場合の処理を示すフローチャートである。ここで、図10のステップS20〜ステップS27までの処理は、図6のステップS10〜S17までの処理と同様である。
ステップS28では、データ受信部114が、スレーブ装置となっている他の記録配信装置100から個別送信データを受信したか否かを判断する。そして、データ受信部114は、受信した個別送信データに受信した時刻を示すタイムスタンプを付与する。また、メタデータ抽出部115は、受信された個別送信データから個別メタデータを抽出して、この個別メタデータを重要度抽出部116及びデータ合成部120に与える。さらに、画像データ抽出部117は、受信された個別送信データから個別画像データを抽出して、この個別画像データをスケーリング部119に与える。そして、データ受信部114は、個別送信データを受信している場合(ステップS28でYes)には、ステップS29の処理に進み、個別送信データを受信していない場合(ステップS28でNo)には、ステップS31の処理に進む。
ステップS29では、重要度抽出部116は、メタデータ抽出部115から与えられた個別メタデータに含まれている重要度の値を抽出する(S29)。そして、重要度抽出部116は、抽出された重要度の値を重要度比較部118に与える。
次に、データ受信部114は、同一時刻のタイムスタンプが付与された全ての個別送信データから重要度の値が抽出されたか否かを判断する(S30)。そして、データ受信部114は、同一時刻のタイムスタンプが付与された全ての個別送信データから重要度の値が抽出された場合(ステップS30でYes)、言い換えると、同一時刻のタイムスタンプが付与された個別送信データのうち、重要度の値が抽出されていない個別送信データが存在しない場合には、ステップS31の処理に進む。一方、データ受信部114は、同一時刻のタイムスタンプが付与された全ての個別送信データからは重要度の値が抽出されていない場合(ステップS30でNo)、言い換えると、同一時刻のタイムスタンプが付与された個別送信データのうち、重要度の値が抽出されていない個別送信データが存在する場合には、ステップS29の処理に戻る。
ステップS31では、重要度比較部118は、重要度算出部108で算出された、個別画像データの重要度の値、及び、重要度抽出部116で抽出された、各個別画像データの重要度の値を比較して、各個別画像データの画像を1つの画像データに合成する際の、個別画像データ毎のサイズ及び配置位置を特定する。例えば、重要度比較部118は、合成画像データとして、個別画像データを配置するサイズ及び位置が予め定められた複数の配置パターンから、個別画像データ毎の重要度の値に応じて、1つの配置パターンを選択し、選択された配置パターンで、各個別画像データを配置するサイズ及び位置を特定する。そして、重要度比較部118は、特定されたサイズをスケーリング部119に与え、特定された配置位置をデータ合成部120に与える。
図11(A)〜(T)は、重要度比較部118で選択することのできる配置パターンの一例を示す概略図である。なお、図11(A)〜(T)は、ネットワークに接続されている記録配信装置100が4つである場合の例であるが、この数については、4つに限定されるものではない。
図11(A)は、4つの個別画像データの重要度の値の全てが、予め定められた閾値よりも低い場合の配置パターンSIP1である。
図11(B)〜(E)は、4つの個別画像データのうち、1つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP2〜SIP5である。
図11(F)〜(I)も、4つの個別画像データのうち、1つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP6〜SIP9である。例えば、パターンSIP6〜SIP9が選択される場合の閾値は、パターンSIP2〜SIP5が選択される場合の閾値よりも大きな値となっていることが望ましい。
図11(J)〜(O)は、4つの個別画像データのうち、2つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP10〜SIP15である。
図11(P)〜(S)は、4つの個別画像データのうち、3つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP16〜SIP19である。
図11(T)は、4つの個別画像データの重要度の値の全てが、予め定められた閾値以上である場合の配置パターンSIP20である。
図11(A)は、4つの個別画像データの重要度の値の全てが、予め定められた閾値よりも低い場合の配置パターンSIP1である。
図11(B)〜(E)は、4つの個別画像データのうち、1つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP2〜SIP5である。
図11(F)〜(I)も、4つの個別画像データのうち、1つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP6〜SIP9である。例えば、パターンSIP6〜SIP9が選択される場合の閾値は、パターンSIP2〜SIP5が選択される場合の閾値よりも大きな値となっていることが望ましい。
図11(J)〜(O)は、4つの個別画像データのうち、2つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP10〜SIP15である。
図11(P)〜(S)は、4つの個別画像データのうち、3つの個別画像データの重要度の値だけが、予め定められた閾値以上である場合の配置パターンSIP16〜SIP19である。
図11(T)は、4つの個別画像データの重要度の値の全てが、予め定められた閾値以上である場合の配置パターンSIP20である。
なお、重要度比較部118は、4つの記録配信装置100の内、同一時刻に個別送信データを受信していないものがある場合には、個別送信データを受信していない記録配信装置100に対応する個別画像データの重要度を「0」として、そのサイズ及び配置位置を特定する。そして、重要度比較部118は、スケーリング部119に、個別送信データを受信していない記録配信装置100に対応する個別画像データを、例えば、黒画像データ等、予め定められた画像データで代用するように指示を出す。
図10の説明に戻り、ステップS32では、スケーリング部119は、重要度比較部118から与えられたサイズとなるように、各個別画像データのスケーリングを実行する。そして、スケーリング部119は、サイズ変更後の個別画像データをデータ合成部120に与える。この際、スケーリング部119は、個別画像データ毎に、縮小率又は拡大率を示すスケーリングエリア情報を添付する。また、黒画像データ等、予め定められた画像データで代用した場合には、代用された画像データに元の画像がないことを示す情報を添付する。
次に、データ合成部120は、ステップS32でスケーリングされた個別画像データを、重要度比較部118から与えられた配置位置に配置することで合成画像データを生成する。また、データ合成部120は、ステップS23でメタデータ生成部107から与えられた部分メタデータ及び重要度の値と、ステップS25で管理情報生成部112から与えられた固有識別子と、ステップS28でメタデータ抽出部115から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに、生成された合成メタデータを添付することで合成送信データを生成する(S33)。そして、データ合成部120は、生成された合成送信データをデータ送信部121に与える。
ここで、図12は、合成送信データSID1のデータ構造を示す概略図である。
合成送信データSID1は、合成画像データSID11と、最大カメラ数SID12と、各画像有無情報SID13と、カメラ番号SID14と、スケーリングエリアSID15と、固有識別子SID16と、重要度SID17と、項目個数SID18と、項目番号SID19と、解析結果データサイズSID20と、解析結果SID21とを有する。
合成画像データSID11は、ステップS33で、各個別画像データが合成された合成画像データである。
最大カメラ数SID12は、合成画像データに合成される個別画像データを撮像するカメラ(記録配信装置100)の最大数を示す。例えば、図2及び3の例では、最大カメラ数SID12は、「4」である。
各画像有無情報SID13は、カメラ(記録配信装置100)毎に、撮像された個別画像データが合成画像データに合成されているか否かを示す情報である。例えば、各画像有無情報SID3は、ビットパターンの情報で明示される。例えば、図2及び3に示されている例では、4つのカメラ151〜154のうち、第1カメラ151、第2カメラ152及び第4カメラ154で撮像された画像の個別画像データが合成画像データに含まれており、第3カメラ153で撮像された画像の個別画像データの代わりに、黒画像データが代用された場合には、各画像有無情報SID13は、「1011」と示されるものとする。
カメラ番号SID14〜解析結果SID21は、個別画像データが合成画像データに含まれているカメラ(記録配信装置100)の数だけ設けられる。
カメラ番号SID14は、カメラ(記録配信装置100)を識別するための識別番号である。例えば、カメラ番号SID14としては、固有識別子に含まれている装置情報が利用できる。
スケーリングエリアSID15は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データに対して、スケーリング部119がスケーリングした縮小率又は拡大率を示す。
固有識別子SID16は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データの固有識別子である。これは、ステップS25で、管理情報生成部112より与えられる。
なお、このように、4つのカメラの画像を1枚に合成して送信する際に、4つの個別画像データのそれぞれに付与された固有識別子を、合成画像データに付与して送信するため、遠隔地で合成画像データを記録した場合に、その合成画像データから元の個別画像データを特定することが可能となり、合成画像データからより詳細な個別画像データの確認を効率的に行うことができる。また、各カメラにおける画像の記録の際に、この固有識別子のリストを作成し、固有識別子と、画像データのアドレス情報とをペアで管理してもよく、このようにすると固有識別子の検索を高速で実行可能となる。
重要度SID17は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データの重要度の値である。これは、ステップS23でメタデータ生成部107から与えられた部分メタデータ、又は、ステップS29でメタデータ抽出部115から与えられた個別メタデータに含まれているものである。
項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21は、これは、ステップS23でメタデータ生成部107から与えられた部分メタデータ、又は、ステップS29でメタデータ抽出部115から与えられた個別メタデータに含まれているものである。項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21は、図9に示されている個別送信データIID1の項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17と同様である。
合成送信データSID1は、合成画像データSID11と、最大カメラ数SID12と、各画像有無情報SID13と、カメラ番号SID14と、スケーリングエリアSID15と、固有識別子SID16と、重要度SID17と、項目個数SID18と、項目番号SID19と、解析結果データサイズSID20と、解析結果SID21とを有する。
合成画像データSID11は、ステップS33で、各個別画像データが合成された合成画像データである。
最大カメラ数SID12は、合成画像データに合成される個別画像データを撮像するカメラ(記録配信装置100)の最大数を示す。例えば、図2及び3の例では、最大カメラ数SID12は、「4」である。
各画像有無情報SID13は、カメラ(記録配信装置100)毎に、撮像された個別画像データが合成画像データに合成されているか否かを示す情報である。例えば、各画像有無情報SID3は、ビットパターンの情報で明示される。例えば、図2及び3に示されている例では、4つのカメラ151〜154のうち、第1カメラ151、第2カメラ152及び第4カメラ154で撮像された画像の個別画像データが合成画像データに含まれており、第3カメラ153で撮像された画像の個別画像データの代わりに、黒画像データが代用された場合には、各画像有無情報SID13は、「1011」と示されるものとする。
カメラ番号SID14〜解析結果SID21は、個別画像データが合成画像データに含まれているカメラ(記録配信装置100)の数だけ設けられる。
カメラ番号SID14は、カメラ(記録配信装置100)を識別するための識別番号である。例えば、カメラ番号SID14としては、固有識別子に含まれている装置情報が利用できる。
スケーリングエリアSID15は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データに対して、スケーリング部119がスケーリングした縮小率又は拡大率を示す。
固有識別子SID16は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データの固有識別子である。これは、ステップS25で、管理情報生成部112より与えられる。
なお、このように、4つのカメラの画像を1枚に合成して送信する際に、4つの個別画像データのそれぞれに付与された固有識別子を、合成画像データに付与して送信するため、遠隔地で合成画像データを記録した場合に、その合成画像データから元の個別画像データを特定することが可能となり、合成画像データからより詳細な個別画像データの確認を効率的に行うことができる。また、各カメラにおける画像の記録の際に、この固有識別子のリストを作成し、固有識別子と、画像データのアドレス情報とをペアで管理してもよく、このようにすると固有識別子の検索を高速で実行可能となる。
重要度SID17は、カメラ番号SID14で識別されるカメラ(記録配信装置100)で撮像された画像の個別画像データの重要度の値である。これは、ステップS23でメタデータ生成部107から与えられた部分メタデータ、又は、ステップS29でメタデータ抽出部115から与えられた個別メタデータに含まれているものである。
項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21は、これは、ステップS23でメタデータ生成部107から与えられた部分メタデータ、又は、ステップS29でメタデータ抽出部115から与えられた個別メタデータに含まれているものである。項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21は、図9に示されている個別送信データIID1の項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17と同様である。
図10の説明に戻り、データ送信部121は、データ合成部120から与えられた合成送信データを、ネットワークを介して、予め定められた装置、例えば、視聴装置に送信する(S34)。
なお、以上で説明した本実施の形態では、音声データそのものは外部に配信、あるいは、記録を行わない構成であるが、必要であれば、音声データの記録とネットワークへの送信を行ってもよい。ネットワークに音声データを送信する際には、複数装置の音声データを多重化して送信してもよいし、重要度の値に応じて、どれか1つの装置(例えば、重要度の最も高い装置)の音声データを送信してもよい。
以上のように、本実施の形態に係る記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、複数の記録配信装置100にまたがる重要画像を少ないデータ量で公衆回線に同時にのせられるため、狭帯域の環境でも複数の映像を関連付けた効率的な遠隔監視を行うことができる。
例えば、近年増加してきたフルハイビジョンと呼ばれる、解像度が1920×1080の監視映像の場合、高画質のモードでは、フレームレートが30fps(Frames Per Second)換算で、ビットレートが8Mbps(Bit Per Second)程度のデータサイズとなる。また、標準画質のモードでは、前記条件においてそのビットレートは4Mbps程度となる。本実施の形態において、例えば、図2及び3に示されている第1カメラ151と第2カメラ152とが高画質、第3カメラ153と第4カメラ154とが標準画質に設定され、各カメラ151〜154のフレームレートが、第1カメラ151では15fps、第2カメラ152では15fps、第3カメラ153では7.5fps、第4カメラ154では4fpsで設定されていたとする。この場合、各々のカメラ151〜154が、そのまま遠隔地に画像データを送信した場合には、図2に示されているインターネット158等の広域ネットワークには、4.77Mbpsのデータが毎秒送信されることとなる。一方、本実施の形態により4つのカメラ151〜154の画像を1枚の画像に合成して送信する場合、例えば4枚の画像の重要度の値がいずれも均等であった場合には、広域ネットワークには1.38Mbpsのデータが毎秒送信されることとなる。このケースでは、本実施の形態では、広域ネットワークへ送信するデータ量が、従来の方式の4.77Mbpsから1.38Mbpsまで約71%削減されることとなる。
従来のように伝送するデータ量が4.77Mbpsでは、5Mbps以上の回線帯域が必要となり、本実施の形態のように伝送するデータ量が1.38Mbpsでは、2Mbps以上の回線帯域が必要となる。ADSL(Asymmetric Digital Subscriber Line)を提供しているある環境の例では、5Mbps以上の実行速度が出ている回線の比率は60%であるのに対し、2Mbps以上の実行速度が出ている回線の比率は98%に達している。このため、この環境においては、本発明の効果によりほとんどのすべての回線でデータをスムーズに送信することができる。
また、以上のような記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、記録配信装置100が画像の合成を行うため、監視者の視聴装置では、画像の拡大縮小及び入れ替え等の処理が不要であり、近年増加している携帯端末のような、画像処理能力がPC等に比べて低い装置においても、複数の画像を関連付けてスムーズに監視することができる。
また、以上に記載された記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、合成画像データにおいて、各個別画像データの重要度の値に応じて、各個別画像データの画像サイズが自動的に変更されるため、監視者は、特に画面を切り替える等の操作をすることなく、重要な画像に常に着目して監視することができ、また、重要な事象を見逃すことなく細部の確認を行うことができる。
また、以上に記載された記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、重要度の判定に、動き検知だけではなく複数の項目を組み合わせているため、動きのあるものだけでなく静止物にも対応することができるとともに、複数の項目に対して重み付けを行うことで、監視者が必要とする、より重要な画像に着目することができる。
さらに、以上に記載された記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、画像の重要度に応じて、スレーブ装置となった各記録配信装置100が画像の重要な部分のみを切り出してデータを送信するため、LANにおけるトラフィックを低減することができるとともに、画像の切り出し処理を各記録配信装置100に分散することで、マスタ装置である記録配信装置100が画像合成を行う際の処理負荷を低減することができる。このため、記録配信装置100を安価に製造することができる。
また、以上に記載された記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、自装置で撮像された画像データが固有識別子とともに記録されるとともに、合成画像データにも合成された個別画像データの固有識別子が添付されているため、視聴者は、合成画像データに添付されている固有識別子に基づいて、元の個別画像データを容易に確認することができる。
さらに、以上に記載された記録配信装置100、および、記録配信装置100が行う記録配信方法によれば、記録配信装置100の設置位置は、なんら制約を受けることなく、自由に設置しても本発明の効果が得られる。
実施の形態2.
次に、実施の形態2について説明する。
図13は、実施の形態2に係る記録配信装置200の構成を概略的に示すブロック図である。記録配信装置200は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部107と、重要度算出部208と、画像符号化部109と、画像切出部110と、送信データ切替部211と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部116と、画像データ抽出部117と、重要度比較部218と、スケーリング部119と、データ合成部120と、データ送信部121と、閾値比較部222とを備える。ここで、実施の形態2に係る記録配信装置200は、重要度算出部208、送信データ切替部211及び重要度比較部218での処理の点、並びに、閾値比較部222が備えられている点で、実施の形態1に係る記録配信装置100と異なっている。実施の形態2に係る記録配信装置200は、撮像された画像の個別画像データの重要度の値が予め定められている閾値を超えた場合に、合成画像データを含む合成送信データを作成し、ネットワークに送信する。
次に、実施の形態2について説明する。
図13は、実施の形態2に係る記録配信装置200の構成を概略的に示すブロック図である。記録配信装置200は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部107と、重要度算出部208と、画像符号化部109と、画像切出部110と、送信データ切替部211と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部116と、画像データ抽出部117と、重要度比較部218と、スケーリング部119と、データ合成部120と、データ送信部121と、閾値比較部222とを備える。ここで、実施の形態2に係る記録配信装置200は、重要度算出部208、送信データ切替部211及び重要度比較部218での処理の点、並びに、閾値比較部222が備えられている点で、実施の形態1に係る記録配信装置100と異なっている。実施の形態2に係る記録配信装置200は、撮像された画像の個別画像データの重要度の値が予め定められている閾値を超えた場合に、合成画像データを含む合成送信データを作成し、ネットワークに送信する。
重要度算出部208は、実施の形態1における重要度算出部108と同様に、個別画像データの重要度を算出する。例えば、重要度算出部208は、自装置である記録配信装置200がスレーブ装置である場合には、メタデータ生成部107から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、メタデータ生成部107及び閾値比較部222に与える。また、重要度算出部208は、自装置である記録配信装置200がマスタ装置である場合には、メタデータ生成部107から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、メタデータ生成部107、重要度比較部218及び閾値比較部222に与える。
閾値比較部222は、重要度算出部208から与えられた重要度の値が、予め定められた閾値よりも大きいか否かを判断する。そして、閾値比較部222は、重要度算出部208から与えられた重要度の値が、予め定められた閾値よりも大きい場合には、送信データ切替部211に個別画像データを出力する指示を与え、重要度算出部208から与えられた重要度の値が、予め定められた閾値以下である場合には、送信データ切替部211に個別画像データを出力しない指示を与える。
送信データ切替部211は、実施の形態1における送信データ切替部111と同様に、画像切出部110から与えられた個別画像データを出力する出力先を切り替える。但し、本実施の形態においては、送信データ切替部211は、閾値比較部222より個別画像データを出力する指示が与えられた場合に、個別画像データを出力し、閾値比較部222より個別画像データを出力しない指示が与えられた場合には、個別画像データを出力しない。
重要度比較部218は、実施の形態1における重要度比較部118と同様の処理を行うが、自装置である記録配信装置200がマスタ装置である場合に、重要度算出部208で算出された重要度の値が予め定められた閾値以下であると閾値比較部222が判断したときには、スレーブ装置である記録配信装置200から個別送信データを受信しているか否かを判断する。例えば、重要度比較部218は、重要度抽出部116より重要度の値を受け取っている場合には、スレーブ装置である記録配信装置200から個別送信データを受信していると判断する。そして、重要度比較部218は、スレーブ装置である記録配信装置200から個別送信データを受信していると判断した場合には、実施の形態1における重要度比較部118と同様に重要度の値を比較する処理を行う。
次に、記録配信装置200での動作を説明する。
図14は、実施の形態2に係る記録配信装置200がスレーブ装置である場合の処理を示すフローチャートである。ここで、図14のステップS40〜S46までの処理は、図6のステップS10〜S16までの処理と同様である。但し、重要度算出部208は、ステップS43で算出した重要度の値を閾値比較部222にも与える。
図14は、実施の形態2に係る記録配信装置200がスレーブ装置である場合の処理を示すフローチャートである。ここで、図14のステップS40〜S46までの処理は、図6のステップS10〜S16までの処理と同様である。但し、重要度算出部208は、ステップS43で算出した重要度の値を閾値比較部222にも与える。
ステップS47では、画像切出部110は、個別画像データを生成する。例えば、画像切出部110は、メタデータ生成部107から与えられた部分メタデータに、動きが検知された領域を示すデータ及び顔が検出された領域を示すデータの少なくとも何れか一方が含まれている場合には、当該領域を含む範囲を、画像符号化部109から与えられた画像データより切り出す。そして、画像切出部110は、切り出した画像データを個別画像データとする。一方、画像切出部110は、メタデータ生成部107から与えられた部分メタデータに、動きが検知されていないことを示すデータが含まれており、かつ、顔が検出されていないことを示すデータが含まれている場合には、画像符号化部109から与えられた画像データを個別画像データとする。そして、画像切出部110は、個別画像データを送信データ切替部211に与える。
次に、閾値比較部222は、ステップS43で重要度算出部208より与えられた重要度の値が、予め定められている閾値を超えているか否かを判断する(S48)。閾値比較部222は、閾値を超えている場合(ステップS48でYes)には、送信データ切替部211に個別画像データを出力する指示を与えて、ステップS49の処理に進み、閾値を超えていない場合(ステップS48でNo)には、送信データ切替部211に個別画像データを出力しない指示を与えて、ステップS40の処理に戻る。
ここで、送信データ切替部211は、閾値比較部222より、個別画像データを出力する指示を受けた場合には、ステップS47で画像切出部110より与えられた個別画像データをデータ合成部120に与える。なお、送信データ切替部111は、閾値比較部222より、個別画像データを出力しない指示を受けた場合には、例えば、ステップS47で画像切出部110より与えられた個別画像データを廃棄する。
ここで、送信データ切替部211は、閾値比較部222より、個別画像データを出力する指示を受けた場合には、ステップS47で画像切出部110より与えられた個別画像データをデータ合成部120に与える。なお、送信データ切替部111は、閾値比較部222より、個別画像データを出力しない指示を受けた場合には、例えば、ステップS47で画像切出部110より与えられた個別画像データを廃棄する。
次に、データ合成部120は、ステップS43でメタデータ生成部107から与えられた部分メタデータ及び重要度の値と、ステップS45で管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、ステップS48で送信データ切替部211から与えられた個別画像データに添付することで個別送信データを生成する(S49)。そして、データ合成部120は、生成された個別送信データをデータ送信部121に与える。
次に、データ送信部121は、データ合成部120から与えられた個別送信データを、ネットワークを介して、マスタ装置である記録配信装置200に送信する(S50)。
図15は、実施の形態2に係る記録配信装置200がマスタ装置である場合の処理を示すフローチャートである。ここで、図15のステップS60〜ステップS70までの処理は、図10のステップS20〜S30までの処理と同様である。但し、重要度算出部208は、ステップS63において算出された重要度の値を閾値比較部222にも与える。
ステップS71では、閾値比較部222は、ステップS63で重要度算出部208から与えられた重要度の値が、予め定められた閾値を超えているか否かを判断する。そして、閾値比較部222は、この重要度の値が予め定められた閾値以下である場合(ステップS71でNo)には、ステップS72の処理に進み、この重要度の値が予め定められた閾値を超えている場合(ステップS71でYes)には、ステップS73の処理に進む。
ステップS72では、重要度比較部218は、スレーブ装置である記録配信装置200から個別送信データを受信しているか否かを判断する。そして、重要度比較部218は、このような個別送信データを受信している場合(ステップS72でYes)には、ステップS73の処理に進み、このような個別送信データを受信していない場合(ステップS72でNo)には、ステップS60の処理に戻る。
ステップS73では、重要度比較部218は、重要度算出部208で算出された、個別画像データの重要度の値、及び、重要度抽出部116で抽出された、各個別画像データの重要度の値を比較して、各個別画像データの画像を1つの画像データに合成する際の、各個別画像データのサイズ及び配置位置を特定する。そして、重要度比較部218は、特定されたサイズをスケーリング部119に与え、特定された配置位置をデータ合成部120に与える。
次に、スケーリング部119は、重要度比較部218から与えられたサイズとなるように、各個別画像データのスケーリングを実行する(S74)。そして、スケーリング部119は、サイズ変更後の個別画像データをデータ合成部120に与える。この際、スケーリング部119は、個別画像データ毎に、縮小率又は拡大率を示すスケーリングエリア情報を添付する。また、スケーリング部119は、黒画像データ等、予め定められた画像データで代用した場合には、元の画像がないことを示す情報を添付する。
次に、データ合成部120は、ステップS74でスケーリングされた個別画像データを、重要度比較部218から与えられた配置位置に配置することで合成画像データを生成する。また、データ合成部120は、ステップS63でメタデータ生成部107から与えられた部分メタデータ及び重要度の値と、ステップS65で管理情報生成部112から与えられた固有識別子と、ステップS68でメタデータ抽出部115から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに、生成された合成メタデータを添付することで合成送信データを生成する(S75)。そして、データ合成部120は、生成された合成送信データをデータ送信部121に与える。
LANに接続されている全ての記録配信装置200、例えば、図3に示されている設置例においては、4台のカメラ151〜154の画像の全てが重要であるわけではなく、重要度によって、カメラ1台分の画像のみが重要であるケース、又は、カメラ2台分の画像が重要であるケース等が発生する。このため、実施の形態2におけるデータ合成部120は、例えば、広域ネットワークに送信する画像がカメラ1台分の場合には、その1台のカメラの画像を全画面に表示されるようなサイズ及び位置に合成する。
LANに接続されている全ての記録配信装置200、例えば、図3に示されている設置例においては、4台のカメラ151〜154の画像の全てが重要であるわけではなく、重要度によって、カメラ1台分の画像のみが重要であるケース、又は、カメラ2台分の画像が重要であるケース等が発生する。このため、実施の形態2におけるデータ合成部120は、例えば、広域ネットワークに送信する画像がカメラ1台分の場合には、その1台のカメラの画像を全画面に表示されるようなサイズ及び位置に合成する。
次に、データ送信部121は、データ合成部120から与えられた合成送信データを、ネットワークを介して、予め定められた装置、例えば、視聴装置に送信する(S76)。
以上のように、実施の形態2に係る記録配信装置200によれば、複数の記録配信装置200で撮像された画像のうち、少なくとも1台以上においてその画像の重要度の値が閾値を越えている場合、言い換えると、その画像が重要と判断された場合にのみ、広域ネットワークに対して合成画像データの送信が行われる。また、実施の形態2に係る記録配信装置200によれば、LANにおいても、画像の重要度の値が所定の閾値を超えた場合にのみ、スレーブ装置からマスタ装置に対して個別画像データの送信が行われる。このため、実施の形態2に係る記録配信装置200によれば、広域ネットワーク及びLANの何れのネットワークにおいても、伝送するデータ量を削減することができる。従って、実施の形態1よりもネットワーク帯域が狭い環境でも、効率的な監視を行うことができる。
また、実施の形態2に係る記録配信装置200によれば、重要度の値が閾値を超えている画像、言い換えると、重要と判断された画像のみを合成画像として送信することで、重要な画像をより大きく表示可能となり、また、重要では無い画像を表示しないことで、監視者が重要な事象を見逃すといった問題がなくなる。
なお、閾値比較部222で重要度を判定する閾値は、LANに接続された全ての記録配信装置200で同一の値が設定されていてもよいし、記録配信装置200の設定位置や撮像対象等に応じて、記録配信装置200毎に個別の値が設定されてもよい。
実施の形態3.
次に、実施の形態3について説明する。
図16は、実施の形態3に係る記録配信装置300の構成を概略的に示すブロック図である。記録配信装置300は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部307と、重要度算出部308と、画像符号化部109と、画像切出部310と、送信データ切替部111と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部316と、画像データ抽出部117と、重要度比較部318と、スケーリング部319と、データ合成部320と、データ送信部121と、タイマー部323と、グループ化抽出部324とを備える。実施の形態3に係る記録配信装置300は、メタデータ生成部307、重要度算出部308、画像切出部310、重要度抽出部316、重要度比較部318、スケーリング部319及びデータ合成部320での処理の点、及び、タイマー部323及びグループ化抽出部324が備えられている点において、実施の形態1と異なっている。ここで、実施の形態3に係る記録配信装置300は、所定の時間内に撮像された画像のなかから選択された画像を合成する。なお、記録配信装置300が、スレーブ装置である場合の処理は、実施の形態1と同様である。
次に、実施の形態3について説明する。
図16は、実施の形態3に係る記録配信装置300の構成を概略的に示すブロック図である。記録配信装置300は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部307と、重要度算出部308と、画像符号化部109と、画像切出部310と、送信データ切替部111と、管理情報生成部112と、データ記録部113と、データ受信部114と、メタデータ抽出部115と、重要度抽出部316と、画像データ抽出部117と、重要度比較部318と、スケーリング部319と、データ合成部320と、データ送信部121と、タイマー部323と、グループ化抽出部324とを備える。実施の形態3に係る記録配信装置300は、メタデータ生成部307、重要度算出部308、画像切出部310、重要度抽出部316、重要度比較部318、スケーリング部319及びデータ合成部320での処理の点、及び、タイマー部323及びグループ化抽出部324が備えられている点において、実施の形態1と異なっている。ここで、実施の形態3に係る記録配信装置300は、所定の時間内に撮像された画像のなかから選択された画像を合成する。なお、記録配信装置300が、スレーブ装置である場合の処理は、実施の形態1と同様である。
メタデータ生成部307は、自装置である記録配信装置300がスレーブ装置である場合には、実施の形態1におけるメタデータ生成部107と同様の処理を行う。
メタデータ生成部307は、自装置である記録配信装置300がマスタ装置である場合には、画像解析部102、外部情報解析部104及び音声解析部106から与えられた解析結果データに基づいて、これらの解析部で解析された解析結果を含む部分メタデータを生成し、この部分メタデータに、画像解析部102で解析された画像を識別するための画像識別情報を添付して、重要度算出部308に与える。ここで、この画像識別情報としては、画像解析部102から画像解析データが入力される度に、所定の初期値からカウントアップしたカウント値が用いられればよい。
そして、メタデータ生成部307は、部分メタデータに基づいて重要度算出部308で算出された重要度の値と、この重要度の値を算出するために用いた部分メタデータに添付されていた画像識別情報とが与えられると、この重要度の値と、この重要度の値を算出するために用いられた部分メタデータとをデータ合成部320に与える。
また、メタデータ生成部307は、重要度算出部308から受け取った重要度の値を算出するために用いられた部分メタデータに含まれている画像解析データと、この画像解析データに対応する画像の画像識別情報とを画像切出部310に与える。
メタデータ生成部307は、自装置である記録配信装置300がマスタ装置である場合には、画像解析部102、外部情報解析部104及び音声解析部106から与えられた解析結果データに基づいて、これらの解析部で解析された解析結果を含む部分メタデータを生成し、この部分メタデータに、画像解析部102で解析された画像を識別するための画像識別情報を添付して、重要度算出部308に与える。ここで、この画像識別情報としては、画像解析部102から画像解析データが入力される度に、所定の初期値からカウントアップしたカウント値が用いられればよい。
そして、メタデータ生成部307は、部分メタデータに基づいて重要度算出部308で算出された重要度の値と、この重要度の値を算出するために用いた部分メタデータに添付されていた画像識別情報とが与えられると、この重要度の値と、この重要度の値を算出するために用いられた部分メタデータとをデータ合成部320に与える。
また、メタデータ生成部307は、重要度算出部308から受け取った重要度の値を算出するために用いられた部分メタデータに含まれている画像解析データと、この画像解析データに対応する画像の画像識別情報とを画像切出部310に与える。
重要度算出部308は、自装置である記録配信装置300がスレーブ装置である場合には、実施の形態1における重要度算出部108と同様の処理を行う。
重要度算出部308は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、この重要度の値を算出するために用いた部分メタデータに添付されていた画像識別情報とともに、グループ化抽出部324に与える。そして、重要度算出部308は、グループ化抽出部324より、グループ化抽出部324で抽出された画像識別情報の通知を受けると、通知された画像識別情報と、この画像識別情報が添付されていた部分メタデータから算出された重要度の値と、をメタデータ生成部307及び重要度比較部318に与える。
重要度算出部308は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられる部分メタデータから個別画像データの重要度を算出し、この重要度の値を、この重要度の値を算出するために用いた部分メタデータに添付されていた画像識別情報とともに、グループ化抽出部324に与える。そして、重要度算出部308は、グループ化抽出部324より、グループ化抽出部324で抽出された画像識別情報の通知を受けると、通知された画像識別情報と、この画像識別情報が添付されていた部分メタデータから算出された重要度の値と、をメタデータ生成部307及び重要度比較部318に与える。
画像切出部310は、自装置である記録配信装置300がスレーブ装置である場合には、実施の形態1における画像切出部110と同様の処理を行う。
画像切出部310は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられた画像識別情報に対応する画像データにおいて、メタデータ生成部307から与えられた画像解析データに基づいて、必要な場合には、画像撮像部101で撮像された画像の中の一部分を切り出す。そして、画像切出部310は、個別画像データを送信データ切替部111に与える。なお、本実施の形態においては、画像切出部310は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられた画像識別情報に対応しない画像データを破棄して、送信データ切替部111には出力しない。ここで、画像切出部310でも、画像符号化部109から画像データが与えられる度に、所定の初期値からカウントアップしたカウント値を算出しておき、このカウント値を画像識別情報として用いればよい。
画像切出部310は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられた画像識別情報に対応する画像データにおいて、メタデータ生成部307から与えられた画像解析データに基づいて、必要な場合には、画像撮像部101で撮像された画像の中の一部分を切り出す。そして、画像切出部310は、個別画像データを送信データ切替部111に与える。なお、本実施の形態においては、画像切出部310は、自装置である記録配信装置300がマスタ装置である場合には、メタデータ生成部307から与えられた画像識別情報に対応しない画像データを破棄して、送信データ切替部111には出力しない。ここで、画像切出部310でも、画像符号化部109から画像データが与えられる度に、所定の初期値からカウントアップしたカウント値を算出しておき、このカウント値を画像識別情報として用いればよい。
重要度抽出部316は、メタデータ抽出部115から与えられた個別メタデータより重要度の値及び固有識別子を抽出し、これらの重要度の値及び固有識別子をグループ化抽出部324に与える。
そして、重要度抽出部316は、グループ化抽出部324より、グループ化抽出部324により抽出された固有識別子の通知を受けると、通知された固有識別子と、この固有識別子に対応する個別画像データの重要度の値を重要度比較部318に与える。
そして、重要度抽出部316は、グループ化抽出部324より、グループ化抽出部324により抽出された固有識別子の通知を受けると、通知された固有識別子と、この固有識別子に対応する個別画像データの重要度の値を重要度比較部318に与える。
タイマー部323は、予め定められた時間をカウントする。そして、タイマー部323は、予め定められた時間がカウントされた場合には、予め定められた時間がカウントされたことをグループ化抽出部324に通知する。
グループ化抽出部324は、タイマー部323からの通知間隔毎に、重要度算出部308から与えられた重要度の値が複数ある場合には、これらの中で最も値の大きい重要度に対応する画像識別情報をメタデータ生成部307に通知する。なお、グループ化抽出部324は、タイマー部323からの通知間隔内において、重要度算出部308から与えられた重要度の値が1つである場合には、この重要度の値に対応する画像識別情報をメタデータ生成部307に通知する。
また、グループ化抽出部324は、タイマー部323からの通知間隔毎に、重要度抽出部316から、同じスレーブ装置で生成された個別画像データの重要度の値が複数与えられた場合には、これらの中で最も値の大きい重要度に対応する固有識別子を重要度抽出部316に通知する。なお、グループ化抽出部324は、タイマー部323からの通知間隔内において、重要度抽出部316から、同じスレーブ装置で生成された個別画像データの重要度の値が1つ与えられた場合には、この重要度の値に対応する固有識別子を重要度抽出部316に通知する。
また、グループ化抽出部324は、タイマー部323からの通知間隔毎に、重要度抽出部316から、同じスレーブ装置で生成された個別画像データの重要度の値が複数与えられた場合には、これらの中で最も値の大きい重要度に対応する固有識別子を重要度抽出部316に通知する。なお、グループ化抽出部324は、タイマー部323からの通知間隔内において、重要度抽出部316から、同じスレーブ装置で生成された個別画像データの重要度の値が1つ与えられた場合には、この重要度の値に対応する固有識別子を重要度抽出部316に通知する。
重要度比較部318は、重要度算出部308及び重要度抽出部316から与えられた重要度の値を比較して、各個別画像データの画像を1つの画像データに合成する際の、各個別画像データのサイズ及び配置位置を特定する。そして、重要度比較部318は、画像識別情報又は固有識別子で識別される、各個別画像データのサイズをスケーリング部319に与え、画像識別情報又は固有識別子で識別される、各個別画像データの配置位置をデータ合成部320に与える。
スケーリング部319は、重要度比較部318から受け取った、画像識別情報又は固有識別子で識別される、各個別画像データのサイズに合わせて、送信データ切替部111及び画像データ抽出部117から与えられた個別画像データのサイズを変更する。そして、スケーリング部319は、サイズ変更後の個別画像データをデータ合成部320に与える。なお、スケーリング部319は、重要度比較部118から与えられた固有識別子に対応しない個別画像データについては、破棄し、データ合成部320には、出力しない。
データ合成部320は、自装置である記録配信装置300がスレーブ装置である場合には、実施の形態1におけるデータ合成部120と同様の処理を行う。
データ合成部320は、自装置である記録配信装置300がマスタ装置である場合には、重要度比較部318から受け取った、画像識別情報又は固有識別子で識別される各個別画像データの配置位置に合わせて、送信データ切替部111及びスケーリング部319から与えられた個別画像データを合成することで合成画像データを生成する。そして、データ合成部320は、メタデータ生成部307から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子のうち、重要度比較部318から受け取った画像識別子に対応するものと、メタデータ抽出部115から与えられた個別メタデータのうち、重要度比較部318から受け取った固有識別子に対応するものとを含む合成メタデータを生成する。そして、データ合成部320は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部320は、以上のようにして生成された合成送信データをデータ送信部121に与える。また、データ合成部120は、以上のようにして生成された合成送信データをデータ記録部113に記録させる。
データ合成部320は、自装置である記録配信装置300がマスタ装置である場合には、重要度比較部318から受け取った、画像識別情報又は固有識別子で識別される各個別画像データの配置位置に合わせて、送信データ切替部111及びスケーリング部319から与えられた個別画像データを合成することで合成画像データを生成する。そして、データ合成部320は、メタデータ生成部307から与えられた部分メタデータ及び重要度の値と、管理情報生成部112から与えられた固有識別子のうち、重要度比較部318から受け取った画像識別子に対応するものと、メタデータ抽出部115から与えられた個別メタデータのうち、重要度比較部318から受け取った固有識別子に対応するものとを含む合成メタデータを生成する。そして、データ合成部320は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部320は、以上のようにして生成された合成送信データをデータ送信部121に与える。また、データ合成部120は、以上のようにして生成された合成送信データをデータ記録部113に記録させる。
次に、図17を用いて、実施の形態3に係る記録配信装置300でのグループ化抽出処理について説明する。図17は、実施の形態3に係る記録配信装置300が行うグループ化抽出処理を説明するための概略図である。図17において、第1カメラ、第2カメラ、第3カメラ及び第4カメラは、記録配信装置300により実現されている。また、図17において、横軸方向は時間軸であり、丸の記号は、各カメラの画像生成タイミングを示す。そして、縦の破線で区切られた区間が、タイマー部323で計時される一定の時間である。図17では、この一定の時間を1つのグループとし、説明のために、それぞれのグループは、グループAからグループFとして、区別されている。
図17に示されているように、一般的に監視用途では、カメラの設置場所によって、例えば、4秒に1枚の撮像であったり、1秒に1枚の撮像であったり、あるいは、1秒間に4枚の撮像である等、撮像の間隔が異なる設定で運用される場合がある。
本実施の形態に係る記録配信装置300は、各グループ内で各カメラに対して最大1枚の画像を抽出する。1つグループの中に、あるカメラの画像が1枚だけである場合には、その画像が抽出され、1つグループの中に、あるカメラの画像が1枚もない場合には、画像は抽出されない。そして、1つグループの中に、あるカメラの画像が複数枚ある場合には、それら複数枚の画像の重要度の値を比較し、一番重要度の値の高いものが抽出される。
グループAの例では、第1カメラの画像は1枚だけであるため、この画像が第1カメラの画像として抽出される。第2カメラの画像も1枚だけであるため、この画像が第2カメラの画像として抽出される。第3カメラの画像は2枚あるため、これらの画像のうち、より重要度の値の高い方が第3カメラの画像として抽出される。第4カメラの画像は1枚だけであるため、この画像が第4カメラの画像として抽出される。このようにして抽出された画像が、グループAの時間における合成画像データとして合成される。
本実施の形態におけるグループ化のための一定の時間は、記録配信装置300の設置される環境や監視対象によって予め設定されればよい。例えば、河川の状態等を監視するような場合には、一般的に単位時間当たりの重要度の値の変化は小さいため、グループ化のための一定の時間は、比較的長い時間、例えば、5秒等が設定されればよい。一方、人の動き等を監視するような場合には、この一定の時間は、比較的短い時間、例えば、0.5秒等が設定されればよい。グループ化のための一定の時間を小さくするほど、合成画像データに含まれている複数の画像データの相関度は高くなるが、送出されるデータ量は増加する。
以上のように、実施の形態3に係る記録配信装置300によれば、一定時間間隔において最も重要な画像が抽出されて合成され、この一定時間間隔における重要画像を1枚の画像で確認できるため、ネットワークに送信するデータ量を効率的に削減することができる。
以上に記載された実施の形態3での処理を、実施の形態2に追加することも可能である。
実施の形態4.
次に、実施の形態4について説明する。
図18は、実施の形態4に係る記録配信装置400の構成を概略的に示すブロック図である。記録配信装置400は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部407と、重要度算出部108と、画像符号化部109と、画像切出部110と、送信データ切替部111と、管理情報生成部112と、データ記録部413と、データ受信部114と、メタデータ抽出部415と、重要度抽出部116と、画像データ抽出部417と、重要度比較部118と、スケーリング部419と、データ合成部420と、データ送信部121と、記録状態監視部425と、記録状態検知部426と、記録データ切替部427とを備える。実施の形態4に係る記録配信装置400は、メタデータ生成部407、メタデータ抽出部415、画像データ抽出部417、スケーリング部419及びデータ合成部420での処理の点、データ記録部413に記録されているデータの点、並びに、記録状態監視部425、記録状態検知部426及び記録データ切替部427が備えられている点において、実施の形態1に係る記録配信装置100と異なっている。
次に、実施の形態4について説明する。
図18は、実施の形態4に係る記録配信装置400の構成を概略的に示すブロック図である。記録配信装置400は、画像撮像部101と、画像解析部102と、外部情報入力部103と、外部情報解析部104と、音声入力部105と、音声解析部106と、メタデータ生成部407と、重要度算出部108と、画像符号化部109と、画像切出部110と、送信データ切替部111と、管理情報生成部112と、データ記録部413と、データ受信部114と、メタデータ抽出部415と、重要度抽出部116と、画像データ抽出部417と、重要度比較部118と、スケーリング部419と、データ合成部420と、データ送信部121と、記録状態監視部425と、記録状態検知部426と、記録データ切替部427とを備える。実施の形態4に係る記録配信装置400は、メタデータ生成部407、メタデータ抽出部415、画像データ抽出部417、スケーリング部419及びデータ合成部420での処理の点、データ記録部413に記録されているデータの点、並びに、記録状態監視部425、記録状態検知部426及び記録データ切替部427が備えられている点において、実施の形態1に係る記録配信装置100と異なっている。
記録状態監視部425は、データ記録部413で正常に記録が行われているか否かを監視する。例えば、データ記録部413は、ハードディスク又はフラッシュメモリ等の記憶媒体により実現されているが、一般的に、これら記憶媒体は、書き込み回数に応じた寿命、又は、部分的な故障等により、書き込みができなくなる場合がある。そして、記録状態監視部425は、何らかの理由により、データ記録部413で正常に記録されていないことを検知した場合、例えば、記録エラーを検知した場合等には、正常に記録が行われていないことをメタデータ生成部407に通知する。
メタデータ生成部407は、画像解析部102、外部情報解析部104及び音声解析部106から与えられた解析結果データに基づいて、これらの解析部で解析された解析結果を含む部分メタデータを生成し、この部分メタデータを重要度算出部108に与える。また、メタデータ生成部407は、記録状態監視部425からの通知に基づいて、記録が正常に行われているか否かを示すフラグ情報を生成する。例えば、メタデータ生成部407は、記録状態監視部425から正常に記録が行われていないことが通知された場合には、記録が正常に行われていないことを示すフラグ情報を生成し、記録状態監視部425から正常に記録が行われていないことが通知されていない場合には、記録が正常に行われていることを示すフラグ情報を生成する。そして、メタデータ生成部407は、部分メタデータに基づいて重要度算出部108で算出された重要度の値が与えられると、この重要度の値と、この部分メタデータと、フラグ情報とをデータ合成部420に与える。
また、メタデータ生成部407は、画像解析部102から受け取った画像解析データを画像切出部110に与える。
また、メタデータ生成部407は、画像解析部102から受け取った画像解析データを画像切出部110に与える。
メタデータ抽出部415は、データ受信部114で受信された個別送信データから個別メタデータを抽出し、この個別メタデータを重要度抽出部116、データ合成部420及び記録状態検知部426に与える。
画像データ抽出部417は、データ受信部114で受信された個別送信データから個別画像データを抽出し、この個別画像データを記録データ切替部427に与える。
記録状態検知部426は、メタデータ抽出部415から与えられた個別メタデータに含まれているフラグ情報を確認し、このフラグ情報が、記録が正常に行われていないことを示す場合には、この個別メタデータを記録データ切替部427に与え、データ記録部413に個別画像データとともに記録する指示を出す。
記録データ切替部427は、画像データ抽出部417から受け取った個別画像データをスケーリング部419に与える。また、記録データ切替部427は、記録状態検知部426からの記録指示に応じて、記録状態検知部426から受け取った個別メタデータに対応する個別画像データを、この個別メタデータとともに、データ記録部413に送る。
データ記録部413は、データを記録する。例えば、データ記録部413は、管理情報生成部112から与えられた画像データ及び固有識別子を対応付けて記録する。また、データ記録部413は、メタデータ生成部407から部分メタデータが与えられると、当該部分メタデータを対応する画像データに対応付けて記録する。さらに、データ記録部413は、自装置である記録配信装置400がマスタ装置である場合には、データ合成部420から与えられた合成送信データを記録する。また、データ記録部413は、記録データ切替部427から受け取った個別画像データ及び個別メタデータを記録する。
スケーリング部419は、重要度比較部118から受け取った、各個別画像データのサイズに合わせて、送信データ切替部111及び記録データ切替部427から与えられた個別画像データのサイズを変更する。そして、スケーリング部419は、サイズ変更後の個別画像データをデータ合成部420に与える。
データ合成部420は、画像データにメタデータを添付することにより送信データを生成し、この送信データをデータ送信部121に与える。
例えば、データ合成部420は、自装置である記録配信装置400がスレーブ装置である場合には、メタデータ生成部407から与えられた部分メタデータ、重要度の値及びフラグ情報と、管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、送信データ切替部111から与えられた個別画像データに添付することで個別送信データを生成する。
一方、データ合成部420は、自装置である記録配信装置400がマスタ装置である場合には、スケーリング部419から与えられたサイズ変更後の個別画像データを、重要度比較部118から受け取った各個別画像データの配置位置に配置することで合成画像データを生成する。そして、データ合成部420は、自装置である記録配信装置400がマスタ装置である場合には、メタデータ生成部407から与えられた部分メタデータ、重要度の値及びフラグ情報と、管理情報生成部112から与えられた固有識別子と、メタデータ抽出部415から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部420は、以上のようにして生成された個別送信データ又は合成送信データをデータ送信部121に与える。また、データ合成部420は、以上のようにして生成された合成送信データをデータ記録部413に記録させる。
例えば、データ合成部420は、自装置である記録配信装置400がスレーブ装置である場合には、メタデータ生成部407から与えられた部分メタデータ、重要度の値及びフラグ情報と、管理情報生成部112から与えられた固有識別子とを含む個別メタデータを生成し、この個別メタデータを、送信データ切替部111から与えられた個別画像データに添付することで個別送信データを生成する。
一方、データ合成部420は、自装置である記録配信装置400がマスタ装置である場合には、スケーリング部419から与えられたサイズ変更後の個別画像データを、重要度比較部118から受け取った各個別画像データの配置位置に配置することで合成画像データを生成する。そして、データ合成部420は、自装置である記録配信装置400がマスタ装置である場合には、メタデータ生成部407から与えられた部分メタデータ、重要度の値及びフラグ情報と、管理情報生成部112から与えられた固有識別子と、メタデータ抽出部415から与えられた個別メタデータとを含む合成メタデータを生成する。そして、データ合成部120は、生成された合成画像データに合成メタデータを添付することで合成送信データを生成する。
そして、データ合成部420は、以上のようにして生成された個別送信データ又は合成送信データをデータ送信部121に与える。また、データ合成部420は、以上のようにして生成された合成送信データをデータ記録部413に記録させる。
図19は、実施の形態4におけるデータ合成部420が生成する個別送信データIID4のデータ構造を示す概略図である。
個別送信データIID4は、個別画像データIID41と、固有識別子IID42と、記録状態情報IID43と、重要度IID44と、項目個数IID45と、項目番号IID46と、解析結果データサイズIID47と、解析結果IID48とを有する。ここで、個別送信データIID4の個別画像データIID41、固有識別子IID42、重要度IID44、項目個数IID45、項目番号IID46、解析結果データサイズIID47及び解析結果IID48は、図9に示されている個別送信データIID1の個別画像データIID11、固有識別子IID12、重要度IID13、項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17と、それぞれ同様である。
記録状態情報IID43は、メタデータ生成部407から送られてくるフラグ情報である。この記録状態情報IID43を参照することにより、マスタ装置は、スレーブ装置の記録状態を検知することができる。
個別送信データIID4は、個別画像データIID41と、固有識別子IID42と、記録状態情報IID43と、重要度IID44と、項目個数IID45と、項目番号IID46と、解析結果データサイズIID47と、解析結果IID48とを有する。ここで、個別送信データIID4の個別画像データIID41、固有識別子IID42、重要度IID44、項目個数IID45、項目番号IID46、解析結果データサイズIID47及び解析結果IID48は、図9に示されている個別送信データIID1の個別画像データIID11、固有識別子IID12、重要度IID13、項目個数IID14、項目番号IID15、解析結果データサイズIID16及び解析結果IID17と、それぞれ同様である。
記録状態情報IID43は、メタデータ生成部407から送られてくるフラグ情報である。この記録状態情報IID43を参照することにより、マスタ装置は、スレーブ装置の記録状態を検知することができる。
図20は、実施の形態4におけるデータ合成部420が生成する合成送信データSID4のデータ構造を示す概略図である。
合成送信データSID4は、合成画像データSID41と、最大カメラ数SID42と、各画像有無情報SID43と、各記録状態情報SID44と、カメラ番号SID45と、スケーリングエリアSID46と、固有識別子SID47と、重要度SID48と、項目個数SID49と、項目番号SID50と、解析結果データサイズSID51と、解析結果SID52とを有する。ここで、合成送信データSID4の合成画像データSID41、最大カメラ数SID42、各画像有無情報SID43、カメラ番号SID45、スケーリングエリアSID46、固有識別子SID47、重要度SID48、項目個数SID49、項目番号SID50、解析結果データサイズSID51及び解析結果SID52は、図10に示されているSID1の合成画像データSID11、最大カメラ数SID12、各画像有無情報SID13、カメラ番号SID14、スケーリングエリアSID15、固有識別子SID16、重要度SID17、項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21と、それぞれ同様である。
各記録状態情報SID44は、カメラ(記録配信装置400)毎に、記録が正常に行われているか否かを示す情報である。例えば、各記録状態情報SID44は、ビットパターンの情報で明示される。例えば、図2及び3に示されている例において、4つのカメラ151〜154のうち、第1カメラ151、第2カメラ152及び第4カメラ154では、記録が正常に行われており、第3カメラ153では、記録が正常に行われていない場合には、各記録状態情報SID44は、「0001」と示される。
合成送信データSID4は、合成画像データSID41と、最大カメラ数SID42と、各画像有無情報SID43と、各記録状態情報SID44と、カメラ番号SID45と、スケーリングエリアSID46と、固有識別子SID47と、重要度SID48と、項目個数SID49と、項目番号SID50と、解析結果データサイズSID51と、解析結果SID52とを有する。ここで、合成送信データSID4の合成画像データSID41、最大カメラ数SID42、各画像有無情報SID43、カメラ番号SID45、スケーリングエリアSID46、固有識別子SID47、重要度SID48、項目個数SID49、項目番号SID50、解析結果データサイズSID51及び解析結果SID52は、図10に示されているSID1の合成画像データSID11、最大カメラ数SID12、各画像有無情報SID13、カメラ番号SID14、スケーリングエリアSID15、固有識別子SID16、重要度SID17、項目個数SID18、項目番号SID19、解析結果データサイズSID20及び解析結果SID21と、それぞれ同様である。
各記録状態情報SID44は、カメラ(記録配信装置400)毎に、記録が正常に行われているか否かを示す情報である。例えば、各記録状態情報SID44は、ビットパターンの情報で明示される。例えば、図2及び3に示されている例において、4つのカメラ151〜154のうち、第1カメラ151、第2カメラ152及び第4カメラ154では、記録が正常に行われており、第3カメラ153では、記録が正常に行われていない場合には、各記録状態情報SID44は、「0001」と示される。
なお、個別送信データIID4及び合成送信データSID4のデータ構造は、図19及び図20にそれぞれ示されているデータ構造に限定されるものではない。図19及び図20に示されている情報が含まれていればよい。従って、本発明の効果に影響のないその他の情報、例えば、メーカー情報等が含まれていてもよい。
以上のように、実施の形態4に係る記録配信装置400によれば、LAN接続された複数の記録配信装置400の何れかにおいて、画像データを記録できなくなる不具合が発生した場合に、別の記録配信装置400で、不具合の生じた記録配信装置400で撮像された個別画像データを記録することができ、記録媒体の不具合により記録ができない問題を改善することができる。
なお、以上に記載された実施の形態4での処理を、実施の形態2又は3に追加することも可能である。
以上に記載された実施の形態1〜4では、記録配信装置100〜400は、自装置がスレーブ装置である場合に、自装置で撮像された画像の個別画像データに対して、重要度を算出して、この重要度を個別送信データに含めて、マスタ装置に送信している。この点、例えば、記録配信装置100〜400は、自装置がスレーブ装置である場合には、重要度を算出せず、重要度を算出するために必要な部分メタデータを個別送信データに含めて、マスタ装置に送信するようにしてもよい。このような場合には、マスタ装置である記録配信装置100〜400では、メタデータ抽出部115、415が、抽出された個別メタデータを重要度算出部108、208、308に与えて、重要度算出部108、208、308が、個別メタデータに含まれている部分メタデータに基づいて、スレーブ装置の個別画像データの優先度を算出するようにすればよい。
また、以上に記載された実施の形態1〜4では、記録配信装置100〜400は、自装置がマスタ装置である場合に、個別画像データのスケーリングを行っているが、自装置がスレーブ装置である場合にも、重要度に対応したサイズに、個別画像データのスケーリングを行ってもよい。このような場合には、マスタ装置で、スレーブ装置から送られてきた個別画像データをスケーリングしなくてもよい。そして、スレーブ装置が、個別画像データをダウンサイズして送信することで、LANにおける使用帯域も節約することができる。
また、例えば、特許文献1に記載された技術では、複数のIPカメラで同時に動きが検出された場合には、動きが検出された画像のうち、関連する画像のみを連続してモニタに表示することができなくなるが、実施の形態1〜4に係る記録配信装置100〜400によれば、動きが検出された画像が合成されて1つの画像として表示されるため、複数の記録配信装置100〜400で撮像された画像に、同時に動きが検出された場合であっても、効率的に監視を行うことができる。
さらに、特許文献1に記載された技術では、動きが検出された画像が1枚ずつモニタに表示されるため、重要な画像が複数のIPカメラにまたがって撮像された場合に、それらの画像を関連付けて管理し、同時に視聴することができず、重要な映像を見逃すといった問題があった。しかしながら、実施の形態1〜4に係る記録配信装置100〜400では、重要な映像が合成されて同時に視聴することができるため、このような問題が生じない。
さらにまた、特許文献1に記載された技術では、動きを検知するモーションディテクト機能を用いて画像の切り替えを行うため、動きがあった場合にしか画像が送信されない。このため、例えば、立ち止まった人や、置き去りにされた物等動きのない画像はデータとして送信されることがなく、視聴することも記録することもできないという問題があった。しかしながら、実施の形態1〜4に係る記録配信装置100〜400では、動きが検出された場合だけでなく、例えば、センサ入力があった場合、顔が検出された場合、音声入力があった場合等、複数の項目から重要度を判定しているため、このような問題が生じない。
加えて、送信されてきた画像データを1枚の画像として表示する従来技術では、一度に多量の画像データが送られてきた場合には、画像を順次1枚の画像として表示するために、モニタ側の装置に高い処理能力が必要であった。これに対して、実施の形態1〜4に係る記録配信装置100〜400では、送信側で画像が合成されるため、受信側の装置は高い処理能力を必要としない。
100,200,300,400:記録配信装置、 101:画像撮像部、 102:画像解析部、 103:外部情報入力部、 104:外部情報解析部、 105:音声入力部、 106:音声解析部、 107,307,407:メタデータ生成部、 108,208,308:重要度算出部、 109:画像符号化部、 110,310:画像切出部、 111,211:送信データ切替部、 112:管理情報生成部、 113,413:データ記録部、 114:データ受信部、 115,415:メタデータ抽出部、 116,316:重要度抽出部、 117,417:画像データ抽出部、 118,218,318:重要度比較部、 119,319,419:スケーリング部、 120,320,420:データ合成部、 121:データ送信部、 222:閾値比較部、 323:タイマー部、 324:グループ化抽出部、 425:記録状態監視部、 426:記録状態検知部、 427:記録データ切替部。
Claims (19)
- 画像を撮像する画像撮像部と、
前記画像撮像部で撮像された画像の画像データを生成する画像符号化部と、
第1ネットワークから、画像データを含む個別送信データを受信するデータ受信部と、
前記個別送信データから画像データを抽出する画像データ抽出部と、
前記生成された画像データ及び前記抽出された画像データから選択された画像データより1つの画像データを生成し、当該1つの画像データを含む合成送信データを生成するデータ合成部と、
前記合成送信データを、第2ネットワークに送信するデータ送信部と、を備えること
を特徴とする記録配信装置。 - 前記生成された画像データ及び前記抽出された画像データから選択された画像データのサイズを変更するスケーリング部をさらに備え、
前記データ合成部は、前記スケーリング部でサイズ変更済みの画像データから1つの画像データを生成すること
を特徴とする請求項1に記載の記録配信装置。 - 前記生成された画像データの部分メタデータを生成するメタデータ生成部と、
前記個別送信データから個別メタデータを抽出するメタデータ抽出部と、をさらに備え、
前記データ合成部は、前記1つの画像データに、前記選択された画像データに対応する部分メタデータ及び個別メタデータの少なくとも何れか1つを合成することで、合成送信データを生成すること
を特徴とする請求項2に記載の記録配信装置。 - 前記部分メタデータに基づいて、前記生成された画像データの重要度を算出する重要度算出部と、
前記個別メタデータから重要度を抽出する重要度抽出部と、
前記算出された重要度及び前記抽出された重要度から、前記選択された画像データのサイズ及び配置位置を特定する重要度比較部と、をさらに備え、
前記スケーリング部は、前記選択された画像データを、前記特定されたサイズに変更し、
前記データ合成部は、前記サイズ変更済みの画像データを、前記特定された配置位置に配置することで、前記1つの画像データを生成すること
を特徴とする請求項3に記載の記録配信装置。 - 監視対象の状態を複数の項目で解析する状態解析部をさらに備え、
前記メタデータ生成部は、前記状態解析部での解析結果を前記部分メタデータに含め、
前記重要度算出部は、前記解析結果から、前記重要度を算出すること
を特徴とする請求項4に記載の記録配信装置。 - 前記状態解析部は、前記撮像された画像に重要な部分が含まれているか否かを解析する画像解析部、外部の装置から外部信号が入力されたか否かを解析する外部情報解析部、及び、入力された音声の音量レベルを解析する音声解析部の少なくとも何れか1つを含むこと
を特徴とする請求項5に記載の記録配信装置。 - 前記撮像された画像に重要な部分が含まれているか否かを解析する画像解析部と、
前記生成された画像データから、前記重要な部分を切り出す画像切出部と、をさらに備え、
前記スケーリング部は、前記切出し済みの画像データ及び前記抽出された画像データから選択された画像データのサイズを変更すること、
を特徴とする請求項2から4の何れか一項に記載の記録配信装置。 - 前記スケーリング部は、前記生成された画像データ及び前記抽出された画像データの全てのサイズを変更すること
を特徴とする請求項2から7の何れか一項に記載の記録配信装置。 - 前記重要度が予め定められた閾値以上であるか否かを判断する閾値比較部をさらに備え、
前記スケーリング部は、前記閾値比較部で、前記重要度が予め定められた閾値以上であると判断された画像データのサイズを変更すること
を特徴とする請求項2から7の何れか一項に記載の記録配信装置。 - 予め定められた時間を計時するタイマー部と、
前記予め定められた時間において撮像された画像から生成された複数の画像データの中で最も重要度の高い画像データを特定するとともに、前記予め定められた時間において、同じ送信元から受信された複数の個別送信データから抽出された画像データの中で最も重要度の高い画像データを特定するグループ化抽出部と、をさらに備え、
前記スケーリング部は、前記グループ化抽出部で特定された画像データのサイズを変更すること
を特徴とする請求項2から7の何れか一項に記載の記録配信装置。 - 前記生成された画像データを一意に識別するための固有識別子を生成する管理情報生成部と、
前記生成された画像データを、前記固有識別子に対応付けて記録するデータ記録部と、をさらに備え、
前記データ合成部は、前記選択された画像データに前記生成された画像データが含まれる場合には、前記1つの画像データに、前記生成された画像データの固有識別子をさらに合成すること
を特徴とする請求項1から10の何れか一項に記載の記録配信装置。 - 前記個別送信データから、画像データが正しく記録されているか否かを示す記録状態情報を抽出し、当該記録状態情報に基づいて、前記個別送信データに含まれている画像データが正しく記録されているか否かを判断する記録状態検知部と、
前記記録状態検知部が、前記個別送信データに含まれている画像データが正しく記録されていないと判断した場合には、前記個別送信データに含まれている画像データを前記データ記憶部に記憶させる記録データ切替部と、をさらに備えること
を特徴とする請求項11に記載の記録配信装置。 - 画像を撮像する撮像工程と、
前記撮像工程で撮像された画像の画像データを生成する画像符号化工程と、
第1ネットワークから、画像データを含む個別送信データを受信するデータ受信工程と、
前記個別送信データから画像データを抽出する画像データ抽出工程と、
前記生成された画像データ及び前記抽出された画像データから選択された画像データより1つの画像データを生成し、当該1つの画像データを含む合成送信データを生成するデータ合成工程と、
前記合成送信データを、第2ネットワークに送信するデータ送信工程と、を有すること
を特徴とする記録配信方法。 - 前記生成された画像データ及び前記抽出された画像データから選択された画像データのサイズを変更するスケーリング工程をさらに有し、
前記データ合成工程では、前記スケーリング工程でサイズ変更済みの画像データから1つの画像データを生成すること
を特徴とする請求項13に記載の記録配信方法。 - 前記生成された画像データの部分メタデータを生成するメタデータ生成工程と、
前記個別送信データから個別メタデータを抽出するメタデータ抽出工程と、をさらに有し、
前記データ合成工程では、前記1つの画像データに、前記選択された画像データに対応する部分メタデータ及び個別メタデータの少なくとも何れか1つを合成することで、合成送信データを生成すること
を特徴とする請求項14に記載の記録配信方法。 - 前記部分メタデータに基づいて、前記生成された画像データの重要度を算出する重要度算出工程と、
前記個別メタデータから重要度を抽出する重要度抽出工程と、
前記算出された重要度及び前記抽出された重要度から、前記選択された画像データのサイズ及び配置位置を特定する重要度比較工程と、をさらに有し、
前記スケーリング工程では、前記選択された画像データを、前記特定されたサイズに変更し、
前記データ合成工程では、前記サイズ変更済みの画像データを、前記特定された配置位置に配置することで、前記1つの画像データを生成すること
を特徴とする請求項15に記載の記録配信方法。 - 監視対象の状態を複数の項目で解析する状態解析工程をさらに有し、
前記メタデータ生成工程では、前記状態解析工程での解析結果を前記部分メタデータに含め、
前記重要度算出工程では、前記解析結果から、前記重要度を算出すること
を特徴とする請求項16に記載の記録配信方法。 - 前記状態解析工程は、前記撮像された画像に重要な部分が含まれているか否かを解析する画像解析工程、外部の装置から外部信号が入力されたか否かを解析する外部情報解析工程、及び、入力された音声の音量レベルを解析する音声解析工程の少なくとも何れか1つを含むこと
を特徴とする請求項17に記載の記録配信方法。 - 第1ネットワークを介してデータを送受信するスレーブ装置と、前記第1ネットワーク及び第2ネットワークを介してデータを送受信するマスタ装置と、前記第2ネットワークを介してデータを送受信する視聴装置と、を備える監視システムであって、
前記スレーブ装置は、
画像を撮像する画像撮像部と、
前記画像撮像部で撮像された画像の画像データを生成する画像符号化部と、
前記画像データを含む個別送信データを生成するデータ合成部と、
前記第1のネットワークを介して、前記個別送信データを、前記マスタ装置に送信するデータ送信部と、を備え、
前記マスタ装置は、
画像を撮像する画像撮像部と、
前記画像撮像部で撮像された画像の画像データを生成する画像符号化部と、
前記第1ネットワークを介して、前記個別送信データを受信するデータ受信部と、
前記個別送信データから画像データを抽出する画像データ抽出部と、
前記生成された画像データ及び前記抽出された画像データから選択された画像データより1つの画像データを生成し、当該1つの画像データを含む合成送信データを生成するデータ合成部と、
前記合成送信データを、前記第2ネットワークを介して、前記視聴装置に送信するデータ送信部と、を備え、
前記視聴装置は、
前記第2ネットワークを介して、前記合成送信データを受信する受信部と、
前記合成送信データから、前記1つの画像データを抽出する画像処理部と、
前記1つの画像データに基づいて、画像を表示する表示部と、を備えること
を特徴とする監視システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011089998A JP2012222780A (ja) | 2011-04-14 | 2011-04-14 | 記録配信装置、記録配信方法及び監視システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011089998A JP2012222780A (ja) | 2011-04-14 | 2011-04-14 | 記録配信装置、記録配信方法及び監視システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012222780A true JP2012222780A (ja) | 2012-11-12 |
Family
ID=47273785
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011089998A Withdrawn JP2012222780A (ja) | 2011-04-14 | 2011-04-14 | 記録配信装置、記録配信方法及び監視システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012222780A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018195883A (ja) * | 2017-05-12 | 2018-12-06 | キヤノン株式会社 | 画像処理システム、制御装置、制御方法、及び、プログラム |
-
2011
- 2011-04-14 JP JP2011089998A patent/JP2012222780A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018195883A (ja) * | 2017-05-12 | 2018-12-06 | キヤノン株式会社 | 画像処理システム、制御装置、制御方法、及び、プログラム |
US10979631B2 (en) | 2017-05-12 | 2021-04-13 | Canon Kabushiki Kaisha | Image processing system, apparatus, and control method |
JP7121470B2 (ja) | 2017-05-12 | 2022-08-18 | キヤノン株式会社 | 画像処理システム、制御方法、及び、プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8891826B2 (en) | Image processing system, image processing method, and computer program | |
US8159538B2 (en) | Monitoring apparatus, filter calibration method, and filter calibration program | |
TWI433057B (zh) | 改良的警報前視訊緩衝器 | |
JP2008035095A (ja) | 監視装置、監視システム、監視方法及びプログラム | |
JP2007243699A (ja) | 映像記録再生方法及び映像記録再生装置 | |
JP5192414B2 (ja) | 音声情報表示システム | |
KR101794005B1 (ko) | 네트워크 카메라 에러 검출 시스템 | |
US20110255590A1 (en) | Data transmission apparatus and method, network data transmission system and method using the same | |
JP4959592B2 (ja) | ネットワーク映像モニタリングシステム及びモニタ装置 | |
JP2016058994A (ja) | 監視カメラ装置および監視カメラシステム | |
US20230093631A1 (en) | Video search device and network surveillance camera system including same | |
JP5636205B2 (ja) | 画像記録制御装置及び監視システム | |
JP2006093955A (ja) | 映像処理装置 | |
KR20140054650A (ko) | 관심객체의 선택에 의한 영상 탐색장치 및 방법 | |
JP2009111677A (ja) | 映像撮像制御システム | |
JP2012222780A (ja) | 記録配信装置、記録配信方法及び監視システム | |
JP2008112402A (ja) | 地域監視システム | |
JP5461623B2 (ja) | 監視システムにおける監視データ処理 | |
US20220286642A1 (en) | Event-oriented multi-channel video backup apparatus and method, and network surveillance camera system including the same | |
JP4202228B2 (ja) | 管理サーバおよび監視システム | |
KR200434039Y1 (ko) | 중앙 집중형 감시 시스템 | |
KR20150095080A (ko) | 영상 데이터 전송 장치 및 방법 | |
KR102433744B1 (ko) | 영상수집 장치 및 분석 장치의 연계를 통한 통합 관제 방법 및 장치 | |
US20240305750A1 (en) | Video reception/search apparatus and video display method | |
KR20100030694A (ko) | 이벤트정보를 제공하기 위한 dvr 감시 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20140701 |