JP2009115621A - 移動体画像追尾装置 - Google Patents
移動体画像追尾装置Info
- Publication number
- JP2009115621A JP2009115621A JP2007288967A JP2007288967A JP2009115621A JP 2009115621 A JP2009115621 A JP 2009115621A JP 2007288967 A JP2007288967 A JP 2007288967A JP 2007288967 A JP2007288967 A JP 2007288967A JP 2009115621 A JP2009115621 A JP 2009115621A
- Authority
- JP
- Japan
- Prior art keywords
- tracking error
- value
- tracking
- angular velocity
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
- G01S3/78—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
- G01S3/782—Systems for determining direction or deviation from predetermined direction
- G01S3/785—Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system
- G01S3/786—Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system the desired condition being maintained automatically
- G01S3/7864—T.V. type tracking systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Studio Devices (AREA)
- Gyroscopes (AREA)
Abstract
【課題】追尾性能の劣化を改善する
【解決手段】回転手段111,121,131と、回転手段を回転駆動する駆動手段112,122,132と、移動体を撮影して画像データを取得する取得手段140と、移動体の追尾誤差を追尾誤差検出値として検出する第1検出手段174と、姿勢を示す角度を検出する第2検出手段114,124,133と、角度と角度の時間微分とを使用して追尾誤差を追尾誤差推定値として推定する推定手段172と、移動体が視野内のとき追尾誤差検出値を選択し移動体が視野外のとき追尾誤差推定値を選択する選択手段173と、角度と選択された追尾誤差値とを使用して移動体を追尾するように回転手段を駆動する角速度指令値を計算する計算手段150と、回転手段の角速度を検出する第3検出手段113,123,133と、角速度指令値と角速度との差がなくなるように回転手段を制御する制御手段160と、を具備する。
【選択図】 図1
【解決手段】回転手段111,121,131と、回転手段を回転駆動する駆動手段112,122,132と、移動体を撮影して画像データを取得する取得手段140と、移動体の追尾誤差を追尾誤差検出値として検出する第1検出手段174と、姿勢を示す角度を検出する第2検出手段114,124,133と、角度と角度の時間微分とを使用して追尾誤差を追尾誤差推定値として推定する推定手段172と、移動体が視野内のとき追尾誤差検出値を選択し移動体が視野外のとき追尾誤差推定値を選択する選択手段173と、角度と選択された追尾誤差値とを使用して移動体を追尾するように回転手段を駆動する角速度指令値を計算する計算手段150と、回転手段の角速度を検出する第3検出手段113,123,133と、角速度指令値と角速度との差がなくなるように回転手段を制御する制御手段160と、を具備する。
【選択図】 図1
Description
本発明は、全方向に渡り移動する目標に対してカメラ等の目標認識センサを追尾させるための移動体画像追尾装置に関する。
近年、空港やプラントなど大型施設、及び発電所や水道施設などのライフラインに関わる施設での保安設備、並びにITSなどの交通情報支援システムなどにおいて、ITVカメラ等を用いて対象物を追跡し、継続した監視や詳細な情報を入手するシステムが多く商品化されている。これらのシステムは、地上設置型だけでなく、プラットホームとして車両、船舶または航空機などを想定し、小型かつ耐振性を考慮した構造で、振動・動揺に対する外乱抑圧を行っている。更に、複数の対象物を順次、追跡できるように、旋回速度を高速化し、対象物への指向を短時間に行えることが重要になってきている。
このような移動体画像追尾システムは、カメラセンサの視野範囲により対象物の追尾速度が制限される。つまり、移動体をカメラセンサにて撮影した際の追尾誤差が視野内に収まらなければ、移動体を見失ってしまう。ここで、カメラセンサは、撮影画像から追尾誤差を抽出する画像処理を経るため、撮影間隔、つまりサンプリング時間の高速化が難しく、追尾遅れが生じてしまう。このため、移動体画像追尾システムでは、移動体の移動速度が速くなった場合には、カメラ視野外になってしまい、追尾不能になる可能性がある。また、ジンバル機構の姿勢によっては、ジンバルロックを回避するために、ジンバル機構自体も瞬間的に高速に動く可能性があり、移動体速度が速くなった場合同様に、カメラ視野外になってしまう可能性がある。このような追尾状態からカメラ視野外になってしまった場合には、再度視野内に戻すことは難しい。これに加え、カメラセンサのサンプリング間隔が長い場合には、ジンバル機構を追尾駆動する角速度指令の更新も長い間隔が空いてしまう、つまりサンプリング時間の長い制御系となってしまい、これも追尾性能に影響を及ぼし、追尾遅れによるカメラ視野外の状態を招く問題となっている。
従来の画像追尾システムでは、追尾状態から視野外になった場合には、カメラセンサの追尾誤差による角速度指令生成から切り替えて、予め既定された角速度指令を与え、視野外になった方向へジンバル機構を指向させて、再度視野内に戻す試みがなされている場合がある(例えば、特許文献1参照)。
また、画像追尾システムにおいて画像が得られなくなって追尾不能状態において、推定を用いて問題を解決しようとする方法が考案させている。例えば、目標物からの画像情報が得られなくても目標位置を推定する手法として、測長センサにより目標物と画像追尾システムの距離を測定し、これにより目標位置を推定して補正する方法がある。
また、撮影画像の処理から、目標物の面積サイズや重心位置変化からコースとモードと追尾モードを切り替えて、追尾制御を補償する方法がある。
特開2006−106910公報
このような従来技術では、全ての場合において適切に視野内復帰するような角速度指令を既定することが難しく、限られた場合にしか対応ができない。また、目標物と画像追尾システムとの距離を測定し推定する手法では、測長センサを必要とし、測長センサを搭載していない画像追尾システムにとっては、コストを増加してしまう。また、目標物の面積サイズや重心変化から追尾制御補償する手法では、画像処理への付加が増大し、サンプリング時間が増大する可能性があり、先に述べた長サンプリング時間に起因する追尾遅れには改善効果は難しい。
本発明は、上記に鑑みてなされたものであって、付加センサを追加することなく、追尾性能の劣化を改善する移動体画像追尾装置を提供することを目的とする。
上述の課題を解決するため、本発明の移動体画像追尾装置は、1軸以上の軸を中心に回転する1以上の回転手段と、前記回転手段を回転駆動する駆動手段と、前記回転手段に支持され、移動体を撮影して画像データを取得する取得手段と、前記画像データから、前記移動体の視野中心からのずれ量である追尾誤差を追尾誤差検出値として検出する第1検出手段と、前記回転手段ごとに、前記回転手段の姿勢を示す角度を検出する第2検出手段と、前記角度と前記角度の時間微分とを使用して、前記追尾誤差を追尾誤差推定値として推定する推定手段と、前記移動体が前記画像の視野内である場合には前記追尾誤差検出値を選択し、前記移動体が前記画像の視野外である場合には前記追尾誤差推定値を選択する選択手段と、前記角度と前記選択手段が選択した追尾誤差値とを使用して、前記移動体を追尾するように前記回転手段を駆動する角速度指令値を計算する計算手段と、前記回転手段ごとに、前記回転手段の角速度を検出する第3検出手段と、前記角速度指令値と前記角速度との差がなくなるように前記回転手段を制御する制御手段と、を具備することを特徴とする。
本発明の移動体画像追尾装置によれば、付加センサを追加することなく、追尾性能の劣化を改善することができる。
以下、図面を参照しながら本発明の実施形態に係る移動体画像追尾装置について詳細に説明する。なお、以下の実施形態中では、同一の番号を付した部分については同様の動作を行うものとして、重ねての説明を省略する。
実施形態の移動体画像追尾装置は、移動体画像追尾機構の制御システムを、画像トラッキングシステムに適用したものである。
実施形態の移動体画像追尾装置は、移動体画像追尾機構の制御システムを、画像トラッキングシステムに適用したものである。
(第1の実施形態)
本実施形態の移動体画像追尾装置について図1を参照して説明する。
本実施形態の移動体画像追尾装置は、第1、第2、第3のジンバル111,121,131、第1、第2、第3の駆動部112,122,132、第1、第2、第3の角速度センサ113,123,133、第1、第2、第3の角度センサ114,124,134、カメラセンサ140、角速度指令生成部150、駆動制御部160、微分信号処理部171、追尾誤差推定部172、追尾誤差補正部173、追尾誤差検出部174を含む。
また、角速度指令生成部150は、第1の指令算出部151、第2の指令算出部152、第3の指令算出部153を含み、駆動制御部160は、第1のサーボ制御部161、第2のサーボ制御部162、第3のサーボ制御部163を含んでいる。
本実施形態の移動体画像追尾装置について図1を参照して説明する。
本実施形態の移動体画像追尾装置は、第1、第2、第3のジンバル111,121,131、第1、第2、第3の駆動部112,122,132、第1、第2、第3の角速度センサ113,123,133、第1、第2、第3の角度センサ114,124,134、カメラセンサ140、角速度指令生成部150、駆動制御部160、微分信号処理部171、追尾誤差推定部172、追尾誤差補正部173、追尾誤差検出部174を含む。
また、角速度指令生成部150は、第1の指令算出部151、第2の指令算出部152、第3の指令算出部153を含み、駆動制御部160は、第1のサーボ制御部161、第2のサーボ制御部162、第3のサーボ制御部163を含んでいる。
第1のジンバル111は、第1のジンバル軸110を中心に回転する。第2のジンバル121は、第1のジンバル軸110に直交する第2のジンバル軸120を中心に回転する。第3のジンバル131は、第1のジンバル111に支持された第2のジンバル121と、第1のジンバル軸110と同一直交点において第2のジンバル軸120に直交する第3のジンバル軸を中心に回転する。
第1、第2、第3の駆動部112,122,132は、それぞれ、第1、第2、第3のジンバル111,121,131を回転駆動する。
第1の角速度センサ113は、第1のジンバル軸110を中心に回転する第1のジンバル111の角速度を検出する。第2の角速度センサ123は、第2のジンバル軸120を中心に回転する第2のジンバル121の角速度を検出する。第3の角速度センサ133は、第3のジンバル軸130を中心に回転する第3のジンバル131の角速度を検出する。
第1の角度センサ114は、第1のジンバル111の第2のジンバル121に対する回転角度を検出する。第2の角度センサ124は、第2のジンバル121の第3のジンバル131に対する回転角度を検出する。第3の角度センサ134は、第3のジンバル131のジンバル固定部(図示せず)に対する回転角度を検出する。
カメラセンサ140は、第3のジンバル131に支持され、移動体を認識して画像データを得る。
追尾誤差検出部174は、カメラセンサ140から取得した画像データに画像処理を施して追尾誤差を検出する。追尾誤差検出部174は、一般的には2値化により白黒画像にし、移動体の特徴点を抽出することでカメラ視野内の位置が識別され、視野中心からの2方向のずれ量(ΔX,ΔY)を追尾誤差検出値とする。これらの画像処理を含めた処理時間が追尾誤差検出値を得るサンプリング時間となる。追尾誤差検出値については後に図4、図5を参照して説明する。
角速度指令生成部150は、追尾誤差補正部173から取得する2方向の追尾誤差と、第1、第2、第3の角度センサ114,124,134により検出されるジンバル姿勢を表す3軸の角度検出値(θ1,θ2,θ3)とにより、移動体を追尾するようジンバルを駆動する角速度指令値を生成する。この計算の詳細は後に図3を参照して説明する。
第1の指令算出部151は、追尾誤差補正部173から取得する2方向の追尾誤差と、第1、第2、第3の角度センサ114,124,134により検出した角度データとに基づき、目標の追従において、第1のジンバル111を駆動する第1の角速度指令値を計算する。第2の指令算出部152は、追尾誤差補正部173から取得する2方向の追尾誤差と、第1、第2、第3の角度センサ114,124,134により検出した角度データとに基づき、第1のジンバル111の回転駆動反力を低減させる軌道を経て第2のジンバル121を駆動する第2の角速度目標値を計算する。第3の指令算出部153は、追尾誤差補正部173から取得する2方向の追尾誤差と、第1、第2、第3の角度センサ114,124,134により検出した角度データとに基づき、第3のジンバル131を駆動する第3の角速度指令値を計算する。
駆動制御部160は、角速度指令生成部150で生成された各角速度センサに対応する角速度指令値と、第1、第2、第3の角速度センサ113,123,133で検出された角速度検出値との差を0にするように制御指令値を計算する。第1,第2,第3のサーボ制御部161,162,163は、それぞれ第1、第2、第3の角速度センサ113,123,133に対応し、それぞれ第1、第2、第3の駆動部112,122,132に対応する制御指令値を出力する。
微分信号処理部171は、第1、第2、第3の角度センサ114,124,134のそれぞれから角度を入力し、それぞれの角度を時間微分することでそれぞれの角速度を算出する。
追尾誤差推定部172は、第1、第2、第3の角度センサ114,124,134のそれぞれから角度を入力し、これらそれぞれの角速度を微分信号処理部171から入力することで、追尾誤差を得る。この計算の詳細は後に図3を参照して説明する。
追尾誤差補正部173は、追尾誤差推定部172からの追尾誤差推定値と、追尾誤差検出部174から追尾誤差検出値とを入力し、追尾誤差が視野範囲内であるかどうかによって、追尾誤差検出値または追尾誤差推定値のいずれかを出力する。
次に、本実施形態で使用するカメラセンサについて図2を参照して説明する。
第1のジンバル軸110はアジマス軸(以下、単に「Az軸」という)、第2のジンバル軸120はエレベーション軸(以下、単に「EL軸」という)、第3のジンバル軸130はクロスエレベーション軸(以下、単に「CE軸」という)である。図1の移動体画像追尾装置は、これらのAz軸110、EL軸120及びCE軸130が一点において直交する3軸構造を備えた3軸旋回装置である。
第1のジンバル軸110はアジマス軸(以下、単に「Az軸」という)、第2のジンバル軸120はエレベーション軸(以下、単に「EL軸」という)、第3のジンバル軸130はクロスエレベーション軸(以下、単に「CE軸」という)である。図1の移動体画像追尾装置は、これらのAz軸110、EL軸120及びCE軸130が一点において直交する3軸構造を備えた3軸旋回装置である。
次に、本実施形態の移動体画像追尾装置の補正制御系について図3を参照して説明する。図3は、Az軸、EL軸、CE軸の3軸まとめて表した制御ブロック線図である。
本実施形態にかかる補正制御系では、カメラ視野内で追尾状態において、カメラセンサから追尾誤差検出値を得ると同時に、ジンバルの角度を検出する角度データに基づいて、追尾誤差推定部172で追尾誤差の推定を行う。追尾誤差の推定は、角度と角速度に対する追尾誤差(ΔXm,ΔYm)の関係式が次式で表される。
本実施形態にかかる補正制御系では、カメラ視野内で追尾状態において、カメラセンサから追尾誤差検出値を得ると同時に、ジンバルの角度を検出する角度データに基づいて、追尾誤差推定部172で追尾誤差の推定を行う。追尾誤差の推定は、角度と角速度に対する追尾誤差(ΔXm,ΔYm)の関係式が次式で表される。
この式により、ジンバル角度及び角速度とカメラ上の追尾誤差を関係付けることができる。この式において、角度情報は、第1、第2、第3の角度センサ114,124,134のデータをそのまま使うことができる。角速度次元のデータは、第1、第2、第3の角速度センサ113,123,133により検出しているが、この式で必要なのはジンバル固有の角速度であるため、他要素によって変化する可能性や検出範囲の制限がある角速度センサの値を用いるのは有用ではない。本実施形態では、微分信号処理部171が角度を時間微分することで角速度を算出し、追尾誤差推定部172はこの角速度を利用する。こうすることにより、角速度センサの影響を除くことが可能である。微分信号処理部171での微分信号処理は、微分による高周波成分の増大を鑑みて、微分特性とローパス特性を有する信号処理をすることが望ましい。このようにして追尾誤差推定部172が追尾誤差推定値を得ることが可能となる。
追尾誤差補正部173は、このようにして求まった追尾誤差推定値を用いて、視野外の追尾誤差の補正を行う。追尾誤差補正部173は、追尾誤差が視野範囲内の場合には、カメラセンサから取得した画像によって追尾誤差検出部174が検出した追尾誤差検出値をそのまま適用し、視野外のときには追尾誤差推定部172が推定した追尾誤差推定値を適用する。
角速度指令生成部150は、追尾誤差補正部173から取得する2方向の追尾誤差と、第1、第2、第3の角度センサ114,124,134により検出されるジンバル姿勢を表す3軸の角度検出値(θ1,θ2,θ3)とにより、移動体を追尾するようにジンバルを駆動する角速度指令値
を生成する。2方向画像から3軸ジンバルの各軸へ角速度を分配する手法の一つとして、特開2006−106910に開示がある。この例にならい一般形式で追尾誤差と角度に対する角速度指令値の関係式を表すと、次の式(4)のように表される。
により、天頂を回避する3軸冗長性を実現しつつ、各軸へ角速度を分配している。この他にも目的に応じて、拘束要素を変えることで実現できることは容易に類推することができる。
また、本実施形態では3軸ジンバルの場合について式を示したが、2軸ジンバルや3軸以上のジンバルに関しても同様に、次元を変えた式で表すことができる。なお、1軸の場合でも適用できる。
このようにして角速度指令生成部150で生成された各角速度センサに対応する角速度指令値と第1、第2、第3の角速度センサ113,123,133で検出された角速度検出値との差を0にするように駆動制御部160で制御指令値が計算され、この制御指令値に従いジンバル機構が移動体を追尾するように駆動される。ここで、ジンバル機構は、第1、第2、第3のジンバル111,121,131と第1、第2、第3の駆動部112,122,132を含む。
以上のように移動体画像追尾装置が作動することにより、視野外でも適切な追尾駆動をするための角速度指令を生成することが可能となる。
次に、カメラセンサ140が取得した画像の視野と移動体追尾について図4、図5を参照して説明する。
図4は、本実施形態にかかるカメラ画像の視野と移動体追尾の概要を示した図である。移動体がカメラ視野内で捉えている場合には、カメラ中心からのずれ量として追従誤差検出値(ΔX,ΔY)が得られる。追尾遅れが生じるため、この追尾誤差検出値はカメラ視野以上には許容でない。移動体の速度が上がった場合や、ジンバル特異姿勢回避のための急変化をしている場合には、カメラ視野外になる可能性がある。カメラ視野外となってしまった場合は、追尾不能となってしまう。
図4は、本実施形態にかかるカメラ画像の視野と移動体追尾の概要を示した図である。移動体がカメラ視野内で捉えている場合には、カメラ中心からのずれ量として追従誤差検出値(ΔX,ΔY)が得られる。追尾遅れが生じるため、この追尾誤差検出値はカメラ視野以上には許容でない。移動体の速度が上がった場合や、ジンバル特異姿勢回避のための急変化をしている場合には、カメラ視野外になる可能性がある。カメラ視野外となってしまった場合は、追尾不能となってしまう。
図5は、本実施形態にかかるカメラ視野外状態の概要を示した図である。移動体の追尾誤差が視野外になってしまった場合には、追尾誤差検出値は、更新が止まってしまう。図5ではX方向成分で視野外になった場合であり、この時、追尾誤差検出値は、ΔX_lastが視野上限値、ΔY_lastが視野外になる前の最終値で更新することができなくなってしまう。このような視野外の状態になると、そこから再び視野内に戻すことは難しい。従来技術では、最終追尾誤差検出値(ΔX_last,ΔY_last)を直線補間等したものから推定し、再び視野内に戻すための角速度指令を生成するような方法も考えられるが、推定精度は高くない。
追尾誤差補正部173の動作の一例について図6を参照して説明する。
追尾誤差検出部174から取得した追尾誤差検出値によって移動体がカメラ視野範囲内にいるかどうかを判定する(ステップS601)。移動体がカメラ視野範囲内にいると判定した場合には、追尾誤差推定部172から取得する追尾誤差推定値の振幅を追尾誤差検出値の振幅に合わせるようにゲインを調整する(ステップS602)。追尾誤差検出値を選択して、角速度指令生成部150に渡す(ステップS603)。一方、移動体がカメラ視野範囲内にいないと判定した場合には、追尾誤差推定部172から取得する追尾誤差推定値を選択して、角速度指令生成部150に渡す(ステップS604)。なお、ステップS604では、このステップが行われる以前に図6に示す動作を行って最後にステップS602で調整されたゲインを使用した追尾誤差推定値を選択する。これによって、追尾誤差検出値と追尾誤差推定値とを比較し、追尾誤差推定値の振幅をあわせるようゲインをかけることで、より高精度な誤差推定値を得ることが可能となる。
追尾誤差検出部174から取得した追尾誤差検出値によって移動体がカメラ視野範囲内にいるかどうかを判定する(ステップS601)。移動体がカメラ視野範囲内にいると判定した場合には、追尾誤差推定部172から取得する追尾誤差推定値の振幅を追尾誤差検出値の振幅に合わせるようにゲインを調整する(ステップS602)。追尾誤差検出値を選択して、角速度指令生成部150に渡す(ステップS603)。一方、移動体がカメラ視野範囲内にいないと判定した場合には、追尾誤差推定部172から取得する追尾誤差推定値を選択して、角速度指令生成部150に渡す(ステップS604)。なお、ステップS604では、このステップが行われる以前に図6に示す動作を行って最後にステップS602で調整されたゲインを使用した追尾誤差推定値を選択する。これによって、追尾誤差検出値と追尾誤差推定値とを比較し、追尾誤差推定値の振幅をあわせるようゲインをかけることで、より高精度な誤差推定値を得ることが可能となる。
次に、天頂の特異姿勢回避によりジンバルが瞬間的な高速運動をした場合に、本実施形態の移動体画像追尾装置による補正制御の適用有無によって、追尾誤差の変化の一例について図7、図8、図9を参照して説明する。
天頂を通過する場合、ジンバルは、正面から背面にAz軸を大きく回転させる動作が伴い、ジンバル駆動特性の限界から、移動体との追尾遅れが発生する可能性が高い。
天頂を通過する場合、ジンバルは、正面から背面にAz軸を大きく回転させる動作が伴い、ジンバル駆動特性の限界から、移動体との追尾遅れが発生する可能性が高い。
図7では、破線内がカメラ視野に対応する。図7左側の2図(補正を行わない場合)では、−0.2≦x≦0.2、−1.3≦yにほぼ対応する領域で、移動体がカメラ視野から大きく外れていることがわかる。一方、図7右側の2図(補正を行う場合)では、−0.2≒x、−1.3≦yにほぼ対応する領域で、移動体がカメラ視野から外れているが、補正を行わない場合と比較して、外れている部分はわずかで、移動体がすぐにカメラ視野に戻っていることがわかる。
図8は、図7のx成分とy成分をそれぞれ時間に対して図示したものである。図8の「カメラ追尾誤差」が図7の「カメラ視野像」に対応し、図8の「数式追尾誤差」が図7の「数式追尾誤差像」に対応している。図8の「カメラ追尾誤差(補正なし)」のY=−1.2、8.2≦Time≦8.4の位置くらいで曲線が飽和していることがわかる。この曲線部分は、図7で移動体がカメラ視野から大きく外れていることに対応している。一方、図8の「カメラ追尾誤差(補正あり)」では、飽和はほとんどみられない。これは図8の「カメラ追尾誤差(補正あり)」では、外れている部分はわずかで、移動体がすぐにカメラ視野に戻っているからである。
図9は、第1、第2、第3のジンバル111,121,131のそれぞれに対して、角速度指令生成部150から出力される角速度指令値を示したものである。図9で最も顕著な差は、第2のジンバル121の角速度目標値(EL)である。「Time」が8.3s位で「角速度目標(補正なし)」では値ELが−0.3位で一定しているのに対し、「角速度目標(補正あり)」では値ELが−0.3〜−0.5の間位で激しく動いている。これは、「角速度目標(補正あり)」では、第2のジンバル121が、補正なしの場合に較べて、移動体にいち早く追尾していることを示している。
以上によれば、推定による補正を行わない場合には、カメラ視野限界に達してしまい、ΔYは角度誤差上限値から更新されなくなり、このため角速度指令生成も更新されなくなってしまう。このため、適切なジンバル制御を行うことができず、追尾特性が悪い。従来の制御系では、カメラセンサの誤差検出値に基づいて角速度指令値を生成しているため、カメラ視野が追尾可能な移動体の速度に制限が生じてしまう。サンプリングした結果に従って、フィードバック制御を行う制御系であるため、必ず追尾遅れが生じてしまうためである。
一方、推定による補正を行う場合には、カメラ視野限界に達しても、その次のサンプリングでは推定により、視野外に対応した適切なジンバル角速度指令を生成が可能となる。これにより移動体との追尾誤差を小さくすることが可能であり、結果として再度カメラ視野内に移動体を収めることが可能となる。
一方、推定による補正を行う場合には、カメラ視野限界に達しても、その次のサンプリングでは推定により、視野外に対応した適切なジンバル角速度指令を生成が可能となる。これにより移動体との追尾誤差を小さくすることが可能であり、結果として再度カメラ視野内に移動体を収めることが可能となる。
以上の第1の実施形態によれば、補正制御を行うことで、視野外でカメラの追尾誤差検出値の更新が止まっていても、角度データに基づく追尾誤差推定により、移動体追尾の適切な角速度指令を生成することができ、追従特性を改善することが可能となる。
(第2の実施形態)
本実施形態の移動体画像追尾装置の補正制御系では、例えばカメラセンサのサンプリング時間に対してN分割間隔のクロックでカウントし、このN分割クロックで追尾誤差推定値を計算する。このクロックは、第1、第2、第3のジンバル111,121,131を動かすための駆動系のサンプリングを示す。なお、本実施形態の移動体画像追尾装置は、第1の実施形態と同様なブロック図で示されるが、動作が異なる。ただし、本実施形態の追尾誤差補正部173は、クロックをカウントするカウンタを含む。
本実施形態の移動体画像追尾装置の補正制御系では、例えばカメラセンサのサンプリング時間に対してN分割間隔のクロックでカウントし、このN分割クロックで追尾誤差推定値を計算する。このクロックは、第1、第2、第3のジンバル111,121,131を動かすための駆動系のサンプリングを示す。なお、本実施形態の移動体画像追尾装置は、第1の実施形態と同様なブロック図で示されるが、動作が異なる。ただし、本実施形態の追尾誤差補正部173は、クロックをカウントするカウンタを含む。
本実施形態の移動体画像追尾装置の追尾誤差補正部173の動作の一例について図10を参照して説明する。
まず、クロック数をカウントし、このカウント数がNであるかどうかを判定する(ステップS1001)。カウント数がNであると判定された場合には、追尾誤差補正部173は追尾誤差検出値をそのまま角速度指令生成部150に出力する(ステップS1002)。なお、カウント数がNである時はカメラセンサがサンプリングを行う時に対応する。次に、N分割クロックで計算されている追尾誤差推定値と追尾誤差検出値との比較を行い、ゲインを調整する(ステップS602)。この動作が完了した後、カウントをリセットする(ステップS1003)。
まず、クロック数をカウントし、このカウント数がNであるかどうかを判定する(ステップS1001)。カウント数がNであると判定された場合には、追尾誤差補正部173は追尾誤差検出値をそのまま角速度指令生成部150に出力する(ステップS1002)。なお、カウント数がNである時はカメラセンサがサンプリングを行う時に対応する。次に、N分割クロックで計算されている追尾誤差推定値と追尾誤差検出値との比較を行い、ゲインを調整する(ステップS602)。この動作が完了した後、カウントをリセットする(ステップS1003)。
一方、カウント数がNでないと判定された場合には、直前にステップS602で調整されているゲインを追尾誤差推定値に適用する(ステップS1004)。なお、カウント数がNでない時はカメラセンサがサンプリングを行わない時刻に対応する。換言すれば、サンプリングが行われる複数の時刻の間の時刻に対応する。その後、追尾誤差推定値を角速度指令生成部150に出力する(ステップS1005)。カウント数はリセットせず、増加させる(ステップS1006)。
つまりカメラセンサのサンプリング間(カメラセンサがサンプリングを行わない期間)では、調整されているゲインを適用して、追尾誤差推定値を角速度指令生成部150へ出力し、カウントを増加させる。これを繰り返すことで、カメラセンサのサンプリング間を推定値で補正した更新間隔の短い追尾誤差データで移動体追尾を行う角速度指令を生成することができ、追尾特性を改善することが可能となる。
以上のような実施形態の移動体画像追尾装置は、TVカメラやカメラシーカー、そして自動測量器等を搭載したジンバル構造の移動体のカメラ追尾を行う機器において、視野外での追尾誤差補正、カメラサンプリング間の補正が可能であり、移動体に搭載される追尾カメラシステムに有効である。
以上に示した実施形態によれば、カメラセンサの視野外になってしまい、追尾誤差検出値が視野限界で更新が停止してしまって適切なジンバル機構の角速度指令が生成できなくなってしまう場合でも、角度検出データに基づいて追尾誤差推定値を計算し、追尾誤差を補正することで、画像追尾を行うための適切な角速度指令を生成することが可能となり、追尾特性を改善することができる。
さらに、カメラセンサのサンプリング間を角度検出データに基づいて追尾誤差推定値により補正することで、画像追尾を行うための角速度指令の生成を高サンプリングで行うことが可能となり、追尾特性を改善することができる。
また、移動体の追尾誤差を角度検出手段による角度データを用いて推定し補正するため、新たにセンサを付与する必要がなく、装置のコストを増やすことなく、追尾特性を改善することができる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
110,120,130・・・ジンバル軸、111,121,131・・・ジンバル、112,122,132・・・駆動部、113,123,133・・・角速度センサ、114,124,134・・・角度センサ、140・・・カメラセンサ、150・・・角速度指令生成部、151,152,153・・・指令算出部、160・・・駆動制御部、161,162,163・・・サーボ制御部、171・・・微分信号処理部、172・・・追尾誤差推定部、173・・・追尾誤差補正部、174・・・追尾誤差検出部。
Claims (5)
- 1軸以上の軸を中心に回転する1以上の回転手段と、
前記回転手段を回転駆動する駆動手段と、
前記回転手段に支持され、移動体を撮影して画像データを取得する取得手段と、
前記画像データから、前記移動体の視野中心からのずれ量である追尾誤差を追尾誤差検出値として検出する第1検出手段と、
前記回転手段ごとに、前記回転手段の姿勢を示す角度を検出する第2検出手段と、
前記角度と前記角度の時間微分とを使用して、前記追尾誤差を追尾誤差推定値として推定する推定手段と、
前記移動体が前記画像の視野内である場合には前記追尾誤差検出値を選択し、前記移動体が前記画像の視野外である場合には前記追尾誤差推定値を選択する選択手段と、
前記角度と前記選択手段が選択した追尾誤差値とを使用して、前記移動体を追尾するように前記回転手段を駆動する角速度指令値を計算する計算手段と、
前記回転手段ごとに、前記回転手段の角速度を検出する第3検出手段と、
前記角速度指令値と前記角速度との差がなくなるように前記回転手段を制御する制御手段と、を具備することを特徴とする移動体画像追尾装置。 - 前記推定手段は、前記角度のデータを信号処理した角速度次元に変換された値を前記時間微分として使用し、前記追尾誤差と、前記回転手段ごとの角度と、前記回転手段ごとの角速度との関係から前記追尾誤差推定値を計算することを特徴とする請求項1に記載の移動体画像追尾装置。
- 前記選択手段は、前記追尾誤差検出値と前記追尾誤差推定値とを比較し、同一振幅となるように該追尾誤差推定値にゲインをかけることを特徴とする請求項1または請求項2に記載の移動体画像追尾装置。
- 前記計算手段は、前記取得手段が取得する画像の前記追尾誤差検出値が更新されない期間内は、前記追尾誤差推定値を使用して前記角速度指令を計算することを特徴とする請求項1から請求項4のいずれか1項に記載の移動体画像追尾装置。
- 前記計算手段は、前記追尾誤差値と、前記回転手段ごとの角度と、前記回転手段ごとの角速度との関係から前記角度指令値を計算することを特徴とする請求項1から請求項4のいずれか1項に記載の移動体画像追尾装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007288967A JP2009115621A (ja) | 2007-11-06 | 2007-11-06 | 移動体画像追尾装置 |
US12/265,017 US8243142B2 (en) | 2007-11-06 | 2008-11-05 | Mobile object image tracking apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007288967A JP2009115621A (ja) | 2007-11-06 | 2007-11-06 | 移動体画像追尾装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009115621A true JP2009115621A (ja) | 2009-05-28 |
Family
ID=40587696
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007288967A Pending JP2009115621A (ja) | 2007-11-06 | 2007-11-06 | 移動体画像追尾装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8243142B2 (ja) |
JP (1) | JP2009115621A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011171829A (ja) * | 2010-02-16 | 2011-09-01 | Toshiba Corp | 移動体画像追尾装置 |
JP2013198118A (ja) * | 2012-03-22 | 2013-09-30 | Toshiba Corp | 追尾装置 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL172995A (en) | 2006-01-05 | 2011-07-31 | Gadi Royz | Method and device for making a virtual film for use in browsing the site |
CN101571619A (zh) * | 2008-04-28 | 2009-11-04 | 深圳富泰宏精密工业有限公司 | 相机镜头调节装置及应用其的图像追踪系统 |
US8803055B2 (en) * | 2009-01-09 | 2014-08-12 | Automated Precision Inc. | Volumetric error compensation system with laser tracker and active target |
JP4810582B2 (ja) * | 2009-03-26 | 2011-11-09 | 株式会社東芝 | 移動体画像追尾装置および方法 |
CN102611832A (zh) * | 2011-01-19 | 2012-07-25 | 杭州弗林科技有限公司 | 新型自动跟踪高速球摄像机 |
JP5665677B2 (ja) * | 2011-07-12 | 2015-02-04 | 株式会社東芝 | 追尾装置 |
DE102012214526A1 (de) * | 2012-08-15 | 2014-02-20 | Rheinmetall Defence Electronics Gmbh | Verfahren zur Sichtlinienregelung eines elektrooptischen Sensorsystems; Zielverfolgungssystem mit Sichtlinienregelung |
CN109073140B (zh) | 2016-05-31 | 2021-05-07 | 深圳市大疆灵眸科技有限公司 | 用于自适应云台的方法和系统 |
WO2018023492A1 (zh) * | 2016-08-03 | 2018-02-08 | 深圳市大疆灵眸科技有限公司 | 一种云台控制方法及系统 |
CN113284490B (zh) * | 2021-04-23 | 2022-09-09 | 歌尔股份有限公司 | 电子设备的控制方法、装置、设备及可读存储介质 |
CN114153108A (zh) * | 2021-10-22 | 2022-03-08 | 中国科学院自动化研究所 | 全向单目视觉装置、全向双目视觉装置及跟踪方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001116985A (ja) | 1999-10-21 | 2001-04-27 | Canon Inc | 被写体認識機能を有するカメラおよび被写体認識方法 |
JP4672175B2 (ja) * | 2000-05-26 | 2011-04-20 | 本田技研工業株式会社 | 位置検出装置、位置検出方法、及び位置検出プログラム |
US6909790B2 (en) * | 2002-02-15 | 2005-06-21 | Inventec Corporation | System and method of monitoring moving objects |
JP4007899B2 (ja) * | 2002-11-07 | 2007-11-14 | オリンパス株式会社 | 運動検出装置 |
JP2004286699A (ja) | 2003-03-25 | 2004-10-14 | Victor Co Of Japan Ltd | 画像位置検出方法及び画像位置検出装置 |
JP4231320B2 (ja) * | 2003-03-31 | 2009-02-25 | 本田技研工業株式会社 | 移動体の検出装置 |
JP2006106910A (ja) | 2004-09-30 | 2006-04-20 | Toshiba Corp | ジンバル装置 |
US7965868B2 (en) * | 2006-07-20 | 2011-06-21 | Lawrence Livermore National Security, Llc | System and method for bullet tracking and shooter localization |
ATE458231T1 (de) * | 2007-07-08 | 2010-03-15 | Univ Liege | Extraktor für visuellen hintergrund |
-
2007
- 2007-11-06 JP JP2007288967A patent/JP2009115621A/ja active Pending
-
2008
- 2008-11-05 US US12/265,017 patent/US8243142B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011171829A (ja) * | 2010-02-16 | 2011-09-01 | Toshiba Corp | 移動体画像追尾装置 |
JP2013198118A (ja) * | 2012-03-22 | 2013-09-30 | Toshiba Corp | 追尾装置 |
Also Published As
Publication number | Publication date |
---|---|
US8243142B2 (en) | 2012-08-14 |
US20090115850A1 (en) | 2009-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2009115621A (ja) | 移動体画像追尾装置 | |
JP5459678B2 (ja) | 移動体画像追尾装置 | |
JP5010634B2 (ja) | 移動体画像追尾装置 | |
JP4982407B2 (ja) | 移動体画像追尾装置及び方法 | |
JP4810582B2 (ja) | 移動体画像追尾装置および方法 | |
US8666661B2 (en) | Video navigation | |
US20080195316A1 (en) | System and method for motion estimation using vision sensors | |
CN106814753B (zh) | 一种目标位置矫正方法、装置及系统 | |
KR101950359B1 (ko) | 하이브리드 모션캡쳐 시스템의 위치 추정 방법 | |
US20180075609A1 (en) | Method of Estimating Relative Motion Using a Visual-Inertial Sensor | |
JP2006126148A (ja) | 方位姿勢検出装置 | |
CN109782810B (zh) | 基于图像引导的视频卫星运动目标跟踪成像方法及其装置 | |
CN105324792B (zh) | 用于估计移动元件相对于参考方向的角偏差的方法 | |
KR101560578B1 (ko) | 영상 처리를 이용한 김발장치의 지향오차 제어 장치 및 방법 | |
JP4775296B2 (ja) | 撮像空間安定化装置及び被写体追尾装置 | |
JP2009260564A (ja) | 移動体画像追尾装置 | |
JP6394002B2 (ja) | 追尾制御装置および追尾制御方法 | |
JP5888115B2 (ja) | 追尾装置および追尾方法 | |
JP6249864B2 (ja) | 飛翔体の慣性航法システム | |
EP3244228A1 (en) | Collaborative control device and collaborative control method | |
JP5197647B2 (ja) | 移動体画像追尾装置 | |
JP3919911B2 (ja) | 方位姿勢基準装置 | |
JP2009033342A (ja) | 追尾装置 | |
Zhang et al. | Sensor-Fusion-Based Trajectory Reconstruction for Quadrotor Drones | |
Unterholzner et al. | Vision-based online-calibration of inertial gaze stabilization |