[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7207875B2 - ビデオ画像の背景クラッタの抑制 - Google Patents

ビデオ画像の背景クラッタの抑制 Download PDF

Info

Publication number
JP7207875B2
JP7207875B2 JP2018120680A JP2018120680A JP7207875B2 JP 7207875 B2 JP7207875 B2 JP 7207875B2 JP 2018120680 A JP2018120680 A JP 2018120680A JP 2018120680 A JP2018120680 A JP 2018120680A JP 7207875 B2 JP7207875 B2 JP 7207875B2
Authority
JP
Japan
Prior art keywords
image
clutter
current image
iir
clutter suppression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018120680A
Other languages
English (en)
Other versions
JP2019024198A (ja
Inventor
スコット・エム・ピーターソン
デニス・ジェイ・イェルトン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boeing Co
Original Assignee
Boeing Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boeing Co filed Critical Boeing Co
Publication of JP2019024198A publication Critical patent/JP2019024198A/ja
Application granted granted Critical
Publication of JP7207875B2 publication Critical patent/JP7207875B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Picture Signal Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

本開示は一般的に撮像及び追跡に係り、特にビデオ画像(動画)の背景クラッタ(雑音)の抑制に関する。
撮像及び追跡システムは典型的には物体を特定及び追跡するセンサを含む。例えば、レーダーシステム等の一部センサは信号を送信し、その信号は物体から反射してシステムによって受信される。電気光学センサ等の他のセンサは、物体自体から電磁放射信号を受信する。この分野における改善は、センサがより正確になるように改良することを目的としてきた。
具体的には、電気光学センサは典型的には望遠鏡と、赤外(IR,infrared)放射を検出する焦点面アレイとを用いる。クラッタのある環境における自動光学検出用の多くの手法は、シグネチャ増強と、形状マッチングと、動き検出との組み合わせに依存している。こうした手法は、所与の条件及び状況において示される関心物体と背景との間の差異を利用しようとするものである。例えば、地球大気背景と物体との間の大きな温度差は、連続的な検出器出力アレイに対する適応閾値化を可能にして、一貫した超過量を生じさせ、その超過量を高確率目標検出と相関させることができる。検出及び誤警報率の確率に対する要求は、センサハードウェア、プロセッサアーキテクチャ、データ分析アルゴリズムと性能的に引き換えになる。
宇宙から地上を偵察する場合、特定のIR帯域を用いて、背景応答を抑制しながら、既知の目標シグネチャ応答の最適マッチングを行う。場合によっては、複数の帯域を用いて、それらの間の応答の差を利用することで、多重チャネルデータセットを生成して、それらから、関心物体を望ましくない背景クラッタと区別する。
地球低軌道領域において小型(未分解)でぼんやりした(背景限界)の対象を探すコスト効率的な偵察システムでは、目標信号積分と最大背景放射輝度レベルと任務タイムラインとによって決定されるフレームレートにおいて途切れずにスキャン処理を行うことが要求される。要求は、一般的に、見通し線(視線)(LOS,line of sight)レート及び投影画素サイズによるものか、又は地上サンプル距離(GSD,ground sample distance)によるものである。こうした種類のシステムに関する検出を制限する影響として、静的な(雑音の)視野パターン、固定パターンノイズ(FPN,fixed pattern noise)、経時的ノイズ(例えば、熱的、光子ショット、デジタル読み出し等)、IRセンサの検出器画素の不完全性(動作不能な画素)が挙げられ、目標シグネチャと競合する局所的な背景クラッタ構造は抑制される。
既存の手法では、FPNを除去するのに、較正ステップを要し、そのステップでは、現在のパターンが推定される。これは通常、入力無しでの「ダークフレーム」を発生させることを含み、FPN成分のみが存在しているフレームを生成する。FPNパターンは、検出処理間隔よりも大きな時間スケールでドリフトし得るので、周期的なFPN較正が必要とされる。宇宙関連応用では、センサのLOSを空っぽな宇宙に向けて、フレームセットを収集し、次いで平均化して現在のFPNの推定とすることによって、ダークフレームを発生させることができる。このプロセスは、タイムラインの連続性及びリソース操作に影響する。
検出器の経時的ノイズについては、ノイズを平均化する一方で比較的一定な目標シグネチャを増強するフレーム積分を用いて対処することが多い。効果的なフレーム積分は、一定な背景パターン同士を相関させる登録プロセスを要する。登録プロセスは、画像フレームの相互相関に基づいたものとなるか、又はナビゲーションユニットデータによるものとなり得る。積分間隔(つまりは、フレームの追加数)は、その期間にわたる目標の動きが、シグネチャが蓄積可能な登録画素内に保たれるように設定される。その結果として、目標プラス背景の画像フレームにおいて画素ノイズが減る。
次いで、目標シグネチャを背景パターンから分離しなければならない。背景は、目標が存在しない同じ登録済みの積分フレームに現れているので、この分離は、背景の局所的推定の減算によって行われる。実際的には、目標が異なる画素へと僅かにその位置をずらした僅かに異なる時点において、第二の積分フレームを発生させる。そうすると、差分フレームが、移動している物体の存在を、残留背景クラッタによって囲まれた同じ位置の二重パルスとして示す。
検出性能にとって重要なのは、検出及び誤警報率の要求に対して適切な信号対ノイズ比(SNR,signal‐to‐noise ratio)を生じさせる程度に残留クラッタを抑制することである。
本開示の例示的な実施形態は、ビデオ画像において前景目標に対して背景クラッタを抑制するための改良された装置、方法、及びコンピュータ可読記憶媒体を対象としている。例示的な実施形態は、静的構造デコンボリューションを、無限インパルス応答(IIR,infinite impulse response)フレーム積分と動作不能画素抑制と組み合わせて用いて、クラッタ中のぼんやりとした目標の検出に対する解決策を提供する。一部例の第一ステージでは、周期的なダークフレーム較正の必要性を無くす継続的プロセスとして、非常に高い精度でFPNを推定し除去する。IIR積分は、動き検出差分用の偵察場面の画素ノイズ抑制済み推定を生じさせる。システム統合中に検出器アレイから測定された一定な不良画素マップ(BPM,bad pixel map)に基づいた重み付け平均化法を用いて、動作不能な画素が推定プロセスから除去される。
本開示の例示的な実施形態は、既存の方法よりも良好にクラッタ画像のFPN除去を行う。同様に、動きを補償したIIRフィルタリングは、従来の方法と比較してフレーム積分中にはるかに少ないメモリを使用し、画像の背景(クラッタ)、前景(目標)、及びFPN成分の分離を個別に目的とする異なる積分時定数に対して、並列で動作することを可能にする。他の手法は、より多くのメモリを用い、目標、背景、及びFPNの分離を向上させるために時定数を異ならせることを用いない。更に、外部較正を必要とする不均一性補正(NUC,non-uniformity correction)に頼るのではなくて、統計プロセスを形態フィルタリングと組み合わせて用いて、個々の不良画素を画像から特定し除去する。IRカメラの場合、較正は時間と共にドリフトするので、繰り返しの較正が必要とされる。例示的な実施形態は自動較正であって、外部較正の必要性を回避する。
本開示は、以下の例示的な実施形態を含むが、これらに限定されるものではない。
一部の例示的実施形態は、ビデオ画像における前景対象に対して背景クラッタを抑制する方法を提供し、本方法は、移動プラットフォームに搭載されたカメラからビデオ画像(そのビデオ画像は前景目標及び背景クラッタを含む場面のものであって、前景目標が背景クラッタに対して移動している)を受信することと、ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することとを含み、その背景クラッタ抑制プロセスは、各画像について、その各画像が連続画像の現在画像である際に、カメラに関連する固定パターンノイズを除去するようにビデオ画像の現在画像を処理することと、連続画像の参照画像における場面の固定ジオロケーション又は既知のクラッタパターンに現在画像を空間的に再登録することと、その後、現在画像の独立したコピーを、異なる時定数を有する二つの無限インパルス応答(IIR)フィルタにかけて、互いに関して時間遅延されているフィルタリング済み画像を生成することと、背景クラッタを抑制するようにフィルタリング済み画像を差分処理することによって、背景クラッタが前景目標に対して抑制されている現在画像のクラッタ抑制済み版を生成することとを含み、また、本方法は、連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングすることを含む。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、現在画像を処理することは、現在画像から除去される固定パターンノイズを決定することを含み、固定パターンノイズを決定することは、最大で現在画像までであって現在画像を含む複数の連続画像をIIRローパスフィルタにかけて、背景クラッタが局所的平均値に平滑化されていて固定パターンノイズが変更されていないIIRフィルタリング済み画像(そのIIRフィルタリング済み画像は、現在画像のIIRフィルタリング済み版を含む)を生成することと、空間コンボリューション演算を用いて、IIRフィルタリング済み画像及び現在画像から局所的平均値を除去することと、現在画像のIIRフィルタリング済み版からDC成分を除去して、現在画像のDC除去済みでIIRフィルタリング済み版を生成することと、IIRフィルタリング済み画像及び現在画像を除去された局所的平均値と組み合わせることによって、倍率を求めることと、倍率を用いて、現在画像のDC除去済みでIIRフィルタリング済み版を正規化して、現在画像における固定パターンノイズに少なくとも部分的に整合する固定パターンノイズの不偏推定を求めることとを含む。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、現在画像を処理することは、現在画像からの固定パターンノイズの画素単位減算を行うことによって、固定パターンノイズが低減し又は存在せず前景目標及び背景クラッタを含む処理済み画像を生成することを含む。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、クラッタ抑制プロセスは、現在画像に不良画素マップを適用して、その中の不良画素からの無効画像データを除去することを更に含み、不良画素マップは、現在画像の独立したコピーを二つのIIRフィルタにかける際に、適用される。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、連続画像は規則的な間隔でクラッタ抑制プロセスにかけられ、その各々について、本方法は、場面の特定のジオロケーションでクラッタ抑制プロセスを始動させることによって、現在画像が空間的に再登録される参照画像及び固定ジオロケーション又は既知のクラッタパターンを定めることを更に備える。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、前記クラッタ抑制プロセスは、同一のプロセスであるが異なる時点において交互に始動される二つの並列なクラッタ抑制プロセスの一方であり、連続画像をクラッタ抑制プロセスにかけることは、連続画像を二つのクラッタ抑制プロセスの各々に別々に独立してかけることを含み、本方法は、二つのクラッタ抑制プロセスの間で交互に切り替えることによって導出場面のビデオ画像を構築することを更に備える。
以上の又は以下のいずれかの例示的実施形態又はこれらの組み合わせにおける方法の一部の例示的実施形態では、連続画像は、二つのクラッタ抑制プロセスそれぞれにビデオ画像のフレーム数の分数の分だけずれている規則的な間隔においてかけられ、二つのクラッタ抑制プロセスのいずれかが始動する際に、連続画像のクラッタ抑制済み版を構築することは、二つのIIRフィルタが定常状態に達している二つのクラッタ抑制プロセスの他方に切り替わる。
一部の例示的実施形態は、ビデオ画像において前景目標に対して背景クラッタを抑制するための装置を提供し、本装置は、複数の動作を装置に行わせるように構成されたプロセッサを備え、装置は、以上のいずれかの例示的実施形態又はこれらの組み合わせの方法を少なくとも行うようにされる。
一部の例示的実施形態は、ビデオ画像において前景目標に対して背景クラッタを抑制するためのコンピュータ可読記憶媒体を提供し、本コンピュータ可読記憶媒体は非一時的であり、それに記憶されているコンピュータ可読プログラムコード部を有し、そのコンピュータ可読プログラムコード部は、プロセッサによる実行に応答して、以上のいずれかの例示的実施形態又はこれらの組み合わせの方法を少なくとも装置に行わせる。
本開示の上記及び他の特徴、態様及び利点は、以下簡単に説明する添付図面と共に以下の詳細な説明を読むことで明らかとなるものである。本開示は、本開示に与えられている二つ、三つ、四つ又はそれ以上の特徴や要素のあらゆる組み合わせを、そのような特徴や要素が本願に記載の具体的な例示的実施形態において明示的に組み合わせられているか又は記載されているかにかかわりなく、含むものである。本開示は、本開示の個別の特徴や素子が、そのいずれの態様や例示的な実施形態においても、特に断らない限り、組み合わせ可能であるとみなされるように総合的に読まれるものである。
従って、本概要は、一部の例示的実施形態をまとめて、本開示の一部態様の基本的な理解を与えることを単に目的として与えられていることを理解されたい。よって、上記例示的な実施形態は、単に例であって、本開示の範囲や要旨をいかようにも狭めるものとして解釈されるものではないことを理解されたい。他の例示的な実施形態、態様及び利点は、添付図面と共に以下の詳細な説明から明らかとなるものであり、添付図面は、記載されている一部の例示的実施形態の原理を例として示すものである。
本開示の例示的な実施形態を一般的な表現で説明してきたが、以下では、必ずしも縮尺通りではない添付図面を参照する。
本開示の例示的実施形態に係るクラッタ抑制システムを概略的に示す。 一部の例示的実施形態に係るクラッタ抑制プロセスの機能ブロック図である。 同一ではあるが異なる時点において交互に始動される二つの並列なクラッタ抑制プロセスを含む更なる例示的実施形態の機能ブロック図である。 一部の例示的実施形態に係る図3の二つのクラッタ抑制プロセス間のタイミングを示す。 一部の例示的実施形態に係るビデオ画像における前景目標に対して背景クラッタを抑制する方法の多様な動作を含むフローチャートを示す。 一部の例示的実施形態に係る計算装置に対応し得る装置を示す。
以下、本開示の一部実施形態を添付図面を参照してより完全に説明するが、図面には、本開示の全部ではなくて一部の実施形態が示されている。実際には、本開示の多様な実施形態は多様な形態で実施可能であり、本願に与えられている実施形態に限定して解釈されるものではなく、むしろ、これら例示的な実施形態は、本開示を完全で完璧とし、本開示の範囲を当業者に完全に伝えるように与えられているものである。例えば、特に断らない限り、何かを第一、第二等で言及する場合、これは特定の順序を示唆するものとして解釈されるものではない。また、例えば、本願では、定量的な尺度、値、関係性等について言及し得るが、特に断らない限り、それらのうち全部ではないにしろ、一つ以上は、絶対的なものであるか、又は、工学的許容誤差等に起因して生じ得る許容可能な変動を踏まえた近似的なものであり得る。更に、一部例で行われるステップ、動作、機能は任意選択的なものであって、他の例では省略され得ることを理解されたい。全体にわたって、同様の番号は同様の要素を指称する。
本開示の例示的実施形態は、撮像及び追跡を対象としており、特に、ビデオ画像のクラッタを抑制することによって、クラッタによって曖昧にされて非常にぼんやりとした又は検出が難しい目標の検出を可能にすることを対象としている。例示的実施形態は自動較正であることによって、カメラの外部較正の必要性を回避する。このことは、宇宙関連偵察応用等の一部応用において、カメラ較正に費やされる時間とリソースを多大に節約することに繋がり得る。更に、例示的実施形態は、他の移動目標指標(MTI,moving target indicator)法よりもはるかに少ないメモリを要する計算手法を利用し、既存の宇宙適格のハードウェア上で実施可能である。このメモリ利用の利点は、宇宙関連応用におけるサイズ、重量及び電力(SWaP,size weight and power)の多大な節約をもたらし得る。
図1は、本開示の例示的実施形態に係るクラッタ抑制システム100を概略的に示す。図示されるように、一部例では、クラッタ抑制システムは、焦点面アレイ(FPA,focal plane array)102等の画像検出デバイスを含み、その画像検出デバイスは可動プラットフォーム104に固定して取り付けられる。適切な可動プラットフォームの例として、地上車両(ランドビークル)、鉄道車両、航空機(エアビークル)、宇宙船、船舶等のビークル(搬送体)が挙げられる。適切な可動プラットフォームの他の例として、人工衛星、ミサイル、アドバンストキラービークル(次期迎撃物体)等が挙げられる。
一部例では、FPA102はカメラ106や他の光学センサの部品であり、カメラ106は一組の光学系108も含む。例えば、一組の光学系は、望遠鏡の一部であり、一つ以上のレンズ、反射体等を含み得る。FPAは、一組の光学系を介して集束される赤外線又は他の波長を検出し、焦点面アレイのデータ、又はそれを示すより具体的なビデオ画像を生成するように構成された検出器の物理的アレイを含み得る。例えば、焦点面アレイの検出器は、長波帯域検出器及び/又は短波帯域検出器を含み得るが、他の種類の検出器、例えば可視検出器等も使用可能である。
また、図示されるように、一部例では、クラッタ抑制システム100は、計算装置110を含み、その計算装置110は、カメラ106と通信して、一般的には、カメラからのビデオ画像において前景目標に対して背景クラッタを抑制するように構成される。計算装置は、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成し、その導出場面のビデオ画像を目標検出プロセッサ112による受信、ディスプレイ114による表示、及び/又は不揮発性メモリ116への記憶等のためにレンダリングし得るが、これら112、114、116のうち一つ以上は、計算装置に集積されるか、又は計算装置とは別々であり得る。計算装置は、プロセッサ118等の一種以上の部品をそれぞれ一つ以上含み、その適切な例の一つはフィールドプログラマブルゲートアレイ(FPGA,field programmable gate array)である。多様な例示的実施形態に係る適切な計算装置については以下でより詳細に説明する。
本開示の例示的な実施形態によると、プロセッサ118は、計算装置110(場合によっては、より単純に「装置」と称する)に複数の演算を実行させるように構成される。これに関し、装置は、可動(又は移動)プラットフォーム104に搭載されたカメラ106からビデオ画像を受信するようにされる。ビデオ画像は、前景目標及び背景クラッタを含む場面のものであり、前景目標は背景クラッタに対して移動している。装置は、ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成するようにされる。また、装置は、連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングするようにされる。
図2は、本開示の一部の例示的実施形態に係るクラッタ抑制プロセス200の機能ブロック図である。一部例では、カメラ106は、前景目標と背景クラッタ(前景は背景に対して移動している)と望ましくない固定パターンノイズ(FPN)とを含むモーションスキャン場面の既知の一定のフレームレートでの画像のフレームを発生させるように構成され、そのFPNは、画像フレームに対して固定された一定の幾何学的強度パターンで構成される。例示的な実施形態によると、クラッタ抑制プロセスは、各画像について、その画像が連続画像のうちの現在画像である際に、装置110にビデオ画像の現在画像202を処理されて、カメラに関するFPN204を除去することを少なくとも行わせる。これは、装置に、現在画像からFPNの画素単位減算206を行わせることによって、FPN無しで前景目標及び背景クラッタを含む処理済み画像を生成させることを含み得る。
また、図示されるように、クラッタ抑制プロセス200は、装置110に、連続画像の参照画像の場面の固定ジオロケーション(地理位置情報)又は既知のクラッタパターンに対して現在画像を空間的に再登録208させることを含み、その既知のクラッタパターンは、一部例では、固定ジオロケーションに対応する地形である。一部例では、連続画像は規則的な間隔でクラッタ抑制プロセスにかけられ、各間隔において、更に、装置110に場面の特定のジオロケーションでクラッタ抑制プロセス200を始動させることによって、現在画像が空間的に再登録208される固定ジオロケーション又は既知のクラッタパターンにおける参照画像を定める。クラッタ抑制プロセスが始動される(又は再始動される)時点における慣性系に対する線形シフト内挿によって、現在画像(FPN除去済み画像)が再登録され得る。このシフト登録プロセスは、可動プラットフォーム104からのガイダンス情報と画像相関との組み合わせを用いて行われ得て、未分解の前景目標の空間的完全性を維持するのに必要な正確なサブ画素登録を達成し得る。
空間的再登録208の後で、クラッタ抑制プロセス200は、現在画像の独立したコピーを、異なる時定数τ、τを有する二つの無限インパルス応答(IIR)フィルタ210a、210bにかけて、互いに関して時間遅延されたフィルタリング済み画像を生成することを装置110にやらせることを含む。このようにして、現在画像の独立したコピー同士の間の背景クラッタがほぼ同一になる一方で、前景目標の位置はコピー同士の間で僅かに位置的にずらされる。一部例では、クラッタ抑制プロセスは、不良画素マップ(BPM)212を現在画像に適用して、そのうちの不良画素からの無効画像データを除去することを装置110にやらせることを更に含む。こうした例では、BPMは、現在画像の独立したコピーが二つのIIRフィルタにかけられる際に、適用される。装置は、更に、フィルタリング済み画像を差分処理214して、背景クラッタを低減することによって、背景クラッタが前景目標に対して抑制されているという現在画像のクラッタ抑制済み版216を生成するようにされる。一部例では、二つのIIRフィルタリング済み画像を画素単位で差分処理することによって、背景クラッタを減算する一方で、位置がシフトしている前景目標はそのまま変更されない。
一部例では、装置110に現在画像202を処理させてFPN204を除去することは、現在画像から除去されるFPNを決定させることを含む。より具体的には、一部例では、装置にFPNを決定させることは、複数の連続画像(最大で現在画像までで、現在画像を含む)をIIRローパスフィルタにかけて、背景クラッタが局所的な平均値に平滑化されている一方でFPNが変更されていないというIIRフィルタリング済み画像を生成させることを含む。IIRフィルタリング済み画像は、現在画像のIIRフィルタリング済み版を含む。
上記例では、FPNの決定は、空間コンボリューション演算を用いて、IIRフィルタリング済み画像と現在画像から局所的平均値を除去させることを装置110にさせることも含む。更に、装置に、現在画像のIIRフィルタリング済み版からDC(直流)成分を除去させて、現在画像のDC除去済みでIIRフィルタリング済み版を生成させる。一部例では、空間コンボリューションは、FPNの既知の幾何学的構造に応じて選択されたコンボリューションカーネルを利用する。装置は、IIRフィルタリング済み画像及び現在画像を除去された局所的平均値と組み合わせることによって、倍率を求めるようにされる。装置は、その倍率を用いて、現在画像のDC除去済みでIIRフィルタリング済み版を正規化して、現在画像のFPNに少なくとも部分的に(最良でないとしても)整合する(最小二乗法的な意味合いにおいて)FPNの不偏推定を与える。
現在画像は、IIRフィルタ実現の過程にわたって単一の静的なジオロケーションに再登録208されるので、クラッタ抑制プロセス200は限られた有効持続時間を有し得る。一部の更なる例では、プラットフォーム104の移動を踏まえるため、クラッタ抑制プロセス200は、同一のプロセスではあるが異なる時点において交互に始動される二つの並列クラッタ抑制プロセスのうち一方となる。これが図3に示されていて、例示的実施形態300は並列クラッタ抑制プロセス200a、200bを含む。こうした更なる例では、連続画像をクラッタ抑制プロセスにかけることを装置110にさせることは、連続画像を二つのクラッタ抑制プロセスの各々に別々に独立してかけさせることを含む。また、こうした例では、プロセッサ118は、二つのクラッタ抑制プロセスの間で交互に切り替える302ことによって導出場面のビデオ画像を構築することを装置にさせるように更に構成される。
更なる一部例では、連続画像をビデオ画像のフレーム数の規則的な間隔において二つのクラッタ抑制プロセス200a、200bにそれぞれかけるが、それらの規則的な間隔はフレーム数の分数の分だけずれ(オフセット)を有する。こうした更なる例では、二つのクラッタ抑制プロセスのいずれかが始動304する際に、装置110に連続画像のクラッタ抑制済み版を構築させることは、二つのIIRフィルタ210a、210bが定常状態に達している二つのクラッタ抑制プロセスの他方への切り替え(スイッチ)302を含む。
図3では、上記交互の切り替えが、逆位相タイミングフラッグ306によって示されていて、その逆位相タイミングフラッグ306はフレーム番号でトリガされ、二つのクラッタ抑制プロセス200a、200bのうち一方が再始動するようにし、逆に、二つのクラッタ抑制プロセスのうち他方(定常状態のIIRフィルタを有する)がレンダリング用に連続画像のクラッタ抑制済み版を出力するようにする。一部例では、二つのクラッタ抑制プロセスの各々はNフレーム(例えば、N=150)の持続時間を有する。二つのプロセスの各々はNフレーム後に再始動するが、逆位相タイミングフラッグが、プロセススイッチングによって、Nの分数(例えば、N/2)の後に二つのプロセスのうち一方をクリアして再始動させる。このようにして、出力用に切り替えられる二つのプロセスのうち一方が、現在場面のレンダリング用に定常状態のIIR動作を既に達成しているようになる。
上記例示的実施形態を更に示すため、図4は、一部例に係る二つのクラッタ抑制プロセス間のタイミングを示し、一方のプロセスは再始動してIIRフィルタを定常状態(有効)に構築し、他方は定常状態(有効)に達していて、レンダリング用にクラッタ抑制済み版を出力し、両画像は移動(可動)プラットフォーム104上のカメラ106から受信される。
図5は、本開示の一部の例示的実施形態に係るビデオ画像において前景目標に対して背景クラッタを抑制する方法500の多様な動作を含むフローチャートを示す。ブロック502に示されるように、本方法は、移動プラットフォーム104に搭載されたカメラ106からビデオ画像を受信することを含む。ビデオ画像は前景目標及び背景クラッタを含む場面のものであって、前景目標が背景クラッタに対して移動している。504に示されるように、本方法は、ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することを含む。ブロック506に示されるように、本方法は、連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングすることを含む。
クラッタ抑制プロセスは、504において、各画像について、その画像が連続画像のうちの現在画像である際に、ブロック508に示されるように、カメラに関連する固定パターンノイズを除去するようにビデオ画像の現在画像を処理することを含む。本プロセスは、ブロック510に示されるように、連続画像のうち参照画像における場面の固定ジオロケーション又は既知のクラッタパターン(例えば、その場面の固定ジオロケーションに対応する地形)に現在画像を空間的に再登録することを含む。その後、本プロセスは、ブロック512に示されるように、現在画像の独立したコピーを、異なる時定数を有する無限インパルス応答(IIR)フィルタにかけて、互いに関して時間遅延されているフィルタリング済み画像を生成することを含む。本プロセスは、ブロック514に示されるように、フィルタリング済み画像を差分処理して、背景クラッタを低減することによって、背景クラッタが前景目標に対して抑制されている現在画像のクラッタ抑制済み版を生成することを含む。
上述のように、計算装置110は、プロセッサ118等の一種以上の部品をそれぞれ一つ以上含み、その適切な例の一つはFPGAである。一部例では、大抵の画像処理については、多数の画像処理演算を高速で効率的に行うことができる性能のため、FPGAを用いてプロセッサが実施される。この種のハードウェア実施は、高速ビデオ画像における実時間クラッタ抑制に非常に適しているが、これが唯一可能なハードウェア実施ではない。実際には、計算装置は多様は手段(ハードウェア単独で、コンピュータ可読記憶媒介からの一つ以上のコンピュータプログラムの指示の下等)によって実施可能である。一部の例示的実施形態では、計算装置はグラフィックス処理ユニット(GPU,graphics processing unit)を含んでそれを最大限に活用するが、GPUは、多数の座標変換を並列で処理するように設計されているので、当然に適合するものである。
一部例では、一つ以上の装置が、本願に図示され説明されている計算装置110として機能するように又は計算装置110を実現するように構成されて設けられる。複数の装置を含む例では、各装置は、多様な方法で、例えば、直接的に、若しくは有線又は無線ネットワークを介して間接的に互いに接続され、又は互いに通信し得る。
図6は、装置600をより具体的に示すが、その装置600は一部例では計算装置110に対応し得る。一般的に、本開示の例示的実施形態の装置は、一つ以上の固定又は携帯電子デバイスを備え、含む、又はそうした電子デバイスにおいて実現され得る。適切な電子デバイスの例として、スマートフォン、タブレットコンピュータ、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーションコンピュータ、サーバコンピュータ等が挙げられる。本装置は、複数種の部品、例えば、メモリ604(例えば、記憶デバイス)に接続されたプロセッサ602(例えば、プロセッサ118)をそれぞれ一つ以上含み得る。
プロセッサ602とは一般的に、情報、例えば、データ、コンピュータプログラム、及び/又は他の適切な電子情報を処理することができるコンピュータハードウェアの部分である。プロセッサは、一組の電子回路で構成され、それら電子回路の一部は一つの集積回路として、又は複数の相互接続集積回路としてパッケージングされ得る(集積回路は、場合によってはより一般的に「チップ」と称される)。プロセッサは、コンピュータプログラムを実行するように構成され得て、そのコンピュータプログラムは、プロセッサに記憶されているか、又は(同じ装置又は他の装置の)メモリ604に記憶され得る。
プロセッサ602は、具体的な実施形態に応じて、複数のプロセッサ、多重プロセッサコア、他の種類のプロセッサとなり得る。更に、プロセッサは、複数の異種プロセッサシステム(メインプロセッサが一つ以上の二次プロセッサと共に単一チップ上に存在している)を用いて実施可能である。他の例示的な例では、プロセッサは、同じ種類の複数プロセッサを含む対称多重プロセッサシステムであり得る。更に他の例では、プロセッサは、一つ以上の特定用途集積回路(ASIC,application‐specific integrated circuit)、FPGA等として具現され、又はこれらを含み得る。従って、プロセッサは、コンピュータプログラムを実行して、一つ以上の機能を行うことができるものであるが、多様な例のプロセッサは、コンピュータプログラムの助けを借りずに一つ以上の機能を行うことができ得るものである。
メモリ604は、一般的には、情報、例えば、データ、コンピュータプログラム(例えば、コンピュータ可読プログラムコード606)及び/又は他の適切な情報を一時的に及び/又は永続的に記憶することができるコンピュータハードウェアの部品である。メモリは、揮発性メモリ及び/又は不揮発性メモリを含み得て、固定されたもの又は取り外し可能なものであり得る。適切なメモリの例として、ランダムアクセスメモリ(random access memory,RAM)、リードオンリメモリ(ROM,read‐only memory)、ハードドライブ、フラッシュメモリ、サムドライブ、リムーバブルコンピュータディスケット、光学ディスク、磁気テープ、又はこれらの組み合わせが挙げられる。光学ディスクとして、コンパクトディスク‐リードオンリメモリ(CD‐ROM,compact disk‐read only memory)、コンパクトディスク‐リード/ライト(CD‐R/W,compact disk‐read/write)、DVD等が挙げられる。多様な場合において、メモリはコンピュータ可読記憶媒体と称され得る。コンピュータ可読記憶媒体は、情報を記憶することができる非一時的デバイスであり、情報を或る箇所から他の箇所を運ぶことができる電子的な一時的信号等のコンピュータ可読送信媒体とは区別される。本願におけるコンピュータ可読媒体は、広くコンピュータ可読記憶媒体やコンピュータ可読送信媒体を称し得る。
メモリに加えて、プロセッサは、情報の表示や送受信用の一つ以上のインターフェースにも接続され得る。インターフェースは、通信インターフェース608(例えば、通信ユニット)及び/又は一つ以上のユーザインターフェースを含み得る。通信インターフェースは、他の装置やネットワーク等に対して情報を送受信するように構成され得る。通信インターフェースは、物理的に(有線)及び/又は無線通信リンクによって情報を送受信するように構成され得る。適切な通信インターフェースの例として、ネットワークインターフェースコントローラ(NIC,network interface controller)、無線NIC(WNIC,wireless NIC)等が挙げられる。
ユーザインターフェースは、ディスプレイ610(例えば、ディスプレイ114)及び/又は一つ以上のユーザ入力インターフェース612(例えば、入力/出力ユニット)を含み得る。ディスプレイは情報をユーザに提示又は表示するように構成されて得て、その適切な例として、液晶ディスプレイ(LCD,liquid crystal display)、発光ダイオードディスプレイ(LED,light‐emitting diode display)、プラズマディスプレイパネル(PDP,plasma display panel)等が挙げられる。
ユーザ入力インターフェース612は有線又は無線であり得て、また、例えば、処理、記憶及び/又は表示のためにユーザからの情報を装置内において受けるように構成され得る。ユーザ入力インターフェースの適切な例として、マイクロフォン、イメージ又はビデオキャプチャデバイス、キーボード、キーパッド、ジョイスティック、タッチ式感知面(タッチスクリーンと別又は集積されている)、生体認証センサ等が挙げられる。ユーザインターフェースは、プリンタやスキャナ等の周辺機器と通信するための一つ以上のインターフェースを更に含み得る。
上述のように、プログラムコード命令はメモリに記憶され、プロセッサによって実行されて、本願に記載のシステム、サブシステム、個々の要素の機能を実行し得る。適切なプログラムコード命令は、コンピュータ可読記憶媒体からコンピュータ又は他のプログラマブル装置上にロードされて、特定のマシンを生成し、その特定のマシンが本願で特定されている機能を実施するための手段となるようにし得ることを理解されたい。プログラムコード命令は、コンピュータ可読記憶媒体にも記憶され得て、コンピュータ、プロセッサ、又は他のプログラマブル装置を特定の方法で機能させて、特定のマシンや製品を発生させ得る。コンピュータ可読記憶媒体に記憶されている命令は、製品を生成し、その製品が本願に記載の機能を実施するための手段となるようにし得る。プログラムコード命令はコンピュータ可読記憶媒体から回収され、コンピュータ、プロセッサ、又は他のプログラマブル装置にロードされて、コンピュータ、プロセッサ、又は他のプログラマブル装置が、そのコンピュータ、プロセッサ、又は他のプログラマブル装置で行われる演算を実行するように構成し得る。
プログラムコード命令の回収、ロード及び実行は逐次的に行われ得て、一度に一つの命令が回収され、ロードされ、実行される。一部の例示的実施形態では、回収、ロード及び/又は実行は並列に行われ得て、複数の命令が共に回収、ロード及び/又は実行されるようにし得る。プログラムコード命令の実行は、コンピュータで実施されるプロセスを生成し、コンピュータ、プロセッサ、又は他のプログラマブル装置によって実行される命令が、本願に記載の機能を実施するための演算を提供するようにし得る。
プロセッサによる命令の実行、コンピュータ可読記憶媒体への命令の記憶は、特定の機能を行うための演算の組み合わせをサポートしている。このようにして、装置600は、プロセッサ602と、プロセッサに結合されたコンピュータ可読記憶媒体又はメモリ604を含み得て、そのプロセッサは、メモリに記憶されたコンピュータ可読プログラムコード606を実行するように構成される。また、一つ以上の機能や、機能の組み合わせが、特別仕様のハードウェアベースのコンピュータシステム、及び/又は特定の機能を行うプロセッサによって、又は、特別仕様のハードウェアとプログラムコード命令の組み合わせによって行われ得ることを理解されたい。
更に、本開示は以下の項に係る実施形態を含む。
項1
ビデオ画像において前景目標に対して背景クラッタを抑制するための装置であって、
プロセッサを備え、プロセッサが、少なくとも、
可動プラットフォームに搭載されたカメラからビデオ画像(そのビデオ画像は、前景目標及び背景クラッタを含む場面のものであり、前景目標が背景クラッタに対して移動している)を受信することと、
ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、そのクラッタ抑制プロセスでは、各画像について、その各画像が連続画像のうちの現在画像である際に、プロセッサが、少なくとも、
カメラに関連する固定パターンノイズを除去するようにビデオ画像の現在画像を処理することと、
連続画像の参照画像において場面の固定ジオロケーション又は既知のクラッタパターンに現在画像を空間的に再登録することと、その後、
現在画像の独立したコピーを、異なる時定数を有する二つの無限インパルス応答(IIR)フィルタにかけて、互いに関して時間遅延されているフィルタリング済み画像を生成することと、
背景クラッタを低減するようにフィルタリング済み画像を差分処理することによって、背景クラッタが前景目標に対して抑制されている現在画像のクラッタ抑制済み版を生成することとを行うように構成されている、
ことと、
連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングすることとを行うように構成されている、装置。
項2
プロセッサが現在画像を処理するように構成されていることは、プロセッサが現在画像から除去される固定パターンノイズを決定するように構成されていることを含み、プロセッサが固定パターンノイズを決定するように構成されていることは、少なくとも、
最大で現在画像までであって現在画像を含む複数の連続画像をIIRローパスフィルタにかけて、背景クラッタが局所的平均値に平滑化されていて固定パターンノイズが変更されていないIIRフィルタリング済み画像(IIRフィルタリング済み画像は現在画像のIIRフィルタリング済み版を含む)を生成することと、
空間コンボリューション演算を用いて、IIRフィルタリング済み画像及び現在画像から局所的平均値を除去することと、
現在画像のIIRフィルタリング済み版からDC成分を除去して、現在画像のDC除去済みでIIRフィルタリング済み版を生成することと、
IIRフィルタリング済み画像及び現在画像を除去された局所的平均値と組み合わせることによって、倍率を求めることと、
倍率を用いて、現在画像のDC除去済みでIIRフィルタリング済み版を正規化して、現在画像の固定パターンノイズに少なくとも部分的に整合する固定パターンノイズの不偏推定を求めることとを行うように構成されていることを含む、項1に記載の装置。
項3
プロセッサが現在画像を処理するように構成されていることが、現在画像からの固定パターンノイズの画素単位減算を行うことによって、固定パターンノイズが低減し又は存在せず前景目標及び背景クラッタを含む処理済み画像を生成するように構成されていることを含む、項1又は2に記載の装置。
項4
クラッタ抑制プロセスでは、プロセッサが不良画素マップを現在画像に適用して、その中の不良画素からの無効画像データを除去するように更に構成されていて、不良画素マップが、現在画像の独立したコピーが二つのIIRフィルタにかけられる際に適用される、項1から3のいずれか一項に記載の装置。
項5
連続画像が規則的な間隔においてクラッタ抑制プロセスにかけられ、各間隔において、プロセッサが、場面の特定のジオロケーションでクラッタ抑制プロセスを始動させることによって、現在画像が空間的に再登録される参照画像及び固定ジオロケーション又は既知のクラッタパターンを定めるように更に構成されている、項1から4のいずれか一項に記載の装置。
項6
前記クラッタ抑制プロセスが、同一のプロセスであるが異なる時点において交互に始動される二つの並列なクラッタ抑制プロセスの一方であり、プロセッサが連続画像をクラッタ抑制プロセスにかけるように構成されていることが、連続画像を二つのクラッタ抑制プロセスの各々に別々に独立してかけるように構成されていることを含み、
プロセッサが、二つのクラッタ抑制プロセスの間で交互に切り替わることによって、導出場面のビデオ画像を構築するように更に構成されている、項5に記載の装置。
項7
連続画像が、二つのクラッタ抑制プロセスそれぞれにフレーム数の分数の分だけずれているビデオ画像のフレーム数の規則的な間隔においてかけられ、
二つのクラッタ抑制プロセスのいずれかが始動する際に、プロセッサが連続画像のクラッタ抑制済み版を構築するように構成されていることが、二つのIIRフィルタが定常状態に達している二つのクラッタ抑制プロセスの他方に切り替えることを含む、項6に記載の装置。
項8
ビデオ画像において前景目標に対して背景クラッタを抑制する方法であって、
可動プラットフォームに搭載されたカメラからビデオ画像(そのビデオ画像は、前景目標及び背景クラッタを含む場面のものであって、前景目標が背景クラッタに対して移動している)を受信することと、
ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、クラッタ抑制プロセスが、各画像について、その各画像が連続画像のうちの現在画像である際に、
カメラに関連する固定パターンノイズを除去するようにビデオ画像の現在画像を処理することと、
連続画像の参照画像における場面の固定ジオロケーション又は既知のクラッタパターンに現在画像を空間的に再登録することと、
現在画像の独立したコピーを、異なる時定数を有する二つの無限インパルス応答(IIR)フィルタにかけて、互いに関して時間遅延されているフィルタリング済み画像を生成することと、
背景クラッタを低減するようにフィルタリング済み画像を差分処理することによって、背景クラッタが前景目標に対して抑制されている現在画像のクラッタ抑制済み版を生成することとを含む
ことと、
連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングすることとを含む方法。
項9
現在画像を処理することが、現在画像から除去される固定パターンノイズを決定することを含み、固定パターンノイズを決定することが、
最大で現在画像までであって現在画像を含む複数の連続画像をIIRローパスフィルタにかけて、背景クラッタが局所的平均値に平滑化されていて固定パターンノイズが変更されていないIIRフィルタリング済み画像(IIRフィルタリング済み画像は現在画像のIIRフィルタリング済み版を含む)を生成することと、
空間コンボリューション演算を用いて、IIRフィルタリング済み画像及び現在画像から局所的平均値を除去することと、
現在画像のIIRフィルタリング済み版からDC成分を除去して、現在画像のDC除去済みでIIRフィルタリング済み版を生成することと、
IIRフィルタリング済み画像及び現在画像を除去された局所的平均値と組み合わせることによって、倍率を求めることと、
倍率を用いて、現在画像のDC除去済みでIIRフィルタリング済み版を正規化して、現在画像の固定パターンノイズに少なくとも部分的に整合する固定パターンノイズの不偏推定を求めることとを含む、項8に記載の方法。
項10
現在画像を処理することが、現在画像からの固定パターンノイズの画素単位減算を行うことによって、固定パターンノイズが低減し又は存在せずに前景目標及び背景クラッタを含む処理済み画像を生成することを含む、項8又は9に記載の方法。
項11
クラッタ抑制プロセスが、不良画素マップを現在画像に適用して、その中の不良画素からの無効画像データを除去することを更に含み、不良画素マップが、現在画像の独立したコピーが二つのIIRフィルタにかけられる際に適用される、項8から10のいずれか一項に記載の方法。
項12
連続画像が規則的間隔においてクラッタ抑制プロセスにかけられ、各間隔において、本方法が、場面の特定のジオロケーションでクラッタ抑制プロセスを始動させることによって、現在画像が空間的に再登録される参照画像及び固定ジオロケーション又は既知のクラッタパターンを定めることを更に備える、項8から11のいずれか一項に記載の方法。
項13
前記クラッタ抑制プロセスが、同一のプロセスであるが異なる時点において交互に始動される二つの並列なクラッタ抑制プロセスの一方であり、連続画像をクラッタ抑制プロセスにかけることが、連続画像を二つのクラッタ抑制プロセスの各々に別々に独立してかけることを含み、
本方法が、二つのクラッタ抑制プロセスの間で交互に切り替えることによって導出場面のビデオ画像を構築することを更に備える、項12に記載の方法。
項14
連続画像が二つのクラッタ抑制プロセスにフレーム数の分数の分だけずれているビデオ画像のフレーム数の規則的な間隔においてかけられ、
二つのクラッタ抑制プロセスのいずれかが始動する際に、連続画像のクラッタ抑制済み版を構築することが、二つのIIRフィルタが定常状態に達している二つのクラッタ抑制プロセスの他方に切り替わる、項13に記載の方法。
項15
ビデオ画像において前景目標に対して背景クラッタを抑制するためのコンピュータ可読記憶媒体であって、本コンピュータ可読記憶媒体は非一時的であって、これに記憶されているコンピュータ可読プログラムコード部を有し、該コンピュータ可読プログラムコード部は、プロセッサによる実行に応答して、装置に、少なくとも、
可動プラットフォームに搭載されたカメラからビデオ画像(そのビデオ画像は前景目標及び背景クラッタを含む場面のものであって、前景目標が背景クラッタに対して移動している)を受信することと、
ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセスにかけることによって、背景クラッタが前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、クラッタ抑制プロセスが、各画像について、その各画像が連続画像のうちの現在画像である際に、装置に、少なくとも、
カメラに関連する固定パターンノイズを除去するようにビデオ画像の現在画像を処理することと、
連続画像の参照画像における場面の固定ジオロケーション又は既知のクラッタパターンに現在画像を空間的に再登録することと、
現在画像の独立したコピーを、異なる時定数を有する二つの無限インパルス応答(IIR)にかけて、互いに関して時間遅延されているフィルタリング済み画像を生成することと、
背景クラッタを低減するようにフィルタリング済み画像を差分処理することによって、背景クラッタが前景目標に対して抑制されている現在画像のクラッタ抑制済み版を生成することとをさせる、ことと、
連続画像のクラッタ抑制済み版を含む導出場面のビデオ画像をレンダリングすることとをさせる、コンピュータ可読記憶媒体。
項16
装置に現在画像を処理させることが、装置に現在画像から除去される固定パターンノイズを決定させることを含み、装置に固定パターンノイズを決定させることが、少なくとも、
最大で現在画像までであって現在画像を含む複数の連続画像をIIRローパスフィルタにかけて、背景クラッタが局所的平均値に平滑化されていて固定パターンノイズが変更されていないIIRフィルタリング済み画像(IIRフィルタリング済み画像は現在画像のIIRフィルタリング済み版を含む)を生成することと、
空間コンボリューション演算を用いて、IIRフィルタリング済み画像及び現在画像から局所的平均値を除去することと、
現在画像のIIRフィルタリング済み版からDC成分を除去して、現在画像のDC除去済みでIIRフィルタリング済み版を生成することと、
IIRフィルタリング済み画像及び現在画像を除去された局所的平均値と組み合わせることによって、倍率を求めることと、
倍率を用いて、現在画像のDC除去済みでIIRフィルタリング済み版を正規化して、現在画像の固定パターンノイズに少なくとも部分的に整合する固定パターンノイズの不偏推定を求めることと
をさせることを含む、項15に記載のコンピュータ可読記憶媒体。
項17
装置に現在画像を処理させることが、現在画像からの固定パターンノイズの画素単位減算を行うことによって、固定パターンノイズが低減し又は存在せず前景目標及び背景クラッタを含む処理済み画像を生成させることを含む、項15又は16に記載のコンピュータ可読記憶媒体。
項18
クラッタ抑制プロセスが、現在画像に不良画素マップを適用して、その中の不良画素からの無効画像データを除去することを装置にさせることを更に含み、不良画素マップが、現在画像の二つの独立したコピーが二つのIIRフィルタにかけられる際に、適用される、項15から17のいずれか一項に記載のコンピュータ可読記憶媒体。
項19
連続画像がクラッタ抑制プロセスに規則的な間隔においてかけられ、各間隔において、装置に場面の特定のジオロケーションでクラッタ抑制プロセスを始動させることによって、現在画像が空間的に再登録される参照画像及び固定ジオロケーション又は既知のクラッタパターンを定めることを更にさせる、項15から18のいずれか一項に記載のコンピュータ可読記憶媒体。
項20
前記クラッタ抑制プロセスが、同一のプロセスであるが異なる時点において交互に始動される二つの並列なクラッタ抑制プロセスの一方であり、装置に連続画像をクラッタ抑制プロセスにかけさせることが、連続画像を二つのクラッタ抑制プロセスの各々に別々に独立してかけさせることを含み、
コンピュータ可読記憶媒体に記憶されているコンピュータ可読プログラムコード部が、プロセッサによる実行に応答して、二つのクラッタ抑制プロセスの間で交互に切り替えることによって導出場面のビデオ画像を構築することを更に装置にさせる、項19に記載のコンピュータ可読記憶媒体。
項21
連続画像が二つのクラッタ抑制プロセスにフレーム数の分数の分だけずれているビデオ画像のフレーム数の規則的な間隔においてかけられ、
二つのクラッタ抑制プロセスのいずれかが始動する際に、装置に連続画像のクラッタ抑制済み版を構築させることが、二つのIIRフィルタが定常状態に達している二つのクラッタ抑制プロセスの他方への切り替えを含む、項20に記載のコンピュータ可読記憶媒体。
上記説明及び添付図面に与えられている教示の恩恵を受ける当業者には、本開示の多くの修正や他の実施形態が思い付くものである。従って、本開示は、開示されている特定の実施形態に限定されるものではなく、修正及び他の実施形態も添付の特許請求の範囲内に含まれるものである。更に、上記説明及び添付図面は、要素及び/又は機能の特定の例示的な組み合わせの文脈において例示的な実施形態を説明しているが、要素及び/又は機能の異なる組み合わせが代替実施形態によって添付の特許請求の範囲から逸脱せずに与えられ得ることを理解されたい。これに関し、例えば、上記で明示的に示されているもの以外の要素及び/又は機能の異なる組み合わせは、添付の特許請求の範囲に与えられているものとして想定される。本願では特定の用語が使用されているが、これらは汎用的で説明的な意味合いにおいてのみ使用されているものであって、限定目的のものではない。
100 クラッタ抑制システム
102 焦点面アレイ
104 可動プラットフォーム
106 カメラ
108 光学系
110 計算装置
112 目標検出プロセッサ
114 ディスプレイ
116 不揮発性メモリ
118 プロセッサ

Claims (15)

  1. ビデオ画像において前景目標に対して背景クラッタを抑制するための装置であって、
    前記装置がプロセッサ(118)を備え、
    前記プロセッサ(118)が、少なくとも、
    移動プラットフォーム(104)に搭載されたカメラ(106)から、前景目標及び背景クラッタを含み前記前景目標が前記背景クラッタに対して移動している場面のビデオ画像を受信することと、
    前記ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセス(200)にかけることによって、前記背景クラッタが前記前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、前記クラッタ抑制プロセス(200)では、各画像について、該各画像が前記連続画像のうちの現在画像(202)である際に、前記プロセッサ(118)が、少なくとも、
    前記カメラ(106)に関連する固定パターンノイズ(204)を除去するように前記ビデオ画像の現在画像(202)を処理すること、
    前記連続画像の参照画像における場面の固定ジオロケーション又は既知のクラッタパターンに前記現在画像(202)を空間的に再登録(208)すること、
    空間的に再登録された前記現在画像(202)の独立したコピーを、異なる時定数(τ、τ)を有する二つの無限インパルス応答(IIR)フィルタ(210a、210b)にかけて、互いに関して時間遅延されているフィルタリング済み画像を生成すること、及び、
    前記背景クラッタを低減するように前記フィルタリング済み画像を差分処理(214)して前記背景クラッタが前記前景目標に対して抑制されている前記現在画像(202)のクラッタ抑制済み版(216)を生成することを行うように構成されている
    ことと、
    前記連続画像のクラッタ抑制済み版(216)を含む前記導出場面のビデオ画像をレンダリングすることとを行うように構成されている、装置。
  2. 前記プロセッサ(118)が前記現在画像(202)を処理するように構成されていることが、前記プロセッサ(118)が前記現在画像(202)から除去される固定パターンノイズ(204)を決定するように構成されていることを含み、前記プロセッサ(118)が固定パターンノイズ(204)を決定するように構成されていることが、少なくとも、
    前記現在画像(202)までであって前記現在画像(202)を含む複数の連続画像をIIRローパスフィルタ(210a、210b)にかけて、前記背景クラッタが局所的平均値に平滑化されていて、前記固定パターンノイズ(204)が変更されておらず、前記現在画像のIIRフィルタリング済み版を含むIIRフィルタリング済み画像を生成することと、
    空間コンボリューション演算を用いて、前記IIRフィルタリング済み画像及び前記現在画像から前記局所的平均値を除去すること、
    前記現在画像のIIRフィルタリング済み版からDC成分を除去して、前記現在画像のDC除去済みでIIRフィルタリング済み版を生成すること、
    前記IIRフィルタリング済み画像及び現在画像(202)を除去された局所的平均値と組み合わせることによって、正規化係数を求めること、及び、
    前記正規化係数を用いて、前記現在画像(202)のDC除去済みでIIRフィルタリング済み版を正規化して、前記現在画像(202)の固定パターンノイズ(204)に少なくとも部分的に整合する固定パターンノイズの不偏推定を与えることを行うように構成されていることを含む、請求項1に記載の装置。
  3. 前記プロセッサ(118)が前記現在画像(202)を処理するように構成されていることが、前記現在画像(202)からの前記固定パターンノイズ(204)の画素単位減算(206)を行うことによって、前記固定パターンノイズ(204)が低減し又は存在せず前記前景目標及び前記背景クラッタを含む処理済み画像を生成するように構成されていることを含む、請求項1又は2に記載の装置。
  4. 前記クラッタ抑制プロセス(200)では、前記プロセッサ(118)が、前記現在画像(202)に不良画素マップ(212)を適用して、不良画素からの無効画像データを除去するように更に構成されていて、前記不良画素マップ(212)が、前記現在画像(202)の独立したコピーが二つのIIRフィルタ(210a、210b)にかけられる際に適用される、請求項1から3のいずれか一項に記載の装置。
  5. 前記連続画像が前記クラッタ抑制プロセス(200)に規則的間隔でかけられ、各間隔において、前記プロセッサ(118)が、前記場面の特定のジオロケーションで前記クラッタ抑制プロセス(200)を始動させることによって、前記現在画像(202)が空間的に再登録(208)される前記固定ジオロケーション又は既知のクラッタパターンを決定するように更に構成されている、請求項1から4のいずれか一項に記載の装置。
  6. 前記クラッタ抑制プロセス(200)が、同一のプロセスであるが異なる時点において交互に始動される並列な二つのクラッタ抑制プロセス(200a、200b)の一方であり、前記プロセッサ(200)が前記連続画像を前記クラッタ抑制プロセス(200)にかけるように構成されていることが、前記連続画像を前記二つのクラッタ抑制プロセス(200a、200b)の各々に別々に独立してかけるように構成されていることを含み、
    前記プロセッサ(118)が、前記二つのクラッタ抑制プロセス(200a、200b)の間で交互に切り替えることによって前記導出場面のビデオ画像を構築するように更に構成されている、請求項5に記載の装置。
  7. 前記連続画像が、前記二つのクラッタ抑制プロセス(200a、200b)にフレーム数の分数の分だけずれている前記ビデオ画像のフレーム数の規則的な間隔においてそれぞれかけられ、
    前記二つのクラッタ抑制プロセス(200a、200b)の一方が始動する際に、前記プロセッサ(118)が前記連続画像のクラッタ抑制済み版を構築するように構成されていることが、二つのIIRフィルタ(210a、210b)が定常状態に達している前記二つのクラッタ抑制プロセス(200a、200b)の他方への切り替え(302)を含む、請求項6に記載の装置。
  8. ビデオ画像において前景目標に対して背景クラッタを抑制する方法であって、
    可動プラットフォーム(104)に搭載されたカメラ(106)から、前景目標及び背景クラッタを含み前記前景目標が前記背景クラッタに対して移動している場面のビデオ画像を受信すること(502)と、
    前記ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセス(200)にかけることによって、前記背景クラッタが前記前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、前記クラッタ抑制プロセス(200)が、各画像について、該各画像が前記連続画像のうちの現在画像(202)である際に、
    前記カメラ(106)に関連する固定パターンノイズ(204)を除去するように前記ビデオ画像の現在画像(202)を処理すること(508)、
    前記連続画像の参照画像において前記場面の固定ジオロケーション又は既知のクラッタパターンに前記現在画像(202)を空間的に再登録すること(512)、
    空間的に再登録された前記連続画像(202)の独立したコピーを、異なる時定数(τ、τ)を有する二つの無限インパルス応答(IIR)フィルタ(210a、210b)にかけて、互いに関して時間遅延されているフィルタリング済み画像を生成すること(512)、及び
    前記背景クラッタを低減するように前記フィルタリング済み画像を差分処理することによって、前記背景クラッタが前記前景目標に対して抑制されている前記現在画像(202)のクラッタ抑制済み版(216)を生成すること(514)を含む
    ことと、
    前記連続画像のクラッタ抑制済み版を含む前記導出場面のビデオ画像をレンダリングすること(506)とを含む方法。
  9. 前記現在画像(202)を処理すること(508)が、前記現在画像(202)から除去される固定パターンノイズ(204)を決定することを含み、前記固定パターンノイズ(204)を決定することが、
    前記現在画像(202)までであって前記現在画像(202)を含む複数の連続画像をIIRローパスフィルタ(210a、210b)にかけて、前記背景クラッタが局所的平均値に平滑化されていて、前記固定パターンノイズ(204)が変更されておらず、前記現在画像(202)のIIRフィルタリング済み版を含むIIRフィルタリング済み画像を生成すること、
    空間コンボリューション演算を用いて、前記IIRフィルタリング済み画像及び前記現在画像(202)から前記局所的平均値を除去すること、
    前記現在画像(202)のIIRフィルタリング済み版からDC成分を除去して、前記現在画像(202)のDC除去済みでIIRフィルタリング済み版を生成すること、
    前記IIRフィルタリング済み画像及び前記現在画像(202)を除去された局所的平均値と組み合わせることによって、正規化係数を求めること、及び、
    前記正規化係数を用いて、前記現在画像(202)の前記DC除去済みでIIRフィルタリング済み版を正規化して、前記現在画像(202)の固定パターンノイズ(204)に少なくとも部分的に整合する固定パターンノイズ(204)の不偏推定を求めることを含む、請求項8に記載の方法。
  10. 前記現在画像(202)を処理することが、前記現在画像(202)からの前記固定パターンノイズ(204)の画素単位減算(206)を行うことによって、前記固定パターンノイズ(204)が低減し又は存在せず前記前景目標及び前記背景クラッタを含む処理済み画像を生成することを含む、請求項8又は9に記載の方法。
  11. 前記クラッタ抑制プロセス(200)が、不良画素マップ(212)を前記現在画像(202)に適用して、不良画素からの無効画像データを除去することを更に含み、前記不良画素マップが、前記現在画像(202)の独立したコピーが二つのIIRフィルタ(210a、210b)にかけられる際に適用される、請求項8から10のいずれか一項に記載の方法。
  12. 前記連続画像が前記クラッタ抑制プロセス(200)に規則的な間隔においてかけられ、各間隔において、前記場面の特定のジオロケーションで前記クラッタ抑制プロセス(200)を始動させることによって、前記現在画像(202)が空間的に再登録(208)される前記固定ジオロケーション又は既知のクラッタパターンを決定することを更に備える請求項8から11のいずれか一項に記載の方法。
  13. 前記クラッタ抑制プロセス(200)が、同一のプロセスであるが異なる時点において交互に始動される並列な二つのクラッタ抑制プロセス(200a、200b)の一方であり、前記連続画像を前記クラッタ抑制プロセス(200)にかけることが、前記連続画像を前記二つのクラッタ抑制プロセス(200a、200b)の各々に別々に独立してかけることを含み、
    前記二つのクラッタ抑制プロセス(200a、200b)の間で交互に切り替えることによって、前記導出場面のビデオ画像を構築することを更に備える請求項12に記載の方法。
  14. 前記連続画像が、前記二つのクラッタ抑制プロセス(200a、200b)にフレーム数の分数の分だけずれている前記ビデオ画像のフレーム数の規則的な間隔においてそれぞれかけられ、
    前記二つのクラッタ抑制プロセス(200a、200b)の一方が始動する際に、前記連続画像のクラッタ抑制済み版を構築することが、二つのIIRフィルタ(210a、210b)が定常状態に達している前記二つのクラッタ抑制プロセス(200a、200b)の他方に切り替わる、請求項13に記載の方法。
  15. ビデオ画像において前景目標に対して背景クラッタを抑制するための非一時的なコンピュータ可読記憶媒体(604)であって、コンピュータ可読プログラムコード部(606)が前記コンピュータ可読記憶媒体(604)に記憶されていて、
    前記コンピュータ可読プログラムコード部(606)が、プロセッサ(118、602)による実行に応答して、装置に、少なくとも、
    可動プラットフォーム(104)に搭載されたカメラ(106)から、前景目標及び背景クラッタを含み前記前景目標が前記背景クラッタに対して移動している場面のビデオ画像を受信することと、
    前記ビデオ画像の連続フレームの連続画像をクラッタ抑制プロセス(200)にかけることによって、前記背景クラッタが前記前景目標に対して抑制されるように導出された導出場面のビデオ画像を生成することであって、前記クラッタ抑制プロセス(200)が、各画像について、該各画像が前記連続画像のうちの現在画像(202)である際に、前記装置に、
    前記カメラ(106)に関連する固定パターンノイズ(204)を除去するように前記ビデオ画像の現在画像(202)を処理すること、
    前記連続画像の参照画像において前記場面の固定ジオロケーション又は既知のクラッタパターンに前記現在画像(202)を空間的に再登録すること、
    空間的に再登録された前記現在画像(202)の独立したコピーを、異なる時定数(τ、τ)を有する二つの無限インパルス応答(IIR)フィルタ(210a、210b)にかけて、互いに関して時間遅延されているフィルタリング済み画像を生成すること、及び、
    前記背景クラッタを低減するように前記フィルタリング済み画像を差分処理することによって、前記背景クラッタが前記前景目標に対して抑制されている前記現在画像(202)のクラッタ抑制済み版を生成することをさせる
    ことと、
    前記連続画像のクラッタ抑制済み版を含む前記導出場面のビデオ画像をレンダリングすることとをさせる、コンピュータ可読記録媒体(604)。
JP2018120680A 2017-07-21 2018-06-26 ビデオ画像の背景クラッタの抑制 Active JP7207875B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/656,614 US10453187B2 (en) 2017-07-21 2017-07-21 Suppression of background clutter in video imagery
US15/656,614 2017-07-21

Publications (2)

Publication Number Publication Date
JP2019024198A JP2019024198A (ja) 2019-02-14
JP7207875B2 true JP7207875B2 (ja) 2023-01-18

Family

ID=62909345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018120680A Active JP7207875B2 (ja) 2017-07-21 2018-06-26 ビデオ画像の背景クラッタの抑制

Country Status (4)

Country Link
US (1) US10453187B2 (ja)
EP (1) EP3432257B1 (ja)
JP (1) JP7207875B2 (ja)
CN (1) CN109285124B (ja)

Families Citing this family (66)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2536650A (en) 2015-03-24 2016-09-28 Augmedics Ltd Method and system for combining video-based and optic-based augmented reality in a near eye display
US11740321B2 (en) * 2017-11-30 2023-08-29 Apple Inc. Visual inertial odometry health fitting
WO2019211741A1 (en) 2018-05-02 2019-11-07 Augmedics Ltd. Registration of a fiducial marker for an augmented reality system
US11766296B2 (en) 2018-11-26 2023-09-26 Augmedics Ltd. Tracking system for image-guided surgery
JP7255314B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255316B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255304B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255311B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255303B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255317B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255305B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255315B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255318B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255312B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255307B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255308B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255306B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255309B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255310B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255302B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7255313B2 (ja) * 2019-04-02 2023-04-11 株式会社三洋物産 遊技機
JP7272088B2 (ja) * 2019-04-24 2023-05-12 株式会社三洋物産 遊技機
JP7272090B2 (ja) * 2019-04-24 2023-05-12 株式会社三洋物産 遊技機
JP7272087B2 (ja) * 2019-04-24 2023-05-12 株式会社三洋物産 遊技機
JP7272089B2 (ja) * 2019-04-24 2023-05-12 株式会社三洋物産 遊技機
JP7272086B2 (ja) * 2019-04-24 2023-05-12 株式会社三洋物産 遊技機
JP7272093B2 (ja) * 2019-04-25 2023-05-12 株式会社三洋物産 遊技機
JP7272094B2 (ja) * 2019-04-25 2023-05-12 株式会社三洋物産 遊技機
JP7307320B2 (ja) * 2019-04-25 2023-07-12 株式会社三洋物産 遊技機
JP7272095B2 (ja) * 2019-04-25 2023-05-12 株式会社三洋物産 遊技機
JP7272092B2 (ja) * 2019-04-25 2023-05-12 株式会社三洋物産 遊技機
JP7275916B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275912B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275915B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275908B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275913B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275914B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275911B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275909B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
JP7275910B2 (ja) * 2019-06-27 2023-05-18 株式会社三洋物産 遊技機
CN110456362B (zh) * 2019-07-17 2021-07-06 北京大学 一种基于脉冲对发射的目标声成像及测速方法与系统
US11980506B2 (en) 2019-07-29 2024-05-14 Augmedics Ltd. Fiducial marker
JP7302378B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302375B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302374B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302376B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7307330B2 (ja) * 2019-08-22 2023-07-12 株式会社三洋物産 遊技機
JP7302377B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302373B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302372B2 (ja) * 2019-08-22 2023-07-04 株式会社三洋物産 遊技機
JP7302379B2 (ja) * 2019-08-23 2023-07-04 株式会社三洋物産 遊技機
JP7307331B2 (ja) * 2019-08-23 2023-07-12 株式会社三洋物産 遊技機
US10869011B1 (en) * 2019-09-30 2020-12-15 Sony Corporation Blind legacy video artifact reduction
JP7342587B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
JP7342589B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
JP7342586B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
JP7342588B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
JP7342584B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
JP7342585B2 (ja) * 2019-10-03 2023-09-12 株式会社三洋物産 遊技機
US11382712B2 (en) 2019-12-22 2022-07-12 Augmedics Ltd. Mirroring in image guided surgery
WO2022046649A1 (en) * 2020-08-23 2022-03-03 Envision Analytics, Inc. Assessing patient out-of-bed and out-of-chair activities using embedded infrared thermal cameras
CA3137651A1 (en) 2020-12-19 2022-06-19 The Boeing Company Combined multi-spectral and polarization sensor
CN113379629B (zh) * 2021-06-08 2024-08-16 深圳思谋信息科技有限公司 卫星图像去噪方法、装置、计算机设备和存储介质
CN113449850A (zh) * 2021-07-05 2021-09-28 电子科技大学 一种海面监视雷达杂波智能抑制方法
US11896445B2 (en) 2021-07-07 2024-02-13 Augmedics Ltd. Iliac pin and adapter
WO2024057210A1 (en) 2022-09-13 2024-03-21 Augmedics Ltd. Augmented reality eyewear for image-guided medical intervention

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010171753A (ja) 2009-01-23 2010-08-05 Sony Corp 画像処理装置、画像処理方法および撮像装置
JP2011124694A (ja) 2009-12-09 2011-06-23 Sony Corp 画像処理装置と画像処理方式および撮像装置
JP2012227791A (ja) 2011-04-20 2012-11-15 Sony Corp 画像処理装置および方法、プログラム、並びに記録媒体
JP2013042343A (ja) 2011-08-15 2013-02-28 Seiko Epson Corp ノイズ除去装置、電子機器

Family Cites Families (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4504908A (en) * 1982-03-15 1985-03-12 General Electric Company Matched filter for X-ray temporal subtraction
US5025143A (en) * 1982-07-06 1991-06-18 The United States Of America As Represented By The Secretary Of The Navy Enhanced clutter suppression apparatus for use with an infrared search and surveillance system
US5341142A (en) 1987-07-24 1994-08-23 Northrop Grumman Corporation Target acquisition and tracking system
US5257121A (en) * 1990-08-29 1993-10-26 The Johns Hopkins University Multi-resolution spatial integration signal processor and method
US5150426A (en) * 1990-11-20 1992-09-22 Hughes Aircraft Company Moving target detection method using two-frame subtraction and a two quadrant multiplier
US5317395A (en) 1993-03-31 1994-05-31 The United States Of America As Represented By The Secretary Of The Army Focal plane array dual processing system and technique
US5400161A (en) 1993-10-04 1995-03-21 Raytheon Company Optical system including focus-defocus focal plane array compensation technique using liquid crystal phased array
DE69525495T2 (de) 1994-07-22 2002-10-31 Hughes Electronics Corp., El Segundo Satellitenkamera mit Bildebenenarray
US5894323A (en) 1996-03-22 1999-04-13 Tasc, Inc, Airborne imaging system using global positioning system (GPS) and inertial measurement unit (IMU) data
US5798786A (en) 1996-05-07 1998-08-25 Recon/Optical, Inc. Electro-optical imaging detector array for a moving vehicle which includes two axis image motion compensation and transfers pixels in row directions and column directions
US6108032A (en) 1996-11-05 2000-08-22 Lockheed Martin Fairchild Systems System and method for image motion compensation of a CCD image sensor
DE69720758T2 (de) 1996-11-05 2004-03-04 Bae Systems Information And Electronic Systems Integration Inc. Vorrichtung zur elektro-optischen fernerkundung mit bewegungskompensation
US5903659A (en) 1997-04-17 1999-05-11 Raytheon Company Adaptive non-uniformity compensation algorithm
US6353753B1 (en) * 1998-05-05 2002-03-05 Stephen Thomas Flock Optical imaging of deep anatomic structures
US6714240B1 (en) 1998-06-23 2004-03-30 Boeing North American, Inc. Optical sensor employing motion compensated integration-device and process
US6211515B1 (en) 1998-10-19 2001-04-03 Raytheon Company Adaptive non-uniformity compensation using feedforward shunting and wavelet filter
US6590999B1 (en) * 2000-02-14 2003-07-08 Siemens Corporate Research, Inc. Real-time tracking of non-rigid objects using mean shift
KR100327385B1 (en) * 2000-07-18 2002-03-13 Lg Electronics Inc Spatio-temporal three-dimensional noise filter
US7110455B2 (en) * 2001-08-14 2006-09-19 General Instrument Corporation Noise reduction pre-processor for digital video using previously generated motion vectors and adaptive spatial filtering
US7305145B2 (en) * 2003-05-23 2007-12-04 Lockheed Martin Corporation Method and apparatus for filtering an image
US8553113B2 (en) 2003-08-20 2013-10-08 At&T Intellectual Property I, L.P. Digital image capturing system and method
US7437013B2 (en) * 2003-12-23 2008-10-14 General Instrument Corporation Directional spatial video noise reduction
US7742077B2 (en) 2004-02-19 2010-06-22 Robert Bosch Gmbh Image stabilization system and method for a video camera
WO2006046180A1 (en) * 2004-10-26 2006-05-04 Koninklijke Philips Electronics N.V. Disparity map
FR2882160B1 (fr) 2005-02-17 2007-06-15 St Microelectronics Sa Procede de capture d'images comprenant une mesure de mouvements locaux
WO2006105655A1 (en) * 2005-04-06 2006-10-12 March Networks Corporation Method and system for counting moving objects in a digital video stream
US7656428B2 (en) 2005-05-05 2010-02-02 Avago Technologies General Ip (Singapore) Pte. Ltd. Imaging device employing optical motion sensor as gyroscope
US20090041297A1 (en) * 2005-05-31 2009-02-12 Objectvideo, Inc. Human detection and tracking for security applications
US9298014B2 (en) 2005-07-01 2016-03-29 Flir Systems, Inc. Image stabilization system
US7639309B2 (en) * 2005-12-20 2009-12-29 Broadcom Corporation Method and system for analog video noise reduction by blending FIR and IIR filtering
US7877209B2 (en) * 2006-09-26 2011-01-25 Harris Steven M Radar collison warning system for rooftop mounted cargo
US20080118104A1 (en) 2006-11-22 2008-05-22 Honeywell International Inc. High fidelity target identification and acquisition through image stabilization and image size regulation
CN101981911B (zh) * 2008-01-18 2016-06-29 快图有限公司 图像处理方法和装置
US8306293B2 (en) * 2008-05-15 2012-11-06 University Of Virginia Patent Foundation Reduction of echo decorrelation facilitating motion estimation
US9105081B2 (en) * 2008-09-08 2015-08-11 Ati Technologies Ulc Protection filter for image and video processing
US8208026B2 (en) * 2009-03-02 2012-06-26 Flir Systems, Inc. Systems and methods for processing infrared images
US8767127B2 (en) * 2009-04-17 2014-07-01 General Instrument Corporation System for reducing noise in video processing
US8497914B2 (en) * 2009-08-10 2013-07-30 Wisconsin Alumni Research Foundation Vision system and method for motion adaptive integration of image frames
US9082165B2 (en) * 2010-05-31 2015-07-14 Dvp Technologies Ltd. Inspection of region of interest
US8611586B1 (en) * 2010-11-19 2013-12-17 Exelis, Inc. Fast target extraction from thermal imagery
US9147260B2 (en) * 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
US8797414B2 (en) * 2010-12-23 2014-08-05 Samsung Electronics Co., Ltd. Digital image stabilization device
WO2013001540A1 (en) * 2011-06-30 2013-01-03 Dvp Technologies Ltd. System and method for multidirectional imaging
EP2549759B1 (en) * 2011-07-19 2016-01-13 Axis AB Method and system for facilitating color balance synchronization between a plurality of video cameras as well as method and system for obtaining object tracking between two or more video cameras
US8611600B2 (en) * 2011-10-12 2013-12-17 Raytheon Company Three-frame difference moving target acquisition system and method for target track identification
CN104067311B (zh) * 2011-12-04 2017-05-24 数码装饰有限公司 数字化妆
US8811757B2 (en) * 2012-01-05 2014-08-19 Texas Instruments Incorporated Multi-pass video noise filtering
US9402028B2 (en) 2012-03-15 2016-07-26 Honeywell International Inc. Image stabilization and tracking system
US10009579B2 (en) * 2012-11-21 2018-06-26 Pelco, Inc. Method and system for counting people using depth sensor
US9165345B2 (en) * 2013-03-14 2015-10-20 Drs Network & Imaging Systems, Llc Method and system for noise reduction in video systems
US9661239B2 (en) * 2013-04-17 2017-05-23 Digital Makeup Ltd. System and method for online processing of video images in real time
US9449371B1 (en) * 2014-03-06 2016-09-20 Pixelworks, Inc. True motion based temporal-spatial IIR filter for video
US9685056B2 (en) * 2014-03-21 2017-06-20 Qognify Ltd. Robust change-detection system and method
US9584814B2 (en) * 2014-05-15 2017-02-28 Intel Corporation Content adaptive background foreground segmentation for video coding
US11170313B2 (en) * 2014-10-10 2021-11-09 Analog Devices International Unlimited Company Pipelining and parallelism for implementing a mixture model
SE538405C2 (en) * 2015-01-07 2016-06-14 Viscando Ab Method and system for categorization of a scene
US9646388B2 (en) 2015-01-09 2017-05-09 The Boeing Company Integrated image distortion correction with motion compensated integration
US9501839B1 (en) * 2015-05-27 2016-11-22 The Boeing Company Methods and systems for detecting moving objects in a sequence of image frames produced by sensors with inconsistent gain, offset, and dead pixels
US9648261B2 (en) * 2015-08-26 2017-05-09 Apple Inc. Account for clipped pixels in auto-focus statistics collection
US10074282B1 (en) * 2017-07-31 2018-09-11 The Boeing Company Display of flight interval management data

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010171753A (ja) 2009-01-23 2010-08-05 Sony Corp 画像処理装置、画像処理方法および撮像装置
JP2011124694A (ja) 2009-12-09 2011-06-23 Sony Corp 画像処理装置と画像処理方式および撮像装置
JP2012227791A (ja) 2011-04-20 2012-11-15 Sony Corp 画像処理装置および方法、プログラム、並びに記録媒体
JP2013042343A (ja) 2011-08-15 2013-02-28 Seiko Epson Corp ノイズ除去装置、電子機器

Also Published As

Publication number Publication date
CN109285124A (zh) 2019-01-29
US10453187B2 (en) 2019-10-22
CN109285124B (zh) 2023-06-06
EP3432257A1 (en) 2019-01-23
JP2019024198A (ja) 2019-02-14
US20190026867A1 (en) 2019-01-24
EP3432257B1 (en) 2021-05-12

Similar Documents

Publication Publication Date Title
JP7207875B2 (ja) ビデオ画像の背景クラッタの抑制
Schechner et al. Separation of transparent layers using focus
CN109565551B (zh) 对齐于参考帧合成图像
US8218013B1 (en) Star sensing for an earth imaging sensor
US12010440B2 (en) Optical image stabilization movement to create a super-resolution image of a scene
JP2019504394A5 (ja)
JPH07120425B2 (ja) 2フレーム減算を使用した運動目標検出方法および装置
US20200265592A1 (en) Three-frame difference target acquisition and tracking using overlapping target images
EP2894842B1 (en) Moving object detection method
EP1797524A2 (en) A method and system for improved unresolved target detection using multiple frame association
US10356343B2 (en) Methods and system for geometric distortion correction for space-based rolling-shutter framing sensors
Mooney et al. Point target detection in consecutive frame staring infrared imagery with evolving cloud clutter
CN118119966A (zh) 用于获得暗电流图像的系统和方法
JP7128671B2 (ja) ビデオ画像のクラッタの再帰的抑制
US9285927B2 (en) Exposure mechanism of optical touch system and optical touch system using the same
Stoveken et al. Algorithms for the optical detection of space debris objects
US9600901B2 (en) Video tracker having digital signal processor
Reinhardt et al. Dark non-uniformity correction and characterization of a 3D flash lidar camera
WO2020191427A1 (en) Method and system to detect orbiting objects
Helferty Performance Prediction Modelling of Low SNR Tracking Algorithms
Ness et al. Derivative based focal plane array nonuniformity correction
Shakenov et al. Filtering of images of small-sized objects in systems with circular microscaning
Venkateswarlu et al. Area-correlation tracker with improved reliability
WO2024196688A1 (en) Methods, storage media, and systems for detecting a persisting or sustained blur condition
Hu et al. Target detection and tracking based on ship borne infrared imagery

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210625

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220808

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230105

R150 Certificate of patent or registration of utility model

Ref document number: 7207875

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150