[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2019504394A5 - - Google Patents

Download PDF

Info

Publication number
JP2019504394A5
JP2019504394A5 JP2018528997A JP2018528997A JP2019504394A5 JP 2019504394 A5 JP2019504394 A5 JP 2019504394A5 JP 2018528997 A JP2018528997 A JP 2018528997A JP 2018528997 A JP2018528997 A JP 2018528997A JP 2019504394 A5 JP2019504394 A5 JP 2019504394A5
Authority
JP
Japan
Prior art keywords
processing system
image processing
frame
image
pbm
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018528997A
Other languages
English (en)
Other versions
JP2019504394A (ja
JP7004314B2 (ja
Filing date
Publication date
Priority claimed from US15/081,118 external-priority patent/US10268901B2/en
Application filed filed Critical
Priority claimed from PCT/US2016/064982 external-priority patent/WO2017096384A1/en
Publication of JP2019504394A publication Critical patent/JP2019504394A/ja
Publication of JP2019504394A5 publication Critical patent/JP2019504394A5/ja
Application granted granted Critical
Publication of JP7004314B2 publication Critical patent/JP7004314B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (24)

  1. 画像処理システムであって、
    処理ユニットであって、
    整数画素解像度を有するベースピラミッドレベルにおいて初期オプティカルフロー(OF)推定を生成するために、ピラミッド状ブロックマッチング(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間でOF推定を実施することと、
    分数画素解像度を有する修正されたOF推定を提供するために、変形Lucas−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定を精密化することと、
    を実装する、前記処理ユニット、
    を含む、画像処理システム。
  2. 請求項1に記載の画像処理システムであって、
    前記PBM法が、予測子動き平滑性因子を用いる階層式コース・ツー・ファインサーチ戦略、画素記述に対するバイナリセンサス変換、コスト関数としてのハミング距離を利用する、画像処理システム。
  3. 請求項1に記載の画像処理システムであって、
    前記PBM法が、各々の全体のパクセルに対する予測子の同じセットを用いる処理のパクセル順前記予測子のセットに対する事前評価戦略を利用する、画像処理システム。
  4. 請求項1に記載の画像処理システムであって、
    前記PBM法が、前記PBM法のブロックマッチングステップの間、空間的勾配時間的勾配の事前計算を用いる、画像処理システム。
  5. 請求項1に記載の画像処理システムであって、
    前記処理ユニットがハードウェアアクセラレータ(HWA)によって部分的に実装され、前記HWAが、前記映像の第1のフレーム前記映像の第2のフレームからピクチャデータをグローイングウィンドウ様式で記憶するための1つのメモリと、前記映像の第2のフレームから前記ピクチャのスライディングウィンドウを記憶するためのもう1つのメモリとを備える、ローカルメモリの2つのレベルの組み合わせを利用する、画像処理システム。
  6. 請求項1に記載の画像処理システムであって、
    前記変形LK法が、画像ワーピングステップを除くものであり、前記修正されたOF推定を計算することを空間的及び時間的勾配計算のサブタスクとその他の演算とに分離し、OF精密化に対して低減精度勾配データを用い、行列反転を含む計算タスクを実施するために整数演算のみを用いる、画像処理システム。
  7. 請求項2に記載の画像処理システムであって、
    前記処理ユニットが、前記サーチ戦略の各シーケンシャルサーチに対する前記コスト関数に、動き平滑性因子、メディアンの予測子値と候補の画素との間の距離を組み合わせる動きベクトルコスト値を含むように、プロセッサを構成する、画像処理システム。
  8. 請求項1に記載の画像処理システムであって、
    前記少なくとも1つのパスが、前記PBM法が終了した後の前記ベースピラミッドレベルを含む前記PBM法によって用いられるサーチピラミッドの全てのピラミッドレベルにおいて前記変形LK法を適用する単一パスから構成される、画像処理システム。
  9. 請求項1に記載の画像処理システムであって、
    前記修正されたOF推定からインパルス性ノイズを除去するために、疑似1D分離可能メディアンフィルタを用いる事後処理フィルタリングのための事後処理フィルタを更に含む、画像処理システム。
  10. 請求項1に記載の画像処理システムであって、
    前記映像の第1のフレームが基準画像であり、前記映像の第2のフレームが疑問画像である、画像処理システム。
  11. 画像処理システムであって、
    整数画素解像度を有するベースピラミッドレベルにおいて初期光学フロー(OF)推定値を生成するためにピラミッド状ブロック整合(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間で光学フロー(OF)推定を実行する回路要素と、
    分数画素解像度を有する修正OF推定値を生成するために変形Luca−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定値を精緻化する回路要素と、
    を含む、画像処理システム。
  12. 画像処理システムであって、
    整数画素解像度を有するベースピラミッドレベルにおいて初期光学フロー(OF)推定値を生成するためにピラミッド状ブロック整合(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間で光学フロー(OF)推定を実行する手段と、
    分数画素解像度を有する修正OF推定値を生成するために変形Luca−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定値を精緻化する手段と、
    を含む、画像処理システム。
  13. オプティカルフロー(OF)推定の方法であって、
    ピラミッド状ブロックマッチング(PBM)法を変形Lucas−Kanade(LK)法と組み合わせる、記憶された準パラメトリックオプティカルフロー測定(QP−OFM)アルゴリズムを実装することを含み、
    前記QP−OFMアルゴリズムが、
    整数画素解像度を有するベースピラミッドレベルで初期OF推定を生成するために、前記PBM法を用いて映像の第1のフレームと映像の第2のフレームとの間でオプティカルフロー(OF)を推定することと、
    分数画素解像度を有する修正されたOF推定を提供するために、前記変形LK法の少なくとも1つのパスを用いて前記初期OF推定を精密化することと、
    を実行する、方法。
  14. 請求項13に記載の方法であって、
    前記PBM法が、予測子動き平滑性因子を用いる階層式コース・ツー・ファインサーチ戦略、画素記述に対するバイナリセンサス変換、コスト関数としてのハミング距離を利用する、方法。
  15. 請求項14に記載の方法であって、
    前記方法が、前記サーチ戦略の各シーケンシャルサーチに対する前記コスト関数に、動き平滑性因子、メディアン予測子値と候補画素との間の距離を組み合わせる動きベクトルコスト値を含む、方法。
  16. 請求項13に記載の方法であって、
    前記PBM法が、各全体のパクセルに対する予測子の同セットを用いる処理のパクセル順前記予測子のセットに対する事前評価戦略を利用する、方法。
  17. 請求項13に記載の方法であって、
    前記PBM法が、前記PBM法のブロックマッチングステップの間、空間的勾配時間的勾配の事前計算を用いる、方法。
  18. 請求項13に記載の方法であって、
    前記変形LK法が、画像ワーピングステップを除くものであり、前記修正されたOF推定を計算することを空間的勾配計算のサブタスクとその他の演算とに分離し、OF精密化に対して低減精度勾配データを用い、行列反転を含む計算タスクを実施するために整数演算のみを用いる、方法。
  19. 請求項13に記載の方法であって、
    前記QP−OFMアルゴリズムが、ハードウェアアクセラレータ(HWA)を含むシステム・オン・チップ(SOC)として少なくとも部分的に実装され、前記HWAが、前記映像の第1のフレーム前記映像の第2のフレームからピクチャデータをグローイングウィンドウ様式で記憶するための1つのメモリと、前記映像の第2のフレームから前記ピクチャのスライディングウィンドウを記憶するためのもう1つのメモリとを備える、ローカルメモリの2つのレベルの組み合わせを利用する、方法。
  20. 請求項13に記載の方法であって、
    前記方法が、場面分析を生成するために構成されるプロセッサを含む画像処理システムによって実装される、方法。
  21. 請求項20に記載の方法であって、
    前記場面分析が、障害物検出又は衝突回避自動緊急ブレーキのために先進運転支援システム(ADAS)によって用いられる、方法。
  22. 請求項13に記載の方法であって、
    前記修正されたOF推定からインパルス性ノイズを除去するために疑似1D分離可能メディアンフィルタを用いる事後処理フィルタに対する事後処理フィルタリングを更に含む、方法。
  23. 請求項13に記載の方法であって、
    前記少なくとも1つのパスが、前記PBM法が終了した後の前記ベースピラミッドレベルを含む前記PBM法によって用いられるサーチピラミッドの全てのピラミッドレベルにおいて前記変形LK法を適用する単一パスから構成される、方法。
  24. 請求項13に記載の方法であって、
    前記映像の第1のフレームが基準画像であり、前記映像の第2のフレームが疑問画像である、画像処理システム。
JP2018528997A 2015-12-04 2016-12-05 準パラメトリックオプティカルフロー推定 Active JP7004314B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
IN6508/CHE/2015 2015-12-04
IN6508CH2015 2015-12-04
US15/081,118 US10268901B2 (en) 2015-12-04 2016-03-25 Quasi-parametric optical flow estimation
US15/081,118 2016-03-25
PCT/US2016/064982 WO2017096384A1 (en) 2015-12-04 2016-12-05 Quasi-parametric optical flow estimation

Publications (3)

Publication Number Publication Date
JP2019504394A JP2019504394A (ja) 2019-02-14
JP2019504394A5 true JP2019504394A5 (ja) 2020-01-23
JP7004314B2 JP7004314B2 (ja) 2022-01-21

Family

ID=58799177

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018528997A Active JP7004314B2 (ja) 2015-12-04 2016-12-05 準パラメトリックオプティカルフロー推定

Country Status (4)

Country Link
US (2) US10268901B2 (ja)
EP (1) EP3384466B1 (ja)
JP (1) JP7004314B2 (ja)
CN (2) CN108352074B (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9311690B2 (en) * 2014-03-11 2016-04-12 Adobe Systems Incorporated Video denoising using optical flow
US10268901B2 (en) * 2015-12-04 2019-04-23 Texas Instruments Incorporated Quasi-parametric optical flow estimation
US10715818B2 (en) * 2016-08-04 2020-07-14 Intel Corporation Techniques for hardware video encoding
US10621446B2 (en) * 2016-12-22 2020-04-14 Texas Instruments Incorporated Handling perspective magnification in optical flow processing
US10229534B2 (en) * 2017-01-10 2019-03-12 Ditto Technologies, Inc. Modeling of a user's face
US10824877B2 (en) * 2017-06-29 2020-11-03 Texas Instruments Incorporated Hierarchical data organization for dense optical flow processing in a computer vision system
US10467765B2 (en) * 2017-06-29 2019-11-05 Texas Instruments Incorporated Dense optical flow processing in a computer vision system
US11070796B2 (en) * 2018-09-28 2021-07-20 Qualcomm Incorporated Ultimate motion vector expression based pruning for video coding
WO2020084473A1 (en) 2018-10-22 2020-04-30 Beijing Bytedance Network Technology Co., Ltd. Multi- iteration motion vector refinement
WO2020084476A1 (en) 2018-10-22 2020-04-30 Beijing Bytedance Network Technology Co., Ltd. Sub-block based prediction
CN109544520B (zh) * 2018-11-09 2023-08-18 福建和盛高科技产业有限公司 一种视频图像扭曲自动检测方法
CN118870018A (zh) 2018-11-12 2024-10-29 北京字节跳动网络技术有限公司 帧间预测的带宽控制方法
CN113170171B (zh) 2018-11-20 2024-04-12 北京字节跳动网络技术有限公司 组合帧间帧内预测模式的预测细化
CN113056914B (zh) 2018-11-20 2024-03-01 北京字节跳动网络技术有限公司 基于部分位置的差计算
CN109598744B (zh) * 2018-11-29 2020-12-08 广州市百果园信息技术有限公司 一种视频跟踪的方法、装置、设备和存储介质
EP3714290B1 (en) * 2019-01-30 2022-08-03 Baidu.com Times Technology (Beijing) Co., Ltd. Lidar localization using 3d cnn network for solution inference in autonomous driving vehicles
WO2020177755A1 (en) 2019-03-06 2020-09-10 Beijing Bytedance Network Technology Co., Ltd. Usage of converted uni-prediction candidate
WO2020200269A1 (en) * 2019-04-02 2020-10-08 Beijing Bytedance Network Technology Co., Ltd. Decoder side motion vector derivation
CN113767634B (zh) * 2019-05-07 2023-06-09 北京字节跳动网络技术有限公司 利用细化的帧间预测的统一计算方法
US11430134B2 (en) * 2019-09-03 2022-08-30 Nvidia Corporation Hardware-based optical flow acceleration
US11176682B2 (en) * 2019-11-27 2021-11-16 Nvidia Corporation Enhanced optical flow estimation using a varied scan order
US11694341B2 (en) 2019-12-23 2023-07-04 Texas Instmments Incorporated Cascaded architecture for disparity and motion prediction with block matching and convolutional neural network (CNN)
CN113538525B (zh) * 2021-05-28 2023-12-05 北京旷视科技有限公司 光流估计方法、模型训练方法及对应装置
CN113379808B (zh) * 2021-06-21 2022-08-12 昆明理工大学 一种多波段太阳图像配准的方法
CN114363703B (zh) * 2022-01-04 2024-01-23 上海哔哩哔哩科技有限公司 视频处理方法、装置及系统

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0026846D0 (en) 2000-11-03 2000-12-20 Clayton John C Motion compensation of images
JP3776094B2 (ja) 2002-05-09 2006-05-17 松下電器産業株式会社 監視装置、監視方法および監視用プログラム
WO2004114063A2 (en) * 2003-06-13 2004-12-29 Georgia Tech Research Corporation Data reconstruction using directional interpolation techniques
US7558320B2 (en) * 2003-06-13 2009-07-07 Microsoft Corporation Quality control in frame interpolation with motion analysis
US7778466B1 (en) * 2003-12-02 2010-08-17 Hrl Laboratories, Llc System and method for processing imagery using optical flow histograms
US20050162565A1 (en) 2003-12-29 2005-07-28 Arcsoft, Inc. Slow motion processing of digital video data
KR100995398B1 (ko) * 2004-01-20 2010-11-19 삼성전자주식회사 수직 및 수평 방향의 패턴을 고려한 전역 움직임 보상순차주사화 방법
DE102004026782A1 (de) * 2004-06-02 2005-12-29 Infineon Technologies Ag Verfahren und Vorrichtung zur rechnergestützten Bewegungsschätzung in mindestens zwei zeitlich aufeinander folgenden digitalen Bildern, computerlesbares Speichermedium und Computerprogramm-Element
US7440008B2 (en) * 2004-06-15 2008-10-21 Corel Tw Corp. Video stabilization method
GB0500174D0 (en) * 2005-01-06 2005-02-16 Kokaram Anil Method for estimating motion and occlusion
JP4774857B2 (ja) 2005-08-11 2011-09-14 カシオ計算機株式会社 画像処理装置及びプログラム
WO2008034164A1 (en) * 2006-09-22 2008-03-27 Adelaide Research & Innovation Pty Ltd Flow analysis
US8355534B2 (en) * 2008-10-15 2013-01-15 Spinella Ip Holdings, Inc. Digital processing method and system for determination of optical flow
GB2510709B (en) * 2008-10-15 2015-02-11 Spinella Ip Holdings Inc Digital processing method and system for determination of optical flow
US8315434B2 (en) * 2009-01-06 2012-11-20 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Absolute tracking in a sub-pixel range
US8259809B2 (en) * 2009-01-12 2012-09-04 Mediatek Singapore Pte Ltd. One step sub-pixel motion estimation
US8896715B2 (en) * 2010-02-11 2014-11-25 Microsoft Corporation Generic platform video image stabilization
US20110255599A1 (en) * 2010-04-15 2011-10-20 Sony Corporation Apparatus and method for motion estimation
US9014421B2 (en) * 2011-09-28 2015-04-21 Qualcomm Incorporated Framework for reference-free drift-corrected planar tracking using Lucas-Kanade optical flow
DE102012023060A1 (de) 2012-11-24 2014-06-12 Connaught Electronics Ltd. Verfahren zum Detektieren eines beweglichen Objekts mithilfe eines Histogramms anhand von Bildern einer Kamera und Kamerasystem für ein Kraftfahrzeug
US9129399B2 (en) * 2013-03-11 2015-09-08 Adobe Systems Incorporated Optical flow with nearest neighbor field fusion
CN103400346B (zh) * 2013-07-18 2016-12-28 天津大学 基于自适应的超像素导向自回归模型的视频超分辨率方法
CN103646421B (zh) * 2013-12-13 2016-08-17 贾金原 基于增强型PyrLK光流法的树木轻量化3D重建方法
CN104978728B (zh) * 2014-04-08 2017-11-14 南京理工大学 一种光流法的图像匹配系统
US9681150B2 (en) 2014-06-13 2017-06-13 Texas Instruments Incorporated Optical flow determination using pyramidal block matching
CN104239867B (zh) * 2014-09-17 2017-12-01 深圳市捷顺科技实业股份有限公司 车牌定位方法及系统
CN104331151B (zh) * 2014-10-11 2018-02-23 中国传媒大学 基于光流法的手势运动方向识别方法
EP3023938A1 (en) * 2014-11-21 2016-05-25 Thomson Licensing Method and apparatus for tracking the motion of image content in a video frames sequence using sub-pixel resolution motion estimation
CN104376741B (zh) * 2014-12-02 2017-03-22 深圳市捷顺科技实业股份有限公司 一种车位状态检测方法与系统
CN105100546A (zh) * 2014-12-31 2015-11-25 天津航天中为数据系统科技有限公司 运动估计方法及装置
CN104869387B (zh) * 2015-04-19 2017-01-11 中国传媒大学 基于光流法的双目图像最大视差获取方法
US10268901B2 (en) * 2015-12-04 2019-04-23 Texas Instruments Incorporated Quasi-parametric optical flow estimation
US10108864B2 (en) * 2015-12-29 2018-10-23 Texas Instruments Incorporated Stationary-vehicle structure from motion

Similar Documents

Publication Publication Date Title
JP2019504394A5 (ja)
US11341750B2 (en) Quasi-parametric optical flow estimation
JP7207875B2 (ja) ビデオ画像の背景クラッタの抑制
KR102070562B1 (ko) 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법
US9679412B2 (en) 3D face model reconstruction apparatus and method
US9916667B2 (en) Stereo matching apparatus and method through learning of unary confidence and pairwise confidence
KR101969623B1 (ko) 병렬 검출과 추적, 및/또는 그룹화된 피처 모션 시프트 추적을 이용한 얼굴 인식
DK2805305T3 (en) IMPACT TIME FROM IMAGE DETECTION
US20150221098A1 (en) Image processing device, image processing method, and program
JP2013532323A5 (ja)
RU2015137687A (ru) Система формирования изображений промежуточного вида
US10341634B2 (en) Method and apparatus for acquiring image disparity
JP2017535904A (ja) オブジェクト検出のためのシステム及び方法
JP2018513579A5 (ja)
JP2016198279A5 (ja)
US10242453B2 (en) Simultaneous localization and mapping initialization
WO2016151977A1 (ja) 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路
US10783704B2 (en) Dense reconstruction for narrow baseline motion observations
JP2013081078A (ja) 画像処理装置および方法、プログラム、並びに記録媒体
JP2017195458A5 (ja)
KR20140144961A (ko) 관심 영역 검출 장치 및 검출 방법
JP2015187782A (ja) 物体検出装置
Mohamed et al. Real-time moving objects tracking for mobile-robots using motion information
JP2017083232A (ja) 車両状態判定装置、表示処理装置および車両状態判定方法
Mahmoudi Multi-GPU based framework for real-time motion analysis and tracking in multi-user scenarios