JP2019504394A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2019504394A5 JP2019504394A5 JP2018528997A JP2018528997A JP2019504394A5 JP 2019504394 A5 JP2019504394 A5 JP 2019504394A5 JP 2018528997 A JP2018528997 A JP 2018528997A JP 2018528997 A JP2018528997 A JP 2018528997A JP 2019504394 A5 JP2019504394 A5 JP 2019504394A5
- Authority
- JP
- Japan
- Prior art keywords
- processing system
- image processing
- frame
- image
- pbm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003287 optical Effects 0.000 claims 8
- 238000004364 calculation method Methods 0.000 claims 4
- 238000007670 refining Methods 0.000 claims 4
- AAOVKJBEBIDNHE-UHFFFAOYSA-N Diazepam Chemical compound N=1CC(=O)N(C)C2=CC=C(Cl)C=C2C=1C1=CC=CC=C1 AAOVKJBEBIDNHE-UHFFFAOYSA-N 0.000 claims 3
- 230000002123 temporal effect Effects 0.000 claims 3
- 238000004458 analytical method Methods 0.000 claims 2
- 238000011156 evaluation Methods 0.000 claims 2
- 238000001914 filtration Methods 0.000 claims 2
- 239000011159 matrix material Substances 0.000 claims 2
- 238000001514 detection method Methods 0.000 claims 1
- 238000005259 measurement Methods 0.000 claims 1
Claims (24)
- 画像処理システムであって、
処理ユニットであって、
整数画素解像度を有するベースピラミッドレベルにおいて初期オプティカルフロー(OF)推定値を生成するために、ピラミッド状ブロックマッチング(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間でOF推定を実施することと、
分数画素解像度を有する修正されたOF推定値を提供するために、変形Lucas−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定値を精密化することと、
を実装する、前記処理ユニット、
を含む、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記PBM法が、予測子と動き平滑性因子とを用いる階層式コース・ツー・ファインサーチ戦略と、画素記述に対するバイナリセンサス変換と、コスト関数としてのハミング距離とを利用する、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記PBM法が、各々の全体のパクセルに対する予測子の同じセットを用いる処理のパクセル順と、前記予測子のセットに対する事前評価戦略とを利用する、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記PBM法が、前記PBM法のブロックマッチングステップの間に、空間的勾配と時間的勾配との事前計算を用いる、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記処理ユニットがハードウェアアクセラレータ(HWA)によって部分的に実装され、前記HWAが、前記映像の第1のフレームと前記映像の第2のフレームとからピクチャデータをグローイングウィンドウ様式で記憶するための1つのメモリと、前記映像の第2のフレームから前記ピクチャのスライディングウィンドウを記憶するためのもう1つのメモリとを備える、ローカルメモリの2つのレベルの組み合わせを利用する、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記変形LK法が、画像ワーピングステップを除くものであり、前記修正されたOF推定値を計算することを空間的及び時間的勾配計算のサブタスクとその他の演算とに分離し、OF精密化に対して低減精度勾配データを用い、行列反転を含む計算タスクを実施するために整数演算のみを用いる、画像処理システム。 - 請求項2に記載の画像処理システムであって、
前記処理ユニットが、前記サーチ戦略の各シーケンシャルサーチに対する前記コスト関数に、動き平滑性因子と、メディアンの予測子値と候補の画素との間の距離とを組み合わせる動きベクトルコスト値を含むように、プロセッサを構成する、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記少なくとも1つのパスが、前記PBM法が終了した後の前記ベースピラミッドレベルを含む前記PBM法によって用いられるサーチピラミッドの全てのピラミッドレベルにおいて前記変形LK法を適用する単一パスから構成される、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記修正されたOF推定値からインパルス性ノイズを除去するために、疑似1D分離可能メディアンフィルタを用いる事後処理フィルタリングのための事後処理フィルタを更に含む、画像処理システム。 - 請求項1に記載の画像処理システムであって、
前記映像の第1のフレームが基準画像であり、前記映像の第2のフレームが疑問画像である、画像処理システム。 - 画像処理システムであって、
整数画素解像度を有するベースピラミッドレベルにおいて初期光学フロー(OF)推定値を生成するためにピラミッド状ブロック整合(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間で光学フロー(OF)推定を実行する回路要素と、
分数画素解像度を有する修正OF推定値を生成するために変形Luca−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定値を精緻化する回路要素と、
を含む、画像処理システム。 - 画像処理システムであって、
整数画素解像度を有するベースピラミッドレベルにおいて初期光学フロー(OF)推定値を生成するためにピラミッド状ブロック整合(PBM)法を用いて映像の第1のフレームと映像の第2のフレームとの間で光学フロー(OF)推定を実行する手段と、
分数画素解像度を有する修正OF推定値を生成するために変形Luca−Kanade(LK)法の少なくとも1つのパスを用いて前記初期OF推定値を精緻化する手段と、
を含む、画像処理システム。 - オプティカルフロー(OF)推定の方法であって、
ピラミッド状ブロックマッチング(PBM)法を変形Lucas−Kanade(LK)法と組み合わせる、記憶された準パラメトリックオプティカルフロー測定(QP−OFM)アルゴリズムを実装することを含み、
前記QP−OFMアルゴリズムが、
整数画素解像度を有するベースピラミッドレベルで初期OF推定値を生成するために、前記PBM法を用いて映像の第1のフレームと映像の第2のフレームとの間でオプティカルフロー(OF)を推定することと、
分数画素解像度を有する修正されたOF推定値を提供するために、前記変形LK法の少なくとも1つのパスを用いて前記初期OF推定値を精密化することと、
を実行する、方法。 - 請求項13に記載の方法であって、
前記PBM法が、予測子と動き平滑性因子とを用いる階層式コース・ツー・ファインサーチ戦略と、画素記述に対するバイナリセンサス変換と、コスト関数としてのハミング距離とを利用する、方法。 - 請求項14に記載の方法であって、
前記方法が、前記サーチ戦略の各シーケンシャルサーチに対する前記コスト関数に、動き平滑性因子と、メディアン予測子値と候補画素との間の距離とを組み合わせる動きベクトルコスト値を含む、方法。 - 請求項13に記載の方法であって、
前記PBM法が、各全体のパクセルに対する予測子の同じセットを用いる処理のパクセル順と、前記予測子のセットに対する事前評価戦略とを利用する、方法。 - 請求項13に記載の方法であって、
前記PBM法が、前記PBM法のブロックマッチングステップの間に、空間的勾配と時間的勾配との事前計算を用いる、方法。 - 請求項13に記載の方法であって、
前記変形LK法が、画像ワーピングステップを除くものであり、前記修正されたOF推定値を計算することを空間的勾配計算のサブタスクとその他の演算とに分離し、OF精密化に対して低減精度勾配データを用い、行列反転を含む計算タスクを実施するために整数演算のみを用いる、方法。 - 請求項13に記載の方法であって、
前記QP−OFMアルゴリズムが、ハードウェアアクセラレータ(HWA)を含むシステム・オン・チップ(SOC)として少なくとも部分的に実装され、前記HWAが、前記映像の第1のフレームと前記映像の第2のフレームとからピクチャデータをグローイングウィンドウ様式で記憶するための1つのメモリと、前記映像の第2のフレームから前記ピクチャのスライディングウィンドウを記憶するためのもう1つのメモリとを備える、ローカルメモリの2つのレベルの組み合わせを利用する、方法。 - 請求項13に記載の方法であって、
前記方法が、場面分析を生成するために構成されるプロセッサを含む画像処理システムによって実装される、方法。 - 請求項20に記載の方法であって、
前記場面分析が、障害物検出又は衝突回避自動緊急ブレーキのために先進運転支援システム(ADAS)によって用いられる、方法。 - 請求項13に記載の方法であって、
前記修正されたOF推定値からインパルス性ノイズを除去するために疑似1D分離可能メディアンフィルタを用いる事後処理フィルタに対する事後処理フィルタリングを更に含む、方法。 - 請求項13に記載の方法であって、
前記少なくとも1つのパスが、前記PBM法が終了した後の前記ベースピラミッドレベルを含む前記PBM法によって用いられるサーチピラミッドの全てのピラミッドレベルにおいて前記変形LK法を適用する単一パスから構成される、方法。 - 請求項13に記載の方法であって、
前記映像の第1のフレームが基準画像であり、前記映像の第2のフレームが疑問画像である、画像処理システム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IN6508/CHE/2015 | 2015-12-04 | ||
IN6508CH2015 | 2015-12-04 | ||
US15/081,118 US10268901B2 (en) | 2015-12-04 | 2016-03-25 | Quasi-parametric optical flow estimation |
US15/081,118 | 2016-03-25 | ||
PCT/US2016/064982 WO2017096384A1 (en) | 2015-12-04 | 2016-12-05 | Quasi-parametric optical flow estimation |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019504394A JP2019504394A (ja) | 2019-02-14 |
JP2019504394A5 true JP2019504394A5 (ja) | 2020-01-23 |
JP7004314B2 JP7004314B2 (ja) | 2022-01-21 |
Family
ID=58799177
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018528997A Active JP7004314B2 (ja) | 2015-12-04 | 2016-12-05 | 準パラメトリックオプティカルフロー推定 |
Country Status (4)
Country | Link |
---|---|
US (2) | US10268901B2 (ja) |
EP (1) | EP3384466B1 (ja) |
JP (1) | JP7004314B2 (ja) |
CN (2) | CN108352074B (ja) |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9311690B2 (en) * | 2014-03-11 | 2016-04-12 | Adobe Systems Incorporated | Video denoising using optical flow |
US10268901B2 (en) * | 2015-12-04 | 2019-04-23 | Texas Instruments Incorporated | Quasi-parametric optical flow estimation |
US10715818B2 (en) * | 2016-08-04 | 2020-07-14 | Intel Corporation | Techniques for hardware video encoding |
US10621446B2 (en) * | 2016-12-22 | 2020-04-14 | Texas Instruments Incorporated | Handling perspective magnification in optical flow processing |
US10229534B2 (en) * | 2017-01-10 | 2019-03-12 | Ditto Technologies, Inc. | Modeling of a user's face |
US10824877B2 (en) * | 2017-06-29 | 2020-11-03 | Texas Instruments Incorporated | Hierarchical data organization for dense optical flow processing in a computer vision system |
US10467765B2 (en) * | 2017-06-29 | 2019-11-05 | Texas Instruments Incorporated | Dense optical flow processing in a computer vision system |
US11070796B2 (en) * | 2018-09-28 | 2021-07-20 | Qualcomm Incorporated | Ultimate motion vector expression based pruning for video coding |
WO2020084473A1 (en) | 2018-10-22 | 2020-04-30 | Beijing Bytedance Network Technology Co., Ltd. | Multi- iteration motion vector refinement |
WO2020084476A1 (en) | 2018-10-22 | 2020-04-30 | Beijing Bytedance Network Technology Co., Ltd. | Sub-block based prediction |
CN109544520B (zh) * | 2018-11-09 | 2023-08-18 | 福建和盛高科技产业有限公司 | 一种视频图像扭曲自动检测方法 |
CN118870018A (zh) | 2018-11-12 | 2024-10-29 | 北京字节跳动网络技术有限公司 | 帧间预测的带宽控制方法 |
CN113170171B (zh) | 2018-11-20 | 2024-04-12 | 北京字节跳动网络技术有限公司 | 组合帧间帧内预测模式的预测细化 |
CN113056914B (zh) | 2018-11-20 | 2024-03-01 | 北京字节跳动网络技术有限公司 | 基于部分位置的差计算 |
CN109598744B (zh) * | 2018-11-29 | 2020-12-08 | 广州市百果园信息技术有限公司 | 一种视频跟踪的方法、装置、设备和存储介质 |
EP3714290B1 (en) * | 2019-01-30 | 2022-08-03 | Baidu.com Times Technology (Beijing) Co., Ltd. | Lidar localization using 3d cnn network for solution inference in autonomous driving vehicles |
WO2020177755A1 (en) | 2019-03-06 | 2020-09-10 | Beijing Bytedance Network Technology Co., Ltd. | Usage of converted uni-prediction candidate |
WO2020200269A1 (en) * | 2019-04-02 | 2020-10-08 | Beijing Bytedance Network Technology Co., Ltd. | Decoder side motion vector derivation |
CN113767634B (zh) * | 2019-05-07 | 2023-06-09 | 北京字节跳动网络技术有限公司 | 利用细化的帧间预测的统一计算方法 |
US11430134B2 (en) * | 2019-09-03 | 2022-08-30 | Nvidia Corporation | Hardware-based optical flow acceleration |
US11176682B2 (en) * | 2019-11-27 | 2021-11-16 | Nvidia Corporation | Enhanced optical flow estimation using a varied scan order |
US11694341B2 (en) | 2019-12-23 | 2023-07-04 | Texas Instmments Incorporated | Cascaded architecture for disparity and motion prediction with block matching and convolutional neural network (CNN) |
CN113538525B (zh) * | 2021-05-28 | 2023-12-05 | 北京旷视科技有限公司 | 光流估计方法、模型训练方法及对应装置 |
CN113379808B (zh) * | 2021-06-21 | 2022-08-12 | 昆明理工大学 | 一种多波段太阳图像配准的方法 |
CN114363703B (zh) * | 2022-01-04 | 2024-01-23 | 上海哔哩哔哩科技有限公司 | 视频处理方法、装置及系统 |
Family Cites Families (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0026846D0 (en) | 2000-11-03 | 2000-12-20 | Clayton John C | Motion compensation of images |
JP3776094B2 (ja) | 2002-05-09 | 2006-05-17 | 松下電器産業株式会社 | 監視装置、監視方法および監視用プログラム |
WO2004114063A2 (en) * | 2003-06-13 | 2004-12-29 | Georgia Tech Research Corporation | Data reconstruction using directional interpolation techniques |
US7558320B2 (en) * | 2003-06-13 | 2009-07-07 | Microsoft Corporation | Quality control in frame interpolation with motion analysis |
US7778466B1 (en) * | 2003-12-02 | 2010-08-17 | Hrl Laboratories, Llc | System and method for processing imagery using optical flow histograms |
US20050162565A1 (en) | 2003-12-29 | 2005-07-28 | Arcsoft, Inc. | Slow motion processing of digital video data |
KR100995398B1 (ko) * | 2004-01-20 | 2010-11-19 | 삼성전자주식회사 | 수직 및 수평 방향의 패턴을 고려한 전역 움직임 보상순차주사화 방법 |
DE102004026782A1 (de) * | 2004-06-02 | 2005-12-29 | Infineon Technologies Ag | Verfahren und Vorrichtung zur rechnergestützten Bewegungsschätzung in mindestens zwei zeitlich aufeinander folgenden digitalen Bildern, computerlesbares Speichermedium und Computerprogramm-Element |
US7440008B2 (en) * | 2004-06-15 | 2008-10-21 | Corel Tw Corp. | Video stabilization method |
GB0500174D0 (en) * | 2005-01-06 | 2005-02-16 | Kokaram Anil | Method for estimating motion and occlusion |
JP4774857B2 (ja) | 2005-08-11 | 2011-09-14 | カシオ計算機株式会社 | 画像処理装置及びプログラム |
WO2008034164A1 (en) * | 2006-09-22 | 2008-03-27 | Adelaide Research & Innovation Pty Ltd | Flow analysis |
US8355534B2 (en) * | 2008-10-15 | 2013-01-15 | Spinella Ip Holdings, Inc. | Digital processing method and system for determination of optical flow |
GB2510709B (en) * | 2008-10-15 | 2015-02-11 | Spinella Ip Holdings Inc | Digital processing method and system for determination of optical flow |
US8315434B2 (en) * | 2009-01-06 | 2012-11-20 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Absolute tracking in a sub-pixel range |
US8259809B2 (en) * | 2009-01-12 | 2012-09-04 | Mediatek Singapore Pte Ltd. | One step sub-pixel motion estimation |
US8896715B2 (en) * | 2010-02-11 | 2014-11-25 | Microsoft Corporation | Generic platform video image stabilization |
US20110255599A1 (en) * | 2010-04-15 | 2011-10-20 | Sony Corporation | Apparatus and method for motion estimation |
US9014421B2 (en) * | 2011-09-28 | 2015-04-21 | Qualcomm Incorporated | Framework for reference-free drift-corrected planar tracking using Lucas-Kanade optical flow |
DE102012023060A1 (de) | 2012-11-24 | 2014-06-12 | Connaught Electronics Ltd. | Verfahren zum Detektieren eines beweglichen Objekts mithilfe eines Histogramms anhand von Bildern einer Kamera und Kamerasystem für ein Kraftfahrzeug |
US9129399B2 (en) * | 2013-03-11 | 2015-09-08 | Adobe Systems Incorporated | Optical flow with nearest neighbor field fusion |
CN103400346B (zh) * | 2013-07-18 | 2016-12-28 | 天津大学 | 基于自适应的超像素导向自回归模型的视频超分辨率方法 |
CN103646421B (zh) * | 2013-12-13 | 2016-08-17 | 贾金原 | 基于增强型PyrLK光流法的树木轻量化3D重建方法 |
CN104978728B (zh) * | 2014-04-08 | 2017-11-14 | 南京理工大学 | 一种光流法的图像匹配系统 |
US9681150B2 (en) | 2014-06-13 | 2017-06-13 | Texas Instruments Incorporated | Optical flow determination using pyramidal block matching |
CN104239867B (zh) * | 2014-09-17 | 2017-12-01 | 深圳市捷顺科技实业股份有限公司 | 车牌定位方法及系统 |
CN104331151B (zh) * | 2014-10-11 | 2018-02-23 | 中国传媒大学 | 基于光流法的手势运动方向识别方法 |
EP3023938A1 (en) * | 2014-11-21 | 2016-05-25 | Thomson Licensing | Method and apparatus for tracking the motion of image content in a video frames sequence using sub-pixel resolution motion estimation |
CN104376741B (zh) * | 2014-12-02 | 2017-03-22 | 深圳市捷顺科技实业股份有限公司 | 一种车位状态检测方法与系统 |
CN105100546A (zh) * | 2014-12-31 | 2015-11-25 | 天津航天中为数据系统科技有限公司 | 运动估计方法及装置 |
CN104869387B (zh) * | 2015-04-19 | 2017-01-11 | 中国传媒大学 | 基于光流法的双目图像最大视差获取方法 |
US10268901B2 (en) * | 2015-12-04 | 2019-04-23 | Texas Instruments Incorporated | Quasi-parametric optical flow estimation |
US10108864B2 (en) * | 2015-12-29 | 2018-10-23 | Texas Instruments Incorporated | Stationary-vehicle structure from motion |
-
2016
- 2016-03-25 US US15/081,118 patent/US10268901B2/en active Active
- 2016-12-05 CN CN201680064214.2A patent/CN108352074B/zh active Active
- 2016-12-05 JP JP2018528997A patent/JP7004314B2/ja active Active
- 2016-12-05 CN CN202111171799.7A patent/CN113873258A/zh active Pending
- 2016-12-05 EP EP16871722.1A patent/EP3384466B1/en active Active
-
2019
- 2019-02-05 US US16/268,200 patent/US11341750B2/en active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019504394A5 (ja) | ||
US11341750B2 (en) | Quasi-parametric optical flow estimation | |
JP7207875B2 (ja) | ビデオ画像の背景クラッタの抑制 | |
KR102070562B1 (ko) | 이벤트 기반 이미지 처리 장치 및 그 장치를 이용한 방법 | |
US9679412B2 (en) | 3D face model reconstruction apparatus and method | |
US9916667B2 (en) | Stereo matching apparatus and method through learning of unary confidence and pairwise confidence | |
KR101969623B1 (ko) | 병렬 검출과 추적, 및/또는 그룹화된 피처 모션 시프트 추적을 이용한 얼굴 인식 | |
DK2805305T3 (en) | IMPACT TIME FROM IMAGE DETECTION | |
US20150221098A1 (en) | Image processing device, image processing method, and program | |
JP2013532323A5 (ja) | ||
RU2015137687A (ru) | Система формирования изображений промежуточного вида | |
US10341634B2 (en) | Method and apparatus for acquiring image disparity | |
JP2017535904A (ja) | オブジェクト検出のためのシステム及び方法 | |
JP2018513579A5 (ja) | ||
JP2016198279A5 (ja) | ||
US10242453B2 (en) | Simultaneous localization and mapping initialization | |
WO2016151977A1 (ja) | 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路 | |
US10783704B2 (en) | Dense reconstruction for narrow baseline motion observations | |
JP2013081078A (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP2017195458A5 (ja) | ||
KR20140144961A (ko) | 관심 영역 검출 장치 및 검출 방법 | |
JP2015187782A (ja) | 物体検出装置 | |
Mohamed et al. | Real-time moving objects tracking for mobile-robots using motion information | |
JP2017083232A (ja) | 車両状態判定装置、表示処理装置および車両状態判定方法 | |
Mahmoudi | Multi-GPU based framework for real-time motion analysis and tracking in multi-user scenarios |