JP2017156880A - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法 Download PDFInfo
- Publication number
- JP2017156880A JP2017156880A JP2016037954A JP2016037954A JP2017156880A JP 2017156880 A JP2017156880 A JP 2017156880A JP 2016037954 A JP2016037954 A JP 2016037954A JP 2016037954 A JP2016037954 A JP 2016037954A JP 2017156880 A JP2017156880 A JP 2017156880A
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- unit
- billboard
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 55
- 238000003672 processing method Methods 0.000 title claims description 3
- 238000003384 imaging method Methods 0.000 claims abstract description 12
- 238000004364 calculation method Methods 0.000 claims abstract description 10
- 239000002131 composite material Substances 0.000 claims abstract description 7
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 4
- 238000000034 method Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 11
- 239000011159 matrix material Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000011410 subtraction method Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
【課題】自由視点映像において仮想視点が任意の方向に移動した場合でも自然な表示を行う。
【解決手段】画像処理装置は、実空間内に定義された基準面に接する被写体を複数の視点から撮像することにより得られる画像を取得する取得部と、取得部によって取得された画像から、基準面と被写体とが接する基準面上の位置を算出する算出部と、取得部によって取得された画像から複数の視点に含まれない視点に対応する合成画像を合成する際に、算出部によって算出された位置に基づいて、取得部によって取得された画像に含まれる被写体の像を変形する変形部と、を備える。
【選択図】図2
Description
画像処理装置200における画像処理では、地表面(地面)や床面や壁面などの実空間内の表面を基準面として定義する。例えば、地面は2次元の面としてモデル化される。画像読み込み部202、204、206は、地面に接する人物を複数の異なる視点に配置されたカメラ1〜Nで撮像することにより得られる画像を取得する取得部として機能する。
カメラキャリブレーション部220は、ある時刻に撮影された画像におけるフィールド像の特徴的な点(例えば、テニスコートやサッカーグラウンドの白線の交点など)と実際の実空間におけるフィールド上の対応する点との対応付けを行う。ここで、被写体が一般的なスポーツ映像に含まれる場合は、コート等のサイズが規格化されているため、画像平面上の点が実空間内のフィールド上(世界座標系)のどの座標に対応するかを計算することが可能である。
背景差分部208、210、212は、Ii tの各画素を背景と前景との2つに分類することで、Ii tを背景と前景とに分離する。本実施の形態では、この分離は、例えば公知の背景差分法を使用して実現されてもよい。背景差分部208、210、212は、背景、前景とされた画素の値にそれぞれ0、1を割り当てる。この背景と前景との分離を行うことによって、人物を含むおおまかな領域が抽出可能である。背景差分部208、210、212は、前景として抽出された画素集合のうち連結する画素集合をマスクとして画像から抜き出すことでテクスチャを生成する。背景差分部208、210、212は、生成されたテクスチャをビルボードとして出力する。出力されるビルボードは、カメラで撮像された画像に含まれる人物の像に対応する。
ビルボード制御点決定部222、224、226は、各カメラのビルボードから、仮想視点に合わせたビルボード再構成のために利用するビルボード内部の画素(制御点)を設定または決定する。まずビルボード制御点決定部222、224、226は、ビルボードを抽象化した抽象化像を生成する。具体的には、ビルボード制御点決定部222、224、226は、ビルボードを構成するテクスチャの画素集合に対して公知の縮小処理を適用し、ビルボード内の人物の骨組みを、連結された画素集合(スケルトン)で表現する。
ビルボード姿勢推定部228は、背景差分部208、210、212で得られた人物領域の2値マスク(例えば、図4(b)に示される画像)から、フィールドと人物とが接するフィールド上の位置を算出する算出部として機能する。言い換えると、ビルボード姿勢推定部228は、2値マスクを利用して人物の姿勢を推定する。
と表される。
ビルボード姿勢推定部228は、全てのカメラの時刻tにおける2値マスクについて、式2を用いて、以下のとおりフィールド座標への射影および積算を行う。
ここで、Ftはフィールド座標のそれぞれにおける値を保持する行列であり、Ft(x”、y”)はフィールド座標(x”、y”)における値である。
ビルボード再構成部230は、背景差分部208で得られたビルボードとビルボード制御点決定部222で得られた制御点とビルボード姿勢推定部228で得られたビルボード基準図形とユーザ選択による仮想視点の情報とを基に、その仮想視点に最適なビルボードを構成する。ビルボード再構成部230は、画像読み込み部202によって取得された画像から仮想視点に対応する合成画像を合成する際に、ビルボード姿勢推定部228によって算出された接地位置に基づいて、ビルボードを変形する変形部として機能する。ビルボード再構成部232、234についても同様である。なお、本明細書では仮想視点を実際の視点から垂直方向に動かす場合について説明し、仮想視点の水平方向の移動については従来の手法と同様にビルボードの回転によって対応する。
図11は、画像処理装置200における一連の処理の流れを示すフローチャートである。画像処理装置200は、地面と接する人物の周りに設定された複数の視点のそれぞれに配置されたカメラなどの撮像装置から、人物の像を含む画像を取得する(S12)。画像処理装置200は、取得された画像のそれぞれから人物領域の2値マスクを抽出する(S14)。画像処理装置200は、抽出された2値マスクのそれぞれを実空間内のフィールドに射影する(S16)。画像処理装置200は、射影された像同士の重なりがより大きい部分の位置を接地位置として推定する(S18)。画像処理装置200は、カメラから取得した画像からビルボードを切り出し、そのビルボードに制御点を設定する(S20)。画像処理装置200は、推定された接地位置に基づいて、制御点の動かし方を決定する(S22)。画像処理装置200は、決定された動かし方で制御点を動かすことでビルボードを変形する(S24)。画像処理装置200は、変形後のビルボードを画像に合成し、仮想視点からの画像として出力する(S26)。
Claims (10)
- 実空間内に定義された基準面に接する被写体を複数の視点から撮像することにより得られる画像を取得する取得部と、
前記取得部によって取得された画像から、前記基準面と前記被写体とが接する前記基準面上の位置を算出する算出部と、
前記取得部によって取得された画像から前記複数の視点に含まれない視点に対応する合成画像を合成する際に、前記算出部によって算出された位置に基づいて、前記取得部によって取得された画像に含まれる前記被写体の像を変形する変形部と、を備えることを特徴とする画像処理装置。 - 前記変形部による変形の結果得られる像を前記合成画像に合成する合成部をさらに備えることを特徴とする請求項1に記載の画像処理装置。
- 前記変形部は、前記複数の視点に含まれない視点と前記基準面との位置関係に基づいて、前記算出部によって算出された位置に対応する前記合成画像上の対応位置を算出し、算出された対応位置に基づいて前記被写体の像を変形することを特徴とする請求項1または2に記載の画像処理装置。
- 前記被写体の像に少なくともひとつの制御点を設定する設定部をさらに備え、
前記変形部は、前記設定部によって設定された少なくともひとつの制御点を動かすことで前記被写体の像を変形し、
動かされた後の少なくともひとつの制御点の位置は算出された対応位置を含むことを特徴とする請求項3に記載の画像処理装置。 - 前記基準面は前記実空間内の表面であることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- 前記被写体の像を抽象化した抽象化像を生成する抽象化部をさらに備え、
前記設定部は、前記抽象化部により生成された抽象化像に対して制御点を設定することを特徴とする請求項4に記載の画像処理装置。 - 前記設定部は、前記抽象化部により生成された抽象化像の分岐部または端部もしくはその両方を制御点として設定することを特徴とする請求項6に記載の画像処理装置。
- 前記算出部は、前記複数の視点のそれぞれから前記被写体を撮像することにより得られる画像と前記基準面との対応関係に基づいて、前記基準面と前記被写体とが接する前記基準面上の位置を算出することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
- 実空間内に定義された基準面に接する被写体を複数の視点から撮像することにより得られる画像を取得することと、
前記取得された画像から、前記基準面と前記被写体とが接する前記基準面上の位置を算出することと、
前記取得された画像から前記複数の視点に含まれない視点に対応する合成画像を合成する際に、前記算出された位置に基づいて、前記取得された画像に含まれる前記被写体の像を変形することと、を含むことを特徴とする画像処理方法。 - 実空間内に定義された基準面に接する被写体を複数の視点から撮像することにより得られる画像を取得する機能と、
前記取得された画像から、前記基準面と前記被写体とが接する前記基準面上の位置を算出する機能と、
前記取得された画像から前記複数の視点に含まれない視点に対応する合成画像を合成する際に、前記算出された位置に基づいて、前記取得された画像に含まれる前記被写体の像を変形する機能と、をコンピュータに実現させるためのコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016037954A JP6555755B2 (ja) | 2016-02-29 | 2016-02-29 | 画像処理装置、画像処理方法および画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016037954A JP6555755B2 (ja) | 2016-02-29 | 2016-02-29 | 画像処理装置、画像処理方法および画像処理プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017156880A true JP2017156880A (ja) | 2017-09-07 |
JP2017156880A5 JP2017156880A5 (ja) | 2018-05-31 |
JP6555755B2 JP6555755B2 (ja) | 2019-08-07 |
Family
ID=59809748
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016037954A Active JP6555755B2 (ja) | 2016-02-29 | 2016-02-29 | 画像処理装置、画像処理方法および画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6555755B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019053790A1 (ja) * | 2017-09-12 | 2019-03-21 | 株式会社Splyza | 位置座標算出方法及び位置座標算出装置 |
JP2020136754A (ja) * | 2019-02-14 | 2020-08-31 | Kddi株式会社 | 共有システム |
CN112313704A (zh) * | 2018-05-22 | 2021-02-02 | 索尼公司 | 基于地平面检测从图像序列中恢复人类对象的缺失脚部 |
JP2022048963A (ja) * | 2020-09-15 | 2022-03-28 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 路側計算装置に用いる障害物3次元位置の取得方法、装置、電子デバイス、コンピュータ可読記憶媒体、及びコンピュータプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009232310A (ja) * | 2008-03-25 | 2009-10-08 | Fujitsu Ltd | 車両用画像処理装置、車両用画像処理方法、車両用画像処理プログラム |
JP2009236569A (ja) * | 2008-03-26 | 2009-10-15 | Zynas Corp | 接地点推定装置、接地点推定方法、動線表示システムおよびサーバ |
JP2011170487A (ja) * | 2010-02-17 | 2011-09-01 | Kddi Corp | 大空間カメラ配置における幾何情報に基づく仮想視点画像生成方法およびプログラム |
JP2014126906A (ja) * | 2012-12-25 | 2014-07-07 | Casio Comput Co Ltd | 表示制御装置、表示制御システム、表示制御方法及びプログラム |
-
2016
- 2016-02-29 JP JP2016037954A patent/JP6555755B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009232310A (ja) * | 2008-03-25 | 2009-10-08 | Fujitsu Ltd | 車両用画像処理装置、車両用画像処理方法、車両用画像処理プログラム |
JP2009236569A (ja) * | 2008-03-26 | 2009-10-15 | Zynas Corp | 接地点推定装置、接地点推定方法、動線表示システムおよびサーバ |
JP2011170487A (ja) * | 2010-02-17 | 2011-09-01 | Kddi Corp | 大空間カメラ配置における幾何情報に基づく仮想視点画像生成方法およびプログラム |
JP2014126906A (ja) * | 2012-12-25 | 2014-07-07 | Casio Comput Co Ltd | 表示制御装置、表示制御システム、表示制御方法及びプログラム |
Non-Patent Citations (2)
Title |
---|
原 健翔、外2名: ""多視点映像における人物行動認識 ハフ変換に基づく投票処理を用いた行動認識と位置推定の同時処理"", 画像ラボ, vol. 25, no. 11, JPN6019006171, 10 November 2014 (2014-11-10), JP, pages 14 - 20, ISSN: 0003984149 * |
大城 英裕、外4名: ""フィールド補助平面上の多視点投影交差領域生成からの選手位置推定"", 電気学会研究会資料, JPN6019006172, 20 February 2009 (2009-02-20), JP, pages 47 - 52, ISSN: 0003984150 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019053790A1 (ja) * | 2017-09-12 | 2019-03-21 | 株式会社Splyza | 位置座標算出方法及び位置座標算出装置 |
JPWO2019053790A1 (ja) * | 2017-09-12 | 2020-11-12 | 株式会社Splyza | 位置座標算出方法及び位置座標算出装置 |
JP6989877B2 (ja) | 2017-09-12 | 2022-01-12 | 株式会社Splyza | 位置座標算出方法及び位置座標算出装置 |
CN112313704A (zh) * | 2018-05-22 | 2021-02-02 | 索尼公司 | 基于地平面检测从图像序列中恢复人类对象的缺失脚部 |
JP2021526254A (ja) * | 2018-05-22 | 2021-09-30 | ソニーグループ株式会社 | 地面検出に基づく画像シーケンスからの人間オブジェクトの消失している足の回復 |
JP7152705B2 (ja) | 2018-05-22 | 2022-10-13 | ソニーグループ株式会社 | 地面検出に基づく画像シーケンスからの人間オブジェクトの消失している足の回復 |
CN112313704B (zh) * | 2018-05-22 | 2024-10-22 | 索尼公司 | 基于地平面检测从图像序列中恢复人类对象的缺失脚部 |
JP2020136754A (ja) * | 2019-02-14 | 2020-08-31 | Kddi株式会社 | 共有システム |
JP7064456B2 (ja) | 2019-02-14 | 2022-05-10 | Kddi株式会社 | 共有システム及び遠隔側装置 |
JP2022048963A (ja) * | 2020-09-15 | 2022-03-28 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 路側計算装置に用いる障害物3次元位置の取得方法、装置、電子デバイス、コンピュータ可読記憶媒体、及びコンピュータプログラム |
US11694445B2 (en) | 2020-09-15 | 2023-07-04 | Apollo Intelligent Connectivity (Beijing) Technology Co., Ltd. | Obstacle three-dimensional position acquisition method and apparatus for roadside computing device |
JP7422105B2 (ja) | 2020-09-15 | 2024-01-25 | 阿波▲羅▼智▲聯▼(北京)科技有限公司 | 路側計算装置に用いる障害物3次元位置の取得方法、装置、電子デバイス、コンピュータ可読記憶媒体、及びコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6555755B2 (ja) | 2019-08-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11217006B2 (en) | Methods and systems for performing 3D simulation based on a 2D video image | |
US10417829B2 (en) | Method and apparatus for providing realistic 2D/3D AR experience service based on video image | |
CN110889890A (zh) | 图像处理方法及装置、处理器、电子设备及存储介质 | |
JP7080586B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
EP3091510B1 (en) | Method and system for producing output images | |
CN109906600B (zh) | 模拟景深 | |
JP6555755B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US10453244B2 (en) | Multi-layer UV map based texture rendering for free-running FVV applications | |
JP2020008972A (ja) | 情報処理装置、情報処理方法及びプログラム | |
US11847735B2 (en) | Information processing apparatus, information processing method, and recording medium | |
KR20210032549A (ko) | 화상 처리 장치, 화상 처리 방법 및 컴퓨터 프로그램 | |
CN113393566A (zh) | 使用先验深度场景进行的基于深度的3d重建 | |
JP2008217593A (ja) | 被写体領域抽出装置及び被写体領域抽出プログラム | |
JP2016071682A (ja) | オブジェクト配置装置、オブジェクト配置方法、及び、プログラム | |
JP6799468B2 (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
CN114399610B (zh) | 基于引导先验的纹理映射系统和方法 | |
US10902554B2 (en) | Method and system for providing at least a portion of content having six degrees of freedom motion | |
Inamoto et al. | Free viewpoint video synthesis and presentation of sporting events for mixed reality entertainment | |
Dayrit et al. | Increasing pose comprehension through augmented reality reenactment | |
US20220309733A1 (en) | Surface texturing from multiple cameras | |
WO2022091811A1 (ja) | 画像処理装置、画像処理方法、画像処理システム | |
KR20120118462A (ko) | 이미지 기반의 비주얼 헐에서의 오목 표면 모델링 | |
US11120606B1 (en) | Systems and methods for image texture uniformization for multiview object capture | |
JP2019057070A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
Calagari et al. | Sports VR content generation from regular camera feeds |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180411 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190218 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190227 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190403 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190703 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190704 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6555755 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |