[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7504632B2 - 電子機器及びその制御方法 - Google Patents

電子機器及びその制御方法 Download PDF

Info

Publication number
JP7504632B2
JP7504632B2 JP2020044306A JP2020044306A JP7504632B2 JP 7504632 B2 JP7504632 B2 JP 7504632B2 JP 2020044306 A JP2020044306 A JP 2020044306A JP 2020044306 A JP2020044306 A JP 2020044306A JP 7504632 B2 JP7504632 B2 JP 7504632B2
Authority
JP
Japan
Prior art keywords
video
reference direction
display
playback
chapter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020044306A
Other languages
English (en)
Other versions
JP2021145297A5 (ja
JP2021145297A (ja
Inventor
潤 小山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020044306A priority Critical patent/JP7504632B2/ja
Priority to US17/197,726 priority patent/US11295530B2/en
Publication of JP2021145297A publication Critical patent/JP2021145297A/ja
Publication of JP2021145297A5 publication Critical patent/JP2021145297A5/ja
Application granted granted Critical
Publication of JP7504632B2 publication Critical patent/JP7504632B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、電子機器電子機器の制御方法、プログラムおよび記録媒体に関する。

近年、全方位画像、全天球画像といった、人間の視野角より広い範囲の映像を持つVR画像を撮影し、複数のVR動画を再生する技術がある。特許文献1では、シーンが切り替わるごとにユーザの設定した初期方向に応じた範囲は表示されることが開示されている。
特開2019-121224号公報
特許文献1では、ユーザがそれぞれのチャプタごとに初期方向を設定する必要がある。
本発明は、ユーザが再生開始前に表示範囲を設定しなくても、所望の表示範囲を表示可能にする表示制御装置の提供を目的とする。
上記課題を解決するために、本発明の電子機器は、
VR動画を再生可能な電子機器であって、
前記電子機器の姿勢情報を取得する第1の取得手段と、
前記VR動画の再生を開始するときに表示する表示範囲の基準となる方向である前記VR動画の基準方向を取得する第2の取得手段と、
前記VR動画を再生するとき、前記VR動画に含まれる各フレーム画像について、前記姿勢情報に対応する方向に基づく一部の範囲を画面に表示するよう制御する制御手段と、
第1のVR動画と、前記第1のVR動画とは異なる第2のVR動画とに対してパターンマッチング処理を実行し、共通の被写体を検出する検出手段と
前記第1のVR動画の基準方向である第1の基準方向および前記第1のVR動画の前記共通の被写体の方位の差分に基づいて、前記第2のVR動画の基準方向を第2の基準方向から、前記第2の基準方向とは異なる第3の基準方向に変更する変更手段と
を有し、
前記制御手段は、前記第1のVR動画の再生を終了した後、連続して前記第2のVR動画の再生を開始するとき、前記第2のVR動画の最初に表示されるフレーム画像のうち、前記第3の基準方向と前記第1のVR動画の再生を終了したときの前記姿勢情報に基づく一部の範囲を、前記画面に表示するように制御する
ことを特徴とする。
本発明によれば、ユーザが再生開始前に表示範囲を設定しなくても、所望の表示範囲を表示することができる。
デジタルカメラの外観図及びブロック図。 電子機器の外観図及びブロック図。 動画撮影再生処理を例示するフローチャート。 実施形態1の電子機器の基準方向設定処理を例示するフローチャート。 全方位映像における基準方向の設定概念図。 映像編集モードにおける表示例。 実施形態1における電子機器の再生処理を例示するフローチャート。 実施形態2におけるVR動画の再生処理を例示するフローチャート。 マッチング被写体による基準方向設定処理を例示するフローチャート。 VR動画の表示範囲を説明する図。 VR動画の表示範囲を説明する図。 VR動画の表示範囲を説明する図。 実施例1におけるVR動画の撮影時の状況例および表示範囲。 実施例2におけるVR動画の撮影時の状況例および表示範囲。
<実施形態1>
以下、図面を参照して本発明の好適な実施形態を説明する。図1(a)は、電子機器であるデジタルカメラ100(撮像装置)の前面斜視図(外観図)である。図1(b)は、デジタルカメラ100の背面斜視図(外観図)である。デジタルカメラ100は、全方位カメラ(全天球カメラ)である。
バリア102aはデジタルカメラ100の前方を撮影範囲とした前方カメラ部のための保護窓である。前方カメラ部は、例えば、デジタルカメラ100の前側の上下左右180度以上の広範囲を撮影範囲とする広角カメラ部である。バリア102bは、デジタルカメラ100の後方を撮影範囲とした後方カメラ部のための保護窓である。後方カメラ部は、例えば、デジタルカメラ100の後ろ側の上下左右180度以上の広範囲を撮影範囲とする広角カメラ部である。
表示部28は各種情報を表示する。シャッターボタン61は撮影指示を行うための操作部(操作部材)である。モード切替スイッチ60は各種モードを切り替えるための操作部である。接続I/F25は、接続ケーブルをデジタルカメラ100に接続するためのコネクタであり、接続ケーブルを用いて、スマートフォン、パーソナルコンピュータ、テレビなどの外部機器がデジタルカメラ100に接続される。操作部70は、ユーザからの各種操作を受け付ける各種スイッチ、ボタン、ダイヤル、タッチセンサ等である。電源スイッチ72は、電源のオン/オフを切り替えるための押しボタンである。
発光部21は、発光ダイオード(LED)などの発光部材であり、デジタルカメラ100の各種状態を発光パターンや発光色によってユーザに通知する。固定部40は、例えば三脚ネジ穴であり、三脚などの固定器具でデジタルカメラ100を固定して設置するために使用される。
図1(c)は、デジタルカメラ100の構成例を示すブロック図である。
バリア102aは、前方カメラ部の撮像系(撮影レンズ103a、シャッター101a、撮像部22a等)を覆うことにより、当該撮像系の汚れや破損を防止する。撮影レンズ103aは、ズームレンズやフォーカスレンズを含むレンズ群であり、広角レンズである。シャッター101aは、撮像部22aへの被写体光の入射量を調整する絞り機能を有するシャッターである。撮像部22aは、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子(撮像センサ)である。A/D変換器23aは、撮像部22aから出力されるアナログ信号をデジタル信号に変換する。なお、バリア102aを設けずに、撮影レンズ103aの外側の面が露出し、撮影レンズ103aによって他の撮像系(シャッター101aや撮像部22a)の汚れや破損を防止してもよい。
バリア102bは、後方カメラ部の撮像系(撮影レンズ103b、シャッター101b、撮像部22b等)を覆うことにより、当該撮像系の汚れや破損を防止する。撮影レンズ103bは、ズームレンズやフォーカスレンズを含むレンズ群であり、広角レンズである。シャッター101bは、撮像部22bへの被写体光の入射量を調整する絞り機能を有するシャッターである。撮像部22bは、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。A/D変換器23bは、撮像部22bから出力されるアナログ信号をデジタル信号に変換する。なお、バリア102bを設けずに、撮影レンズ103bの外側の面が露出し、撮影レンズ103bによって他の撮像系(シャッター10
1bや撮像部22b)の汚れや破損を防止してもよい。
撮像部22aと撮像部22bにより、VR(Virtual Reality)画像が撮像される。VR画像とは、VR表示(表示モード「VRビュー」で表示)をすることのできる画像であるものとする。VR画像には、全方位カメラ(全天球カメラ)で撮像した全方位画像(全天球画像)や、表示部に一度に表示できる表示範囲より広い映像範囲(有効映像範囲)を持つパノラマ画像などが含まれるものとする。VR画像には、静止画だけでなく、動画やライブビュー画像(カメラからほぼリアルタイムで取得した画像)も含まれる。VR画像は、最大で上下方向(垂直角度、天頂からの角度、仰角、俯角、高度角、ピッチ角)360度、左右方向(水平角度、方位角度、ヨー角)360度の視野分の映像範囲(有効映像範囲)を持つ。
また、VR画像は、上下360度未満、左右360度未満であっても、通常のカメラで撮影可能な画角よりも広い広範な画角(視野範囲)、あるいは、表示部に一度に表示できる表示範囲より広い映像範囲(有効映像範囲)を持つ画像も含むものとする。例えば、左右方向(水平角度、方位角度)360度、天頂(zenith)を中心とした垂直角度210度の視野分(画角分)の被写体を撮影可能な全天球カメラで撮影された画像はVR画像の一種である。また、例えば、左右方向(水平角度、方位角度)180度、水平方向を中心とした垂直角度180度の視野分(画角分)の被写体を撮影可能なカメラで撮影された画像はVR画像の一種である。すなわち、上下方向と左右方向にそれぞれ160度(±80度)以上の視野分の映像範囲を有しており、人間が一度に視認できる範囲よりも広い映像範囲を有している画像はVR画像の一種である。
このVR画像をVR表示(表示モード「VRビュー」で表示)すると、左右回転方向に表示装置(VR画像を表示する表示装置)の姿勢を変化させることで、左右方向(水平回転方向)には継ぎ目のない全方位の映像を視聴することができる。上下方向(垂直回転方向)には、真上(天頂)から±105度の範囲では継ぎ目のない全方位の映像を視聴することができるが、真上から105度を超える範囲は映像が存在しないブランク領域となる。VR画像は、「映像範囲が仮想空間(VR空間)の少なくとも一部である画像」とも言える。
VR表示(VRビュー)とは、VR画像のうち、表示装置の姿勢に応じた視野範囲の映像を表示する、表示範囲を変更可能な表示方法(表示モード)である。表示装置であるヘッドマウントディスプレイ(HMD)を装着して視聴する場合には、ユーザの顔の向きに応じた視野範囲の映像を表示することになる。例えば、VR画像のうち、ある時点で左右方向に0度(特定の方位、例えば北)、上下方向に90度(天頂から90度、すなわち水平)を中心とした視野角(画角)の映像を表示しているものとする。この状態から、表示装置の姿勢を表裏反転させると(例えば、表示面を南向きから北向きに変更すると)、同じVR画像のうち、左右方向に180度(逆の方位、例えば南)、上下方向に90度(水平)を中心とした視野角の映像に、表示範囲が変更される。ユーザがHMDを視聴している場合で言えば、ユーザが顔を北から南に向ければ(すなわち後ろを向けば)、HMDに表示される映像も北の映像から南の映像に変わるということである。このようなVR表示によって、ユーザに、視覚的にあたかもVR画像内(VR空間内)のその場にいるような感覚(没入感)を提供することができる。VRゴーグル(ヘッドマウントアダプター)に装着されたスマートフォンは、HMDの一種と言える。
なお、VR画像の表示方法は上記に限るものではない。姿勢変化ではなく、タッチパネルや方向ボタンなどに対するユーザ操作に応じて、表示範囲を移動(スクロール)させてもよい。VR表示時(表示モード「VRビュー」時)において、姿勢変化による表示範囲の変更に加え、タッチパネルへのタッチムーブ、マウスなどへのドラッグ操作、方向ボタ
ンの押下などに応じて表示範囲を変更できるようにしてもよい。
画像処理部24は、A/D変換器23aやA/D変換器23bからのデータ、又は、メモリ制御部15からのデータに対し所定の画素補間、縮小といったリサイズ処理や色変換処理を行う。また、画像処理部24は、撮像した画像データを用いて所定の演算処理を行う。システム制御部50は、画像処理部24により得られた演算結果に基づいて露光制御や測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理などが行われる。画像処理部24は更に、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理を行う。
画像処理部24は、A/D変換器23aとA/D変換器23bから得られた2つの画像(2つの魚眼画像;2つの広角画像)に基本的な画像処理を施し、基本的な画像処理が施された2つの画像を合成する繋ぎ画像処理を行って、単一のVR画像を生成する。また、画像処理部24は、ライブビューでのVR表示時、あるいは再生時に、VR画像をVR表示するための画像切出し処理、拡大処理、歪み補正などを行い、メモリ32のVRAMへ処理結果を描画するレンダリングを行う。
繋ぎ画像処理では、画像処理部24は、2つの画像の一方を基準画像、他方を比較画像として用いて、パターンマッチング処理によりエリア毎に基準画像と比較画像のずれ量を算出し、エリア毎のずれ量に基づいて、2つの画像を繋ぐ繋ぎ位置を検出する。画像処理部24は、検出した繋ぎ位置と各光学系のレンズ特性とを考慮して、幾何学変換により各画像の歪みを補正し、各画像を全天球形式(全天球イメージ形式)の画像に変換する。そして、画像処理部24は、全天球形式の2つの画像を合成(ブレンド)することで、1つの全天球画像(VR画像)を生成する。生成された全天球画像は、例えば正距円筒図法を用いた画像であり、全天球画像の各画素の位置は球体(VR空間)の表面の座標と対応づけることができる。
A/D変換器23a,23bからの出力データは、画像処理部24及びメモリ制御部15を介して、或いは、画像処理部24を介さずにメモリ制御部15を介してメモリ32に書き込まれる。メモリ32は、撮像部22a,22bによって得られA/D変換器23a,23bによりデジタルデータに変換された画像データや、接続I/F25から外部のディスプレイに出力するための画像データを格納する。メモリ32は、所定枚数の静止画像や所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。
また、メモリ32は画像表示用のメモリ(ビデオメモリ)を兼ねている。メモリ32に格納されている画像表示用のデータは、接続I/F25から外部のディスプレイに出力することが可能である。撮像部22a、22bで撮像され、画像処理部24で生成されたVR画像であって、メモリ32に蓄積されたVR画像を外部ディスプレイに逐次転送して表示することで、電子ビューファインダとしての機能を実現でき、ライブビュー表示(LV表示)を行える。以下、ライブビュー表示で表示される画像をライブビュー画像(LV画像)と称する。また、メモリ32に蓄積されたVR画像を、通信部54を介して無線接続された外部機器(スマートフォンなど)に転送し、外部機器側で表示することでもライブビュー表示(リモートLV表示)を行える。
不揮発性メモリ56は、電気的に消去・記録可能な記録媒体としてのメモリであり、例えばEEPROM等である。不揮発性メモリ56には、システム制御部50の動作用の定数、プログラム等が記録される。ここでいうプログラムとは、各種処理を実行するためのコンピュータプログラムのことである。
システム制御部50は、少なくとも1つのプロセッサーまたは回路を有する制御部であり、デジタルカメラ100全体を制御する。システム制御部50は、前述した不揮発性メモリ56に記録されたプログラムを実行することで、各処理を実現する。システムメモリ52は例えばRAMであり、システムメモリ52には、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等が展開される。また、システム制御部50は、メモリ32、画像処理部24、メモリ制御部15等を制御することにより表示制御も行う。システムタイマー53は、各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。
モード切替スイッチ60、シャッターボタン61、操作部70、及び、電源スイッチ72は、システム制御部50に各種の動作指示を入力するために使用される。
モード切替スイッチ60は、システム制御部50の動作モードを静止画記録モード、動画撮影モード、再生モード、通信接続モード等のいずれかに切り替える。静止画記録モードに含まれるモードとして、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)、プログラムAEモードがある。また、撮影シーン別の撮影設定となる各種シーンモード、カスタムモード等がある。モード切替スイッチ60より、ユーザは、これらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で撮影モードの一覧画面に一旦切り替えた後に、表示部28に表示された複数のモードのいずれかに、他の操作部材を用いて選択的に切り替えるようにしてもよい。同様に、動画撮影モードにも複数のモードが含まれていてもよい。
シャッターボタン61は、第1シャッタースイッチ62と第2シャッタースイッチ64を備える。第1シャッタースイッチ62は、シャッターボタン61の操作途中、いわゆる半押し(撮影準備指示)でONとなり第1シャッタースイッチ信号SW1を発生する。システム制御部50は、第1シャッタースイッチ信号SW1により、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備動作を開始する。
第2シャッタースイッチ64は、シャッターボタン61の操作完了、いわゆる全押し(撮影指示)でONとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部50は、第2シャッタースイッチ信号SW2により、撮像部22a,22bからの信号読み出しから記録媒体90に画像データを書き込むまでの一連の撮影処理の動作を開始する。
なお、シャッターボタン61は全押しと半押しの2段階の操作ができる操作部材に限るものではなく、1段階の押下だけができる操作部材であってもよい。その場合、1段階の押下によって撮影準備動作と撮影処理が連続して行われる。これは、半押しと全押しが可能なシャッターボタンを全押しした場合(第1シャッタースイッチ信号SW1と第2シャッタースイッチ信号SW2とがほぼ同時に発生した場合)と同じ動作である。
操作部70は、表示部28に表示される種々の機能アイコンや選択肢を選択操作することなどにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして作用する。機能ボタンとしては、例えば終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタン等がある。例えば、メニューボタンが押されると各種の設定可能なメニュー画面が表示部28に表示される。ユーザは、表示部28に表示されたメニュー画面を見ながら操作部70を操作することで、直感的に各種設定を行うことができる。
電源スイッチ72は、電源のオン/オフを切り替えるための押しボタンである。電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量等の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体90を含む各部へ供給する。電源部30は、アルカリ電池やリチウム電池等の一次電池、NiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる。
記録媒体I/F18は、メモリーカードやハードディスク等の記録媒体90とのインターフェースである。記録媒体90は、撮影された画像を記録するためのメモリーカード等の記録媒体であり、半導体メモリや光ディスク、磁気ディスク等から構成される。記録媒体90は、デジタルカメラ100に対して着脱可能な交換記録媒体であってもよいし、デジタルカメラ100に内蔵された記録媒体であってもよい。
通信部54は、無線または有線ケーブルによって接続された外部機器との間で、映像信号や音声信号等の送受信を行う。通信部54は、無線LAN(Local Area Network)やインターネットにも接続可能である。通信部54は撮像部22a,22bで撮像した画像(LV画像を含む)や、記録媒体90に記録された画像を送信可能であり、外部機器から画像やその他の各種情報を受信することができる。
姿勢検知部55は重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部55で検知された姿勢に基づいて、撮像部22a,22bで撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像であるかを判別可能である。また、撮像部22a,22bで撮影された画像が、ヨー方向、ピッチ方向、ロール方向の3軸方向(回転方向)にデジタルカメラ100をどの程度傾けて撮影された画像であるかを判別可能である。システム制御部50は、姿勢検知部55で検知された姿勢に応じた向き情報を撮像部22a,22bで撮像されたVR画像の画像ファイルに付加したり、画像を回転(傾き補正(天頂補正)するように画像の向きを調整)して記録したりすることが可能である。加速度センサ、ジャイロセンサ、地磁気センサ、方位センサ、高度センサなどのうちの1つのセンサまたは複数のセンサの組み合わせを、姿勢検知部55として用いることができる。姿勢検知部55を構成する加速度センサ、ジャイロセンサ、方位センサ等を用いて、デジタルカメラ100の動き(パン、チルト、持ち上げ、静止しているか否か等)を検知することも可能である。
マイク20は、動画であるVR画像(VR動画)の音声として記録されるデジタルカメラ100の周囲の音声を集音するマイクロフォンである。接続I/F25は、外部機器と接続して映像の送受信を行うための、HDMI(登録商標)ケーブルやUSBケーブルなどが接続される接続プラグである。
図2(a)は、電子機器の一種である表示制御装置200の外観図の例である。表示制御装置200は、例えばスマートフォンなどの表示装置である。ディスプレイ205は画像や各種情報を表示する表示部である。ディスプレイ205はタッチパネル206aと一体的に構成されており、ディスプレイ205の表示面へのタッチ操作を検出できるようになっている。表示制御装置200は、VR画像(VRコンテンツ)をディスプレイ205においてVR表示することが可能である。操作部206bは表示制御装置200の電源のオンとオフを切り替える操作を受け付ける電源ボタンである。操作部206cと操作部206dは、スピーカー212bや、音声出力端子212aに接続されたイヤホンや外部スピーカーなどから出力する音声のボリュームを増減するボリュームボタンである。操作部206eは、ディスプレイ205にホーム画面を表示させるためのホームボタンである。音声出力端子212aはイヤホンジャックであり、イヤホンや外部スピーカーなどに音声
信号を出力する端子である。スピーカー212bは音声を出力する本体内蔵スピーカーである。
図2(b)は、表示制御装置200の構成例を示すブロック図である。内部バス250に対してCPU201、メモリ202、不揮発性メモリ203、画像処理部204、ディスプレイ205、操作部206、記録媒体I/F207、外部I/F209、及び、通信I/F210が接続されている。また、内部バス250に対して音声出力部212と姿勢検出部213も接続されている。内部バス250に接続される各部は、内部バス250を介して互いにデータのやりとりを行うことができるようにされている。
CPU201は、表示制御装置200の全体を制御する制御部であり、少なくとも1つのプロセッサーまたは回路からなる。メモリ202は、例えばRAM(半導体素子を利用した揮発性のメモリなど)からなる。CPU201は、例えば、不揮発性メモリ203に格納されるプログラムに従い、メモリ202をワークメモリとして用いて、表示制御装置200の各部を制御する。不揮発性メモリ203には、画像データや音声データ、その他のデータ、CPU201が動作するための各種プログラムなどが格納される。不揮発性メモリ203は例えばフラッシュメモリやROMなどで構成される。
画像処理部204は、CPU201の制御に基づいて、不揮発性メモリ203や記録媒体208に格納された画像や、外部I/F209を介して取得した映像信号、通信I/F210を介して取得した画像などに対して各種画像処理を施す。画像処理部204が行う画像処理には、A/D変換処理、D/A変換処理、画像データの符号化処理、圧縮処理、デコード処理、拡大/縮小処理(リサイズ)、ノイズ低減処理、色変換処理などが含まれる。また、全方位画像あるいは全方位ではないにせよ広範囲の映像を有する広範囲画像であるVR画像のパノラマ展開やマッピング処理、変換などの各種画像処理も行う。画像処理部204は特定の画像処理を施すための専用の回路ブロックで構成してもよい。また、画像処理の種別によっては画像処理部204を用いずにCPU201がプログラムに従って画像処理を施すことも可能である。
ディスプレイ205は、CPU201の制御に基づいて、画像やGUI(Graphical User Interface)を構成するGUI画面などを表示する。CPU201は、プログラムに従い表示制御信号を生成し、ディスプレイ205に表示するための映像信号を生成してディスプレイ205に出力するように表示制御装置200の各部を制御する。ディスプレイ205は生成・出力された映像信号に基づいて映像を表示する。なお、表示制御装置200自体が備える構成としてはディスプレイ205に表示させるための映像信号を出力するためのインターフェースまでとし、ディスプレイ205は外付けのモニタ(テレビやHMDなど)で構成してもよい。
操作部206は、キーボードなどの文字情報入力デバイスや、マウスやタッチパネルといったポインティングデバイス、ボタン、ダイヤル、ジョイスティック、タッチセンサ、タッチパッドなどを含む、ユーザ操作を受け付けるための入力デバイスである。本実施形態では、操作部206は、タッチパネル206a,操作部206b,206c,206d,206eを含む。
記録媒体I/F207には、メモリーカードやCD、DVDといった記録媒体208が着脱可能である。記録媒体I/F207は、CPU201の制御に基づき、装着された記録媒体208からのデータの読み出しや、記録媒体208に対するデータの書き込みを行う。記録媒体208は、ディスプレイ205で表示するための画像などのデータを記憶する。外部I/F209は、有線ケーブル(USBケーブルなど)や無線によって外部機器と接続し、映像信号や音声信号の入出力(データ通信)を行うためのインターフェースで
ある。通信I/F210は、外部機器やインターネット211などと通信(無線通信)して、ファイルやコマンドなどの各種データの送受信(データ通信)を行うためのインターフェースである。
音声出力部212は、表示制御装置200で再生する動画や音楽データの音声や、操作音、着信音、各種通知音などを出力する。音声出力部212には、イヤホンなどを接続する音声出力端子212a、スピーカー212bが含まれるものとするが、音声出力部212は無線通信などで外部スピーカーに音声データを出力してもよい。
姿勢検出部213は、重力方向に対する表示制御装置200の姿勢(傾き)や、ヨー方向、ピッチ方向、ロール方向の各軸に対する表示制御装置200の姿勢を検出し、CPU201へ姿勢情報を通知する。姿勢検出部213で検出された姿勢に基づいて、表示制御装置200が横に保持されているか、縦に保持されているか、上に向けられたか、下に向けられたか、斜めの姿勢になったかなどを判別可能である。また、ヨー方向、ピッチ方向、ロール方向などの回転方向における表示制御装置200の傾きの有無や大きさ、当該回転方向に表示制御装置200が回転したかなどを判別可能である。加速度センサ、ジャイロセンサ、地磁気センサ、方位センサ、高度センサなどのうちの1つのセンサまたは複数のセンサの組み合わせを、姿勢検出部213として用いることができる。
上述したように、操作部206にはタッチパネル206aが含まれる。タッチパネル206aは、ディスプレイ205に重ね合わせて平面的に構成され、接触された位置に応じた座標情報が出力されるようにした入力デバイスである。CPU201はタッチパネル206aへの以下の操作、あるいは状態を検出できる。
・タッチパネル206aにタッチしていなかった指やペンが新たにタッチパネル206aにタッチしたこと、すなわちタッチの開始(以下、タッチダウン(Touch-Down)と称する)
・タッチパネル206aを指やペンがタッチしている状態(以下、タッチオン(Touch-On)と称する)
・指やペンがタッチパネル206aをタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する)
・タッチパネル206aへタッチしていた指やペンがタッチパネル206aから離れたこと、すなわちタッチの終了(以下、タッチアップ(Touch-Up)と称する)
・タッチパネル206aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する)
タッチダウンが検出されると、同時にタッチオンも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出された場合も、同時にタッチオンが検出される。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出されると、タッチオフが検出される。
これらの操作・状態や、タッチパネル206a上に指やペンがタッチしている位置座標は内部バスを通じてCPU201に通知され、CPU201は通知された情報に基づいてタッチパネル206a上にどのような操作(タッチ操作)が行われたかを判定する。タッチムーブについてはタッチパネル206a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル206a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作が行われたと判定するものとする。タッチムーブは、ユーザがタッチパネル206aに対して行った移動操作である。後述するタッチムーブに応じた各種処理は、同じく移動操作であるマウスでのドラッグ操作に応じて行うことも可能である。
タッチパネル206a上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル206a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行われたと判定できる(スライド操作に続いてフリックがあったものと判定できる)。
更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。タッチパネル206aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いてもよい。タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式があるが、いずれの方式でもよい。
図2(c)は、表示制御装置200を装着可能なVRゴーグル(ヘッドマウントアダプター)230の外観図である。表示制御装置200は、VRゴーグル230に装着することで、ヘッドマウントディスプレイとして使用することも可能である。挿入口231は、表示制御装置200を差し込むための挿入口である。ディスプレイ205の表示面を、VRゴーグル230をユーザの頭部に固定するためのヘッドバンド232側(すなわちユーザ側)に向けて表示制御装置200の全体をVRゴーグル230差し込むことができる。ユーザは、表示制御装置200が装着されたVRゴーグル230を頭部に装着した状態で、手で表示制御装置200を保持することなく、ディスプレイ205を視認することができる。この場合は、ユーザが頭部または体全体を動かすと、表示制御装置200の姿勢も変化する。姿勢検出部213はこの時の表示制御装置200の姿勢変化を検出し、この姿勢変化に基づいてCPU201がVR表示のための処理を行う。この場合に姿勢検出部213が表示制御装置200の姿勢を検出することは、ユーザの頭部の姿勢(ユーザの視線が向いている方向)を検出することと同等である。なお、表示制御装置200自体が、VRゴーグル無しでも頭部に到着可能なHMDであってもよい。
(動画撮影再生処理)
以下、図3を参照して、実施形態1における動画撮影から再生までの一連の処理について説明する。実施形態1では、電子機器としての表示制御装置200は、複数の映像を連続で再生する場合、ユーザが1つの映像に設定した基準方向を、他の映像に複製し、各映像の基準方向を揃えて再生する。各映像は、例えば全方位映像であって、ユーザが指定した順に連続で再生される。図3の説明において、各映像は、動画として説明されるが、動画に限られず静止画であってもよい。
図3に示す処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開して、CPU201が実行することにより実現される。図3の処理では、表示制御装置200は、無線接続されたデジタルカメラ100を遠隔操作することにより動画を撮影することができる。図3の動画撮影再生処理は、例えば、デジタルカメラ100および表示制御装置200に電源が入り、表示制御装置200がデジタルカメラ100の制御用モードに遷移すると開始する。
表示制御装置200は、例えば、デジタルカメラ100を制御するための専用アプリが起動されることにより、デジタルカメラ100の制御用モードに遷移する。表示制御装置200におけるデジタルカメラ100の制御用モードは、デジタルカメラ100での動画撮影を制御する動画撮影モード、映像を合成する映像編集モード、動画を再生する再生モ
ードを含む。
S301では、CPU201は、通信接続先のデジタルカメラ100での動画撮影を制御する動画撮影モードを立ち上げる。S302では、CPU201は、通信I/F210を介してデジタルカメラ100に対し、動画撮影を開始させるための制御信号を送信する。デジタルカメラ100のシステム制御部50は、通信部54を介して表示制御装置200からの制御信号を受信すると、動画の撮影を開始する。デジタルカメラ100は、撮影レンズ103aおよび撮影レンズ103bにより、360°のVR動画(全方位映像)を撮影する。
S303では、CPU201は、通信I/F210を介してデジタルカメラ100に対し、動画撮影を終了させるための制御信号を送信する。デジタルカメラ100のシステム制御部50は、通信部54を介して表示制御装置200からの制御信号を受信すると、動画の撮影を終了する。動画撮影終了後、デジタルカメラ100は、VR動画ファイルNを生成する。デジタルカメラ100は、撮影の際に取得した位置情報および方位情報を、VR動画ファイルNに記録することができる。
S304では、CPU201は、通信I/F210を介してS303でデジタルカメラ100が生成した動画ファイルを取得する。図3に示す処理では、表示制御装置200は、動画撮影終了後に動画を受信するが、ユーザに指定されたタイミングで動画を取得するようにしてもよい。
S305では、CPU201は、ユーザから動画撮影モードを終了させる操作があったか否かを判定する。ユーザは、例えば、デジタルカメラ100を制御するための専用アプリを介して、デジタルカメラ100のモードを切り替えて動画撮影モードを終了させることができる。ユーザから動画撮影モードを終了させる操作があった場合、処理はS307に進む。ユーザから動画撮影モードを終了させる操作がない場合、処理はS306に進む。
S305でユーザから動画撮影モードを終了させる操作があった場合、CPU201は、デジタルカメラ100に対し、通信I/F210を介して動画撮影モードを終了させるための制御信号を送信する。デジタルカメラ100のシステム制御部50は、通信部54を介して、動画撮影モードを終了させるための制御信号を受信すると、動画撮影モードを終了させる。
S306では、CPU201は、変数Nに1を加算する。変数Nは、例えば、デジタルカメラ100によって撮影された複数の動画を識別するために用いられる数である。撮影された各動画は、ファイル名に変数Nの値が付与され、記録媒体208に識別可能に記録される。
S307では、CPU201は、S302~S306で取得した複数の動画を、ユーザ操作に基づいて合成する映像編集モードを立ち上げる。S308では、CPU201は、ユーザがタッチパネル206aによって選択した動画を、合成対象の動画として設定する。なお、S307からS310において映像を合成するとは、複数の動画を連続して再生するためにつなぎ合わせる処理である。
S309では、CPU201は、S308で選択された動画に対し、ユーザ操作に基づいてチャプタの設定をする。S308で選択された動画は、チャプタの設定により繋ぎ合わせる順序が決定される。例えば、動画A、動画B、動画Cに対して、それぞれチャプタ3、チャプタ1、チャプタ2が設定されると、これらの動画は動画B、動画C、動画Aの
順に繋ぎ合わされる。
S310では、CPU201は、S309でチャプタの設定がされた複数の動画を、S309で設定されたチャプタの順序に従って合成した動画ファイルを生成する。なお、S308で、ユーザが選択した動画が1つの場合、選択された動画を単体で再生するための動画ファイルが生成される。
S311では、CPU201は、ユーザが基準方向を設定したか否かを判定する。ユーザが基準方向を設定した場合、処理はS312に進み、基準方向の設定されていない場合、処理はS313に進む。基準方向は、動画の再生開始時に表示する表示範囲の基準となる方向である。基準方向は、例えば、デジタルカメラ100の撮影レンズ103aの正面方向とすることができる。この場合、デジタルカメラ100で撮影した動画を再生すると、撮影レンズ103aの正面方向に映っている光景が、表示制御装置200のディスプレイ205に最初に表示される。
S312では、CPU201は、基準方向の設定処理を実行する。基準方向の設定処理は、S308で選択した各動画に対して、デジタルカメラ100の撮影レンズ103aの正面方向に設定された基準方向を変更する処理である。基準方向の設定処理の詳細は、図4および図5を用いて後述する。なお、S312では、基準方向を設定することにより表示範囲(一部の領域)が設定されるが、これに限られない。CPU201は、各動画において範囲を指定して表示範囲を設定してもよい。
S313では、CPU201は、不揮発性メモリ203または記録媒体208に保存されている動画を再生する再生モードを立ち上げる。
S314では、CPU201は、ユーザがタッチパネル206aによって選択した動画を、再生対象の動画として設定する。S315では、CPU201は、動画の再生処理を実行する。動画の再生処理の詳細は、図7を用いて後述する。
S316では、CPU201は、ユーザから再生モードを終了させる操作があったか否かを判定する。ユーザから再生モードを終了させる操作があった場合、図3に示す処理は終了する。ユーザから再生モードを終了させる操作がない場合、処理はS314に戻る。
図4は、表示制御装置200の基準方向設定処理を例示するフローチャートである。基準方向は、動画(映像)の再生開始時にディスプレイ205に表示される表示範囲(映像の全画角のうちの一部の領域)を決定する基準となる方向である。映像の表示範囲は、例えば、基準方向を中心としてディスプレイ205に表示可能な範囲の領域とすることができる。
図4に示す基準方向設定処理は、図3のS312の詳細な処理である。基準方向設定処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開して、CPU201が実行することで実現される。なお、この処理は、表示制御装置200に電源が入り、ユーザが選択した映像に対して基準方向を設定する操作をしたことで開始する。
S401では、CPU201は、基準方向設定対象の映像を選択する。ここで、基準方向設定対象の映像は、映像編集モードにおいて再生タイムライン上に配置された映像のうちの1つとする。
S402では、CPU201は、図3のS311においてユーザが操作部206から設定した基準方向を取得する。基準方向は、撮影レンズ103aの正面方向を方位角0度、
仰角0度とし、正面方向からの角度を指定することで決定される。ユーザは、例えば、全方位映像の全画角において基準方向を示すポインタをドラッグ操作したり、撮影レンズ103aの正面方向からの回転角度を指定したりすることで、基準方向を設定することができる。ユーザは、基準方向を設定することにより、ディスプレイ205に表示する画角が決定され、全方位映像の表示範囲を設定することができる。
ここで、図5(a)を用いて、全方位映像における基準方向の設定について説明する。図5は全方位映像における基準方向の設定概念図である。図5(a)は、基準方向設定対象の映像における基準方向の設定イメージを表したものである。図5(a)では、全方位映像における仮想空間500は、xyz座標系を取る。矢印502は、初期設定の基準方向を示す。矢印503は、図3のS311においてユーザが設定した基準方向を示す。ユーザが設定した基準方向は、撮影された被写体501の方向を指している。
ユーザが設定する基準方向は、初期設定の基準方向(矢印502)から、水平方向(ヨー軸の円周方向)の回転角、および垂直方向(ピッチ軸の円周方向)の回転角を指定することで設定されるようにしてもよい。また、基準方向は、xyz座標系の座標を指定することで設定されるようにしてもよい。
ここで、図6を参照して、基準方向設定対象となる映像(第1の全方位映像)の選択について説明する。図6は、映像編集モードでディスプレイ205に表示される、全方位映像の編集画面例を示す。図6(a)は、基準方向設定対象の映像に対して、基準方向を設定する画面の表示例である。
映像600は、基準方向設定対象として選択された映像を示す。また、サムネイル画像601~サムネイル画像603は、再生対象の全方位映像として再生タイムライン上に配置される。サムネイル601は、第1の全方位映像として選択された映像であり、太枠で囲むことにより強調表示されている。サムネイル602およびサムネイル603は、第1の全方位映像の基準方向を複製する対象となる他の映像(第2の全方位映像)を示す。ポインタ608は、映像600に対してユーザが指定した基準方向を示す。
図4のS403では、CPU201は、操作部206を介して、基準方向が確定されたか否かを判定する。基準方向は、例えば、ユーザがポインタ608をドラッグし、確定操作をすることにより確定される。基準方向が確定された場合はS404に進み、確定されなかった場合は処理を終了する。
S404では、CPU201は、確定された基準方向に関する情報を、S401で選択された基準方向設定対象の映像のメタデータとして保存(記録)する。基準方向に関する情報は、例えば、撮影位置に対する基準方向の絶対的方向(方位情報)である。
S405では、CPU201は、基準方向設定対象の映像(第1の全方位映像)と同一の基準方向を、他の映像(第2の全方位映像)でも使用するか否かを判定する。第2の全方位映像は、図3のS309で合成対象として選択された映像のうち、S401で選択された映像以外の映像である。第1の全方位映像と同一の基準方向を第2の全方位映像でも使用する場合はS406に進み、同一の基準方向を第2の全方位映像で使用しない場合は処理を終了する。
なお、第1の全方位映像と同一の基準方向を第2の全方位映像でも使用するか否かは、ユーザ操作により指示される。なお、CPU201は、第1の全方位映像と同一の基準方向を第2の全方位映像でも使用するか否かを、図3のステップS310において、合成した映像をファイルに書き出すときに、ユーザに指示させるようにしてもよい。
S406では、CPU201は、第1の全方位映像と同一の基準方向を複製する対象の映像を決定する。同一の基準方向を複製する対象の映像は、例えば、映像編集モードにおいて再生タイムライン上に配置されている複数の映像のうち第1の全方位映像でない全方位映像とすることができる。
ここで、図6を参照して、第1の全方位映像と同一の基準方向を複製する対象の映像を選択する操作について説明する。サムネイル602およびサムネイル603は、サムネイル601の基準方向の複製対象となる第2の全方位映像のサムネイルである。
図6(b)は、図6(a)で第1の全方位映像に基準方向が設定された場合に、第2の全方位映像でも同じ基準方向を設定するか否かを、ユーザに確認するための表示例である。サムネイル604は、ユーザの操作により基準方向が設定された映像のサムネイルである。サムネイル605およびサムネイル606は、サムネイル604の映像と同一の基準方向を複製する対象としてユーザが選択した映像であり、太枠で囲むことにより強調表示されている。
メッセージ607は、図6(a)で設定した基準方向を、サムネイル605およびサムネイル606に対応する映像に設定するか否かを、ユーザに確認するメッセージである。「はい」が押下されると、CPU201は、ユーザが選択した映像を、サムネイル604の映像と同一の基準方向を設定する対象に決定する。なお、CPU201は、メッセージ607を表示せずに(すなわちユーザに確認せずに)、ユーザが選択した映像を、サムネイル604の映像と同一の基準方向を設定する対象に決定してもよい。
図4のS407では、CPU201は、S406で決定した第2の全方位映像の基準方向を、S404でメタデータに保存した基準方向と同一の方向に変更する。CPU201は、変更後の基準方向を各映像のメタデータとして保存する。これにより、第2の全方位映像の表示範囲は、S401でユーザが選択した第1の全方位映像と同じ範囲に設定される。
なお、S405において、第1の全方位映像と同一の基準方向を第2の全方位映像でも使用すると判定された後、さらに第1の全方位映像の基準方向が変更されると、CPU201は、複製対象の第2の全方位映像の基準方向も、同じ基準方向に変更する。
ここで、図5(b)を用いて、第2の全方位映像の基準方向を、ユーザが設定した第1の全方位映像の基準方向と同一の方向に変更する例について説明する。図5(b)は、図5(a)と同じ位置で撮影された異なるシーンを示す。
矢印505は、初期設定の基準方向を示す。矢印506は、図5(a)でユーザが設定した基準方向(矢印503)と同一の方向を表す。矢印506は、図5(a)の被写体501が向きを変えた状態で撮像された被写体504の方向を指している。このように、異なるシーン(映像)において、同一の基準方向を設定することで、映像が切り替わった際の画角のズレを低減すことが可能である。
なお、映像編集モードで基準方向の複製対象とする映像は、静止画であっても動画であってもよい。また、S406で第1の全方位映像と同一の基準方向とする複製対象の映像を決定する処理は、S401で第1の全方位映像を選択する前に行ってもよい。複製対象の映像を決定する処理は、S403で基準方向の設定が確定され、映像編集が完了する際に行ってもよい。さらに、同一の基準方向の複製対象の映像は、再生タイムライン上に配置された複数の映像のうち、ユーザが任意に選択した映像としてもよく、選択された第1
の全方位映像ではないすべての映像としてもよい。
図7は、表示制御装置200の再生処理を例示するフローチャートである。図7に示す再生処理は、図3の動画撮影再生処理におけるS315の詳細な処理である。図7は、連続する2つの映像を、図4の処理で設定された基準方向に基づいて再生する例を示す。また、映像の視聴方向(表示方向)は、姿勢検出部213から取得した姿勢情報によって補正される。
図7の処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開して、CPU201が実行することで実現される。図7の処理は、例えば、CPU201が、デジタルカメラ100で撮像した映像ファイルを読み込むことで開始される。
S701では、CPU201は、第1の全方位映像の映像ファイル中のメタデータから、第1の全方位映像の基準方向を取得する。S702では、CPU201は、取得した第1の全方位映像の基準方向、および姿勢検出部213から取得した姿勢情報に基づいて、ユーザの視聴方向1を取得する。S703では、CPU201は、第1の全方位映像の全画角のうち、視聴方向1を中心とするフレームを再生する。
S704では、CPU201は、第1の全方位映像の再生が終了したか否かを判定する。第1の全方位映像の再生が終了した場合はS705に進み、そうでなければS702に戻る。
S705では、CPU201は、第2の全方位映像の映像ファイル中のメタデータから、第2の全方位映像の基準方向を取得する。第2の全方位映像が第1の全方位映像の基準方向の複製対象となっていた場合、第2の全方位映像の基準方向は、第1の全方位映像と同じである。
S706では、CPU201は、取得した第2の全方位映像の基準方向、および姿勢検出部213から取得した姿勢情報に基づいて、ユーザの視聴方向2を取得する。S707では、CPU201は、第2全方位の映像の全画角のうち、視聴方向2を中心とするフレームを再生する。
S708では、CPU201は、第2の全方位映像の再生が終了したか否かを判定する。第2の全方位映像の再生が終了した場合は処理を終了し、再生が終了していない場合はS706に戻る。
図7に示す再生処理では、CPU201は、メタデータとして追加された基準方向の情報、および姿勢検出部213で検出される姿勢情報に基づいて、各映像の視聴方向を決定する。このため、各映像の基準方向は、姿勢情報によって補正され、各映像間の正面方向のずれは低減される。
第1の全方位映像に基づいて基準方向が変更された場合、CPU201は、基準方向を示す指標の表示形態を変えるようにしてもよい。例えば、CPU201は、基準方向が変更されていない場合は黒色の矢印で表示し、基準方向が変更された場合には、変更前の基準方向をグレーの矢印で表示し、変更後の基準方向を赤の矢印で表示する。変更前の基準方向と変更後の基準方向とを異なる態様で表示することにより、ユーザは、現在の基準方向が撮影時の基準方向とは異なることが分かる。
上述の図3の処理では、ユーザが基準方向を設定した第1の全方位映像に合わせて、合成される第2の全方位映像の基準方向が変更(補正)される。第2の全方位映像は、第1
の全方位映像と連続して再生される場合には、補正された基準方向に基づいて再生されるが、各映像が単体で再生される場合には、補正前の(撮影時の)基準方向に基づいて再生されるようにしてもよい。
また、ユーザが基準方向を設定した第1の全方位映像の再生後に、ユーザの姿勢が大きく変わった場合、第2の全方位映像は、補正された基準方向に基づいて再生されるのではなく、補正前の(撮影時の)基準方向で再生されるようにしてもよい。
<実施形態2>
実施形態1は、複数のチャプタ(映像)含む動画を再生する場合の基準方向の複製に関する。これに対し、実施形態2では、表示制御装置200は、直前のVR動画(全方位映像)の再生終了時の表示範囲に基づいて、次のVR動画の表示範囲を決定する。
以下、図8~図14を参照して、実施形態2に係る再生処理について説明する。実施形態2では、複数のチャプタを含む動画を再生する場合、N番目のチャプタN(第1の全方位映像)の再生が終了したときにユーザが視聴していた表示範囲は、続けて再生される次のチャプタN+1(第2の全方位映像)に引き継がれる。表示制御装置200は、次のチャプタN+1の基準方向の設定を変更することで、チャプタ間で表示範囲を引き継ぐことができる。
実施形態2は、実施例1から実施例3により具体的に説明される。以下の各実施例では、表示制御装置200は、チャプタN+1の基準方向を変更することにより、ヨー軸の円周方向での表示範囲を制御する。
実施例1は、各チャプタのメタデータとして保持(記録)されている方位情報を使用して、チャプタN+1の基準方向を変更する実施例である。実施例2は、メタデータとして各チャプタの方位情報が保持されていない場合に、各チャプタの映像から抽出した共通の被写体(マッチング被写体)を使用して、チャプタN+1の基準方向を変更する実施例である。実施例2では、移動しない建物または山などの静止物に限られず、人物または動物などの移動する被写体もマッチング被写体として使用される。実施例3は、人物および動物を除くマッチング被写体を使用して、チャプタN+1の基準方向を変更する実施例である。
(実施例1)
実施例1は、各チャプタの映像ファイルにメタデータとして保持されている方位情報を使用して、チャプタN+1の基準方向を変更する実施例である。方位情報は、撮影時の基準方向、またはユーザによって設定された基準方向の絶対的方向である。
図8は、表示制御装置200により複数のチャプタを含むVR動画を再生する処理を例示するフローチャートである。図8に示す処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開して、CPU201が実行することにより実現される。なお、この処理は、表示制御装置200に電源が入り、ユーザが動画を再生する操作をしたことで開始する。
S801では、CPU201は、再生対象となるVR動画の映像ファイルを取得する。CPU201は、記録媒体208または通信I/F210を介した通信先から、表示(再生)対象となる映像ファイルを読みこんで取得する。CPU201は、VR動画に属性情報として付帯する映像範囲(有効映像範囲)を示す情報を取得して、有効映像範囲を矩形に収めるフラット表示で、VR動画をディスプレイ205に表示することができる。
S802では、CPU201は、各チャプタを識別するための変数Nを1に初期化する。S803では、CPU201は、チャプタNの基準方向を取得する。CPU201は、映像ファイルに保存されたメタデータからチャプタNの基準方向の情報を取得することができる。S804では、CPU201は、ユーザの姿勢情報を取得する。姿勢情報は、姿勢検出部213により検出される。S805では、CPU201は、チャプタNの基準方向およびユーザの姿勢情報に応じた表示範囲を表示(再生)する。
ここで、図10~図12を用いて、撮影環境および表示範囲について説明する。図10~図12は、VR動画の表示範囲を説明する図である。
図10(a)は、春の1シーンを撮影したVR動画の取り始めの環境を表したものである。本VR動画は、撮影場所1001にデジタルカメラ100を設置して、撮影方向1002に撮影レンズ103aを向けて撮影を行っている。図10(b)は、表示制御装置200のディスプレイ205に動画を再生した場合に、初めに表示される映像を示したものである。
図11(a)は、秋の1シーンを撮影したVR動画の取り始めの環境を表したものである。本VR動画は、撮影場所1101にデジタルカメラ100を設置して、撮影方向1102に撮影レンズ103aを向けて撮影を行っている。図11(b)は、表示制御装置200のディスプレイ205に動画を再生した場合に、初めに表示される映像を示したものである。
図12(a)は、図10の動画撮影直後に、連続して撮影したVR動画の環境を表したものである。本VR動画は、撮影場所1201にデジタルカメラ100を設置して、撮影方向1202に撮影レンズ103aを向けて撮影を行っている。図12(b)は、表示制御装置200のディスプレイ205に動画を再生した場合に、初めに表示される映像を示したものである。
実施例1、実施例2では、図10に示す春の1シーンを撮影したVR動画と、図11に示す秋の1シーンを撮影したVR動画を合成した動画(図13、図14)を例に説明する。実施例3では、図10に示す春の1シーンを撮影したVR動画と、図12に示す図10の動画撮影直後に、連続して撮影したVR動画を合成した動画を例に説明する。
図13(a)~13(c)を用いて、S803~S805を説明する。図13(a)に、N番目のチャプタの撮影環境と撮影基準方向を示す。図13(a)の撮影基準1002がチャプタNの撮影基準の方向であり、N番目のチャプタの基準方向として取得される。
図13(b)に、N番目再生中のユーザの姿勢、図13(c)に図13(b)で示すユーザの姿勢の時に表示される領域を示す。N番目のチャプタ再生中に、ユーザがユーザ姿勢1301を取るとディスプレイ205に、図13(c)に示す領域が表示される。図13(c)では、現実世界で北の方角を0度として、120度を中心とした表示範囲、VR画像内の基準方向から見て90度を中心とした表示範囲が表示される。
図8のS806では、CPU201は、チャプタNの再生が終了したか否かを判定する。チャプタNの再生が終了した場合はS807に進み、終了していない場合はS804に戻る。
S807では、CPU201は、チャプタNの次に再生されるチャプタN+1が存在するか否かを判定する。チャプタN+1が存在する場合はS808に進み、存在していない場合は、処理が終了する。
S808では、CPU201は、チャプタNとチャプタN+1との位置情報が一致するか否かを判定する。位置情報は、GPSなどで記録される地球上の現在位置(撮影位置)を示す情報である。チャプタNとチャプタN+1との位置情報が一致する場合はS809に進み、一致していない場合はS814に進む。なお、どちらか一方のチャプタが位置情報を保持していない場合は、位置情報が一致していないと判定する。
S809では、CPU201は、チャプタNおよびチャプタN+1の両方が、映像ファイルのメタデータとして方位情報を保持しているか否かを判定する。方位情報は、チャプタNおよびチャプタN+1の基準方向の絶対的方向を示す情報である。CPU201は、方位情報を用いて各チャプタの基準方向を算出し、チャプタNとチャプタN+1との基準方向を揃えることができる。チャプタNおよびチャプタN+1の両方が方位情報を保持している場合はS810に進み、いずれか一方でも方位情報を保持していない場合はS813に進む。
S810では、CPU201は、チャプタNの再生終了時の表示方向An(表示範囲の中心の方向)を取得する。S811では、CPU201は、現在のユーザの姿勢情報α(チャプタNの基準方向からユーザが向いている方向までの角度)を取得する。
S812では、CPU201は、チャプタN+1の基準方向を変更する。CPU201は、チャプタNの再生終了時の表示方向Anおよびユーザの姿勢情報αが、チャプタN+1の再生開始時の表示方向およびユーザの姿勢情報と一致するように、チャプタN+1の基準方向を設定すればよい。すなわち、CPU201は、チャプタN+1についても、表示方向An=ユーザの姿勢情報α+基準方向が成立するように、チャプタN+1の基準方向を変更する。つまり、An=α+(基準角度)が成立するように基準角度を変更する。図13(g)の場合には、基準角度が140度なので、30度になるように基準角度を110度変更する。An(250度)=α(220度)+30度により基準角度が求まる。
図13を用いて、S810~S812の処理について説明する。図13(d)に、N番目の再生終了時のユーザの姿勢1302を示し、図13(e)に図13(d)で示すユーザの姿勢1302の時に表示される領域を示す。図13(e)では、現実世界で北の方角を0度として、250度を中心とした表示範囲、VR画像内で基準方向から見て220度を中心とした表示範囲が表示される。
本実施例では、N番目のチャプタ終了時に、ユーザがユーザ姿勢1302を取っており、220°の方向を向いていることになる。このときディスプレイ205には、図13(e)に示す領域が表示される。
図13(f)にN+1番目のチャプタの撮影環境と撮影基準方向を、図13(g)にN+1番目再生開始時のユーザの姿勢を示す。図13(g)のユーザの姿勢1303がチャプタNの終了時のユーザの姿勢を示しており220度の方向を向いている。
チャプタNの終了時には北の方角を0度として、250度を中心とした範囲が表示されていたが、チャプタN+1の開始時にも北の方角を0度として、250度を中心とした範囲が表示されるようにしたい。チャプタN+1では、基準方向が北の方角を0度として140度であったため、図13(h)に示すように、140度から220度回転した、現実世界で北の方角を0度とする0度を中心とした表示範囲が表示される。
このとき、基準方向を140度から30度へと変更することで、ユーザはチャプタN+1の再生開始時にチャプタNの終了時と同じ表示範囲を見ることができる。つまり、図1
3(i)に示すように基準方向を1304に補正することで、図13(j)に示す図13(e)と同じ表示範囲が表示されるようになる。
なお、ユーザの姿勢がチャプタNの終了時からチャプタN+1の開始時に変更された時、例えば図13(k)に示すように北を0度として300度に変わった場合には、以下のようにする。S812においては、An(250)=α(300)+基準角度が成り立つようにするために、基準角度が310度になるように変更される。つまり、基準角度を280度変更する。これにより、図13(l)に示すように図13(e)と同じ表示範囲が表示される。
もしくは以下のようにしてもよい。チャプタN+1の再生開始時に、ユーザの姿勢が220度から300度へと変更された場合には、ユーザが前のチャプタであるチャプタNと同じ表示範囲(300度+30度=330度)を見ようとしている可能性がある。よって、ユーザの姿勢がチャプタの再生切り替え時に変更された場合には、チャプタNと同じ基準角度になるように、チャプタN+1の基準角度を変更する。そして、変更されたユーザの姿勢に応じた表示範囲を表示する。ユーザの姿勢が220度から図13(m)に示すように300度になった場合には、図13(n)に示すように、現実世界で北を0度として250+80=330度を中心とした表示範囲を表示する。
この結果、ディスプレイ205には図13(n)のように表示されて、ユーザはチャプタN+1の直前に閲覧していた方向を継続してみることが出来る。
また、図12を参照して、S810~S812の処理の他の具体例として、ユーザの姿勢がチャプタNの再生終了後に変わった場合について説明する。ユーザの姿勢は、例えば、チャプタNの終了時からチャプタN+1の開始時に、図12(a)に示すように北を0度として300度に変わったものとする。
S812では、チャプタN+1の再生開始時の基準方向は、表示方向Anが北を0度として250度になるように設定される。すなわち、チャプタN+1の再生開始時の基準方向は、ユーザの姿勢情報α(300度)+基準方向=表示方向An(250度)が成り立つように設定される。すなわち、ユーザの姿勢情報α(300度)+基準方向=250度+360n(nは整数)度となればよく、基準方向は310度に設定されればよい。
チャプタN+1の基準方向が140度から310度に変更されることにより、チャプタN+1の表示方向Anは250度となり、図12(b)に示す表示範囲がディスプレイ205に表示される。このように、チャプタN+1の表示方向Anは、図11(b)に示すチャプタNの再生終了時の表示範囲と同じ方向となる。ユーザは、チャプタN+1の直前に閲覧していたチャプタNの表示方向を継続して見ることができる。
また、チャプタN+1の再生開始時に、ユーザの姿勢が、図12(a)に示すように北を0度として300度に変わった場合、チャプタN+1の基準方向は、以下のように変更されてもよい。
ユーザは、チャプタNの再生終了時と同じ表示範囲を見ようとする可能性がある。したがって、ユーザの姿勢がチャプタの再生切り替え時に変更された場合、チャプタN+1の表示方向Anは、チャプタNの再生終了時の表示方向と同じになるように、まず、140度から30度に変更される。その後、チャプタN+1の基準方向は、ユーザの姿勢の変化に応じて変更されるようにすればよい。例えば、ユーザの姿勢情報αが220度から300度になった場合、チャプタN+1の表示方向Anは、北を0度として330度=300度(ユーザの姿勢情報α)+30度(変更後の基準方向)となる。この場合、チャプタN
+1の表示範囲は、図12(c)に示すように北を0度として表示方向330度を中心とした範囲となる。
図8のS813では、CPU201は、マッチング被写体による基準方向設定処理を実行する。なお、S813の処理は、実施例2において詳細に説明する。S814では、CPU201は、変数Nに1を加算する。S803に戻り、CPU201は、次のチャプタを再生する。
(実施例2)
実施例2は、メタデータとして各チャプタの方位情報が保持されていない場合に、各チャプタの映像から抽出した共通の被写体(マッチング被写体)を使用して、チャプタN+1の基準方向を変更する実施例である。
マッチング被写体は、建物または山などの静止物に限られず、人物または動物といった動体であってもよい。チャプタNおよびチャプタN+1から共通する被写体が複数検出された場合、マッチング被写体は、例えば、最初に検出された共通の被写体とすることができる。
実施例2では、メタデータとして各チャプタの方位情報が保持されていない場合であっても、表示制御装置200は、チャプタが切り替わる際に同じ表示方向を表示させることができる。
実施例2は、図8に示す再生処理のS809において、チャプタNおよびチャプタN+1が方位情報を保持していないと判定された場合の処理である。チャプタNおよびチャプタN+1は方位情報を保持していないため、チャプタ間で絶対的方向を揃えるために、マッチング被写体が用いられる。図8のS808において、チャプタNおよびチャプタN+1で撮影された場所(撮影位置)は、一致すると判定されている。このため、周りに映る被写体は略共通する。そこで、両チャプタの絶対的方向は、両チャプタで共通する被写体をマッチング被写体として抽出し、マッチング被写体を基準として揃えることができる。
実施例2では、実施例1で説明した図8と同様に、表示制御装置200は複数のチャプタで構成されたVR動画を表示する処理を実行する。また、実施例2では、チャプタNに続けて再生されるチャプタN+1の基準方向は、両チャプタで共通するマッチング被写体を使用して設定される。図9は、マッチング被写体による基準方向設定処理を例示するフローチャートである。図8および図9に示す処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開して、CPU201が実行することにより実現される。なお、この処理は、表示制御装置200に電源が入り、ユーザが動画を再生する操作をしたことで開始する。
なお、図8の処理のうち、実施例1と同じ処理については説明を省略する。実施例2におけるS809では、CPU201は、チャプタNおよびチャプタN+1が方位情報を保持していないと判定し、処理はS813に進む。
S813では、CPU201は、マッチング被写体による基準方向の設定処理を実行する。ここで、図14(a)にチャプタNの撮影時の状況例を、図14(f)にチャプタN+1の撮影時の状況例を示す。実施例2ではチャプタN、チャプタN+1の撮影時の方向情報は記録していないものとする。
図14(a)の撮影基準1002がチャプタNの撮影基準の方向である。図14(b)に、N番目再生中のユーザの姿勢、図14(c)に図14(b)で示すユーザの姿勢の時
に表示される領域を示す。N番目のチャプタ再生中に、ユーザがユーザ姿勢1401を取るとディスプレイ205に、図14(c)に示す領域が表示される。図14(c)では、マッチング被写体から120度を中心とした表示範囲、VR画像内の基準方向から見て90度を中心とした表示範囲が表示される。
図9を用いて、図8のS813におけるマッチング被写体による基準方向設定処理の詳細を説明する。S901では、CPU201は、チャプタNとチャプタN+1とが、連続して撮影されたか否かを判定する。
CPU201は、チャプタNの撮影終了後、所定の時間内にチャプタN+1の撮影が開始された場合には、チャプタNとチャプタN+1とが連続して撮影されたと判定することができる。また、CPU201は、チャプタNの撮影終了後、所定の時間経過後にチャプタN+1の撮影が開始された場合には、チャプタNとチャプタN+1とが連続して撮影されていないと判定することができる。チャプタNとチャプタN+1とが連続して撮影された場合はS902に進み、連続して撮影されていない場合はS903に進む。
S902では、CPU201は、人物および動物等の移動する被写体も含めてマッチング被写体を検索する。チャプタNの撮影終了後、所定の時間内にチャプタN+1の撮影が開始された場合には、人物のように移動する被写体は、移動量が限られており、チャプタ間のマッチングの基準として用いることができる。この場合、所定の時間は、例えば1分とすることができる。なお、所定の時間は、予め設定された時間であってもよく、ユーザにより所望の時間に変更できるようにしてもよい。
S903では、CPU201は、人物および動物等を対象外としてマッチング被写体を検索する。人物および動物等の移動する被写体を対象外とするS903の処理は、実施例3で詳細に説明する。
S904では、CPU201は、チャプタNとおよびチャプタN+1にマッチング被写体が存在するか否かを判定する。CPU201は、チャプタNとおよびチャプタN+1から共通する被写体が検出された場合に、マッチング被写体が存在すると判定することができる。
共通する被写体が複数検出された場合、CPU201は、例えば、最初に検出された共通の被写体を、マッチング被写体として選択することができる。また、CPU201は、チャプタNの基準方向に存在する共通の被写体を、マッチング被写体として選択するようにしてもよい。マッチング被写体が存在する場合はS905に進み、マッチング被写体が存在しない場合は処理を終了する。
S905では、CPU201は、チャプタNの再生終了時の表示方向Anを取得する。S906では、CPU201は、チャプタN+1の再生開始時のユーザの姿勢情報αを取得する。
S907では、CPU201は、チャプタNのマッチング被写体から見た、基準方向の角度β(N)を求める。つまり、マッチング被写体が被写体1003である場合には、図14(a)に示すように基準方向はVR動画内において30度ずれた位置にあるので、β(N)=30度となる。このように、撮影時の方角情報がなくてもマッチング被写体を基準として角度を設定することができる。
図14(d)に、N番目の再生終了時のユーザの姿勢1402を示し、図14(e)に図14(d)で示すユーザの姿勢1402の時に表示される領域を示す。図14(e)で
は、マッチング被写体から250度を中心とした表示範囲、VR画像内で基準方向から見て220度を中心とした表示範囲が表示される。
本実施例では、N番目のチャプタ終了時に、ユーザがユーザ姿勢1402を取っており、220°の方向を向いていることになる。このときディスプレイ205には、図14(e)に示す領域が表示される。
S908では、CPU201は、チャプタN+1のマッチング被写体からみた、基準方向の角度β(N+1)を求める。つまり、マッチング被写体が被写体1003である場合には、図14(f)に示すように基準方向はVR動画内において140度ずれた位置にあるので、β(N+1)=140度となる。図14(g)は、N+1番目再生開始時のユーザの姿勢を示す。図14(g)のユーザの姿勢1403がチャプタNの終了時のユーザの姿勢を示しており220度の方向を向いている。
チャプタNの終了時には、マッチング被写体から250度を中心とした範囲が表示されていたが、チャプタN+1の開始時にもマッチング被写体から250度を中心とした範囲が表示されるようにしたい。チャプタN+1では、基準方向がマッチング被写体から140度であったため、図14(h)に示すように、140度から220度回転した、マッチング被写体を0度とする0度を中心とした表示範囲が表示される。
S909では、CPU201は、チャプタNの再生終了時の表示範囲が表示されるように基準方向を変更する。つまり、An=α+基準角度となるようにする。言い換えるとβ(N+1)がβ(N)になるように、変更する。本実施形態では、β(N+1)を140度から30度に変更する。つまり、図14(i)に示すように基準方向を1404に補正することで、図14(j)に示す図14(e)と同じ表示範囲が表示されるようになる。
このように基準角度を変更することで、ユーザはチャプタN+1に切り替わった時に基準角度が変わっても、チャプタNの終了時と同じ表示範囲を確認することができる。なお、本実施例では建物をマッチング被写体としたが、これは山や銅像などのランドマーク的な被写体で合っても良い。
(実施例3)
実施例3は、メタデータとして各チャプタの方位情報が保持されていない場合に、各チャプタの映像から抽出した共通の被写体(マッチング被写体)を使用して、チャプタN+1の基準方向を変更する実施例である。実施例2では、マッチング被写体は、静止物に限られず、人物または動物などの移動する被写体からも選択される。これに対し、実施例3は、移動する被写体を対象外とし、人物および動物を除くマッチング被写体を選択し、チャプタN+1の基準方向を変更する実施例である。
実施例3では、実施例1で説明した図8と同様に、表示制御装置200は複数のチャプタで構成されたVR動画を表示する処理を実行する。また、実施例3では、チャプタNに続けて再生されるチャプタN+1の基準方向は、両チャプタで共通するマッチング被写体を使用して設定される。図9は、マッチング被写体による基準方向設定処理を例示するフローチャートである。図8および図9に示す処理は、不揮発性メモリ203に記録されたプログラムをメモリ202に展開してCPU201が実行することにより実現する。なお、この処理は、表示制御装置200に電源が入り、ユーザが動画を再生する操作をしたことで開始する。
なお、図8の処理のうち、実施例1または実施例2と同じ処理については説明を省略する。図9のS901およびS902の処理について説明する。
S901で、CPU201は、チャプタNとチャプタN+1とが、連続して撮影されたか否かを判定する。CPU201は、チャプタNの撮影終了後、所定の時間内にチャプタN+1の撮影が開始された場合には、チャプタNとチャプタN+1とが連続して撮影されたと判定することができる。実施例3は、チャプタNとチャプタN+1とが連続して撮影されていない例であるため、処理はS903に進む。S903では、CPU201は、人物および動物等は対象外としてマッチング被写体を検索する。
チャプタNとチャプタN+1とが連続して撮影されなかった場合、人物のように移動する被写体は、チャプタ間のマッチングの基準として用いることは好ましくない。したがって、チャプタNの撮影終了後、所定の時間内にチャプタN+1の撮影が開始されなかった場合、CPU201は、人物および動物等は対象外としてマッチング被写体を検出する。これにより、CPU201は、両チャプタが連続して撮影されたか否かに応じて、適切にマッチング被写体を選択することができる。
なお、上述の各実施例において、チャプタNの再生後にユーザの姿勢が大きく変わった場合、CPU201は、チャプタN+1の再生開始時の表示範囲を、チャプタNの再生終了時の表示範囲に合わせないようにしてもよい。この場合、CPU201は、チャプタN+1の基準方向をチャプタNに合わせて変更せずに、撮影時の基準方向のままチャプタN+1を再生すればよい。
以上のように、上述の実施例によれば、複数のチャプタで構成されたVR動画を再生する場合、ユーザは、各チャプタ間で視聴方向(表示方向)を引き継いだまま、VR動画を鑑賞することが出来る。
また、上述した実施例では、複数チャプタで構成された動画を再生する場合について説明した。しかし、本発明は、この例に限定されず、複数の動画を連続して再生するよう場合にも適用可能である。
なお、CPU201が行うものとして説明した上述の各種制御は1つのハードウェアが行ってもよいし、複数のハードウェア(例えば、複数のプロセッサーや回路)が処理を分担することで、装置全体の制御を行ってもよい。
また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものに過ぎず、各実施形態を適宜組み合わせることも可能である。
また、上述した実施形態においては、本発明を表示制御装置に適用した場合を例にして説明したが、これはこの例に限定されず、視線入力を受け付け可能な撮像装置または電子機器であれば適用可能である。例えば、本発明は、パーソナルコンピュータやPDA、携帯電話端末や携帯型の画像ビューワ、プリンタ装置、デジタルフォトフレーム、音楽プレーヤー、ゲーム機、電子ブックリーダー、映像プレーヤーなどに適用可能である。また、本発明は、タブレット端末、スマートフォン、投影装置、ディスプレイを備える家電装置や車載装置などに適用可能である。また、本発明は、ヘッドマウントディスプレイ(HMD)などのウェアラブル機器、表示装置(投影装置を含む)、タブレット端末、スマートフォン、AIスピーカー、家電装置、車載装置、医療機器などにも適用可能である。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は
記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
200:表示制御装置(電子機器) 201:CPU 205:ディスプレイ

Claims (13)

  1. VR動画を再生可能な電子機器であって、
    前記電子機器の姿勢情報を取得する第1の取得手段と、
    前記VR動画の再生を開始するときに表示する表示範囲の基準となる方向である前記VR動画の基準方向を取得する第2の取得手段と、
    前記VR動画を再生するとき、前記VR動画に含まれる各フレーム画像について、前記姿勢情報に対応する方向に基づく一部の範囲を画面に表示するよう制御する制御手段と、
    第1のVR動画と、前記第1のVR動画とは異なる第2のVR動画とに対してパターンマッチング処理を実行し、共通の被写体を検出する検出手段と
    前記第1のVR動画の基準方向である第1の基準方向および前記第1のVR動画の前記共通の被写体の方位の差分に基づいて、前記第2のVR動画の基準方向を第2の基準方向から、前記第2の基準方向とは異なる第3の基準方向に変更する変更手段と
    を有し、
    前記制御手段は、前記第1のVR動画の再生を終了した後、連続して前記第2のVR動画の再生を開始するとき、前記第2のVR動画の最初に表示されるフレーム画像のうち、前記第3の基準方向と前記第1のVR動画の再生を終了したときの前記姿勢情報に基づく一部の範囲を、前記画面に表示するように制御する
    ことを特徴とする電子機器。
  2. 前記パターンマッチング処理は、前記第1のVR動画の再生を終了した後、連続して前記第2のVR動画の再生を開始するときに実行される
    ことを特徴とする請求項1に記載の電子機器。
  3. 前記第1のVR動画又は前記第2のVR動画に方位情報が保持されていない場合、前記変更手段は、前記第1の基準方向および前記第1のVR動画の前記共通の被写体の方位の差分に基づいて、前記第2のVR動画の基準方向を前記第2の基準方向から前記第3の基準方向に変更し、
    前記第1のVR動画及び前記第2のVR動画に方位情報が保持されている場合、前記変更手段は、前記第1のVR動画の基準方向である前記第1の基準方向および前記第1のVR動画の特定の方位の差分に基づいて、前記第2のVR動画の基準方向を前記第2の基準方向から、前記第2の基準方向とは異なる第4の基準方向に変更し、前記制御手段は、前
    記第1のVR動画の再生を終了した後、連続して前記第2のVR動画の再生を開始するとき、前記第2のVR動画の最初に表示されるフレーム画像のうち、前記第4の基準方向と前記第1のVR動画の再生を終了したときの前記姿勢情報に基づく一部の範囲を、前記画面に表示するように制御する
    ことを特徴とする請求項1または2に記載の電子機器。
  4. 前記第1のVR動画および前記第2のVR動画が方位情報を保持していない場合、前記パターンマッチング処理が実行される
    ことを特徴とする請求項1~3のいずれか1項に記載の電子機器。
  5. 前記共通の被写体が複数、検出された場合、最初に検出された被写体が前記共通の被写体として用いられる
    ことを特徴とする請求項1~4のいずれか1項に記載の電子機器。
  6. 前記共通の被写体は静止物である
    ことを特徴とする請求項1~5のいずれか1項に記載の電子機器。
  7. 前記第1のVR動画の撮影場所および前記第2のVR動画の撮影場所は一致する
    ことを特徴とする請求項1~6のいずれか1項に記載の電子機器。
  8. 前記方向は、ヨー軸の円周方向である
    ことを特徴とする請求項1~7のいずれか1項に記載の電子機器。
  9. 前記VR動画は、前記画面に一度に表示可能な範囲よりも広い映像範囲を有する
    ことを特徴とする請求項1~8のいずれか1項に記載の電子機器。
  10. 前記VR動画は、360°の視野範囲を有する
    ことを特徴とする請求項1~9のいずれか1項に記載の電子機器。
  11. VR動画を再生可能な電子機器の制御方法であって、
    前記電子機器の姿勢情報を取得する第1の取得ステップと、
    前記VR動画の再生を開始するときに表示する表示範囲の基準となる方向である前記VR動画の基準方向を取得する第2の取得ステップと、
    前記VR動画を再生するとき、前記VR動画に含まれる各フレーム画像について、前記姿勢情報に対応する方向に基づく一部の範囲を画面に表示するよう制御する制御ステップと、
    第1のVR動画と、前記第1のVR動画とは異なる第2のVR動画とに対してパターンマッチング処理を実行し、共通の被写体を検出する検出ステップと
    前記第1のVR動画の基準方向である第1の基準方向および前記第1のVR動画の前記共通の被写体の方位の差分に基づいて、前記第2のVR動画の基準方向を第2の基準方向から、前記第2の基準方向とは異なる第3の基準方向に変更する変更ステップと
    を有し、
    前記制御ステップにおいて、前記第1のVR動画の再生を終了した後、連続して前記第2のVR動画の再生を開始するとき、前記第2のVR動画の最初に表示されるフレーム画像のうち、前記第3の基準方向と前記第1のVR動画の再生を終了したときの前記姿勢情報に基づく一部の範囲を、前記画面に表示するように制御する
    ことを特徴とする電子機器の制御方法。
  12. コンピュータを、請求項1~10のいずれか1項に記載の電子機器の各手段として機能させるためのプログラム。
  13. コンピュータを、請求項1~10のいずれか1項に記載の電子機器の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2020044306A 2020-03-13 2020-03-13 電子機器及びその制御方法 Active JP7504632B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020044306A JP7504632B2 (ja) 2020-03-13 2020-03-13 電子機器及びその制御方法
US17/197,726 US11295530B2 (en) 2020-03-13 2021-03-10 Electronic apparatus for playing back a virtual reality video image and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020044306A JP7504632B2 (ja) 2020-03-13 2020-03-13 電子機器及びその制御方法

Publications (3)

Publication Number Publication Date
JP2021145297A JP2021145297A (ja) 2021-09-24
JP2021145297A5 JP2021145297A5 (ja) 2023-03-17
JP7504632B2 true JP7504632B2 (ja) 2024-06-24

Family

ID=77664876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020044306A Active JP7504632B2 (ja) 2020-03-13 2020-03-13 電子機器及びその制御方法

Country Status (2)

Country Link
US (1) US11295530B2 (ja)
JP (1) JP7504632B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11301035B1 (en) * 2019-09-27 2022-04-12 Apple Inc. Method and device for video presentation
JPWO2023100220A1 (ja) * 2021-11-30 2023-06-08
CN114786061B (zh) * 2022-04-12 2023-08-22 杭州当虹科技股份有限公司 一种基于vr设备的画面视角修正方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016019249A (ja) 2014-07-11 2016-02-01 キヤノン株式会社 表示制御装置
JP2019121918A (ja) 2018-01-05 2019-07-22 キヤノン株式会社 電子機器及びその制御方法
JP2019121224A (ja) 2018-01-09 2019-07-22 株式会社コロプラ プログラム、情報処理装置、及び情報処理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10754529B2 (en) 2016-10-28 2020-08-25 Adobe Inc. Facilitating editing of virtual-reality content using a virtual-reality headset
EP4415354A3 (en) 2017-03-23 2024-11-13 InterDigital VC Holdings, Inc. Metrics and messages to improve experience for 360-degree adaptive streaming
US11272160B2 (en) 2017-06-15 2022-03-08 Lenovo (Singapore) Pte. Ltd. Tracking a point of interest in a panoramic video

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016019249A (ja) 2014-07-11 2016-02-01 キヤノン株式会社 表示制御装置
JP2019121918A (ja) 2018-01-05 2019-07-22 キヤノン株式会社 電子機器及びその制御方法
JP2019121224A (ja) 2018-01-09 2019-07-22 株式会社コロプラ プログラム、情報処理装置、及び情報処理方法

Also Published As

Publication number Publication date
US20210287447A1 (en) 2021-09-16
JP2021145297A (ja) 2021-09-24
US11295530B2 (en) 2022-04-05

Similar Documents

Publication Publication Date Title
JP7183033B2 (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP7258482B2 (ja) 電子機器
JP7094815B2 (ja) 表示制御装置、表示制御装置の制御方法、プログラム、記憶媒体
JP7504632B2 (ja) 電子機器及びその制御方法
JP7512055B2 (ja) 電子機器及びその制御方法
JP2020042064A (ja) 表示制御装置、撮像装置、制御方法、プログラム、及び、記憶媒体
JP7267764B2 (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP2021174317A (ja) 電子機器及びその制御方法
JP2020095436A (ja) 電子機器及びその制御方法
JP7204511B2 (ja) 電子機器、電子機器の制御方法、プログラム
JP7336200B2 (ja) 電子機器及びその制御方法
JP7443100B2 (ja) 電子機器、電子機器の制御方法、プログラムおよび記憶媒体
JP7086762B2 (ja) 表示制御装置
US20240345407A1 (en) Electronic device and method for controlling electronic device
US20240176411A1 (en) Electronic device and method for controlling electronic device
CN110881102B (zh) 摄像设备、摄像设备的控制方法和计算机可读介质
JP2024116858A (ja) 電子機器、電子機器の制御方法、プログラム、および記憶媒体
JP2024153412A (ja) 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体
JP2020205554A (ja) 表示制御装置、その制御方法、プログラムおよび記憶媒体
JP2024132468A (ja) 表示制御装置、表示制御方法、プログラム
JP2023121126A (ja) 電子機器、電子機器の制御方法、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230308

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230308

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240612