JP6321263B1 - 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム - Google Patents
情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム Download PDFInfo
- Publication number
- JP6321263B1 JP6321263B1 JP2017099898A JP2017099898A JP6321263B1 JP 6321263 B1 JP6321263 B1 JP 6321263B1 JP 2017099898 A JP2017099898 A JP 2017099898A JP 2017099898 A JP2017099898 A JP 2017099898A JP 6321263 B1 JP6321263 B1 JP 6321263B1
- Authority
- JP
- Japan
- Prior art keywords
- virtual space
- user
- image data
- content data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 44
- 238000003672 processing method Methods 0.000 title claims abstract description 44
- 238000000034 method Methods 0.000 claims description 29
- 230000004044 response Effects 0.000 claims description 2
- 230000000007 visual effect Effects 0.000 description 50
- 210000001508 eye Anatomy 0.000 description 28
- 238000004891 communication Methods 0.000 description 26
- 230000008569 process Effects 0.000 description 22
- 238000012545 processing Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 18
- 238000003860 storage Methods 0.000 description 17
- 238000001514 detection method Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 13
- 210000003128 head Anatomy 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 210000003811 finger Anatomy 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 7
- 238000009826 distribution Methods 0.000 description 6
- 210000004247 hand Anatomy 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 3
- 102220465380 NF-kappa-B inhibitor beta_S23A_mutation Human genes 0.000 description 3
- 230000008921 facial expression Effects 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 3
- 230000002123 temporal effect Effects 0.000 description 3
- 210000003813 thumb Anatomy 0.000 description 3
- 102220496775 Lymphocyte expansion molecule_S23C_mutation Human genes 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000002834 transmittance Methods 0.000 description 2
- 244000025254 Cannabis sativa Species 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 241000283973 Oryctolagus cuniculus Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000001932 seasonal effect Effects 0.000 description 1
- 210000004243 sweat Anatomy 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 210000005010 torso Anatomy 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0362—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 1D translations or rotations of an operating part of the device, e.g. scroll wheels, sliders, knobs, rollers or belts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Architecture (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
【課題】仮想体験のエンタテイメント性を向上させ得る。【解決手段】ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法は、仮想空間を定義するための第1コンテンツデータを取得するステップと、第1コンテンツデータに基づいて仮想空間を生成するステップと、仮想空間の一部に相当する画像データを生成するステップと、画像データと第1コンテンツデータとを関連付けるステップと、第1コンテンツデータから第2コンテンツデータへの差替えを検知するステップと、差替えが検知された場合に、画像データを第2コンテンツデータに応じて更新するステップと、を含む。【選択図】図14
Description
本開示は、情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
非特許文献1は、仮想空間において、ユーザに関連付けられたアバターオブジェクトをユーザの操作に基づいて動作させる技術を開示している。
"Facebook Mark Zuckerberg Social VR Demo OC3 Oculus Connect 3 Keynote"、[online]、平成28年10月6日、VRvibe、[平成28年12月5日検索]、インターネット<https://www.youtube.com/watch?v=NCpNKLXovtE>
仮想空間における仮想体験のエンタテイメント性を向上させる方法の1つとして、現実空間と同じように仮想空間の一部を切り取った2次元画像(例えば記念写真等)を撮影および保存できる仕組みを提供することが考えられる。しかし、このような仕組みを提供するだけでは、現実空間と同じ仕組みを提供するに留まり、仮想空間ならではの体験を提供するまでには至らない。
そこで、本開示は、仮想空間における仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することを目的とする。
本開示が示す一態様によれば、ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法が提供される。この情報処理方法は、仮想体験を提供するための仮想空間を定義するための第1コンテンツデータを取得するステップと、第1コンテンツデータに基づいて仮想空間を生成するステップと、仮想空間の一部に相当する画像データを生成するステップと、画像データと第1コンテンツデータとを関連付けるステップと、第1コンテンツデータから第2コンテンツデータへの差替えを検知するステップと、差替えが検知された場合に、画像データを第2コンテンツデータに応じて更新するステップと、を含む。
本開示によれば、仮想体験のエンタテイメント性を向上させ得る情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラムを提供することが可能となる。
以下、図面を参照しつつ、本開示の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mount Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
図1を参照して、HMD(Head Mount Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD装置110(ユーザ端末)と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、ディスプレイ112(表示部)と、カメラ116と、マイク118と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をディスプレイ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
ディスプレイ112は、例えば、非透過型の表示装置として実現される。ある局面において、ディスプレイ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、ディスプレイ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、およびユーザが選択可能なメニューの画像等を含む。ある実施の形態において、ディスプレイ112は、所謂スマートフォンその他の情報表示端末が備える液晶ディスプレイまたは有機EL(Electro Luminescence)ディスプレイとして実現され得る。ディスプレイ112は、HMD装置110の本体と一体に構成されてもよいし、別体として構成されてもよい。
ある局面において、ディスプレイ112は、右目用の画像を表示するためのサブディスプレイと、左目用の画像を表示するためのサブディスプレイとを含み得る。別の局面において、ディスプレイ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、ディスプレイ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
カメラ116は、HMD装置110を装着するユーザの顔画像を取得する。カメラ116によって取得された顔画像は、画像解析処理によってユーザの表情を検知するために使用され得る。カメラ116は、例えば、瞳の動き、まぶたの開閉、および眉毛の動き等を検知するために、HMD装置110本体に内蔵された赤外線カメラであってもよい。あるいは、カメラ116は、ユーザの口、頬、および顎等の動きを検知するために、図1に示されるようにHMD装置110の外側に配置された外付けカメラであってもよい。また、カメラ116は、上述した赤外線カメラおよび外付けカメラの両方によって構成されてもよい。
マイク118は、ユーザが発した音声を取得する。マイク118によって取得された音声は、音声解析処理によってユーザの感情を検知するために使用され得る。当該音声は、仮想空間2に対して、音声による指示を与えるためにも使用され得る。また、当該音声は、ネットワーク19およびサーバ150等を介して、他のユーザが使用するHMDシステムに送られ、当該HMDシステムに接続されたスピーカ等から出力されてもよい。これにより、仮想空間を共有するユーザ間での会話(チャット)が実現される。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。
別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていてもよい。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。サーバ150は、一または複数のコンピュータ装置により構成され得る。サーバ150は、後述するコンピュータ200のハードウェア構成と同様のハードウェア構成(プロセッサ、メモリ、ストレージ等)を備え得る。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想空間に配置されるオブジェクトの位置および動き等を制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表す信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェース13と、通信インターフェース14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。メモリ11に保存されるデータは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発性メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発性記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、および他のコンピュータ200との通信を実現するためのプログラム等を含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムおよびデータ等の更新を一括して行うことが可能になる。
ある実施の形態において、入出力インターフェース13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェース13は、USB(Universal Serial Bus)インターフェース、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェース13は上述のものに限られない。例えば、入出力インターフェース13は、Bluetooth(登録商標)等の無線通信インターフェースを含み得る。
ある実施の形態において、入出力インターフェース13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェース13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェース13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェース14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェース14は、例えば、LAN(Local Area Network)その他の有線通信インターフェース、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェースとして実現される。なお、通信インターフェース14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェース13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてディスプレイ112に映像を表示する。
サーバ150は、ネットワーク19を介して複数のHMDシステム100の各々の制御装置と接続される。図2に示される例では、サーバ150は、HMD装置110Aを有するHMDシステム100Aと、HMD装置110Bを有するHMDシステム100Bと、HMD装置110Cを有するHMDシステム100Cとを含む複数のHMDシステム100を互いに通信可能に接続する。これにより、共通の仮想空間を用いた仮想体験が各HMDシステムを使用するユーザに提供される。なお、HMDシステム100A、HMDシステム100B、HMDシステム100C、およびその他のHMDシステム100は、いずれも同様の構成を備える。ただし、各HMDシステム100は、互いに異なる機種であってもよいし、互いに異なる性能(処理性能、およびユーザ動作の検知に関する検知性能等)を有してもよい。
なお、図2に示される例では、コンピュータ200がHMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、ディスプレイ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。なお、このような場合、本実施形態における複数のHMDシステム100は、入出力インターフェース13により、コンピュータ200に直接接続されてもよい。また、本実施形態におけるサーバ150の各機能(例えば後述する同期処理等)は、コンピュータ200に実装されてもよい。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出すると、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD装置110の傾き角度を表す。
HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。仮想空間2内の各位置は、XYZ座標系における座標値によって一意に特定される。
HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1は、例えば仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および傾きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がディスプレイ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をディスプレイ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。視界領域23内において仮想カメラ1と仮想空間画像22との間に後述する仮想オブジェクトが配置されている場合、視界画像には当該仮想オブジェクトが含まれる。すなわち、視界画像において、仮想空間画像22よりも手前側にある仮想オブジェクトが仮想空間画像22に重畳して表示される。ユーザ190が、頭に装着したHMD装置110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、ディスプレイ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および傾きに基づいて、HMD装置110のディスプレイ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。すなわち、仮想カメラ1によって、仮想空間2におけるユーザ190の視野(視界)が定義される。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の状態(A)に示されるように、ある局面において、コントローラ160は、右コントローラ160Rと左コントローラ(図示しない)とを含み得る。右コントローラ160Rは、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ160Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ160Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ160Rについて説明する。
右コントローラ160Rは、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ160Rと左コントローラとの各位置および姿勢(傾き、向き)等を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動させるための操作を含む。
ある局面において、右コントローラ160Rおよび左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ160Rおよび左コントローラは、例えば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ160Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[HMD装置の制御装置]
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表すブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト制御モジュール232と、チャット制御モジュール233と、コンテンツデータ制御モジュール234とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェース14によって実現される。
ある局面において、表示制御モジュール220は、HMD装置110のディスプレイ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、ディスプレイ112に表示される視界画像を生成する。基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表す仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト制御モジュール232は、後述するオブジェクト情報242に基づいて、仮想空間2に配置される仮想的なオブジェクトである仮想オブジェクトを生成する。また、仮想オブジェクト制御モジュール232は、仮想空間2における仮想オブジェクトの動作(移動および状態変化等)も制御する。
仮想オブジェクトは、仮想空間2に配置されるオブジェクト全般である。仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。また、仮想オブジェクトは、仮想空間におけるユーザの分身であるアバターおよびユーザにより操作されるゲームのキャラクタ(プレイヤキャラクタ)等のキャラクタオブジェクトを含み得る。さらに、仮想オブジェクトは、ユーザ190の身体の一部(例えば手)の動きに応じて動くオブジェクトである操作オブジェクトを含み得る。操作オブジェクトは、例えば、HMD装置110を装着したユーザ190の手に相当する手オブジェクト、ユーザ190の指に相当する指オブジェクト等を含み得る。また、手オブジェクトに関連付けられて操作されるオブジェクトも、ユーザ190の手の動きに応じて動く操作オブジェクトとして機能し得る。例えば、手オブジェクトにより把持されるタッチペン等のスティック状のオブジェクト等が、操作オブジェクトとして機能し得る。なお、以下の説明において、誤解が生じない場合には、仮想オブジェクトのことを単に「オブジェクト」と表記する。
チャット制御モジュール233は、同じ仮想空間2に滞在する他のユーザのアバターとチャットをするための制御を行う。例えば、チャット制御モジュール233は、仮想空間2を介したチャットを行うために必要なデータ(例えば、マイク118に入力された音声データ等)をサーバ150に送信する。また、チャット制御モジュール233は、サーバ150から受信した他のユーザの音声データを図示しないスピーカに出力する。これにより、音声によるチャットが実現される。また、チャット制御モジュール233は、その他のユーザ間で共有すべきデータについても、サーバ150を介して他のユーザのHMDシステム100との間で送受信する。共有すべきデータとしては、アバターの身体の一部の動作を制御するための動き検知データ等がある。
動き検知データは、例えば、向きデータ、アイトラッキングデータ、フェイストラッキングデータ、およびハンドトラッキングデータ等である。向きデータは、HMDセンサ120等により検出されたHMD装置110の位置および傾きを示す情報である。アイトラッキングデータは、注視センサ140等により検出された視線方向を示す情報である。フェイストラッキングデータは、例えばHMD装置110Aのカメラ116により取得された画像情報に対する画像解析処理によって生成されるデータである。フェイストラッキングデータは、ユーザ190Aの顔の各パーツの位置および大きさの経時変化を示す情報である。ハンドトラッキングデータは、例えばモーションセンサ130等により検出されたユーザ190Aの手の動きを示す情報である。
本実施形態では、チャット制御モジュール233は、音声データと動き検知データとを含む情報(以下「プレイヤ情報」という。)を、ユーザ間で共有すべき情報として、サーバ150を介して他のユーザのHMDシステム100との間で送受信する。プレイヤ情報の送受信は、通信制御モジュール250の機能を利用することにより実現される。
コンテンツデータ制御モジュール234は、仮想空間2を定義するためのコンテンツデータに関連付けられた画像データを生成し、仮想空間2に適用されるコンテンツデータが差し替えられた際に、当該画像データを更新する。画像データは、2次元画像であってもよいし、3次元画像であってもよい。コンテンツデータは、上述した仮想空間データの一部を構成するデータである。コンテンツデータおよびコンテンツデータ制御モジュール234による処理の詳細については後述する。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。仮想空間制御モジュール230は、例えばオブジェクト毎に設定されたコリジョンエリアに基づく公知の当たり判定を実行することにより、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、コンテンツ情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
コンテンツ情報241には、例えば、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報等が含まれている。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。具体的には、コンテンツ情報241は、仮想空間2の背景を規定する仮想空間画像データ(仮想空間画像22)と、仮想空間2に配置されるオブジェクトの定義情報とを含み得る。オブジェクトの定義情報は、オブジェクトを描画するための描画情報(例えば、オブジェクトの形状および色等のデザインを表す情報)、およびオブジェクトの初期配置を示す情報等を含み得る。また、予め設定された動作パターンに基づいて自律的に動作するオブジェクトの定義情報は、当該動作パターンを示す情報(プログラム等)を含み得る。予め定められた動作パターンに基づく動作の例としては、草を模したオブジェクトが一定のパターンで揺れる動作のような単純な繰り返し動作が挙げられる。
オブジェクト情報242には、仮想空間2に配置される各オブジェクトの状態(ゲームの進行およびユーザ190の操作等に応じて変化し得る状態)を示す情報が含まれている。具体的には、オブジェクト情報242は、各オブジェクトの位置(例えばオブジェクトに設定された重心の位置)を示す位置情報を含み得る。また、オブジェクト情報242は、変形可能なオブジェクトの動作を示す動き情報(すなわち、オブジェクトの形状を特定するための情報)をさらに含み得る。変形可能なオブジェクトの例としては、上述したアバターのように、頭部、胴体、および手等のパーツを有し、ユーザ190の動きに応じて各パーツを独立して動かすことが可能なオブジェクト等が挙げられる。
ユーザ情報243には、例えば、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、コンテンツ情報241に保持される各コンテンツを使用するアプリケーションプログラム等が含まれている。
メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、メモリモジュール240に一旦格納される。そのソフトウェアは、プロセッサ10によってメモリモジュール240から読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
図9に示されるコンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Erasable Programmable Read-Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、ユーザ190Aによって使用されるHMDシステム100Aがユーザ190Aに仮想空間2を提供するために実行する処理を表すフローチャートである。他のHMDシステム100B,100Cにおいても、同様の処理が実行される。
図10を参照して、本実施の形態に係るコンピュータ200の制御構造について説明する。図10は、ユーザ190Aによって使用されるHMDシステム100Aがユーザ190Aに仮想空間2を提供するために実行する処理を表すフローチャートである。他のHMDシステム100B,100Cにおいても、同様の処理が実行される。
ステップS1において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間2の背景を構成する仮想空間画像データ(仮想空間画像22)を特定し、仮想空間2を定義する。
ステップS2において、プロセッサ10は、仮想カメラ制御モジュール221として、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS3において、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。
ステップS4において、HMD装置110のディスプレイ112は、コンピュータ200から受信した信号に基づいて、視界画像を表示する。HMD装置110Aを装着したユーザ190Aは、視界画像を視認すると仮想空間2を認識し得る。
ステップS5において、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置および傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS6において、プロセッサ10は、視界領域決定モジュール222として、HMD装置110Aの位置と傾きとに基づいて、HMD装置110Aを装着したユーザ190Aの視界方向(すなわち、仮想カメラ1の位置および傾き)を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。
ステップS7において、コントローラ160は、現実空間におけるユーザ190Aの操作を検出する。例えば、ある局面において、コントローラ160は、ユーザ190Aによってボタンが押下されたことを検出する。別の局面において、コントローラ160は、ユーザ190Aの両手の動作(たとえば、両手を振る等)を検出する。検出内容を示す信号は、コンピュータ200に送られる。
ステップS8において、プロセッサ10は、チャット制御モジュール233として、他のHMDシステム100(ここではHMDシステム100B,100C)との間で、サーバ150を介してプレイヤ情報を送受信する。
ステップS9において、プロセッサ10は、仮想オブジェクト制御モジュール232として、各ユーザ190のプレイヤ情報に基づいて、各ユーザに関連付けられたアバターの動作を制御する。
ステップS10において、プロセッサ10は、視界画像生成モジュール223として、ステップS9の処理結果に基づく視界画像を表示するための視界画像データを生成し、生成した視界画像データをHMD装置110に出力する。
ステップS11において、HMD装置110のディスプレイ112は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像を表示する。
ステップS5〜S11の処理は、定期的に繰り返し実行される。
図11は、複数ユーザに共有される仮想空間2を模式的に表す図である。図11に示される例では、HMD装置110Aを装着するユーザ190Aに関連付けられたアバターA1と、HMD装置110Bを装着するユーザ190Bに関連付けられたアバターA2と、HMD装置110Cを装着するユーザ190Cに関連付けられたアバターA3とが、同一の仮想空間2に配置されている。このような複数ユーザに共通の仮想空間2によれば、各ユーザに対して、アバターA1〜A3を介した他のユーザとのチャット等のコミュニケーション体験を提供することができる。
この例では、各アバターA1〜A3は、動物(猫、熊、うさぎ)を模したキャラクタオブジェクトとして定義されている。アバターA1〜A3は、ユーザの動きに連動して動作可能な部分として、頭部(顔の向き)、目(視線および瞬き等)、顔(表情)、および手を含んでいる。頭部は、HMDセンサ120等によって検出されたHMD装置110の動きに連動して動く部分である。目は、カメラ116および注視センサ140等によって検出されたユーザの目の動きおよび視線の変化に連動して動く部分である。顔は、後述するフェイストラッキングデータに基づいて決定される表情が反映される部分である。手は、モーションセンサ130等により検出されたユーザの手の動きに連動して動く部分である。また、アバターA1〜A3は、頭部および手に付随して表示される胴体部および腕部とを含んでいる。なお、腰から下の脚部については動作制御が複雑となるため、アバターA1〜A3は脚部を含んでいない。
アバターA1の視野は、HMDシステム100Aにおける仮想カメラ1の視野と一致している。これにより、ユーザ190Aに対して、アバターA1の1人称視点における視界画像Mが提供される。すなわち、ユーザ190Aに対して、あたかも自分がアバターA1として仮想空間2に存在しているかのような仮想体験が提供される。図12は、HMD装置110Aを介してユーザ190Aに提供される視界画像Mの一例を表す図である。ユーザ190B,190Cに対しても同様に、アバターA2,A3の1人称視点における視界画像が提供される。
図13は、仮想空間2におけるチャットを実現するためにHMDシステム100A、HMDシステム100B、HMDシステム100C、およびサーバ150が実行する処理を表すシーケンス図である。
ステップS21Aにおいて、HMDシステム100Aにおけるプロセッサ10は、チャット制御モジュール233として、アバターA1の動作を決定するためのプレイヤ情報を取得する。プレイヤ情報には、アバターA1(あるいはアバターA1に関連付けられるユーザ190A)を特定する情報(ユーザID等)、およびアバターA1が存在する仮想空間2を特定する情報(ルームID等)等が含まれてもよい。プロセッサ10は、チャット制御モジュール233として、上述のように取得されたプレイヤ情報を、ネットワーク19を介してサーバ150に送信する。
ステップS21Bにおいて、HMDシステム100Bにおけるプロセッサ10は、ステップS21Aにおける処理と同様に、アバターA2の動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。同様に、ステップS21Cにおいて、HMDシステム100Cにおけるプロセッサ10は、アバターA3の動作を決定するためのプレイヤ情報を取得し、サーバ150に送信する。
ステップS22において、サーバ150は、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ150は、各プレイヤ情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間2に関連付けられた全ユーザ(この例では、ユーザ190A〜190C)のプレイヤ情報を統合する。そして、サーバ150は、予め定められたタイミングで、統合したプレイヤ情報を当該仮想空間2に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDシステム100A、HMDシステム100B、およびHMDシステム100Cは、互いのプレイヤ情報をほぼ同じタイミングで共有することができる。
続いて、サーバ150から各HMDシステム100A〜100Cに送信されたプレイヤ情報に基づいて、各HMDシステム100A〜100Cは、ステップS23A〜S23Cの処理を実行する。なお、ステップS23Aの処理は、図10におけるステップS9の処理に相当する。
ステップS23Aにおいて、HMDシステム100Aにおけるプロセッサ10は、仮想オブジェクト制御モジュール232として、仮想空間2におけるユーザ190A〜190CのアバターA1〜A3の動作を制御する。具体的には、プロセッサ10は、HMDシステム100Bから送信されたプレイヤ情報に含まれるユーザ190A〜190Cの動き検知データに基づいて、アバターA1〜A3の動作を制御する。ステップS23BおよびS23Cの処理は、ステップS23Aの処理と同様である。
[画像データの生成および更新]
図14を参照して、画像データの生成および更新に関する処理手順を説明する。画像データは、仮想空間2の一部に相当する画像データである。画像データは、2次元画像であってもよいし、3次元画像であってもよい。画像データは、ユーザ190に提供される視界画像データと同様に、仮想空間2内に設定された視点情報に基づく視界領域によって規定される。視点情報は、仮想空間2内における視界領域を特定するための情報であり、例えば仮想空間2内における位置および傾きを示す情報である。仮想カメラ1の位置および傾きを示す情報は、視点情報の一種である。画像データは、例えば、所定時点(例えばユーザ190Aにより指定された時点)における仮想空間2の状態を捉えた静止画である。ステップS31およびS32の処理は、図10のステップS1の処理に相当し、仮想空間定義モジュール231により実行される。ステップS33〜S36の処理は、コンテンツデータ制御モジュール234により実行される。
図14を参照して、画像データの生成および更新に関する処理手順を説明する。画像データは、仮想空間2の一部に相当する画像データである。画像データは、2次元画像であってもよいし、3次元画像であってもよい。画像データは、ユーザ190に提供される視界画像データと同様に、仮想空間2内に設定された視点情報に基づく視界領域によって規定される。視点情報は、仮想空間2内における視界領域を特定するための情報であり、例えば仮想空間2内における位置および傾きを示す情報である。仮想カメラ1の位置および傾きを示す情報は、視点情報の一種である。画像データは、例えば、所定時点(例えばユーザ190Aにより指定された時点)における仮想空間2の状態を捉えた静止画である。ステップS31およびS32の処理は、図10のステップS1の処理に相当し、仮想空間定義モジュール231により実行される。ステップS33〜S36の処理は、コンテンツデータ制御モジュール234により実行される。
ステップS31において、HMDシステム100Aのプロセッサ10(以下単に「プロセッサ10」)は、仮想空間2を定義するためのコンテンツデータを取得する。
コンテンツデータは、仮想空間データの一部を構成するデータである。本実施形態では一例として、コンテンツデータは、上述したコンテンツ情報241に含まれる。より具体的には、コンテンツデータは、例えば、仮想空間画像22として展開されるコンテンツ(背景データ)を記録したデータである。コンテンツデータは、例えば上述したコンテンツ(例えば現実世界の風景を表したコンテンツ等)を提供(配信)する事業者が運営するコンピュータ(以下「コンテンツ配信プラットフォーム」)から、HMDシステム100Aに配信される。例えば、上述したサーバ150がコンテンツ配信プラットフォームを構成し得る。本実施形態では一例として、ステップS31において取得されたコンテンツデータ(第1コンテンツデータ)は、景観の良い場所に設置された定点カメラ(例えば360度カメラ)により撮影された四季の風景を記録した映像コンテンツ(例えば春の風景の映像コンテンツ)である。
ステップS32において、プロセッサ10は、第1コンテンツデータに基づいて仮想空間2を生成する。すなわち、プロセッサ10は、第1コンテンツデータが仮想空間画像22として展開された仮想空間2を生成する。
ステップS33において、プロセッサ10は、予め定められた条件が成立した場合に、仮想空間2の一部に相当する画像データを生成する。画像データは、ユーザ190Aに仮想体験が提供されている間(すなわち、アバターA1を介して仮想空間2内を鑑賞している間)にユーザ190Aによって指定された仮想空間2の一部に基づいて、生成され得る。例えば、プロセッサ10は、コントローラ160に対する予め定められた入力操作、および視界画像に表示されるメニュー画面に対するユーザ操作等を受け付けた場合に、画像データを生成する。
例えば、プロセッサ10は、ユーザ190Aから仮想空間2内における撮影領域を示す情報を受け付ける。撮影領域を示す情報は、例えば図6および図7に示される視界領域23と同様の領域を特定するための情報であり、仮想空間2内における位置、方向、極角、および方位角等の情報である。なお、視界領域23の極角αおよび方位角βと同じ極角および方位角を用いる場合には、プロセッサ10は、ユーザ190Aから、仮想空間2内における位置および方向(傾き)を示す視点情報のみを受け付ければよい。続いて、プロセッサ10は、撮影領域と仮想空間2とが重なる部分に相当する画像データを生成する。当該画像データは、視界領域23に基づいてユーザ190Aに提供される視界画像データを決定する処理と同様の処理により生成される。
画像データは、視界画像を定義する視点情報に基づいて生成され得る。すなわち、プロセッサ10は、仮想カメラ1の位置および傾きに基づく視界領域23を、上記撮影領域として設定し、当該撮影領域に基づいて画像データを生成し得る。この場合、ユーザ190Aに提供される視界画像と同一の画像が、画像データとして生成される。より具体的には、仮想空間2内のコンテンツ(仮想空間画像22)を鑑賞中のユーザ190A(アバターA1)が予め定められた撮影操作を実行した場合に、当該ユーザ190A1から見た視界画像が、画像データとして生成される。予め定められた撮影操作は、例えば、コントローラ160に対する入力操作、および視界画像に含まれるアイコンオブジェクト等を手オブジェクトによりタッチする操作等である。
また、仮想空間2は、ユーザ190Aに関連付けられた操作オブジェクトと、操作オブジェクトによって操作される撮影オブジェクトと、を含んでもよい。操作オブジェクトは、例えば上述した手オブジェクト等である。撮影オブジェクトは、例えばカメラ等を模したオブジェクトであり、仮想空間2内を撮影する機能を有するオブジェクトである。この場合、画像データは、撮影オブジェクトに関連付けられた視点情報に基づいて生成され得る。すなわち、プロセッサ10は、撮影オブジェクトの位置および傾きに基づいて撮影領域を設定し、当該撮影領域に基づいて画像データを生成し得る。この場合、ユーザ190Aに対して、仮想空間2内でカメラ撮影しているような体験を提供することが可能となる。ここで、画像データが生成されるタイミング(撮影タイミング)は、撮影オブジェクトが操作オブジェクトによる入力操作を受け付けたタイミングに設定されてもよい。入力操作は、例えば、撮影オブジェクトに設けられた撮影ボタンを操作オブジェクトによりタッチする操作等である。この場合、画像データは、撮影オブジェクトが入力操作を受け付けたタイミングにおける視点情報(撮影オブジェクトの位置および傾き)に基づいて生成される。
ステップS33において生成される画像データは、ユーザに関連付けられたアバター(キャラクタオブジェクト)に相当する第1部分と、適用されるコンテンツデータに依存する第2部分とを含んでいる。例えば、画像データは、仮想空間2と撮影領域とが重なる部分(3次元領域)に含まれる仮想空間2の構成要素(例えば、オブジェクトおよび仮想空間画像22)を、互いに異なるレイヤ画像として含んでいる。つまり、画像データには、最背面に相当する仮想空間画像22から最前面に配置されたオブジェクトまでの重なり順に応じたレイヤが定義されており、各レイヤに対応する画像(レイヤ画像)が含まれている。また、画像データには、各レイヤ画像が上述の第1部分および第2部分のいずれに対応するかを示す定義情報が関連付けられている。本実施形態では、適用されるコンテンツデータの種類に応じて変化する背面画像(仮想空間画像22)が第2部分として定義され、アバターに相当する部分が第1部分として定義される。
図15および図16を参照して、上述したステップS32およびS33の処理の一例について説明する。図15の状態(A)は、ステップS32において生成された仮想空間2を表している。第1コンテンツデータとして記録された春の風景の映像コンテンツが、仮想空間画像22として表示されている。図15の状態(B)は、ステップS33において生成された画像データP1を表している。図16の状態(A)および状態(B)に示されるように、画像データP1は、第1部分として、アバターA2に相当する部分を含むレイヤ画像P2を含み、第2部分として、仮想空間画像22に対応するレイヤ画像P3を含んでいる。
画像データP1は、仮想空間2内の所定の位置に固定オブジェクトとして生成されてもよいし、仮想空間2内で移動させることが可能な可動オブジェクトとして生成されてもよい。例えば、画像データP1は、現実世界における写真を模した持ち運び可能なオブジェクトとして生成されてもよい。この場合、例えば複数のユーザ間で画像データP1を見せ合ったりすることが可能となる。また、画像データP1は、HMD装置110とは異なる端末装置が備える表示部に表示出力されてもよい。画像データP1は、例えばインターネット等を介して当該端末装置に転送され得る。端末装置は、例えばユーザ190Aが保有するデスクトップPC、ノートPC、および携帯端末(スマートフォン、タブレット端末等)等である。この場合、仮想空間2内で撮影された画像データを現実空間で鑑賞することが可能となる。また、画像データP1は、インターネット等を介して他のシステム(例えばSNS(Social Networking Service)サイト等)にアップロード可能とされてもよい。この場合、仮想空間2内で撮影された画像データP1をSNSサイト等に投稿すること等が可能となり、仮想空間2における過去の体験を現実空間で他のユーザと共有するといった楽しみ方が可能となる。
ステップS34において、プロセッサ10は、画像データP1と第1コンテンツデータとを関連付ける。関連付けは、データ同士の関連付けに関する公知の処理により行われ得る。
ステップS35において、プロセッサ10は、第1コンテンツデータから第2コンテンツデータへの差替えを検知する。例えば、コンテンツ配信プラットフォームからHMDシステム100Aに新たなコンテンツデータ(第2コンテンツデータ)が配信された場合に、プロセッサ10は、当該新たなコンテンツデータを仮想空間2に適用する(上述したステップS31およびS32の処理を実行する)と共に、コンテンツデータの差替えを検知する。
コンテンツ配信プラットフォームは、例えば現実世界の時間と連動する映像コンテンツを、予め定められたタイミングでHMDシステム100Aに配信するように設定され得る。例えば、季節の変わり目として予め定められた時期に、次の季節に対応するコンテンツデータが新たなコンテンツデータとして配信されてもよい。また、コンテンツ配信プラットフォームは、定点カメラによって朝、昼、夜のそれぞれの時間帯に撮影された風景を記録した各コンテンツデータを、それぞれ対応する時間帯に配信してもよい。
なお、複数のコンテンツデータは、予めメモリモジュール240に格納されていてもよい。この場合、プロセッサ10は、コンテンツ配信プラットフォームから新たなコンテンツデータが配信されるタイミングではなく、予め定められた時期または時刻となったことを契機として、仮想空間2に適用されるコンテンツデータを差し替えてもよい。
ステップS36において、プロセッサ10は、第1コンテンツデータから第2コンテンツデータ(本実施形態では冬の風景の映像コンテンツ)への差替えが検知された場合に、第1コンテンツデータに関連付けられた画像データP1の内容を第2コンテンツデータに応じた内容に更新する。例えば、プロセッサ10は、ステップS33において画像データP1を生成する際に用いられた撮影領域と第2コンテンツデータが適用された仮想空間2(アバターA2が存在しない仮想空間2)とが重なる部分に相当する更新用画像データを生成する。更新用画像データは、画像データP1の第2部分であるレイヤ画像P3に対応するレイヤ画像(第2コンテンツデータに応じた仮想空間画像22)である。続いて、プロセッサ10は、レイヤ画像P3を、第2コンテンツデータに応じた更新用画像データに更新する。
また、プロセッサ10は、画像データP1の第1部分であるアバターA2の表示態様を、第2コンテンツデータに基づいて変更してもよい。例えば、プロセッサ10は、第2コンテンツデータに予め関連付けられている属性(例えば、季節の情報)に基づいて、アバターA2の表示態様(例えば明るさ(輝度)および色合い等の色)を調整してもよい。例えば、プロセッサ10は、日差しの強い夏の風景の場合にはアバターA2の色合いを明るめに設定し、日差しの弱い冬の風景の場合にはアバターA2の色合いを暗めに設定するといった調整を行ってもよい。また、プロセッサ10は、夏の風景の場合には、アバターA2の顔部分に汗を表現するエフェクト画像を重畳させるといった処理を行ってもよい。このように第2部分だけでなく第1部分の表示態様についてもコンテンツデータの内容に応じて変更することにより、第1部分と差替え後の第2部分との調和の取れた画像データを得ることが可能となる。
図17および図18を参照して、上述したステップS36の処理の一例について説明する。図17の状態(A)は、更新用画像データを取得する処理を概念的に説明する図である。すなわち、図17の状態(A)は、第2コンテンツデータが適用された仮想空間2内を、画像データP1を生成する際に用いられた撮影領域が関連付けられた撮影用仮想カメラVCにより撮影することで、更新用画像データが得られることを示している。図17の状態(B)は、このようにして得られた更新用画像データP4を表している。図18は、画像データP1のレイヤ画像P3を更新用画像データP4に差し替えることにより得られる更新後の画像データP5を表している。
[鑑賞モード]
続いて、上述した画像データにより実現される鑑賞モードについて説明する。鑑賞モードは、複数のコンテンツデータのうちから仮想空間2に適用されるコンテンツデータを順次切り替えることで、画像データの背景を順次切り替えるモードである。例えば、定点観測された所定の場所の風景(コンテンツデータ)が関連付けられた画像データの風景を、時系列に沿って実際の時間の流れよりも速い速度で切り替えることで、ユーザ190に所定の場所の経年変化(例えば10年間の変化)を鑑賞させることができる。これにより、画像データを用いたユーザ190の仮想体験をよりリッチにし得る。鑑賞モードは、例えば以下のようにして実現される。すなわち、プロセッサ10は、ユーザ190からの要求に応じて、複数のコンテンツデータのうちから仮想空間2に適用されるコンテンツデータを、予め定められた順番で切り替えながら、画像データの内容を適用されるコンテンツデータに応じた内容に順次更新する。
続いて、上述した画像データにより実現される鑑賞モードについて説明する。鑑賞モードは、複数のコンテンツデータのうちから仮想空間2に適用されるコンテンツデータを順次切り替えることで、画像データの背景を順次切り替えるモードである。例えば、定点観測された所定の場所の風景(コンテンツデータ)が関連付けられた画像データの風景を、時系列に沿って実際の時間の流れよりも速い速度で切り替えることで、ユーザ190に所定の場所の経年変化(例えば10年間の変化)を鑑賞させることができる。これにより、画像データを用いたユーザ190の仮想体験をよりリッチにし得る。鑑賞モードは、例えば以下のようにして実現される。すなわち、プロセッサ10は、ユーザ190からの要求に応じて、複数のコンテンツデータのうちから仮想空間2に適用されるコンテンツデータを、予め定められた順番で切り替えながら、画像データの内容を適用されるコンテンツデータに応じた内容に順次更新する。
図19を参照して、鑑賞モードを実行するための処理手順について説明する。
ステップS41において、プロセッサ10は、予め定められた条件の成立を検知する。例えば、プロセッサ10は、ユーザ190から鑑賞モードの実行指示を受け付けた場合に、上記条件が成立したと判定する。実行指示は、例えばコントローラ160に対する予め定められた操作が入力された場合に、当該コントローラ160からプロセッサ10へと出力される。
ステップS42において、プロセッサ10は、複数のコンテンツデータのうちから仮想空間2に適用されるコンテンツデータを選択する。ここでは一例として、複数のコンテンツデータには、風景が観測された時点(例えば日時)が関連付けられている。そして、プロセッサ10は、複数のコンテンツデータのうちから最も古い時点に観測された風景に対応するコンテンツデータを、仮想空間2に適用されるコンテンツデータとして選択する。
ステップS43において、プロセッサ10は、選択されたコンテンツデータに応じて画像データの内容を更新する。当該更新は、上述したステップS36と同様の処理により実現される。
ステップS44において、プロセッサ10は、コンテンツデータを切り替える時間間隔として予め定められた所定時間が経過したか否かを監視する。プロセッサ10は、所定時間が経過したことを検知すると、ステップS45において鑑賞モードを終了するか否かを判定する。鑑賞モードを終了するか否かは、例えば、次のコンテンツデータ(すなわち、現在適用されているコンテンツモードよりも時間順で後のコンテンツデータ)が存在するか否かに基づいて判定される。次のコンテンツデータが存在しない場合には、プロセッサ10は、鑑賞モードを終了すると判定し(ステップS45:YES)、処理を終了する。
一方、次のコンテンツデータが存在する場合には、プロセッサ10は、鑑賞モードを継続すると判定し(ステップS45:NO)、ステップS46において、時間順で次のコンテンツデータを、次に適用されるコンテンツデータとして選択し、ステップS43に戻る。
以上説明した画像データの生成および更新によれば、ある時点において生成された画像データのコンテンツデータに対応する部分(本実施形態では背景部分)を、コンテンツデータの差替えに応じて変化させることができる。例えば仮想空間2内で生成された画像データが、上述したようにSNS等にアップロード可能とされている場合、ユーザは、自身のアバターを含んだ画像データをSNSサイトにおける自身のプロフィール画像に設定することができる。その後、仮想空間2に適用されるコンテンツデータが変更されると、プロフィール画像の背景も自動的に更新される。例えば仮想空間2に適用されるコンテンツデータが現実世界の季節と連動して変更される場合、プロフィール画像の背景も同様に季節と連動して変更されることになるため、プロフィール画像に季節感を出すことができる。このように、上記実施形態によれば、仮想空間2の一部を単に切り取った画像を撮影および保存できる仕組みをユーザに提供することに留まらず、仮想空間2であるからこそ実現できる楽しみ方をユーザに提供することができる。その結果、ユーザ190の仮想体験のエンタテイメント性を向上し得る。
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
例えば、本実施形態においてHMDシステム100のプロセッサ10が実行するものとして説明した各処理は、サーバ150が備えるプロセッサによって実行されてもよいし、プロセッサ10とサーバ150とによって分散して実行されてもよい。
また、本実施形態においては、HMD装置110によってユーザ190が没入する仮想空間(VR空間)を例示して説明したが、HMD装置110として、透過型のHMD装置を採用してもよい。この場合、透過型のHMD装置を介してユーザ190が視認する現実空間に、仮想空間を構成する画像の一部が視界画像として重畳されるように視界画像を出力することにより、拡張現実(AR:Augumented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザ190に提供してもよい。この場合、仮想空間2内における操作オブジェクト(例えば手オブジェクト)に代えて、現実空間におけるユーザ190の手の動きに基づいて、仮想空間2内における対象オブジェクト(例えば撮影オブジェクト)への作用を生じさせてもよい。具体的には、プロセッサ10は、現実空間におけるユーザ190の手の位置の座標情報を特定するとともに、仮想空間2内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサ10は、現実空間におけるユーザ190の手と仮想空間2における対象オブジェクトとの位置関係を把握し、ユーザ190の手と対象オブジェクトとの間で上述した当たり判定等に対応する処理を実行可能となる。その結果、ユーザ190の手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。
本明細書に開示された主題は、例えば、以下のような項目として示される。
(項目1)
ユーザ端末(HMD装置110)を介してユーザ190に仮想体験を提供するためにコンピュータ(コンピュータ200またはサーバ150が備えるコンピュータ)によって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間2を定義するための第1コンテンツデータを取得するステップ(図14のS31)と、
前記第1コンテンツデータに基づいて前記仮想空間2を生成するステップ(図14のS32)と、
前記仮想空間2の一部に相当する画像データP1を生成するステップ(図14のS33)と、
前記画像データP1と前記第1コンテンツデータとを関連付けるステップ(図14のS34)と、
前記第1コンテンツデータから第2コンテンツデータへの差替えを検知するステップ(図14のS35)と、
前記差替えが検知された場合に、前記画像データP1を前記第2コンテンツデータに応じて更新するステップ(図14のS36)と、
を含む、情報処理方法。
本項目の情報処理方法によれば、ある時点において生成された画像データP1を、コンテンツデータの差替えに応じて変化させることができる。これにより、ユーザ190の仮想体験のエンタテイメント性を向上させることができる。
(項目2)
前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイス(HMD装置110)を少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間2と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部(ディスプレイ112)に前記視界画像を表示させるステップ(図10のS10)をさらに含み、
前記画像データP1は、前記ユーザ190に前記仮想体験が提供されている間に前記ユーザ190によって指定された前記仮想空間2の前記一部に基づいて、生成される、
項目1の情報処理方法。
本項目の情報処理方法によれば、仮想体験中のユーザに画像データを生成(撮影)する体験を提供することができるため、ユーザの仮想体験をよりリッチにし得る。
(項目3)
前記画像データP1は、前記視界画像を定義する視点情報に基づいて、生成される、
項目2の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像と同一の画像を表す画像データを生成することができる。
(項目4)
前記仮想空間2は、前記ユーザ190に関連付けられたアバター(キャラクタオブジェクト)によって操作される撮影オブジェクトをさらに含み、
前記画像データP1は、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
項目2の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像とは異なる画像を表す画像データを生成することができる。
(項目5)
前記仮想空間2は、前記ユーザ190の身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データP1は、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
項目4の情報処理方法。
本項目の情報処理方法によれば、仮想空間2内において、撮影オブジェクトによる撮影操作を行う体験(すなわち、現実空間においてカメラ撮影するような体験)をユーザに提供できるため、ユーザの仮想体験をよりリッチにし得る。
(項目6)
前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データP1は、前記端末装置が備える表示部に表示される、
項目2〜5のいずれかの情報処理方法。
本項目の情報処理方法によれば、仮想空間2内で撮影された画像データを現実空間で鑑賞することが可能となり、ユーザのエンタテイメント性を向上させ得る。
(項目7)
前記画像データP1は、前記ユーザに関連付けられたキャラクタオブジェクト(アバターA1)に相当する第1部分(レイヤ画像P2)と、適用されるコンテンツデータに依存する第2部分(レイヤ画像P3)とを含み、
前記更新するステップにおいて、前記画像データの前記第2部分を、前記第2コンテンツデータに応じて更新する、
項目1〜6のいずれかの情報処理方法。
本項目の情報処理方法によれば、コンテンツデータの影響を受ける部分のみをコンテンツデータの差替えに応じて変更することにより、画像データの更新を容易に行うことができる。
(項目8)
前記更新するステップにおいて、前記画像データの前記第1部分の表示態様を、前記第2コンテンツデータに基づいて変更する、
項目7の情報処理方法。
本項目の情報処理方法によれば、第2部分だけでなく第1部分の表示態様についてもコンテンツデータの内容に応じて変更することにより、第1部分と差替え後の第2部分との調和の取れた画像データを得ることが可能となる。
(項目9)
予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
項目1〜8のいずれかの情報処理方法。
本項目の情報処理方法によれば、例えばユーザ190に所定の場所の経年変化を鑑賞させること等が可能となり、画像データを用いたユーザ190の仮想体験をよりリッチにし得る。
(項目10)
項目1〜9のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
(項目11)
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により項目1〜9のいずれかの情報処理方法を実行する、装置。
(項目1)
ユーザ端末(HMD装置110)を介してユーザ190に仮想体験を提供するためにコンピュータ(コンピュータ200またはサーバ150が備えるコンピュータ)によって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間2を定義するための第1コンテンツデータを取得するステップ(図14のS31)と、
前記第1コンテンツデータに基づいて前記仮想空間2を生成するステップ(図14のS32)と、
前記仮想空間2の一部に相当する画像データP1を生成するステップ(図14のS33)と、
前記画像データP1と前記第1コンテンツデータとを関連付けるステップ(図14のS34)と、
前記第1コンテンツデータから第2コンテンツデータへの差替えを検知するステップ(図14のS35)と、
前記差替えが検知された場合に、前記画像データP1を前記第2コンテンツデータに応じて更新するステップ(図14のS36)と、
を含む、情報処理方法。
本項目の情報処理方法によれば、ある時点において生成された画像データP1を、コンテンツデータの差替えに応じて変化させることができる。これにより、ユーザ190の仮想体験のエンタテイメント性を向上させることができる。
(項目2)
前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイス(HMD装置110)を少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間2と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部(ディスプレイ112)に前記視界画像を表示させるステップ(図10のS10)をさらに含み、
前記画像データP1は、前記ユーザ190に前記仮想体験が提供されている間に前記ユーザ190によって指定された前記仮想空間2の前記一部に基づいて、生成される、
項目1の情報処理方法。
本項目の情報処理方法によれば、仮想体験中のユーザに画像データを生成(撮影)する体験を提供することができるため、ユーザの仮想体験をよりリッチにし得る。
(項目3)
前記画像データP1は、前記視界画像を定義する視点情報に基づいて、生成される、
項目2の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像と同一の画像を表す画像データを生成することができる。
(項目4)
前記仮想空間2は、前記ユーザ190に関連付けられたアバター(キャラクタオブジェクト)によって操作される撮影オブジェクトをさらに含み、
前記画像データP1は、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
項目2の情報処理方法。
本項目の情報処理方法によれば、ユーザに提供される視界画像とは異なる画像を表す画像データを生成することができる。
(項目5)
前記仮想空間2は、前記ユーザ190の身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データP1は、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
項目4の情報処理方法。
本項目の情報処理方法によれば、仮想空間2内において、撮影オブジェクトによる撮影操作を行う体験(すなわち、現実空間においてカメラ撮影するような体験)をユーザに提供できるため、ユーザの仮想体験をよりリッチにし得る。
(項目6)
前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データP1は、前記端末装置が備える表示部に表示される、
項目2〜5のいずれかの情報処理方法。
本項目の情報処理方法によれば、仮想空間2内で撮影された画像データを現実空間で鑑賞することが可能となり、ユーザのエンタテイメント性を向上させ得る。
(項目7)
前記画像データP1は、前記ユーザに関連付けられたキャラクタオブジェクト(アバターA1)に相当する第1部分(レイヤ画像P2)と、適用されるコンテンツデータに依存する第2部分(レイヤ画像P3)とを含み、
前記更新するステップにおいて、前記画像データの前記第2部分を、前記第2コンテンツデータに応じて更新する、
項目1〜6のいずれかの情報処理方法。
本項目の情報処理方法によれば、コンテンツデータの影響を受ける部分のみをコンテンツデータの差替えに応じて変更することにより、画像データの更新を容易に行うことができる。
(項目8)
前記更新するステップにおいて、前記画像データの前記第1部分の表示態様を、前記第2コンテンツデータに基づいて変更する、
項目7の情報処理方法。
本項目の情報処理方法によれば、第2部分だけでなく第1部分の表示態様についてもコンテンツデータの内容に応じて変更することにより、第1部分と差替え後の第2部分との調和の取れた画像データを得ることが可能となる。
(項目9)
予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
項目1〜8のいずれかの情報処理方法。
本項目の情報処理方法によれば、例えばユーザ190に所定の場所の経年変化を鑑賞させること等が可能となり、画像データを用いたユーザ190の仮想体験をよりリッチにし得る。
(項目10)
項目1〜9のいずれかの情報処理方法をコンピュータに実行させる、プログラム。
(項目11)
少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により項目1〜9のいずれかの情報処理方法を実行する、装置。
1…仮想カメラ、2…仮想空間、5…基準視線、10…プロセッサ、11…メモリ、12…ストレージ、13…入出力インターフェース、14…通信インターフェース、15…バス、19…ネットワーク、21…中心、22…仮想空間画像、23…視界領域、24,25…領域、31…フレーム、32…天面、33,34,36,37…ボタン、35…赤外線LED、38…アナログスティック、100,100A,100B,100C…HMDシステム、110,110A,110B,110C…HMD装置、112…ディスプレイ、114…センサ、116…カメラ、118…マイク、120…HMDセンサ、130…モーションセンサ、140…注視センサ、150…サーバ、160…コントローラ、160R…右コントローラ、190,190A,190B,190C…ユーザ、200…コンピュータ、220…表示制御モジュール、221…仮想カメラ制御モジュール、222…視界領域決定モジュール、223…視界画像生成モジュール、224…基準視線特定モジュール、230…仮想空間制御モジュール、231…仮想空間定義モジュール、232…仮想オブジェクト制御モジュール、233…チャット制御モジュール、234…コンテンツデータ制御モジュール、240…メモリモジュール、241…コンテンツ情報、242…オブジェクト情報、243…ユーザ情報、250…通信制御モジュール、810…右手、A1,A2,A3…アバター、P1,P5…画像データ、P2…レイヤ画像(第1部分)、P3…レイヤ画像(第2部分)、P4…更新用画像データ、M…視界画像。
Claims (11)
- ユーザ端末を介してユーザに仮想体験を提供するためにコンピュータによって実行される情報処理方法であって、
前記仮想体験を提供するための仮想空間を定義するための第1コンテンツデータを取得するステップと、
前記第1コンテンツデータに基づいて前記仮想空間を生成するステップと、
前記仮想空間の一部に相当する静止画の画像データを生成するステップと、
前記画像データと前記第1コンテンツデータとを関連付けるステップと、
前記第1コンテンツデータから第2コンテンツデータへの差替えを検知するステップと、
前記差替えが検知された場合に、前記画像データを前記第2コンテンツデータに応じて更新するステップと、
を含む、情報処理方法。 - 前記ユーザ端末は、前記コンピュータにより制御されるヘッドマウントデバイスを少なくとも含み、
前記ユーザ端末の動きと、前記仮想空間と、に基づいて視界画像を生成し、前記ヘッドマウントデバイスの表示部に前記視界画像を表示させるステップをさらに含み、
前記画像データは、前記ユーザに前記仮想体験が提供されている間に前記ユーザによって指定された前記仮想空間の前記一部に基づいて、生成される、
請求項1に記載の情報処理方法。 - 前記画像データは、前記視界画像を定義する視点情報に基づいて、生成される、請求項2に記載の情報処理方法。
- 前記仮想空間は、前記ユーザに関連付けられたキャラクタオブジェクトによって操作される撮影オブジェクトをさらに含み、
前記画像データは、前記撮影オブジェクトに関連付けられた視点情報に基づいて、生成される、
請求項2に記載の情報処理方法。 - 前記仮想空間は、前記ユーザの身体の一部の動きに応じて動く操作オブジェクトをさらに含み、
前記撮影オブジェクトは、前記操作オブジェクトによる入力操作を受け付け、
前記画像データは、前記撮影オブジェクトが前記入力操作を受け付けたタイミングにおける前記視点情報に基づいて、生成される、
請求項4に記載の情報処理方法。 - 前記ユーザ端末は、前記ヘッドマウントデバイスとは異なる端末装置をさらに含み、
前記画像データは、前記端末装置が備える表示部に表示される、
請求項2〜5のいずれか一項に記載の情報処理方法。 - 前記画像データは、前記ユーザに関連付けられたキャラクタオブジェクトに相当する第1部分と、適用されるコンテンツデータに依存する第2部分とを含み、
前記更新するステップにおいて、前記画像データの前記第2部分を、前記第2コンテンツデータに応じて更新する、
請求項1〜6のいずれか一項に記載の情報処理方法。 - 前記更新するステップにおいて、前記画像データの前記第1部分の表示態様を、前記第2コンテンツデータに基づいて変更する、
請求項7に記載の情報処理方法。 - 予め定められた条件が成立した場合に、前記仮想空間を定義するための複数のコンテンツデータのうちから適用されるコンテンツデータを、予め定められた順番で切り替えながら、前記画像データを前記適用されるコンテンツデータに応じて順次更新するステップを更に含む、
請求項1〜8のいずれか一項に記載の情報処理方法。 - 請求項1〜9のいずれか一項に記載の情報処理方法をコンピュータに実行させる、プログラム。
- 少なくともメモリと、前記メモリに結合されたプロセッサとを備え、前記プロセッサの制御により請求項1〜9のいずれか一項に記載の情報処理方法を実行する、装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017099898A JP6321263B1 (ja) | 2017-05-19 | 2017-05-19 | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
US15/984,269 US20180374275A1 (en) | 2017-05-19 | 2018-05-18 | Information processing method and apparatus, and program for executing the information processing method on computer |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017099898A JP6321263B1 (ja) | 2017-05-19 | 2017-05-19 | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018072788A Division JP2018192238A (ja) | 2018-04-04 | 2018-04-04 | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6321263B1 true JP6321263B1 (ja) | 2018-05-09 |
JP2018192107A JP2018192107A (ja) | 2018-12-06 |
Family
ID=62105892
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017099898A Active JP6321263B1 (ja) | 2017-05-19 | 2017-05-19 | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20180374275A1 (ja) |
JP (1) | JP6321263B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020052775A (ja) * | 2018-09-27 | 2020-04-02 | 株式会社コロプラ | プログラム、仮想空間の提供方法および情報処理装置 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7270196B2 (ja) * | 2019-01-22 | 2023-05-10 | 株式会社テクリコ | 高次脳機能障害用のリハビリテーションシステム及び画像処理装置 |
JP7029717B1 (ja) | 2019-01-22 | 2022-03-04 | 株式会社テクリコ | 高次脳機能障害用のリハビリテーションシステム及び画像処理装置 |
US20240096033A1 (en) * | 2021-10-11 | 2024-03-21 | Meta Platforms Technologies, Llc | Technology for creating, replicating and/or controlling avatars in extended reality |
CN116129006A (zh) * | 2021-11-12 | 2023-05-16 | 腾讯科技(深圳)有限公司 | 一种数据处理方法、装置、设备以及可读存储介质 |
JP7462097B1 (ja) | 2023-05-18 | 2024-04-04 | 能美防災株式会社 | 仮想体験システムおよびプログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000105533A (ja) * | 1994-06-17 | 2000-04-11 | Namco Ltd | 3次元シミュレ―タ装置及び画像合成方法 |
JP2000107443A (ja) * | 1998-10-07 | 2000-04-18 | Konami Co Ltd | ゲーム装置、画像表示方法、及び、記録媒体 |
JP2015039589A (ja) * | 2013-08-23 | 2015-03-02 | 株式会社フォーラムエイト | 携帯端末を用いた運転シミュレーション装置及び運転シミュレーションプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9269157B2 (en) * | 2005-03-01 | 2016-02-23 | Eyesmatch Ltd | Methods for extracting objects from digital images and for performing color change on the object |
WO2013126784A2 (en) * | 2012-02-23 | 2013-08-29 | Huston Charles D | System and method for creating an environment and for sharing a location based experience in an environment |
US9183676B2 (en) * | 2012-04-27 | 2015-11-10 | Microsoft Technology Licensing, Llc | Displaying a collision between real and virtual objects |
US9483853B2 (en) * | 2012-05-23 | 2016-11-01 | Glasses.Com Inc. | Systems and methods to display rendered images |
US9878235B2 (en) * | 2013-06-07 | 2018-01-30 | Sony Interactive Entertainment Inc. | Transitioning gameplay on a head-mounted display |
GB201500545D0 (en) * | 2015-01-14 | 2015-02-25 | Mvr Global Ltd | Controller for computer entertainment system |
-
2017
- 2017-05-19 JP JP2017099898A patent/JP6321263B1/ja active Active
-
2018
- 2018-05-18 US US15/984,269 patent/US20180374275A1/en not_active Abandoned
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000105533A (ja) * | 1994-06-17 | 2000-04-11 | Namco Ltd | 3次元シミュレ―タ装置及び画像合成方法 |
JP2000107443A (ja) * | 1998-10-07 | 2000-04-18 | Konami Co Ltd | ゲーム装置、画像表示方法、及び、記録媒体 |
JP2015039589A (ja) * | 2013-08-23 | 2015-03-02 | 株式会社フォーラムエイト | 携帯端末を用いた運転シミュレーション装置及び運転シミュレーションプログラム |
Non-Patent Citations (2)
Title |
---|
"[YouTube] Tvori?Design, Collaborate, Animate. Early HTC Vive Demo", [ONLINE], JPN6017040472, 24 May 2016 (2016-05-24) * |
"VR空間の中でアニメを作り撮影できるアプリ「Tvori」", [ONLINE], JPN6017040469, 25 July 2016 (2016-07-25) * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020052775A (ja) * | 2018-09-27 | 2020-04-02 | 株式会社コロプラ | プログラム、仮想空間の提供方法および情報処理装置 |
Also Published As
Publication number | Publication date |
---|---|
US20180374275A1 (en) | 2018-12-27 |
JP2018192107A (ja) | 2018-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6276882B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6263252B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6244593B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6321263B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6290467B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム | |
JP6392911B2 (ja) | 情報処理方法、コンピュータ、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6201028B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2018125003A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム | |
JP2018124981A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6479933B1 (ja) | プログラム、情報処理装置、および方法 | |
JP6368404B1 (ja) | 情報処理方法、プログラム及びコンピュータ | |
JP2019032844A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6225242B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム | |
JP2019168962A (ja) | プログラム、情報処理装置、及び情報処理方法 | |
JP6554139B2 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2018192238A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6978240B2 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6419268B1 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2019030638A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2019087262A (ja) | プログラム、情報処理装置、および方法 | |
JP2018092635A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2018092592A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP6856572B2 (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム | |
JP2018109937A (ja) | 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム | |
JP2018195287A (ja) | 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180314 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180404 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6321263 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |