[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6679747B2 - 仮想現実(vr)ユーザインタラクティブ性に関連付けられた仮想現実環境の観戦 - Google Patents

仮想現実(vr)ユーザインタラクティブ性に関連付けられた仮想現実環境の観戦 Download PDF

Info

Publication number
JP6679747B2
JP6679747B2 JP2018549158A JP2018549158A JP6679747B2 JP 6679747 B2 JP6679747 B2 JP 6679747B2 JP 2018549158 A JP2018549158 A JP 2018549158A JP 2018549158 A JP2018549158 A JP 2018549158A JP 6679747 B2 JP6679747 B2 JP 6679747B2
Authority
JP
Japan
Prior art keywords
view
hmd
virtual reality
spectator
player
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018549158A
Other languages
English (en)
Other versions
JP2019518261A (ja
Inventor
マークス、リチャード
オスマン、スティーヴン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JP2019518261A publication Critical patent/JP2019518261A/ja
Application granted granted Critical
Publication of JP6679747B2 publication Critical patent/JP6679747B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/26Output arrangements for video game devices having at least one additional display device, e.g. on the game controller or outside a game booth
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • A63F13/525Changing parameters of virtual cameras
    • A63F13/5252Changing parameters of virtual cameras using two or more virtual cameras concurrently or sequentially, e.g. automatically switching between fixed virtual cameras when a character changes room or displaying a rear-mirror view in a car-driving game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • A63F13/533Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game for prompting the player, e.g. by displaying a game menu
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/86Watching games played by other players
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/30Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device
    • A63F2300/303Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device for displaying additional data, e.g. simulating a Head Up Display

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、ヘッドマウントディスプレイ(HMD)に提示される仮想現実(VR)環境コンテンツと、観戦しているユーザによるVR環境へのアクセスを組み込む方法及びシステムと、VR環境でインタラクトするHMDユーザがナビゲートしている動的に変化している環境をユーザが観戦することを可能にする方法と、関連する装置及び方法に関する。
ビデオゲーム産業は、年を追って大きく変化した。コンピューティング能力が拡大したので、ビデオゲームの開発者は、コンピューティング能力のこの向上を利用するゲームソフトウェアをさらに作成してきた。このために、ビデオゲーム開発者は、高度な演算や数学を組み込んで、非常に詳細で人を引き付けるゲーム体験を生成するゲームを符号化してきた。
ゲームプラットフォームの例は、Sony Playstation(登録商標)、Sony Playstation2(登録商標)(PS2)、Sony Playstation3(登録商標)(PS3)、及び、Sony Playstation4(登録商標)(PS4)を含み、それらは、それぞれ、ゲームコンソールの形態で販売されている。周知のように、ゲームコンソールは、ディスプレイ(典型的には、テレビ)に接続して、ハンドヘルドコントローラを通してユーザインタラクションを可能にするように設計される。ゲームコンソールは、CPUと、集約的なグラフィック演算を処理するためのグラフィックスシンセサイザと、ジオメトリ変換を行うためのベクトルユニットと、他のグルーハードウェア、ファームウェア、及び、ソフトウェアとを含む専門処理ハードウェアを有するように設計される。ゲームコンソールは、ゲームコンソールを通したローカルプレイのためのゲームディスクを受ける光学ディスクリーダを有するようにさらに設計されてよい。オンラインゲームも可能で、ユーザは、インターネットを通して他のユーザに対して、または、他のユーザと共にインタラクティブにプレイできる。ゲームの複雑さが、プレイヤの興味を引き付け続けるので、ゲームとハードウェアのメーカーはさらなるインタラクティブ性とコンピュータプログラムとを可能にするように革新を続けてきた。
コンピュータゲーム産業では、ユーザとゲームシステムの間のインタラクションを増やすゲームを開発する傾向が高まっている。より豊かなインタラクティブ体験を達成する1つの方法は、プレイヤの動きを追跡し、その動きをゲームの入力に使用するために、無線ゲームコントローラを使用して、無線ゲームコントローラの動きをゲームシステムによって追跡することである。一般的に言うと、ジェスチャ入力は、コンピュータシステム、ビデオゲームコンソール、スマート装置等の電子デバイスを、プレイヤが行い、電子デバイスが捕捉するジェスチャに反応させることを指す。
より没入型のインタラクティブ体験を達成する別の方法は、ヘッドマウントディスプレイを使用することである。ヘッドマウントディスプレイは、ユーザによって着用され、仮想空間のビュー等、様々なグラフィックスを提示するように構成できる。ヘッドマウントディスプレイに提示されるグラフィックスは、ユーザの視野の大部分または全てをカバーすることもできる。よって、ヘッドマウントディスプレイは、視覚的に没入型の体験をユーザに提供できる。
この文脈で、本開示の実施形態は生じる。
本開示の実施態様は、HMDユーザが遭遇する、視聴する、及び/または、インタフェースをとる仮想現実環境及びコンテンツの観戦を可能にするために使用される方法及びシステムを含む。ある実施形態においては、VRユーザのVR環境において、仮想現実空間にプレオーサリングされたスポット/場所を介してユーザが観戦できるようにする方法及びシステムを記載する。別の実施形態においては、観戦モードは、ユーザが、VRユーザの視線方向を使用して、VR環境内の特定の場所に焦点を合わせるまたは識別するのを可能にする。例として、VRユーザの視線方向によって、VR環境内の場所を識別でき、その場所を観客が識別できる。別の実施形態においては、オーディオコントロールを調節及び/または修正して、観客が、VRユーザのVR環境内の特定の場所に自分のリスニングを集中させることができるようにする。例えば、観戦しているユーザは、VR環境内のある場所が関心を引くと判断し、そうすると、観戦しているユーザが実際にその識別したVR環境の場所にいるかのように、観戦しているユーザを取り巻く音を観戦しているユーザに提供するように、観戦しているユーザへの音を調節できる。
一実施形態においては、観客に対して仮想現実環境のビューを生成する方法を提供する。方法は、HMDプレイヤのヘッドマウントディスプレイ(HMD)にレンダリングするための仮想現実環境を生成することを含む。HMDプレイヤは、HMDプレイヤによるHMDの動きによって制御されるHMDビューを提供される。次に、仮想現実環境の観客ビューを提供する。観客ビューは、仮想現実環境に向けられたビュースポットに関連付けられる。ビュースポットは、HMDビューとは切り離されている。ある例においては、複数のビュースポットが、プレオーサリングされ、HMDプレイヤが仮想現実環境を動き回ると、観客は、ビュースポットのうちの異なるビュースポットを与えられる。
ある実施形態においては、HMDの動きによって、HMDビューは変わり、観客ビューのビュースポットを切り離すことによって、HMDビューの後を追う遅れたビュースポットの動きを生成する。
ある実施形態においては、ビュースポットの遅れた動きは、HMDの動きより遅い速度でHMDビューの後を追うように機能する。
ある実施形態においては、ビュースポットは、仮想現実環境に関連付けられた複数のビュースポットの1つである。
ある実施形態においては、ビュースポットの厳選したビュースポットが、観客ビューのために選択される。
ある実施形態においては、ビュースポットの厳選したビュースポットが、仮想現実環境において関心を引くと識別された特定のコンテンツに基づいて、観客のために選択される。
ある実施形態においては、観客ビューは、HMDビューの一部である。
ある実施形態においては、観客ビューは、HMDビューより大きい。
ある実施形態においては、HMDプレイヤの視線方向を使用して、HMDプレイヤが視聴しているコンテンツを観客に対して識別する。
ある実施形態においては、方法は、観客による仮想現実環境内のリスニングゾーンの選択を受信することをさらに含み、リスニングゾーンの選択によって、リスニングゾーンの視点から観客にオーディオを提供する。
別の実施形態においては、サーバによって実行される観客ための仮想現実環境のビューを生成する方法を提供する。方法は、HMDプレイヤのヘッドマウントディスプレイ(HMD)にレンダリングされる仮想現実環境のフィードをサーバが受信することを含む。HMDプレイヤは、HMDプレイヤによるHMDの動きによって制御されるHMDビューを提供される。仮想現実環境のフィードは、ウェブサイトに共有される。方法は、観客からのウェブサイトから仮想現実環境にアクセスする要求をサーバが受信することも含む。そして、サーバは、仮想現実環境の観客ビューを観客のデバイスに送信する。観客ビューは、仮想現実環境に向けられたビュースポットに関連付けられ、HMDビューとは切り離されている。HMDプレイヤが仮想現実環境を動き回ると、観客ビューは、仮想現実環境に向けられた他のビュースポットに更新される。
ある実施形態においては、ビュースポットは、プレオーサリングされたビュースポットであり、HMDプレイヤが仮想現実環境をあちこち移動すると、仮想現実環境の関心を引くビューを提供するように選択される。
ある実施形態においては、観客は、プレオーサリングされたビュースポットのあるビュースポットから別のビュースポットに動かされる。
ある実施形態においては、観客のプロファイルによって、ビューまたはコンテンツの種類に関する好みを識別し、好みを使用して、プレオーサリングされたビュースポットのうちのどのビュースポットを観客に提供するかを選択する。
ある実施形態においては、観客のデバイスは、観客が使用するHMD、または、観客が使用するテレビ画面、または、観客が使用するコンピュータ画面、または、観客が使用するハンドヘルドデバイス画面のうちの1つである。
ある実施形態においては、観客は、HMDプレイヤのHMDビューを視聴するためのアクセスを提供する複数の観客のうちの一人である。
ある実施形態においては、ウェブサイトは、他のHMDプレイヤの他のHMDビューのオプションの選択を提供することによって、観客が、HMDビューのうちの特定のHMDビューを選択して、1つまたは複数の観客ビューから各仮想現実環境を見ることができるようにする。
本開示の他の態様及び利点は、例を挙げて本開示の原理を示す、以下の詳細な記載を添付図面と合わせて読むと、明らかになろう。
本発明は、添付の図面と関連した以下の説明を参照することによってさらによく理解されるであろう。
本開示の実施形態による、ビデオゲームのインタラクティブなゲームプレイのためのシステムの図である。
本開示の実施形態による、ヘッドマウントディスプレイ(HMD)を示す図である。
一実施形態による、クライアントシステムとインタフェースをとるHMDユーザと、第2画面と呼ぶ第2画面ディスプレイにコンテンツを提供するクライアントシステムとの一例の図である。
本開示の実施形態による、実行しているビデオゲームと共にHMDの機能を概念的に示す図である。
仮想現実環境をナビゲートしているHMDプレイヤと、仮想現実コンテンツを視聴している一人または複数の観客との例を示す図である。
仮想現実環境をナビゲートしているHMDプレイヤと、仮想現実シーン内の関心を引くコンテンツに基づいて、選択またはプレオーサリングできる仮想現実環境内の異なるビュースポットを提供されているHMD観客との例を示す図である。
一実施形態による、仮想現実環境を通してナビゲートしているHMDプレイヤと、観客のためのビュースポットの自動選択を示す図で、ビュースポットは、観戦しているユーザの好みに基づいて自動的に選択される。
一実施形態による、マルチメディアVRコンテンツへのプレオーサリングされた異なるビュースポットをどのように異なる観客に提供できるかと、特定のビュースポットの視点から視聴する関心を引くオブジェクトの関連付けとの例を示す図である。
一実施形態による、ゲームエリアを含む仮想現実環境の例を示す図で、HMDプレイヤが、ナビゲートでき、特定のプレイヤレビューを提供され、また、HMDプレイヤのビューと、任意選択的に、HMDプレイヤには見えない追加のビューとを含む環境のビューを提供され得る観客とを示す。 一実施形態による、ゲームエリアを含む仮想現実環境の例を示す図で、HMDプレイヤが、ナビゲートでき、特定のプレイヤレビューを提供され、また、HMDプレイヤのビューと、任意選択的に、HMDプレイヤには見えない追加のビューとを含む環境のビューを提供され得る観客とを示す。
一実施形態による、HMDプレイヤが、仮想現実環境内の特定のコンテンツまたはアイテムを視聴でき、HMDプレイヤが視聴している視線方向またはオブジェクトを観客のために識別できる例を示す図である。
一実施形態による、HMDプレイヤが視聴している仮想現実環境が、様々な種類のコンテンツを含むことができ、コンテンツ自体が、仮想現実環境内の特定の場所に関連付けられた異なる種類のオーディオを含むことができて、観客が、観戦しながら、どのオーディオリスニング場所を取るかを決定するのを可能にする例を示す図である。
本開示の実施形態による、ヘッドマウントディスプレイのコンポーネントを示す図である。
開示の様々な実施形態による、ゲームシステム1400のブロック図である。
本開示の以下の実施態様は、観客の体験を向上させるHMDプレイヤのカスタマイズされたビューを観客に提供する方法、システム、コンピュータ可読媒体、及び、クラウドシステムを提供する。一実施形態においては、観客は、例えば、HMDプレイヤに応答して生成されるもの等、視聴する特定の仮想現実(VR)環境を選択する能力を与えられる。観客は、一実施形態においては、仮想現実環境の新しいビューと視点を与えられ、それらは、プレオーサリングされてよい。仮想現実環境内に仮想現実ビュースポットをプレオーサリングすることにより、HMDプレイヤがナビゲートしている時、観客が仮想現実シーン内の関心を引くコンテンツを視聴する、または、観客が関心を引くコンテンツに焦点を合わせるのを容易にできる。一実施形態においては、複数のビュースポットが、HMDプレイヤがナビゲートしているゲームエリア、コンテンツ、マルチメディア、または、一般的なコンテンツの異なる場所内にプレオーサリングされてよい。これらのビューは、HMDプレイヤのナビゲーションに基づいて、予め選択され、観客に割り当てることができる。
一実施形態においては、これらのビューは、滑らかな提示フォーマットで提供でき、HMDプレイヤの正確な視線方向に厳密に結び付けられず、固定されない。さらに、観客に提供されるビューは、HMDプレイヤが生成したのと全く同じビューが観客に見せられた場合に一般的であるコンテンツの素早い動きを観客に見せないように提供されてもよい。観客は、仮想現実シーンのビューを制御していないので、仮に観客のビューがHMDプレイヤに直接結びつけられると、観客に提示されるコンテンツは、HMDプレイヤが頭を上下させたり、右または異なる方向に動かしたりする等、動きの速い時間を有することになる。一構成においては、観客ビューは、HMDプレイヤの動きの後を追うことができるが、観客のこの適応を防ぐように、より滑らかな遅延を伴う。他の実施形態においては、観客ビューは、仮想現実環境内の異なる場所に固定できる。これらの固定された場所は、観客の関心を引く可能性があるとして、コンテンツ開発者によって選択される予め定められたスポットであってよい。代替実施形態においては、スポットは、例えば、HMDプレイヤの後を追うように移動できる。
ある実施形態においては、予め定められたスポットが、特定の観客に対して観客の好みに基づいて選択できる。観客が、ある種のコンテンツを視聴する好みを有する場合、仮想現実コンテンツ内のあるスポットが、その観客に対して選択できる。従って、異なる観客は、異なるスポットと、HMDプレイヤがナビゲートする仮想現実シーンへの視点とから異なるコンテンツを選択できる。さらに複数の観客が、例えば、Twitchタイプの共有を提供するウェブサイトを介して、HMDプレイヤコンテンツを視聴できるので、異なる観客は、仮想現実コンテンツ内の異なるビュースポットを有し得る。代替実施形態においては、全ての観客が、同じビュースポットから同じコンテンツを見ることができる。
さらに、観客が、Twitchタイプの共有を提供するウェブサイトを使用する場合、多くのHMDプレイヤコンテンツフィードが、提供でき、また、様々な観客によって選択可能になる。フィードは、HMDプレイヤのコンピュータからウェブサイトにインターネットを介して共有でき、ウェブサイトは、コンテンツを公開できる、及び/または、観客が視聴するためにコンテンツを選択できるようにする。例として、HMDプレイヤが、HMD体験の共有を決定する場合、その体験を観客が選択できる。そして、ビューの種類を選択する機能を観客に提供できる、または、HMDプレイヤのナビゲーションによって生成された仮想現実コンテンツを視聴するための特定のプレオーサリングされたスポットを観客に提供できる。一実施形態においては、仮想現実コンテンツへの切り離されたビュースポットを観客に提供することによって、典型的に、実際のHMDプレイヤの視点から与えられる強固に固定されたビューを提供する必要が無くなる。
ある実施形態においては、観客に与えられるビューは、実際のHMDプレイヤの視点からであってもよいが、ゴムバンドリンクまたはゴムバンド結合と呼ばれる、少し切り離された接続を備えてよい。ゴムバンドリンクは、HMDプレイヤの頭上に配置された仮想カメラに類似したビュースポットを提供する。ビューを提供する仮想カメラは、移動でき、HMDプレイヤの動きより少し遅れて、HMDプレイヤのビューの後を追うことができる。例として、HMDプレイヤが素早く左を見る場合、仮想カメラは、HMDプレイヤが見ている方向を追いかけて左にゆっくり移動できる。HMDプレイヤが、頭を素早く上下に動かす場合、HMDプレイヤの方向は、真っ直ぐに戻るので、仮想カメラの遅れにより、上下の動きを回避できる。
さらに別の実施形態においては、観客に、仮想現実環境への異なるビュースポットを提供できる、これは、HMDプレイヤ、または、HMDプレイヤが制御しているキャラクタを見ることも含み得る。一実施形態においては、この構成は、HMDプレイヤのキャラクタが仮想環境をあちこち移動する時、そのキャラクタを視聴しているある種の自動カメラマンアングルを規定できる。よって、HMDプレイヤが、環境、ゲーム、コンテンツ、または、シーン内の異なる場所をあちこち移動すると、観客に提供されるアングルは、より関心を引くものになり、異なるビュースポット間をシフトまたは移動できる。
一実施形態においては、方法、システム、撮像オブジェクト、センサ、及び、関連するインタフェースオブジェクト(例えば、手袋、コントローラ、手等)は、データを処理するように構成され、データは、ディスプレイ画面にほぼリアルタイムでレンダリングされるように構成される。ディスプレイは、ヘッドマウントディスプレイ(HMD)のディスプレイ、第2画面のディスプレイ、ポータブルデバイスのディスプレイ、コンピュータディスプレイ、ディスプレイパネル、(例えば、コンテンツを視聴している、または、インタラクティブ体験を共有している)一人または複数の遠隔に接続されたユーザのディスプレイ等であってよい。
しかしながら、これらの特定の詳細の一部または全てを用いずに本開示を実践してよいことは当業者には明らかであろう。他の例においては、本開示を不必要に曖昧にしないために、周知のプロセス操作は記載していない。
図1は、本開示の実施形態による、ビデオゲームのインタラクティブなゲームプレイのためのシステムを示す。ヘッドマウントディスプレイ(HMD)102を着用しているユーザ100が示されている。HMD102は、眼鏡、ゴーグル、または、ヘルメットと同様に着用され、ビデオゲームまたは他のコンテンツをユーザ100に表示するように構成される。HMD102は、ユーザの目のすぐ近くに表示機構を備えることによって、非常に没入型の体験をユーザに提供する。従って、HMD102は、ユーザの視野の大部分または全体さえ占めるディスプレイ領域をユーザの両目のそれぞれに対して提供できる。
一実施形態においては、HMD102は、コンピュータ106に接続できる。コンピュータ106への接続は、有線であっても無線であってもよい。コンピュータ106は、ゲームコンソール、パーソナルコンピュータ、ラップトップ、タブレットコンピュータ、モバイルデバイス、携帯電話、タブレット、シンクライアント、セットトップボックス、メディアストリーミングデバイス等を含むが、これらに限らない、当分野で既知の任意の汎用または専用コンピュータであってよい。一実施形態においては、コンピュータ106は、ビデオゲームを実行するように構成でき、また、HMD102によってレンダリングするためのビデオ及びオーディオをビデオゲームから出力するように構成できる。
ユーザ100は、手袋インタフェースオブジェクト104aを操作して、ビデオゲームに入力を行ってよい。さらに、カメラ108は、ユーザ100がいるインタラクティブ環境の画像を撮影するように構成できる。これらの撮影された画像を分析して、ユーザ100、HMD102、及び、手袋インタフェースオブジェクト104aの位置及び動きを決定できる。一実施形態においては、手袋インタフェースオブジェクト104aは、その位置と向きを決定するために追跡できるライトを含む。
以下に記載のように、ユーザがHMD102に表示された仮想現実シーンとインタフェースをとる方法は、様々であってよく、手袋インタフェースオブジェクト104aに加えて、他のインタフェースデバイスを使用できる。例えば、片手コントローラも使用でき、両手コントローラも使用できる。ある実施形態においては、コントローラは、コントローラに関連付けられたライトを追跡することによって、または、コントローラに関連付けられた形状、センサ、及び、慣性データを追跡することによって、自身で追跡できる。これら様々な種類のコントローラを用いて、または、単に行われたハンドジェスチャを1つまたは複数のカメラによって撮影して、HMD102に提示される仮想現実環境とインタフェースをとり、制御し、操作し、インタラクトし、参加することが可能である。
さらに、HMD102は、HMD102の位置と向きとを決定するために追跡できる1つまたは複数のライトを含んでよい。カメラ108は、インタラクティブ環境からの音を捕捉する1つまたは複数のマイクロフォンを含んでよい。マイクロフォンアレイが捕捉した音を処理して、音源の位置を識別してよい。識別された位置からの音を、選択的に利用または処理して、識別された位置からではない他の音を除去できる。さらに、カメラ108は、複数の撮像装置(例えば、立体写真カメラ)、IRカメラ、デプスカメラ、及び、これらの組み合わせを含むように規定できる。
別の実施形態においては、コンピュータ106は、クラウドゲーミングプロバイダ112とネットワークを介して通信するシンクライアントとして機能する。クラウドゲーミングプロバイダ112は、ユーザ102がプレイしているビデオゲームを維持、実行する。コンピュータ106は、HMD102、手袋インタフェースオブジェクト104a、及び、カメラ108からの入力をクラウドゲーミングプロバイダに送信し、クラウドゲーミングプロバイダは、その入力を処理して、実行しているビデオゲームのゲーム状態に反映させる。ビデオデータ、オーディオデータ、及び、触覚フィードバックデータ等、実行しているビデオゲームからの出力は、コンピュータ106に送信される。コンピュータ106は、データを送信前にさらに処理してもよく、または、関連する装置にデータを直接、送信してもよい。例えば、ビデオストリーム及びオーディオストリームが、HMD102に提供され、振動フィードバックコマンドが、手袋インタフェースオブジェクト104aに提供される。
一実施形態においては、HMD102、手袋インタフェースオブジェクト104a、及び、カメラ108は、それら自体がネットワークデバイスであってよく、ネットワーク110に接続して、クラウドゲーミングプロバイダ112と通信する。例えば、コンピュータ106は、ビデオゲーム処理を行わずネットワークトラフィックの経路を促進するルータ等のローカルネットワークデバイスであってよい。HMD102、手袋インタフェースオブジェクト104a、及び、カメラ108によるネットワークへの接続は、有線であってもよく、無線であってもよい。
さらに、ヘッドマウントディスプレイを参照して本開示の実施形態を記載するが、他の実施形態においては、ヘッドマウントでないディスプレイに置き換えられてよいことは理解されよう。ヘッドマウントでないディスプレイには、テレビ、プロジェクタ、LCDディスプレイ画面、ポータブルデバイス画面(例えば、タブレット、スマートフォン、ラップトップ等)、または、本実施形態による、ビデオをレンダリングするように構成でき、及び/または、インタラクティブなシーンもしくは仮想環境を表示するように構成できる任意の他の種類のディスプレイを含むが、これらに限らない。
図2Aは、本開示の実施形態による、ヘッドマウントディスプレイ(HMD)を示す。図に示すように、HMD102は、複数のライト200A〜200Hを含む。これらのライトはそれぞれ、特定の形状を有するように構成されてよく、同じ色または異なる色を有するように構成できる。ライト200A、200B、200C、及び、200Dは、HMD102の前面に配置される。ライト200Eと200Fは、HMD102の側面に配置される。ライト200Gと200Hは、HMD102の前面と側面にわたるように、HMD102の角部に配置される。ライトは、ユーザがHMD102を使用するインタラクティブ環境を撮影した画像で識別できることを理解されよう。ライトの識別と追跡に基づいて、インタラクティブ環境におけるHMD102の位置及び向きを決定できる。ライトの幾つかは、撮像装置に対するHMD102の特定の向きに応じて見える場合もあり、見えない場合もあることも理解されよう。また、異なるライト(例えば、ライト200Gと200H)が、撮像装置に対するHMD102の向きに応じて撮像のためにさらされてよい。
一実施形態においては、ライトは、近くにいる他者に対してHMDの現在の状態を示すように構成できる。例えば、ライトの一部または全てが、ある一定の色配置、強度配置を有するように構成されてよく、点滅する、一定のオン/オフ構成、または、HMD102の現在の状態を示す他の仕組みを有するように構成されてよい。例として、ライトは、ビデオゲームのアクティブなゲームプレイ中(通常、アクティブタイムライン中、または、ゲームのシーン内で生じるゲームプレイ)と、メニューインタフェースをナビゲート、または、ゲーム設定を構成等、ビデオゲームの他の非アクティブなゲームプレイの態様(この間、ゲームのタイムラインまたはシーンは非アクティブまたは停止中であってよい)とで、異なる設定を表示するように構成できる。ライトは、ゲームプレイの相対的な強度レベルを示すように構成されてもよい。例えば、ゲームプレイの強度が増すと、ライトの強度、または、点滅の速度が、増加してよい。このようにして、ユーザの外部の人は、HMD102のライトを見て、ユーザが真剣にゲームプレイに熱中しており、今は邪魔されなくないということを理解してよい。
HMD102は、1つまたは複数のマイクロフォンをさらに含んでよい。図示の実施形態においては、HMD102は、HMD102の前面に画定されたマイクロフォン204A及び204Bと、HMD102の側面に画定されたマイクロフォン204Cを含む。マイクロフォンアレイを利用することによって、各マイクロフォンからの音を処理して、音源の位置を決定できる。この情報は、不要な音源の除去、音源と視覚的識別の関連付け等を含む、様々な点で利用できる。
HMD102は、1つまたは複数の撮像装置も含んでよい。図示の実施形態においては、HMD102は、撮像装置202Aと202Bを含むとして示されている。撮像装置の立体写真を利用することによって、環境の三次元(3D)画像とビデオが、HMD102の視点から撮影できる。このようなビデオをユーザに提示して、HMD102を着用している間、ユーザに「ビデオシースルー」能力を提供できる。すなわち、ユーザは、厳密な意味でHMD102を通して見ることはできないが、撮像装置202Aと202B(例えば、以下の図3に示すようなHMD102の外側の本体に配置された1つまたは複数の正面を向いたカメラ108)が撮影したビデオは、それにもかかわらず、HMD102を通して見たかのように、HMD102の外部の環境を見ることができる機能的に同等なものを提供できる。このようなビデオは、拡張現実体験を提供する仮想の要素で拡張することができる、または、他の方法で仮想の要素と組み合わせてよく、もしくは、混合されてよい。図示の実施形態においては、2つのカメラが、HMD102の前面に示されるが、HMD102に設置され、任意の方向に向けられた任意の数の外部を向いたカメラがあってよいことは理解されたい。例えば、別の実施形態においては、HMD102の側面に取り付けられて、環境の追加のパノラマ画像を撮影するカメラがあってよい。
図2Bは、クライアントシステム106とインタフェースをとっているHMD102のユーザと、第2画面107と呼ばれる第2画面ディスプレイにコンテンツを提供しているクライアントシステム106との一例を示す。以下に記載のように、クライアントシステム106は、HMD102から第2画面107へのコンテンツの共有を処理する集積電子機器を含んでよい。他の実施形態は、クライアントシステムとHMD102及び第2画面107のそれぞれとのインタフェースをとる別個のデバイス、モジュール、コネクタを含んでよい。この一般的な例においては、ユーザ100は、HMD102を着用しており、コントローラ104を用いてビデオゲームをプレイしている。ユーザ100によるインタラクティブなプレイによって、ビデオゲームコンテンツ(VGC)が生成され、ビデオゲームコンテンツ(VGC)は、HMD102にインタラクティブに表示される。
一実施形態においては、HMD102に表示されているコンテンツは、第2画面107に共有される。一例においては、第2画面107を見ている人は、ユーザ100がHMD102でインタラクティブにプレイしているコンテンツを視聴できる。別の実施形態においては、別のユーザ(例えば、プレイヤ2)が、クライアントシステム106とインタラクトして、第2画面コンテンツ(SSC)を生成できる。コントローラ104と同様にインタラクトしているプレイヤ(または、任意の種類のユーザインタフェース、ジェスチャ、音声、もしくは、入力)が生成した第2画面コンテンツが、クライアントシステム106へのSSCとして生成されてよく、HMD102から受信されたVGCと共に第2画面107に表示できる。
従って、HMDユーザと同じ場所にいる、または、遠隔の他のユーザによるインタラクティブ性は、HMDユーザと、HMDユーザがプレイするコンテンツを第2画面107で視聴しているユーザとの両方にとって、ソーシャル、インタラクティブ、また、より没入型であり得る。図に示すように、クライアントシステム106は、インターネット110に接続できる。インターネットは、様々なコンテンツソース120からのコンテンツへのアクセスをクライアントシステム106に提供もできる。コンテンツソース120は、インターネットを介してアクセス可能な任意の種類のコンテンツを含み得る。
このようなコンテンツは、ビデオコンテンツ、映画コンテンツ、ストリーミングコンテンツ、ソーシャルメディアコンテンツ、ニュースコンテンツ、友達コンテンツ、広告コンテンツ等を含み得るが、これらに限らない。一実施形態においては、クライアントシステム106を使用して、HMDユーザのためのコンテンツを同時に処理でき、それによって、HMDは、ゲームプレイ中にインタラクティブ性と関連付けられたマルチメディアコンテンツを提供される。そして、クライアントシステム106は、他のコンテンツも第2画面に提供できる。他のコンテンツは、ビデオゲームコンテンツに関係がなくてもよい。クライアントシステム106は、一実施形態においては、コンテンツソース120の1つから、または、ローカルユーザもしくは遠隔ユーザから、第2画面コンテンツを受信できる。
図3は、本開示の実施形態による、実行しているビデオゲームと共にHMD102の機能を概念的に示す。実行しているビデオゲームは、ビデオゲームのゲーム状態を更新する入力を受信するゲームエンジン320によって規定される。ビデオゲームのゲーム状態は、ビデオゲームの様々なパラメータの値によって少なくとも部分的に規定でき、パラメータは、オブジェクトの存在と位置、仮想環境の条件、イベントのトリガ、ユーザプロファイル、ビューの視点等、現在のゲームプレイの様々な態様を規定する。
図示の実施形態においては、ゲームエンジンは、例として、コントローラ入力314、オーディオ入力316、及び、動作入力318を受信する。コントローラ入力314は、ハンドヘルドゲームコントローラ(例えば、Sony DUALSHOCK(登録商標)4無線コントローラ、Sony PlayStation(登録商標)Move動作コントローラ)または手袋インタフェースオブジェクト104a等、HMD102とは別個のゲームコントローラから規定されてよい。例として、コントローラ入力314は、方向入力、ボタン押し下げ、トリガ起動、動き、ジェスチャ、または、ゲームコントローラの操作から処理される他の種類の入力を含んでよい。オーディオ入力316は、HMD102のマイクロフォン302から、または、撮像装置108もしくはローカル環境の他の場所に含まれるマイクロフォンから処理できる。動作入力318は、HMD102に含まれるモーションセンサ300から、または、撮像装置108がHMD102の画像を撮影すると撮像装置108から処理できる。ゲームエンジン320は、入力を受信し、入力は、ゲームエンジンの構成に従って処理されてビデオゲームのゲーム状態を更新する。ゲームエンジン320は、ゲーム状態データを様々なレンダリングモジュールに出力し、様々なレンダリングモジュールは、ゲーム状態データを処理して、コンテンツを規定し、コンテンツがユーザに提示される。
図示の実施形態においては、ビデオレンダリングモジュール322は、HMD102に提示するためのビデオストリームをレンダリングするように規定される。ビデオストリームは、ディスプレイ/プロジェクタ機構310によって提示されてよく、ユーザの目306によって光学素子308を通して視聴されてよい。オーディオレンダリングモジュール304は、ユーザが聞くためのオーディオストリームをレンダリングするように構成される。一実施形態においては、オーディオストリームは、HMD102に関連付けられたスピーカ304を通して出力される。スピーカ304は、オープンエアスピーカ、ヘッドフォン、または、オーディオを提示できる任意の他の種類のスピーカの形態を取ってよいことは理解されたい。
一実施形態においては、視線追跡カメラ312が、HMD102に含まれて、ユーザの視線追跡を可能にする。視線追跡カメラが、ユーザの目の画像を撮影し、その画像が分析されて、ユーザの視線方向が決定される。一実施形態においては、ユーザの視線方向に関する情報を利用してビデオレンダリングに反映できる。例えば、ユーザの目が、特定の方向を見ていると決定される場合、その方向のビデオレンダリングは、例えば、ユーザが見ている領域をより詳細にする、または、速く更新する等によって、優先または強調できる。ユーザの視線方向は、ヘッドマウントディスプレイに対して、ユーザがいる現実の環境に対して、及び/または、ヘッドマウントディスプレイ上にレンダリングされている仮想環境に対して、規定できることを理解されたい。
大まかに言うと、視線追跡カメラ312が撮影した画像の分析を、単独で考慮すると、HMD102に対するユーザの視線方向を提供する。しかしながら、HMD102の追跡された位置と向きと共に考慮されると、HMD102の位置と向きが、ユーザの頭の位置と向きと同義になるように、ユーザの実世界での視線方向が決定できる。すなわち、ユーザの実世界の視線方向は、ユーザの目の位置の動きを追跡することと、HMD102の位置と向きを追跡することとから決定できる。仮想環境のビューが、HMD102にレンダリングされると、ユーザの実世界の視線方向が、仮想環境のユーザの仮想世界の視線方向の決定に適用できる。
さらに、触覚フィードバックモジュール326は、HMD102、または、コントローラ104等のユーザが操作する他のデバイスに含まれる触覚フィードバックハードウェアに信号を提供するように構成される。触覚フィードバックは、振動フィードバック、温度フィードバック、圧力フィードバック等、様々な種類の触感の形態をとってよい。
現在、ゲーム再生を共有するストリーミングサービスが非常に人気である。DualShock(登録商標)4無線コントローラは、このような共有を可能にする「共有ボタン」をコントローラ上に直接、含む。本開示の実施態様は、HMD/VRヘッドセットを用いて、リプレイを探索したい人にとってリプレイの共有を向上させる。本開示の実施態様は、非常に広い視野でゲームのリプレイをレンダリングして、観客が、HMDを用いて自由に頭を動かし、新しい見やすい場所からリプレイを視聴するのを可能にする。従来のストリーミングアプローチでは、元のプレイヤが視聴したものだけにリプレイを限定するので、視線方向は、観客の頭の位置と向きとは関係なく、HMDを使用する観客が頭を動かしたとしても、何も変化はない。
開示の実施態様は、HMDの新しい視点をサポートするように十分に広い視野でビデオをレンダリングする。クラウドサーバ上で(例えば、クラウドにおける、PlayStation(登録商標)4ハードウェア等のゲームコンソール用ゲームハードウェア上で)実行するゲームエンジンのカスタムメイドは、元のプレイヤのゲームエンジンからストリーミングされた入力ゲーム状態として受け入れて、それを用いて非常に広い視野(例えば、150度を超える)のゲームのビューをレンダリングし、そのゲームセッションのリアルタイムストリーミング、及び/または、以前に記録された再生に使用できる。非常に広い視野は、HMDの視野を超えて、HMDを着用している観客が、リプレイ時に周りを見るのを可能にすることを理解されよう。実際のゲームは、エンジンのネットワークバージョンに、その状態をストリーミングするように構成される。
上記のように、HMD102を着用しているユーザが体験しているインタラクティブなアクティビティを観戦、例えば、見る能力をユーザに提供するニーズがある。例えば、一人のHMDの仮想現実プレイヤが、HMDに提示されているアクティビティに没入し得る間、他の人がそのプレイヤと同じ場所にいることがある。これらの同じ場所にいる他のプレイヤは、HMDプレイヤが体験しているインタラクティブ性または視聴している仮想現実シーンを見ることに楽しみを見出す場合がある。本明細書においては、HMDプレイヤは、HMDに提示されたコンテンツを視聴しているプレイヤである、または、HMDに提示されたコンテンツとインタクトしている、もしくは、HMDに提示されたゲームをプレイしている可能性があるプレイヤであってよい。従って、プレイヤとは、HMDに提示されているコンテンツの種類に関係なく、HMDを装着しているユーザのみを指す。
さらに他の実施形態において、HMDプレイヤと同じ場所にいない他の人が、HMDプレイヤのHMDに提示されているコンテンツ、インタラクティブ性、または、メディアを見たい場合がある。例えば、HMDプレイヤがアクティビティを行っている間、見るまたは観戦するために、異なるHMDプレイヤから選択を行う能力をユーザに提示するウェブサイトを提供してよい。この例は、標準的なTwitchタイプ体験と類似し、インターネットに接続されたユーザが、ウェブサイトにアクセスして、遠隔プレイヤがプレイしている異なる種類のコンテンツまたはメディアを検索するのを可能にする。遠隔プレイヤは、ある実施形態においては、HMD102を用いてゲームをプレイしていてよい。
他の実施形態においては、遠隔プレイヤは、デバイスのディスプレイ画面またはテレビのディスプレイ画面を用いて、ゲームをプレイしてよい、または、コンテンツを見てよい。大まかに言うと、遠隔の他のプレイヤのアクティビティを、例えば、ウェブサイトを介して見たいユーザは、次に、特定のプレイヤ、または、ゲームの種類、または、ゲームのサムネイル、または、コンテンツのサムネイルを選択して、HMDプレイヤが指示しているアクティビティを視聴できる。従って、遠隔のHMDプレイヤがアクティブにプレイし得る特定のインタラクティブコンテンツをユーザが視聴、選択するのを可能にするウェブサイトを提供できる。HMDプレイヤによるアクティビティを視聴したい遠隔の視聴者は、単に、そのコンテンツをクリックして、視聴を開始できる。
HMDプレイヤのアクションを見ているまたは視聴している人は、一般的に、観客と呼ぶ。観客は、アクティビティ、インタラクティブ性、アクション、動き等を視聴するためのアクセスを与えられるが、必ずしもゲームアクションを制御していない人である。このために、これらの視聴者は、観客と呼ばれる。HMDプレイヤの文脈で、HMDディスプレイに表示されているコンテンツは、動的で、HMDプレイヤの動きによって制御される。例えば、HMDプレイヤは、頭を動かすと、実世界の人の周囲で生じるのと同様に、視聴可能な異なるコンテンツを提示される。
HMDプレイヤの頭の動きは、HMDプレイヤにとっては自然であるが、HMDプレイヤと同じビューを与えられる観客は、コンテンツを見ると、素早い動きが原因で、吐き気やめまいがする場合がある。この理由は、視聴者自身は、HMDプレイヤが頭を動かすのと同じように頭を動かさないからであり、HMDプレイヤの頭の動きによって、HMDプレイヤの視線方向に基づいて、コンテンツが変化するからである。本明細書に記載の様々な実施形態において、HMDプレイヤが視聴しているコンテンツを、観客の気をそらさず、また、観客にめまいや吐き気を起こさせにくい方法で観客が視聴できるようにする方法、システム、コンピュータ可読媒体、及び、クラウド構成が提供される。
例として、本明細書に記載の実施形態の一部は、HMDプレイヤが視聴している仮想現実環境内の異なるビュースポットを提供する方法を教示する。ある実施形態においては、ビュースポットは、観客が視聴可能な角度、方向、及び、コンテンツという点で固定である。従って、HMDプレイヤが、頭をどちらかに動かす場合、仮想現実環境の観客のビューは、安定して維持され得る。ある実施形態においては、HMDプレイヤが、異なる仮想現実環境のシーン、場所、エリア、レベル、章等を移動及びあちこち移動すると、観戦しているユーザに異なるビュースポットが与えられてよい、ビュースポットは、視聴している観客に合わせてカスタマイズされる。例えば、異なる種類のコンテンツに対して、様々なビュースポットをプレオーサリングできる。
コンテンツがビデオゲームである場合、ビデオゲームで取り得る異なる経路に沿ったビュースポットが、観客が視聴するためのプレオーサリングされたスポットとして予め定められてよい。従って、HMDプレイヤが、その経路に沿って移動する時、経路に沿ったビュースポットを観客に提供することができ、ビュースポットは、ゲーム開発者、以前の観客、または、HMDプレイヤによって予め選択、または、プレオーサリングされてよい。このようにして、HMDプレイヤがHMD VR環境を動き回ると、観客は、1つのビュースポットから次のビュースポットに、それらのビュースポットが、より優れているもしくはより良い、または、より関心を引くビューを提供するという判断に基づいて、動かされてよい。さらなる実施形態においては、観客は、HMDプレイヤが視聴している視聴可能なコンテンツのサブ部分を提供されてよい。他の実施形態においては、観客は、HMDプレイヤがまだ視聴できない追加のコンテンツを提供されてよい。
ゲーム、環境、コンテンツの種類、マルチメディアの種類に応じて、または、既定のルールもしくは制約によって、観客は、HMDプレイヤが見ている視聴可能なコンテンツより少ないまたは多いコンテンツを提供されてよい。上記のように、観客に視聴可能にされたコンテンツは、HMDプレイヤが視聴しているのと同じコンテンツであってよいが、HMDプレイヤとは異なる基準視点から見ている。しかしながら、ある実施形態においては、観客に提供されるビューは、HMDプレイヤのビューと類似してよいが、少し異なる角度、または、ビュー視点から見ている。さらに、観客は、HMD仮想プレイヤの頭上の仮想カメラの文脈からHMDプレイヤに提供されるのと類似のビューを観客に提供できる。一実施形態においては、HMDプレイヤが視聴しているコンテンツの観客に提供された仮想カメラのビューを動かす代わりに、HMDプレイヤが頭を動かすと、観客のビューは、ビューがHMDプレイヤによって動かされるのと同じ速度またはスピードでは動かない。
この実施形態においては、観客に提供される仮想カメラのビューは、HMDプレイヤのビューよりも遅い速度で動いてよく、速度は、ユーザの頭の動きの実際のスピードに基づいて変化する。さらにまた、仮想カメラのビューの動きは、HMDプレイヤの頭の動きを、遅れて追いかけるように設定できる。遅れは、仮想カメラのビューをHMDの動きにリンクさせる概念的なゴムバンドに類似してよい。すなわち、ユーザの頭が、左に素早く動く場合、観客の仮想カメラのビューは、動いているオブジェクトにゴムバンドによって接続されているオブジェクトが、動いているオブジェクトの動きを追うのと同じように遅れて、よりゆっくりと左に動く。ある構成においては、ギア比率を仮想カメラのビューの動きに適用することによって、仮想カメラは、HMDプレイヤの現実のビューの動きを追いかける速度で動く。ギア比率は、仮想現実シーンの観客のビューを実行しているコンピュータ、ゲーム、及び/または、プログラムによって動的に修正されてよい。ギアリングは、例えば、あるゲーム、あるシーン、ある状況、あるレベルにおいて、あるユーザに対して等、より速く修正されてよく、または、他の例においては、より遅く修正されてよい。動的ギアリングを用いることによって、仮想カメラのビューの動きは、HMDが速くまたは不規則に動く時でさえ、より快適なビュー体験を観客ビューに提供するように、滑らかにできる。
以下の記載のさらなる実施形態においては、観客は、HMDプレイヤが仮想現実環境のどこを見ているかを識別できるように、視覚的手掛かりを与えられてよい。一構成は、HMDプレイヤの視線を追跡することを可能にして、HMDプレイヤがVRシーン内の正確にどこを見ているかを決定できる。仮想カメラビュー(例えば、HMDプレイヤの頭の背後に浮かんでいる仮想カメラ)の視点からVRシーンを視聴している観客にとっては、その特定のシーンにおける焦点は何かを決定することは有用である。このようにして、観客は、仮想現実プレイヤが、そのシーンで重要であると感じている物に焦点を合わせることもできる。
ある例においては、そして、ファーストパーソン・シューティングゲームにおいては、観客は、敵または障害物を識別するため等、HMDプレイヤがどこを見ているかを知りたい場合がある。一実施形態においては、HMDプレイヤの視線を追跡して、コンテンツを強調表示する、ある一定のオブジェクトまたは場所のコントラストを変更する、コンテンツを取り囲む、マーカを追加する、エリアをグレー表示する、点滅するビーコンを追加する、テキストを追加する、浮いているオブジェクトを追加する等によって、HMDプレイヤが見ている物を識別することが可能である。このようにして、観客は、HMDプレイヤが見ている所を確実に知ることができ、よって、観客自身も、その同じエリアを見て、より楽しくコンテンツを体験できる。
例えば、HMDプレイヤは、特定のゲームに経験がより豊かな場合がある、または、特定の種類のコンテンツを見ており、HMDプレイヤが仮想現実シーンで見ている場所を示すものを提供することは、観客に、ガイダンス、視覚的手掛かり、及び、援助を与える。ある実施形態においては、これらの識別特徴は、気が散らないように、オンにしたりオフにしたりできる。識別子は、HMDプレイヤがアクティブにできる、または、観客がアクティブにできる。ある実施形態においては、複数の観客が、例えば、Twitch表示において、HMDプレイヤが提供する同じコンテンツを視聴している場合、各観客は、異なるコントロールは観客に視覚インジケータを提供するか否かの能力を与える異なるコントロールを提供されてよい。HMDプレイヤの視点からは、インジケータは、HMDプレイヤのHMDに全く示されなくてよい。しかしながら、これらのインジケータは、HMDプレイヤがインタラクトしているコンテンツを視聴している観客(複数可)にとっては有用である。
ある実施形態においては、仮想現実環境内の特定のリスニングゾーンを観客が識別することを可能にするコントロールを観客に与えてよい。リスニングゾーンは、仮想現実環境内の観客が聞きたい場所を観客が選択するのを可能にする。これが意味するのは、観客が実際にそのシーンにいるという状況をまねたオーディオ及び音響を、その特定の場所から聞くことを観客は基本的に提供されるということである。例として、観客が、視聴している場所に対して、通りの向かいの建物を含むHMDコンテンツを視聴している場合、観客は、建物内のある場所、例えば、人が立っている2階を識別でき、その場所で聞くことを選択できる。
この機能は、リスニングテレポーテーションを観客に提供し、観客は、2階建ての建物内に座っているまたは立っているかのように、オーディオコンテンツ及び音響を聞くことができる。オーディオ及び音響は、一例においては、基本的に、建物の2階の場所に存在するオーディオサウンドを拡大し、その仮想の場所から離れた音を小さくする。ある実施形態においては、観客は、主なリスニングゾーンにいることを求めて、時々、環境内の異なる場所を選択できる。さらに他の実施形態においては、リスニングゾーンは、HMDプレイヤの同じリスニングゾーンであるように調節もできる。観客は、観客が聞きたい仮想環境内の場所を識別するように、切り替え可能な選択能力を提供されてよい。
再び、観客は、HMDプレイヤと同じ場所にいてよく、図2Bを参照して記載するように、第2画面のディスプレイ上のHMDコンテンツを視聴していてよいことに注意されたい。あるいは、観客であるローカルの視聴者もHMDを着用でき、HMDは、観客に、HMDプレイヤコンテンツのビューを提供する。さらに他の実施形態においては、HMDプレイヤコンテンツが、視聴可能なウェブサイトに公開されている場合、観客は、遠隔であってよく、ウェブページから視聴してよい。ある実施形態においては、観客として行動する遠隔の視聴者は、HMDプレイヤによるライブまたはほぼライブのコンテンツを見ていてよい。他の実施形態においては、観客として行動する遠隔の視聴者は、HMDプレイヤが見ていたコンテンツの録画バージョンを見ていてよい。さらに、複数または多数の観客がHMDプレイヤの同じコンテンツをライブまたは録画で見ることを可能にするウェブサイトが提供されてよい。
図4は、一実施形態による、コンピュータデバイス106を介して仮想環境450とインタラクトし得るHMD VRプレイヤ100の例を示す。よって、HMD VRプレイヤ100は、VR環境450内のインタラクティブ性を駆動しており、HMD102に提示されるシーンと、ディスプレイ107に表示される複製ビューとを動かす。よって、観客は、観客140等、ディスプレイ107を視聴している観客であってよい。上記のように、観客140は、同一空間でHMDプレイヤ100とインタラクトできるので、ソーシャル画面の観客である。他の実施形態においては、または、同じ場所にいる観客140に加えて、HMD観客150にもHMDプレイヤ100がナビゲートしているコンテンツへのアクセスを提供できる。HMD観客150は、HMDプレイヤ100と同じ場所にいてよい。他の実施形態においては、HMD観客150は、HMDプレイヤとは遠隔にいてよく、twitchタイプのビューウェブサイト等のウェブサイトからコンテンツを視聴できる。よって、図4に示す例は、ほんの一例であり、複数の観客または何千もの観客が、HMDプレイヤのコンテンツを遠隔の場所から視聴していることが可能である。観客は、ディスプレイ107を見ていても、HMDを介してコンテンツを視聴していても、観戦体験を向上させる機能を与えられる。
図5は、仮想現実環境450を動き回り、シーンのあらゆる場所を動きながら異なるコンテンツを視聴しているHMDプレイヤ100の例を示す。図に示すように、HMDプレイヤ100は、シーンを前に進み、シーンは、道路の延長、建物502、ゴルファー504、湖506、犬508、及び、他のマルチメディアコンテンツ等の新しいコンテンツを見せた。VR環境450に提示されるこれらマルチメディアコンテンツの種類は、単に一例であり、コンテンツの種類は、視聴、インタラクト、または、表示されているコンテンツの種類に応じて変わる。一例においては、VR環境450は、スポット1、スポット2、スポット3、及び、スポット4等、プレオーサリングされたビュースポットに関連付けられてよい。これらの各スポットは、VR環境450への特定の視線方向と角度を有する。
スポット1は、HMDプレイヤ100の頭の背後に浮いていてよい仮想カメラのビューを提供され、仮想カメラのビューは、HMDプレイヤ100のHMD102の動きによって生成されているビューに近い複製を提供する。他のスポットは、HMDプレイヤ100の視野角とは切り離されてよく、代わりに、コンテンツ作成者、または、仮想環境内の関心を引くコンテンツがある場所を知り得る他のユーザによるプレオーサリングに基づいて、VR環境450のあらゆる場所に配置できる。例えば、コンテンツ作成者が、ゲーム開発者である場合、ゲーム開発者は、関心を引くスポットがVR環境の異なる場所のどこに存在し得るかを知っているので、1つまたは複数のゲームセッションまたはビューセッション中、HMDプレイヤが仮想現実環境450をあちこち移動する時のアクション、物、動き、インタラクティブ性、または、シーンのより良いビューを観客に提供できる。
この特定の例においては、観客は、HMD観客150である。HMD観客150は、仮想現実環境450の示されているアクティビティの異なる時刻に特定のビュースポットを提供されてよい。例えば、HMDプレイヤ100が、仮想現実環境450をあちこち移動する、または、動き回ると、異なるコンテンツが、表示され、表示されているコンテンツに基づいて、異なるスポットが、観客(複数可)による視聴消費のために選択される。例として、HMD観客150は、時刻t=0にスポット1、時刻t=1にスポット3、時刻t=2にスポット2等、一連のスポットを提供される。
よって、HMDプレイヤ100があちこち移動する場所に応じて、コンテンツの最も関心を引くビューを提供するように、観客に対して異なるスポットが動的に選択されてよい。例として、HMDプレイヤが、ゴルフコースの場所に到達した場合、ゴルファー504が、ビュースポット4の焦点になる。HMDプレイヤが、建物502の場所に到達した場合、ビュースポット2が、建物502と犬508が見えるように、観客に提供される。それらは、仮想現実環境450内の関心を引く場所または見やすい地点もしくは視点であると予め決められていてよい。
図6は、ビュー経路605を移動するHMDプレイヤ100の例を示す。ビュー経路605は、仮想現実環境450の異なるビューを提供する。従って、HMD VRプレイヤ100が仮想現実環境450を移動しながら、HMDプレイヤ100が見ると、HMD102に異なるコンテンツが表示され得る。簡単にするために、複数のオブジェクトO1〜O14が、仮想現実環境450の至る所に配置されて表示され、仮想現実プレイヤのビュー602に応じて、オブジェクトのうちの異なるオブジェクトが、HMDプレイヤ100に見える。例として、オブジェクト(O)は、アイコンX、O、Δ、□で表されるが、これらのアイコンは、キャラクタ、テクスチャ、地形、インタラクティブコンテンツ、武器、車両、建物、グラフィックス、テキスト、及び、一般的に任意の種類のマルチメディア視聴可能コンテンツ等、ディスプレイ画面に提示できる任意の種類のコンテンツを表すことができる。
この例において、オブジェクトのうちのあるオブジェクトは、観客に与えられるビュースポットに応じて、観客150によって視聴可能であることが示されている。一実施形態においては、VRプレイヤビュー602が焦点を当てている場所に応じて、観客が視聴可能な仮想現実環境450内の場所を規定するように、ビュースポットが、プレオーサリングされる。ある実施形態においては、これらのプレオーサリングされたスポットは、関心を引く、新しい、または、仮想現実環境450へのより良い視点を提供すると考えられるスポットである。一実施形態においては、ビュースポットは、プレオーサリングされたスポットとして、予め選択されてよい。上記のように、プレオーサリングされたスポットは、関心を引く視野角または視点を提供すると考えられるスポットである。
この例において、観客150であるユーザ1のために選択されたスポットは、スポット3、スポット6、次に、スポット9である。スポット3は、VRプレイヤビュー602のオブジェクトのうちのあるオブジェクトを捕捉する幾分オーバーヘッドビューを提供する。スポット6は、HMDプレイヤ100の正面の真っ直ぐな視野角を提供し、真っ直ぐな視野角は、オブジェクトのうちのあるオブジェクトを強調表示する、または、斜視図を提供する。スポット9は、HMDプレイヤ100の頭上の少し背後にあるオーバーヘッド仮想カメラに類似しており、仮想現実環境450のほぼ類似のビューと、仮想プレイヤビュー602とを提供する。よって、HMDプレイヤ100が動き回ると、ビュースポットのうちの異なるビュースポットが、観客150に対して動的に選択できる。上記のように、観客150は、HMDプレイヤ100と同じ場所にいてもよく、または、ウェブサイト、インターネットに接続したHMD、リモートデバイス、テレビ、または、ポータブルデバイスから、HMDプレイヤ100の仮想環境を視聴している遠隔の観客であってよい。
さらに、観客である異なるユーザは、VRプレイヤビュー602への異なるスポットを提供されてよい。異なるユーザは、ユーザプロファイルに保存され得る個々のユーザの好みに基づいて、異なるビューを提供されてよい。例えば、あるユーザは、そのプロファイルに、ある種のオブジェクト等をある種のビュー視点から見るのを好むと記述したユーザプロファイルで識別される好みを有してよい。結果として、スポットは、ユーザに合わせてカスタマイズすることができ、プレオーサリングされた場所に基づいて、ユーザに合わせてカスタマイズすることもできる。ある実施形態においては、場所は、プレオーサリングされる必要はなく、仮想現実環境450に提示されたコンテンツに基づいて、動的に選択されてよい。大まかに言うと、仮想現実環境454の観客内の視野角は、複数の基準に基づいて、動的に設定できる。
基準は、プレオーサリングされたビュースポットに基づいてよく、観客の好みに基づいてよく、仮想現実環境450内で変化するコンテンツに基づいて動的に配置されたビュースポットに基づいてよく、または、観客によって移動、調節されてよい。観客が、ビュー位置を仮想環境450内に移動させるオプションを提供される場合、観客に与えられるこれらのビューは、HMDプレイヤ100がナビゲートまたは見ているコンテンツを見ている観客に応じて異なり得る。
図7は、一実施形態による、HMDプレイヤの異なる種類のコンテンツ704を視聴し得る様々な観客702を規定する表を示す。図に示すように、図6の観客であるユーザ1にとって、マルチメディア仮想現実コンテンツは、ゲーム1である。ゲーム1は、HMDプレイヤがナビゲートしているコンテンツであり、HMDプレイヤによるコンテンツ内のナビゲーションに基づいて、ユーザ1である観客は、プレオーサリングされたビュースポット706を提供される。図6に示すように、ユーザ1に対して提供されるスポットは、スポット3→6→9→Nである。各ビュースポットにおいて、関心を引くオブジェクト(O)708が、これらの個々のビュースポットから視聴可能である。よって、ビュースポットは、ビュー視点に応じて、オブジェクトO1〜O14を見る視野角を提供する。ユーザ2等の異なる観客も、ゲーム1のアクティビティを視聴してよい。しかしながら、ユーザは、そのユーザの関心を引くコンテンツの種類に関して異なる好みを有し得る。このため、システムは、ユーザ1に提供したビュースポットとは異なるプレオーサリングされたビュースポット1→4→9→Nを選択できる。同様に、これらのスポットに対して提供される関心を引くオブジェクトは、観客ユーザ2が視聴すると、変化する。任意の数のユーザが観客であってよいことと、これらのユーザが、HMDユーザがナビゲートする同じ仮想現実コンテンツを観戦でき、仮想現実コンテンツへの異なる固有のビュースポットまたは角度を個々に提供されてよいこととを、強調するためにこの例を提供する。
引き続き、この例を用いると、ユーザ3とユーザ4は、ゲーム1とは異なる環境を視聴していてよい。上記のように、コンテンツは、ゲームである必要はなく、任意の種類のマルチメディアコンテンツ、または、画面に表示できるコンテンツであってよい。コンテンツは、グラフィックオブジェクト、テキスト、関連するオーディオ、マルチメディア、インタラクティブコンテンツ、映画コンテンツ、オーディオコンテンツ、制御可能なキャラクタコンテンツ、アバター、操作可能なオブジェクト、選択可能なオブジェクト、通信オブジェクト、インタフェースオブジェクト、遠隔ツーリング場所、デモンストレーションビデオ、観光コンテンツ、アミューズメントパークコンテンツ、または、これらの組み合わせを含んでよいが、これらに限らない。従って、環境に応じて、仮想現実環境450で、ある関心を引くオブジェクトまたはコンテンツの固有のビューを提供するプレオーサリングされた異なるビュースポットX→NとY→Nを提供できる。
図8Aは、一実施形態による、HMDプレイヤ100が仮想現実環境450に示されたビデオゲームシーンとインタラクトしている例を示す。ビデオゲームは、例として、壁のある廊下に沿った通路を提供し、HMDプレイヤ100が制御しているユーザ(一人称)は通路をあちこち移動することを要求される。この例において、HMDプレイヤ100は、悪者820を探していてよく、悪者820は、ゲームの廊下に沿ったある場所に隠れている可能性がある。本明細書ではHMD VRプレイヤ(HVP)と呼ばれるHMDプレイヤが、場所802、803、804の間を移動しているのが示される。観客150は、仮想現実環境450に表示される廊下のビューを提供される。観客150に提供されるビューは、HMDプレイヤ100が制御する一人称プレイヤの場所に基づいて、カスタマイズされてよい。
場所802及び場所803で、廊下の異なるビューがHMDプレイヤ100に提供される。HMDプレイヤが、場所804に到達すると、廊下のビューが壁によって制限され得るので、エリアAを取り囲むビューを提供する。観客150は、一実施形態においては、1つまたは複数のプレオーサリングされたスポットに基づいて、仮想環境450の様々なビューを提供される。この例においては、観客150は、場所810で観客ビューであるSビュー1を提供され、場所812で観客ビューであるSビュー2を提供される。場所810において、観客ビューは、HMDプレイヤ100が制御するキャラクタが、コーナーに向かって廊下を歩いているのを表示し、次に、観客ビューは、場所812に移ってよい。場所812は、HMDプレイヤ100が制御するキャラクタのより関心を引くビューを提供する。この時点で、場所812において、観客ビューは、HMDプレイヤ100に提供されるビューのサブセット、すなわち、エリアAに制限されてよい。
しかしながら、場所812は、現在はHMDプレイヤ100の視点の外にいる悪者820の可能なビューも提供する。一実施形態においては、観客ビューであるSビュー2は、追加の視聴エリアBを備える。エリアBは、HMDプレイヤ100にはまだ見えていない。これは、悪者820がコーナーを曲がった所に隠れているのを見るオプションを観客に提供してよく、HMDプレイヤ(一人称キャラクタ)がその場所に到達する時、関心を引くアクションを提供してよい。これは、観客に追加のレベルの興奮を与え、観客は、関心を引くイベントが生じることを、イベントが生じ得るとHMDプレイヤが知る前に、知る。
一実施形態においては、観客に提供される追加のコンテンツは、不公平にHMDプレイヤに知らせることのないように、HMDプレイヤ100に分かるようにはしない。この知識または情報の伝達を禁じることは、ゲームに応じて要求されてよく、これは、HMDプレイヤのスキルのレベルを必要とする。他の実施形態においては、HMDプレイヤに観客がコンテンツの知識を与えることが可能である。データ共有のゲームにおける致命度、または、データ共有の熱意に応じて、観客が、HMDプレイヤに情報を共有することを禁じてもよく、または、HMDプレイヤに情報を共有してもよい。例として、観客150が、遠隔ウェブサイト、例えば、twitchサイトから視聴している場合、その観客は、フィードバック情報をHMDプレイヤに多くの方法で提供できる。情報は、テキスト通信、チャット通信、音声通信、オーディオ通信、または、これらの組み合わせを経由してよい。
図8Bは、一実施形態による、異なるHMDプレイヤビュー830と、観客に提供され得るビューとを示す表である。ある実施形態においては、観客ビューは、上記のように、プレオーサリングされたスポットに基づいて、予め設定できる。他の実施形態においては、観客ビューは、単に、HMDプレイヤの場所に遅れずについていくように移動できる。HMDプレイヤに遅れずについていく時、ビューは、HMDプレイヤを見ながら、HMDプレイヤの近くに、または、HMDプレイヤの頭の位置より上に配置された仮想の浮いているカメラの形態で、選択されてよい。図ABに示すように、観客ビュー位置832は、HMDプレイヤ100のアクティビティと制御に基づいて作成されるHMD仮想現実プレイヤビュー(HVP)に基づいて変わり得る。
例えば、HVPが、ビュー−3の時、観客ビューは、観客ビューのSビュー2に自動的に移動する。この表は、完全にするために、HMD VRプレイヤが様々なHVPビューから見ている物も示す。HMDプレイヤが、HVPビュー−2を提供される時、図8Aを参照して記載したように、視聴可能なエリアは、Aによって識別される。一実施形態においては、観客は、ビュー836が見え、ビュー836は、HMDプレイヤ100に提供された同じビューの後を追う。すなわち、HMDプレイヤが視聴可能なシーンコンテンツ以外に、観客に追加のコンテンツは提供されない。
しかしながら、同じコンテンツが観客に提供される場合でさえ、観客は、同じコンテンツに異なる視点を有し得る。別の実施形態においては、観客は、オプション838において、HMDプレイヤより多く見えてよい。このオプションにおいては、ビューHVPビュー−3において、HMDプレイヤは、エリアAが見え、観客は、エリアAに加えて、追加のビューエリアBを提供されてよい。あるコンテンツの論理的に邪魔にならないビューを提供する視点から観客は配置されるので、この追加の視聴エリアが観客に提供されてよく、その視点は、HMDプレイヤ100に提供される視点と同じではない。上記のように、追加のコンテンツが観客に視聴可能な時、観客は、その情報をHMDプレイヤと共有することを許可されてもよく、または、情報をHMDプレイヤと共有することを禁じられてもよい。
図9は、HMDプレイヤ100が仮想現実環境450を視聴している実施形態を示し、HMDプレイヤの視線方向901が識別される。上記のように、一実施形態は、HMDプレイヤ100が見ている仮想現実環境450内の場所を識別する能力を提供する。この情報は、HMDプレイヤ100が見ている関心を引くコンテンツが何かを知りたい観客150にとって有用であり得る。映画の文脈においては、HMDプレイヤは、関心を引くシーンを見ている場合がある。デモンストレーションの文脈においては、HMDプレイヤは、デモンストレーションオブジェクトまたは講義の特定の特徴を見ている場合がある。
ゲームの文脈においては、HMDプレイヤは、特定のキャラクタ、オブジェクト、エリア等を見ていてよい。一実施形態においては、視線方向901が、HMDカメラ312によって検出され、HMDプレイヤ100がオブジェクト902を見ていることの検出を可能にする。この例において、オブジェクト902は、建物の隣に立っている少女として表されている。仮想現実環境450には様々な他のオブジェクトがあるが、HMDプレイヤ100は、オブジェクト902に焦点を当てている。観客150は、仮想現実環境450でHMDプレイヤ100が見ている場所を知りたい。そのために、HMDプレイヤ100が焦点を当てているビューの場所が決定されると、仮想現実シーンのそのエリアは、観客150がHMDプレイヤが見ている場所を視覚的に知ることができるように、強調表示または識別されてよい。
上記のように、オブジェクト902が、HMDプレイヤ100の視線方向901の焦点であると識別することは、オブジェクト902の周囲または近くの表示またはエリアを修正することによって伝達できる。オブジェクト902は、強調表示されてよく、色を変えられてよく、グレー表示されてよく、ポインタによって識別されてよく、テキストを用いて識別されてよく、異なる色で点滅可能にされてよく、画像に1つまたは複数の点滅の変更を与えてよく、音を提供してよく、特別な動きを与えてよく、または、これらの組み合わせであってよい。オブジェクト902を強調表示するこれらの特定された方法は、一実施形態においては、観客150の視点から見る時に示される。この例においては、観客150は、スポット906から視聴しており、スポット906は、HMDプレイヤ100の頭上に浮いている仮想カメラと類似している。しかしながら、仮想現実環境450を視聴するためのスポットは、上記のように、他の場所に配置されてもよい。
しかしながら、HMDプレイヤ100がオブジェクト902を視聴していることの識別は、観客150に提供されるビューに表される。従って、一実施形態においては、オブジェクト902の強調表示は、HMDプレイヤ100には見えないが、観客150には簡単に見える。他の実施形態においては、観客は、HMDプレイヤ100が見ている場所を識別する能力をアクティブにするか、または、非アクティブにするかを選択オブジェクトによって決定できる。さらに、複数の観客が、HMDプレイヤ100がナビゲートしている同じコンテンツを視聴していてよく、これらの観客のうち異なる観客は、HMDプレイヤが仮想環境内で何を見ているかを知るのを可能にする機能をアクティブまたは非アクティブにできる。
ある実施形態においては、この特徴をアクティブにすることは、自動であってよく、HMDプレイヤが視聴しているコンテンツの種類に基づいてトリガされてよい。こうして、観客は、HMDプレイヤ100がナビゲートしているコンテンツを簡単に見ることができ、あるオブジェクトを観客に対して強調表示すべき時、ゲーム開発者は、観客にあるオブジェクトを強調表示するためにHMDプレイヤの視線方向を識別する時間を予め定めることができる。さらなる実施形態においては、例えば、新しい観客に対して等、ある観客は、より強調表示を必要としてよい。より経験のある観客は、HMDプレイヤのアクティビティを視聴中、強調表示や援助を新しい観客ほど必要としなくてよい。従って、視線方向の視線方向識別/視聴可能オブジェクトの識別のアクティブ化及びアクティブ化は、開発者の設定、観客、HMDプレイヤ、コンテンツの複雑さ、または、これらの組み合わせに応じて、切り替えることができる。
図10は、HMDプレイヤ100が仮想現実環境450とインタラクトしてよく、異なる種類のアクティビティが生じている例を示す。この例においては、仮想現実環境450は、トラック922、建物920、車の衝突924、及び、様々な他の種類のコンテンツを含む。一構成においては、異なるアクティビティが、生成され、ヘッドフォン940によってHMDプレイヤ100が聞いている異なる音も生成する。HMDプレイヤ100の視点が、一人称の視点からの場合、仮想現実環境450内で生成されている音は、HMDプレイヤ100の位置に関連する。
この例において、車の衝突924は、遠くに聞こえてよく、また、恐らく、HMDプレイヤ100は、様々なリスニングゾーン1、2、及び、3で行われている会話が聞こえない場合がある。HMDプレイヤ100が、これらのリスニングゾーンに近付いたとすると、これらのリスニングゾーンの音は、変化して、何らかの関連する音響と共にプレイヤが実際に仮想現実シーンにいるかのように、現実的なリスニング環境を提供する。観客150の視点から、観客150は、上記のように、仮想現実環境450への異なる視点を提供されてよい。ある構成においては、観客150は、異なるリスニングゾーンで聞くことを望む場合がある。
観客は、異なるリスニングゾーンを選択する機能を提供されてよく、これは、観客150に提供され、ヘッドフォン942を使って聞くオーディオに影響する。例として、観客150が、リスニングゾーン1を聞きたい場合、観客150は、リスニングゾーン1で仮想現実プレイヤまたは人口知能(AI)キャラクタによって行われる会話を聞くことができてよい。よって、観客150は、そのリスニングゾーンに位置することができ、他のリスニングゾーンからの音は、観客150がリスニングゾーン1にいるかのように、観客150に対して生成される。観客150が、リスニングゾーン2を聞く選択を決定した場合も同じことがあてはまり、リスニングゾーン2は、3階建てのオフィスビル920の中に立っている人が行っている会話であってよい。
また、観客150は、同様にリスニングゾーン3を聞いて、車の衝突924に関して何が起こっているかを聞くことができる。この例において、観客150もHMD102を使用している。観客150は、リスニングゾーンを選択する手袋ジェスチャ930を使用してよい。他の実施形態においては、観客は、コントローラ、キーボード、手袋無しの手のジェスチャ、音声入力、視線入力等を使用して、観客150はどのリスニングゾーンに関心があるかを指示することができる。さらに、観客は、twitch型サイト等、ウェブサイトに接続されたディスプレイ画面からコンテンツを簡単に視聴できる。ある実施形態においては、パーソナルコンピュータ(PC)、ゲームコンソール、スマートフォン、タブレットコンピュータ等を使用して、HMDプレイヤ100がプレイしている仮想現実環境450を視聴してよい。
ある実施形態においては、HMDプレイヤがHMD102を介して視聴するコンテンツは、二次元画面に表示できるように修正できる。例えば、コンテンツをtwitch型サービスに共有する前に、3-Dから2-Dへの変換をコンテンツに対して行うことができる。他の実施形態においては、フル3-Dコンテンツは、twitch型サービスに共有でき、twitch型サービスに接続された観客は、HMDを介してコンテンツを視聴してよい。観客が仮想現実環境450を消費できる方法は様々であってよく、観客に与えられる機能も様々であってよいことは理解されたい。大まかに言うと、観客は、図9等に示すように、HMDプレイヤ100が見ている場所を見るためにハイライト表示を提供されてよく、仮想現実シーン内の特定の場所のリスニングを可能にする動的な選択可能な設定も提供されてよい。
さらに、観客は、仮想現実環境450への異なるビュースポットを提供されてよい。これらのビュースポットは、動的に制御またはプレオーサリングされて、特定の視聴場所と視野角を観客に提供できる。これらの機能は、動的な拡張された観戦能力を提供でき、HMDがナビゲートしたコンテンツを観客が視聴する体験を強化する。上記のように、これらの実施形態は、HMDコンテンツを見ることで方向感覚を失ったり、または、単に不快感をもたらしたりし得るHMDプレイヤの頭の素早い動きに結び付けられず、より正常に観客がコンテンツを視聴することも容易にする。
HMDプレイヤの場所に応じて、徐々に動き得るまたはゆっくりと動き得るビュースポットを観客に提供することは、HMDプレイヤが楽しんでいる仮想現実コンテンツを見る簡単な方法を提供する。よって、観客は、簡単にコンテンツを見ることができ、また、見る楽しみ、または、HMDデバイスを介したゲームプレイへの参加もしくはマルチメディアコンテンツ視聴を向上させる方法を提供される。これらの強化された機能を提供することによって、観客は、もはや、HMDプレイヤの固定の視野角に縛られることはなく、また、もはや、HMDプレイヤと全く同じビューを視聴したり、HMDプレイヤが駆動している動作の後を正確に追ったりする必要はない。
図11を参照すると、本開示の実施形態による、ヘッドマウントディスプレイ102のコンポーネントの図が示されている。ヘッドマウントディスプレイ102は、プログラム命令を実行するプロセッサ1300を含む。メモリ1302が、記憶のために備えられ、メモリ1302は、揮発性、不揮発性の両方のメモリを含んでよい。ユーザが視聴し得る視覚インタフェースを提供するディスプレイ1304が含まれる。バッテリ1306が、ヘッドマウントディスプレイ102の電源として提供される。モーション検出モジュール1308は、磁力計1310、加速度計1312、及び、ジャイロスコープ1314等、様々な種類の動作検知ハードウェアのいずれかを含んでよい。
加速度計は、加速と重力によって引き起こされる反力とを測定する装置である。単軸及び多軸のモデルが、異なる方向の加速の大きさと方向の検出に利用できる。加速度計を使用して、傾き、振動、及び、衝撃を検知する。一実施形態においては、3つの加速度計1312を使用して、2つの角度(世界空間ピッチと世界空間ロール)に絶対参照を与える重力の方向を求める。
磁力計は、ヘッドマウントディスプレイの近くの磁場の強さと方向を測定する。一実施形態においては、3つの磁力計1310が、ヘッドマウントディスプレイ内で使用されて、世界空間ヨー角の絶対参照を確保する。一実施形態においては、磁力計は、±80マイクロテスラである地球の磁場にわたるように設計される。磁力計は、金属の影響を受け、実際のヨーに対して単調であるヨー測定値を提供する。磁場は、環境中の金属が原因で歪む場合があり、これは、ヨー測定値の歪みを起こす。必要に応じて、この歪みは、ジャイロスコープまたはカメラ等、他のセンサからの情報を用いて較正できる。一実施形態においては、加速度計1312は、磁力計1310と共に使用されて、ヘッドマウントディスプレイ102の傾きと方位角を取得する。
ある実施態様においては、ヘッドマウントディスプレイの磁力計は、他の近くの装置の電磁石が非アクティブな間中、読み取られるように構成される。
ジャイロスコープは、角運動量の原理に基づいて、向きを測定または維持する装置である。一実施形態においては、3つのジャイロスコープ1314が、各軸(x、y、z)に対する動きの情報を慣性感知に基づいて提供する。ジャイロスコープは、高速回転の検出を支援する。しかしながら、ジャイロスコープは、絶対参照の存在が無く、時間が経つとドリフトする可能性がある。これは、ジャイロスコープの周期的なリセットを必要とし、リセットは、オブジェクトの視覚追跡、加速度計、磁力計等に基づいた、位置/または向きの決定等、他の利用可能な情報を用いて行うことができる。
カメラ1316が、現実環境の画像及び画像ストリームを捕捉するために備えられる。後ろ(ユーザがヘッドマウントディスプレイ102のディスプレイを見ている時、ユーザから離れる方向)を向いているカメラと、前(ユーザがヘッドマウントディスプレイ102のディスプレイを見ている時、ユーザに向かう方向)を向いているカメラとを含む複数のカメラがヘッドマウントディスプレイ102に含まれてよい。さらに、デプスカメラ1318が、現実環境のオブジェクトの奥行情報を検知するために、ヘッドマウントディスプレイ102に含まれてよい。
ヘッドマウントディスプレイ102は、オーディオ出力を提供するスピーカ1320を含む。また、マイクロフォン1322が、周辺環境の音、ユーザによる会話等を含む、現実環境からのオーディオを捕捉するために含まれてよい。ヘッドマウントディスプレイ102は、触覚フィードバックをユーザに提供する触覚フィードバックモジュール1324を含む。一実施形態においては、触覚フィードバックモジュール1324は、触覚フィードバックをユーザに提供するように、ヘッドマウントディスプレイ102に動き及び/または振動を起こすことができる。
LED1326は、ヘッドマウントディスプレイ102の状態の視覚的インジケータとして提供される。例えば、LEDは、バッテリレベル、電源オン等を示してよい。カードリーダ1328が備えられて、ヘッドマウントディスプレイ102が、メモリカードに情報の読み書きをするのを可能にする。USBインタフェース1330が、周辺装置の接続、または、他のポータブルデバイス、コンピュータ等、他の装置への接続を可能にするためのインタフェースの一例として含まれる。ヘッドマウントディスプレイ102の様々な実施形態において、様々な種類のインタフェースのいずれかが、ヘッドマウントディスプレイ102の接続性を向上させるために含まれてよい。
WiFi(登録商標)モジュール1332が、無線ネットワーク技術を用いてインターネットまたはローカルエリアネットワークへの接続を可能にするために含まれる。また、ヘッドマウントディスプレイ102は、他の装置への無線接続を可能にするブルートゥース(登録商標)モジュール1334を含む。通信リンク1336も、他の装置への接続のために含まれてよい。一実施形態においては、通信リンク1336は、無線接続に赤外線送信を利用する。他の実施形態においては、通信リンク1336は、他の装置との通信のために、様々な無線または有線の送信プロトコルのいずれかを利用してよい。
入力ボタン/センサ1338が、入力インタフェースをユーザに提供するために含まれる。ボタン、タッチパッド、ジョイスティック、トラックボール等、様々な種類の入力インタフェースのいずれかが、含まれてよい。超音波通信モジュール1340が、超音波技術を用いて他の装置との通信を促進するためにヘッドマウントディスプレイ102に含まれてよい。
バイオセンサ1342が、生理学的データのユーザからの検出を可能にするために含まれる。一実施形態においては、バイオセンサ1342は、ユーザの皮膚を通して、ユーザの生体電気信号を検出するための1つまたは複数の乾電極を含む。
ビデオ入力1344が、HMDをレンダリングするために、一次処理コンピュータ(例えば、メインゲームコンソール)からビデオ信号を受信するように構成される。ある実施態様においては、ビデオ入力は、HDMI(登録商標)入力である。
ヘッドマウントディスプレイ102の前述のコンポーネントは、ヘッドマウントディスプレイ102に含まれ得る単なる例示のコンポーネントとして記載した。開示の様々な実施形態において、ヘッドマウントディスプレイ102は、様々な上記のコンポーネントの幾つかを含んでもよく、含まなくてもよい。ヘッドマウントディスプレイ102の実施形態は、さらに、ここには記載しないが、当分野で既知の他のコンポーネントを、本明細書に記載の本開示の態様を容易にするために、含んでよい。
図12は、開示の様々な実施形態による、ゲームシステム1400のブロック図である。ゲームシステム1400は、1つまたは複数のクライアント1410にネットワーク1415を介してビデオストリームを提供するように構成される。ゲームシステム1400は、典型的に、ビデオサーバシステム1420と、オプションのゲームサーバ1425とを含む。ビデオサーバシステム1420は、ビデオストリームを1つまたは複数のクライアント1410に最低限のサービス品質で提供するように構成される。例えば、ビデオサーバシステム1420は、ビデオゲームの状態とビデオゲーム内の視点とを変更するゲームコマンドを受信してよく、状態のこの変化を反映する更新されたビデオストリームを最小の遅延時間でクライアント1410に提供してよい。ビデオサーバシステム1420は、今後、規定されるフォーマットも含む多種多様な代替ビデオフォーマットで、ビデオストリームを提供するように構成されてよい。さらに、ビデオストリームは、多種多様なフレームレートで、ユーザに提示されるように構成されたビデオフレームを含んでよい。典型的なフレームレートは、毎秒30フレーム、毎秒60フレーム、及び、毎秒120フレームであるが、より高いまたはより低いフレームレートが、開示の代替実施形態に含まれる。
本明細書では、個々に、1410A、1410B等と呼ばれるクライアント1410は、ヘッドマウントディスプレイ、端末、パーソナルコンピュータ、ゲームコンソール、タブレットコンピュータ、電話、セットトップボックス、キオスク、無線装置、デジタルパッド、スタンドアロンデバイス、ハンドヘルドゲームプレイデバイス等を含んでよい。典型的に、クライアント1410は、符号化ビデオストリームを受信するように構成され、ビデオストリームを復号するように構成され、且つ、結果として生じるビデオをユーザ、例えば、ゲームのプレイヤに提示するように構成される。符号化ビデオストリームを受信するプロセス、及び/または、ビデオストリームを復号するプロセスは、典型的に、個々のビデオフレームをクライアントの受信バッファに記憶することを含む。ビデオストリームは、クライアント1410に一体化されたディスプレイ、または、モニタもしくはテレビ等の別個の装置で、ユーザに提示されてよい。クライアント1410は、任意選択で、複数のゲームプレイヤをサポートするように構成される。例えば、ゲームコンソールは、2人、3人、4人、または、5人以上の同時プレイヤをサポートするように構成されてよい。これらの各プレイヤは、別個のビデオストリームを受信してよく、または、一つのビデオストリームが、特に各プレイヤに対して生成された、例えば、各プレイヤの視点に基づいて生成されたフレームの領域を含んでよい。クライアント1410は、任意選択で、地理的に分散している。ゲームシステム1400に含まれるクライアントの数は、1人もしくは2人から、何千、何万、または、それ以上と様々であってよい。本明細書においては、「ゲームプレイヤ」という語は、ゲームをプレイする人を指して使用され、「ゲームプレイデバイス」という語は、ゲームのプレイに使用されるデバイスを指して用いられる。ある実施形態においては、ゲームプレイデバイスは、協働してゲーム体験をユーザに伝える複数のコンピュータデバイスを指してよい。例えば、ゲームコンソール及びHMDは、ビデオサーバシステム1420と協働して、HMDを通して視聴されるゲームを配信してよい。一実施形態においては、ゲームコンソールは、ビデオサーバシステム1420からビデオストリームを受信し、ゲームコンソールは、ビデオストリームまたはビデオストリームへの更新をレンダリングのためにHMDに転送する。
クライアント1410は、ネットワーク1415を介してビデオストリームを受信するように構成される。ネットワーク1415は、電話ネットワーク、インターネット、無線ネットワーク、送電線網、ローカルエリアネットワーク、広域ネットワーク、プライベートネットワーク等を含む、任意の種類の通信ネットワークであってよい。典型的な実施形態においては、ビデオストリームは、TCP/IPまたはUDP/IP等の標準的プロトコルを介して通信される。あるいは、ビデオストリームは、プロプライエタリ規格を介して通信される。
クライアント1410の典型的な例は、プロセッサ、不揮発メモリ、ディスプレイ、復号論理回路、ネットワーク通信能力、及び、入力装置を含むパーソナルコンピュータである。復号論理回路は、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含んでよい。ビデオストリームを復号(及び符号化する)システムは、当分野で周知であり、使用される特定の符号化スキームに応じて変わる。
クライアント1410は、受信したビデオを修正するために構成されたシステムをさらに含んでよいが、含む必要はない。例えば、クライアントは、1つのビデオ画像を他のビデオ画像にオーバーレイする、ビデオ画像を切り取る等のために、さらにレンダリングを行うように構成されてよい。例えば、クライアント1410は、Iフレーム、Pフレーム、及び、Bフレーム等の様々な種類のビデオフレームを受信するように構成されてよく、また、これらのフレームを処理して、ユーザに表示する画像にするように構成されてよい。ある実施形態においては、クライアント1410の構成要素は、さらに、レンダリング、シェーディング、3-Dへの変換、または、同様の操作をビデオストリームに対して行うように構成される。クライアント1410の構成要素は、任意選択で、複数のオーディオストリームまたはビデオストリームを受信するように構成される。クライアント1410の入力装置は、例えば、片手ゲームコントローラ、両手ゲームコントローラ、ジェスチャ認識システム、視線認識システム、音声認識システム、キーボード、ジョイスティック、ポインティングデバイス、力フィードバックデバイス、動作及び/または位置検知装置、マウス、タッチスクリーン、神経インタフェース、カメラ、今後開発される入力装置等を、含んでよい。
クライアント1410が受信したビデオストリーム(及び、任意選択で、オーディオストリーム)は、ビデオサーバシステム1420によって生成、提供される。さらに、本明細書の他の箇所に記載のように、このビデオストリームは、ビデオフレームを含み(且つ、オーディオストリームは、オーディオフレームを含む)。ビデオフレームは、ユーザに表示される画像に有意の寄与をするように構成される(例えば、ビデオフレームは、適切なデータ構造の画素情報を含む)。本明細書においては、「ビデオフレーム」という語は、ユーザに示す画像に寄与するように構成された、例えば、影響を与えるように構成された情報を主に含むフレームを指すために使用される。「ビデオフレーム」に関する本明細書の教示の大半は、「オーディオフレーム」にも適用できる。
クライアント1410は、典型的に、ユーザからの入力を受信するように構成される。これらの入力は、ビデオゲームの状態を変更するように、または、他の形でゲームプレイに影響を与えるように構成されたゲームコマンドを含んでよい。ゲームコマンドは、入力装置を用いて受信できる、及び/または、クライアント1410で実行する計算命令によって自動的に生成されてよい。受信したゲームコマンドは、クライアント1410からネットワーク1415を介してビデオサーバシステム1420及び/またはゲームサーバ1425に通信される。例えば、ある実施形態においては、ゲームコマンドは、ビデオサーバシステム1420を介してゲームサーバ1425に通信される。ある実施形態においては、ゲームコマンドの別々のコピーが、クライアント1410からゲームサーバ1425及びビデオサーバシステム1420に通信される。ゲームコマンドの通信は、任意選択で、コマンドのアイデンティティに依存する。ゲームコマンドは、任意選択で、オーディオストリームまたはビデオストリームをクライアント1410Aに提供するのに使用される異なるルートまたは通信チャネルを通して、クライアント1410Aから通信される。
ゲームサーバ1425は、任意選択で、ビデオサーバシステム1420と異なるエンティティによって操作される。例えば、ゲームサーバ1425は、マルチプレイヤゲームの発行者によって操作されてよい。この例において、ビデオサーバシステム1420は、任意選択で、ゲームサーバ1425によってクライアントとして視聴され、任意選択で、ゲームサーバ1425の視点からは、先行技術のゲームエンジンを実行する先行技術のクライアントであると見えるように構成される。ビデオサーバシステム1420とゲームサーバ1425との間の通信は、任意選択で、ネットワーク1415を介して生じる。従って、ゲームサーバ1425は、ゲーム状態情報を複数のクライアントに送る先行技術のマルチプレイヤゲームサーバであってよく、複数のクライアントの1つは、ゲームサーバシステム1420である。ビデオサーバシステム1420は、ゲームサーバ1425の複数のインスタンスと同時に通信するように構成されてよい。例えば、ビデオサーバシステム1420は、複数の異なるビデオゲームを異なるユーザに提供するように構成できる。これらの異なるビデオゲームは、それぞれ、異なるゲームサーバ1425によってサポートされてよく、及び/または、異なるエンティティによって発行されてよい。ある実施形態においては、ビデオサーバシステム1420の幾つかの地理的に分散したインスタンスは、ゲームビデオを複数の異なるユーザに提供するように構成される。ビデオサーバシステム1420のこれらのインスタンスは、それぞれ、ゲームサーバ1425の同じインスタンスと通信してよい。ビデオサーバシステム1420と1つまたは複数のゲームサーバ1425との間の通信は、専用通信チャネルを介して任意選択で生じる。例えば、ビデオサーバシステム1420は、これら2つのシステム間の通信専用の広帯域チャネルを介してゲームサーバ1425に接続されてよい。
ビデオサーバシステム1420は、少なくともビデオソース1430、I/O装置1445、プロセッサ1450、及び、非一時的ストレージ1455を含む。ビデオサーバシステム1420は、1つのコンピュータデバイスを含んでよく、または、複数のコンピュータデバイス間に分散されてよい。これらのコンピュータデバイスは、任意選択で、ローカルエリアネットワーク等の通信システムを介して接続される。
ビデオソース1430は、ビデオストリーム、例えば、動画を形成するストリーミングビデオもしくは一連のビデオフレームを提供するように構成される。ある実施形態においては、ビデオソース1430は、ビデオゲームエンジンとレンダリング論理とを含む。ビデオゲームエンジンは、プレイヤからゲームコマンドを受信するように構成され、受信したコマンドに基づいて、ビデオゲームの状態のコピーを維持するように構成される。このゲーム状態は、ゲーム環境におけるオブジェクトの位置と、典型的には、視点とを含む。ゲーム状態は、オブジェクトのプロパティ、画像、色、及び/または、テクスチャも含んでよい。ゲーム状態は、典型的に、ゲーム規則と、移動、回転、攻撃、焦点を合わせる、インタラクト、使用等のゲームコマンドに基づいて維持される。ゲームエンジンの一部は、任意選択でゲームサーバ1425内に配置される。ゲームサーバ1425は、地理的に分散したクライアントを用いて複数のプレイヤから受信したゲームコマンドに基づいて、ゲーム状態のコピーを維持してよい。この場合、ゲーム状態は、ゲームサーバ1425によってビデオソース1430に提供され、ゲーム状態のコピーが記憶されて、レンダリングが行われる。ゲームサーバ1425は、クライアント1410からネットワーク1415を介して直接、ゲームコマンドを受信してよい、及び/または、ビデオサーバシステム1420を介してゲームコマンドを受信してよい。
ビデオソース1430は、典型的に、レンダリング論理回路、例えば、ハードウェア、ファームウェア、及び/または、ストレージ1455等のコンピュータ可読媒体に記憶されたソフトウェアを含む。このレンダリング論理回路は、ゲーム状態に基づいて、ビデオストリームのビデオフレームを作成するように構成される。レンダリング論理回路の全てまたは一部は、任意選択で、グラフィックス処理ユニット(GPU)内に配置される。レンダリング論理回路は、典型的に、オブジェクト間の三次元空間関係を決定するために、及び/または、ゲーム状態と視点とに基づいて適切なテクスチャ等を適用するために、構成された処理段階を含む。レンダリング論理回路は、未加工ビデオを生成し、次に、通常は、クライアント1410に通信される前に符号化される。例えば、未加工ビデオは、Adobe Flash(登録商標)規格、.wav、H.264、H.263、On2、VP6、VC‐1、WMA、Huffyuv、Lagarith、MPG‐x.、Xvid、FFmpeg、x264、VP6−8、realvideo、mp3等に従って符号化されてよい。符号化処理によって、ビデオストリームが生成され、ビデオストリームは、リモートデバイス上のデコーダに送るために、任意選択でパッケージ化される。ビデオストリームは、フレームサイズとフレームレートによって特徴づけられる。典型的なフレームサイズは、800x600、1280x720(例えば、720p)、1024x768を含むが、任意の他のフレームサイズを用いてよい。フレームレートは、毎秒あたりのビデオフレームの数である。ビデオストリームは、異なる種類のビデオフレームを含んでよい。例えば、H.264規格は、「P」フレームと「I」フレームを含む。Iフレームは、ディスプレイ装置上のマクロブロック/画素をリフレッシュする情報を含み、Pフレームは、そのサブセットをリフレッシュする情報を含む。Pフレームは、典型的に、Iフレームよりデータサイズが小さい。本明細書においては、「フレームサイズ」という語は、フレーム内の画素数を指す。「フレームデータサイズ」という語は、フレームの記憶に必要なバイト数を指すのに用いられる。
代替実施形態においては、ビデオソース1430は、カメラ等のビデオ記録装置を含む。このカメラを使用して、コンピュータゲームのビデオストリームに含まれ得る遅延ビデオまたはライブビデオを生成してよい。結果として生じるビデオストリームは、任意選択で、レンダリングされた画像と、スチルカメラまたはビデオカメラを用いて記録された画像との両方を含む。ビデオソース1430は、以前記録されたビデオをビデオストリームに含めるように記憶するように構成された記憶装置も含んでよい。ビデオソース1430は、また、オブジェクト、例えば、人の動作または位置を検出するように構成された動作または位置検知装置と、検出された動作及び/または位置に基づいて、ゲーム状態を決定またはビデオを生成するように構成された論理回路とを含んでよい。
ビデオソース1430は、他のビデオ上に配置されるように構成されたオーバーレイを提供するように任意選択で構成される。例えば、これらのオーバーレイは、コマンドインタフェース、ログイン命令、ゲームプレイヤへのメッセージ、他のゲームプレイヤの画像、他のゲームプレイヤのビデオフィード(例えば、webcamビデオ)を含んでよい。タッチスクリーンインタフェースまたは視線検出インタフェースを含むクライアント1410Aの実施形態においては、オーバーレイは、仮想のキーボード、ジョイスティック、タッチパッド等を含んでよい。オーバーレイの一例においては、プレイヤの音声が、オーディオストリームにオーバーレイされる。ビデオソース1430は、任意選択で1つまたは複数のオーディオソースをさらに含む。
ビデオサーバシステム1420が複数のプレイヤからの入力に基づいてゲーム状態を維持するように構成された実施形態においては、各プレイヤは、ビューの位置と方向を含む異なる視点を有してよい。ビデオソース1430は、任意選択で、各プレイヤの視点に基づいて、各プレイヤに別々のビデオストリームを提供するように構成される。さらに、ビデオソース1430は、異なるフレームサイズ、フレームデータサイズ、及び/または、符号化を各クライアント1410に提供するように構成されてよい。ビデオソース1430は、任意選択で3-Dビデオを提供するように構成される。
I/O装置1445は、ビデオサーバシステム1420が、ビデオ、コマンド、情報の要求、ゲーム状態、視線情報、デバイスの動き、デバイスの位置、ユーザの動作、クライアントのアイデンティティ、プレイヤのアイデンティティ、ゲームコマンド、セキュリティ情報、オーディオ等の情報を送信及び/または受信するように構成される。I/O装置1445は、典型的に、ネットワークカードまたはモデム等の通信ハードウェアを含む。I/O装置1445は、ゲームサーバ1425、ネットワーク1415、及び/または、クライアント1410と通信するように構成される。
プロセッサ1450は、本明細書で述べたビデオサーバシステム1420の様々なコンポーネント内に含まれる論理回路、例えば、ソフトウェアを実行するように構成される。例えば、プロセッサ1450は、ビデオソース1430、ゲームサーバ1425、及び/または、クライアントクオリファイア1460の機能を行うために、ソフトウェア命令を用いてプログラムされてよい。ビデオサーバシステム1420は、任意選択で、プロセッサ1450の複数のインスタンスを含む。プロセッサ1450は、ビデオサーバシステム1420が受信したコマンドを実行するために、または、本明細書で述べたゲームシステム1400の様々な要素の操作を連係させるために、ソフトウェア命令を用いてプログラムされてもよい。プロセッサ1450は、1つまたは複数のハードウェア装置を含んでよい。プロセッサ1450は、電子プロセッサである。
ストレージ1455は、非一時的アナログ及び/またはデジタル記憶装置を含む。例えば、ストレージ1455は、ビデオフレームを記憶するように構成されたアナログ記憶装置を含んでよい。ストレージ1455は、例えば、ハードドライブ、光学ドライブ、または、ソリッドステートストレージ等、コンピュータ可読デジタルストレージを含んでよい。ストレージ1415は、ビデオフレーム、擬似フレーム、ビデオフレーム及び擬似フレームの両方を含むビデオストリーム、オーディオフレーム、オーディオストリーム等を記憶するように(例えば、適切なデータ構造またはファイルシステムによって)構成される。ストレージ1455は、任意選択で複数の装置に分散される。ある実施形態においては、ストレージ1455は、本明細書の他の箇所で述べるビデオソース1430のソフトウェアコンポーネントを記憶するよう構成される。これらのコンポーネントは、必要に応じプロビジョニング可能なフォーマットで記憶されてよい。
ビデオサーバシステム1420は、任意選択で、クライアントクオリファイア1460をさらに含む。クライアントクオリファイア1460は、クライアント1410Aまたは1410B等のクライアントの能力を遠隔で判断するために構成される。この能力は、クライアント1410A自体の能力と、クライアント1410Aとビデオサーバシステム1420との間の1つまたは複数の通信チャネルの能力と両方を含み得る。例えば、クライアントクオリファイア1460は、ネットワーク1415を通して通信チャネルをテストするよう構成されてよい。
クライアントクオリファイア1460は、クライアント1410Aの能力を手動または自動で判定(例えば、発見)できる。手動による判定は、クライアント1410Aのユーザと通信し、能力を提供するようユーザに求める。例えば、ある実施形態においては、クライアントクオリファイア1460は、クライアント1410Aのブラウザ内に画像、テキスト等を表示するよう構成される。一実施形態においては、クライアント1410Aはブラウザを含むHMDである。別の実施形態においては、クライアント1410Aはブラウザを有するゲームコンソールであり、HMDに表示されてよい。表示されたオブジェクトは、クライアント1410Aのオペレーティングシステム、プロセッサ、ビデオデコーダの種類、ネットワーク接続の種類、ディスプレイ解像度等の情報を入力するようユーザに求める。ユーザにより入力された情報は、クライアントクオリファイア1460に返信される。
自動判定は、例えば、クライアント1410Aでのエージェントの実行によって、及び/または、クライアント1410Aへのテストビデオの送信によって、実施されてよい。エージェントは、ウェブページに埋め込まれるか、アドオンとしてインストールされた、Java(登録商標)スクリプト等の計算命令を含んでよい。エージェントは、任意選択でクライアントクオリファイア1460により提供される。様々な実施形態において、エージェントは、クライアント1410Aの処理能力、クライアント1410Aの復号能力及び表示能力、クライアント1410Aとビデオサーバシステム1420との間の通信チャネルの遅延時間信頼性及び帯域幅、クライアント1410Aの表示の種類、クライアント1410Aのファイアウォール、クライアント1410Aのハードウェア、クライアント1410Aで実行されるソフトウェア、クライアント1410A内のレジストリエントリ等を知ることができる。
クライアントクオリファイア1460は、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含む。クライアントクオリファイア1460は、ビデオサーバシステム1420の1つまたは複数の他の要素とは別個のコンピュータデバイス上に任意選択で配置される。例えば、ある実施形態においては、クライアントクオリファイア1460は、クライアント1410とビデオサーバシステム1420の複数のインスタンスとの間の通信チャネルの特性を判断するよう構成される。これらの実施形態においては、クライアントクオリファイアが発見した情報を使用して、ビデオサーバシステム1420のどのインスタンスがクライアント1410の1つにストリーミングビデオを配信するのに最適かを判断できる。
本開示の実施形態は、ハンドヘルドデバイス、マイクロプロセッサシステム、マイクロプロセッサベースまたはプログラマブルな家電製品、ミニコンピュータ、メインフレームコンピュータ等を含む多様なコンピュータシステム構成で実践されてよい。本開示は、有線または無線ネットワークを介してリンクされる遠隔処理デバイスによりタスクが行われる分散コンピューティング環境においても実践できる。
上記の実施形態を念頭において、本開示は、コンピュータシステムに記憶されたデータを伴う様々なコンピュータ実施操作を使用できることを理解されたい。これらの操作は、物理量を伴う物理的操作を要する操作である。本開示の一部を成す本明細書に記載の操作はいずれも、有用な機械操作である。本開示は、これらの操作を行うデバイスまたは装置にも関する。装置は、必要とされる目的に合わせて特別に構築できる、または、装置は、コンピュータに記憶されたコンピュータプログラムによって選択的に起動または構成される汎用コンピュータであってよい。詳細には、様々な汎用機械を本明細書の教示に従って書かれたコンピュータプログラムと共に使用できる、または、必要な操作を行なうより専門的な装置を構築するとより便利な場合がある。
本開示は、コンピュータ可読媒体上のコンピュータ可読コードとして実現することもできる。コンピュータ可読媒体は、データの記憶ができる任意のデータ記憶装置であり、データは、後にコンピュータシステムにより読み取ることができる。コンピュータ可読媒体の例は、ハードドライブ、ネットワーク接続ストレージ(NAS)、リードオンリメモリ、ランダムアクセスメモリ、CD−ROM、CD−R、CD−RW、磁気テープ、並びに、他の光学的及び非光学的データ記憶装置を含む。コンピュータ可読媒体は、コンピュータ可読コードが分散して記憶、実行されるように、ネットワーク接続コンピュータシステムを介して分散されたコンピュータ可読有形媒体を含み得る。
方法の操作は特定の順序で記載しているが、操作と操作の間で他のハウスキーピング操作が行われてもよく、または、オーバーレイ操作処理が所望の方法で実施される限り、操作は、わずかに異なる時間に実施されるように調整されてもよく、または、処理に関連付けられた様々な間隔で、処理操作が行われるのを可能にするシステムに分散されてもよいことは理解されたい。
上記開示は、明確に理解されるように詳述したが、添付の特許請求の範囲内で所定の変更及び修正を実践してよいことは明らかであろう。従って、本実施形態は、例示的なものであって限定的なものではなく、本開示は本明細書の詳細に限定されず、本開示の範囲及び均等物の範囲内で修正されてよい。

Claims (18)

  1. 観客のために仮想現実環境のビューを生成する方法であって、
    HMDプレイヤのヘッドマウントディスプレイ(HMD)にレンダリングするための仮想現実環境を生成することであって、前記HMDプレイヤは、前記HMDプレイヤの前記HMDの動きによって制御されるHMDビューを提供される、前記仮想現実環境を生成することと、
    前記仮想現実環境の観客ビューを提供することであって、前記観客ビューは、前記仮想現実環境に向けられたビュースポットに関連付けられ、前記ビュースポットは、前記HMDビューから切り離された、前記観客ビューを提供することと、
    を含
    前記HMDの動きは、前記HMDビューを変え、前記観客ビューの前記ビュースポットを切り離すことは、前記HMDビューの後を追う前記ビュースポットの遅れた動きを生成する、方法。
  2. 前記ビュースポットの前記遅れた動きは。前記HMDの動きより遅い速度で、前記HMDビューの後を追うように機能する、請求項に記載の方法。
  3. 前記ビュースポットは、前記仮想現実環境に関連付けられた複数のビュースポットの1つである、請求項1に記載の方法。
  4. 前記ビュースポットは、前記観客ビューのために選択される、請求項に記載の方法。
  5. 前記ビュースポットは、前記仮想現実環境で関心を引くと識別された特定のコンテンツに基づいて、前記観客のために選択される、請求項に記載の方法。
  6. 前記観客ビューは、前記HMDビューの一部である、請求項1に記載の方法。
  7. 前記観客ビューは、前記HMDビューより大きい、請求項1に記載の方法。
  8. 前記HMDプレイヤの視線方向を使用して、前記HMDプレイヤが視聴しているコンテンツを前記観客に対して識別する、請求項1に記載の方法。
  9. 観客のために仮想現実環境のビューを生成する方法であって、
    HMDプレイヤのヘッドマウントディスプレイ(HMD)にレンダリングするための仮想現実環境を生成することであって、前記HMDプレイヤは、前記HMDプレイヤの前記HMDの動きによって制御されるHMDビューを提供される、前記仮想現実環境を生成することと、
    前記仮想現実環境の観客ビューを提供することであって、前記観客ビューは、前記仮想現実環境に向けられたビュースポットに関連付けられ、前記ビュースポットは、前記HMDビューから切り離された、前記観客ビューを提供することと、
    を含み、
    前記観客による前記仮想現実環境のリスニングゾーンの選択を受信することをさらに含み、前記リスニングゾーンの選択は、前記リスニングゾーンの視点から前記観客にオーディオを提供する、方法。
  10. 観客に対して仮想現実環境のビューを生成するサーバによって実行される方法であって、
    前記サーバが、HMDプレイヤのヘッドマウントディスプレイ(HMD)のためにレンダリングされる仮想現実環境のフィードを受信することであって、前記HMDプレイヤは、前記HMDプレイヤによる前記HMDの動きによって制御されるHMDビューを提供され、前記仮想現実環境の前記フィードは、ウェブサイトに共有される、前記仮想現実環境のフィードを受信することと、
    前記サーバが、前記ウェブサイトから前記仮想現実環境にアクセスする要求を前記観客から受信することと、
    前記サーバが、前記観客のデバイスに前記仮想現実環境の観客ビューを送信することであって、前記観客ビューは、前記仮想現実環境に向けられたビュースポットに関連付けられ、前記ビュースポットは、前記HMDビューから切り離されている、前記仮想現実環境の観客ビューを前記送信することと、
    を含み、前記HMDプレイヤが前記仮想現実環境を動き回ると、前記観客ビューは、前記仮想現実環境に向けられた他のビュースポットに更新され、
    前記HMDの動きは、前記HMDビューを変え、前記観客ビューの前記ビュースポットを切り離すことは、前記HMDビューの後を追う前記ビュースポットの遅れた動きを生成する、方法。
  11. 前記ビュースポットは、前記HMDプレイヤが前記仮想現実環境をあちこち移動すると、前記仮想現実環境の関心を引くビューを提供するように選択されるプレオーサリングされたビュースポットである、請求項1に記載の方法。
  12. 前記観客は、前記プレオーサリングされたビュースポットの1つから別のビュースポットへと動かされる、請求項11に記載の方法。
  13. 前記観客のプロファイルは、ビューまたはコンテンツの種類に関する好みを識別し、前記好みを使用して、前記プレオーサリングされたビュースポットのどのビュースポットを前記観客に提供するかを選択する、請求項11に記載の方法。
  14. 前記観客の前記デバイスは、前記観客が使用するHMD、または、前記観客が使用するテレビ画面、または、前記観客が使用するコンピュータ画面、または、前記観客が使用するハンドヘルドデバイス画面のうちの1つである、請求項1に記載の方法。
  15. 前記観客は、前記HMDプレイヤの前記HMDビューを視聴するためのアクセスを提供する複数の観客のうちの一人である、請求項1に記載の方法。
  16. 前記ウェブサイトは、他のHMDプレイヤの他のHMDビューのオプションの選択を提供し、それによって、前記観客は、前記HMDビューの特定のHMDビューを選択でき、前記各仮想現実環境を1つまたは複数の観客ビューから見ることができる、請求項1に記載の方法。
  17. 観客のための仮想現実環境のビューを生成するプログラム命令を有するコンピュータ可読媒体であって、
    HMDプレイヤのヘッドマウントディスプレイ(HMD)にレンダリングするための仮想現実環境を生成するプログラム命令であって、前記HMDプレイヤは、前記HMDプレイヤによる前記HMDの動きによって制御されるHMDビューを提供される、前記プログラム命令と、
    前記仮想現実環境の観客ビューを提供するプログラム命令であって、前記観客ビューは、前記仮想現実環境に向けられたビュースポットに関連付けられ、前記ビュースポットは、前記HMDビューと切り離されている、前記プログラム命令と、
    を含
    前記観客ビューの前記ビュースポットは、前記HMDビューの後を追う遅れた動きであり、前記ビュースポットは、前記仮想現実環境の前記HMDビューのエリア、または、前記HMDビューの動きの方向に向けられた異なる視野角を提供する複数のビュースポットの1つである、コンピュータ可読媒体。
  18. 前記ビュースポットの前記遅れた動きは、前記HMDの動きより遅い速度で、前記HMDビューの後を追うように機能し、前記ビュースポットは、前記HMDビューに基づいて、前記観客ビューのために予め選択された複数のビュースポットの1つである、請求項1に記載のコンピュータ可読媒体。
JP2018549158A 2016-03-17 2017-03-17 仮想現実(vr)ユーザインタラクティブ性に関連付けられた仮想現実環境の観戦 Active JP6679747B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662309882P 2016-03-17 2016-03-17
US62/309,882 2016-03-17
US15/461,434 2017-03-16
US15/461,434 US11163358B2 (en) 2016-03-17 2017-03-16 Spectating virtual (VR) environments associated with VR user interactivity
PCT/US2017/022983 WO2017161281A1 (en) 2016-03-17 2017-03-17 Spectating virtual reality (vr) environments associated with vr user interactivity

Publications (2)

Publication Number Publication Date
JP2019518261A JP2019518261A (ja) 2019-06-27
JP6679747B2 true JP6679747B2 (ja) 2020-04-15

Family

ID=59847176

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018549158A Active JP6679747B2 (ja) 2016-03-17 2017-03-17 仮想現実(vr)ユーザインタラクティブ性に関連付けられた仮想現実環境の観戦

Country Status (5)

Country Link
US (2) US11163358B2 (ja)
EP (1) EP4384291A1 (ja)
JP (1) JP6679747B2 (ja)
CN (1) CN109069932B (ja)
WO (1) WO2017161281A1 (ja)

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3066592A4 (en) * 2013-11-08 2017-07-19 Performance Lab Technologies Limited Automated prescription of activity based on physical activity data
JPWO2017187807A1 (ja) * 2016-04-28 2019-03-07 ソニー株式会社 情報処理端末装置
US10139901B2 (en) * 2016-07-05 2018-11-27 Immersv, Inc. Virtual reality distraction monitor
US9971157B2 (en) * 2016-07-25 2018-05-15 Colopl, Inc. Display control method and system for executing the display control method
US10572005B2 (en) * 2016-07-29 2020-02-25 Microsoft Technology Licensing, Llc Private communication with gazing
US10506221B2 (en) 2016-08-03 2019-12-10 Adobe Inc. Field of view rendering control of digital content
US11461820B2 (en) 2016-08-16 2022-10-04 Adobe Inc. Navigation and rewards involving physical goods and services
US10068378B2 (en) 2016-09-12 2018-09-04 Adobe Systems Incorporated Digital content interaction and navigation in virtual and augmented reality
JP6853638B2 (ja) * 2016-09-14 2021-03-31 株式会社スクウェア・エニックス 表示システム、表示方法、及び、コンピュータ装置
US10848899B2 (en) * 2016-10-13 2020-11-24 Philip Scott Lyren Binaural sound in visual entertainment media
US10430559B2 (en) 2016-10-18 2019-10-01 Adobe Inc. Digital rights management in virtual and augmented reality
US11269580B2 (en) * 2017-02-13 2022-03-08 Comcast Cable Communications, Llc Guided collaborative viewing of navigable image content
US10688396B2 (en) * 2017-04-28 2020-06-23 Sony Interactive Entertainment Inc. Second screen virtual window into VR environment
CN109952757B (zh) * 2017-08-24 2020-06-05 腾讯科技(深圳)有限公司 基于虚拟现实应用录制视频的方法、终端设备及存储介质
US11145124B2 (en) 2017-08-30 2021-10-12 Ronald H. Winston System and method for rendering virtual reality interactions
US10341537B2 (en) 2017-09-29 2019-07-02 Sony Interactive Entertainment America Llc Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
US10668382B2 (en) * 2017-09-29 2020-06-02 Sony Interactive Entertainment America Llc Augmenting virtual reality video games with friend avatars
US10621784B2 (en) * 2017-09-29 2020-04-14 Sony Interactive Entertainment America Llc Venue mapping for virtual reality spectating of live events
KR102603712B1 (ko) 2017-11-03 2023-11-20 삼성전자주식회사 헤드 마운팅 장치
CN107977586B (zh) * 2017-12-22 2021-04-13 联想(北京)有限公司 显示内容处理方法、第一电子设备以及第二电子设备
WO2019157082A1 (en) * 2018-02-06 2019-08-15 Phenix Real Time Solutions, Inc. Simulating a local experience by live streaming sharable viewpoints of a live event
CN116328317A (zh) * 2018-02-06 2023-06-27 日本聚逸株式会社 应用处理系统、应用处理方法以及应用处理程序
EP3520868A1 (en) 2018-02-06 2019-08-07 Gree, Inc. Game processing system, method of processing game, and program for processing game
JP6908573B2 (ja) * 2018-02-06 2021-07-28 グリー株式会社 ゲーム処理システム、ゲーム処理方法、及びゲーム処理プログラム
US10981067B2 (en) 2018-02-06 2021-04-20 Gree, Inc. Game processing system, method of processing game, and storage medium storing program for processing game
WO2019178276A1 (en) * 2018-03-13 2019-09-19 Ronald Winston Virtual reality system and method
WO2019188229A1 (ja) * 2018-03-26 2019-10-03 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2019181074A (ja) * 2018-04-17 2019-10-24 株式会社ActEvolve Vrゲーム表示装置、vrゲーム表示方法及びプログラム
US11493999B2 (en) * 2018-05-03 2022-11-08 Pmcs Holdings, Inc. Systems and methods for physical proximity and/or gesture-based chaining of VR experiences
US10902684B2 (en) 2018-05-18 2021-01-26 Microsoft Technology Licensing, Llc Multiple users dynamically editing a scene in a three-dimensional immersive environment
US10567743B1 (en) * 2018-09-24 2020-02-18 Cae Inc. See-through based display method and system for simulators
US10567744B1 (en) * 2018-09-24 2020-02-18 Cae Inc. Camera-based display method and system for simulators
WO2020068935A1 (en) * 2018-09-27 2020-04-02 Futurewei Technologies, Inc. Virtual reality viewpoint viewport center point correspondence signaling
EP3860728A4 (en) * 2018-10-01 2022-06-08 Virtuix Holdings Inc. DATA MANAGEMENT AND PERFORMANCE TRACKING SYSTEM FOR WALK-IN OR INTERACTIVE VIRTUAL REALITY
US11870972B2 (en) 2018-10-02 2024-01-09 Within Unlimited, Inc. Methods, systems and devices supporting real-time shared virtual reality environment
KR102543228B1 (ko) * 2018-10-18 2023-06-13 삼성전자주식회사 포터블 장치 및 그 제어방법
JP7516371B2 (ja) * 2018-12-14 2024-07-16 バルブ コーポレーション ビデオゲームデバイス
KR20210096695A (ko) * 2018-12-27 2021-08-05 페이스북 테크놀로지스, 엘엘씨 개선된 상호작용 및 컬래버레이션을 위한 가상 공간, 혼합 현실 공간 및 결합된 혼합 현실 공간
WO2020181112A1 (en) 2019-03-07 2020-09-10 Alibaba Group Holding Limited Video generating method, apparatus, medium, and terminal
US10918945B2 (en) * 2019-03-15 2021-02-16 Sony Interactive Entertainment Inc. Methods and systems for spectating characters in follow-mode for virtual reality views
US11058950B2 (en) * 2019-03-15 2021-07-13 Sony Interactive Entertainment Inc. Methods and systems for spectating characters in virtual reality views
KR102317938B1 (ko) * 2019-03-19 2021-10-27 한국전자기술연구원 타일 기반 스트리밍을 위한 분할영상 분산 디코딩 방법 및 시스템
US10994201B2 (en) 2019-03-21 2021-05-04 Wormhole Labs, Inc. Methods of applying virtual world elements into augmented reality
US11207594B2 (en) * 2019-03-29 2021-12-28 Electronic Arts Inc. State stream game engine
TWI704495B (zh) * 2019-04-03 2020-09-11 宏碁股份有限公司 Chromebook電腦及其網頁虛擬實境的執行方法
EP3726343A1 (en) * 2019-04-15 2020-10-21 Nokia Technologies Oy Virtual reality
US10499044B1 (en) * 2019-05-13 2019-12-03 Athanos, Inc. Movable display for viewing and interacting with computer generated environments
CA3139465A1 (en) 2019-06-20 2020-12-24 Barrie A. Loberg Voice communication system within a mixed-reality environment
KR102271641B1 (ko) * 2019-11-15 2021-07-02 주식회사 더블유씨지 가상 현실 영상 연출 장치 및 방법
KR20210087378A (ko) * 2020-01-02 2021-07-12 주식회사 싸이큐어 능동형 vr 기기, vr 콘텐츠 제공 시스템, vr 콘텐츠 제공 방법, 및 기록 매체
EP4082638A4 (en) * 2020-01-28 2023-06-28 Nintendo Co., Ltd. Image processing system, image processing program, and image processing method
US11262588B2 (en) 2020-03-10 2022-03-01 Magic Leap, Inc. Spectator view of virtual and physical objects
US11314327B2 (en) * 2020-04-22 2022-04-26 Htc Corporation Head mounted display and control method thereof
US11625973B2 (en) * 2020-04-22 2023-04-11 Igt Multi-user gaze detection at electronic gaming devices
CN111726416B (zh) * 2020-06-30 2022-04-05 北京百度网讯科技有限公司 Vr教学管理方法、装置和系统
US11688168B1 (en) 2020-08-03 2023-06-27 Apple Inc. Method and device for visual augmentation of sporting events
US11935181B2 (en) * 2020-11-30 2024-03-19 Sony Interactive Entertainment LLC In-game dynamic camera angle adjustment
US11622100B2 (en) * 2021-02-17 2023-04-04 flexxCOACH VR 360-degree virtual-reality system for dynamic events
WO2022186619A1 (ko) * 2021-03-05 2022-09-09 주식회사 맘모식스 디지털 트윈 기반의 사용자 인터랙션 방법 및 장치
CN114007092B (zh) * 2021-10-28 2023-08-15 咪咕互动娱乐有限公司 一种信息交互方法、终端、服务器及可读存储介质
US12088781B2 (en) * 2021-12-30 2024-09-10 Snap Inc. Hyper-connected and synchronized AR glasses
US12020382B2 (en) * 2022-03-24 2024-06-25 Kyndryl, Inc. Physical and virtual environment synchronization
US11880499B2 (en) 2022-05-12 2024-01-23 Science Applications International Corporation Systems and methods for providing observation scenes corresponding to extended reality (XR) content
CN114638952B (zh) * 2022-05-20 2022-09-13 武汉同创蓝天科技有限公司 基于多端协同的vr全景界面操作方法及相关设备
US11890548B1 (en) * 2022-07-21 2024-02-06 Sony Interactive Entertainment LLC Crowd-sourced esports stream production

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3503982B2 (ja) 1994-03-18 2004-03-08 富士通株式会社 視点設定装置
JP3363861B2 (ja) 2000-01-13 2003-01-08 キヤノン株式会社 複合現実感提示装置及び複合現実感提示方法並びに記憶媒体
JP2008510566A (ja) * 2004-08-23 2008-04-10 ゲームキャスター インコーポレイテッド 仮想環境を視聴および操作する装置、方法、およびシステム
US7458894B2 (en) * 2004-09-15 2008-12-02 Microsoft Corporation Online gaming spectator system
US7632186B2 (en) * 2005-11-21 2009-12-15 Microsoft Corporation Spectator mode for a game
US8025572B2 (en) * 2005-11-21 2011-09-27 Microsoft Corporation Dynamic spectator mode
US8269822B2 (en) * 2007-04-03 2012-09-18 Sony Computer Entertainment America, LLC Display viewing system and methods for optimizing display view based on active tracking
WO2009079464A1 (en) * 2007-12-14 2009-06-25 The Directv Group, Inc. Start of game delay via spectator function for use in television production
US8576276B2 (en) * 2010-11-18 2013-11-05 Microsoft Corporation Head-mounted display device which provides surround video
JP2013178639A (ja) 2012-02-28 2013-09-09 Seiko Epson Corp 頭部装着型表示装置および画像表示システム
US9403090B2 (en) * 2012-04-26 2016-08-02 Riot Games, Inc. Video game system with spectator mode hud
US10905943B2 (en) 2013-06-07 2021-02-02 Sony Interactive Entertainment LLC Systems and methods for reducing hops associated with a head mounted system
CN104461718B (zh) * 2013-09-23 2017-12-12 腾讯科技(深圳)有限公司 游戏应用的画面播放方法和客户端
JP6558587B2 (ja) 2014-07-18 2019-08-14 ソニー株式会社 情報処理装置、表示装置、情報処理方法、プログラム、および情報処理システム
US10055018B2 (en) 2014-08-22 2018-08-21 Sony Interactive Entertainment Inc. Glove interface object with thumb-index controller
US9240069B1 (en) * 2015-06-30 2016-01-19 Ariadne's Thread (Usa), Inc. Low-latency virtual reality display system
US20170249785A1 (en) * 2016-02-29 2017-08-31 Vreal Inc Virtual reality session capture and replay systems and methods

Also Published As

Publication number Publication date
US20220050523A1 (en) 2022-02-17
WO2017161281A1 (en) 2017-09-21
CN109069932A (zh) 2018-12-21
US11163358B2 (en) 2021-11-02
US11662813B2 (en) 2023-05-30
EP4384291A1 (en) 2024-06-19
JP2019518261A (ja) 2019-06-27
CN109069932B (zh) 2022-10-11
US20170269685A1 (en) 2017-09-21

Similar Documents

Publication Publication Date Title
US11662813B2 (en) Spectating virtual (VR) environments associated with VR user interactivity
JP6663505B2 (ja) Vr環境における観客ビュー視点
US11389726B2 (en) Second screen virtual window into VR environment
US10857455B2 (en) Spectator management at view locations in virtual reality environments
JP7057756B2 (ja) 仮想現実(vr)環境におけるvrユーザの観客ビュー追跡
JP6770178B2 (ja) Hmdユーザを現実世界空間内で安全に案内するために、仮想現実シーンにおいて対話型コンテンツを提供する方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200318

R150 Certificate of patent or registration of utility model

Ref document number: 6679747

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250