[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7011721B2 - 画像生成装置、画像生成方法及びプログラム - Google Patents

画像生成装置、画像生成方法及びプログラム Download PDF

Info

Publication number
JP7011721B2
JP7011721B2 JP2020537102A JP2020537102A JP7011721B2 JP 7011721 B2 JP7011721 B2 JP 7011721B2 JP 2020537102 A JP2020537102 A JP 2020537102A JP 2020537102 A JP2020537102 A JP 2020537102A JP 7011721 B2 JP7011721 B2 JP 7011721B2
Authority
JP
Japan
Prior art keywords
image
game
dimensional
resizing
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020537102A
Other languages
English (en)
Other versions
JPWO2020036213A1 (ja
Inventor
幸代 青木
健一郎 横田
武 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JPWO2020036213A1 publication Critical patent/JPWO2020036213A1/ja
Application granted granted Critical
Publication of JP7011721B2 publication Critical patent/JP7011721B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234363Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the spatial resolution, e.g. for clients with a lower screen resolution
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/86Watching games played by other players
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/26Output arrangements for video game devices having at least one additional display device, e.g. on the game controller or outside a game booth
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/31Communication aspects specific to video games, e.g. between several handheld game devices at close range
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/53Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23406Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving management of server-side video buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781Games
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/632Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing using a connection between clients on a wide area network, e.g. setting up a peer-to-peer communication via Internet for retrieving video segments from the hard-disk of other client devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60Methods for processing data by generating or executing the game program
    • A63F2300/66Methods for processing data by generating or executing the game program for rendering three dimensional images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、画像生成装置、画像生成方法及びプログラムに関する。
近年、仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を表す画像を、インターネット等を介して配信することが盛んに行われるようになってきている。
上述の画像の生成においては、例えばレイキャスト処理などといった処理負荷の高い処理を所定のフレームレートで実行する必要があるため、その解像度は、ゲームのプログラムを実行するエンタテインメント装置の処理能力に応じたものに制限される。また例えばゲームのプレイヤが見るディスプレイが高解像度の画像を表示することができるものであれば、表示される画像の解像度をできるだけ高くすることが望ましい。
このように一般的には、上述の画像の解像度は、当該ゲームのプログラムを実行するエンタテインメント装置の処理能力や当該ゲームのプレイヤが見るディスプレイの事情を考慮したものとする必要がある。そのため当該画像の解像度が配信に適したものになるとは限らない。とはいえ、配信のための画像を別途生成するとなると、当該画像の生成のためのリソースがさらに必要となるため現実的ではない。
そのため、上述の画像の配信にあたっては、プレイヤのための画像をリサイズした上で配信することが望ましい。
ここで上述の画像の配信において、配信先の視聴者に提供すべき情報を表す文字、図形、記号などの二次元オブジェクトを重畳した上で画像が配信されるようにすると、より多くの視聴者を惹きつけることができるものと期待できる。
ところが二次元オブジェクトが重畳された画像をリサイズすると、当該画像に二次元オブジェクトが鮮明に表れないおそれがある。例えば、二次元オブジェクトが重畳された画像を縮小すると当該二次元オブジェクトがつぶれるおそれがある。また、二次元オブジェクトが重畳された画像を拡大すると当該二次元オブジェクトがぼやけるおそれがある。
本発明は上記実情に鑑みてなされたものであって、その目的の一つは、配信先の視聴者に提供すべき情報を表す二次元オブジェクトが鮮明に表された、ゲームのプレイ状況を表す画像を生成できる画像生成装置、画像生成方法及びプログラムを提供することにある。
上記課題を解決するために、本発明に係る画像生成装置は、仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得するゲーム画像取得部と、配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得する配信対象二次元画像取得部と、前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成するゲーム画像リサイズ部と、前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成する配信画像生成部と、を含む。
本発明の一態様では、前記ゲームのプレイ状況を表す三次元空間画像を取得する三次元空間画像取得部と、前記ディスプレイへの表示対象である二次元オブジェクトが表された、前記ディスプレイに表示される画像と同じ解像度である表示対象二次元画像を取得する表示対象二次元画像取得部と、前記表示対象二次元画像の解像度となるよう前記三次元空間画像をリサイズすることによりリサイズ三次元空間画像を生成する三次元空間画像リサイズ部と、前記リサイズ三次元空間画像と前記表示対象二次元画像とを重畳することにより、前記ゲーム画像を生成するゲーム画像生成部と、をさらに含む。
この態様では、前記三次元空間画像を記憶する第1のフレームバッファと、前記表示対象二次元画像を記憶する第2のフレームバッファと、前記配信対象二次元画像を記憶する第3のフレームバッファと、をさらに含んでもよい。
また、本発明の一態様では、前記ディスプレイへの表示対象である二次元オブジェクトが表された、前記ディスプレイに表示される画像と同じ解像度である表示対象二次元画像を取得する表示対象二次元画像取得部、をさらに含み、前記ゲーム画像リサイズ部は、前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることにより第1のリサイズゲーム画像を生成し、前記ゲーム画像リサイズ部は、前記表示対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることにより第2のリサイズゲーム画像を生成し、前記配信画像生成部は、前記第1のリサイズゲーム画像と、前記配信対象二次元画像と、を重畳させた画像を生成し、前記第2のリサイズゲーム画像と、前記表示対象二次元画像と、を重畳させた画像を生成する表示画像生成部、をさらに含む。
この態様では、前記ゲーム画像を記憶する第1のフレームバッファと、前記表示対象二次元画像を記憶する第2のフレームバッファと、前記配信対象二次元画像を記憶する第3のフレームバッファと、をさらに含んでもよい
また、本発明の一態様では、前記二次元オブジェクトは、文字、図形、又は、記号である。
また、本発明に係る画像生成方法は、仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得するステップと、配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得するステップと、前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成するステップと、前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成するステップと、を含む。
また、本発明に係るプログラムは、仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得する手順、配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得する手順、前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成する手順、前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成する手順、をコンピュータに実行させる。
本発明の一実施形態に係るコンピュータネットワークの一例を示す図である。 本発明の一実施形態に係るエンタテインメントシステムの構成の一例を示す図である。 本発明の一実施形態に係るヘッドマウントディスプレイの構成の一例を示す図である。 本発明の一実施形態に係るエンタテインメント装置の構成の一例を示す図である。 プレイヤ画像の一例を示す図である。 視聴者画像の一例を示す図である。 プレイヤ画像、及び、視聴者画像の生成の一例を説明する説明図である。 プレイヤ画像、及び、視聴者画像の生成の別の一例を説明する説明図である。 プレイヤ画像、視聴者画像、及び、HMD画像の生成の一例を説明する説明図である。 プレイヤ画像、視聴者画像、及び、HMD画像の生成の別の一例を説明する説明図である。 本発明の一実施形態に係るエンタテインメント装置の機能の一例を示す機能ブロック図である。 本発明の一実施形態に係るエンタテインメント装置で行われる処理の流れの一例を示すフロー図である。 本発明の一実施形態に係るエンタテインメント装置で行われる処理の流れの一例を示すフロー図である。 本発明の一実施形態に係るエンタテインメント装置で行われる処理の流れの一例を示すフロー図である。 本発明の一実施形態に係るエンタテインメント装置で行われる処理の流れの一例を示すフロー図である。
以下、本発明の一実施形態について、図面を参照しながら説明する。
図1は、本発明の一実施形態に係るコンピュータネットワーク11の一例を示す図である。図2は、本発明の一実施形態に係るエンタテインメントシステム10の構成の一例を示す図である。図3Aは、本実施形態に係るヘッドマウントディスプレイ(HMD)12の構成の一例を示す図である。図3Bは、本実施形態に係るエンタテインメント装置14の構成の一例を示す図である。
図1に示すように、本実施形態では、複数のエンタテインメントシステム10(図1の例では、エンタテインメントシステム10a、及び、エンタテインメントシステム10b)が、インターネット等のコンピュータネットワーク11に接続されている。そのため、エンタテインメントシステム10aとエンタテインメントシステム10bとはコンピュータネットワーク11を介して互いに通信可能となっている。
図2に示すように、本実施形態に係るエンタテインメントシステム10は、HMD12とエンタテインメント装置14と中継装置16とディスプレイ18とカメラマイクユニット20とコントローラ22とを含んでいる。
本実施形態に係るHMD12には、例えば図3Aに示すように、プロセッサ30、記憶部32、通信部34、入出力部36、表示部38、センサ部40、音声出力部42が含まれる。
プロセッサ30は、例えばHMD12にインストールされるプログラムに従って動作するマイクロプロセッサ等のプログラム制御デバイスである。
記憶部32は、例えばROMやRAM等の記憶素子などである。記憶部32には、プロセッサ30によって実行されるプログラムなどが記憶される。
通信部34は、例えば無線LANモジュールなどの通信インタフェースである。
入出力部36は、例えばHDMI(登録商標)(High-Definition Multimedia Interface)ポート、USBポート、AUXポートなどの入出力ポートである。
表示部38は、HMD12の前側に配置されている、例えば液晶ディスプレイや有機ELディスプレイ等のディスプレイであり、エンタテインメント装置14が生成する映像などを表示させる。また表示部38は、HMD12の筐体に収容される。表示部38は、例えばエンタテインメント装置14が出力して中継装置16で中継される映像信号を受信して、当該映像信号が表す映像を出力するようにしてもよい。本実施形態に係る表示部38は、例えば左目用の画像と右目用の画像を表示することによって三次元画像を表示させることができるようになっている。なお表示部38は三次元画像の表示ができず二次元画像の表示のみができるものであっても構わない。
センサ部40は、例えば加速度センサやモーションセンサなどといったセンサである。センサ部40は、HMD12の回転量、移動量などの計測結果を示すモーションデータを所定のフレームレートで、プロセッサ30に出力する。
音声出力部42は、例えばヘッドホンやスピーカ等であり、エンタテインメント装置14が生成する音声データが表す音声などを出力する。音声出力部42は、例えばエンタテインメント装置14が出力して中継装置16で中継される音声信号を受信して、当該音声信号が表す音声を出力する。
本実施形態に係るエンタテインメント装置14は、例えばゲームコンソール、DVDプレイヤ、Blu-ray(登録商標)プレイヤなどといったコンピュータである。本実施形態に係るエンタテインメント装置14は、例えば記憶されている、あるいは、光ディスクに記録された、ゲームプログラムの実行やコンテンツの再生などによって映像や音声を生成する。そして本実施形態に係るエンタテインメント装置14は、生成される映像を表す映像信号や生成される音声を表す音声信号を、中継装置16を経由して、HMD12やディスプレイ18に出力する。
本実施形態に係るエンタテインメント装置14には、例えば図3Bに示すように、プロセッサ50、記憶部52、通信部54、入出力部56が含まれる。
プロセッサ50は、例えばエンタテインメント装置14にインストールされるプログラムに従って動作するCPU等のプログラム制御デバイスである。本実施形態に係るプロセッサ50には、CPUから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するGPU(Graphics Processing Unit)も含まれている。
記憶部52は、例えばROMやRAM等の記憶素子やハードディスクドライブなどである。記憶部52には、プロセッサ50によって実行されるプログラムなどが記憶される。また、本実施形態に係る記憶部52には、GPUにより画像が描画されるフレームバッファの領域が確保されている。
通信部54は、例えば無線LANモジュールなどの通信インタフェースなどである。
入出力部56は、HDMI(登録商標)(High-Definition Multimedia Interface)ポート、USBポートなどの入出力ポートである。
本実施形態に係る中継装置16は、エンタテインメント装置14から出力される映像信号や音声信号を中継してHMD12やディスプレイ18に出力するコンピュータである。
本実施形態に係るディスプレイ18は、例えば液晶ディスプレイ等の表示部であり、エンタテインメント装置14から出力される映像信号が表す映像などを表示させる。
本実施形態に係るカメラマイクユニット20は、例えば被写体を撮像した画像をエンタテインメント装置14に出力するカメラ20a及び周囲の音声を取得して当該音声を音声データに変換してエンタテインメント装置14に出力するマイク20bを含んでいる。また本実施形態に係るカメラ20aはステレオカメラである。
HMD12と中継装置16とは、例えば、有線又は無線によるデータの送受信が互いに可能になっている。エンタテインメント装置14と中継装置16とは、例えば、HDMIケーブルやUSBケーブルなどを介して接続されており、データの送受信が互いに可能になっている。中継装置16とディスプレイ18とは、例えば、HDMIケーブルなどを介して接続されている。エンタテインメント装置14とカメラマイクユニット20とは、例えば、AUXケーブルなどを介して接続されている。
本実施形態に係るコントローラ22は、エンタテインメント装置14に対する操作入力を行うための操作入力装置である。ユーザは、コントローラ22が備える方向キーやボタンを押下したり、操作スティックを傾けたりすることで、コントローラ22を用いて各種の操作入力を行うことができる。そして本実施形態では、コントローラ22は、操作入力に対応付けられる入力データをエンタテインメント装置14に出力する。また本実施形態に係るコントローラ22は、USBポートを備えている。そしてコントローラ22は、USBケーブルでエンタテインメント装置14と接続することで、有線で入力データをエンタテインメント装置14に出力することができる。また本実施形態に係るコントローラ22は、無線通信モジュール等を備えており、無線で入力データをエンタテインメント装置14に出力することができるようにもなっている。
本実施形態では例えば、エンタテインメントシステム10aに含まれるエンタテインメント装置14aでゲームプログラムが実行されることにより、ゲームのプレイ状況を表す映像が生成される。そして当該映像が、当該ゲームのプレイヤが見るディスプレイ18aに表示される。そして当該映像は配信に適した解像度にリサイズされ、配信対象である文字、図形、記号などの二次元オブジェクトが重畳される。そして配信対象である二次元オブジェクトが重畳された映像が、エンタテインメント装置14aが備える通信部54a、及び、コンピュータネットワーク11を介して、エンタテインメントシステム10bに配信される。そして当該映像が、エンタテインメントシステム10bに含まれるディスプレイ18bに表示される。以下、ディスプレイ18aに表示される映像をプレイヤ映像と呼び、ディスプレイ18bに表示される映像を視聴者映像と呼ぶこととする。
図4は、プレイヤ映像に含まれるフレーム画像であるプレイヤ画像60の一例を示す図である。図5は、視聴者映像に含まれるフレーム画像である視聴者画像62の一例を示す図である。上述のように本実施形態では、図4に示すプレイヤ画像60と図5に示す視聴者画像62とは解像度が異なる。
図4に示すプレイヤ画像60には、ゲームキャラクタを表すキャラクタ情報64a、及び、キャラクタ情報64bが配置されている。また、プレイヤ画像60には、ゲームキャラクタの名前、ランク、ライフ等のステータスを表すステータス情報66a、及び、ステータス情報66bが配置されている。例えば、ステータス情報66aは、キャラクタ情報64aが表すゲームキャラクタのステータスを表す。また例えば、ステータス情報66bは、キャラクタ情報64bが表すゲームキャラクタのステータスを表す。
一方、図5に示す視聴者画像62には、キャラクタ情報64a、キャラクタ情報64b、ステータス情報66a、ステータス情報66bに加え、配信対象である二次元オブジェクトとして、コマンド履歴情報68a、及び、コマンド履歴情報68bが配置されている。例えば、コマンド履歴情報68aは、キャラクタ情報64aが表すゲームキャラクタを操作するプレイヤにより入力されたコマンドの履歴を表す。また例えば、コマンド履歴情報68bは、キャラクタ情報64bが表すゲームキャラクタを操作するプレイヤにより入力されたコマンドの履歴を表す。
このように本実施形態では、プレイヤ画像60に表れる内容と視聴者画像62に表れる内容とには共通するものと異なるものとがある。
以下、プレイヤ画像60及び視聴者画像62の生成についてさらに説明する。
図6は、本実施形態におけるプレイヤ画像60、及び、視聴者画像62の生成の一例を説明する説明図である。図6に示すように、本実施形態では例えば、エンタテインメント装置14aの記憶部52aに、4個のフレームバッファ70(70a、70b、70c、及び、70d)の領域が確保される。なお4個のフレームバッファ70のそれぞれには、例えばダブルバッファリングやトリプルバッファリングなどの技術が実装されていてもよい。
フレームバッファ70aには、例えば、ゲームのプログラムとは異なるオペレーティングシステム等のシステムプログラムを実行することにより生成される、システムに関連する情報が表されたフレーム画像が所定のフレームレートで描画される。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70aに描画されてもよい。
フレームバッファ70bには、例えば、ゲームのプレイ状況を表すフレーム画像が所定のフレームレートで描画される。ここで例えば、フレームバッファ70bに、仮想三次元空間内に配置されたゲームキャラクタを表す仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況を表すフレーム画像が所定のフレームレートで描画されてもよい。図4及び図5の例では、キャラクタ情報64aやキャラクタ情報64bが表されたフレーム画像が、フレームバッファ70bに描画される画像に相当する。
フレームバッファ70cには、例えば、ゲームにおけるユーザインタフェースの情報を表すフレーム画像が所定のフレームレートで描画される。ここで例えば、フレームバッファ70cに、ゲームにおける入力操作の説明やキャラクタのステータスの情報などといったユーザインタフェースの情報が表されたフレーム画像が所定のフレームレートで描画されてもよい。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70cに描画されてもよい。図4及び図5の例では、ステータス情報66aやステータス情報66bが表されたフレーム画像がフレームバッファ70cに描画される画像に相当する。
フレームバッファ70dには、例えば、ゲームのプレイ状況の視聴者に提供される情報を表す画像が描画される。当該情報はゲームのプレイヤには提供されない。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70dに描画されてもよい。図5の例では、コマンド履歴情報68aやコマンド履歴情報68bが表されたフレーム画像がフレームバッファ70dに描画される画像に相当する。
以上のように図6の例では、システムのプログラムを実行することにより生成される画像がフレームバッファ70aに描画される。そしてゲームのプログラムを実行することにより生成される画像がフレームバッファ70b、フレームバッファ70c、及び、フレームバッファ70dに描画される。
ここで本実施形態においてフレームバッファ70a~フレームバッファ70dに描画されるフレーム画像の解像度は同じであっても異なっていてもよい。以下の説明では例えば、フレームバッファ70a、及び、フレームバッファ70cに描画されるフレーム画像の解像度が同程度に最も高いこととする。また、フレームバッファ70dに描画されるフレーム画像の解像度がその次に高いこととする。また、フレームバッファ70bに描画されるフレーム画像の解像度が最も低いこととする。
例えば仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況を表すフレーム画像の生成のためには、レイキャスト処理などといった処理負荷の高い処理を所定のフレームレートで実行する必要がある。そのため、その解像度は、ゲームのプログラムを実行するエンタテインメント装置14の処理能力に応じたものに制限される。また上述のゲームのプレイ状況はグラフィックスにより表現されることが多いため、その表現が多少ぼけても気にならない可能性が高い。このことを踏まえ、以下の説明では、上述のようにフレームバッファ70bに描画されるフレーム画像の解像度が最も低いこととする。
またここでフレームバッファ70bに描画されるフレーム画像の解像度が、ゲームのプレイ状況に応じて変化するようにしてもよい。例えば、描画負荷の高い画像を生成する際には、解像度が低くなるようにしてもよい。
また、文字、図形、又は、記号である二次元オブジェクトが配置されたフレーム画像については、解像度が低いと、ぼけてしまうため、ユーザはその内容を読み取りにくい。このことを踏まえ、上述のようにフレームバッファ70cやフレームバッファ70dに描画されるフレーム画像の解像度はフレームバッファ70bに描画されるフレーム画像の解像度よりも高いこととする。
また以下の説明では、配信される映像の解像度はディスプレイ18aに表示される映像の解像度よりも低いことを前提とした。そのため、上述のようにフレームバッファ70dに描画されるフレーム画像の解像度はフレームバッファ70cに描画されるフレーム画像の解像度よりも低いこととする。
図6の例では例えば、フレームバッファ70bに記憶されている画像72とフレームバッファ70cに記憶されている画像74とが合成器76で合成されることで、画像78が生成される。ここでは例えば、合成器76において、画像74の解像度となるよう画像72がリサイズされる。ここでは画像72は拡大される。そして合成器76において、画像74とリサイズされた後の画像72とを重畳させた画像78が生成される。画像78には、画像72の内容と画像74の内容とが表されることとなる。
そして例えば、画像78とフレームバッファ70dに記憶されている画像80とが合成器82で合成されることで、画像84が生成される。ここでは例えば、合成器82において、画像80の解像度となるよう画像78がリサイズされる。ここでは画像78は縮小される。そして合成器82において、画像80とリサイズされた後の画像78とを重畳させた画像84が生成される。画像84には、画像78の内容と画像80の内容とが表されることとなる。
また例えば、画像78とフレームバッファ70aに記憶されている画像86とが合成器88で合成されることで、画像90が生成される。ここでは例えば合成器88において、画像78と画像86とを重畳させた画像90が生成される。画像90には、画像78の内容と画像86の内容とが表されることとなる。ここでは例えば、画像90は、フレームバッファ70cに描画される画像74と同じ解像度であることとする。
また例えば、画像84とフレームバッファ70aに記憶されている画像86とが合成器92で合成されることで、画像94が生成される。ここでは例えば、合成器92において、画像84の解像度となるよう画像86がリサイズされる。ここでは画像86は縮小される。そして合成器92において、画像84とリサイズされた後の画像86とを重畳させた画像94が生成される。画像94には、画像84の内容と画像86の内容とが表されることとなる。ここでは例えば、画像94は、フレームバッファ70dに描画される画像80と同じ解像度であることとする。
そして画像90がプレイヤ画像60としてディスプレイ18aに表示される。また、画像94が視聴者画像62として通信部54aを介してエンタテインメントシステム10bに送信され、送信先の視聴者が見るディスプレイ18bに表示される。
二次元オブジェクトが重畳された画像をリサイズすると、当該画像に二次元オブジェクトが鮮明に表れないおそれがある。例えば、二次元オブジェクトが重畳された画像を縮小すると当該二次元オブジェクトがつぶれるおそれがある。また、二次元オブジェクトが重畳された画像を拡大すると当該二次元オブジェクトがぼやけるおそれがある。図6の例では以上のようにして、フレームバッファ70dに描画された画像80の内容は拡大も縮小もされることなく画像94に配置される。このようにして図6の例によれば、配信先の視聴者に提供すべき情報を表す二次元オブジェクトが鮮明に表された、ゲームのプレイ状況を表す画像を生成できることとなる。
また例えば、コマンド履歴情報68aやコマンド履歴情報68bはゲームを今後プレイする予定である視聴者にとっては大いに参考になるものと思われる。そのため視聴者が見る映像にこのようなコマンドの履歴が表れていると視聴者にとって便利である。一方で、実際に当該コマンドを入力したプレイヤにとってはこのようなコマンドの履歴はそれほど意味がない。そのためプレイヤが見るプレイヤ映像にコマンドの履歴が表れているとプレイヤは当該履歴を邪魔に感じる可能性がある。
図6の例では以上のようにして、コマンド履歴情報68aやコマンド履歴情報68bが視聴者画像62には表れるがプレイヤ画像60には表れないよう制御できる。そのため図6の例によれば、視聴者にはコマンド履歴情報68aやコマンド履歴情報68bが提供されるようにしつつ、プレイヤはコマンド履歴情報68aやコマンド履歴情報68bに邪魔されることなくゲームをプレイできる。
図7は、本実施形態におけるプレイヤ画像60、及び、視聴者画像62の生成の別の一例を説明する説明図である。
図7の例においてフレームバッファ70a~フレームバッファ70dに描画されるフレーム画像は、図6の例においてフレームバッファ70a~フレームバッファ70dに描画されるフレーム画像と同様であるので説明を省略する。
図7の例では例えば、フレームバッファ70bに記憶されている画像96とフレームバッファ70cに記憶されている画像98とが合成器100で合成されることで、画像102が生成される。ここでは例えば、合成器100において、画像98の解像度となるよう画像96がリサイズされる。ここでは画像96は拡大される。そして合成器100において、画像98とリサイズされた後の画像96とを重畳させた画像102が生成される。画像102には、画像96の内容と画像98の内容とが表されることとなる。
また例えば、フレームバッファ70bに記憶されている画像96とフレームバッファ70dに記憶されている画像104とが合成器106で合成されることで、画像108が生成される。ここでは例えば、合成器106において、画像104の解像度となるよう画像96がリサイズされる。ここでは画像96は拡大される。そして合成器106において、画像104とリサイズされた後の画像96とを重畳させた画像108が生成される。画像108には、画像96の内容と画像104の内容とが表されることとなる。
そして例えば、画像102とフレームバッファ70aに記憶されている画像110とが合成器112で合成されることで、画像114が生成される。ここでは例えば合成器112において、画像102と画像110とを重畳させた画像114が生成される。画像114には、画像102の内容と画像110の内容とが表されることとなる。ここでは例えば、画像114は、フレームバッファ70cに描画される画像98と同じ解像度であることとする。
また、画像108とフレームバッファ70aに記憶されている画像110とが合成器116で合成されることで、画像118が生成される。ここでは例えば、合成器116において、画像108の解像度となるよう画像110がリサイズされる。ここでは画像110は縮小される。そして合成器116において、画像108とリサイズされた後の画像110とを重畳させた画像118が生成される。画像118には、画像108の内容と画像110の内容とが表されることとなる。ここでは例えば、画像118は、フレームバッファ70dに描画される画像104と同じ解像度であることとする。
そして画像114がプレイヤ画像60としてディスプレイ18aに表示される。また、画像118が視聴者画像62として通信部54aを介してエンタテインメントシステム10bに送信され、送信先の視聴者が見るディスプレイ18bに表示される。
図7の例では以上のようにして、フレームバッファ70dに描画された画像104の内容は拡大も縮小もされることなく画像118に配置される。このようにして図7の例によれば、配信先の視聴者に提供すべき情報を表す二次元オブジェクトが鮮明に表された、ゲームのプレイ状況を表す画像を生成できることとなる。
また図7の例では、フレームバッファ70bに記憶されているフレーム画像の内容はプレイヤ画像60に表れる一方で視聴者画像62には表れない。また、フレームバッファ70dに記憶されているフレーム画像の内容は視聴者画像62に表れる一方でプレイヤ画像60には表れない。
例えばプレイヤの名前などといったプレイヤのプライバシーに関わる情報が視聴者に閲覧されることは望ましくない。そのため視聴者が見る視聴者映像にはプレイヤのプライバシーに関わる情報が表れないようにすることが望ましい。
図7の例では以上のようにして、例えばプライバシーに関する情報がプレイヤ画像60には表れるが視聴者画像62には表れないよう制御できる。このようにして図7の例によれば、視聴者に見せるべきでない情報を視聴者が閲覧できないよう制御できることとなる。
また図7の例では、図6の例と同様、コマンド履歴情報68aやコマンド履歴情報68bが視聴者画像62には表れるがプレイヤ画像60には表れないようにも制御できる。そのため図7の例においても、視聴者にはコマンド履歴情報68aやコマンド履歴情報68bが提供されるようにしつつ、プレイヤはコマンド履歴情報68aやコマンド履歴情報68bに邪魔されることなくゲームをプレイできる。
図8は、本実施形態におけるプレイヤ画像60、視聴者画像62、及び、HMD画像の生成の一例を説明する説明図である。図8の例では、プレイヤ画像60、視聴者画像62、に加え、エンタテインメントシステム10aに含まれるHMD12aの表示部38aに表示される映像に含まれるフレーム画像であるHMD画像も生成される。
図8の例では、フレームバッファ70aには、ゲームのプレイ状況を表すフレーム画像が所定のフレームレートで描画される。ここで例えば、仮想三次元空間内に配置されたゲームキャラクタを表す仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況を表す三次元画像であるフレーム画像が所定のフレームレートで描画されてもよい。
フレームバッファ70bには、ゲームのプログラムとは異なるオペレーティングシステム等のシステムプログラムを実行することにより生成される、システムに関連する情報が表されたフレーム画像が所定のフレームレートで描画される。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70bに描画されてもよい。
フレームバッファ70cには、例えば、フレームバッファ70aに描画されるフレーム画像とは異なる、ゲームのプレイ状況を表すフレーム画像が所定のフレームレートで描画される。ここで例えば、上述の三次元画像に相当する、仮想三次元空間内に配置されたゲームキャラクタを表す仮想三次元オブジェクトを当該仮想三次元空間内の視点から見たゲームのプレイ状況を表す二次元画像がフレームバッファ70cに描画されてもよい。また例えば、フレームバッファ70aに描画されるフレーム画像とは異なる視点から仮想三次元空間を見た様子を表す画像がフレームバッファ70cに描画されてもよい。
フレームバッファ70dには、例えば、フレームバッファ70bに描画されるフレーム画像とは異なる、システムプログラムを実行することにより生成される、システムに関連する情報が表されたフレーム画像が所定のフレームレートで描画される。ここで例えば、フレームバッファ70bにはHMD12aを装着している人以外が閲覧すべきでない情報が表された画像が描画され、フレームバッファ70dにはHMD12aを装着している人以外が閲覧してもよい情報が表された画像が描画されるようにしてもよい。またフレームバッファ70dにはHMD12aを装着している人が閲覧すべきでない情報が表された画像が描画されるようにしてもよい。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70dに描画されてもよい。
以上のように図8の例では、システムのプログラムを実行することにより生成される画像がフレームバッファ70b、及び、フレームバッファ70dに描画される。そしてゲームのプログラムを実行することにより生成される画像がフレームバッファ70a、及び、フレームバッファ70cに描画される。
以下の説明では例えば、フレームバッファ70b、及び、フレームバッファ70dに描画されるフレーム画像の解像度が同程度に最も高いこととする。また、フレームバッファ70cに描画されるフレーム画像の解像度がその次に高いこととする。また、フレームバッファ70aに描画されるフレーム画像の解像度が最も低いこととする。
図8の例では例えば、フレームバッファ70aに記憶されている画像120とフレームバッファ70bに記憶されている画像122とが合成器124で合成されることで、画像126が生成される。ここでは例えば、合成器124において、画像122の解像度となるよう画像120がリサイズされる。ここでは画像120は拡大される。そして合成器124において、画像122とリサイズされた後の画像120とを重畳させた画像126が生成される。画像126には、画像120の内容と画像122の内容とが表されることとなる。
また例えば、フレームバッファ70cに記憶されている画像128とフレームバッファ70dに記憶されている画像130とが合成器132で合成されることで、画像134が生成される。ここでは例えば、合成器132において、画像130の解像度となるよう画像128がリサイズされる。ここでは画像128は拡大される。そして合成器132において、画像130とリサイズされた後の画像128とを重畳させた画像134が生成される。画像134には、画像128の内容と画像130の内容とが表されることとなる。
そして画像126がHMD画像としてHMD12aの表示部38aに表示される。また、画像134が、プレイヤ画像60としてディスプレイ18aに表示されるとともに、視聴者画像62として通信部54aを介してエンタテインメントシステム10bに送信され、送信先の視聴者が見るディスプレイ18bに表示される。なお画像134が配信に適したサイズにリサイズされた上でエンタテインメントシステム10bに送信されるようにしてもよい。
図9は、本実施形態におけるプレイヤ画像60、視聴者画像62、及び、HMD画像の生成の別の一例を説明する説明図である。
図9の例においてフレームバッファ70a~フレームバッファ70cに描画されるフレーム画像は、図8の例においてフレームバッファ70a~フレームバッファ70cに描画されるフレーム画像と同様であるので説明を省略する。
図9の例では、フレームバッファ70dには、例えば、フレームバッファ70bに描画されるフレーム画像とは異なる、システムプログラムを実行することにより生成される、システムに関連する情報が表されたフレーム画像が所定のフレームレートで描画される。ここで例えば、フレームバッファ70dには、ゲームのプレイ状況の視聴者に提供される情報を表す画像が描画されるようにしてもよい。またフレームバッファ70dには、ディスプレイ18aを見る人やHMD12aを装着している人が閲覧すべきでない情報が表された画像が描画されるようにしてもよい。ここで文字、図形、又は、記号である二次元オブジェクトを表すフレーム画像がフレームバッファ70dに描画されてもよい。
図9の例では例えば、フレームバッファ70aに記憶されている画像136とフレームバッファ70bに記憶されている画像138とが合成器140で合成されることで、画像142が生成される。ここでは例えば、合成器140において、画像138の解像度となるよう画像136がリサイズされる。ここでは画像136は拡大される。そして合成器140において、画像138とリサイズされた後の画像136とを重畳させた画像142が生成される。画像142には、画像136の内容と画像138の内容とが表されることとなる。
また例えば、フレームバッファ70cに記憶されている画像144とフレームバッファ70dに記憶されている画像146とが合成器148で合成されることで、画像150が生成される。ここでは例えば、合成器148において、画像146の解像度となるよう画像144がリサイズされる。ここでは画像144は拡大される。そして合成器148において、画像146とリサイズされた後の画像144とを重畳させた画像150が生成される。画像150には、画像144の内容と画像146の内容とが表されることとなる。ここでは例えば、画像150は、フレームバッファ70dに描画される画像146と同じ解像度であることとする。
そして画像142がHMD画像としてHMD12aの表示部38aに表示される。また、画像144がプレイヤ画像60としてディスプレイ18aに表示される。また、画像150が、視聴者画像62として通信部54aを介してエンタテインメントシステム10bに送信され、送信先の視聴者が閲覧するディスプレイ18bに表示される。
図9の例では例えば、配信先の視聴者に提供すべき情報を表す二次元オブジェクトが鮮明に表された、ゲームのプレイ状況を表す画像を生成できることとなる。
なお本実施形態において、視聴者画像62はエンコードされた上でエンタテインメントシステム10bに送信されてもよい。
以下、エンタテインメントシステム10bに配信される画像の生成を中心に、本実施形態に係るエンタテインメントシステム10aに含まれるエンタテインメント装置14aの機能及びエンタテインメント装置14aで実行される処理についてさらに説明する。
図10は、本実施形態に係るエンタテインメント装置14aで実装される機能の一例を示す機能ブロック図である。なお、本実施形態に係るエンタテインメント装置14aで、図10に示す機能のすべてが実装される必要はなく、また、図10に示す機能以外の機能が実装されていても構わない。
図10に示すように、エンタテインメント装置14aには、機能的には例えば、画像記憶部160、画像取得部162、リサイズ部164、画像生成部166、表示制御部168、送信部170が含まれる。画像記憶部160は、記憶部52を主として実装される。画像取得部162、リサイズ部164、画像生成部166は、プロセッサ50を主として実装される。表示制御部168は、プロセッサ50、入出力部56を主として実装される。送信部170は、プロセッサ50、通信部54を主として実装される。エンタテインメント装置14aは、本実施形態における、配信される画像を生成する画像生成装置の役割を担うこととなる。
以上の機能は、コンピュータであるエンタテインメント装置14にインストールされた、以上の機能に対応する指令を含むプログラムをプロセッサ50で実行することにより実装されてもよい。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどを介してエンタテインメント装置14に供給されてもよい。
画像記憶部160は、本実施形態では例えば、画像を記憶する。上述の例における、フレームバッファ70a~フレームバッファ70dにそれぞれ記憶される複数の画像が、画像記憶部160に記憶される画像に相当する。ここでは例えば、所定のフレームレートで画像記憶部160に含まれるフレームバッファ70a~フレームバッファ70dのそれぞれには新たなフレーム画像が記憶されることとする。
また画像記憶部160は、本実施形態では例えば、画像生成部166が生成する画像を記憶する。
画像取得部162は、本実施形態では例えば、画像記憶部160に記憶されている画像を取得する。ここで例えば、画像取得部162は、フレームバッファ70a~フレームバッファ70dに記憶されている画像や、画像生成部166が生成する画像を取得する。
ここで例えば画像取得部162が、仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイ18aに表示される内容が表されたゲーム画像を取得してもよい。例えば、図6の例における画像78、図7の例におけるフレームバッファ70bに記憶されている画像96、図9の例におけるフレームバッファ70cに記憶されている画像144が、当該ゲーム画像に相当する。
また例えば、画像取得部162が、配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得してもよい。例えば、図6の例におけるフレームバッファ70dに記憶されている画像80、図7の例におけるフレームバッファ70dに記憶されている画像104、図9の例におけるフレームバッファ70dに記憶されている画像146が、当該配信対象二次元画像に相当する。
また例えば、画像取得部162が、ゲームのプレイ状況を表す三次元空間画像を取得してもよい。例えば図6の例におけるフレームバッファ70bに記憶されている画像72が当該三次元空間画像に相当する。
また例えば、画像取得部162が、ディスプレイ18aへの表示対象である二次元オブジェクトが表された、ディスプレイ18aに表示される画像と同じ解像度である表示対象二次元画像を取得してもよい。例えば、図6の例におけるフレームバッファ70cに記憶されている画像74、図7の例におけるフレームバッファ70cに記憶されている画像98が、当該表示対象二次元画像に相当する。
リサイズ部164は、本実施形態では例えば、配信対象二次元画像の解像度となるようゲーム画像をリサイズすることによりリサイズゲーム画像を生成する。例えば、図6の例における合成器82、図7の例における合成器106、図9の例における合成器148の機能が、リサイズ部164の当該機能に相当する。
またリサイズ部164は、表示対象二次元画像の解像度となるよう三次元空間画像をリサイズすることによりリサイズ三次元空間画像を生成してもよい。例えば、図6の例における合成器76の機能がリサイズ部164の当該機能に相当する。
またリサイズ部164は、配信対象二次元画像の解像度となるようゲーム画像をリサイズすることにより第1のリサイズゲーム画像を生成してもよい。そしてリサイズ部164は、表示対象二次元画像の解像度となるようゲーム画像をリサイズすることにより第2のリサイズゲーム画像を生成してもよい。例えば、図7の例における合成器100、合成器106の機能がリサイズ部164の当該機能に相当する。この場合、合成器106で第1のリサイズゲーム画像が生成され、合成器100で第2のリサイズゲーム画像が生成される。
画像生成部166は、本実施形態では例えば、画像記憶部160に記憶されている複数の画像を合成することで合成画像を生成する。また、画像生成部166は、本実施形態では例えば、生成される合成画像を画像記憶部160に記憶させる。
ここで画像生成部166が、リサイズゲーム画像と配信対象二次元画像とを重畳させた画像を生成してもよい。例えば、図6の例における画像84、図7の例における画像108、図9の例における画像150が、当該重畳させた画像に相当する。
また画像生成部166が、リサイズ三次元空間画像と表示対象二次元画像とを重畳することにより、ゲーム画像を生成してもよい。例えば、図6の例における画像78が、このようにして生成されるゲーム画像に相当する。
また画像生成部166が、第1のリサイズゲーム画像と、配信対象二次元画像と、を重畳することにより、配信される内容が表された画像を生成してもよい。例えば、図7の例における画像108が当該画像に相当する。また画像生成部166は、第2のリサイズゲーム画像と、表示対象二次元画像と、を重畳させた画像を生成してもよい。例えば、図7の例における画像102が当該画像に相当する。
表示制御部168は、本実施形態では例えば、画像生成部166が生成する画像をディスプレイ18aに表示させる。
送信部170は、本実施形態では例えば、画像生成部166が生成する画像をエンタテインメントシステム10bに送信する。
ここで、本実施形態に係るエンタテインメント装置14aにおいて所定のフレームレートで繰り返し行われる処理の流れの一例を、図11に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図6を参照して説明した内容に相当する処理である。
まず、画像取得部162が、フレームバッファ70bに記憶されている、当該フレームにおけるフレーム画像である画像72、及び、フレームバッファ70cに記憶されている、当該フレームにおけるフレーム画像である画像74を取得する(S101)。
そして、リサイズ部164が、画像74の解像度となるよう画像72をリサイズする(S102)。
そして、画像生成部166が、画像74とリサイズされた後の画像72とを重畳させた画像78を生成して、画像78を画像記憶部160に記憶させる(S103)。
そして、画像取得部162が、画像記憶部160に記憶されている画像78、及び、フレームバッファ70dに記憶されている、当該フレームにおけるフレーム画像である画像80を取得する(S104)。
そして、リサイズ部164が、画像80の解像度となるよう画像78をリサイズする(S105)。
そして、画像生成部166が、画像80とリサイズされた後の画像78とを重畳させた画像84を生成して、画像84を画像記憶部160に記憶させる(S106)。
そして、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像86、及び、画像記憶部160に記憶されている画像78を取得する(S107)。
そして、画像生成部166が、画像78と画像86とを重畳させた画像90を生成して、画像90を画像記憶部160に記憶させる(S108)。
そして、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像86、及び、画像記憶部160に記憶されている画像84を取得する(S109)。
そして、リサイズ部164が、画像84の解像度となるよう画像86をリサイズする(S110)。
そして、画像生成部166が、画像84とリサイズされた後の画像86とを重畳させた画像94を生成して、画像94を画像記憶部160に記憶させる(S111)。
そして、表示制御部168が、画像記憶部160に記憶されている画像90がディスプレイ18aに表示されるよう制御する(S112)。
そして、送信部170が、画像記憶部160に記憶されている画像94をエンタテインメントシステム10bに送信する(S113)。ここでは例えば、送信部170は、画像94をエンコードした上でエンタテインメントシステム10bに送信してもよい。
そして、S101に示す処理に戻る。このようにして本処理例では、S101~S113に示す処理が所定のフレームレートで繰り返し実行される。
次に、本実施形態に係るエンタテインメント装置14において所定のフレームレートで繰り返し行われる処理の流れの別の一例を、図12に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図7を参照して説明した内容に相当する処理である。
まず、画像取得部162が、フレームバッファ70bに記憶されている、当該フレームにおけるフレーム画像である画像96、及び、フレームバッファ70cに記憶されている、当該フレームにおけるフレーム画像である画像98を取得する(S201)。
そして、リサイズ部164が、画像98の解像度となるよう画像96をリサイズする(S202)。
そして、画像生成部166が、画像98とリサイズされた後の画像96とを重畳させた画像102を生成して、画像102を画像記憶部160に記憶させる(S203)。
そして、画像取得部162が、フレームバッファ70bに記憶されている、当該フレームにおけるフレーム画像である画像96、及び、フレームバッファ70dに記憶されている、当該フレームにおけるフレーム画像である画像104を取得する(S204)。
そして、リサイズ部164が、画像104の解像度となるよう画像96をリサイズする(S205)。
そして、画像生成部166が、画像104とリサイズされた後の画像96とを重畳させた画像108を生成して、画像108を画像記憶部160に記憶させる(S206)。
そして、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像110、及び、画像記憶部160に記憶されている画像102を取得する(S207)。
そして、画像生成部166が、画像102と画像110とを重畳させた画像114を生成して、画像114を画像記憶部160に記憶させる(S208)。
そして、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像110、及び、画像記憶部160に記憶されている画像108を取得する(S209)。
そして、リサイズ部164が、画像108の解像度となるよう画像110をリサイズする(S210)。
そして、画像生成部166が、画像108とリサイズされた後の画像110とを重畳させた画像118を生成して、画像118を画像記憶部160に記憶させる(S211)。
そして、表示制御部168が、画像記憶部160に記憶されている画像114がディスプレイ18aに表示されるよう制御する(S212)。
そして、送信部170が、画像記憶部160に記憶されている画像118をエンタテインメントシステム10bに送信する(S213)。ここでは例えば、送信部170は、画像118をエンコードした上でエンタテインメントシステム10bに送信してもよい。
そして、S201に示す処理に戻る。このようにして本処理例では、S201~S213に示す処理が所定のフレームレートで繰り返し実行される。
次に、本実施形態に係るエンタテインメント装置14において所定のフレームレートで繰り返し行われる処理の流れのさらに別の一例を、図13に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図8を参照して説明した内容に相当する処理である。
まず、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像120、及び、フレームバッファ70bに記憶されている、当該フレームにおけるフレーム画像である画像122を取得する(S301)。
そして、リサイズ部164が、画像122の解像度となるよう画像120をリサイズする(S302)。
そして、画像生成部166が、画像122とリサイズされた後の画像120とを重畳させた画像126を生成して、画像126を画像記憶部160に記憶させる(S303)。
そして、画像取得部162が、フレームバッファ70cに記憶されている、当該フレームにおけるフレーム画像である画像128、及び、フレームバッファ70dに記憶されている、当該フレームにおけるフレーム画像である画像130を取得する(S304)。
そして、リサイズ部164が、画像130の解像度となるよう画像128をリサイズする(S305)。
そして、画像生成部166が、画像130とリサイズされた後の画像128とを重畳させた画像134を生成して、画像134を画像記憶部160に記憶させる(S306)。
そして、表示制御部168が、画像記憶部160に記憶されている画像126がHMD12aの表示部38aに表示されるよう制御する(S307)。
そして、表示制御部168が、画像記憶部160に記憶されている画像134がディスプレイ18aに表示されるよう制御する(S308)。
そして、送信部170が、画像記憶部160に記憶されている画像134をエンタテインメントシステム10bに送信する(S309)。ここでは例えば、送信部170は、画像134をエンコードした上でエンタテインメントシステム10bに送信してもよい。
そして、S301に示す処理に戻る。このようにして本処理例では、S301~S309に示す処理が所定のフレームレートで繰り返し実行される。
次に、本実施形態に係るエンタテインメント装置14において所定のフレームレートで繰り返し行われる処理の流れのさらに別の一例を、図14に例示するフロー図を参照しながら説明する。本処理例に示す処理は、図9を参照して説明した内容に相当する処理である。
まず、画像取得部162が、フレームバッファ70aに記憶されている、当該フレームにおけるフレーム画像である画像136、及び、フレームバッファ70bに記憶されている、当該フレームにおけるフレーム画像である画像138を取得する(S401)。
そして、リサイズ部164が、画像138の解像度となるよう画像136をリサイズする(S402)。
そして、画像生成部166が、画像138とリサイズされた後の画像136とを重畳させた画像142を生成して、画像142を画像記憶部160に記憶させる(S403)。
そして、画像取得部162が、フレームバッファ70cに記憶されている、当該フレームにおけるフレーム画像である画像144、及び、フレームバッファ70dに記憶されている、当該フレームにおけるフレーム画像である画像146を取得する(S404)。
そして、リサイズ部164が、画像146の解像度となるよう画像144をリサイズする(S405)。
そして、画像生成部166が、画像146とリサイズされた後の画像144とを重畳させた画像150を生成して、画像150を画像記憶部160に記憶させる(S406)。
そして、表示制御部168が、画像記憶部160に記憶されている画像142がHMD12aの表示部38aに表示されるよう制御する(S407)。
そして、表示制御部168が、フレームバッファ70cに記憶されている、当該フレームにおけるフレーム画像である画像144がディスプレイ18aに表示されるよう制御する(S408)。
そして、送信部170が、画像記憶部160に記憶されている画像150をエンタテインメントシステム10bに送信する(S409)。ここでは例えば、送信部170は、画像150をエンコードした上でエンタテインメントシステム10bに送信してもよい。
そして、S401に示す処理に戻る。このようにして本処理例では、S401~S409に示す処理が所定のフレームレートで繰り返し実行される。
なお、本発明は上述の実施形態に限定されるものではない。
また、上記の具体的な文字列や数値及び図面中の具体的な文字列や数値は例示であり、これらの文字列や数値には限定されない。

Claims (8)

  1. 仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得するゲーム画像取得部と、
    配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得する配信対象二次元画像取得部と、
    前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成するゲーム画像リサイズ部と、
    前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成する配信画像生成部と、
    を含むことを特徴とする画像生成装置。
  2. 前記ゲームのプレイ状況を表す三次元空間画像を取得する三次元空間画像取得部と、
    前記ディスプレイへの表示対象である二次元オブジェクトが表された、前記ディスプレイに表示される画像と同じ解像度である表示対象二次元画像を取得する表示対象二次元画像取得部と、
    前記表示対象二次元画像の解像度となるよう前記三次元空間画像をリサイズすることによりリサイズ三次元空間画像を生成する三次元空間画像リサイズ部と、
    前記リサイズ三次元空間画像と前記表示対象二次元画像とを重畳することにより、前記ゲーム画像を生成するゲーム画像生成部と、をさらに含む、
    ことを特徴とする請求項1に記載の画像生成装置。
  3. 前記三次元空間画像を記憶する第1のフレームバッファと、
    前記表示対象二次元画像を記憶する第2のフレームバッファと、
    前記配信対象二次元画像を記憶する第3のフレームバッファと、をさらに含む、
    ことを特徴とする請求項2に記載の画像生成装置。
  4. 前記ディスプレイへの表示対象である二次元オブジェクトが表された、前記ディスプレイに表示される画像と同じ解像度である表示対象二次元画像を取得する表示対象二次元画像取得部、をさらに含み、
    前記ゲーム画像リサイズ部は、前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることにより第1のリサイズゲーム画像を生成し、
    前記ゲーム画像リサイズ部は、前記表示対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることにより第2のリサイズゲーム画像を生成し、
    前記配信画像生成部は、前記第1のリサイズゲーム画像と、前記配信対象二次元画像と、を重畳させた画像を生成し、
    前記第2のリサイズゲーム画像と、前記表示対象二次元画像と、を重畳させた画像を生成する表示画像生成部、をさらに含む、
    ことを特徴とする請求項1に記載の画像生成装置。
  5. 前記ゲーム画像を記憶する第1のフレームバッファと、
    前記表示対象二次元画像を記憶する第2のフレームバッファと、
    前記配信対象二次元画像を記憶する第3のフレームバッファと、をさらに含む、
    ことを特徴とする請求項4に記載の画像生成装置。
  6. 前記二次元オブジェクトは、文字、図形、又は、記号である、
    ことを特徴とする請求項1から5のいずれか一項に記載の画像生成装置。
  7. 仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得するステップと、
    配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得するステップと、
    前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成するステップと、
    前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成するステップと、
    を含むことを特徴とする画像生成方法。
  8. 仮想三次元空間内に配置された仮想三次元オブジェクトを当該仮想三次元空間に配置された視点から見たゲームのプレイ状況を少なくとも表す、ディスプレイに表示される内容が表されたゲーム画像を取得する手順、
    配信対象である二次元オブジェクトが表された、配信される画像と同じ解像度である配信対象二次元画像を取得する手順、
    前記配信対象二次元画像の解像度となるよう前記ゲーム画像をリサイズすることによりリサイズゲーム画像を生成する手順、
    前記リサイズゲーム画像と前記配信対象二次元画像とを重畳させた画像を生成する手順、
    をコンピュータに実行させることを特徴とするプログラム。
JP2020537102A 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム Active JP7011721B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018153492 2018-08-17
JP2018153492 2018-08-17
PCT/JP2019/032037 WO2020036213A1 (ja) 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2020036213A1 JPWO2020036213A1 (ja) 2021-05-13
JP7011721B2 true JP7011721B2 (ja) 2022-01-27

Family

ID=69525489

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020537102A Active JP7011721B2 (ja) 2018-08-17 2019-08-15 画像生成装置、画像生成方法及びプログラム

Country Status (4)

Country Link
US (1) US11962820B2 (ja)
JP (1) JP7011721B2 (ja)
CN (1) CN112567756B (ja)
WO (1) WO2020036213A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7410413B2 (ja) * 2021-04-02 2024-01-10 株式会社カプコン 情報処理システム、情報処理端末およびプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014068806A1 (ja) 2012-11-05 2014-05-08 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
JP5745111B1 (ja) 2014-01-20 2015-07-08 株式会社 ディー・エヌ・エー 表示画像を生成するためのシステム、プログラム及び方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004045734A1 (ja) 2002-11-20 2004-06-03 Sega Corporation ゲーム画像の表示制御プログラム及びゲーム装置並びに記憶媒体
JP2009011568A (ja) * 2007-07-04 2009-01-22 Nintendo Co Ltd ゲームプログラム、およびゲーム装置
US8506402B2 (en) * 2009-06-01 2013-08-13 Sony Computer Entertainment America Llc Game execution environments
JP4951697B2 (ja) 2010-07-15 2012-06-13 株式会社コナミデジタルエンタテインメント ゲームシステム、その制御方法及び、コンピュータプログラム
JP5688052B2 (ja) * 2012-07-13 2015-03-25 株式会社コナミデジタルエンタテインメント ゲーム管理装置、ゲームシステム及びプログラム
CN103678569B (zh) 2013-12-09 2017-02-15 北京航空航天大学 一种面向虚拟场景生成的视频图像素材库的构造方法
US9912984B2 (en) * 2014-12-05 2018-03-06 Hisense Usa Corp. Devices and methods for obtaining media stream with adaptive resolutions
US11159854B2 (en) * 2014-12-13 2021-10-26 Fox Sports Productions, Llc Systems and methods for tracking and tagging objects within a broadcast
US20170280199A1 (en) * 2014-12-13 2017-09-28 Fox Sports Productions, Inc. Systems and methods for tracking and tagging objects within a broadcast
KR101604250B1 (ko) * 2014-12-18 2016-03-25 민코넷주식회사 게임 동영상 추천 서비스 제공 방법
JP5923188B2 (ja) 2015-01-23 2016-05-24 株式会社コナミデジタルエンタテインメント ゲーム管理装置、ゲームシステム及びプログラム
CN108601977B (zh) * 2015-11-27 2021-06-11 株式会社阿尔斯比特 游戏用对象控制系统和程序
US20170246544A1 (en) * 2016-02-26 2017-08-31 Microsoft Technology Licensing, Llc Video game streaming for spectating
JP2017157903A (ja) * 2016-02-29 2017-09-07 富士ゼロックス株式会社 情報処理装置
US10537799B1 (en) * 2018-03-23 2020-01-21 Electronic Arts Inc. User interface rendering and post processing during video game streaming
CN113384879B (zh) * 2021-05-14 2024-06-04 完美世界征奇(上海)多媒体科技有限公司 游戏数据展示方法以及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014068806A1 (ja) 2012-11-05 2014-05-08 株式会社ソニー・コンピュータエンタテインメント 情報処理装置
JP5745111B1 (ja) 2014-01-20 2015-07-08 株式会社 ディー・エヌ・エー 表示画像を生成するためのシステム、プログラム及び方法

Also Published As

Publication number Publication date
CN112567756B (zh) 2023-03-24
WO2020036213A1 (ja) 2020-02-20
US20210235139A1 (en) 2021-07-29
CN112567756A (zh) 2021-03-26
US11962820B2 (en) 2024-04-16
JPWO2020036213A1 (ja) 2021-05-13

Similar Documents

Publication Publication Date Title
JP7382954B2 (ja) Vr酔い低減システム、ヘッドマウントディスプレイ、vr酔い低減方法及びプログラム
US9509907B2 (en) Information processing device, storage medium having moving image data stored thereon, information processing system, storage medium having moving image reproduction program stored thereon, and moving image reproduction method
JP3625184B2 (ja) ゲーム用3次元画像処理方法、装置、ゲーム用3次元画像処理プログラムを記録した可読記録媒体及びビデオゲーム装置
US11086587B2 (en) Sound outputting apparatus and method for head-mounted display to enhance realistic feeling of augmented or mixed reality space
US11442682B2 (en) Entertainment apparatus, display controlling method, and display controlling program
WO2017191700A1 (ja) 画像生成装置、画像生成方法及びプログラム
JP6022709B1 (ja) プログラム、記録媒体、コンテンツ提供装置及び制御方法
JP6757420B2 (ja) 音声制御装置、音声制御方法及びプログラム
JP7011721B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP6934052B2 (ja) 表示制御装置、表示制御方法及びプログラム
JP6530453B2 (ja) ゲームプログラム及びゲームシステム
KR20210067166A (ko) 가상콘텐츠 체험 시스템 및 그 제어방법
JP6442619B2 (ja) 情報処理装置
WO2021020240A1 (ja) 画像送信装置、画像送信方法及びプログラム
WO2022220307A1 (ja) 映像表示システム、観測装置、情報処理方法、及び、プログラム
JP2017097854A (ja) プログラム、記録媒体、コンテンツ提供装置及び制御方法
JP6446072B2 (ja) ゲームプログラム及びゲームシステム
WO2023188022A1 (ja) 画像生成装置、画像生成方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220114

R150 Certificate of patent or registration of utility model

Ref document number: 7011721

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150