[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP2020017242A - 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム - Google Patents

3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム Download PDF

Info

Publication number
JP2020017242A
JP2020017242A JP2018150863A JP2018150863A JP2020017242A JP 2020017242 A JP2020017242 A JP 2020017242A JP 2018150863 A JP2018150863 A JP 2018150863A JP 2018150863 A JP2018150863 A JP 2018150863A JP 2020017242 A JP2020017242 A JP 2020017242A
Authority
JP
Japan
Prior art keywords
data
content
viewing
dimensional
content distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018150863A
Other languages
English (en)
Other versions
JP6707111B2 (ja
Inventor
量生 川上
Kazuo Kawakami
量生 川上
進之介 岩城
Shinnosuke Iwaki
進之介 岩城
尚 小嶋
Takashi Kojima
尚 小嶋
寛明 齊藤
Hiroaki Saito
寛明 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Virtual Cast Inc
Original Assignee
Virtual Cast Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Virtual Cast Inc filed Critical Virtual Cast Inc
Priority to JP2018150863A priority Critical patent/JP6707111B2/ja
Priority to PCT/JP2019/029107 priority patent/WO2020022405A1/ja
Priority to US17/059,677 priority patent/US12041218B2/en
Priority to CN201980039636.8A priority patent/CN112400188A/zh
Publication of JP2020017242A publication Critical patent/JP2020017242A/ja
Application granted granted Critical
Publication of JP6707111B2 publication Critical patent/JP6707111B2/ja
Priority to US18/738,264 priority patent/US20240333902A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しむことができる3次元コンテンツ配信システム、3次元コンテンツ配信方法、及びコンピュータプログラムを提供する。【解決手段】コンテンツ配信受信システム1は、コンテンツ配信サーバ2、第1の配信者端末11、第1の視聴者端末12、第2の配信者端末21、第2の視聴者端末22を含んで構成され、これら各構成はインターネット通信網3あるいはその他の通信網によって相互にデータ交換が可能に接続されている。コンテンツ配信サーバ2は、汎用のコンピュータが、本システム1専用のコンピュータプログラムで動作するように構成されたサーバである。【選択図】図1

Description

本開示は、3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムに関する。
近年、ネットワークを介してライブコンテンツを配信するサービスがインターネット生放送として普及している。このようなインターネット生放送において、配信者が仮想空間内で仮想キャラクタ(アバター)として登場し、その映像をライブコンテンツとして配信する技術が提案されている。このようなライブコンテンツでは、モーションキャプチャ技術によって、配信者の動作が仮想キャラクタの動作として合成された映像が配信される。
ネットワークを介してライブコンテンツを配信する構成とは異なり、視聴者が自分専用の再生画像を生成しようとする構成として例えば特許文献1は、放送局から視聴用端末へ、放送素材データとして背景、人物、仮想的なオブジェクトなどがそれぞれ別な専用チャネルで送信され、視聴者はそれらから自分の所望の素材を選んで、あくまでも自分専用の3次元映像を作る構成が開示されており、作られた3次元映像は他の視聴者と共有はされないものである。
また、同じく、視聴者が自分専用の再生画像を生成しようとする構成である特許文献2は、サッカーの試合などバーチャルな3次元コンテンツデータがあらかじめ用意され、そこには複数の選手、審判、ボールなど動くオブジェクトデータ、ゴールや地面など背景データが含まれていて、視聴者が自分の見たい視点(例えば特定の選手、あるいはフィールド外のカメラ)を選択すると、サーバはその視点から見た画像をレンダリングし、視聴者の端末へ送信する構成であり、特許文献1と同様にあくまでも自分専用の3次元映像を作る構成が開示されており、得られたレンダリング画像は他の視聴者と共有はされないものである。
また特許文献3は、3D(3次元)仮想空間ではない、平面動画像コンテンツに関して、サーバにライブ演奏などの2次元動画コンテンツがあらかじめ用意されており、視聴者はサーバからこのデータを受信して再生しながら自分のアバター(観客の2次元画像)をこの再生映像に加えられ、再生後あるいは途中に、この視聴者が追加したアバターのデータはサーバへ送られて先の2次元動画コンテンツに追加更新され他の視聴者は再生時にこのアバターを見ることができる構成を開示している。この結果、各視聴者が再生の度に各視聴者のアバターがコンテンツに追加されて、コンテンツの画像がにぎやかな内容になる、としている。
特開2001−28765号公報 特開2008−117042号公報 特許第5231093号公報
インターネット生放送などでライブコンテンツを楽しむ視聴者が近年増加をしており、新たなニーズとして、生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、という点がある。
このような、「あたかもライブで視聴しているような臨場感、没入感を得たい」という欲求は、「生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい」という他の欲求と一見して相いれないように思えるし、先に示した特許文献1および特許文献2は、いずれも自分だけが視聴する映像を生成するに過ぎないのであるから、これらの欲求に応えてはいない。
さらに特許文献3は、自分の分身である2次元画像のアバターが2次元画像のライブコンテンツの観客として画像に加えられ、この自分のアバターの画像、あるいは他の視聴者が加えたアバターの画像は全視聴者が視認をできるのであるが、ただ単に2次元画像であるコンテンツに自分の2次元アバター画像が重ね合わせられるだけであるので、自分が仮想的にライブコンテンツに参加できるのではないので、十分な連帯感、高揚感、没入感を得ることは難しい点は何ら解決されていない。
さらに、従来技術にかかる他の課題として、通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という点が挙げられる。
先に示した特許文献1および特許文献2は、多数の視聴者とシェアをしながら楽しむためのライブコンテンツを提供する構成ではないし、同じく特許文献3は、2次元の平面動画像からなるコンテンツであるため、一般的な動画像の放送配信のために要する通信路や端末の負担が生じることとなる。
本発明は上記の状況に鑑みてなされたものであって、生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、あるいは通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という各課題を解決するための、3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムを提供することを発明の目的とする。
上記の課題を解決するために、本発明は、下記の1)〜11)に記載の3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムを提供する。
1)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
視聴用端末が視聴を行うための要求に応じて、第1のデータおよび第2のデータを少なくとも用いて、視聴のための画像データを生成する生成部と、を備えたことを特徴とする3次元コンテンツ配信システム。
2)
記録部がさらに、(C)3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、生成部が当該第3のデータをも用いて生成を行うよう構成されたことを特徴とする、1)に記載の3次元コンテンツ配信システム。
3)
記録部が記録する第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、1)または2)に記載の3次元コンテンツ配信システム。
4)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付部を備えたことを特徴とする1)乃至3)のいずれか1項に記載の3次元コンテンツ配信システム。
5)
変更受付部はさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、4)に記載の3次元コンテンツ配信システム。
6)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録ステップと、
視聴用端末が視聴を行うための要求に応じて、第1のデータおよび第2のデータを少なくとも用いて、視聴のための画像データを生成する生成ステップと、を備えたことを特徴とする3次元コンテンツ配信方法。
7)
記録ステップがさらに、(C)3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、生成ステップでは当該第3のデータをも用いて生成が行われるよう構成されたことを特徴とする、6)に記載の3次元コンテンツ配信方法。
8)
記録ステップで記録される第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、6)または7)に記載の3次元コンテンツ配信方法。
9)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付ステップを備えたことを特徴とする、6)乃至8)の内のいずれか1項に記載の3次元コンテンツ配信方法。
10)
変更受付ステップはさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、9)に記載の3次元コンテンツ配信方法。
11)
6)乃至10)のいずれか1項に記載の3次元コンテンツ配信方法が備える各ステップをコンピュータに実行させるコンピュータプログラム。
本発明にかかるコンテンツ配信受信システムの構成を模式的に示した図である。 図1のコンテンツ配信受信システムが有するコンテンツ配信サーバのブロック図である。 図1のコンテンツ配信受信システムが有する第1の配信者端末のブロック図である。 図1のコンテンツ配信受信システムが有する第1の視聴者端末のブロック図である。 図4の第1の視聴者端末の外観模式図である。 本発明のコンテンツ配信受信システムが実行する、生放送中のコンテンツ視聴についてのシグナルフロー図である。 本発明のコンテンツ配信受信システムが用いるアバターに関するデータを説明する模式図である。 本発明のコンテンツ配信受信システムにおける、生放送中の仮想空間の模式図である。 図8図示仮想空間における、各視点から見たレンダリングの模式図である。 本発明のコンテンツ配信受信システムにおける、生放送後のコンテンツ再生に関するシグナルフロー図である。 本発明のコンテンツ配信受信システムが実行する、生放送後の再生コンテンツへの仮想アイテムの追加についてのシグナルフロー図である。 本発明のコンテンツ配信受信システムにおける、バーチャルオブジェクトが追加された仮想空間の模式図である。 図12図示仮想空間における、各視点から見たレンダリングの模式図である。 本発明のコンテンツ配信受信システムが実行する、生放送後の再生コンテンツにアバターを追加して、他の配信者が配信する動作についてのシグナルフロー図である。 本発明のコンテンツ配信受信システムにおける、生放送後の再生コンテンツにアバターを追加して、他の配信者が配信した仮想空間の模式図である。 図15図示仮想空間における、各視点から見たレンダリングの模式図である。 本発明のコンテンツ配信受信システムにおける、仮想空間にバーチャルオブジェクトを追加する例を示す模式図である。 本発明のコンテンツ配信受信システムにおける、仮想空間にバーチャルオブジェクトを追加する例を示す模式図である。
以下、本開示に係る実施形態について説明する。なお、以下に説明する本実施形態は、それぞれ例示に過ぎず、本発明の趣旨を脱しない範囲で種々の変形が可能であり、これらもまた本発明が包含する。
〔コンテンツ配信受信システム1の構成〕
図1は、本発明にかかるコンテンツ配信受信システム1の構成を模式的に示した図である。
コンテンツ配信受信システム1は、コンテンツ配信サーバ2、第1の配信者端末11、第1の視聴者端末12、第2の配信者端末21、第2の視聴者端末22を含んで構成され、これら各構成はインターネット通信網3あるいはその他の通信網によって相互にデータ交換が可能に接続されている。コンテンツ配信サーバ2は、汎用のコンピュータが、本システム1専用のコンピュータプログラムで動作するように構成されたサーバである。
第1の配信者端末11は、後に説明を行う仮想空間30を用いたライブコンテンツの配信であるインターネット生放送に用いられ、このライブコンテンツを主催する配信者が用いる、例えばパーソナルコンピュータである。第1の視聴者端末12は、上記のライブコンテンツを生放送が終わった後に、再生コンテンツとして視聴する視聴者が用いる、例えばパーソナルコンピュータであり、あるいはスマートフォン、PDA(パーソナルデジタルアシスタント)など様々な情報端末を用いて実現してもよい。
第2の配信者端末21は、後に説明を行うように、一度、生放送配信がなされたライブコンテンツを、再生の形で再度インターネット生放送に供するライブコンテンツの配信に用いられ、このライブコンテンツを主催する配信者が使用するパーソナルコンピュータである。第2の視聴者端末22は、上記のライブコンテンツを再生コンテンツあるいはインターネット生放送の形で視聴する視聴者が用いる、例えばパーソナルコンピュータであり、あるいはスマートフォン、PDA(パーソナルデジタルアシスタント)など様々な情報端末を用いて実現してもよい点も同様である。
なお、図1図示構成および上記の説明は説明を簡潔明瞭にするため構成する端末等の数を説明で言及する範囲に制限したが、実施に当たってはもちろん、より多数の配信者端末、より多数の視聴者端末を含んで構成することが可能である。
〔コンテンツ配信サーバ2の構成〕
図2に図示するように、コンテンツ配信サーバ2は、サーバ内外のデータ送信端である入出力インターフェース2a、各サーバ2構成の動作の制御統制を行うCPU(セントラルプロセッシングユニット)を備える制御部2bを有している。
同じくサーバ2が有するコンテンツ情報記憶部2cは、最初にインターネット生放送がなされたコンテンツ(番組)の情報を、仮想空間の背景やバーチャルオブジェクト、仮想的カメラ(視点の位置と方向の情報を有し、仮想空間内を移動可能である)およびこの仮想空間を動きまわることができるアバター(仮想的な代理)について、その外観を含めた仕様や動き(モーション)などの情報である、バーチャルオブジェクトの仕様の情報、およびバーチャルオブジェクトのモーション情報を、コンテンツの開始から終了までの期間を対象として保持する。本システム1が有する特徴的な点として、コンテンツのデータをレンダリング済みデータ(描画済みのデータ。そのまま表示画面に表示がされる、いわゆる動画像のデータ)として保持するのではなく、仮想的な対象物であるバーチャルオブジェクトの仕様のデータ(外観、ボイスのキャラクタ、効果音データ、音楽データなど)と、同じくバーチャルオブジェクトのモーションデータ(動作のデータ、向いている方向のデータ、位置座標のデータなど)として保持する点にある。そして、コンテンツを視聴者端末その他が再生する際には、従来構成のようにレンダリング済みの描画データをただ画面表示するのではなく、上に示したバーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、「再生時に」、レンダリングを行って描画データを生成するように構成している。このように、「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」点は、実は、コンテンツをインターネットなどを経由して生放送する際の動作と同じである。つまり本システム1の構成を用いることで、コンテンツの再生を、コンテンツの生放送時と概略変わらない動作、構成、品質で行うことが可能となっており、従来技術構成との大きな相違点である。さらに、再生時に「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」という点を生かして、再生時にこれらデータを修正、追加、改変して、このコンテンツの修正版を生成することが容易となっている。
サーバ2のコンテンツ記憶部は、このようにオリジナル生放送を改変した新たなバージョンのコンテンツを記憶して、以後の各視聴者端末からの再生要求に応じて送出を行う。記憶の方法として、新たなバージョンのコンテンツが生成された場合には、古いバージョンを破棄して新しいバージョンのみを記憶してもよいし、古いバージョンを残したまま新しいバージョンのコンテンツを記憶してもよい。
コンテンツ配信部2dは、コンテンツ情報記憶部2cが記憶する各コンテンツを、視聴を求めてきた各端末へ送信して視聴に供する。プログラム記憶部2fは、このサーバ2の各実行動作を実現するためのプログラムを記憶している。
ユーザ管理部2gは、先に説明した各ライブコンテンツを主催する配信者が用いる配信者端末、そのライブコンテンツを視聴してコンテンツの視聴、改変や追加を行った視聴者が用いる視聴者端末、などの情報をIP(インターネットプロトコル)アドレスや、動画像配信サービスのアカウント情報などのデータとして保持しており、従ってこのユーザ管理部2gが記憶する情報を用いることで、あるライブコンテンツがどの端末へ送信供給されたのか、どの端末がどのライブコンテンツを改変あるいは追加したのか、をデータとして記憶している。したがって、最初にインターネット生放送されたライブコンテンツがどのような流れで改変あるいは追加がなされたのか、ライブコンテンツの系統図情報をも保有している。
バスライン2iは、これらサーバ2の各構成間を相互にデータ交換可能に接続する。
第1の配信者端末11と第2の配信者端末21とは共通の構成を有しており、以下では第1の配信者端末11を例として説明を行う。
〔第1の配信者端末11の構成〕
図3に示すように、第1の配信者端末11は、まず、端末内外の情報入出力端である入出力インターフェース11a、端末11の各構成の制御統制を行うCPU(セントラルプロセッシングユニット)を備えた制御部11bを有している。
アバター操作部11cは、配信者が自分の仮想的な分身であるアバターを仮想空間内に登場させて、所望の動作をさせるために、まず、先に説明をした、バーチャルオブジェクトの仕様データの一つであるアバターの仕様データとして、アバターの外観データ、アバターのボイスキャラクタデータ、アバターの効果音のデータ、アバターの音楽データなどが、この第1の配信者端末11のデータ記憶部11iに記憶されており、アバター操作部11cは、操作者である配信者などの身体につけた加速度センサーや、3Dカメラで自分の動きを撮影したデータ、あるいはドップラーセンサで自分の身体各所の動きをセンシングしたデータを用い、これらモーションデータを取得して、先に説明をしたバーチャルオブジェクトのモーションデータの一つである、アバターのモーションデータとしてサーバ2に送信をしたり、あるいはデータ記憶部11iに記憶を行う。具体的には、図7に示すように、アバター操作部11cは、バーチャルオブジェクトの仕様データの一つである、アバターの外観データ7−1を含めた仕様データを自分で用意するか、システムが用意して選択に供する中から選ぶか、ネット上に配置された外観データあるいは仕様データのURL(ユニフォームリソースロケーター)を指定するなどして決定する。そして、配信者自身の身体各所の動きをセンシングした結果であるモーションデータ7−2として、図7(B)に示すように、身体各所を節7−2aとしてその位置情報、動きの情報を得る。節7−2aをつなぐ枝7−2bの情報を更に生成して、節7−2a同士の関係を明確化するように構成してもよい。なお、バーチャルオブジェクトの仕様データの一つである、アバターの仕様データとは、例えば若い女性の外観を有するアバターを男性が操作する場合に、男性が発生した声をボイスチェンジして若い女性の声にするための、声の周波数特性データ(音声キャラクタデータ)、アバターが動く場合の特有の効果音、アバターが現れると特徴的にバックに流れる音楽のデータなどであり、ほかのデータを含めてももちろんよい。同じく、アバター以外のバーチャルオブジェクト(バーチャルアイテム、仮想アイテム、仮想オブジェクトなどともいう)について、その外観データばかりではなく、アイテムが発生する場合には音声キャラクタデータを仕様データとして付加してもよいし、同様に効果音データや音楽データをそれぞれのバーチャルオブジェクトに対して仕様データとして付加してもよい。以上の点は、本システム1で用いられるアバターを含めた種々のバーチャルオブジェクトに共通しており、今後説明を省略する場合もある。なお、本システム1が用いるバーチャルオブジェクトのデータを表1にまとめて示す。
レンダリング部11eは、端末11の外部から送信をされた、あるいは端末11内部に記憶されたバーチャルオブジェクトの仕様データ、およびバーチャルオブジェクトのモーションデータを用いてこれらバーチャルオブジェクトをレンダリング(描画)する構成であって、過去に記録されたコンテンツの再生時、および、現在端末11から配信中のライブコンテンツのバーチャルオブジェクトに関するデータをサーバ2から受け取り、コンテンツの内容をリアルタイムに確認するモニタリングなどに用いられる。このために、レンダリング部11eは、上に示したアバターの外観のデータ7−1を含めたアバターの仕様のデータとモーションデータ7−2、この後に説明するように、3次元仮想空間内に投げ込まれたバーチャルオブジェクトの仕様データとモーションデータ、3次元仮想空間の背景画像や仮想空間内に置かれたバーチャルオブジェクトの仕様データおよびモーションデータを用いて、仮想空間を可視化するための描画(レンダリング)を行い、得られた、内包するバーチャルオブジェクトを含めた仮想空間の映像は、第1の配信者端末11の表示部11fに表示される。先に説明をしたように、例えばアバターについてのレンダリングは、図7(C)に示すように、バーチャルオブジェクトの仕様データの一つであるアバター外観データ7−1に対して、その各所の位置や動きをモーションデータ7−2から得て、現在のアバターの位置や動きを示すアバターのレンダリング用データ7−3を生成する。なお、レンダリングは、動画データではなく静止画データであるアバターの外観データ7−1と、アバターのモーションデータ7−2を構成する節7−2aや枝7−2bのデータとを用いて行うことができるので、外観データ7−1は静止画データであるのでデータ容量が小さいし、節7−2aや枝7−2bのデータは画像データではなく限られた数の点の座標データもしくは運動ベクトルデータであるのでこれも容量が小さく、この結果、データの送信、受信、記憶やレンダリングに要する伝送路やハードウェアの負担は極めて小さいものとすることができる。さらに、アバターの外観データ7−1、や仕様データをロウデータ(具体的な生データ)そのものではなく、URL(ユニフォームリソースロケーター)でデータの保存先として指定すれば、より小さな文字列データで送信や記憶を行うことができる。これらの有利な点は、これら外観データや仕様データやモーションデータをシステムのどの構成で生成し、伝送し、記憶し、レンダリングするかによらず同様の効果を奏するものであるし、人のアバターに限らず、バーチャルオブジェクトをレンダリングしようとする際には共通の効果となる。なお、本願付図において各所に記載されているアバターの模式図は簡易的な表示を用いていて四肢の動きなどまでは書き込まれていないが、これらの図示は、図7(C)に示すようなレンダリング用アバターデータ7−3を意味している。なお、アバターを外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターが発する音声の情報、および音声のキャラクタ情報を、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。例えば先に説明したように、アバターが若い女性の外観とキャラクタを有していてそのアバターを操作する配信者などが男性である場合、男性のオリジナルの発声をまず記憶し、記憶した男性の音声をボイスチェンジして若い女性の発声としてアバターの表示に用いることとなる。そのボイスチェンジに用いる発声のキャラクタ情報(若い女性キャラクタの発声の周波数スペクトラム等)が、配信者などアバターを操作する者の発声情報とともに、アバター外観情報に、あるいは他の情報に含まれるようにする点は有効である。同じく、バーチャルオブジェクトをライブコンテンツに追加する際に、効果音(爆発音、衝突音、飛翔音、オノマトペなど)や、音楽を追加してもよく、それら効果音データ、音楽データをもシステム1が送受や記憶する対象のデータとしてもよい。それらもまたアバター仕様データあるいはその他のデータに追加がなされる。なお、仕様データには、振動に関するデータを含めてもよく、その場合、例えばアバターを操作するコントローラ(ボタンなどが付属した操作具)を振動させるようにしてもよいのであり、この点はシステム1の各所、各局面においても同様である。
表示部11fは、配信者自身がライブコンテンツを視聴したり、現在配信者が配信中のライブコンテンツの内容を確認するためにレンダリング画像をモニタリングしたり、各種操作を行ったりするために画面表示を行う構成であって、パーソナルコンピュータの表示パネルや、顔面に装着されるゴーグルタイプのHMD(ヘッドマウントディスプレイ)などで実現される。操作部11gは配信者が各種動作の操作に用いるもので、例えばパーソナルコンピュータのキーボード、マウス、タッチパネルでもよいし、あるいは操作者のモーションデータで操作するデバイスであってもよい。プログラム記憶部11hは、ライブコンテンツの配信や視聴に必要なコンピュータプログラムを記憶しており、汎用のコンピュータオペレーティングシステム(OS)、インターネット閲覧プログラム(ブラウザ)等を含んでいてもよい。データ記憶部11iは、ライブコンテンツに用いられる仮想空間の背景のデータ、バーチャルデータの仕様データ、モーションデータなどを記憶する。
コメント投稿部11kは、ライブコンテンツの表示画面にかぶさって表示がされたり、あるいは仮想空間30内のバーチャルオブジェクトの表面に表示がされたり、大きな文字の形をしたオブジェクトのようにそれ自体が独立したバーチャルオブジェクトとして表示される文字情報であるコメントをサーバ2に投稿するための構成である。バスライン11mは配信者端末11の各構成を、データを相互に交換可能に接続する。
第1の視聴者端末12と第2の視聴者端末22とは共通の構成を有しており、以下では第1の視聴者端末12を例として説明を行う。
〔第1の視聴者端末12の構成〕
図4に図示するように、第1の視聴者端末12は、端末12内外のデータ送受端である入出力インターフェース12a、端末12各所の制御統制を行うCPU(セントラルプロセッシングユニット)を備えた制御部12bを有している。
アバター操作部12cは、まず、先に説明をした、バーチャルオブジェクトの仕様データの一つであるアバターの仕様データとして、アバターの外観データ、アバターのボイスキャラクタデータ、アバターの効果音のデータ、アバターの音楽データなどが、データ記憶部12iに記憶されており、アバター操作部12cは、操作者である視聴者などが自分の仮想的な分身であるアバターを仮想空間内に登場させて、所望の動作をさせるために、自分の身体につけた加速度センサーや、3Dカメラで自分の動きを撮影したデータ、あるいはドップラーセンサで自分の身体各所の動きをセンシングしたデータを用い、これらモーションデータを取得して、そのままで、あるいはレンダリングした画像情報としてサーバ2に送信を行う。先に説明をしたように、図7を援用すると、アバター操作部12cは、バーチャルデータの仕様データの一つである、アバターの外観データ7−1を含めたアバターの仕様データを自分で用意するか、システムが用意して選択に供する中から選ぶか、ネット上に配置された外観データを含めた仕様データのURL(ユニフォームリソースロケーター)を指定するなどして決定する。そして、身体各所の動きをセンシングした結果であるモーションデータ7−2として、図7(B)に示すように、身体各所を節7−2aとしてその位置情報、動きの情報を得る。節7−2aをつなぐ枝7−2bの情報を更に生成して、節7−2a同士の関係を明確化するように構成してもよい。なお、アバターを外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターが発する音声の情報、および音声のキャラクタ情報を、アバターの外観データを含めて、アバターの仕様データとして、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。例えばアバターが若い女性の外観とキャラクタを有していてそのアバターを操作する配信者などが男性である場合、男性のオリジナルの発声をまず記憶し、記憶した男性の音声をボイスチェンジして若い女性の発声としてアバターの表示に用いることとなる。そのボイスチェンジに用いる発声のキャラクタ情報(若い女性キャラクタの発声の周波数スペクトラム等)が、視聴者などアバターを操作する者の発声情報とともに、アバターの外観情報を合わせたアバター仕様情報に含まれるようにする点は有効である。同じく、バーチャルオブジェクトをライブコンテンツに追加する際に、効果音(爆発音、衝突音、飛翔音、オノマトペなど)や、音楽を追加してもよく、それら効果音データ、音楽データをもシステム1が送受や記憶する対象のデータとしてもよい。それらもまた外観情報あるいはその他のデータとともに、アバターの仕様データに追加がなされる。
アイテム投稿部12eは、視聴者が自己のアバターを、自分が視聴しているライブコンテンツに登場させるため、アバターの外観データを含めた、バーチャルオブジェクトの仕様データや、先に説明したバーチャルオブジェクトのモーションデータをサーバ2へ投稿したり、あるいは自分が再生視聴しているライブコンテンツに新たなバーチャルオブジェクトを投稿するために用いられる。
表示部12fは、視聴者自身がライブコンテンツを視聴したり、各種操作を行うために画面表示を行う構成であって、パーソナルコンピュータの表示パネルや、顔面に装着されるゴーグルタイプのHMD(ヘッドマウントディスプレイ)などで実現される。
操作部12gは視聴者が各種動作の操作に用いるもので、パーソナルコンピュータのキーボード、マウス、タッチパネルでもよいし、あるいは操作者のモーションデータで操作するデバイスであってもよい。プログラム記憶部12hは、ライブコンテンツの視聴に必要なコンピュータプログラムを記憶しており、汎用のコンピュータオペレーティングシステム(OS)、インターネット閲覧プログラム(ブラウザ)等を含んでいてもよい。データ記憶部12iは、先に説明をしたデータおよびその他の各種データを記憶する。
コメント投稿部12kは、ライブコンテンツの表示画面にかぶさって、あるいは仮想空間30内のバーチャルオブジェクトの表面に表示されたり、巨大な文字状のバーチャルオブジェクトのようにそれ自体が独立したバーチャルオブジェクトとして表示される文字情報であるコメントをサーバ2に投稿するための構成である。バスライン12mは視聴者端末12の各構成を、データを相互に交換可能に接続する。
図5は、第1の視聴者端末12をパーソナルコンピュータで実現した場合の外観を模式的に示したもので、各種映像、静止画像、動画像や文字情報を表示する表示パネル12−1は、視聴者が本システム1のサービスを利用するために、あらかじめ知らされているURL(ユニフォームリソースロケータ)を入力してサーバ2に接続を行うと、サーバ2から必要なデータとジャバスクリプト(JavaScript)プログラムが送付されて動画配信サービスのポータル画面(図示しない)が表示される。
視聴者は、自分がインターネット生放送として視聴をしたい、あるいは再生コンテンツとして視聴をしたいライブコンテンツを表示リスト(図示しない)からあらかじめ選択しており、そのライブコンテンツが表示されている場合を想定した状況を、図5は示している。
図5において、表示パネル12−1内に、ライブコンテンツ動画を表示する動画表示エリア12−1aがあり、そこには、このライブコンテンツの配信者である第1の配信者のアバター12−1b、このライブコンテンツが用いる仮想空間に配置されたバーチャルオブジェクトである樹木12−1n、家屋12−1oが表示されている。また、更にコメント12−1rが表示パネル12−1内に表示されたており、「アップしてくれてありがとう!!」、という内容のコメント12−1rが表示パネル12−1の右端から現れて左端にスクロール移動して消えていく。コメント12−1rが表示される範囲はライブコンテンツ動画を表示する動画表示エリア12−1aよりも大きく、そこからはみ出すよう設定されているので、視聴者はこれらコメント12−rが、コンテンツのオリジナルな内容ではなく別な投稿者から投稿されたことが明瞭に理解できる。
同様に、表示パネル12−1内には、動画配信サービスのポータル(入口)ページ(図示しない)に戻るためのホームボタン表示12−1e、視聴するコンテンツが生放送ではなく再生コンテンツである場合に用いる停止ボタン表示12−1f、ポーズボタン表示12−1g、および再生ボタン表示12−1hがそれぞれ表示されている。
表示パネル12−1内のコメント投稿ボタン表示12−1iは、視聴者が視聴しているコンテンツに対して先に説明をしたコメントを投稿するためのボタンである。
シークバー表示12−1kは、コンテンツが再生コンテンツである場合に、再生開始時刻を左端に、再生終了時刻を右端に対応させ、シークボタン表示12−1mの位置が現在の再生時刻を示しており、このシークボタン表示12−1mの位置をマウスポインタ12−3で動かして再生したい時刻へ移動させることができる。先に説明した操作部12gとして、マウスポインタ12−3、マウスカーソル12−2があり、キーボード12−4も視聴者端末12は備えている。
〔生放送中のコンテンツ視聴〕
次に、第1の配信者端末11から投稿されて配信されているインターネット生放送であるライブコンテンツが、第1の視聴者端末12によって視聴されるまでの動作を、図6のシグナルフローグラフ、図8の第1の仮想空間模式図、図9の各視点から見たレンダリング結果の図、をそれぞれ用いて説明する。
ライブコンテンツを主催して配信しようとする配信者は、第1の配信者端末11を用いてサーバ2へコンテンツ配信の申し込みを行う(ステップS101)。サーバ2が配信を許諾すると、許諾する旨がサーバ2から第1の配信者端末11へ通知され(ステップS102)、サーバ2は、視聴が可能なコンテンツとしてこのライブコンテンツを配信サービスサイトの適切なページにリストとして掲示を行ったり、リストをログイン中の視聴者端末へ配信したりする(ステップS103)。
配信が許諾されたので、第1の配信者端末11は、インターネット生放送用ライブコンテンツとして、図8に示す仮想空間30内の各バーチャルオブジェクトである、第1の配信者のアバター表示12−1bと、その他バーチャルオブジェクトに関する仕様のデータ、およびモーションデータをサーバ2へ送信する(S104)とともに、これらバーチャルオブジェクトに関する仕様のデータ、およびモーションデータはサーバ2に記憶がなされる。
先に説明したように、配信者はモーションデータを生成してアバター12−1bの動作を制御するので、仮想空間30内でアバター12−1bは移動をしたり、向きを変えたり、姿勢を変えるなどの動作を行うことができる。同じく「表1 バーチャルオブジェクトの関連データ」を用いて先に説明をしたように、アバターを含めたバーチャルオブジェクトの外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターを含めたバーチャルオブジェクトが発する音声の情報、および音声のキャラクタ情報をバーチャルオブジェクトの仕様情報として、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。
仮想空間30内に配置された仮想的カメラ32は図示のように中央に必ずしもおく必要はなく設置場所は任意であるし、移動してもよく、複数を設置してもよい。また再生を行う視聴者が、ライブコンテンツの改変あるいは追加動作の一環としてライブコンテンツの途中からこれら仮想的カメラの追加や移動をしてもよい。これら仮想カメラの運用は本明細書の他の箇所おいても共通であるが、以後の説明では煩雑さを避けるため、仮想カメラは各仮想空間に一つだけとした例示にとどめる。
リストにより、放送中のこのライブコンテンツの存在を知った視聴者は、第1の視聴者端末12からサーバ2に対してインターネット生放送であるこのライブコンテンツの視聴を申し込み(ステップS105)、この結果、サーバ2から第1の視聴者端末12に対して、第1の配信者のアバター12−1bのモーションデータ7−2やアバターの外観データ7−1を含む、仮想空間30内にあるバーチャルオブジェクトの仕様のデータおよびモーションデータを送信して(ステップS106)、レンダリングを第1の視聴者端末12で行う。レンダリングの結果を、図9(A)(第1の配信者アバターの視点から見た画像)と図9(B)(第1の仮想的カメラの視点から見た画像)として例示する。
また、第1の配信者端末11が配信するライブコンテンツは、第1の視聴者端末12に限らず、第2の視聴者端末22を含めた本動画配信システムを利用する他の利用者もまた、申し込みを行って視聴することができる。
〔生放送後のコンテンツの再生〕
次に、第1の配信者端末11がインターネット生放送を行った結果、サーバ2にバーチャルオブジェクトの仕様のデータ、およびモーションデータとして記憶されているライブコンテンツを、生放送の時刻よりも後に、第1の視聴者端末12から申し込んで再生する動作を、図10を参照して説明する。
まず、サーバ2に記憶済みのライブコンテンツを再生しようとする視聴者は、サーバ2があらかじめ用意をしたライブコンテンツの全体を示すリストから所望のライブコンテンツを選択し、サーバ2へ再生を申し込む。サーバ2では指定されたライブコンテンツである、バーチャルオブジェクトの仕様のデータ、およびモーションデータを第1の視聴者端末12へ送信するので、視聴者は、第1の視聴者端末12を用いてレンダリング(描画)を行って、図9(A),(B)で示した画像が第1の視聴者端末12の表示パネル12−1に表示され、この結果、視聴者は仮想空間利用のライブコンテンツが視聴できる。この時、図9(A),図9(B)に示すように、視聴者は、第1の配信者アバター12−1bの視点から見たレンダリング画像も視聴できるし、切り替え操作に応じて第1の仮想的カメラ32から見たレンダリング画像をも視聴できるので、単にテレビ放送画面や映画の画面を受け身で見ているのとは異なり、複数の異なる視点を能動的に自らの意志で切り替えながらコンテンツの内容を見ることができる。ここでこのライブコンテンツは3D(3次元)仮想空間を用いているので、見る視点を切り替え操作しながら多数の方向からの視聴により仮想空間30内を視聴者は視聴をすることができ、2D(2次元)コンテンツを視聴するのでは得られない臨場感、没入感、連帯感を視聴者は得ることができる。このような臨場感などは、再生コンテンツの視聴であるにもかかわらず、あたかも生放送のライブコンテンツを視聴しているかのような感覚として視聴者へ伝わる。また、他の側面から説明を行うと、先に説明をした点であるが、本システム1が有する特徴的な点として、コンテンツのデータをレンダリング済みデータ(描画済みのデータ。そのまま表示画面に表示がされる、いわゆる動画像のデータ)として保持するのではなく、仮想的な対象物であるバーチャルオブジェクトの仕様のデータ(外観、ボイスのキャラクタ、効果音データ、音楽データなど)と、同じくバーチャルオブジェクトのモーションデータ(動作のデータ、向いている方向のデータ、位置座標のデータなど)として保持する点にある。そして、コンテンツを視聴者端末その他が再生する際には、従来構成のようにレンダリング済みの描画データをただ画面表示するのではなく、上に示したバーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、「再生時に」、レンダリングを行って描画データを生成している。このように、「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」点は、実は、コンテンツをインターネットなどを経由して生放送する際の動作と同じである。つまり本システム1の構成を用いることで、コンテンツの再生を、コンテンツの生放送時と変わらない動作、構成、品質で行うことが可能となっており、従来技術構成との大きな相違点である。さらに、再生時に「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」という点を生かして、再生時にこれらデータを修正、追加、改変してこのコンテンツの修正版とすることが容易となっており、この点を以下に説明する。
〔生放送後の再生コンテンツへの仮想アイテムの追加〕
次に、図6乃至図9を用いて説明した、第1の配信者端末11が先にインターネット生放送したライブコンテンツを第1の視聴者端末12が再生視聴している状態で、第1の視聴者端末12を用いる視聴者が、自分の所望の内容へライブコンテンツを改変あるいは追加を行う動作を、図11乃至図14を用いて説明する。
先に説明をしたライブコンテンツの再生の手順と同様に、第1の視聴者端末12からサーバ2に対してライブコンテンツ再生の申し込みが行われる(ステップS301)。
申し込みを受け付けたサーバ2は、対象であるライブコンテンツを、バーチャルオブジェクトの仕様のデータ、およびモーションデータとして、第1の視聴者端末12へ送信して、先の説明のようにレンダリングおよびコンテンツの視聴に供する(ステップS302)。
視聴者は、先に説明をしたように、送信されたライブコンテンツをただ視聴することもできるが、例えばダンスシーンであれば自分もアバターの形でライブに参加し、すでにライブに参加している各アバターの操作者とともに踊ることで連帯感も得たいと感じることもあるであろうし、自分のアバターをライブコンテンツに投入して自分が決めた所望の視点からライブコンテンツを視聴しなおしたい、と思うこともありうる。
そこで視聴者は、ライブコンテンツを再生しつつ、自分のアバター12−1cを新たにライブコンテンツに投入するべく、サーバ2へ申し込んで、必要なデータであるアバターの外観情報を含めた、バーチャルオブジェクトの仕様のデータやモーションデータを、追加アイテムデータとしてサーバ2へ送信する(ステップS303)。ここで視聴者のアバター12−1cは、先に図7で説明をしたような、アバターの外観データ7−1を含めた仕様データ、アバターのモーションデータ7−2などを用いてレンダリングしたデータ7−3として追加がなされるし、他のバーチャルオブジェクトを視聴者端末12から追加する場合も同様であるので、このライブコンテンツを以後再生して視聴する他の視聴者は、この視聴者のアバター12−1cおよび追加された他のバーチャルオブジェクトを、視聴者が操作した所望の動き、姿勢で視聴することとなり、最初に視聴者端末12を用いて各バーチャルオブジェクトを追加した視聴者はあたかもライブコンテンツに参加したような感覚を得ることができる。
これを受けてサーバ2は、仮想空間30内に新たに視聴者のアバター12−1cあるいはその他のバーチャルオブジェクトを追加して、追加分を含めた、このコンテンツのあらゆるバーチャルオブジェクトの仕様のデータ、およびモーションデータを第1の視聴者端末12へ送信する(ステップS304)とともに、サーバ2が記憶しているライブコンテンツのデータにも、アバター12−1c、およびその他追加されたバーチャルオブジェクトのデータを追加するので、以後、このライブコンテンツを再生する他の視聴者端末は、視聴者のアバター12−1cおよび追加されたバーチャルオブジェクトが含まれているライブコンテンツを視聴することとなる。なお、新たに追加されたアバターなどバーチャルオブジェクトについて、追加を行った時刻情報、追加を行った端末あるいはユーザアカウントの情報などを、システム1が送受信や記憶を行う対象のデータとする点は大変有効である。このような時刻の情報、端末やユーザの情報は、サーバ2が記憶をしていてもよいし、それと並行に、あるいは単独に、追加がなされたバーチャルオブジェクトの仕様の情報などに書き込まれていてもよい。このように追加をした時刻情報、追加を行った端末あるいはユーザアカウントの情報などを、システム1が送受信や記憶を行う対象のデータとする点は、本システム1の他の局面においても有効である点は同じであり、今後は記載を省略する場合がある。
図12、図13では、第1の視聴者のアバター12−1cのほかに、新たに、信号機33、第2の仮想カメラ34といったバーチャルオブジェクトが追加された状態を示している。
なお、ライブコンテンツの改変は本来のライブコンテンツの主催者の許諾を要するようにしてもよいし、ライブコンテンツを改変する場合に、改変後のデータと改変前のデータの双方をサーバ2が引き続き記憶し、以後、各視聴者は操作に応じていずれかのライブコンテンツを再生できるようにしてもよい。そのように構成すれば、視聴者は自分が改変したライブコンテンツがほかの多数の視聴者に再生が可能となる点で満足感が得られるとともに、その様な改変を良しとしない視聴者もまた、改変前のコンテンツを視聴することができ、連帯感の高揚と、自分好みの鑑賞という、本来両立が困難な課題が両立できる。
また、自分がウオッチあるいはリスペクトをしているライブコンテンツの主催者、演者などのほかに、自分がウオッチあるいはリスペクトをしている視聴者が改変したライブコンテンツを特に選んで視聴することもできるし、先に説明したようにサーバ2にはあるライブコンテンツの改変の系統樹データも用意できるので、自分にとって好ましいライブコンテンツの改変系統をトレースしていき、より自分にあったバージョンのコンテンツにたどり着く楽しみも視聴者は享受することができる。
〔生放送後の再生コンテンツにアバターを追加して、他の配信者が配信する〕
上記の説明では、最初にインターネット生放送を行ったライブコンテツを、以後、個々の視聴者が自分の好みに合わせて改変や追加を行う例であったが、再生されるライブコンテンツ(生放送と同じでもよいし、その後に改変や追加がされていてもよい)を再度、同じ配信者あるは異なる配信者がインターネットで放送し、その放送を視聴する視聴者から、同様にライブコンテツの改変や追加がなされるようにしてもよい。
図14、図15、図16にその一例を図示したが、各図では第2の配信者のアバター35が追加されている。各動作の詳細は、先の説明と同様である。
〔変形例その1 〜各構成の配置の任意性〕
先の本実施形態の説明では、視聴者が改変あるいは追加を行った仮想空間についての各視点映像のレンダリングを、この視聴者が用いる視聴者端末で行うこととした。しかしながらこのように構成をする点は本発明の実施に当たり必須なものでも本質的なものでもない。すなわち、このレンダリングをサーバあるいは他の各種端末で行ってもよい。そのようにレンダリングを行うためには、あらかじめバーチャルオブジェクトの仕様のデータ、およびモーションデータがレンダリングを行おうとするサーバ、あるいは端末もしくはその双方に送信されていればよく、詳細な構成あるいは手順は先に説明した本実施形態の構成から明らかであるので、重複を避けることとする。
〔変形例その2 〜バーチャルオブジェクトの仮想空間への投げ込み〕
先の説明では、ライブコンテンツを再生する視聴者が自分の好みにより、仮想空間へ新たなバーチャルオブジェクトを追加する例として、自分の分身であるアバター12−1b、12−1cを追加する例、信号機33を追加する例を説明した。
ところで、実世界でライブの演奏、演劇公演などでは、演者に対して祝儀(「おひねり」とも呼ばれる)を渡したり、花を差し入れしたりすることで演者もますます盛り上がることができる。これに対応させて、コンテンツ配信においてもこのような祝儀に当たる仮想的なオブジェクト(バーチャルオブジェクト)を新たに仮想空間内に表示させて、演者への賛同、称賛などを表そうとする提案がある。
公知の特許文献である特開2012−120098号公報には、実写ライブ番組の表示画面に貼り付ける仮想的アイテムとして、例えば「デコレーション」として花や文字、ロゴなどをコンテンツの視聴者が購入し、表示画面上で自由な位置に配置することによって表示画面を飾ることが開示されている。
本発明の実施形態システム1では、発明の一環として、仮想空間を用いたライブコンテンツを再生する視聴者が、演者への称賛、賛同を示すバーチャルオブジェクトを投げ込んで、以後、このライブコンテンツを再生する他の視聴者が、投げ込まれたバーチャルオブジェクトを視認することができ、この結果、バーチャルオブジェクトを投げ込んだ視聴者の賛同や称賛の意志が広く認識されたり、以後にこのライブコンテンツを視聴する視聴者が同じく賛同や称賛の感覚を味わうことが可能となる。生放送中のライブコンテンツに対してバーチャルオブジェクトを投げ込むのと異なり、再生コンテンツに対して投げ込むことは、リアルタイムの投げ込み(賛同や称賛)ではないものの、再生であれば何度でも視聴できて視聴者の層や数も広がるし、評判が評判を呼んで多数の投げ込みが行われうるし、それらが累積もされるので、視聴者側も、贈られる演者側もメリットがある。
図17、図18記載の模式図は、このようなバーチャルオブジェクト(仮想的アイテム)である、リボン型バーチャルオブジェクト12−1dを、コンテンツを再生する視聴者が視聴者端末を用いて、仮想空間30に投げ込んだ態様を示している。
リボン型バーチャルオブジェクト12−1dは、外観の画像データを含めた仕様データ、位置のデータや向きのデータを含めたモーションデータなどを含んでいるもので、先に説明を行った、配信者や視聴者のアバター12−1b、12−1cが仮想空間30に追加されたのと同様の方法で、視聴者などが視聴者端末などを用いて仮想空間30に追加することができる。
より詳細には、リボン型バーチャルオブジェクト12−1dは、配信者あるいは視聴者のアバター(代理人)の外観の情報を含めた仕様情報と、モーションデータ(動作情報)と同様の手順、構成で、そのバーチャルオブジェクトの仕様のデータ、およびモーションデータが送信や記憶がなされるように、本実施例システム1では構成がなされている。
従って、投げ込みに用いるバーチャルオブジェクトであるリボン型バーチャルオブジェクト12−1dに、アバターと同様に外観の情報、ボイスキャラクタの情報、効果音や音楽の情報を含めた仕様情報と、動作情報(位置の情報、動きの方向・速度の情報、姿勢の情報など)を持たせることが可能である。
このような外観の情報を含めた仕様情報と、動作情報を付加した投げ込み用バーチャルオブジェクトとすることにより、リボン型バーチャルオブジェクト12−1dは、ユーザの興味や関心を高める多様な演出が可能となる。なお、投げ込みを行うバーチャルオブジェクトとして、このリボン型バーチャルオブジェクト12−1dとは異なる様々な外観などのデータを有するバーチャルオブジェクトとして実施が可能である。
リボン型バーチャルオブジェクト12−1dを用いる例として、図17(A)図示の模式図は、仮想空間30中に投げ込まれた仮想アイテムであるリボン型バーチャルオブジェクト12−1dが上から下へ落下して仮想空間の地面に着地する演出を意味している。バーチャルオブジェクトの投げ込みは、例えば劇場において「おひねり」を舞台に投げ込んだり、結婚式においてブーケを投げたりする感覚とも共通性があり、このように上から下へ落下して仮想空間30の地面に着地する演出は、自然な感覚の演出であり視聴者の共感を得やすい。
同じく、図17(B)図示模式図は、バーチャルオブジェクトの投げ込みを行う対象者を、例えば第1の配信者12−1bと決めて視聴者端末を用いてその様に所定の操作を行うと、仮想空間30に投げ込まれたリボン型バーチャルオブジェクト12−1dは、投げ込みの対象である第1の配信者12−1bへ向かって仮想空間内を移動していく、という演出である。先に説明した「おひねり」の例からも自然な演出となりうる。
同じく図18(A)は、仮想空間30内に投げ込まれたリボン型バーチャルオブジェクト12−1dが、自動で仮想空間30内を動き回ったり(飛び回ることを含む)、あるいは投げ込んだ者の操作に応じて仮想空間内を動き回る演出である。投げ込まれた後のバーチャルオブジェクトが仮想空間内で静止している場合と比較して大変目立つ演出となり、投げ込みのアピールに役立つ。
図18(B)図示模式図は、多数の視聴者から投げ込まれたリボン型バーチャルオブジェクト12−1dの数が多数にのぼったり、あるいは同一人が多数のバーチャルオブジェクトを連続的に投げ込んだ場合に、これら投げこまれたオブジェクトがいったん積みあがったのち、崩れる演出である。人気のあるライブコンテンツ、人気のあるシーン、人気のある演者に対してはバーチャルオブジェクトの投げ込みが集中することが予想され、このような演出は実現可能性が高く、演出上の効果も大きい。
すでに説明を行った点を含めて、バーチャルオブジェクトを投げ込む場合の演出上の望ましい工夫を挙げると、まず投げ込む対象をライブコンテンツ全般とするほかに、特定の演者など対象を決めて操作の上で投げ込むことがよい方法である。対象を特定して投げ込まれたバーチャルオブジェクトは、対象者のそばに置かれるとか、対象者名を表記しておかれてもよい。
また仮想的カメラの視野内に、投げ込まれたバーチャルオブジェクトが置かれることも望ましい。
(発明の効果の説明)
生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、あるいは通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という各課題を解決するよう構成する。
本発明は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものとする。
1 コンテンツ配信受信システム
2 コンテンツ配信サーバ
2a 入出力インターフェース
2b 制御部
2c コンテンツ情報記憶部
2d コンテンツ配信部
2f プログラム記憶部
2g ユーザ管理部
2i バスライン
3 インターネット通信網
7−1 アバターの外観データ
7−2 アバターのモーションデータ(動作のデータ、動作の情報)
7−2a モーションデータの節
7−2b モーションデータの枝
7−3 アバターのレンダリング用データ
11 第1の配信者端末
11a 入出力インターフェース
11b 制御部
11c アバター操作部
11e レンダリング部
11f 表示部
11g 操作部
11h プログラム記憶部
11i データ記憶部
11k コメント投稿部
11m バスライン
12 第1の視聴者端末
12a 入出力インターフェース
12b 制御部
12c アバター操作部
12e アイテム投稿部
12f 表示部
12g 操作部
12h プログラム記憶部
12i データ記憶部
12k コメント投稿部
12m バスライン
12−1 表示パネル
12−1a 動画表示エリア
12−1b 第1の配信者のアバター
12−1c 第1の視聴者のアバター
12−1d リボン型バーチャルオブジェクト
12−1e ホームボタン表示
12−1f 停止ボタン表示
12−1g ポーズボタン表示
12−1h 再生ボタン表示
12−1i コメント投稿ボタン表示
12−1k シークバー表示
12−1m シークボタン表示
12−1n 樹木
12−1o 家屋
12−1r コメント
12−2 マウスカーソル
12−3 マウスポインタ
12−4 キーボード
21 第2の配信者端末
22 第2の視聴者端末
30 仮想空間
31 背景
32 第1の仮想的カメラ
33 信号
34 第2の仮想カメラ
35 第2の配信者のアバター
上記の課題を解決するために、本発明は、下記の1)〜11)に記載の3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンビュータプログラムを提供する。
1)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
視聴用端末が視聴を行うための要求に応じて、少なくとも前記第1のデータおよび前記第2のデータを含んだデータを送信する第1の送信部と、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信部と、
を備えたことを特徴とする3次元コンテンツ配信システム。
2)
記録部がさらに、(C)3次元バーチャル空問に配置された視点に関する第3のデータを記録し、且つ、生成部が当該第3のデータをも用いて生成を行うよう構成されたことを特徴とする、1)に記載の3次元コンテンツ配信システム。
3)
記録部が記録する第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、1)または2)に記載の3次元コンテンツ配信システム。
4)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付部を備えたことを特徴とする1)乃至3)のいずれか1項に記載の3次元コンテンツ配信システム。
5)
変更受付部はさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、4)に記載の3次元コンテンツ配信システム。
6)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録ステップと、
視聴用端末が視聴を行うための要求に応じて、少なくとも第1のデータおよび第2のデータを含んだデータを送信する第1の送信ステップと、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信ステップと、
を備えたことを特徴とする3次元コンテンツ配信方法。
7)
記録ステップがさらに、(C)3次元バーチャル空問に配置された視点に関する第3のデータを記録し、且つ、生成ステップでは当該第3のデータをも用いて生成が行われるよう構成されたことを特徴とする、6)に記載の3次元コンテンツ配信方法。
8)
記録ステップで記録される第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、6)または7)に記載の3次元コンテンツ配信方法。
9)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付ステップを備えたことを特徴とする、6)乃至8)の内のいずれか1項に記載の3次元コンテンツ配信方法。
10)
変更受付ステップはさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、9)に記載の3次元コンテンツ配信方法。
11)
6)乃至10)のいずれか1項に記載の3次元コンテンツ配信方法が備える各ステップをコンピュータに実行させるコンピュータプログラム。
上記の課題を解決するために、本発明は、下記の1)〜11)に記載の3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムを提供する。
1)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んたコンテンツデータを記録する記録部と、
視聴用端末が視聴を行うための要求に応じて、少なくとも第1のデータおよび第2のデータを含んだデータを送信する第1の送信部と、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信部と、
を備えたことを特徴とする3次元コンテンツ配信システム。
2)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
視聴用端末が視聴を行うための要求に応じて、少なくとも第1のデータおよび第2のデータを含んだデータを送信する第1の送信部と、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信部と、
を備えるとともに、記録部は、第2の送信部が送信したデータに基づいてコンテンツデータを改変した新たなコンテンツデータを記録するよう構成されたことを特徴とする3次元コンテンツ配信システム。

記録部がさらに、(C)3次元バーチャル空間に配置された仮想的カメラの視点に関する第3のデータを記録するう構成されたことを特徴とする、1)または2)に記載の3次元コンテンツ配信システム。
4)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付部を備えたことを特徴とする1)乃至3)のいずれか1項に記載の3次元コンテンツ配信システム。
5)
変更受付部はさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、4)に記載の3次元コンテンツ配信システム。
6)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録部に記録する記録ステップと、
視聴用端末が視聴を行うための要求に応じて、少なくとも第1のデータおよび第2のデータを含んだデータを送信する第1の送信ステップと、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信ステップと、
を備えたことを特徴とする3次元コンテンツ配信方法。
7)
仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
(A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録部に記録する記録ステップと、
視聴用端末が視聴を行うための要求に応じて、少なくとも第1のデータおよび第2のデータを含んだデータを送信する第1の送信ステップと、
送信されたデータを受信して、視聴者がコンテンツを視聴しつつ自分の分身であるアバターを当該コンテンツに投入するために、アバターに所望の動作をさせるために操作部で生成された第2のデータを少なくとも含むデータを記録部へ送信する第2の送信ステップと、
を備えるとともに、記録ステップは、第2の送信ステップで送信されたデータに基づいてコンテンツデータを改変した新たなコンテンツデータを記録するよう構成されたことを特徴とする3次元コンテンツ配信方法。

記録ステップがさらに、(C)3次元バーチャル空間に配置された仮想的カメラの視点に関する第3のデータを記録するう構成されたことを特徴とする、6)または7)に記載の3次元コンテンツ配信方法。
9)
視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付ステップを備えたことを特徴とする、6)乃至8)の内のいずれか1項に記載の3次元コンテンツ配信方法。
10)
変更受付ステップはさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、9)に記載の3次元コンテンツ配信方法。
11)
6)乃至10)のいずれか1項に記載の3次元コンテンツ配信方法が備える各ステップをコンピュータに実行させるコンピュータプログラム。

Claims (11)

  1. 仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
    (A)前記3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
    前記視聴用端末が視聴を行うための要求に応じて、前記第1のデータおよび前記第2のデータを少なくとも用いて、前記視聴のための画像データを生成する生成部と、を備えたことを特徴とする3次元コンテンツ配信システム。
  2. 前記記録部がさらに、(C)前記3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、前記生成部が当該第3のデータをも用いて前記生成を行うよう構成されたことを特徴とする、請求項1に記載の3次元コンテンツ配信システム。
  3. 前記記録部が記録する前記第1のデータおよび前記第2のデータが、前記コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、請求項1または2に記載の3次元コンテンツ配信システム。
  4. 前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付部を備えたことを特徴とする請求項1乃至3のいずれか1項に記載の3次元コンテンツ配信システム。
  5. 前記変更受付部はさらに、前記第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供するよう構成されたことを特徴とする、請求項4に記載の3次元コンテンツ配信システム。
  6. 仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
    (A)前記3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録ステップと、
    前記視聴用端末が視聴を行うための要求に応じて、前記第1のデータおよび前記第2のデータを少なくとも用いて、前記視聴のための画像データを生成する生成ステップと、を備えたことを特徴とする3次元コンテンツ配信方法。
  7. 前記記録ステップがさらに、(C)前記3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、前記生成ステップでは当該第3のデータをも用いて前記生成が行われるよう構成されたことを特徴とする、請求項6に記載の3次元コンテンツ配信方法。
  8. 前記記録ステップで記録される前記第1のデータおよび前記第2のデータが、前記コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、請求項6または7に記載の3次元コンテンツ配信方法。
  9. 前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付ステップを備えたことを特徴とする、請求項6乃至8の内のいずれか1項に記載の3次元コンテンツ配信方法。
  10. 前記変更受付ステップはさらに、前記第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供するよう構成されたことを特徴とする、請求項9に記載の3次元コンテンツ配信方法。
  11. 請求項6乃至10のいずれか1項に記載の3次元コンテンツ配信方法が備える前記各ステップをコンピュータに実行させるコンピュータプログラム。
JP2018150863A 2018-07-25 2018-07-25 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム Active JP6707111B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2018150863A JP6707111B2 (ja) 2018-07-25 2018-07-25 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
PCT/JP2019/029107 WO2020022405A1 (ja) 2018-07-25 2019-07-24 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
US17/059,677 US12041218B2 (en) 2018-07-25 2019-07-24 Three-dimensional content distribution system, three-dimensional content distribution method and computer program
CN201980039636.8A CN112400188A (zh) 2018-07-25 2019-07-24 三维内容分发系统、三维内容分发方法、计算机程序
US18/738,264 US20240333902A1 (en) 2018-07-25 2024-06-10 Three-dimensional content distribution system, three-dimensional content distribution method and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018150863A JP6707111B2 (ja) 2018-07-25 2018-07-25 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020063836A Division JP7225159B2 (ja) 2020-03-31 2020-03-31 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2020017242A true JP2020017242A (ja) 2020-01-30
JP6707111B2 JP6707111B2 (ja) 2020-06-10

Family

ID=69180876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018150863A Active JP6707111B2 (ja) 2018-07-25 2018-07-25 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム

Country Status (4)

Country Link
US (2) US12041218B2 (ja)
JP (1) JP6707111B2 (ja)
CN (1) CN112400188A (ja)
WO (1) WO2020022405A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021150889A (ja) * 2020-03-23 2021-09-27 グリー株式会社 コンピュータプログラム、サーバ装置、端末装置、及び方法
JP2021150735A (ja) * 2020-03-17 2021-09-27 本田技研工業株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP7047168B1 (ja) 2021-05-31 2022-04-04 株式会社バーチャルキャスト コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
JP7089815B1 (ja) 2021-11-25 2022-06-23 滋啓 内田 サーバ
JP7162387B1 (ja) 2022-02-25 2022-10-28 滋啓 内田 興行映像表示プログラム
JP7178752B1 (ja) 2021-11-25 2022-11-28 滋啓 内田 興行映像表示プログラム及び興行映像配信システム
JP2023078078A (ja) * 2022-06-06 2023-06-06 滋啓 内田 サーバおよび表示装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020129115A1 (ja) * 2018-12-17 2020-06-25 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム、情報処理方法およびコンピュータプログラム
CN113965812B (zh) * 2021-12-21 2022-03-25 广州虎牙信息科技有限公司 直播方法、系统及直播设备
CN115396688B (zh) * 2022-10-31 2022-12-27 北京玩播互娱科技有限公司 一种基于虚拟场景的多人互动网络直播方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002093497A1 (fr) * 2001-05-14 2002-11-21 Netdimension Corporation Systeme de distribution d'informations et procede de distribution d'informations
JP2012226669A (ja) * 2011-04-21 2012-11-15 Nippon Hoso Kyokai <Nhk> 参加型コンテンツ管理装置、視聴端末、参加型コンテンツ管理プログラム、及び視聴プログラム
JP6276882B1 (ja) * 2017-05-19 2018-02-07 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018094326A (ja) * 2016-12-16 2018-06-21 株式会社バンダイナムコエンターテインメント イベント制御システム、イベント通知システム及びプログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4250814B2 (ja) 1999-07-14 2009-04-08 ソニー株式会社 3次元映像の送受信システム及びその送受信方法
JP3625212B1 (ja) * 2003-09-16 2005-03-02 独立行政法人科学技術振興機構 3次元仮想空間シミュレータ、3次元仮想空間シミュレーションプログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体
JP2008117042A (ja) 2006-11-01 2008-05-22 Nomura Research Institute Ltd 仮想空間提供サーバ、仮想空間提供システム及びコンピュータプログラム
JP5231093B2 (ja) 2008-06-17 2013-07-10 ヤフー株式会社 コンテンツ更新装置、方法及びプログラム
BRPI0923200A2 (pt) * 2008-12-01 2016-01-26 Nortel Networks Ltd método e aparelho para fornecer uma representação de vídeo de um ambiente vietual gerado por computador tridimensional
US9358456B1 (en) * 2010-06-11 2016-06-07 Harmonix Music Systems, Inc. Dance competition game
JP2012120098A (ja) 2010-12-03 2012-06-21 Linkt Co Ltd 情報提供システム
WO2015070416A1 (en) * 2013-11-14 2015-05-21 Intel Corporation Mechanism for facilitating dynamic simulation of avatars corresponding to changing user performances as detected at computing devices
EP3219098B1 (en) * 2014-11-14 2021-10-06 PCMS Holdings, Inc. System and method for 3d telepresence
US9804696B2 (en) * 2015-01-02 2017-10-31 Microsoft Technology Licensing, Llc User-input control device toggled motion tracking
EP3344351A4 (en) * 2015-09-02 2019-04-24 Rutgers, The State University of New Jersey MOTION DETECTION SCALES, VIRTUAL THERAPY ENVIRONMENT FOR COORDINATION, MOBILITY AND FITNESS REHABILITATION AND WELLNESS
US20170103672A1 (en) * 2015-10-09 2017-04-13 The Regents Of The University Of California System and method for gesture capture and real-time cloud based avatar training
JP6812803B2 (ja) * 2017-01-12 2021-01-13 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US10341537B2 (en) * 2017-09-29 2019-07-02 Sony Interactive Entertainment America Llc Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
US20190130631A1 (en) * 2017-11-01 2019-05-02 Tsunami VR, Inc. Systems and methods for determining how to render a virtual object based on one or more conditions
WO2019116689A1 (ja) * 2017-12-15 2019-06-20 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP7355006B2 (ja) * 2018-03-30 2023-10-03 ソニーグループ株式会社 情報処理装置、情報処理方法、および記録媒体
WO2019203188A1 (ja) * 2018-04-17 2019-10-24 ソニー株式会社 プログラム、情報処理装置、及び情報処理方法
US10713834B2 (en) * 2018-04-27 2020-07-14 Colopl, Inc. information processing apparatus and method
US11017576B2 (en) * 2018-05-30 2021-05-25 Visyn Inc. Reference model predictive tracking and rendering
US20190385476A1 (en) * 2018-06-13 2019-12-19 Mohammad Mahdi Sadeghi Tacit Motion System and Methods

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002093497A1 (fr) * 2001-05-14 2002-11-21 Netdimension Corporation Systeme de distribution d'informations et procede de distribution d'informations
JP2012226669A (ja) * 2011-04-21 2012-11-15 Nippon Hoso Kyokai <Nhk> 参加型コンテンツ管理装置、視聴端末、参加型コンテンツ管理プログラム、及び視聴プログラム
JP2018094326A (ja) * 2016-12-16 2018-06-21 株式会社バンダイナムコエンターテインメント イベント制御システム、イベント通知システム及びプログラム
JP6276882B1 (ja) * 2017-05-19 2018-02-07 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021150735A (ja) * 2020-03-17 2021-09-27 本田技研工業株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP7017596B2 (ja) 2020-03-17 2022-02-08 本田技研工業株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP2021150889A (ja) * 2020-03-23 2021-09-27 グリー株式会社 コンピュータプログラム、サーバ装置、端末装置、及び方法
JP7496558B2 (ja) 2020-03-23 2024-06-07 グリー株式会社 コンピュータプログラム、サーバ装置、端末装置、及び方法
JP7244450B2 (ja) 2020-03-23 2023-03-22 グリー株式会社 コンピュータプログラム、サーバ装置、端末装置、及び方法
JP2022183944A (ja) * 2021-05-31 2022-12-13 株式会社バーチャルキャスト コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
JP7047168B1 (ja) 2021-05-31 2022-04-04 株式会社バーチャルキャスト コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
WO2022255262A1 (ja) * 2021-05-31 2022-12-08 株式会社ドワンゴ コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
JP7089815B1 (ja) 2021-11-25 2022-06-23 滋啓 内田 サーバ
JP7178752B1 (ja) 2021-11-25 2022-11-28 滋啓 内田 興行映像表示プログラム及び興行映像配信システム
JP2023078058A (ja) * 2021-11-25 2023-06-06 滋啓 内田 興行映像表示プログラム及び興行映像配信システム
JP2023077689A (ja) * 2021-11-25 2023-06-06 滋啓 内田 サーバ
JP2023124291A (ja) * 2022-02-25 2023-09-06 滋啓 内田 興行映像表示プログラム
JP7162387B1 (ja) 2022-02-25 2022-10-28 滋啓 内田 興行映像表示プログラム
JP2023078078A (ja) * 2022-06-06 2023-06-06 滋啓 内田 サーバおよび表示装置
JP7378851B2 (ja) 2022-06-06 2023-11-14 滋啓 内田 表示装置

Also Published As

Publication number Publication date
WO2020022405A1 (ja) 2020-01-30
JP6707111B2 (ja) 2020-06-10
US20240333902A1 (en) 2024-10-03
US20210211632A1 (en) 2021-07-08
US12041218B2 (en) 2024-07-16
CN112400188A (zh) 2021-02-23

Similar Documents

Publication Publication Date Title
WO2020022405A1 (ja) 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
JP6724110B2 (ja) 仮想空間中のアバター表示システム、仮想空間中のアバター表示方法、コンピュータプログラム
CN112334886B (zh) 内容分发系统、内容分发方法、记录介质
JP6810108B2 (ja) サーバ、方法、プログラム、動画像放送システム
US9066144B2 (en) Interactive remote participation in live entertainment
US8522160B2 (en) Information processing device, contents processing method and program
US20120060101A1 (en) Method and system for an interactive event experience
CN112104594A (zh) 沉浸式交互式远程参与现场娱乐
WO2021207156A1 (en) Integration of remote audio into a performance venue
KR20180054377A (ko) 인터랙티브한 가상현실 시스템
JP2020170519A (ja) コンテンツ配信システム、コンテンツ配信方法、コンピュータプログラム
JP2023169282A (ja) コンピュータプログラム、サーバ装置、端末装置、及び方法
KR20230173680A (ko) 가상 현실 환경에서의 공연을 위한 시스템 및 방법
JP2020144887A (ja) 仮想空間中のアバター表示システム、仮想空間中のアバター表示方法、コンピュータプログラム
JP7225159B2 (ja) 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
KR20180021623A (ko) Vr 콘텐츠 제공 시스템 및 방법
JP7442979B2 (ja) カラオケシステム
JP7162387B1 (ja) 興行映像表示プログラム
JP7521073B1 (ja) 仮想空間コンテンツ配信システム、仮想空間コンテンツ配信プログラム、および仮想空間コンテンツ配信方法
JP7495558B1 (ja) 仮想空間コンテンツ配信システム、仮想空間コンテンツ配信プログラム、および仮想空間コンテンツ配信方法
WO2024101001A1 (en) Information processing system, information processing method, and program for communication points regarding events
JP6401492B2 (ja) 通信カラオケシステムのサーバ
Series Collection of usage scenarios of advanced immersive sensory media systems
GB2624172A (en) Apparatus and methods for virtual events
JP2020161159A (ja) サーバ、方法、プログラム、動画像放送システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180725

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20181101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190618

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191029

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20191121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191227

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200331

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200331

C876 Explanation why request for accelerated appeal examination is justified

Free format text: JAPANESE INTERMEDIATE CODE: C876

Effective date: 20200331

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200408

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200414

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200519

R150 Certificate of patent or registration of utility model

Ref document number: 6707111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250