[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6359572B2 - 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体 - Google Patents

画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体 Download PDF

Info

Publication number
JP6359572B2
JP6359572B2 JP2015562689A JP2015562689A JP6359572B2 JP 6359572 B2 JP6359572 B2 JP 6359572B2 JP 2015562689 A JP2015562689 A JP 2015562689A JP 2015562689 A JP2015562689 A JP 2015562689A JP 6359572 B2 JP6359572 B2 JP 6359572B2
Authority
JP
Japan
Prior art keywords
image
visual field
field range
range data
clip
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015562689A
Other languages
English (en)
Other versions
JPWO2015122052A1 (ja
Inventor
攻 太田
攻 太田
一文 尾山
一文 尾山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JPWO2015122052A1 publication Critical patent/JPWO2015122052A1/ja
Application granted granted Critical
Publication of JP6359572B2 publication Critical patent/JP6359572B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体に関する。
サーバ等の画像送信装置から全方位画像等の画像を受信して、受信した画像の一部に基づいてユーザによって指定された視野範囲に応じた画像を生成する情報処理端末が存在する。このような情報処理端末では、ユーザは所望の視野範囲に応じた画像を得ることができる。
全方位画像等の画像は、例えば同じ品質の横1280画素×縦720画素などの通常の画像と比較すると一般的にサイズが大きい。そのため従来の画像送信装置では、サイズが小さいあるいはエンコード品質が低いなどといった低品質な画像を送信しないと通信帯域が逼迫するおそれがあった。このことは画像の送信先の数が多い場合や画像をフレーム画像として含む動画像が送信される場合などに顕著となる。
本発明は上記課題に鑑みてなされたものであって、その目的の1つは、通信帯域を逼迫させることなくユーザが所望の視野範囲に応じた高品質な画像を得ることができる画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体を提供することにある。
上記課題を解決するために、本発明に係る画像送信装置は、画像を取得する画像取得部と、視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける視野範囲データ受付部と、取得する前記画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記情報処理端末に送信する送信部と、を含むことを特徴とする。
また、本発明に係る情報処理端末は、取得する画像の一部に基づいて生成される画像を送信する画像送信装置に、視野範囲に対応付けられる視野範囲データを送信する視野範囲データ送信部と、取得する前記画像の一部に基づいて前記画像送信装置が生成する、前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記画像送信装置から受け付ける受付部と、を含むことを特徴とする。
また、本発明に係る画像送信方法は、画像を取得するステップと、視野範囲に対応付けられる視野範囲データを情報処理端末から受け付けるステップと、取得する前記画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記情報処理端末に送信するステップと、を含むことを特徴とする。
また、本発明に係る情報処理方法は、取得する画像の一部に基づいて生成される画像を送信する画像送信装置に、視野範囲に対応付けられる視野範囲データを送信するステップと、取得する前記画像の一部に基づいて前記画像送信装置が生成する、前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記画像送信装置から受け付けるステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、画像を取得する手順、視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける手順、取得する前記画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記情報処理端末に送信する手順、をコンピュータに実行させることを特徴とする。
また、本発明に係る別のプログラムは、取得する画像の一部に基づいて生成される画像を送信する画像送信装置に、視野範囲に対応付けられる視野範囲データを送信する手順、取得する前記画像の一部に基づいて前記画像送信装置が生成する、前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記画像送信装置から受け付ける手順、をコンピュータに実行させることを特徴とする。
また、本発明に係る情報記憶媒体は、画像を取得する手順、視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける手順、取得する前記画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記情報処理端末に送信する手順、をコンピュータに実行させることを特徴とするプログラムを記憶したコンピュータ読み取り可能な情報記憶媒体である。
また、本発明に係る別の情報記憶媒体は、取得する画像の一部に基づいて生成される画像を送信する画像送信装置に、視野範囲に対応付けられる視野範囲データを送信する手順、取得する前記画像の一部に基づいて前記画像送信装置が生成する、前記視野範囲データに対応付けられる視野範囲に応じた画像を、前記画像送信装置から受け付ける手順、をコンピュータに実行させることを特徴とするプログラムを記憶したコンピュータ読み取り可能な情報記憶媒体である。
本発明の一態様では、前記画像取得部は、前記送信部が送信する画像にそれぞれが対応付けられる複数の画像を取得し、前記視野範囲データ受付部は、複数のタイミングについての視野範囲に対応付けられる前記視野範囲データを受け付け、前記送信部は、それぞれが対応付けられる取得する前記画像の一部に基づいて生成される画像であり、対応付けられるタイミングについての前記視野範囲データに対応付けられる視野範囲に応じた画像である複数の画像を、フレーム画像として含む動画像を前記情報処理端末に送信する。
あるいは、前記画像取得部は、動画像を取得し、前記送信部は、それぞれ取得する前記動画像に含まれるフレーム画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像をフレーム画像として含む動画像を、前記情報処理端末に送信する。
また、本発明の一態様では、前記視野範囲データ受付部は、複数の情報処理端末のそれぞれから前記視野範囲データを受け付け、取得する前記画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像を生成するクリップ画像生成部、をさらに含み、前記送信部は、生成される前記画像を当該画像に対応付けられる前記視野範囲データの送信元の前記情報処理端末に送信し、前記視野範囲データの受付及び前記画像の送信は、前記視野範囲データの送信元である前記情報処理端末毎に並列的に実行される。
本発明の一実施形態に係る画像配信システムの全体構成の一例を示す図である。 本実施形態に係る画像配信システムで行われる画像配信の一例を説明する説明図である。 パノラマフレーム画像の一例を示す図である。 クライアントの姿勢及び位置とパラメータの値との関係の一例を模式的に示す図である。 クリップフレーム画像の生成処理に用いられる仮想空間の一例を示す図である。 本発明の一実施形態に係る画像配信システムで実現される機能の一例を示す機能ブロック図である。 本発明の一実施形態に係るステッチサーバで行われる処理の流れの一例を示すフロー図である。
以下、本発明の一実施形態について図面に基づき詳細に説明する。
図1は、本発明の一実施形態に係る画像送信システム1の全体構成の一例を示す図である。図1に示すように、本実施形態に係る画像送信システム1は、いずれもコンピュータを中心に構成された、カメラサーバ10、ステッチサーバ12、クライアント14(14−1、14−2、・・・、14−n)を含んでいる。カメラサーバ10、ステッチサーバ12、クライアント14は、インターネットなどのコンピュータネットワーク16に接続されている。そして、カメラサーバ10、ステッチサーバ12、クライアント14は、互いに通信可能になっている。
カメラサーバ10は、図1に示すように、例えば、制御部10aと、記憶部10bと、通信部10cと、マルチカメラモジュール10dと、を含む。制御部10aは、例えばCPU等のプログラム制御デバイスであって、記憶部10bに記憶されたプログラムに従って各種の情報処理を実行する。記憶部10bは、例えばROMやRAM等の記憶素子やハードディスクドライブなどである。通信部10cは、例えばコンピュータネットワーク16を介してステッチサーバ12との間でデータを授受するための通信インタフェースである。カメラサーバ10は、通信部10cを経由してステッチサーバ12との間で情報の送受信を行う。マルチカメラモジュール10dは、互いに異なる方向を撮像可能な複数のカメラを備えている。本実施形態に係るマルチカメラモジュール10dは、互いに異なる5つの水平方向を撮像するカメラと、鉛直上向き方向を撮像するカメラと、を備える。なお、マルチカメラモジュール10dが備える複数のカメラの配置は特に問わない。例えば、マルチカメラモジュール10dが、互いに異なる4つの水平方向を撮像するカメラと、鉛直上向き方向を撮像するカメラと、鉛直下向き方向を撮像するカメラと、を備えていてもよい。
ステッチサーバ12は、図1に示すように、例えば、制御部12aと、記憶部12bと、通信部12cと、を含む。制御部12aは、例えばCPU等のプログラム制御デバイスであって、記憶部12bに記憶されたプログラムに従って各種の情報処理を実行する。本実施形態に係る制御部12aには、CPUから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するGPU(Graphics Processing Unit)も含まれている。記憶部12bは、例えばROMやRAM等の記憶素子やハードディスクドライブなどである。また、本実施形態に係る記憶部12bには、GPUにより画像が描画されるフレームバッファの領域が確保されている。通信部12cは、例えばコンピュータネットワーク16を介してカメラサーバ10やクライアント14との間でデータを授受するための通信インタフェースである。
クライアント14は、ユーザが利用する情報処理端末である携帯型のコンピュータであり、例えば、携帯型パーソナルコンピュータ、携帯型ゲーム装置、スマートフォン、などである。クライアント14は、例えば、制御部14aと、記憶部14bと、通信部14cと、出力部14dと、入力部14eと、検出部14fと、を含む。制御部14aは、例えばCPU等のプログラム制御デバイスであって、記憶部14bに記憶されたプログラムに従って各種の情報処理を実行する。本実施形態に係る制御部14aには、CPUから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するGPU(Graphics Processing Unit)も含まれている。記憶部14bは、例えばROMやRAM等の記憶素子やハードディスクドライブなどである。記憶部14bには、制御部14aによって実行されるプログラムなどが記憶される。また、本実施形態に係る記憶部14bには、GPUにより画像が描画されるフレームバッファの領域が確保されている。通信部14cは、例えばコンピュータネットワーク16を介してステッチサーバ12との間でデータを授受するための通信インタフェースである。クライアント14は、通信部14cを経由してステッチサーバ12との間で情報の送受信を行う。出力部14dは、例えば制御部14aから入力される指示に従って情報を表示出力するディスプレイ等の表示部や音声出力するスピーカ等の音声出力部である。入力部14eは、例えばユーザが行った操作の内容を制御部14aに出力するゲームコントローラ、タッチパッド、キーボード、マイク等である。検出部14fは、加速度センサやジャイロセンサ等といった、クライアント14の姿勢や位置を検出するデバイスである。なお検出部14fが、クライアント14の移動量や速度を検出可能であってもよい。
以下、図2を参照しながら、本実施形態に係る画像送信システム1で行われる画像送信の一例を説明する。
本実施形態では、カメラサーバ10のマルチカメラモジュール10dが備える各カメラは、例えば所定のフレームレート、例えば30fpsでそれぞれ独立した動画像を生成する。以下、当該動画像を撮像動画像と呼ぶこととする。また、撮像動画像に含まれるフレーム画像を撮像フレーム画像と呼ぶこととする。本実施形態では、互いに異なる5つの水平方向を撮像するカメラによって横720画素×縦1280画素のフレーム画像が含まれる動画像が生成される。そして、鉛直上向き方向を撮像するカメラによって、横480画素×縦640画素のフレーム画像が含まれる動画像が生成される。このようにして本実施形態では、6個の独立した撮像動画像が生成されることとなる。本実施形態では、各カメラにおける撮像タイミングは同期がとられており、撮像フレーム画像は、当該撮像フレーム画像の撮像日時に関連付けられていることとする。
そして本実施形態では、カメラサーバ10は、複数の撮像動画像、ここでは6個の撮像動画像を、所定のフォーマット、例えばMotionJPEG等でエンコードした上で、撮像動画像ストリームとしてステッチサーバ12に送信する。
そして本実施形態では、ステッチサーバ12で生成されるパノラマ画像生成プロセス20が、カメラサーバ10から当該複数の撮像動画像を受信してデコードする。このようにして、複数の撮像動画像のそれぞれについて一連の撮像フレーム画像が取得されることとなる。そしてステッチサーバ12のパノラマ画像生成プロセス20は、同じ撮像日時に関連付けられている、デコードされたフレーム画像群に基づいて、公知の手法により、当該撮像日時に関連付けられたパノラマ画像を生成する。本実施形態では、当該パノラマ画像は全方位画像であることとする。当該パノラマ画像をパノラマフレーム画像と呼ぶこととする。本実施形態では、パノラマフレーム画像の生成も所定のフレームレート、ここでは30fpsで行われることとする。
図3に本実施形態に係るパノラマフレーム画像の一例を模式的に示す。本実施形態ではパノラマフレーム画像の横方向の画素数はW、縦方向の画素数はHであることとする。例えば、当該パノラマフレーム画像が横3840画素×縦1920画素である場合は、W=3839、H=1919となる。そして、当該パノラマフレーム画像の左下端、右下端、左上端、右上端、の座標値はそれぞれ(0,0)、(W,0)、(0,H)、(W,H)であることとする。
そして本実施形態では、ステッチサーバ12は、クライアント14から画像の送信要求を受け付けると、当該クライアント14に対応付けられるクリッププロセス22を生成する。そして、画像の送信要求を行ったクライアント14とクリッププロセス22とが接続されて、当該クライアント14と当該クリッププロセス22との間でセッションが張られる。このようにして本実施形態では、ステッチサーバ12に接続しているクライアント14の数だけクリッププロセス22が生成され、実行されることとなる。
そしてクリッププロセス22は、接続相手のクライアント14から当該クライアント14において決定される視野範囲に対応付けられる視野範囲データを受け付ける。当該視野範囲は、例えば当該クライアント14が備える検出部14fにより検出される当該クライアント14の姿勢及び位置に基づいて決定される。また本実施形態では、クライアント14は、所定のフレームレート、ここでは例えば30fpsで、検出日時に関連付けられた視野範囲データをステッチサーバ12に送信することとする。
本実施形態では例えば、視野範囲データには、pan、tilt、roll、zoomの4つのパラメータの値が含まれる。本実施形態では、ユーザがクライアント14を傾けたり動かしたりすることで、当該パラメータの値を入力することができるようになっている。図4に、クライアント14の姿勢及び位置と当該4つのパラメータの値との関係の一例を模式的に示す。
図4に示すように、本実施形態では、クライアント14の出力部14dの一種であるディスプレイが配置されている面からその裏面に向かう方向をX1軸正方向とする。そして、ディスプレイが配置されている面から見て下から上に向かう方向をY1軸正方向とする。そして、ディスプレイが配置されている面から見て左から右に向かう方向をZ1軸正方向とする。
そして本実施形態では例えば、図4に示す基準となる姿勢のクライアント14を、角度pan1だけY1軸周りに、さらに角度tilt1だけZ1軸周りに、さらに角度roll1だけX1軸周りに回転させた際の姿勢が、検出部14fによって検出されたとする。ここで角度pan1は、Y1軸正方向に沿って見た場合の時計回りを正とした際の角度を表す。また角度tilt1は、Z1軸正方向に沿って見た場合の時計回りを正とした際の角度を表す。また角度roll1は、X1軸正方向に沿って見た場合の時計回りを正とした際の角度を表す。また図4に示す基準となる位置のクライアント14をX1軸正方向に沿ってzoom1だけ移動させた位置が、検出部14fによって検出されたとする。以上の場合は、パラメータpan、tilt、roll、zoomの値としてそれぞれpan1、tilt1、roll1、zoom1が設定された視野範囲データが送信される。また本実施形態では、視野範囲データには、当該視野範囲データに対応付けられるクライアント14の姿勢や位置の検出日時が関連付けられていることとする。
そして当該視野範囲データを受信したクリッププロセス22は、パノラマ画像生成プロセス20が生成したパノラマフレーム画像を取得する。そして、当該クリッププロセス22は、当該パノラマフレーム画像の一部に基づいて生成される画像であり、クライアント14から受け付けた視野範囲データが示す視野範囲に応じた画像であるクリップフレーム画像を生成する。本実施形態に係るクリップフレーム画像は、例えば、横1280画素×縦720画素の画像である。
本実施形態ではクリップフレーム画像は、クリッププロセス22が取得するパノラマフレーム画像と、クリッププロセス22が受け付ける視野範囲データが示す上述の4つのパラメータの値に基づいて生成される。ここで、クリップフレーム画像の生成処理の一例を説明する。
図5はクリップフレーム画像の生成処理に用いられる仮想空間の一例を示す図である。図5に示す仮想空間には、平面である仮想スクリーンVsがY2−Z2平面に平行に配置されている。また仮想スクリーンVsが配置されている位置のX2座標値は任意である。また、仮想スクリーンVsの大きさは任意であるが、仮想スクリーンVsの表面には、画像が配置されている。当該画像には、等間隔に縦横に並んだ複数の画素、ここでは例えば横1280画素×縦720画素が含まれている。
また、図5に示す仮想空間の原点には視点Vpが配置されている。また、図5に示す仮想空間には視線方向Vdが設定されている。また、基準となる配置では視線方向Vdを表す単位ベクトルのX2座標値は1であり、Y2座標値、Z2座標値はいずれも0である。また、Y2軸正方向が仮想スクリーンVsの上向きであることとする。また本実施形態では、視点Vpを通る、視線方向Vdに沿って延伸する直線は、仮想スクリーンVsの重心を通るようになっている。そして、基準となる配置における仮想スクリーンVsの重心は、図3に示すようにパノラマフレーム画像における点P(0,H/2)に対応付けられる。
ここで例えばクリッププロセス22が、パラメータpan、tilt、roll、zoomの値としてそれぞれpan1、tilt1、roll1、zoom1が設定された視野範囲データを受け付けたこととする。この場合、以下のようにして、当該視野範囲データの値に基づいて視線方向Vdの向き、仮想スクリーンVsの姿勢及び位置が決定される。具体的には例えば、クリッププロセス22は、視線方向Vdを、基準方向(1,0,0)に対して、Y1軸周りに角度pan1だけ、さらにZ1軸周りに角度tilt1だけ回転させる。このとき、視線方向Vdの回転に応じて、仮想スクリーンVsの配置が変化する。ここで仮想スクリーンVsは、仮想スクリーンVsと視線方向Vdとの位置関係は維持されたまま、原点を中心に回転移動することとなる。すなわち、視点Vpを通る、回転後の視線方向Vdに沿って延伸する直線は、変化後の仮想スクリーンVsの重心を通ることとなる。そして、クリッププロセス22は、zoom1だけ視線方向Vdの逆方向に沿って移動させた位置に、仮想スクリーンVsの位置を変更させる。そして、クリッププロセス22は、仮想スクリーンVsを、視線方向Vdを軸に反時計回りに角度roll1だけ回転させる。
そして、仮想スクリーンVsに含まれる各画素について、当該画素と視点Vpとを結ぶ直線と視点Vpを中心とした半径の長さが1である球面との交点のX2座標値xs、Y2座標値ys、Z2座標値zsが算出される。そして、各画素について算出された座標値(xs,ys,zs)に基づいて、当該画素に対応付けられるパラメータpan0及びtilt0の値が特定される。ここでは例えばpan0=arccos(sqrt((xs×xs)/(1−ys×ys)))、tilt0=arcsin(ys)との数式に従って、パラメータpan0及びtilt0の値が算出される。
そして、各画素について算出されたパラメータpan0及びパラメータtilt0の値に基づいて、当該画素に対応付けられる、パノラマフレーム画像内の位置の座標値(xi,yi)が特定される。ここではxi=−W×pan0/(2×pi)、yi=(H/2)×(1−tilt0/pi)との数式に従って、座標値(xi,yi)が算出される。
そして、仮想スクリーンVs上に配置されている各画素の位置に、当該画素に対応付けられるパノラマフレーム画像内の位置(xi,yi)の画素が配置される。すなわち、仮想スクリーンVsに含まれる各画素は、当該画素に対応付けられるパノラマフレーム画像内の位置(xi,yi)の画素に置換される。このような画素の置換後における、仮想スクリーンVsの表面に配置されている画像が、本実施形態に係るクリップフレーム画像となる。このように本実施形態では、パノラマフレーム画像に含まれる複数の画素に基づいてクリップフレーム画像が生成されることとなる。
そしてクリッププロセス22は、当該クリップフレーム画像を所定のフレームレート、ここでは例えば30fpsで生成して、エンコードすることでH.264形式の動画像を生成する。以下、当該動画像をクリップ動画像と呼ぶこととする。そしてクリッププロセス22は、当該クリップ動画像を、当該クリッププロセス22と接続されているクライアント14にクリップ動画像ストリームとして送信する。
そして、クライアント14は、クリップ動画像ストリームとしてクリップ動画像を受信する。そしてクライアント14は、受信したクリップ動画像をディスプレイ等の出力部14dに表示させる。なお、クライアント14は、受信したクリップ動画像を保存して、ユーザが自由に活用することができるようにしてもよい。以上のようにして本実施形態では、ユーザは、例えばクライアント14の姿勢を設定することによって指定された視野範囲に応じてパノラマフレーム画像が切り出されたクリップフレーム画像から構成される動画像を得ることができることとなる。
本実施形態では、視野範囲に対応付けられるクライアント14の方向とマルチカメラモジュール10dの撮像方向とは対応付けられている。そのため本実施形態では、ある時点に撮像された撮像フレーム画像に基づくパノラマフレーム画像において、当該時点においてクライアント14が向いている方向を撮像した部分が切り出されたクリップフレーム画像が表示されることとなる。具体的には例えば、ある時点t1においてクライアント14が東を向いており、その後別の時点t2においてクライアント14が西を向いていたとする。ここでクライアント14の向きとは、例えば、クライアント14のディスプレイが配置されている面からその裏面に向かう向き、ここでは方角を指すこととする。この場合には、時点t1に撮像された撮像フレーム画像に基づくパノラマフレーム画像において東を撮像した部分が切り出されたクリップフレーム画像が表示される。そしてその後時点t2に撮像された撮像フレーム画像に基づくパノラマフレーム画像において西を撮像した部分が切り出されたクリップフレーム画像が表示されることとなる。
また本実施形態では、クライアント14の姿勢の検出日時と同じタイミングに撮像された撮像画像に基づくパノラマフレーム画像から、当該姿勢に対応付けられる視野範囲の部分が切り出されたクリップフレーム画像が生成されるようになっている。具体的には例えば、クリッププロセス22は、受け付けた視野範囲データに関連付けられている検出日時と同じタイミングである撮像日時が関連付けられているパノラマフレーム画像を特定する。そして、クリッププロセス22は、当該視野範囲データが示す視野範囲に基づいて特定される当該パノラマフレーム画像に含まれる複数の画素から構成されるクリップフレーム画像を生成する。
本実施形態では、クライアント14で指定される視野範囲に応じたクリップフレーム画像の生成は、クライアント14ではなくステッチサーバ12で行われる。そして、生成されたクリップフレーム画像がステッチサーバ12からクライアント14に送信される。そのため本実施形態では、クリップフレーム画像よりもサイズが大きいパノラマフレーム画像がステッチサーバ12からクライアント14に送信される場合よりも、通信帯域が逼迫するおそれが低減される。よって本実施形態では、通信帯域を逼迫させることなくユーザが所望の視野範囲に応じた高品質な画像を得ることができることとなる。
また本実施形態では、パノラマ画像生成プロセス20による処理と複数のクライアント14のそれぞれに対応付けられるクリッププロセス22による処理とは非同期に実行される。またクリッププロセス22による処理は、クライアント14毎、すなわち受け付ける視野範囲データ毎に並列的に実行される。そのため本実施形態では、1のパノラマフレーム画像に基づく、互いに異なる視野範囲に応じたクリップフレーム画像を、各クライアント14でユーザは見ることができることとなる。
また本実施形態では、パノラマ画像生成プロセス20による処理とクリッププロセス22による処理とはいずれもステッチサーバ12が備えるGPUによってリアルタイムに実行されるようになっている。そのため撮像動画像の撮像タイミングからそれほど遅れることなく当該撮像動画像に基づいて生成されるクリップ動画像がクライアント14のディスプレイに表示されることとなる。
以下、本実施形態に係る画像送信システム1の機能についてさらに説明する。
図6は、本実施形態に係る、画像送信システム1で実現される機能の一例を示す機能ブロック図である。なお、本実施形態に係る画像送信システム1で、図6に示す機能のすべてが実現される必要はなく、また、図6に示す機能以外の機能が実現されていても構わない。
図6に示すように、本実施形態に係るステッチサーバ12は、機能的には例えば、撮像動画像受信部30、パノラマ画像生成部32、パノラマ画像取得部34、視野範囲データ受付部36、クリップ画像生成部38、クリップ画像送信部40、を含んでいる。撮像動画像受信部30、視野範囲データ受付部36、クリップ画像送信部40は、通信部12cを主として実装される。パノラマ画像生成部32、パノラマ画像取得部34、クリップ画像生成部38は、制御部12a、特にGPUを主として実装される。また、撮像動画像受信部30、パノラマ画像生成部32は、パノラマ画像生成プロセス20によって実行される機能に相当する。そして、パノラマ画像取得部34、視野範囲データ受付部36、クリップ画像生成部38、クリップ画像送信部40は、クリッププロセス22によって実行される機能に相当する。以上のようにして本実施形態に係るステッチサーバ12は、画像を送信する画像送信装置としての役割を担うこととなる。
そして、以上の機能は、コンピュータであるステッチサーバ12にインストールされた、以上の機能に対応する指令を含むプログラムを、ステッチサーバ12の制御部12aで実行することにより実装されている。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどのコンピュータネットワークを介してステッチサーバ12に供給される。本実施形態では、上述のプログラムの一種であるパノラマ画像生成プログラムを実行することにより、パノラマ画像生成プロセス20が生成され、上述のプログラムである別のクリッププログラムを実行することにより、クリッププロセス22が生成されることとする。なお、1のプログラムを実行することにより、パノラマ画像生成プロセス20及びクリッププロセス22が生成されても構わない。
また、図6に示すように、本実施形態に係るクライアント14は、機能的には例えば、姿勢検出部50、視野範囲データ生成部52、視野範囲データ送信部54、クリップ画像受付部56、表示制御部58、を含んでいる。姿勢検出部50は、検出部14fを主として実装される。視野範囲データ生成部52は、制御部14aを主として実装される。視野範囲データ送信部54、クリップ画像受付部56は、通信部14cを主として実装される。表示制御部58は、制御部14a及び出力部14dを主として実装される。
そして、以上の機能は、コンピュータであるクライアント14にインストールされた、以上の機能に対応する指令を含むプログラムを、クライアント14の制御部14aで実行することにより実装されている。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどのコンピュータネットワークを介してクライアント14に供給される。
姿勢検出部50は、クライアント14の姿勢を検出する。また本実施形態に係る姿勢検出部50は、上述のようにクライアント14の姿勢だけでなくその位置、速度、移動量なども検出する。
視野範囲データ生成部52は、視野範囲データを生成する。本実施形態では、姿勢検出部50が検出したクライアント14の姿勢及び位置に基づいて、視野範囲データを生成する。本実施形態では上述のように、視野範囲データには、パラメータpan、tilt、roll、zoomそれぞれの値が含まれる。本実施形態では、視野範囲データには、当該視野範囲データに対応するクライアント14の姿勢及び位置の検出日時が関連付けられている。そして本実施形態では、複数の検出タイミングについての視野範囲に対応付けられる視野範囲データが生成される。
視野範囲データ送信部54は、ステッチサーバ12に視野範囲データを送信する。視野範囲データ送信部54は、本実施形態では、視野範囲データ生成部52が生成する視野範囲データをステッチサーバ12に送信する。
なお上述のように、視野範囲データ生成部52が、所定のフレームレート、例えば30fpsで視野範囲データを生成して、視野範囲データ送信部54が、当該フレームレートで生成された視野範囲データを送信してもよい。
あるいは、ユーザによる所定の明示の送信操作の受付に応じて、視野範囲データ生成部52が姿勢検出部50によるクライアント14の姿勢の検出結果に基づいて視野範囲データを生成し、視野範囲データ送信部54が当該視野範囲データを送信してもよい。
クリップ画像受付部56は、パノラマ画像の一部に基づいてステッチサーバ12が生成する、視野範囲データ送信部54が送信した視野範囲データに対応付けられる視野範囲に応じた画像を、ステッチサーバ12から受け付ける。クリップ画像受付部56は、本実施形態では上述のクリップ動画像をクリップ動画像ストリームとして受け付ける。
表示制御部58は、クリップ画像受付部56が受け付ける画像を出力部14dに表示させる。表示制御部58は、クリップ動画像を出力部14dに表示させる。また表示制御部58は、クリップ動画像全体のうちの一部を占める領域を表示させてもよい。そして、ユーザから受け付ける変更操作に応じて、表示される領域を例えば上下左右に移動させるようにしてもよい。こうすればクライアント14において、受け付けたクリップ動画像内における視野範囲の変更を行うことができる。
撮像動画像受信部30は、撮像動画像を受信する。本実施形態では、撮像動画像受信部30は、カメラサーバ10から6個の独立した撮像動画像を受信する。
パノラマ画像生成部32は、それぞれ互いに異なる方向を撮像した画像である、複数の撮像画像に基づいてパノラマ画像を生成する。本実施形態では、パノラマ画像生成部32は、上述のように、6個の独立した撮像動画像をデコードして、撮像フレーム画像を取得する。そして、パノラマ画像生成部32は、同じ撮像日時に関連付けられている、デコードされたフレーム画像群に基づいて、公知の手法により、当該撮像日時に関連付けられたパノラマフレーム画像を生成する。
パノラマ画像取得部34は、画像を取得する。パノラマ画像取得部34は、本実施形態では、パノラマ画像生成部32が生成したパノラマ画像を取得する。なお、パノラマ画像取得部34は、例えば、ステッチサーバ12の記憶部12bに予め記憶されている動画像にフレーム画像として含まれているパノラマ画像を取得するようにしてもよい。また本実施形態では、パノラマ画像取得部34は、クリップ画像送信部40が送信するクリップ動画像に含まれるフレーム画像にそれぞれが対応付けられるパノラマフレーム画像を取得する。このように本実施形態では、パノラマ画像取得部34は動画像を取得する。
視野範囲データ受付部36は、視野範囲に対応付けられる視野範囲データをクライアント14から受け付ける。本実施形態では、視野範囲データ受付部36は、複数のタイミングについての視野範囲に対応付けられる視野範囲データを受け付ける。なお、視野範囲データ送信部54が、所定のフレームレートで視野範囲データを送信する場合は、視野範囲データ受付部36は、当該フレームレートで視野範囲データを受け付けることとなる。また、視野範囲データ送信部54が、所定の明示の送信操作に応じて視野範囲データを送信する場合は、視野範囲データ受付部36は、視野範囲データが送信される度に受け付けることとなる。また本実施形態では、視野範囲データ受付部36は、複数のクライアント14のそれぞれから視野範囲データを受け付けることとなる。
クリップ画像生成部38は、パノラマ画像取得部34が取得する画像の一部に基づいて生成される画像である、受け付ける視野範囲データに対応付けられる視野範囲に応じた画像を生成する。上述のように本実施形態では、所定のフレームレート、例えば30fpsでクリップフレーム画像が生成される。そして、クリップ画像生成部38は、生成されるクリップフレーム画像をエンコードすることで例えばH.264形式のクリップ動画像を生成する。当該クリップフレーム画像は、上述のように、当該クリップフレーム画像に対応付けられるパノラマフレーム画像の一部に基づいて生成される画像である。また当該クリップフレーム画像は、当該クリップフレーム画像に対応付けられるタイミングについての視野範囲データに対応付けられる視野範囲に応じた画像である。また本実施形態では、クリップ画像生成部38によるクリップ動画像の生成は、対応付けられるクライアント14毎に並列的に実行される。
また本実施形態では、視野範囲データ受付部36は、最後に受け付けた視野範囲データの値、すなわち最新の視野範囲データの値を保持する。そして視野範囲データ受付部36が視野範囲データを受け付けた際には、クリップ画像生成部38は、保持されている視野範囲データの値を受け付けた視野範囲データの値に変更する。そして、クリップ画像生成部38は、保持されている視野範囲データの値と、パノラマフレーム画像の一部に基づいて、クリップフレーム画像を生成する。
なお、視野範囲データ送信部54が、前回送信した視野範囲データが表す姿勢と現在のクライアント14の姿勢との差分や、前回送信した視野範囲データが表す位置と現在のクライアント14の位置との差分を示す視野範囲データを送信してもよい。この場合は、クリップ画像生成部38は、保持されている視野範囲データの値に、受け付けた視野範囲データの値を加算することとなる。
クリップ画像送信部40は、パノラマ画像取得部34が取得する画像の一部に基づいて生成される画像である、受け付ける視野範囲データに対応付けられる視野範囲に応じた画像をクライアント14に送信する。本実施形態では、クリップ画像送信部40は、クリップ画像生成部38が生成するクリップ動画像をクリップ動画像ストリームとしてクライアント14に送信する。このように本実施形態では、クリップ画像送信部40は動画像をクライアント14に送信する。ここで当該動画像に含まれるフレーム画像のそれぞれは、パノラマ画像取得部34が取得する動画像に含まれるフレーム画像の一部に基づいて生成される画像である。また、当該動画像に含まれるフレーム画像のそれぞれは、受け付ける視野範囲データに対応付けられる視野範囲に応じた画像である。また本実施形態では、クリップ画像送信部40によるクリップ動画像の送信は、視野範囲データの送信元であるクライアント14毎に並列的に実行される。
以下、本実施形態に係るステッチサーバ12で行われる、取得したパノラマフレーム画像に基づくクリップフレーム画像の生成処理の一例を図7に示すフロー図を参照しながら説明する。
まずクリップ画像生成部38は、保持している視野範囲データの値に基づいて上述のようにして視線方向Vdの向き、仮想スクリーンVsの姿勢及び位置を決定する(S101)。そしてクリップ画像生成部38は、仮想スクリーンVsに含まれる各画素について当該画素と視点Vpとを結ぶ直線と視点Vpを中心とした半径の長さが1である球面との交点の座標値(xs,ys,zs)を算出する(S102)。そしてクリップ画像生成部38は、仮想スクリーンVsに含まれる各画素について当該画素に対応付けられる算出された座標値(xs,ys,zs)に基づいて、上述のようにしてパラメータpan0及びtilt0の値を算出する(S103)。そしてクリップ画像生成部38は、仮想スクリーンVsに含まれる各画素について、当該画素に対応付けられるパラメータpan0及びtilt0の値に基づいてパノラマフレーム画像内の位置の座標値(xi,yi)を特定する(S104)。このようにして特定される座標値(xi,yi)は仮想スクリーンVsに含まれる当該画素に対応付けられるものである。そしてクリップ画像生成部38は、仮想スクリーンVsに含まれる各画素について、当該画素の位置に、当該画素に対応付けられる、S104に示す処理で特定されたパノラマフレーム画像内の座標値(xi,yi)で表される位置の画素を配置する(S105)。S105に示す処理の終了後に仮想スクリーンVsの表面上に配置されている画像が、本実施形態に係るクリップフレーム画像である。このようにして、本実施形態では、上述のS101〜S105に示す処理をクリップ画像生成部38が実行することによって、クリップフレーム画像が生成される。
なお上述の処理の実行順序は特に問わない。例えば、仮想スクリーンVsに含まれるいずれかの画素について上述のS103〜S105に示す処理を実行することが、仮想スクリーンVsに含まれるすべての画素について繰り返し実行されるようにしてもよい。またクリップフレーム画像の生成方法は上述のものには限定されない。例えば、仮想空間内に配置されている所定の長さの半径である球面の3Dオブジェクトの内側にパノラマフレーム画像がテクスチャとして貼り付けられていてもよい。そして、視点Vpから視線方向Vdを見た様子を表す画像がクリップフレーム画像として生成されてもよい。
なお、本発明は上述の実施形態に限定されるものではない。
例えば、クライアント14と1対1で対応付けられるクリッププロセス22でクリップ動画像が生成されなくてもよい。そして複数のクライアント14と接続可能なクリッププロセス22でクリップ動画像が生成されてもよい。そして例えば、視野範囲データ受付部36が互いに異なる複数のクライアント14から視野範囲の差が所定の差よりも小さい視野範囲データを受け付ける場合に、クリップ画像生成部38が、共通の画像、ここでは共通のクリップフレーム画像を生成してもよい。そしてクリップ画像送信部40が当該複数のクライアント14に生成された共通のクリップフレーム画像を送信してもよい。こうすれば、ステッチサーバ12におけるクリップ動画像をエンコードする負荷などといった、クリップ動画像の生成負荷を下げることができることとなる。
なおこの場合にクリップ画像生成部38が、当該複数の情報処理端末から受け付ける視野範囲データが示す視野範囲を包含する視野範囲の共通の画像を生成してもよい。そしてクリップ画像送信部40が、生成される共通の画像を複数のクライアント14に送信してもよい。
またこの場合に、クリップ画像送信部40が、共通の画像が送信される複数のクライアント14のそれぞれに、当該共通の画像に関連付けて領域データを送信してもよい。ここで領域データとは、例えば、共通の画像の一部を占める、当該領域データの送信元のクライアント14から受け付けた視野範囲データに対応付けられる領域を示すデータである。そしてクライアント14の表示制御部58が、クリップ動画像全体のうちの一部を占める、当該クライアント14が受け付けた領域データが示す領域を表示させてもよい。こうすれば、共通のクリップ動画像が送信される複数のクライアント14のそれぞれの出力部14dに、当該クライアント14の姿勢に応じた互いに異なる当該クリップ動画像の一部が表示されることとなる。
また例えば、クリップフレーム画像の生成は、視野範囲データの受付に応じてその後に行われる必要はなく、視野範囲データの受付よりも前に行われてもよい。具体的には例えばパノラマ画像生成プロセス20が、パノラマフレーム画像の互いに異なる複数の一部のそれぞれに対応付けられる複数のクリップフレーム画像を生成してもよい。ここでは、当該複数のクリップフレーム画像のそれぞれは視野範囲に対応付けられていてもよい。そして、クリッププロセス22が、当該複数のクリップフレーム画像のうちから受け付ける視野範囲データに対応付けられる視野範囲に応じた一部に対応付けられるクリップフレーム画像を選択してクライアント14に送信してもよい。ここで例えば、視野範囲データに対応付けられる視野範囲に最も近い視野範囲に対応付けられるクリップフレーム画像が選択されて、当該クリップフレーム画像がクライアント14に送信されてもよい。
また撮像動画像のフレームレートとクリップ動画像のフレームレートとは異なってもよい。また撮像動画像のフレームレートとパノラマ動画像のフレームレートも異なっていてもよい。また送信動画像のフレームレートが通信帯域の逼迫の程度や接続クライアント数に応じて可変であっても構わない。
また例えば、クライアント14の姿勢の検出日時と同じタイミングに撮像された撮像画像に基づくパノラマフレーム画像から、当該姿勢に対応付けられる視野範囲の部分が切り出されたクリップフレーム画像が生成される必要はない。例えば、姿勢の検出日時の所定時間前に撮像された撮像画像に基づくパノラマフレーム画像に基づいてクリップフレーム画像が生成されてもよい。また、姿勢の検出日時に最も近い撮像日時に撮像された撮像画像に基づくパノラマフレーム画像に基づいてクリップフレーム画像が生成されてもよい。
またクライアント14は、携帯型のコンピュータである必要はない。例えばクライアント14が、据置型の情報処理装置や、ヘッドマウントディスプレイなどであっても構わない。そしてクライアント14がユーザの視線や注視点を検出可能な検出装置を備えていてもよい。なお当該検出装置では、例えばカメラにより撮影されたユーザの目の画像内の、ユーザの目頭の位置を基準とした虹彩の位置に基づいてユーザの視線や注視点が検出される。また例えば、カメラにより撮影されたユーザの目の画像内の、赤外線を照らしてできた反射光の角膜上の位置に対する瞳孔の位置に基づいてユーザの視線や注視点を検出する検出装置も存在する。
そして例えば、上述の検出装置により検出される位置に対応付けられる領域については他の領域よりも解像度が高いクリップフレーム画像が生成されるようにしてもよい。例えば、検出装置により検出される視線の方向や注視点の位置に基づいて、図5に例示する仮想スクリーンVs内の領域が決定されるようにしてもよい。ここでは例えば、視線の方向や注視点の位置に対応付けられる仮想スクリーンVs内の位置が特定される。そして当該位置を重心とする所定の大きさの領域については、表示される画像の解像度が他の領域よりも高くなるようにしてもしてもよい。例えば、ユーザの視線の方向が左上方向である場合に、仮想スクリーンVs内において左上に位置する所定の大きさの領域が他の領域よりも高解像度であるクリップフレーム画像が生成されるようにしてもよい。こうすれば均一な解像度のクリップフレーム画像を表示させる場合よりも低い通信量で、クリップフレーム画像の全体が表示されるようにしつつ、ユーザが注視している位置付近については当該解像度の画像が表示されるようにすることができる。
また例えば、ユーザの視線の方向や注視点の位置に基づいて、表示されている画像がスクロールするようにしてもよい。例えばユーザの視線がまっすぐである場合に対するユーザの現在の視線方向の向きに応じた速度及び向きで、図5に例示する仮想スクリーンVsがスクロールするようにしてもよい。ここでは例えばユーザの視線が左方向である場合は、視野範囲データのパラメータpanの値を増加させることで仮想スクリーンVsが左方向にスクロールするようにしてもよい。そして変化後の視野範囲データの値に基づいてクリップフレーム画像が生成されるようにしてもよい。こうすればユーザは視線によって、パノラマフレーム画像からクリップフレーム画像として切り出される部分を変化させることができることとなる。
また例えば、ユーザの視線の方向又は注視点の位置が、所定時間変化しない場合や、所定時間における変化が所定の閾値以下である場合などに、当該視線の方向又は注視点の位置に対応付けられる向きにズームインする処理が実行されるようにしてもよい。ここでは例えば、視線の方向や注視点の位置に対応付けられる仮想スクリーンVs内の位置が特定されるようにしてもよい。そして当該位置を中心とする領域がズームインされるよう仮想スクリーンVsの位置が変化するようにしてもよい。あるいは例えば、視線の方向や注視点の位置に対応付けられるクリップフレーム画像内の位置を中心とする所定の領域が特定されるようにしてもよい。そしてクリップフレーム画像から当該領域を占める画像を切り出して、当該切り出された画像が拡大表示されるようにすることで、ズームインする処理が実行されるようにしてもよい。また同様にして、ユーザの視線の方向又は注視点の位置が、所定時間変化しない場合や、所定時間における変化が所定の閾値以下である場合などに、当該視線の方向又は注視点の位置に対応付けられる向きにズームアウトする処理が実行されるようにしてもよい。こうすればユーザは視線によってステッチサーバ12やクライアント14にズームインする処理やズームアウトする処理を行わせることができることとなる。
また例えばユーザから受け付ける視線設定操作に基づいて生成される視野範囲データがステッチサーバ12に送信されるようにしてもよい。
また、カメラサーバ10やステッチサーバ12がそれぞれ複数の筐体から構成されていてもよい。また、カメラサーバ10、ステッチサーバ12、クライアント14の役割分担は上述のものに限定されない。例えば、カメラサーバ10とステッチサーバ12とが一体であってもよい。
また、上記の具体的な文字列や図面中の具体的な文字列は例示であり、これらの文字列には限定されない。

Claims (7)

  1. 画像を取得する画像取得部と、
    視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける視野範囲データ受付部と、
    前記画像の一部に基づいて生成される画像である、前記視野範囲データに対応付けられる視野範囲に応じた画像を生成するクリップ画像生成部と、
    前記クリップ画像生成部により生成される画像を当該画像に対応付けられる前記視野範囲データの送信元の前記情報処理端末に送信する送信部と、を含み、
    前記視野範囲データ受付部が複数の前記情報処理端末のそれぞれから視野範囲の差が所定の差よりも小さい前記視野範囲データを受け付ける場合に、前記クリップ画像生成部は共通の画像を生成し、
    前記送信部は、前記クリップ画像生成部により生成される前記共通の画像を前記複数の前記情報処理端末に送信する、
    ことを特徴とする画像送信装置。
  2. 前記画像取得部は、前記送信部が送信する画像にそれぞれが対応付けられる複数の画像を取得し、
    前記視野範囲データ受付部は、複数のタイミングについての視野範囲に対応付けられる前記視野範囲データを受け付け、
    前記送信部は、それぞれが対応付けられる取得する前記画像の一部に基づいて生成される画像であり、対応付けられるタイミングについての前記視野範囲データに対応付けられる視野範囲に応じた画像である複数の画像を、フレーム画像として含む動画像を前記情報処理端末に送信する、
    ことを特徴とする請求項1に記載の画像送信装置。
  3. 前記画像取得部は、動画像を取得し、
    前記送信部は、それぞれ取得する前記動画像に含まれるフレーム画像の一部に基づいて生成される画像である、受け付ける前記視野範囲データに対応付けられる視野範囲に応じた画像をフレーム画像として含む動画像を、前記情報処理端末に送信する、
    ことを特徴とする請求項1に記載の画像送信装置。
  4. 前記視野範囲データの受付及び前記画像の送信は、前記視野範囲データの送信元である前記情報処理端末毎に並列的に実行される、
    ことを特徴とする請求項1から3のいずれか一項に記載の画像送信装置。
  5. 画像を取得する画像取得ステップと、
    視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける視野範囲データ受付ステップと、
    前記画像の一部に基づいて生成される画像である、前記視野範囲データに対応付けられる視野範囲に応じた画像を生成するクリップ画像生成ステップと、
    前記クリップ画像生成ステップで生成される画像を当該画像に対応付けられる前記視野範囲データの送信元の前記情報処理端末に送信する送信ステップと、を含み、
    前記視野範囲データ受付ステップで複数の前記情報処理端末のそれぞれから視野範囲の差が所定の差よりも小さい前記視野範囲データを受け付ける場合に、前記クリップ画像生成ステップで共通の画像を生成し、
    前記送信ステップで、前記クリップ画像生成ステップで生成される前記共通の画像を前記複数の前記情報処理端末に送信する、
    ことを特徴とする画像送信方法。
  6. 画像を取得する画像取得手順、
    視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける視野範囲データ受付手順、
    前記画像の一部に基づいて生成される画像である、前記視野範囲データに対応付けられる視野範囲に応じた画像を生成するクリップ画像生成手順、
    前記クリップ画像生成手順で生成される画像を当該画像に対応付けられる前記視野範囲データの送信元の前記情報処理端末に送信する送信手順、をコンピュータに実行させ、
    前記視野範囲データ受付手順で複数の前記情報処理端末のそれぞれから視野範囲の差が所定の差よりも小さい前記視野範囲データを受け付ける場合に、前記クリップ画像生成手順で共通の画像を生成し、
    前記送信手順で、前記クリップ画像生成手順で生成される前記共通の画像を前記複数の前記情報処理端末に送信する、
    ことを特徴とするプログラム。
  7. 画像を取得する画像取得手順、
    視野範囲に対応付けられる視野範囲データを情報処理端末から受け付ける視野範囲データ受付手順、
    前記画像の一部に基づいて生成される画像である、前記視野範囲データに対応付けられる視野範囲に応じた画像を生成するクリップ画像生成手順、
    前記クリップ画像生成手順で生成される画像を当該画像に対応付けられる前記視野範囲データの送信元の前記情報処理端末に送信する送信手順、をコンピュータに実行させ、
    前記視野範囲データ受付手順で複数の前記情報処理端末のそれぞれから視野範囲の差が所定の差よりも小さい前記視野範囲データを受け付ける場合に、前記クリップ画像生成手順で共通の画像を生成し、
    前記送信手順で、前記クリップ画像生成手順で生成される前記共通の画像を前記複数の前記情報処理端末に送信する、
    ことを特徴とするプログラムを記憶したコンピュータ読み取り可能な情報記憶媒体。
JP2015562689A 2014-02-17 2014-10-07 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体 Active JP6359572B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014027546 2014-02-17
JP2014027546 2014-02-17
PCT/JP2014/076863 WO2015122052A1 (ja) 2014-02-17 2014-10-07 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体

Publications (2)

Publication Number Publication Date
JPWO2015122052A1 JPWO2015122052A1 (ja) 2017-03-30
JP6359572B2 true JP6359572B2 (ja) 2018-07-18

Family

ID=53799808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015562689A Active JP6359572B2 (ja) 2014-02-17 2014-10-07 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体

Country Status (3)

Country Link
US (1) US10356219B2 (ja)
JP (1) JP6359572B2 (ja)
WO (1) WO2015122052A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101716326B1 (ko) * 2015-09-08 2017-03-14 클릭트 주식회사 가상현실영상 전송방법, 재생방법 및 이를 이용한 프로그램
US10454576B2 (en) 2015-12-31 2019-10-22 Wellen Sham UAV network
US9955115B2 (en) 2015-12-31 2018-04-24 Wellen Sham Facilitating wide view video conferencing through a drone network
US9800321B2 (en) 2015-12-31 2017-10-24 Wellen Sham Facilitating communication with a vehicle via a UAV
CN109076253A (zh) * 2016-04-28 2018-12-21 索尼公司 信息处理装置和信息处理方法、以及三维图像数据发送方法
CA3055114C (en) * 2017-03-03 2021-12-28 Huawei Technologies Co., Ltd. Image display method and electronic device
JP7496412B2 (ja) * 2020-03-30 2024-06-06 株式会社ソニー・インタラクティブエンタテインメント 画像表示システム、画像処理装置、画像表示方法、およびコンピュータプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0955925A (ja) * 1995-08-11 1997-02-25 Nippon Telegr & Teleph Corp <Ntt> 画像システム
US6937266B2 (en) * 2001-06-14 2005-08-30 Microsoft Corporation Automated online broadcasting system and method using an omni-directional camera system for viewing meetings over a computer network
JP2003219389A (ja) * 2002-01-18 2003-07-31 Nippon Telegr & Teleph Corp <Ntt> 映像配信方法及びシステム及び装置及びユーザ端末及び映像配信プログラム及び映像配信プログラムを格納した記憶媒体
DE602004010363T2 (de) 2003-01-17 2008-10-23 Nippon Telegraph And Telephone Corp. Fernvideoanzeigeverfahren, videoerfassungseinrichtung, verfahren dafür und programm dafür
JP2004254031A (ja) 2003-02-19 2004-09-09 Canon Inc 画像処理システムの制御方法
JP2005192057A (ja) * 2003-12-26 2005-07-14 D Link Corp 空間画像の切出し表示方法及び装置
JP4349973B2 (ja) * 2004-03-31 2009-10-21 株式会社つくばマルチメディア 映像レイヤーリンク対応映像誘導システム
JP4717408B2 (ja) * 2004-10-13 2011-07-06 キヤノン株式会社 映像配信システム及び方法
JP2006157123A (ja) * 2004-11-25 2006-06-15 Eizoh Co Ltd 画像配信システム
US8471892B2 (en) * 2006-11-23 2013-06-25 Z. Jason Geng Wide field-of-view reflector and method of designing and making same
JP4860739B2 (ja) * 2009-09-03 2012-01-25 パナソニック株式会社 画像処理装置及び画像処理方法
JP2013017638A (ja) * 2011-07-11 2013-01-31 Olympus Corp 画像処理装置、内視鏡装置及びプログラム
JP5726779B2 (ja) * 2012-02-13 2015-06-03 日本電信電話株式会社 映像視聴システム及び映像視聴システムの制御方法

Also Published As

Publication number Publication date
US10356219B2 (en) 2019-07-16
US20170019504A1 (en) 2017-01-19
JPWO2015122052A1 (ja) 2017-03-30
WO2015122052A1 (ja) 2015-08-20

Similar Documents

Publication Publication Date Title
JP6359572B2 (ja) 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体
US9858643B2 (en) Image generating device, image generating method, and program
US10629107B2 (en) Information processing apparatus and image generation method
JP6044328B2 (ja) 画像処理システム、画像処理方法およびプログラム
JP6899875B2 (ja) 情報処理装置、映像表示システム、情報処理装置の制御方法、及びプログラム
US10681276B2 (en) Virtual reality video processing to compensate for movement of a camera during capture
JP6751205B2 (ja) ディスプレイ装置及びその制御方法
AU2017370476B2 (en) Virtual reality-based viewing method, device, and system
CN111696213A (zh) 图像生成装置、图像生成方法以及计算机可读介质
CN114175630B (zh) 利用注视点网格渲染沉浸式视频内容的方法、系统和介质
JP5743016B2 (ja) 画像を生成する装置および方法
JP2017215875A (ja) 画像生成装置、画像生成システム、および画像生成方法
EP3676794A1 (en) Zooming an omnidirectional image or video
EP3190566A1 (en) Spherical virtual reality camera
CN113286138A (zh) 一种全景视频显示方法及显示设备
JP7118383B1 (ja) 表示システム、表示方法、及び表示プログラム
JP7203157B2 (ja) 映像処理装置およびプログラム
JP6655751B1 (ja) 映像表示制御装置、方法およびプログラム
JP2017062831A (ja) 方法および画像処理装置
JP7247636B2 (ja) 画像調整システム、画像調整装置、及び画像調整方法
JP7167760B2 (ja) 画像調整システム
JP2025059154A (ja) 撮影システム、撮影方法、及びプログラム
JP2019003676A (ja) 画像処理システム、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180620

R150 Certificate of patent or registration of utility model

Ref document number: 6359572

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250