[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP7031228B2 - プログラム、画像表示方法、画像表示システム、情報処理装置 - Google Patents

プログラム、画像表示方法、画像表示システム、情報処理装置 Download PDF

Info

Publication number
JP7031228B2
JP7031228B2 JP2017207636A JP2017207636A JP7031228B2 JP 7031228 B2 JP7031228 B2 JP 7031228B2 JP 2017207636 A JP2017207636 A JP 2017207636A JP 2017207636 A JP2017207636 A JP 2017207636A JP 7031228 B2 JP7031228 B2 JP 7031228B2
Authority
JP
Japan
Prior art keywords
display
point
range
wide
attention point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017207636A
Other languages
English (en)
Other versions
JP2019080252A (ja
Inventor
陽平 藤田
修 小河原
崇之 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2017207636A priority Critical patent/JP7031228B2/ja
Priority to US16/160,129 priority patent/US10771704B2/en
Publication of JP2019080252A publication Critical patent/JP2019080252A/ja
Priority to US16/989,902 priority patent/US11140324B2/en
Application granted granted Critical
Publication of JP7031228B2 publication Critical patent/JP7031228B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、プログラム、画像表示方法、画像表示システム、及び、情報処理装置に関する。
テキストデータと比較して画像データは閲覧者に対する訴求力が強いという点で有利である。更に、画像データが動画の場合は、静止画に比べ多くの情報を含みうるし、画像が変化するため閲覧者に対する訴求力が強い。このため、従来からテレビコマーシャルなどでは動画が多く利用されている。
また、インターネットの普及によりWebページにも動画が利用されるようになった(例えば、特許文献1参照。)。特許文献1には、動画広告を配信することで広告の効果(クリック率)を高める技術について開示されている。人は動く物に視線を奪われやすいという傾向があるため、広告の注目度を高め広告の効果を向上させることができる。
しかしながら、従来の技術では必ずしも画像の注目点を閲覧者に見せることができないという問題がある。例えば、動画では決まった流れで画像が移り変わるだけであり、動画のうちの任意の注目点を積極的に閲覧者に見せることは困難である。
また、撮像装置の高機能化により画角が大きい撮像装置が普及するようになった。更に、魚眼レンズ等を利用した超広角な範囲を撮像できる撮像装置も普及し始めている。これらの広角な撮像装置により撮像された画像は画角が広いため、閲覧者が注目点を探せなかったり、画像の提供者が見せたい注目点を閲覧させられなかったりする場合があると考えられる。
本発明は、上記課題に鑑み、画像の注目点を閲覧者が閲覧することが可能なプログラムを提供することを目的とする。
本発明は、注目点を有する広角画像を表示装置に表示させる情報処理装置を、前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、前記広角画像は全天球画像であり、前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、立体球上の曲線の距離が長い方の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とするプログラムを提供する。
画像の注目点を閲覧者が閲覧することが可能なプログラムを提供することができる。
広角画像の一例として全天球画像について説明する図の一例である。 閲覧システムの概略を説明する図の一例である。 画像表示システムの概略的な構成図の一例である。 画像配信装置の概略的なハードウェア構成を示したブロック図である。 端末装置のハードウェア構成図の一例である。 全天球カメラの使用イメージ図の一例である。 全天球カメラで撮像された画像から全天球画像が作成されるまでの処理の概略を説明する図である。 全天球カメラで撮像された画像から全天球画像が作成されるまでの処理の概略を説明する図である。 閲覧者の視線を説明する図の一例である。 端末装置、広告主Webサーバ、パートナーサイトWebサーバ、画像配信装置、SSP及びDSPの機能をブロック状に示す機能ブロック図の一例である。 注目点決定部が注目点Pを決定する手順を示すフローチャート図の一例である。 全方位画像の部分画像を説明する図の一例である。 画像表示システムが広告として表示される全天球画像を配信する手順を説明するシーケンス図の一例である。 注目点の表示方法の一例を示す図である。 規則(i)~(iv)に基づく注目点Pの決定方法を模式的に説明する図である。 規則(i)~(iv)に基づく注目点Pの決定方法を模式的に説明する図である。 注目点表示部が注目点を表示する手順を示すフローチャート図の一例である。 複数の注目点の表示方法を説明する図の一例である。 注目点を表示させる際の全天球画像6の回転方法を説明する図の一例である。 注目点を表示させる際の全天球画像6の回転方法を説明する図の一例である。 複数の注目点を順番に表示させる注目点の表示方法を説明する図の一例である。 閲覧者の操作による注目点Pの表示方法を説明する図の一例である。 注目点表示部が注目点を表示する手順を示すフローチャート図の一例である。 表示範囲に注目点が入っているか否かの判断を説明する図の一例である。 拡大又は縮小を模式的に説明する図の一例である。 拡大のみのよる注目点の表示方法を説明する図の一例である。 表示範囲の中心から次の注目点への移動速度を説明する図の一例である。 表示パターンに従った各注目点の表示方法の一例を示す図である。
以下、本発明を実施するための形態の一例として、画像表示システム及び画像表示システムが行う画像表示方法について図面を参照しながら説明する。
<画像表示システムの動作の概略>
図1は、広角画像の一例として全天球画像6について説明する図の一例である。図1(a)は、3次元の立体球CSで表わされた全天球画像6を示し、図1(b)は正距円筒図法で表された全天球画像6を示す。全天球カメラで生成された全天球画像6は図1(b)のような画像が立体球CSに張り合わされた三次元の構造を有している。仮想カメラICは閲覧者の視点に対応し、図1では全天球画像6の中心に視点がある。閲覧者は仮想カメラICを通るX軸、Y軸、Z軸を中心とする3軸の回転を行わせて、全天球画像6の任意の所定領域Tを表示させることができる。この所定領域Tが表示範囲になる。所定領域Tは拡大又は縮小可能であり、全天球画像6のうち表示されている所定領域Tを画角という。
図2は、本実施形態の画像表示システムの概略を説明する図である。図2に示すように広告データが端末装置30に送信される。広告データと広告データの配信までの処理については後述されるが、広告データには図2(a)の全天球画像が含まれる。本実施形態の全天球画像は注目点を保持し、好ましくは更に各注目点の画角を保持している。注目点とは、注目すべき表示範囲の中心であるが、具体的には全天球画像を提示する者が見せたい表示範囲、1人以上の閲覧者による注目度が高い表示範囲の中心、又は、画像処理や機械学習等により特定された特徴点である。
(1)端末装置30は広告データを画像配信装置10から受信して、端末装置30で動作するブラウザ8が例えば広告枠7に予め定められた注目点Pを表示する。図2(a)の全天球画像6は3つの注目点P(区別する場合、P-1、P-2…のように表示する)と各注目点Pの画角を保持しているが、図2(b)では注目点P-1が表示されている。
(2)閲覧者は全天球画像を上下左右に回転させたり拡大/縮小させたりして任意の表示範囲を表示させることができる。しかし、閲覧者が注目点Pを含まない表示範囲を端末装置30に表示させてしまう場合がある。閲覧者は試行錯誤的に操作すればいずれかの注目点Pを表示させることもできるがそれが容易でない場合もある。また、全天球画像の提供者にとって、注目点Pを含まない表示範囲を端末装置30が表示したままであることは広告機会の損失になる。例えば、図2の例において、広告データを受信した端末装置30は、注目点P-1を含む画角で画像を表示している。全天球画像を提示する者は、現在表示されている注目点P-1とは異なる注目点である注目点P-2又はP-3を表示させたい。しかし、ユーザが自由に操作可能であるため、図2(b)の(2)では、注目点P-2及びP-3を含まない領域が表示されている。その後、図2(b)の(3)では、注目点P-3が含まれる領域が表示されている。しかし、これでは端末装置30において注目点P-2が表示されない。
(3)そこで、端末装置30は予め決まった規則にしたがって、閲覧者が操作しなくても注目点Pを含むように全天球画像を表示する。すなわち、閲覧者の操作により表示範囲に注目点Pが含まれなくなると、閲覧者が注目点Pを含むように表示範囲を定める操作をしなくても、端末装置30が自動的に注目点Pを表示範囲にすることができる。
したがって、本実施形態の画像表示システムによれば、自動的に注目点Pが表示範囲に表示させることができる。これにより、例えば注目点Pを閲覧者の興味を惹きやすい画像が含まれる位置、領域とすることで、閲覧者に対する画像の広告の効果(例えばクリック率)を高めることができる。自動的に注目点Pが表示範囲に表示されるため、閲覧者に対して注目点の画像を表示させるための操作を強いることが不要になり、閲覧者の負担を低減できる。
<用語について>
注目点Pとは、全天球画像6のうち特徴的な像(部分)が写っている部分をいう。「点」と称しても1画素に限られるものでなく一部を意味してよい。例えば、注目点Pは閲覧者が興味を示すと推測される部分である。注目点Pは、例えば純粋な画像処理により決定されてもよい(予め用意した画像と同じ画像が表示される位置を画像処理によって特定する等)し、所定の被写体が写っている部分として検出されてもよいし、1人以上の閲覧者が実際に表示した部分から統計的に決定されてもよい。
広告の効果とは、少なくとも閲覧者にその画像を注目させることであるが、更に閲覧者がクリック(又はタップ)することを効果と称してもよい。
表示範囲を移動する又は変更するとは広告枠7に表示される広角画像の一部の領域が変わることを言い、画像の拡大や縮小なども含まれる。広角画像が全天球画像6の場合、全天球画像が球体なので全天球画像を回転させるともいうことができる。
<システム構成例>
図3は、画像表示システム100の概略的な構成図の一例である。画像表示システム100は、ネットワークNを介して通信可能な端末装置30、画像配信装置10、DSP(Demand-Side Platform)20、SSP(Supply Side Platform)50、パートナーサイトWebサーバ60、及び、広告主Webサーバ70を有している。
ネットワークNは、端末装置30が設置されている施設などに構築されているLAN、LANをインターネットに接続するプロバイダのプロバイダネットワーク、及び、回線事業者が提供する回線等により構築されている。ネットワークNは複数のLANを有していたり、WANと呼ばれていたりしてもよい。また、ネットワークNにはインターネットが含まれる。ネットワークNは有線又は無線のどちらで構築されてもよく、また、有線と無線が組み合わされていてもよい。また、端末装置30が直接、公衆回線網に接続する場合は、LANを介さずにプロバイダネットワークに接続することができる。
端末装置30は、本実施形態においてクライアント端末として動作する情報処理装置である。端末装置30ではブラウザ8又はこれと同等の機能を有するアプリケーションソフトウェアが動作しており、端末装置30が要求したWebページをパートナーサイトWebサーバ60から受信してディスプレイ(後述するディスプレイ315)に表示させる。
端末装置30は、例えばPC(Personal Computer)、タブレット装置、スマートフォン、PDA(Personal Digital Assistant)、ゲーム機、ナビゲーション端末、ウェアラブルPCなどであるが、Webページを表示させることができればよい。例えば、プリンターがWebページを表示させる機能やディスプレイを有する場合、プリンターが端末装置30として使用されてもよい。また、デジタルサイネージがWebページを表示させてもよい。デジタルサイネージとは、屋外、店頭、公共空間及び交通機関など、人が通過又は存在しうる場所でディスプレイなどの電子的な表示機器を使って情報を発信するシステム、表示機器又は表示される情報をいう。なお、本実施形態ではWebページにWebアプリが含まれるものとする。Webアプリとは、Webブラウザ上で動作するプログラミング言語(たとえばJavaScript(登録商標))によるプログラムとWebサーバ側のプログラムが協調することによって動作し、Webブラウザ上で使用されるソフトウェア又はその仕組みを言う。
端末装置30は、有線LANや無線LANのアクセスポイントを介してネットワークNと接続してもよいし、3G、4GやLTE(Long Term Evolution)といった交換回線型の通信により、ネットワークNに接続してもよい。
パートナーサイトWebサーバ60は閲覧者が使用するクライアントコンピュータ(本実施形態の端末装置30)に対しネットワークを通じて情報や機能を提供するサーバ(一般的な情報処理装置)である。広告主Webサーバ70が提供するWebページには広告枠7が設けられている。パートナーサイトWebサーバ60はSSP50に広告枠7への広告の表示を依頼する。
広告主Webサーバ70も閲覧者が使用するクライアントコンピュータ(本実施形態の端末装置30)に対しネットワークを通じて情報や機能を提供するサーバ(一般的な情報処理装置)である。閲覧者が広告枠7をクリック(又はタップ)すると端末装置30が広告主Webサーバ70にアクセスする。広告主Webサーバ70は広告主により運営されており、DSP20に自社の製品又はサービスの広告を表示する広告枠7の購入を依頼し、画像配信装置10に広告の生成と広告の表示を依頼している。
広告主Webサーバ70及びパートナーサイトWebサーバ60と端末装置30は例えばHTTP又はHTTPsの通信プロトコルを使って通信する。端末装置30からの要求に対し広告主Webサーバ70とパートナーサイトWebサーバ60が画面情報を端末装置30に送信する。画面情報は、HTML、スクリプト言語、及びCSS(cascading style sheet)で記述されたプログラムであり、主にHTMLによりWebページの構造が特定され、スクリプト言語によりWebページの動作が規定され、CSSによりWebページのスタイルが特定される。本実施形態で、閲覧者のWebページに対する操作を全天球画像6に反映させるのはスクリプト言語である。スクリプト言語として、具体的には、JavaScript(登録商標)又はECMAScriptというプログラム言語が知られている。なお、スクリプトとはプログラムの一種であり、ソフトウェアともいう。
広告主Webサーバ70及びパートナーサイトWebサーバ60はいずれもクッキー(Cookie)を端末装置30に記録する。広告主Webサーバ70は自社のクッキーとDSP20のクッキーの両方を記録し、パートナーサイトWebサーバ60は自社のクッキーとSSP50のクッキーの両方を記録する。
SSP50は、広告枠7を掲載するパートナーサイトWebサーバ60が広告枠7を販売することで収益を最大化するための仕組みである。図では1つの装置のように記載されているが、1台以上の情報処理装置のネットワークである。パートナーサイトWebサーバ60はSSP50に広告枠7の販売を依頼している。具体的には広告枠7にSSP50が発行する広告タグが記載されており、端末装置30がパートナーサイトWebサーバ60のWebページを表示すると広告タグがSSP50に広告の配信を要求する(広告リクエスト)。SSP50はDSP20から広告枠7の入札を受け付け、落札したDSP20にアクセスするための後述するアクセス情報1を端末装置30に送信する。
DSP20は広告枠7の買い付け、広告配信等、広告主のために効率的・効果的な広告配信を行う仕組みである。図では1つの装置のように記載されているが、1台以上の情報処理装置のネットワークである。すなわち、DSP20はSSP50から閲覧者の端末装置30が保持するSSPクッキー等を取得して、自分が管理するDSPクッキーとSSPクッキーの対応付情報に基づき閲覧者の属性等を判断する。そして、閲覧者の属性や予算等に基づいて依頼している広告主からの広告の配信設定に基づいて決定した価格でSSP50に入札する。
落札したDSP20はアクセス情報1により端末装置30から広告を要求される。DSP20は画像配信装置10に広告リクエストを通知して、画像配信装置10から画像配信装置10に端末装置30が広告データを要求するための後述するアクセス情報2を取得する。なお、広告データは、全天球画像6,全天球画像6を表示させる表示プログラム及び操作履歴を取得する操作履歴プログラムを含む。
DSP20はアクセス情報2を端末装置30に送信する。DSP20は契約にしたがって広告主に課金する。画像配信装置10と広告主との間では契約に従った課金が行われる。ただし、広告が表示されただけで課金されるかどうかなどは契約によって異なる。
画像配信装置10は、DSP20が買い取った広告枠7に対し閲覧者の属性に最適な広告の素材(全天球画像6)を含む広告データを提供する1台以上の情報処理装置である。画像配信装置10はバナーやテキストなどの入稿素材や広告画像を保持している。広告データは単なるバナー(文字や写真や絵でつくられた画像)の場合もあるし、画像に加えスクリプト言語が含まれる場合がある。本実施形態では、全天球画像6に注目点Pを表示させたり、閲覧者の全天球画像6に対する操作を全天球画像6の表示態様に反映させたりする表示プログラム、及び、全天球画像6に対する操作履歴を記録したりするための操作履歴プログラムが含まれる。いずれもスクリプト言語で記述される。
画像配信装置10による広告用の画像の配信を第三者配信という。第三者配信とは、広告主側でキャンペーン全体を管理するために、複数の媒体を横断して広告を配信する仕組みである。第三者配信サーバは広告の配信頻度などのコントロールや広告の効果の計測等を行う。画像配信装置10が第三者配信サーバに相当する。
端末装置30がアクセス情報2に基づいて画像配信装置10に広告データを要求すると、画像配信装置10は広告データを端末装置30に送信する。広告データには全天球画像6が含まれており、表示プログラムは全天球画像6の注目点を表示させるように自動的に全天球画像を回転させ、また、拡大したり縮小したりする。また、操作履歴プログラムは画像配信装置10のクッキー(区別するため画像クッキーという)及び画像IDと共に全天球画像6に対する操作履歴を画像配信装置10に送信する。操作履歴は例えば、どの閲覧画角が表示されたか又はクリックされたかという情報である。なお、この操作履歴は注目点Pの決定等に使用される。
また、操作履歴プログラムは、後述する表示パターンのパターンIDと共にクリックされた旨を画像配信装置10に送信する。画像配信装置10は1つの全天球画像6に対し複数の表示パターンを定めており、各表示パターンのクリック率を監視することで、クリック率が高い表示パターンのみを配信できるようになる。
<ハードウェア構成例>
図4は、画像配信装置10の概略的なハードウェア構成を示したブロック図である。画像配信装置10は、概ねパーソナル・コンピュータ、ワークステーション又はアプライアンス・サーバとして実装することができる。画像配信装置10は、CPU201と、CPU201が使用するデータの高速アクセスを可能とするメモリ202とを備える。CPU201及びメモリ202は、システム・バス203を介して、画像配信装置10の他のデバイス又はドライバ、例えば、グラフィックス・ドライバ204及びネットワーク・デバイス(NIC)205へと接続されている。
グラフィックス・ドライバ204は、バスを介してLCD(Liquid Crystal Display)206に接続されて、CPU201による処理結果をモニタする。LCD206にはタッチパネルが一体に配置されていてもよい。この場合、閲覧者は操作手段として指を使って画像配信装置10を操作できる。
また、ネットワーク・ドライバ205は、トランスポート層レベル及び物理層レベルで画像配信装置10をネットワークNへと接続して、広告主Webサーバ70又は端末装置30等とのセッションを確立させている。
システム・バス203には、更にI/Oバス・ブリッジ207が接続されている。I/Oバス・ブリッジ207の下流側には、PCIなどのI/Oバス208を介して、IDE、ATA、ATAPI、シリアルATA、SCSI、USBなどにより、HDD209などの記憶装置が接続されている。HDD209の代わりに又はHDD209と共にSSD(Solid State Drive)を有していてもよい。
HDD209は画像配信装置10の全体を制御するプログラム209pを記憶している。また、I/Oバス208には、USBなどのバスを介して、キーボード及びマウス(ポインティング・デバイスと呼ばれる)などの入力装置210が接続されうる。
広告主Webサーバ70、パートナーサイトWebサーバ60、SSP50、及び、DSP20のハードウェア構成図は図4と相違がないか、又は、相違があったとしても本実施形態の説明の上で支障がないものとする。広告主Webサーバ70、パートナーサイトWebサーバ60、DSP20、及び画像配信装置10はクラウドコンピューティングに対応していることが好ましい。クラウドコンピューティングとは、特定ハードウェア資源が意識されずにネットワーク上のリソースが利用される利用形態をいう。この場合、図4に示したハードウェア構成は、1つの筐体に収納されていたり、一まとまりの装置として備えられていたりする必要はなく、広告主Webサーバ70、パートナーサイトWebサーバ60、DSP20、及び画像配信装置10が備えていることが好ましいハード的な要素を示す。
図5は、端末装置30のハードウェア構成図の一例を示す。なお、図5では端末装置30としてスマートフォンやタブレット装置が想定された構成になっているが、前述の通り、端末装置30としてスマートフォンやタブレット装置以外の装置が含まれるため、端末装置30のハードウェア構成としてはこれに限られない。
端末装置30は、互いにバス310に接続された、CPU301、ROM302、RAM303、フラッシュメモリ304、CMOSセンサ305、加速度・方位センサ306、ジャイロセンサ307、メディアドライブ308、音声入力部311、音声出力部312、通信装置313、GPS受信部314、ディスプレイ315、及び、タッチパネル316を有する。バス310は、これら各部を電気的に接続するためのアドレスバスやデータバス等である。
CPU301はフラッシュメモリ304に記憶されているプログラム304pを実行することで端末装置30全体の動作を制御する。ROM302はIPLや基本入出力プログラムを記憶している。RAM303は、CPU301がプログラムを実行する際にワークエリアとして使用される主記憶装置である。フラッシュメモリ304は端末装置30が実行するプログラムや各種のデータを記憶する不揮発性の記憶装置である。プログラム304pは、例えば、オペレーティングシステム、ブラウザ8、広告主Webサーバ70等の画面情報を含んでいる。端末装置30はブラウザ8と画面情報に含まれる表示プログラムと操作履歴プログラムを実行する。
CMOSセンサ305は、CPU301の制御にしたがって被写体を撮像し画像データを得る撮像素子である。CMOSセンサ305の代わりにCCDセンサを用いてもよい。加速度・方位センサ306は、地磁気を検知する電子磁気コンパスとしての機能や3軸方向の加速度を測定する機能等を備えている。ジャイロセンサ307は、x軸、y軸又はz軸に対し端末装置30が回転する際の角速度を検出する。それぞれの軸の回転角度はヨー角、ピッチ角、ロール角と呼ばれる。
メディアドライブ308は、フラッシュメモリ等の記録メディア309に対するデータの読み出し又は書き込み(記憶)を制御する。メディアドライブ308の制御にしたがって、既に記録されていたデータが読み出され、又は新たにデータが書き込まれて記憶する記録メディア309が着脱自在な構成となっている。
音声入力部311は音声を音声信号に変換するマイクである。音声出力部312は、音声信号を音声に変換するスピーカである。通信装置313は、アンテナ313aを利用して無線通信信号により、最寄りの無線局装置と通信を行う。あるいは、通信装置313はLANに接続するLANカードの場合がある。GPS受信部314は、GPS衛星又は屋内GPSとしてのIMES(Indoor MEssaging System)によって端末装置30の位置情報(緯度、経度、及び高度)を検出する。
ディスプレイ315はCPU301の制御により全天球画像を表示したり、ユーザが端末装置30を操作するための各種のメニュー、アイコンなどを表示したりする表示装置である。タッチパネル316は、ディスプレイ315上に一体に重畳され指やタッチペン等によるタッチに対しディスプレイ315上におけるタッチ位置(座標)を検出する。
<全天球画像について>
図6~図9を用いて全天球画像6について説明する。図6は、全天球カメラ9の使用イメージ図である。全天球カメラ9は、図6に示されているように、ユーザが手に持ってユーザの周りの被写体を撮像するために用いられる。全天球カメラ9は、2つの撮像素子の背面同士が対向させられた構造を有しており、それぞれユーザの周りの被写体を撮像することで、2つの半球画像を得る。
次に、図7及び図8を用いて、全天球カメラ9で撮像された画像から全天球画像6が作成されるまでの処理の概略を説明する。なお、図7(a)は全天球カメラ9で撮像された半球画像(前側)、図7(b)は全天球カメラ9で撮像された半球画像(後側)、図7(c)は正距円筒図法により表された画像(以下、「正距円筒画像」という)を示した図である。図8(a)は正距円筒画像で球を被う状態を示した概念図、図8(b)は全天球画像6を示した図である。
図7(a)に示されているように、全天球カメラ9によって得られた画像は、魚眼レンズによって湾曲した半球画像(前側)となる。また、図7(b)に示されているように、全天球カメラ9によって得られた画像は、魚眼レンズによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、全天球カメラ9によって合成され、図7(c)に示されているように、正距円筒画像が作成される。
そして、OpenGL ES(Open Graphics Library for Embedded Systems)が利用されることで、図8(a)に示されているように、正距円筒画像が球面を覆うように貼り付けられ、図8(b)に示されているような全天球画像6が作成される。このように、全天球画像6は、正距円筒画像が球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)及び3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。全天球画像6は、静止画であっても動画であってもよい。
画像配信装置10が配信する広告データにはこの全天球画像6が含まれている。全天球画像6は、球面を覆うように貼り付けられた画像であるため湾曲しており、人間が見ると違和感を持ってしまう。そこで、端末装置30は、全天球画像6の一部の所定領域Tを湾曲の少ない平面画像として表示することで、人間に違和感を与えないように表示する。所定領域Tは、三次元の仮想空間における座標(X,Y,Z)によって示される。一方、ディスプレイ315は二次元平面なので所定領域Tのままでは端末装置30が表示できない。そこで、3Dコンピュータグラフィックの技法を用いて三次元の物体を二次元平面に投影する透視投影変換により端末装置30は所定領域Tを表示範囲に変換する。以上のようにして図1に示したように、全天球画像6の所定領域Tが表示範囲としてディスプレイ315に表示される。
図9は、閲覧者の視線を説明する図の一例である。全天球画像6は三次元の座標を有しているので、視線方向は三次元の座標又は緯度・経度などの球体の座標を特定する情報で特定される。本実施形態では、所定領域Tの中心cpを視線方向とする。
閲覧者は操作により視線方向を変えることができるが、仮想カメラICが平行移動しないと仮定すると、仮想カメラICは剛体としてロール(Z軸を中心とする回転)、ヨー(Y軸を中心とする回転)、及びピッチ(X軸を中心とする回転)の3つの回転が可能である。この3つの回転のいずれが生じても視線方向が変化する。例えば、閲覧者が全天球画像6を水平方向に回転させるとヨー角が変化し、上下方向に回転させるとピッチ角が変化し、ディスプレイ315の中心(視線方向)を軸に全天球画像6を回転させるとロール角が変化する。本実施形態では、閲覧者のWebページに対する操作が、視線方向(ロール角、ヨー角、ピッチ角)等に反映される。どのように反映されるかは表示プログラムに予め記述されているものとする。
閲覧者が視線方向を変更する操作はタッチパネルを操作するフリック又はスワイプだけでなく、端末装置30に角速度又は加速度を生じさせるジェスチャー操作によっても可能である。角速度はジャイロセンサ307により加速度は加速度・方位センサ306によりそれぞれ検出される。
<機能について>
図10は端末装置30、広告主Webサーバ70、パートナーサイトWebサーバ60、画像配信装置10、SSP50及びDSP20の機能をブロック状に示す機能ブロック図の一例である。
<<広告主Webサーバ、パートナーサイトWebサーバ>>
広告主Webサーバ70とパートナーサイトWebサーバ60は、Webページ提供部71を有している。広告主Webサーバ70とパートナーサイトWebサーバ60が有するこれらの各機能は、図4に示したHDD209からメモリ202に展開されたプログラム209pをCPU201が実行することにより実現される機能又は手段である。
Webページ提供部71は、端末装置30からのHTTPリクエストを解釈してWebページを構築してHTTPレスポンスとして端末装置30に送信する。処理に必要であればアプリケーションサーバに処理を依頼し、処理結果をWebページに配置して送信する。広告主Webサーバ70のWebページには広告主のクッキーとDSPクッキーが含まれている。広告主Webサーバ70はDSP20に広告の配信を依頼しているためである。これによりリターゲッティング広告等が可能になる。パートナーサイトWebサーバ60のWebページにはパートナーサイトのクッキーとSSPクッキーが含まれている。パートナーサイトWebサーバ60はSSP50に広告枠7の販売を依頼しているためである。
<<SSP>>
SSP50は、広告リクエスト部51、広告要求取得部52、アクセス情報送信部53、及び、落札部54を有している。SSP50が有するこれらの各機能は、HDD209からメモリ202に展開されたプログラム209pをCPU201が実行することにより実現される機能又は手段である。
広告要求取得部52は、端末装置30が広告枠7に対応づけられた広告タグを実行することでSSPクッキー等を含む広告リクエストを取得する。広告要求取得部52はSSPクッキーが含まれる広告リクエストを広告リクエスト部51に送出する。
広告リクエスト部51は、DSP20に対し広告リクエストを送信する。広告リクエストには、SSPクッキー、パートナーサイトWebサーバ60のドメイン、広告枠ID、広告枠サイズ、広告フォーマット、ブラウザ種類、OS種類等が含まれる。
落札部54はDSP20から入札を受け付け、基本的に最も高い入札金額のDSP20に広告枠7を販売するオークションを行う(広告主の製品やサービスによっては入札を受け付けない)。落札部54は落札IDを生成してDSP20に通知する。
アクセス情報送信部53は落札したDSP20に対し広告を要求するためのアクセス情報1を生成し落札IDと共に端末装置30に送信する。アクセス情報1にはDSP20のURL(IPアドレス)が含まれる。
<<DSP>>
DSP20は、リクエスト受付部21、入札判断部22、入札部23、広告要求受付部24、及び、画像依頼部25を有している。DSP20が有するこれらの各機能は、HDD209からメモリ202に展開されたプログラム209pをCPU201が実行することにより実現される機能又は手段である。
また、記憶部29には、クッキー情報DB291と配信設定DB292が構築されている。記憶部29は、図4に示したHDD209又はメモリ202により実現される。
Figure 0007031228000001
表1はクッキー情報DB291に記憶される情報を模式的に示す。クッキー情報DB291はDSPクッキーとSSPクッキーを対応付けると共に、閲覧者が訪問した訪問ドメインが登録されている。DSPクッキーとSSPクッキーの対応付けはクッキーシンクと呼ばれる技術により可能である。また、訪問ドメインはDSP20がタグ(行動監視タグ)を貼り付けたWebサイトを閲覧者が訪問することで得られる。したがって、DSP20は、SSPクッキーからDSPクッキーを特定でき、更に、この閲覧者がどのようなWebサイトに興味を持っているかを判断できる。
Figure 0007031228000002
表2は配信設定DB292に記憶される情報を模式的に示す。配信設定DB292には、広告主ID、画像ID、広告対象属性(好ましい対象者の属性)、及び、非広告対象属性(好ましくない対象者の属性)が登録されている。広告主IDは広角画像を提供する提供元になる広告主を特定又は識別するための識別情報である。画像IDは広告主が提供する広角画像を特定又は識別するための識別情報である。したがって、DSP20は、広角画像の提供元に対し設定されている好ましい対象者の属性又は好ましくない対象者の属性を参照して、広角画像を送信するか否かを決定することができる。
なお、IDはIdentificationの略であり識別子や識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。以下のIDについても同様である。広告対象属性は広告主が広告を配信したい閲覧者の属性であり、非広告対象属性は広告主が広告を配信したくない閲覧者の属性である。DSP20はクッキー情報DB291等から判断される閲覧者の属性と配信設定DB292の情報を比較して閲覧者の属性を数値化し、入札金額を決定する。なお、入札金額の決定には時間帯、曜日、閲覧者の地域等、各種の情報が考慮されてよい。
(DSP20の機能)
リクエスト受付部21はSSP50から広告リクエストを受けつける。リクエスト情報により端末装置30の広告枠ID等の基本的な情報が得られる。入札判断部22はリクエスト受付部21が受けつけた広告リクエストをクッキー情報DB291と配信設定DB292を参照して評価することで入札金額を決定する(入札しない場合もある)。上記のように、SSPクッキーからDSPクッキーを特定し、DSPクッキーに対応付けて蓄積されている属性情報が、配信設定DB292に記憶された広告主の依頼とどの程度一致するかにより入札金額を決定する。
入札部23は、決定された入札金額でSSP50に入札する。落札できた場合は落札IDを取得し、広告リクエストと対応付けておく。
広告要求受付部24は、アクセス情報1に基づく端末装置30からの広告要求(落札ID、DSPクッキー)を取得する。広告要求受付部24は落札IDにより広告リクエストを特定する。DSPクッキーはなくてもよく、SSPクッキーとDSPクッキーが対応付けられていない場合に使用される。
画像依頼部25はDSPクッキー、広告主ID、及びリクエスト内容と共にアクセス情報2を画像配信装置10に対し要求する。広告主IDにより広告主が特定される。リクエスト内容の広告枠IDにより広告枠7が特定される。更に、閲覧者の属性を画像配信装置10に送信してもよい。これにより、画像配信装置10は閲覧者に適した全天球画像6を配信できる。
<<端末装置>>
端末装置30は、Webページ取得部31、Webページ解析部32、Webページ表示部33、操作受付部34、及びスクリプト実行部35を有している。端末装置30が有するこれらの各機能は、HDD209からメモリ202に展開されたプログラム209pをCPU201が実行することにより実現される機能又は手段である。
操作受付部34は、端末装置30に対する各種の操作を受け付ける。具体的には、端末装置30が実行するブラウザに対する操作を受け付ける。Webページがスクリプト言語で記述されたプログラム(上記のスクリプト)を有得する場合は、スクリプトが動作の契機とするWebページに対する操作を受け付ける。なお、本実施形態では、操作の対象が端末装置30、ブラウザ又はWebページのいずれであるか厳密に区別せず、端末装置30に対する操作、ブラウザに対する操作又はWebページに対する操作は同等の意味を持つ。
Webページ取得部31は、閲覧者の操作により又はスクリプトの動作により広告主Webサーバ70及びパートナーサイトWebサーバ60と通信して、広告主Webサーバ70及びパートナーサイトWebサーバ60からWebページを取得する。
Webページ解析部32は、画面情報に含まれるHTMLを先頭から順番に読み取りHTMLに含まれる文章や画像データの構造を解析する。また、CSSに記述されたHTMLの文章や画像データとの紐付けを検出して、HTMLに含まれる文章や画像データのスタイルを対応付ける。また、Webページ解析部32は、HTMLからscriptタグを検出してスクリプト言語で記述されているスクリプトを抽出する。Webページ解析部32はHTMLとCSSをWebページ表示部33に送出し、スクリプトをスクリプト実行部35に送出する。
Webページ表示部33はHTMLの先頭から解析が終わった順にWebページをディスプレイ315に表示していく。また、Webページに対する操作に応じてWebページを更新する。
スクリプト実行部35は、Webページ解析部32が抽出したスクリプトを実行する。スクリプトの具体的な内容はWebページによって様々である。本実施形態ではスクリプトとして、広告枠7に対応付けられた広告タグ、SSP50から取得するアクセス情報1、DSP20から取得するアクセス情報2、画像配信装置10から配信される広告データが検出される。
広告枠検出部36は、Webページ取得部31が取得した画面情報に含まれる広告枠7に対応付けられた広告タグを端末装置30が実行して実現される機能である。広告枠検出部36は広告枠7に対応づけられたURLに基づいてSSPクッキーと共に広告リクエストをSSP50に送信する。
アクセス情報取得部37は、SSP50からアクセス情報1を取得する。アクセス情報1はスクリプトで記述されている。広告要求部38は、アクセス情報1に含まれるURLに基づいてDSP20にアクセスし落札IDとDSPクッキーと共に広告を要求する。広告要求部38はこの要求に対しアクセス情報2と広告機会IDを取得する。アクセス情報2もスクリプトで記述されている。
広告取得部39はアクセス情報2に含まれる画像配信装置10のURLに基づき、広告機会IDを指定して、画像配信装置10に対し広告データを要求する。画像配信装置10は広告データを生成するので、広告取得部39は広告データを取得する。本実施形態の広告データは、全天球画像6、表示パターン、表示プログラム及び操作履歴プログラムを含む。操作履歴プログラムは操作履歴を画像配信装置10に送信させる。表示プログラムは注目点が表示範囲に含まれなくなると又は閲覧者の操作により表示パターンのいずれか1つの注目点Pを表示範囲に含める。注目点が含まれていれば表示パターンが決まっていなくてもよい。また、表示プログラムは全天球画像6への操作を全天球画像6の表示態様に反映させる。操作履歴プログラムと表示プログラムもスクリプト言語で記述されており、スクリプト実行部35により実行される。
広告表示部40は、画像配信装置10から取得した広告データを表示する。広告表示部40は主に表示プログラムで実現され、広告枠7に全天球画像6(すなわち広告)を表示する。また、広告の効果を高めるように全天球画像6を表示する。広告表示部40は更に注目点表示部43を有する。注目点表示部43は全天球画像が保持する注目点を表示する。
画像配信装置10から広告データを取得することで端末装置30は画像配信装置10の画像クッキーを取得し記憶部49に記憶できる。広告取得部39が画像クッキーを画像配信装置10に送信することで、画像配信装置10ではDSPクッキーと画像クッキーを対応付けることができる。
操作履歴記録部41は、主に操作履歴プログラムにより実現され、全天球画像6に対する操作情報を操作履歴として記録する。操作履歴の詳細は画像配信装置10において説明する。操作履歴送信部42は、主に操作履歴プログラムにより実現され、広告枠7に表示された全天球画像6に対する操作履歴を画像クッキー及び画像ID(全天球画像6を識別する)と共に画像配信装置10に送信する。また、クリックされた場合は更に表示パターンとクリック時画角と共にその旨を画像配信装置10に送信する。
<<画像配信装置>>
画像配信装置10は、画像情報応答部11、広告配信部12、注目点決定部13、及び、操作履歴取得部14を有している。画像配信装置10が有するこれらの各機能は、HDD209からメモリ202に展開されたプログラム209pをCPU201が実行することにより実現される機能又は手段である。
また、画像配信装置10は、図4に示したHDD209又はメモリ202により実現される記憶部19を有している。記憶部19には、配信履歴DB191、操作履歴DB192、クッキー対応DB193、広告画像DB194、及び、パターンDB195が構築されている。
Figure 0007031228000003
表3は、操作履歴DB192に記憶される情報を模式的に示す。操作履歴DB192には各閲覧者が全天球画像6に対しどのような操作を行ったのかという履歴が記録されている。操作履歴DB192には画像ID、閲覧時刻、画像クッキー、閲覧画角1~3の各項目、及び、クリック時画角が記録されている。画像IDは全天球画像6を特定するための情報である。画像クッキーは端末装置30を操作する閲覧者又は端末装置30の同一性を判別する情報になる(装置識別情報の一例)。閲覧画角1~3は閲覧者が全天球画像6を閲覧した際の画角である。各閲覧画角1~3には閲覧時間、拡大の有無、拡大した場合は拡大後の画角、及び、縮小の有無、が格納されている。このように、各画像ごとに閲覧者が興味を持ったと考えられる画角が記録される。閲覧画角1~3は、閲覧者が全天球画像6を回転させずに静止した時間が所定時間(例えば1秒)以上の画角である。端末装置30の操作履歴記録部41は静止した時間が上位3つの画角を記録する。1つだけでもよいし4つ以上でもよい。同様に、操作履歴記録部41はそれぞれの閲覧画角1~3で閲覧者が拡大又は縮小したか否かを記録する。画像配信装置10はこのような操作履歴から注目点Pを決定する場合がある。画像IDに画像クッキーが対応付けられているので、リターゲッティング広告が可能になる。
Figure 0007031228000004
表4は、広告画像DB194に記憶されている情報を模式的に示す。広告画像DB194には、広告の対象となる全天球画像6に関する情報が登録されている。広告画像DB194には、広告主ID、画像ID、優先度、及び、対象属性が対応付けて登録されている。DSP20により広告主が決定されるので、この広告主が配信したい画像のうち、閲覧者の属性と表4の対象属性の一致度又は優先度の少なくとも一方に基づいて配信する画像が決定される。なお、リターゲッティング広告の場合は、操作履歴DB192で画像クッキーに対応付けられた画像が配信される。
Figure 0007031228000005
表5は、クッキー対応DB193に記憶されている情報を模式的に示す。クッキー対応DB193には、DSPクッキーと画像クッキーが対応付けられている。DSPクッキーはDSP20から通知され、画像クッキーは端末装置30から通知される。両者が対応付けられることでDSPクッキーだけで画像配信装置10が閲覧者を判別できるようになる。
Figure 0007031228000006
表6は、パターンDB195に登録されている情報を模式的に示す。パターンDB195には全天球画像6の注目点Pを表示させる順番及び画角の組み合わせが登録されている。順番及び画角の組み合わせを表示パターンという。表6では4つの座標1~4が注目点Pである。注目点Pの数は1つの全天球画像6に4つとは限らず3つ以下又は5つ以上でもよい。また、全天球画像6によって様々でよい。表示パターンは座標1~4の表示順を有している。したがって、注目点Pが4つの場合、表示順は4の階乗個(=24)ある。また、各注目点Pの画角が例えば3段階に変更される場合、3の4乗の画角の組み合わせがある。したがって、画角に関して1つの表示順について81通りの組み合わせがある。最終的に1つの全天球画像について24×81の表示パターンがある。クリック回数はこの表示パターンごとに閲覧者がクリックした回数である。クリックは「所定の操作」の一例である。つまり、画像配信装置10は同じ全天球画像6を同じ表示パターンで全天球画像6を複数の端末装置30に表示させ、端末装置30がクリックした旨を記録する。こうすることで、クリック率の低い表示パターンによる配信を徐々に回避できる。なお、クリック回数は閲覧者の属性(性別、年代、家族構成等)ごとに記録することが好適である。これにより、閲覧者の属性に対しクリック回数が多い表示パターンで表示できる。
Figure 0007031228000007
表7は、配信履歴DB191に登録されている情報を模式的に示す。配信履歴DB191には画像クッキーに対応付けて配信された全天球画像6の画像IDと表示パターンが登録されている。画像配信装置10が広告データを送信する際に端末装置30に画像クッキーが登録されている場合、画像配信装置10はこの画像クッキーを端末装置30から取得できる。画像配信装置10は同一の閲覧者に同じ全天球画像6の配信を避けたり、同じ全天球画像6を同じ表示パターンで配信することを避けたりすることができる。逆に、リターゲッティング配信することもできる。
(画像配信装置10の機能について)
画像情報応答部11はDSP20から取得したDSPクッキー、広告主ID、リクエスト内容(主に広告枠ID)に対し広告機会IDを付与し、アクセス情報2と共にDSP20に返送する。広告機会IDにより端末装置30の広告枠7ごとに広告の配信機会を特定できる。
広告配信部12は、端末装置30から広告機会IDと共に広告データを要求されると配信する全天球画像6と表示パターンを決定する。まず、DSP20から取得した広告主IDに対応付けられた全天球画像6を広告画像DB194から決定する。好ましくは閲覧者の属性を考慮する。閲覧者の属性はDSP20から通知されてもよいし、画像配信装置10が画像クッキーに対応付けて蓄積したものでもよい。次に、広告配信部12はパターンDB195を参照して全天球画像6の表示パターンを決定する。例えば、最もクリック回数の多いパターンを決定する、又は、クリック回数が閾値以上のパターンから任意に決定する。パターン決定時も閲覧者の属性が考慮されることが好ましい。
操作履歴取得部14は、端末装置30から画像クッキー及び画像IDと共に操作履歴を取得し、操作履歴DB192に設定する。なお、注目点を決定するための操作履歴とクリック回数を更新するための操作履歴(クリックしたこと)の2種類の操作履歴がある。
端末装置30の操作履歴記録部41を画像配信装置10が有していてもよい。操作履歴記録部41は時系列的な操作内容を必要とするので、通信帯域などによっては画像配信装置10が取得することが困難になるおそれがある。これに対し、端末装置30の操作履歴記録部41は最終的な操作履歴のみを画像配信装置10に送信すればよいので通信負荷を低減できる。
注目点決定部13は、全天球画像6の注目点Pを決定する。各種の注目点Pの決定方法が考えられるが、詳細は後述する。注目点決定部13は決定した注目点Pを使った表示パターンをパターンDB195に登録する。
<注目点Pの決定>
<<特徴量から注目点Pを決定する方法>>
図11は、注目点決定部13が注目点Pを決定する手順を示すフローチャート図の一例である。ステップS1において、注目点決定部13は単位球と共通する中心を有する正多面体を定義した上で、各面の法線方向を視線方向として透視投影変換を行って部分画像を得る。図12(a)、全天球画像の投影面として正八面体を定義した例を示し、図12(b)は、全天球画像の投影面として正十二面体を定義した例を示す。
ステップS2では、注目点決定部13がステップS1で得た各部分画像から所定の特徴量を抽出する。入力画像を上記の方法で分割し、歪みの少ない部分画像から特徴量を算出するので、180度を超える超広角画像をロバストに処理することが可能になる。特徴量として、色、エッジ、顕著性、物体位置/ラベル、などを用いることができる。
続くステップS3では、注目点決定部13が、所定の回帰モデルを用いて、各部分画像から抽出した特徴量から入力画像の位置ごと(画素ごと)に重要度を算出する。詳細は割愛するが、位置ごとの重要度と特徴量を回帰により関数で表す。なお、予め訓練データを用いて出力(教師データ)である重要度gを適切な方法で決定しておき、特徴量と重要度gの関係を求めておく。
続くステップS4では、注目点決定部13が重要度の高い方向にユーザの注目点Pが存在するという設計思想の下、ステップS3で算出された重要度の分布に基づいて注目点Pの尤度分布を算出する。例えば、単位画像面上に視点を通過する領域Rを定義した上で、領域R内の各位置の重要度を加算した加算値を視点の注目点尤度として算出することができる。
続くステップS5では、注目点決定部13が、注目点尤度分布に基づいて注目点Pを算出する。本実施形態では、例えば、注目点尤度の最尤値に対応する撮像方向に対応する位置を注目点Pとして算出する。
このようにして、いくつかの注目点Pが算出できる。注目点決定部13は上位の注目点PのN個のうち、予め決められた数の注目点P、又は、閾値以上の注目点Pを特定する。そして、パターンDB195に、注目点Pの表示順と画角を組み合わせたパターンを登録する。
<<人物を注目点Pに決定する>>
人が注目する被写体としては人物が考えられる。人物の検出方法としては、顔認識が知られている。顔認識にはFOG特徴量やHaar-like特徴量を検出してパターンマッチングする公知の方法を利用できる。注目点決定部13は顔の中心を注目点Pとして検出する。顔の数が多い場合は、距離が近い顔を1つと見なして顔の数を決まった数に低減してもよい。
<<文字を注目点Pに決定する>>
文字には重要な情報が含まれている可能性がある。文字の検出方法にも機械学習により得られた学習モデルを使用する方法がある。あるいはOCR(Optical Character Reader)により文字を検出してもよい。
<<笑顔を注目点Pに決定する>>
人が注目する被写体としては人の笑顔が考えられる。笑顔の検出方法としては、上記の顔認識に加え、予め保持されている笑顔のパターンを用いてパターンマッチングする公知の方法を利用できる。顔の数が多い場合は、笑顔のみを注目点Pとしてもよい。また、笑顔の他、悲しみ、怒り、困惑などの顔を注目点Pに決定してもよい。
<<子供を注目点Pに決定する>>
大人の中に子供が存在する場合、人が子供に注目する場合がある。あるいは、この逆に大勢の子供の中に大人が存在する場合、人が大人に注目する場合がある。子供又は大人の検出方法としては、顔の位置を利用できる。上記の顔認識で特定される顔の位置が他の顔の位置より低い場合は子供であると推定され、顔認識で特定される顔の位置が他の顔の位置より高い場合は大人であると推定される。
<<操作履歴を利用する>>
操作履歴DBには全天球画像ごとに閲覧画角が登録されている。注目点決定部13は操作履歴DB192の閲覧画角を加工して注目点を決定する。同じ画像IDの全天球画像を抽出し、クリック時画角が閾値以上、重なっている場合には同じ閲覧画角であると見なして重心を算出した上で、数が多い上位4個のクリック時画角を注目点に決定する。4個としたのは一例であって注目点の数に制限はない。
<<任意の被写体を注目点Pに決定する>>
広告主が閲覧者に閲覧させたい注目点Pは広告主が把握していると考えられる。したがって、広告主が指定した被写体を注目点決定部13が検出して注目点Pとすることができる。あるいは、自動車、家具、食品等、広告主の製品やサービスをパターン認識により検出して注目点Pとすることもできる。
このようにして決定された注目点Pに対し、それぞれ大中小の画角が自動的に決定される。しかしながら注目点Pの決定と共に画角も決定されもよい。
<動作手順>
図13は、画像表示システム100が広告として表示される全天球画像6を配信する手順を説明するシーケンス図の一例である。
S1:まず、閲覧者はパートナーサイトWebサーバ60と接続するように端末装置30を操作する。端末装置30の操作受付部34は操作を受け付け、Webページ取得部31がWebページを取得する。
S2:端末装置30のWebページ解析部32はWebページを解析しHTML、CSS,スクリプトを抽出し、Webページ表示部33がHTMLとCSSに基づいてWebページを表示する。
S3:端末装置30の広告枠検出部36は広告枠7に対応付けられた広告タグ(スクリプト)を実行することで広告リクエストをSSP50に送信する。広告リクエストには、例えばSSPクッキー、パートナーサイトWebサーバ60のドメイン、広告枠ID、広告枠サイズ、広告フォーマット、ブラウザ種類、OS種類等が含まれる。
S4:SSP50の広告要求取得部52は広告リクエストを取得し、広告リクエスト部51が広告リクエストを受け付ける。広告リクエスト部51はSSPクッキーを検出してDSP20に対し広告リクエストを通知して広告枠7を販売する。
S5:DSP20のリクエスト受付部21は広告リクエストを入札判断部22に送出する。DSP20の入札判断部22はクッキー情報DB291を参照してSSPクッキーからDSPクッキーを特定する。
S6:入札判断部22はDSPクッキーから属性を判断する。クッキー情報DB291の訪問ドメインを参照してもよいし、適宜、DSPクッキーで特定される閲覧者の属性情報を参照してもよい。
S7:入札判断部22は配信設定DB292を参照して広角画像の提供元に対し設定されている好ましい対象者の属性又は好ましくない対象者の属性に基づいて、この閲覧者に広角画像を送信するか否かを決定する。ここでは少なくとも1つの広告主について配信すると決定したものとする。
S8:入札判断部22は広告主の予算や属性の一致度等に応じて入札金額を決定する。
S9:DSP20の入札部23はSSP50に入札する。SSP50の落札部54は複数のDSP20からの入札に対し原則的に最も高い入札金額を申し入れたDSP20を落札者に決定する。
S10:ここでは図示するDSP20が落札したものとする。SSP50は落札IDをDSP20に通知する。
S11:SSP50のアクセス情報送信部53は落札IDと共にアクセス情報1を端末装置30に送信する。
S12:端末装置30の広告要求部38はアクセス情報1を実行することで落札IDと共に広告要求をDSP20に送信する。
S13:DSP20の広告要求受付部24は落札IDにより広告リクエストを特定する。画像依頼部25は広告主ID、DSPクッキー、及び、広告リクエストと共に画像配信装置10に画像を要求する。
S14:画像配信装置10の画像情報応答部11は画像要求を受信すると広告リクエストを特定するための広告機会IDを生成する。
S15:画像情報応答部11は広告機会IDと対応付けられたアクセス情報2をDSP20に送信する。
S16:DSP20の画像依頼部25はアクセス情報2を受信して、広告要求受付部24が端末装置30に送信する。
S17:端末装置30の広告取得部39はアクセス情報2に含まれる画像配信装置10のURLに基づいて広告要求(広告機会ID)を送信する。端末装置30が画像クッキーを保持している場合は画像クッキーを送信することができる。
S18:画像配信装置10の広告配信部12は広告機会IDにより画像要求を特定する。
S19:広告配信部12はDSPクッキーから属性を判断したり、画像クッキーから属性を判断したりする。
S20:広告配信部12は広告主IDと属性に基づき全天球画像6を特定する。すなわち、広告画像DB194を参照し全天球画像6に対し設定されている配信の対象者の属性又は優先度に基づいて送信する全天球画像6を決定する。表示パターンはクリック回数が閾値より高いものであるが、全天球画像6の配信数が少ない間は不作為に選択してよい。
S21:広告配信部12は全天球画像6、表示パターン、画像ID、画像クッキー、及び、広告枠IDを含む広告データを端末装置30に送信する。全天球画像6には広告主Webサーバ70のURLが対応付けられている。
S22:端末装置30の広告取得部39は広告データを取得し、広告表示部40が広告枠7に全天球画像6を表示する。閲覧者が広告枠7をクリックすると操作受付部34が受け付け、Webページ取得部31が広告主Webサーバ70と通信を開始する。
<注目点の表示方法>
注目点を表示させるには様々な方法が考えられるため、以下ではその一例を説明する。説明される表示方法は矛盾がない範囲で組み合わせて実施される場合がある。
<<閲覧者の操作がなくても注目点を表示>>
図14は、注目点の表示方法の一例を示す図である。図14では説明の便宜上、正距円筒図法の全天球画像6と端末装置30が図示されている。全天球画像は2つの注目点P-1、P-2を有している。端末装置30ではブラウザ8又はこれと同等のアプリケーションが動作しておりブラウザ8が表示したWebページの広告枠7に全天球画像6を表示させる。初期状態で注目点P-1を端末装置30が表示させたが、閲覧者が全天球画像6を回転させたため、端末装置30が表示範囲R1を表示させた。その後、閲覧者が全天球画像6を操作しないと注目点表示部43は注目点P-2を広告枠7の中心にして予め決まった画角(表示パターンとして指示されている)になるように全天球画像6を回転させる。
このような制御は、以下のような規則で次に表示する注目点Pを決定することで実現される。
(i) 最も距離が近い注目点P
(ii) 直前に閲覧した注目点P
(iii) 不作為に決定
(iv) 表示パターンで最後に表示した注目点Pの次の注目点P
(v) 表示していない注目点P(このうち最も距離が近い注目点P、表示パターンで表示していない最も表示順の早い注目点P、不作為の注目点P)
(vi) 操作履歴で閲覧の回数が多い注目点P
(i)~(vi)のいずれかが予め広告データに設定されているものとする。あるいは、閲覧者が(i)~(vi)のいずれかを選択してもよい。
図15は規則(i)~(iv)に基づく注目点Pの決定方法を模式的に説明する図である。図15では注目点Pがない表示範囲R1を閲覧者が表示させた。(i)の規則の場合、図15(a)に示すように、注目点表示部43は表示範囲R1の中心Xと注目点P-1、P-2との距離L1,L2を算出する。全天球画像は球体なので立体球上の曲線(円弧)が最短距離であるが、球体の中心と表示範囲R1の中心Xを結ぶ直線と球体の中心と注目点P-1(又はP-2)を結ぶ直線との画角が距離と相関するため画角でもよい。そして、距離L1とL2のうち短い方の注目点P-2を広告データが保持する注目点Pごとに決まっている画角で表示する。閲覧者は最も少ない全天球画像6の回転量で注目点Pを見ることができる。
(ii)の規則の場合、図15(b)に示すように、注目点表示部43は表示パターンに含まれる注目点Pのうち、表示範囲に入った注目点Pと順番を記録しておく。例えば、注目点P-1が表示済みでかつ直前の注目点Pである場合、注目点表示部43は注目点P-1を注目点Pごとに決まっている画角で表示する。閲覧者は直前の注目点P-1に戻るように見えるため、安心感がある。
(iii)の規則の場合、図15(c)に示すように、注目点表示部43は表示パターンに含まれる注目点Pのうち、不作為(ランダム)に次の注目点Pを決定する。次に表示される注目点Pが固定化されないので、閲覧者は様々な注目点Pを楽しんで見ることができる。
(iv)の規則の場合、図15(d)に示すように、注目点表示部43は表示パターンに含まれる注目点Pのうち、少なくとも最後に表示範囲に入った注目点Pを記録しておく。例えば、注目点P-1が直前の注目点Pである場合、注目点表示部43は表示パターンを参照して次の注目点Pである注目点P-2を注目点Pごとに決まっている画角で表示する。閲覧者は表示パターンの順番に注目点Pを見ることができる。
(v)の規則の場合、図16(a)に示すように、注目点表示部43は全ての注目点Pのうち表示範囲に入った注目点Pを記録しておく。例えば、注目点P-1が表示済みで注目点P-2が非表示の場合、注目点表示部43は注目点P-2を注目点Pごとに決まっている画角で表示する。閲覧者は見ていない注目点Pを自動的に見ることができ、広告主は注目点Pを積極的に閲覧させることができる。
(vi)の規則の場合、図16(b)に示すように、広告データには注目点Pごとに閲覧回数が添付されている。注目点表示部43は全ての注目点Pのうち閲覧回数が最も多い注目点Pを表示すると決定する。閲覧者は他の閲覧者がよく見る注目点Pを自動的に見ることができる。閲覧回数は複数の閲覧者により送信された操作履歴DBの閲覧画角又はクリック時画角を合計したものである。
また、例えば、(i)(v)(vi)を重み付けして注目点Pに点数を付け、点数の高い注目点Pを表示してもよい。例えば、現在の表示範囲R1の中心との距離を距離が短いほど大きな値に点数化し、表示していない注目点Pに決まった点数を与え、閲覧回数が多いほど大きな値に点数化する。そして、注目点Pごとに点数を合計し、点数が最も大きな注目点Pを表示する。こうすることで注目点表示部43はいくつかのファクターを総合して表示する注目点Pを決定できる。なお、現在の表示範囲R1の中心との距離を、距離が長いほど大きな値に点数化してもよい。こうすることで、全天球画像6の回転中に多くの注目点Pを見せられる可能性がある。
また、図15,図16の規則の説明では、注目点Pごとに画角が決まっていると説明したが、端末装置30が画角を決定してもよい。1つの画角に決定するのでなく、最小画角から最大画角まで(又はこの逆に)画角を連続的に変更してもよい。
図17は、注目点表示部43が注目点Pを表示する手順を示すフローチャート図の一例である。図17では一例として点数化により表示される注目点Pが決定される例を説明する。広告表示部40は画像配信装置10から送信された広告データに含まれる全天球画像6を広告枠に表示する(S10)。閲覧者が全天球画像を操作しない場合は表示パターンに基づいて自動的に全天球画像の注目点Pが次々に表示される。閲覧者が全天球画像を操作した場合は操作が優先される。
閲覧者が全天球画像6を操作すると操作受付部34が受け付けて、広告表示部40が操作に応じて全天球画像6を回転させたり拡大/縮小したりして表示する(S20)。
注目点表示部43は表示範囲に入った注目点Pを記録しておく(S30)。なお、全天球画像6の全体が入るような大きな表示範囲では全ての注目点Pが表示されたことになるが、閲覧者が各注目点Pを閲覧したとはいえない。このため、表示範囲が閾値以上の場合、注目点表示部43は表示範囲に入った注目点Pを記録しないことが好ましい。
広告表示部40は全天球画像6に対する操作が終了した否かを判断する(S40)。つまり、画像表示をさせるための入力が生じていないことにより判断される。この判断は、閲覧者がタッチパネルに触っていないこと、及び、閾値以上の角速度又は加速度が生じていないことにより判断される(例えば、タッチパネルを指等で操作することで画像を操作する場合、タッチパネルに指等が触れている間は操作中と判断し、タッチパネルから指等が離れることで操作が終了したと判断する、また、端末の角速度・加速度に応じて画像表示を変更する場合、角速度・加速度が閾値以上の値を検出している間(つまり端末装置30自体を一定以上回転させたり移動させたりしていることを検出している間)は操作中と判断し、角速度・加速度が閾値以上の値を検出しなくなった(つまり端末装置30自体を一定以上回転させたり移動させたりされなくなったことを検出した)とき、操作が終了したと判断する等)。ステップS40の判断がNoの場合、処理はステップS20に戻る。
ステップS40の判断がYesの場合、注目点表示部43は操作の終了から所定時間が経過したか否かを判断する(S50)。これは、閲覧者が操作を終了した直後に全天球画像6を回転させると、閲覧者の次の操作を阻害するおそれがあるためである。例えば、指等を用いて画像を大きく回転させる場合、画面の一端から画面の他端まで指等を移動させて回転させ、それ以上の回転をさせたい場合、画面の他端から指等を一度離し、再度画面の一端に指を置いて画面の一端から画面の他端まで指等を移動させて回転させる必要がある。しかし、画面の他端から指等を離した瞬間に注目点への移動を実行すると、ユーザが再度画面の一端に指等を置くことができず、ユーザが所望の操作を実行できない場合がある。その為、ステップS40で操作終了を検知した後、所定時間が経過したかを判断させることで、閲覧者の操作を阻害することを防ぐことができる。操作なく所定時間が経過することは「所定の契機」の一例である。なお、「所定の契機」の他の例として、例えば端末装置30の画面上の全天球画像6の表示領域以外の領域に対して操作がされたことを検知したとき等が挙げられる。また、ステップS50を省略しステップS40で操作終了と判断したことを「所定の契機」として判断しても良い。ステップS50の判断がNoの場合、処理はステップS20に戻る。
ステップS50の判断がYesの場合、注目点表示部43は注目点Pが表示範囲に入っているか否かを判断する(S60)。ステップS60の判断がYesの場合、注目点Pがすでに表示範囲に入っているので処理はステップS90に進む。
ステップS60の判断がNoの場合、注目点表示部43は注目点Pを決定するために注目点Pを点数化する(S70)。
そして、注目点表示部43は最も点数が高い注目点Pを表示する(S80)。
注目点Pを一定時間表示すると注目点表示部43は表示パターンに基づく全天球画像6の回転を開始する(S90)。これにより、全天球画像に連続的な動きがもたらされ、閲覧者の注意を喚起できる。表示パターンに基づく注目点の表示は繰り返し行われてもよいし、決まった回数だけ繰り返されてもよい。また、全天球画像6の回転を開始しなくてもよい。
なお、図17では点数により表示される注目点Pを決定したが、(i)~(iv)のいずれかで注目点Pを決定する場合も同様の手順で可能である。その場合、ステップS70~ステップS80の処理が決定方法によって変わる。
このように、本実施形態の画像表示システム100は、自動的に注目点Pが表示範囲に表示されるため、広告の効果(例えばクリック率)を高めることができ、閲覧者の操作の負担を低減できる。
<<複数の注目点Pを表示範囲に含める場合>>
図18は、複数の注目点Pの表示方法を説明する図の一例である。図18(a)の現在の表示範囲R1には注目点Pが含まれていない。注目点Pは合計で3つあるが、注目点P-2とP-3の距離が短いため1つの表示範囲に含めてしまえば、閲覧者は同時に2つの注目点P-2とP-3を閲覧できる。そこで、注目点表示部43は表示範囲に表示する注目点Pを決定するにあたり、注目点P同士の距離を算出する。そして、距離が閾値未満の2つの注目点Pがある場合は1つの注目点Pと見なす。図18(a)では注目点P-2とP-3が1つの注目点Pと見なされる。
図18(b)に示すように、注目点表示部43は2つの注目点P-2とP-3の重心Gを算出し、重心Gを表示範囲の中心に決定する。表示範囲R2は注目点P-2とP-3に添付されている画角の例えば外接矩形のように決定してもよいし、注目点P-2とP-3の外側に若干の余裕を見た値でもよい。
3つ以上の注目点Pについても同様である。図18(c)では、注目点P-2と注目点P-3の距離が閾値未満であり、注目点P-3から閾値未満の距離に注目点P-4がある(注目点P-2との距離は閾値以上)。このため、注目点P-2~P-4の重心Gを算出して重心Gを表示範囲の中心に決定する。
<<注目点Pを表示させる際の回転方法について>>
図19は、注目点Pを表示させる際の全天球画像6の回転方法を説明する図の一例である。図19(a)では、注目点表示部43が現在の表示範囲R1の中心Xを注目点P-2まで回転させるものとする。まず、最も移動量が少なくなるように最短距離を回転する回転方法がある。注目点表示部43は全天球の中心と表示範囲R1の中心Xを結ぶ直線、全天球の中心と注目点P-2を結ぶ直線の画角を算出するが、図19(b)に示すように全天球画像6は球体であるため180度未満と180度以上の2つの画角α1とα2が得られる。画角α1=α2でない限り、一方は180度未満である。図19(c)に示すように、注目点表示部43は180度未満の画角となる円弧の経路を経由して全天球画像6を回転させる。
一方、図19(d)に示すように、注目点表示部43は180度以上の画角となる円弧の経路を経由して全天球画像6を回転させてもよい。つまり、全天球画像6の回転量を意図的に多くする。こうすることで、閲覧者に全天球画像6のより多くの部分を閲覧させることができる。
更に、図19(e)に示すように、360度以上、全天球画像6を回転させる経路を経由してから注目点P-2を表示させてもよい。こうすることで、注目点P-2が2回表示されるので、閲覧者はほぼ全体を閲覧したことを確認した上で注目点P-2をゆっくりと閲覧できる。これらのように最短となる経路以外の経路を移動して注目点P2を表示してもよい。
また、注目点表示部43は直線的に全天球画像6を回転させる必要はなく、上下方向に蛇行させながら回転してもよい。図20(a)は視線方向が蛇行した回転方法の一例を示す。この場合も、閲覧者に全天球画像6のより多くの部分を閲覧させることができるし、動きが複雑になるため閲覧者の注目を集めやすくなる。
更に、図20(b)に示すように、視線方向を軸にして表示範囲R1を回転させながら注目点P-2の方向に水平に回転させてもよい。図20(b)では表示範囲R1が半時計方向に回転している。1234の数字は回転を説明するための数字で符号ではない。表示範囲R1が半時計方向に回転しながら水平方向にも回転して注目点P-2を表示範囲の中心に表示する。こうすることで注目点P-2が表示されるまでの画像の変化が大きくなり、閲覧者の注目を集めやすくなる。
なお、回転方向は時計回りでもよい。また、移動しながら回転するのでなく、注目点表示部43が表示範囲R2を表示した後に回転させてもよい。また、図20(a)(b)の移動方法を図19に適用することもできる。
<<複数の注目点を表示させる方法>>
図21は複数の注目点Pを順番に表示させる注目点Pの表示方法を説明する図の一例である。注目点PはP-1~P-3の3つである。例えば、上記(i)~(xi)の規則又は点数化により、注目点表示部43が現在の表示範囲R1の中心Xを注目点P-3まで回転させると決定した。この場合、図21(a)に示すように、注目点P-3まで直接、回転させるのではなく、他の注目点P-2を表示させてから、注目点P-3を表示させる。これにより、最も表示させるべき注目点P-3を表示することができるだけでなく、注目点P-2をも表示させることができ、閲覧者に多くの注目点Pを閲覧させることができる。注目点P-1を辿ってから注目点P-2、P-3に移動してもよいし、更に多くの注目点Pを辿ってから注目点P-3を表示させてもよい。
更に、図21(b)に示すように全天球画像6に添付される表示パターンを利用してもよい。図21(b)では注目点P-1→P-2→P-3の表示パターンが全天球画像6に添付されている。現在の表示範囲R1に注目点Pが含まれていない場合、注目点表示部43は表示パターンにしたがって、注目点P-1→P-2→P-3の順番に表示する。現在の表示範囲R1の中心Xに最も近い注目点又は点数の高い注目点(例えば注目点P-2)から注目点P-3だけを表示してもよい。これにより、全ての注目点Pを表示させることができ、閲覧者に多くの注目点Pを閲覧させることができる。
また、端末装置30が注目点Pの順番を不作為に決定して複数の注目点Pを次々に表示してもよい。
<閲覧者の操作により注目点Pを表示させる>
表示範囲R1に注目点Pが含まれない場合に自動的に注目点Pが表示される他に、閲覧者の操作により注目点Pが表示されてもよい。
図22は、閲覧者の操作による注目点Pの表示方法を説明する図の一例である。端末装置30が広告データを受信した直後に注目点P-1を表示した。閲覧者が操作により全天球画像6を回転、拡大/縮小することで表示範囲R1を表示させた。この状態で閲覧者が全天球画像6を右方向にフリック又はスワイプすると操作受付部34が操作を受け付け、注目点表示部43が右方向にある注目点P-2を表示する。表示範囲R1の中心Xと注目点P-2が同じ高さ(緯度)にあるとは限らないので、注目点表示部43はフリック又はスワイプした方向である経度方向にある注目点Pを表示する。したがって、経度方向だけでなく緯度方向に全天球画像6が回転してよい。閲覧者が上又は下方向にフリック又はスワイプした場合、緯度と経度の関係が逆になる。また、斜め方向にフリック又はスワイプした場合は、フリック又はスワイプした方向の水平成分と垂直成分の大きい方にフリック又はスワイプされたと操作受付部34が判断する。
図22のような注目点Pの表示方法はジェスチャーによる操作401によっても可能である。閲覧者が右方向に端末装置30を振るか移動させる操作を行う。振る操作は端末装置30の垂直方向の軸を中心に回転させるためジャイロセンサがこれを検出でき、移動させる操作は右方向への加速度が生じるため加速度・方位センサ306がこれを検出できる。操作受付部34がジェスチャーによる操作401を受け付け、注目点表示部43が右方向にある注目点P-2を表示する。
ジェスチャーによる操作401の場合、閲覧者は指を使う必要がないため、端末装置30を保持する片手だけで次の注目点Pを表示できるというメリットがある。なお、上又は下方向に端末装置30が振られるか又は移動させられた場合の処理はフリック又はスワイプと同様である。
閲覧者の操作による注目点Pの表示方法は、表示範囲R1に注目点Pが表示されていない場合だけでなく、表示範囲に注目点Pが表示されている場合に行われてよい。この場合、閲覧者が端末装置30を振るか又は移動させるという簡単な操作で注目点Pを次々に表示させることができ、閲覧者が全ての注目点Pを容易に閲覧できる。
図23は、注目点表示部43が注目点Pを表示する手順を示すフローチャート図の一例である。広告表示部40は画像配信装置10から送信された広告データに含まれる全天球画像6を広告枠に表示する(S10)。
操作受付部34は別の注目点Pを表示させる操作を受け付けたか否かを判断する(S110)。表示範囲に注目点Pが表示されていても表示されていなくてもよい。別の注目点Pを表示させる操作は上記のようにある方向にフリック若しくはスワイプさせる操作、又は、角速度若しくは加速度が生じる操作であり、予め定められている。閲覧者の操作は「所定の契機」の一例である。
ステップS110の操作がNoの場合、処理はステップS110に戻り操作受付部34が操作を待ち受ける。
ステップS110の操作がYesの場合、注目点表示部43は操作された方向の注目点Pを表示する(S120)。
このように、本実施形態の画像表示システム100では閲覧者が注目点Pを探さなくても簡単な操作で注目点Pを表示させることができる。
<表示範囲に注目点が含まれているか否かの判断>
図24は表示範囲R1に注目点Pが入っているか否かの判断を説明する図の一例である。図24(a)では明らかに表示範囲R1に注目点Pが含まれていない。これは表示範囲R1の4つの頂点の座標と注目点Pの座標を比較することで容易に判断される。
図24(b)では現在の表示範囲R1の端部に注目点P-2が含まれている。注目点P-2は点であるが画像としては広がりを持っているため、表示範囲R1には注目点P-2で示される注目すべき要素の一部しか表示されていない。このような場合は、注目点P-2の注目すべき要素(全体)を表示することで広告の訴求力が増すと考えられる。このため、注目点表示部43は図24(b)のように表示範囲R1の端部に注目点P-2が含まれている場合、表示範囲R1に注目点P-2が含まれていないと判断してよい。これにより、注目点Pの全体を閲覧させることができる。
注目点表示部43は表示範囲R1の端部の座標と注目点P-2の座標を比較して、差(画角)が閾値未満の場合は、表示範囲R1に注目点P-2が含まれていても含まれていないと判断する。なお、このような判断方法は一例であって、表示範囲R1に注目点P-2が含まれている場合は単純に含まれていると判断してもよい。
<拡大と縮小>
本実施形態では各注目点Pに画角が添付されていることを利用して、この画角で次の注目点Pを表示する。このため、現在の表示範囲R1と次に表示される注目点Pの画角が異なる場合は、広告枠の全天球画像6は拡大又は縮小されることになる。
図25は、拡大又は縮小を模式的に説明する図の一例である。図25(a)は表示範囲R1の移動と並行に拡大を行う表示方法を示し、図25(b)は表示範囲の移動の後に拡大を行う表示方法を示す。表示範囲R1から表示範囲R2へ移動で画角が小さくなっているので図25は画像の拡大を意味する。画像の縮小の場合も同様になる。
図25(a)の表示方法について説明する。注目点表示部43は、現在の表示範囲R1の4つの頂点S1~S4を特定している。注目点P-2の画角の4つの頂点Q1~Q4の座標は注目点P-2の座標と画角から算出可能である(あるいは予め決まっていてよい)。したがって、S1とQ1、S2とQ2、S3とQ3、及び、S4とQ4を接続する立体球上(全天球の球面上)の曲線をいくつかに分割(補間)して各分割点の座標と画角で端末装置30が全天球画像6を表示する。こうすることで、全天球画像6の表示範囲R1から注目点P2の画角に滑らかに移動しながら縮小し、注目点Pを決まった画角で表示できる。
図25(b)の表示方法について説明する。注目点表示部43は表示範囲R1の中心Xと注目点P-2を結ぶ立体球上の曲線をいくつかに分割(補間)して各分割点で現在の画角(一定)で画像を表示する。これにより、注目点P-2の画角が表示範囲R1と同じ場合の4つの頂点S1´~S4´が表示範囲R3になる。注目点P-2の本来の画角による4つの頂点Q1~Q4の座標は算出可能である(あるいは予め決まっていてよい)。
注目点表示部43は、S1´とQ1、S2´とQ2、S3´とQ3、及び、S4´とQ4を接続する立体球上の曲線をいくつかに分割して各分割点の画角で画像を表示する。こうすることで、全天球画像6の表示範囲R1から表示範囲R3に滑らかに移動し、その後、表示範囲R2に画角が縮小されるので全天球画像6を拡大して表示できる。
どちらの表示方法で表示するかは広告の訴求力が高い方でよく、予め画像配信装置10に設定されているものとする。あるいは、2つの表示方法を表示パターンの1種としてクリック回数をカウントし、クリック回数が高い方を採用してもよい。
<注目点の表示方法の変形例>
表示範囲R1に表示されていない注目点Pは、全天球画像6の回転により表示されると説明した。また、回転しながら拡大又は縮小されてもよいし、回転後に拡大又は縮小されてもよいと説明した。この他、注目点表示部43は拡大のみにより表示範囲R1に表示されていない注目点Pを表示してもよい。
図26は、拡大のみのよる注目点Pの表示方法を説明する図の一例である。図26(a)では表示範囲R1に注目点Pが表示されていない。しかし、注目点表示部43は表示範囲R1の中心を移動することなく画角を大きくすることで表示範囲R2に注目点Pを含めることができる。
図26(b)は表示範囲R1の中心を移動することなく画角が拡大されることで表示される表示範囲R2を示す。画角の拡大により表示範囲R2には注目点P2が含まれている。このように、画角の拡大のみによっても注目点Pを表示することが可能である。なお、画角が拡大されることは、広告枠の全天球画像6が縮小されることを意味する。
どこまで画角を拡大するかについては、表示範囲R1の中心から最も近い注目点P-2が含まれるまで、又は、注目点P-2の画角の全体が含まれるまでのいずれでもよい。図26(c)は注目点P-2の画角の全体が含まれるまで拡大された表示範囲R2を示す。
図26(d)は全天球画像6の全体が含まれる表示範囲R2の一例を示す。このような表示方法をリトルプラネットという。リトルプラネットは全天球画像6に特有の表示形態であり、訴求力が高いといえる。
<移動速度について>
図27は、表示範囲R1の中心から次の注目点P-2への移動速度を説明する図の一例である。図27(a)は端末装置30が表示範囲R1の中心から注目点P-2へ一定速度で全天球画像6を回転させる際の移動速度を示す。この移動速度では最も高速に次の注目点Pを表示させることができる。
図27(b)は移動開始点の表示範囲R1の中心から徐々に移動速度が速くなり、その後、一定になり、次の注目点P-2の手前で徐々に移動速度が遅くなる移動方法を示す。急激な移動が回避されるので閲覧者が見やすいというメリットがある。
図27(c)は移動開始点の表示範囲R1の中心から注目点P-2での停止まで徐々に移動速度が速くなる移動方法を示す。移動開始時に急激な移動を回避できる。
図27(d)は移動開始点の表示範囲R1の中心から注目点P-2での停止まで徐々に移動速度が遅くなる移動方法を示す。注目点P-2の手前で徐々に移動速度が遅くなるので、閲覧者は次の注目点Pを長時間閲覧できる。
全天球画像6がどの方法で回転するかは広告の訴求力が高い方法が採用されるものとして、予め画像配信装置10に設定されているものとする。あるいは、これらの移動方法を表示パターンの1つとしてクリック回数をカウントし、クリック回数が高い方を採用してもよい。
<注目点Pを表示範囲R2で表示後について>
以上のように、種々の方法で注目点Pを表示させることができる。注目点表示部43が注目点Pを表示させた後は、上記のように表示パターンにしたがって自動的に各注目点Pを表示させることができる。
図28は、表示パターンに従った各注目点Pの表示方法の一例を示す。図28に示すように全天球画像が保持する表示パターンは注目点P-1→P-2→P-3→P-4である。閲覧者の操作がなくても自動的に注目点Pを表示させる場合、表示範囲R1の中心Xとの距離又は点数化等により注目点P-2が決定されたとする(最初の注目点P-1が決定されてもよい)。注目点表示部43は注目点P-2を所定時間、静止して表示させた後、表示させた注目点P-2の次の注目点Pを表示パターンから決定して、表示させる。表示パターンの全ての注目点Pを表示させることができる。以降は、表示パターンにしたがって、繰り返し注目点Pを表示する。
また、閲覧者の操作により注目点Pを表示させた場合も、操作により決定された注目点Pから後は表示パターンにしたがって注目点Pを次々に表示できる。
閲覧者の操作がない場合、又は、閲覧者の操作により注目点Pを表示させる場合のいずれでも、表示パターンに基づく注目点Pの表示中に閲覧者の操作が検出された場合、注目点表示部43は表示パターンに基づく注目点Pの表示を中止する。この場合、次の注目点Pを表示するために全天球画像6を回転中であれば、次の注目点Pを表示してよい。あるいは、注目点Pが表示範囲に含まれなくても操作が検出された時の画角で回転を中止してよい。
なお、図28のような表示方法は表示パターンに基づく必要はなく、不作為に注目点Pを表示してもよいし、閲覧者が表示パターンを決定してもよい。
<動画の場合>
本実施形態の画像表示システムでは静止画に動きをもたらすことができるため、静止画を動画のように表示することができる。一見すると動画なのか静止画なのか分からない。したがって、少ない通信負荷で動画のような演出が可能になる。
一方、動画の全天球画像6が配信される場合も少なくない。動画とは撮像時刻が異なるフレームを有する画像である。動画の場合、撮像位置がほとんど動かない場合(被写体も動かない)と撮像位置か被写体の少なくとも一方が動く場合がある。撮像位置も被写体も動かない場合、注目点Pの位置も移動しないので、静止画の場合と同様になる。すなわち、撮像時刻が異なるフレームから注目点Pを表示すればよい。
撮像位置又は被写体の少なくとも一方が時間と共に変化する動画の場合、撮像時刻が異なるフレームからそれぞれ注目点Pが抽出されるため、端末装置30はより多くの数の注目点Pを表示できる。したがって、動画のフレームから注目すべき注目点Pをピンポイントで閲覧者に閲覧させることができる。
<まとめ>
以上説明したように本実施形態の画像表示システムは、自動的に注目点Pが表示範囲に表示されるため、広告の効果(例えばクリック率)を高めることができ、閲覧者の操作の負担を低減できる。また、閲覧者は簡単な操作で注目点Pを表示範囲に表示できる。また、静止画でありながら動画のように表示することができる。また、上記実施形態の画像表示システムでは、注目点の位置をポップアップのように画像上に表示しないので、表示させる画像をそのまま表示させることができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では、広告枠7に全天球画像が表示される例を説明したが、全天球画像は広告として表示されなくてもよい。任意のWebページで表示される全天球画像6について自動的又は閲覧者の操作に対し注目点Pを表示することができる。例えば、SNS(Social Network Service)で表示される全天球画像6にも適用できる。また、デジタルサイネージで表示される全天球画像6にも適用できる。また、情報処理装置だけでなくテレビ受像器が表示する全天球画像6にも適用できる。その為、画像を提供するユーザは広告主ではなく、個人ユーザが自身の撮像した全天球画像を提供してもよい。
また、本実施形態では全天球画像が広告に利用される例を説明したが、全天球画像が広告に利用されるものである必要はない。
また、全天球画像を表示する端末装置30のアプリケーションはブラウザ8に限られず、任意のアプリケーションソフトウェアが全天球画像を表示する際も自動的又は閲覧者の操作に対し注目点Pを表示させることができる。
また、注目点Pは予め決定されている他、配信先の端末装置30が全ての注目点Pを検出してもよいし、予め決定されている注目点Pに検出した注目点Pを追加してもよい。
また、図13にて説明したように、本実施形態では端末装置30がDSP20にアクセスし、次に、画像配信装置10にアクセスして広告データを取得している。しかし、DSP20が画像配信装置10から直接、広告データを取得して端末装置30に送信してもよい。端末装置30はDSP20にアクセスするだけで広告データを取得できるため、広告が表示されるまでの時間を短縮できる。
また、DSP20と画像配信装置10が一体に構成されており、DSP20が広告データ(全天球画像)を端末装置30に配信してもよい。
また、広告配信部12はクリック回数でなくクリック率により表示パターンを評価してもよい。あるいは、「いいねボタン」などの押下回数など評価可能な指標で評価してもよい。
また、本実施形態で説明されたSSP50,DSP20及び画像配信装置10が連携する広告の配信方法は一例に過ぎず、端末装置30が広告を表示するまでのプロセスを制限する意図はない。例えば、単純なプロセスとして、パートナーサイトWebサーバ60が広告主からの広告データを預かっておき、端末装置30に配信してもよい。この場合、SSP50、DSP20及び画像配信装置10はなくてよい。
また、本実施形態では、全天球カメラの周囲の360度が撮像可能な全天球画像がWebページに配置されるとして説明したが、Webページの画像データは広角画像であればよい。本実施形態の広角画像は、広告枠に表示しきれない部分を有する画像をいう。例えば、水平方向にだけ180度以上の画角を有する広角画像でもよい。また、一般にパノラマ画像と呼ばれる画像も含まれる。
また、全天球画像は2つの画像が張り合わされる方法で作成される場合に限られず、例えば、撮像方向を少しずつ移動しながら撮像した画像データの重複部分を重ね合わせて作成してもよい。すなわち、全天球画像の作成方法は制限されない。
また、以上の実施例で示した図10などの構成例は、画像表示システム100の処理の理解を容易にするために、主な機能に応じて分割したものである。しかし、各処理単位の分割の仕方や名称によって本願発明が制限されることはない。画像表示システム100は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
なお、注目点表示部43は注目点表示手段の一例であり、操作受付部34は操作受付手段の一例であり、広告表示部40は画像表示手段の一例である。画像配信装置10は第二の情報処理装置の一例である。
7 広告枠
10 画像配信装置
20 DSP
30 端末装置
40 広告表示部
50 SSP
60 パートナーサイトWebサーバ
70 広告主Webサーバ
100 画像表示システム
特開2008-192115号公報

Claims (31)

  1. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ
    前記広角画像は全天球画像であり、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、立体球上の曲線の距離が長い方の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とするプログラム。
  2. 前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、360度以上、全天球画像を移動する経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項1に記載のプログラム。
  3. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、視線方向を軸に前記表示範囲を回転させることを特徴とするプログラム。
  4. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段は最後に表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は前記最後に表示した前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とするプログラム。
  5. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段はまだ表示していない前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とするプログラム。
  6. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記広角画像は複数の前記注目点の表示順を指定する情報を保持しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は最後に表示した前記注目点の次の前記注目点を前記表示順から特定し、該注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とするプログラム。
  7. 前記広角画像の表示に関する操作を受け付ける操作受付手段と、
    前記操作受付手段が操作を受け付けた操作に応じて前記表示範囲に表示される前記広角画像の範囲を変更する画像表示手段と、を有し、
    前記画像表示手段が表示した前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項1~のいずれか1項に記載のプログラム。
  8. 前記表示範囲に前記注目点が含まれない状態で、前記所定の契機として前記操作受付手段が操作を受け付けない所定時間が経過した場合、前記注目点表示手段は前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項7に記載のプログラム。
  9. 前記表示範囲に前記注目点が含まれない状態又は前記表示範囲に前記注目点が含まれる状態で、前記所定の契機として前記操作受付手段が前記情報処理装置を回転させるか又は移動させる操作を受け付けた場合、前記注目点表示手段は注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項7に記載のプログラム。
  10. 前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は現在の表示範囲から最も近い前記注目点を含む前記範囲を前記表示範囲に表示することを特徴とする請求項1~のいずれか1項に記載のプログラム。
  11. 前記情報処理装置はネットワークを介して第二の情報処理装置と通信することができ、
    前記広角画像は前記第二の情報処理装置から送信され、前記広角画像は前記注目点ごとに複数の前記情報処理装置で選択された回数を保持しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は選択された回数が最も多い前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項1~のいずれか1項に記載のプログラム。
  12. 前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、移動量が最短になる経路以外の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項1~11のいずれか1項に記載のプログラム。
  13. 前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、予め定められた表示する前記注目点の決定方法で決定した前記注目点とは別の前記注目点を表示してから、前記決定方法で決定した前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする請求項4~6のいずれか1項に記載のプログラム。
  14. 前記注目点表示手段は、前記注目点と前記注目点の距離が閾値未満の場合、距離が閾値未満の複数の前記注目点の重心を決定し、前記重心が含まれる前記広角画像を前記表示範囲に表示することを特徴とする請求項1~13のいずれか1項に記載のプログラム。
  15. 前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、前記表示範囲を変更しながら前記広角画像を拡大又は縮小するか、前記注目点が含まれる前記広角画像を前記表示範囲に表示した後に前記広角画像を拡大又は縮小することを特徴とする請求項1~14のいずれか1項に記載のプログラム。
  16. 前記注目点が含まれる前記広角画像を前記表示範囲に表示した後、前記注目点表示手段は複数の前記注目点を順番に表示することを特徴とする請求項1~15のいずれか1項に記載のプログラム。
  17. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段は最後に表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は前記最後に表示した前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示方法。
  18. 注目点を有する広角画像を表示装置に表示させる情報処理装置
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段はまだ表示していない前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示方法。
  19. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記広角画像は複数の前記注目点の表示順を指定する情報を保持しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は最後に表示した前記注目点の次の前記注目点を前記表示順から特定し、該注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示方法
  20. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記広角画像は全天球画像であり、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、立体球上の曲線の距離が長い方の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示方法。
  21. 注目点を有する広角画像を表示装置に表示させる情報処理装置を、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段、として機能させ、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、視線方向を軸に前記表示範囲を回転させることを特徴とする画像表示方法。
  22. 1つ以上の注目点を有する広角画像を配信する画像配信装置と、前記広角画像を表示する端末装置とを有する画像表示システムであって、
    前記広角画像の少なくとも一部を表示範囲にして前記端末装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段は最後に表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は前記最後に表示した前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示システム。
  23. 1つ以上の注目点を有する広角画像を配信する画像配信装置と、前記広角画像を表示する端末装置とを有する画像表示システムであって、
    前記広角画像の少なくとも一部を表示範囲にして前記端末装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段はまだ表示していない前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示システム。
  24. 1つ以上の注目点を有する広角画像を配信する画像配信装置と、前記広角画像を表示する端末装置とを有する画像表示システムであって、
    前記広角画像の少なくとも一部を表示範囲にして前記端末装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記広角画像は複数の前記注目点の表示順を指定する情報を保持しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は最後に表示した前記注目点の次の前記注目点を前記表示順から特定し、該注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示システム。
  25. 1つ以上の注目点を有する広角画像を配信する画像配信装置と、前記広角画像を表示する端末装置とを有する画像表示システムであって、
    前記広角画像の少なくとも一部を表示範囲にして前記端末装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記広角画像は全天球画像であり、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、立体球上の曲線の距離が長い方の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする画像表示システム。
  26. 1つ以上の注目点を有する広角画像を配信する画像配信装置と、前記広角画像を表示する端末装置とを有する画像表示システムであって、
    前記広角画像の少なくとも一部を表示範囲にして前記端末装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、視線方向を軸に前記表示範囲を回転させることを特徴とする画像表示システム。
  27. 注目点を有する広角画像を表示装置に表示させる情報処理装置であって、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段は最後に表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は前記最後に表示した前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする情報処理装置。
  28. 注目点を有する広角画像を表示装置に表示させる情報処理装置であって、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段はまだ表示していない前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする情報処理装置。
  29. 注目点を有する広角画像を表示装置に表示させる情報処理装置であって、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段はすでに表示した前記注目点を記録しており、
    前記広角画像は複数の前記注目点の表示順を指定する情報を保持しており、
    前記表示範囲に前記注目点が含まれない場合、前記注目点表示手段は最後に表示した前記注目点の次の前記注目点を前記表示順から特定し、該注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする情報処理装置。
  30. 注目点を有する広角画像を表示装置に表示させる情報処理装置であって、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記広角画像は全天球画像であり、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、立体球上の曲線の距離が長い方の経路を経由して前記注目点が含まれる前記範囲を前記表示範囲に表示することを特徴とする情報処理装置。
  31. 注目点を有する広角画像を表示装置に表示させる情報処理装置であって、
    前記広角画像の少なくとも一部を表示範囲にして前記表示装置が表示した際に所定の契機が検出されると、前記広角画像のうち前記注目点が含まれる範囲を前記表示範囲に表示する注目点表示手段を有し、
    前記注目点表示手段は、前記広角画像の前記表示範囲を変更して前記注目点を表示する際、視線方向を軸に前記表示範囲を回転させることを特徴とする情報処理装置。
JP2017207636A 2017-10-26 2017-10-26 プログラム、画像表示方法、画像表示システム、情報処理装置 Active JP7031228B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017207636A JP7031228B2 (ja) 2017-10-26 2017-10-26 プログラム、画像表示方法、画像表示システム、情報処理装置
US16/160,129 US10771704B2 (en) 2017-10-26 2018-10-15 Method of displaying wide-angle image, image display system, and information processing apparatus
US16/989,902 US11140324B2 (en) 2017-10-26 2020-08-11 Method of displaying wide-angle image, image display system, and information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017207636A JP7031228B2 (ja) 2017-10-26 2017-10-26 プログラム、画像表示方法、画像表示システム、情報処理装置

Publications (2)

Publication Number Publication Date
JP2019080252A JP2019080252A (ja) 2019-05-23
JP7031228B2 true JP7031228B2 (ja) 2022-03-08

Family

ID=66243438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017207636A Active JP7031228B2 (ja) 2017-10-26 2017-10-26 プログラム、画像表示方法、画像表示システム、情報処理装置

Country Status (2)

Country Link
US (2) US10771704B2 (ja)
JP (1) JP7031228B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180051288A (ko) * 2016-11-08 2018-05-16 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
WO2019169344A1 (en) 2018-03-01 2019-09-06 Podop, Inc. User interface elements for content selection in media narrative presentation
US10991342B2 (en) 2018-07-04 2021-04-27 Ricoh Company, Ltd. Terminal apparatus, system, and method of displaying image
JPWO2020071545A1 (ja) * 2018-10-04 2021-06-03 パロニム株式会社 情報処理装置
CN109361880A (zh) * 2018-11-30 2019-02-19 三星电子(中国)研发中心 一种展示静态图片对应的动态图片或视频的方法及系统
JP7336200B2 (ja) * 2019-02-08 2023-08-31 キヤノン株式会社 電子機器及びその制御方法
JP7310252B2 (ja) * 2019-04-19 2023-07-19 株式会社リコー 動画生成装置、動画生成方法、プログラム、記憶媒体
JP7368699B2 (ja) * 2019-08-26 2023-10-25 株式会社リコー 画像処理装置、画像通信システム、画像処理方法、及びプログラム
JP7358938B2 (ja) * 2019-11-26 2023-10-11 株式会社リコー 通信端末、画像通信システム、表示方法、及びプログラム
WO2021177085A1 (ja) * 2020-03-05 2021-09-10 ソニーセミコンダクタソリューションズ株式会社 情報処理装置及び情報処理方法
JP2022186117A (ja) * 2021-06-04 2022-12-15 株式会社リコー 通信端末、画像通信システム、画像表示方法およびプログラム

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157615A (ja) 2004-11-30 2006-06-15 Canon Inc 撮像装置
JP2007322452A (ja) 2006-05-30 2007-12-13 Matsushita Electric Ind Co Ltd 画像表示装置およびその方法、並びに、記憶媒体
JP2011053456A (ja) 2009-09-02 2011-03-17 Nikon Systems Inc 画像表示方法、プログラム、画像表示装置、及び、この画像表示装置を有する撮像装置
WO2012042974A1 (ja) 2010-09-30 2012-04-05 富士フイルム株式会社 情報提示装置、デジタルカメラ、ヘッドマウントディスプレイ、プロジェクタ、情報提示方法、情報提示プログラム
JP2014006880A (ja) 2012-05-31 2014-01-16 Ricoh Co Ltd 通信端末、表示方法、及びプログラム
JP2015534662A (ja) 2012-08-10 2015-12-03 マイクロソフト テクノロジー ライセンシング,エルエルシー 表計算アプリケーションにおけるアニメーション遷移および効果
WO2016009864A1 (ja) 2014-07-18 2016-01-21 ソニー株式会社 情報処理装置、表示装置、情報処理方法、プログラム、および情報処理システム
JP2016110649A (ja) 2014-12-04 2016-06-20 トムソン ライセンシングThomson Licensing 自動アニメーションを生成するための方法および装置
JP2017049956A (ja) 2015-09-04 2017-03-09 株式会社リコー 情報提供システム、情報処理装置、端末装置、情報提供プログラム、及び情報提供方法
JP2017059902A (ja) 2015-09-14 2017-03-23 株式会社リコー 情報処理装置、プログラム、画像処理システム
US20170244946A1 (en) 2016-02-22 2017-08-24 Gopro, Inc. System and method for presenting and viewing a spherical video segment

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5215572B2 (ja) 2007-01-31 2013-06-19 ヤフー株式会社 インターネット動画向けのコンテンツマッチ広告技術
JP5526921B2 (ja) * 2010-03-29 2014-06-18 ソニー株式会社 撮像装置、電子機器および表示制御方法
JP5686244B2 (ja) * 2010-12-21 2015-03-18 ソニー株式会社 表示制御装置、表示制御方法、及び、プログラム
JP6291866B2 (ja) * 2014-01-27 2018-03-14 株式会社デンソー 運転支援装置、および運転支援方法
US9996895B2 (en) 2015-05-01 2018-06-12 Ricoh Company, Ltd. Image display system, information processing apparatus, and image display method
US9936138B2 (en) * 2015-07-29 2018-04-03 Samsung Electronics Co., Ltd. User terminal apparatus and control method thereof
US20170054907A1 (en) 2015-08-21 2017-02-23 Yoshito NISHIHARA Safety equipment, image communication system, method for controlling light emission, and non-transitory recording medium
US20170111587A1 (en) * 2015-10-14 2017-04-20 Garmin Switzerland Gmbh Navigation device wirelessly coupled with auxiliary camera unit
US10225445B2 (en) * 2015-12-18 2019-03-05 Light Labs Inc. Methods and apparatus for providing a camera lens or viewing point indicator
US10360572B2 (en) 2016-03-07 2019-07-23 Ricoh Company, Ltd. Image processing system, method and computer program product for evaluating level of interest based on direction of human action
US10652459B2 (en) 2016-03-07 2020-05-12 Ricoh Company, Ltd. Information processing system, information processing method, and non-transitory computer-readable storage medium
US10277836B2 (en) 2016-03-07 2019-04-30 Ricoh Company, Ltd. Communication terminal, image management apparatus, image processing system, method for controlling display, and computer program product
US10877649B2 (en) 2017-03-21 2020-12-29 Ricoh Company, Ltd. Browsing system, browsing method, and information processing apparatus
DK180007B1 (en) * 2017-05-16 2020-01-16 Apple Inc. RECORDING AND SENDING EMOJI

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157615A (ja) 2004-11-30 2006-06-15 Canon Inc 撮像装置
JP2007322452A (ja) 2006-05-30 2007-12-13 Matsushita Electric Ind Co Ltd 画像表示装置およびその方法、並びに、記憶媒体
JP2011053456A (ja) 2009-09-02 2011-03-17 Nikon Systems Inc 画像表示方法、プログラム、画像表示装置、及び、この画像表示装置を有する撮像装置
WO2012042974A1 (ja) 2010-09-30 2012-04-05 富士フイルム株式会社 情報提示装置、デジタルカメラ、ヘッドマウントディスプレイ、プロジェクタ、情報提示方法、情報提示プログラム
JP2014006880A (ja) 2012-05-31 2014-01-16 Ricoh Co Ltd 通信端末、表示方法、及びプログラム
JP2015534662A (ja) 2012-08-10 2015-12-03 マイクロソフト テクノロジー ライセンシング,エルエルシー 表計算アプリケーションにおけるアニメーション遷移および効果
WO2016009864A1 (ja) 2014-07-18 2016-01-21 ソニー株式会社 情報処理装置、表示装置、情報処理方法、プログラム、および情報処理システム
JP2016110649A (ja) 2014-12-04 2016-06-20 トムソン ライセンシングThomson Licensing 自動アニメーションを生成するための方法および装置
JP2017049956A (ja) 2015-09-04 2017-03-09 株式会社リコー 情報提供システム、情報処理装置、端末装置、情報提供プログラム、及び情報提供方法
JP2017059902A (ja) 2015-09-14 2017-03-23 株式会社リコー 情報処理装置、プログラム、画像処理システム
US20170244946A1 (en) 2016-02-22 2017-08-24 Gopro, Inc. System and method for presenting and viewing a spherical video segment

Also Published As

Publication number Publication date
US20200374463A1 (en) 2020-11-26
JP2019080252A (ja) 2019-05-23
US11140324B2 (en) 2021-10-05
US10771704B2 (en) 2020-09-08
US20190132521A1 (en) 2019-05-02

Similar Documents

Publication Publication Date Title
JP7031228B2 (ja) プログラム、画像表示方法、画像表示システム、情報処理装置
US11416918B2 (en) Systems/methods for identifying products within audio-visual content and enabling seamless purchasing of such identified products by viewers/users of the audio-visual content
US10547798B2 (en) Apparatus and method for superimposing a virtual object on a lens
JP6258497B2 (ja) 拡張現実デバイス
US10701263B2 (en) Browsing system, image distribution apparatus, and image distribution method
US10877649B2 (en) Browsing system, browsing method, and information processing apparatus
JP6784168B2 (ja) 情報処理装置、プログラム、閲覧システム
JP7069970B2 (ja) 閲覧システム、画像配信装置、画像配信方法、プログラム
US11432046B1 (en) Interactive, personalized objects in content creator&#39;s media with e-commerce link associated therewith
KR102198583B1 (ko) Vr 쇼핑몰 운영관리 시스템 및 그 구동방법
JP6844420B2 (ja) 閲覧システム、プログラム
WO2014153317A1 (en) Trend analysis using network-connected touch-screen generated signals
JP2021056852A (ja) プログラム、情報処理装置、表示方法
US10991342B2 (en) Terminal apparatus, system, and method of displaying image
JP6891667B2 (ja) 閲覧システム、プログラム
WO2020189341A1 (en) Image display system, image distribution method, and program
JP2020013552A (ja) 端末装置、閲覧システム、表示方法、及びプログラム
JP7031168B2 (ja) 閲覧システム、情報処理装置、画像配信方法、プログラム
WO2020184259A1 (en) Image display system, image display method, and non-transitory recording medium
JP2021052224A (ja) プログラム、情報処理装置、表示方法
JP2020149364A (ja) 画像表示システム、画像表示方法、プログラム
JP2020126368A (ja) プログラム、閲覧システム、端末装置、表示方法、情報処理装置
JP2020009016A (ja) 端末装置、閲覧システム、表示方法、及びプログラム
JP6362757B1 (ja) 情報表示プログラム、情報表示方法、情報表示装置、及び配信装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200819

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220207

R151 Written notification of patent or utility model registration

Ref document number: 7031228

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151