JP7578904B2 - Advertisement provision system and advertisement provision method - Google Patents
Advertisement provision system and advertisement provision method Download PDFInfo
- Publication number
- JP7578904B2 JP7578904B2 JP2020198236A JP2020198236A JP7578904B2 JP 7578904 B2 JP7578904 B2 JP 7578904B2 JP 2020198236 A JP2020198236 A JP 2020198236A JP 2020198236 A JP2020198236 A JP 2020198236A JP 7578904 B2 JP7578904 B2 JP 7578904B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- advertisement
- area
- display
- gaze
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 230000000007 visual effect Effects 0.000 claims description 49
- 238000001514 detection method Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 description 21
- 238000004519 manufacturing process Methods 0.000 description 19
- 230000015572 biosynthetic process Effects 0.000 description 13
- 238000003786 synthesis reaction Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 4
- 206010057315 Daydreaming Diseases 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 235000002673 Dioscorea communis Nutrition 0.000 description 1
- 241000544230 Dioscorea communis Species 0.000 description 1
- 208000035753 Periorbital contusion Diseases 0.000 description 1
- 206010053694 Saccadic eye movement Diseases 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000006996 mental state Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000004434 saccadic eye movement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
本発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された画像を表示する画像表示手段とを用いて広告情報を提供する広告提供システム及び広告提供方法に関する。 The present invention relates to an advertisement provision system and advertisement provision method that provide advertisement information using an image management means that distributes an image including an advertisement display area on which advertisement information can be superimposed, and an image display means that displays the image distributed from the image management means.
従来より、映画等の映像情報(以下、第1画像という)の一部領域を構成する広告掲示領域、例えば、画像内の風景の一部として映し出された立て看板や街頭ビジョンのディスプレイ等、に現実の商品或いはサービスの広告情報(以下、第2画像という)を合成して新たな表示用画像である番組コンテンツを作成し、この番組コンテンツを視聴者(ユーザ)に提供する技術は知られている。 Technology has been known for some time now in which advertising information for real products or services (hereinafter referred to as the second image) is synthesized with an advertising display area that constitutes a portion of video information (hereinafter referred to as the first image) of a movie or the like, such as a billboard or street vision display that is projected as part of the scenery within the image, to create program content, which is a new image for display, and then provide this program content to viewers (users).
特許文献1のマッピングシステムは、受信した表示用画像を表示するディスプレイと、メタデータ等からなるベースデータストリーム(第1画像)を入力してディスプレイに送信するデータを作成するデータ制御手段と、広告等からなるコンポジットデータストリーム(第2画像)を入力して合成条件を設定する合成条件設定手段と、この合成条件設定手段によって設定されたコンポジットデータをベースデータの広告掲示領域に合成して新たな表示用画像(番組コンテンツ)を作成する合成手段とを備えている。 The mapping system of Patent Document 1 includes a display that displays the received display image, a data control means that inputs a base data stream (first image) consisting of metadata etc. to create data to be sent to the display, a synthesis condition setting means that inputs a composite data stream (second image) consisting of advertisements etc. to set synthesis conditions, and a synthesis means that synthesizes the composite data set by the synthesis condition setting means into the advertisement display area of the base data to create a new display image (program content).
視聴者の視線が向かう対象物(視対象)は、視聴者の興味や認識の有無、更にはその程度等を反映していることから、視聴者の意思指標として用いられる傾向がある。
特許文献2のカーナビゲーションシステムは、運転者の視線を検出する視線検出手段と、進行方向の地図を表示する表示手段と、運転者に対して可聴式に方向を指示する可聴式指示手段と、これら各機器を制御する制御手段とを有し、制御手段は、運転者の視線が表示手段に向いているとき、地図を表示し、運転者の視線が表示手段に向いていないとき、運転者に方向情報を可聴式に提供する。
The object that a viewer's gaze is directed at (visual target) reflects the viewer's interest or awareness, and the degree of such interest or awareness, and therefore tends to be used as an indicator of the viewer's intentions.
The car navigation system of Patent Document 2 has a gaze detection means for detecting the driver's gaze, a display means for displaying a map of the direction of travel, an audible instruction means for audibly instructing the driver on the direction, and a control means for controlling each of these devices, and the control means displays the map when the driver's gaze is directed toward the display means, and audibly provides direction information to the driver when the driver's gaze is not directed toward the display means.
特許文献1のマッピングシステムは、事前に表示予定が設定されている広告情報を所定の時刻、或いは所定周期で画面中の広告掲示領域内に合成することができ、視聴者が番組コンテンツを視聴しているタイミングにおいて、広告掲示領域に重畳された広告情報(以下、オーバーレイ広告という)を風景の一部として自然に表示することができる。
しかし、特許文献1の技術では、視聴者が番組コンテンツに集中しているときにオーバーレイ広告が表示されることがあるため、番組に視入っている視聴者がオーバーレイ広告に対して煩わしさを覚える虞がある。
The mapping system of Patent Document 1 can synthesize advertising information that has been scheduled for display in advance into an advertising display area on the screen at a specified time or at a specified cycle, and can display advertising information superimposed on the advertising display area (hereinafter referred to as overlay advertising) naturally as part of the scenery when the viewer is watching program content.
However, with the technology of Patent Document 1, since overlay advertisements may be displayed when a viewer is concentrating on the program content, there is a risk that a viewer who is engrossed in the program may find the overlay advertisements annoying.
視聴者は、視覚情報から109Bit/sの速度で目立つ情報(ポップアップ対象)を選択するという凝視メカニズムを有している。そして、視聴者は、意識の集中状態に応じて、ボトムアップ型注意とトップダウン型注意とを無意識的(反射的)に選択している。
ボトムアップ型注意とは、視野の中で他の物体と明らかに区別される物理的特徴を持つことで目立つ物体を認識処理するプロセスによる受動的注意である。トップダウン型注意とは、自分の中で目標とする特徴を決め、その特徴に基づいて物体を意図的に選定して認識処理するプロセスによる能動的注意である。
Viewers have a fixation mechanism that selects salient information (pop-up target) from visual information at a speed of 10 9 Bit/s. Viewers unconsciously (reflexively) select bottom-up or top-down attention depending on their state of concentration.
Bottom-up attention is a passive process in which we recognize and process objects that stand out because they have physical features that clearly distinguish them from other objects in our visual field, whereas top-down attention is an active process in which we determine a target feature and then intentionally select and recognize an object based on that feature.
それ故、例えば、視聴者が、スポーツ番組であるサッカー中継を集中して視聴している際、視聴者は、ボールやボールを操作するプレーヤにトップダウン型注意を向けている。
これに対し、フェンスに組み込まれた広告掲示領域に広告情報が表示された場合、視聴者は、突然現れたオーバーレイ広告に対して、反射的にボトムアップ型注意を向ける。
通常、広告は、誘目性(視覚的顕著性或いはサリエンシーともいう)が高い要素(輝度、色合い、方向等)で表示用画像が構成され、人間工学上、視野内で誘目性の高い領域は視聴者の視線を条件反射的に惹き付ける。それ故、一層ボトムアップ型注意が強くなる。
即ち、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供することは容易ではない。
Therefore, for example, when a viewer is concentrating on watching a soccer broadcast, which is a sports program, the viewer focuses top-down attention on the ball and the player manipulating the ball.
In contrast, when advertising information is displayed in an advertising display area built into the fence, viewers will reflexively direct their attention in a bottom-up manner to the suddenly appearing overlay advertisement.
Usually, advertisements are composed of display images with elements (brightness, color, direction, etc.) that are highly eye-catching (also called visual salience or saliency), and from an ergonomic point of view, highly eye-catching areas in the visual field attract the viewer's gaze reflexively. Therefore, bottom-up attention is further strengthened.
That is, it is not easy to provide overlay advertisements without causing annoyance to the viewer.
本発明の目的は、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供可能な広告提供システム及び広告提供方法等を提供することである。 The object of the present invention is to provide an advertisement provision system and advertisement provision method that can provide overlay advertisements without bothering the viewer.
請求項1の発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供システムにおいて、前記画像を視る視聴者の視線を検出する視線検出手段と、前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段と、前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段とを有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示することを特徴としている。 The invention of claim 1 is an advertising provision system that provides advertisements using an image management means that distributes an image including an advertising display area on which advertising information can be superimposed, and an image display means that displays the image distributed from the image management means, the system having a gaze detection means that detects the gaze of a viewer viewing the image, a meaningful area detection means that detects a meaningful area within the image that displays an important part of the image, and an advertising display control means that controls the advertising information to be superimposed on the advertising display area, and the advertising display control means is characterized in that when the viewer's gaze is not in the meaningful area, the advertising information is superimposed on the advertising display area.
この広告提供システムでは、前記画像を視る視聴者の視線を検出する視線検出手段を有するため、視聴者の視線を惹き付ける視対象を判定することができる。前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段を有するため、制作者側が視聴者に興味を持って視線を向けて欲しい意義的領域を検出することができ、視覚的に表示することができる。前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段を有するため、画像を中断する広告表示時間を別途必要とすることなく、広告情報を表示することができる。前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示するため、視聴者が画像に対して散漫状態である低集中度のとき、視聴者の集中状態を阻害することなく広告情報を表示することができる。 This advertising system has a gaze detection means for detecting the gaze of the viewer viewing the image, and is therefore capable of determining the visual target that attracts the viewer's gaze. A meaningful area detection means for detecting a meaningful area within the image that displays an important part of the image is provided, and therefore a meaningful area that the creator wants the viewer to be interested in and direct their gaze to can be detected and visually displayed. An advertising display control means for controlling the advertising information superimposed on the advertising display area is provided, and therefore advertising information can be displayed without requiring a separate advertising display time that interrupts the image. When the viewer's gaze is not in the meaningful area, the advertising display control means superimposes and displays the advertising information on the advertising display area, and therefore when the viewer is distracted and has a low level of concentration on the image, advertising information can be displayed without disrupting the viewer's concentration.
請求項2の発明は、請求項1の発明において、前記意義的領域の誘目度を検出可能な誘目度検出手段を有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在するとき、前記意義的領域の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴としている。
この構成によれば、視聴者の集中度に応じて広告情報の表示形態を変更することができる。
The invention of claim 2 is characterized in that, in the invention of claim 1, it has an attractiveness detection means capable of detecting the attractiveness of the semantic area, and the advertising display control means changes the display form of the superimposed advertising information in accordance with the attractiveness of the semantic area when the viewer's line of sight is present in the semantic area.
According to this configuration, the display format of the advertising information can be changed according to the concentration level of the viewer.
請求項3の発明は、請求項2の発明において、前記広告表示制御手段は、前記意義的領域の誘目度が所定の閾値よりも低いとき、前記重畳表示される広告情報の表示を禁止することを特徴としている。
この構成によれば、視聴者が画像に対して没頭状態である高集中度のとき、広告情報の表示を禁止するため、視聴者の集中状態を阻害しない。
The invention of claim 3 is characterized in that, in the invention of claim 2, the advertising display control means prohibits the display of the superimposed advertising information when the attractiveness of the semantic area is lower than a predetermined threshold value.
According to this configuration, when the viewer is in a state of high concentration, ie, engrossed in the image, the display of the advertising information is prohibited, so that the viewer's concentration is not disturbed.
請求項4の発明は、請求項1の発明において、前記表示された画像に関連付けて区分した領域毎に誘目度を検出可能な誘目度検出手段を有し、前記広告表示制御手段は、前記視聴者の視線が前記意義的領域から意義的領域外に移動したとき、前記移動した先の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴としている。
この構成によれば、広告情報の誘目度を視聴者の集中度に合わせて設定することができる。
The invention of claim 4 is characterized in that, in the invention of claim 1, it has an attractiveness detection means capable of detecting the attractiveness of each area divided in association with the displayed image, and the advertising display control means changes the display form of the superimposed advertising information according to the attractiveness of the destination when the viewer's gaze moves from the semantic area to outside the semantic area.
According to this configuration, the attention level of the advertising information can be set in accordance with the concentration level of the viewer.
請求項5の発明は、請求項4の発明において、前記広告表示制御手段は、前記移動した先の誘目度が高いとき、移動した先の誘目度が低いときに比べて前記重畳表示される広告情報の誘目度を高くすることを特徴としている。
この構成によれば、移動した先の誘目度が高いとき、視線が誘目度に反射的に引き付けられて移動する漫然状態(低集中度)であるため、広告の誘目度を高くして視聴者の広告認識度を高くすることができる。移動した先の誘目度が低いとき、視線が意図的に意識対象に移動する集注状態(中集中度)であるため、広告の誘目度を低くして集中状態の阻害を回避することができる。
The invention of claim 5 is characterized in that, in the invention of claim 4, the advertisement display control means increases the eye-catching degree of the superimposed advertising information when the eye-catching degree of the destination is high compared to when the eye-catching degree of the destination is low.
According to this configuration, when the attention of the destination is high, the gaze is reflexively drawn to the attention and moves in a random state (low concentration), so the attention of the advertisement can be increased to increase the viewer's recognition of the advertisement.When the attention of the destination is low, the gaze is intentionally moved to the target of attention and moves in a focused state (medium concentration), so the attention of the advertisement can be decreased to avoid disturbance of the focused state.
請求項6の発明は、広告情報を重畳可能な広告掲示領域を含む画像を配信する画像管理手段と、この画像管理手段から配信された前記画像を表示する画像表示手段とを用いて広告を提供する広告提供方法において、前記画像を視る視聴者の視線を検出する視線検出ステップと、前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出ステップと、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示する広告表示ステップと、を有することを特徴としている。
この構成によれば、基本的に請求項1と同様の効果を奏することができる。
The invention of claim 6 is an advertising provision method that provides advertisements using an image management means that distributes an image including an advertising posting area on which advertising information can be superimposed, and an image display means that displays the image distributed from the image management means, and is characterized by having a gaze detection step that detects the gaze of a viewer viewing the image, a meaningful area detection step that detects a meaningful area within the image that displays important parts of the image, and an advertising display step that superimposes advertising information on the advertising posting area when the viewer's gaze is not in the meaningful area.
According to this configuration, basically the same effect as that of claim 1 can be achieved.
本発明の広告提供システム及び広告提供方法によれば、視聴者の視線と誘目度に基づいて集中度を判定することにより、視聴者が煩わしさを覚えることなくオーバーレイ広告を提供することができる。 The advertising system and method of the present invention can provide overlay advertisements without bothering the viewer by determining the level of concentration based on the viewer's line of sight and the degree of visual attraction.
以下、本発明の実施形態を図面に基づいて詳細に説明する。
以下の説明は、本発明を広告提供システムに適用したものを例示したものであり、本発明、その適用物、或いは、その用途を制限するものではない。
Hereinafter, an embodiment of the present invention will be described in detail with reference to the drawings.
The following description is an example of the application of the present invention to an advertisement providing system, and is not intended to limit the present invention, its applications, or its uses.
以下、本発明の実施例1について図1~図7に基づいて説明する。
図1に示すように、広告提供システムSは、映像制作会社1(画像管理手段)と、広告制作会社2と、ユーザ領域3と、番組配信会社4とを主な構成要素として構成され、ネットワーク5によって各々が相互通信可能に接続されている。
尚、以下の説明は、広告提供方法の説明を含むものである。
A first embodiment of the present invention will be described below with reference to FIGS. 1 to 7. FIG.
As shown in FIG. 1, the advertising provision system S is composed of main components including a video production company 1 (image management means), an advertising production company 2, a user area 3, and a program distribution company 4, each of which is connected to each other via a network 5 so that they can communicate with each other.
The following description includes a description of a method for providing advertisements.
映像制作会社1は、クライアントの要求に基づき、スポーツ中継、映画、ドラマ、バラエティ、ニュース報道等の画像コンテンツである番組情報(以下、第1画像という)を制作してネットワーク5上に配信している。この映像制作会社1は、例えば、複数の第1画像を格納する記憶部11と、格納された複数の第1画像から指定された第1画像を記憶部11からリアルタイムに抽出すると共に抽出された第1画像に所定の加工を施して送信する映像制御部12等を備えている。 Based on client requests, video production company 1 produces program information (hereinafter referred to as first images), which is image content such as sports broadcasts, movies, dramas, variety shows, and news reports, and distributes it over network 5. This video production company 1 is equipped with, for example, a memory unit 11 that stores a plurality of first images, and a video control unit 12 that extracts a specified first image from the plurality of stored first images from memory unit 11 in real time and transmits the extracted first image after applying a predetermined processing to it.
広告制作会社2は、クライアントの要求に基づき、商品やサービスの購買意欲を惹起する画像コンテンツである静止画或いは動画広告情報(以下、第2画像という)を制作してネットワーク5上に配信している。この広告制作会社2は、例えば、複数の第2画像を格納する記憶部21と、格納された複数の第2画像から指定された第2画像を記憶部21からリアルタイムに抽出すると共に抽出された第2画像を送信する広告制御部22等を備えている。映像制作会社1と広告制作会社2は、夫々複数であっても良く、また、一方のみが複数であっても良い。 Based on client requests, the advertising production company 2 creates still or video advertising information (hereinafter referred to as second images), which is image content that stimulates purchasing desire for products or services, and distributes it over the network 5. This advertising production company 2 includes, for example, a memory unit 21 that stores multiple second images, and an advertising control unit 22 that extracts a specified second image from the multiple stored second images in real time from the memory unit 21 and transmits the extracted second image. There may be multiple video production companies 1 and advertising production companies 2, or only one of them may be multiple.
ユーザ領域3は、例えば、視聴者であるユーザが普段生活する自宅(居所)である。
図1に示すように、このユーザ領域3は、ユーザが自宅で視聴するディスプレイモニタ31(画像表示手段)と、第1カメラ32と、第2カメラ33と、指向性スピーカ34と、コントローラ35を主な構成要素としている。
モニタ31は、番組配信会社4から配信された表示用画像(以下、番組コンテンツという)を表示可能な液晶ディスプレイパネル或いはプラズマディスプレイパネル等である。
The user area 3 is, for example, the home (residence) where the user, who is the viewer, usually lives.
As shown in FIG. 1, the main components of the user area 3 are a display monitor 31 (image display means) that the user watches at home, a first camera 32, a second camera 33, a directional speaker 34, and a controller 35.
The monitor 31 is a liquid crystal display panel, a plasma display panel, or the like, capable of displaying images (hereinafter, referred to as program content) distributed by the program distribution company 4 .
第1カメラ32は、ユーザと向き合うようにモニタ31の表示面側に一体的に装着され、主にユーザの目を含む顔領域を撮像している。第2カメラ33は、ユーザの後方或いは側方に第1カメラ32とは独立して配設され、主にユーザ回りの周辺状況(居住環境)を撮像している。これら第1,第2カメラ32,33は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等のイメージセンサである。指向性スピーカ34は、例えば、モニタ31の上面前方に配置した5個の無指向性ECM(Electret Condenser Microphone)によりビームフォーミング可能に構成されている。 The first camera 32 is attached integrally to the display surface side of the monitor 31 so as to face the user, and mainly captures the user's facial area including the eyes. The second camera 33 is disposed independently of the first camera 32 behind or to the side of the user, and mainly captures the surroundings (living environment) of the user. These first and second cameras 32, 33 are image sensors such as CCD (Charge Coupled Device) or CMOS (Complementary Metal Oxide Semiconductor). The directional speaker 34 is configured to be capable of beamforming using, for example, five omnidirectional ECMs (Electret Condenser Microphones) arranged in front of the upper surface of the monitor 31.
コントローラ35は、第1,第2カメラ32,33が撮像した撮像情報を画像処理すると共に、撮像した撮像情報に基づいてユーザの視線画像とユーザの周辺画像等を作成している。このコントローラ35は、モニタ31及び指向性スピーカ34の作動を制御して番組配信会社4から配信された番組コンテンツをユーザに向かって表示している。
図1に示すように、コントローラ35は、視線演算部36と、表示制御部37等を有している。
The controller 35 processes the image information captured by the first and second cameras 32 and 33, and creates an image of the user's line of sight and an image of the user's surroundings based on the captured image information. The controller 35 controls the operation of the monitor 31 and the directional speaker 34 to display program content distributed by the program distribution company 4 to the user.
As shown in FIG. 1, the controller 35 includes a line-of-sight calculation unit 36, a display control unit 37, and the like.
視線演算部36は、第1カメラ32が撮像した撮像情報を画像処理してユーザの顔画像を作成し、また、第2カメラ33が撮像した撮像情報を画像処理してユーザの周辺画像を作成している。更に、視線演算部36は、ユーザの顔画像に基づきユーザの顔の向きと黒目(瞳孔)部分の方向を検出し、これらを基に視線方向を計算してユーザが現在視聴しているモニタ31の表示用画像(番組コンテンツ)にユーザの視線が向かう先(注視点)である視対象Lが合成された視線画像を作成している(図2~図4参照)。 The gaze calculation unit 36 processes the image information captured by the first camera 32 to create an image of the user's face, and also processes the image information captured by the second camera 33 to create an image of the user's surroundings. Furthermore, the gaze calculation unit 36 detects the direction of the user's face and the direction of the black eye (pupil) based on the user's face image, calculates the gaze direction based on these, and creates a gaze image in which the display image (program content) on the monitor 31 that the user is currently viewing is combined with the visual target L, which is the destination (point of gaze) of the user's gaze (see Figures 2 to 4).
表示制御部37は、番組コンテンツを表示するようにモニタ31を制御している。
また、この表示制御部37は、後述する広告掲示領域Aに高誘目性広告を表示する場合、指向性スピーカ34を制御して、音声信号の位相を遅延器により広告掲示領域A方向の信号を強調することで音源定位可能に構成されている。この音源分離機能を用いてユーザの視線方向を高誘目性広告(広告掲示領域A)に誘導している。
The display control unit 37 controls the monitor 31 to display the program content.
Furthermore, when a highly conspicuous advertisement is displayed in advertisement display area A, which will be described later, the display control unit 37 is configured to be able to localize the sound source by controlling the directional speaker 34 and emphasizing the signal in the direction of advertisement display area A using a delay device to adjust the phase of the audio signal. Using this sound source separation function, the user's line of sight is guided to the highly conspicuous advertisement (advertisement display area A).
番組配信会社4は、第1画像と第2画像とを合成して番組コンテンツを作成すると共に、この番組コンテンツをユーザ領域3(コントローラ35)に逐次配信している。
また、この番組配信会社4は、所定のタイミングで配信するユーザ領域3の属性(例えば、国籍、住所、家族構成、ユーザの年代等)に対応した第2画像を広告制作会社2に要求すると共に要求に応じた第2画像を広告制作会社2から受信している。
The program distribution company 4 creates program content by synthesizing the first image and the second image, and sequentially distributes this program content to the user area 3 (controller 35).
In addition, the program distribution company 4 requests the advertising production company 2 to provide a second image corresponding to the attributes of the user area 3 (e.g., nationality, address, family composition, user age, etc.) to be distributed at a specified timing, and receives the second image in response to the request from the advertising production company 2.
図1に示すように、番組配信会社4は、意義的領域設定部41(意義的領域検出手段)と、誘目度判定部42(誘目度検出手段)と、集中度判定部43と、広告仕様設定部44と、広告合成部45と、配信制御部46等を備えている。
尚、広告仕様設定部44と広告合成部45が、広告表示制御手段に相当している。
As shown in FIG. 1, the program distribution company 4 includes a semantic area setting unit 41 (semantic area detection means), an attractiveness determination unit 42 (attractiveness detection means), a concentration determination unit 43, an advertisement specification setting unit 44, an advertisement synthesis unit 45, a distribution control unit 46, and the like.
The advertisement specification setting unit 44 and the advertisement synthesis unit 45 correspond to an advertisement display control means.
意義的領域設定部41は、映像制作会社1から受信した第1画像において、その映像内の画像のうち重要部を表示する領域、所謂意義的領域P(P1,P2)を設定している。
意義的領域Pとは、制作者側が視聴者に興味を持って視線を向けて欲しい領域である。
それ故、意義的領域Pには、番組の属性により、自然発生的に形成された第1の意義的領域P1と、予め制作者によって意図的に作成された第2の意義的領域P2とが存在している。
The significant area setting unit 41 sets an area in the first image received from the video production company 1 that displays an important part of the image in the video, that is, a so-called significant area P (P1, P2).
The meaningful area P is an area that the creators want the viewer to be interested in and focus their attention on.
Therefore, the semantic domain P includes a first semantic domain P1 that is formed spontaneously due to the attributes of the program, and a second semantic domain P2 that is intentionally created in advance by the creator.
第1の意義的領域P1は、出場者(出演者)の挙動により、その場で自然発生的に形成される。図2(a),図2(b)に示すように、例えば、サッカー中継番組の場合、ボール、ボールを操作するプレーヤ、ボールの近傍に滞在するプレーヤが意義的領域の設定条件に設定され、これらの条件を満足する人及び物が存在する空間領域が意義的領域P1として設定される。意義的領域P1の場合、視聴者に興味を持って視線を向けて欲しい領域が事前に判明していないため、時間経過と共に意義的領域が判定されている。
尚、図2(a)は、敵味方入り乱れてボールを取り合うシーンの視線画像、図2(b)は、コーナキックを待つシーンの視線画像である。図2(a)の意義的領域P1には、ユーザの視線が集中しているが、図2(b)の意義的領域P1には、ユーザの視線が集中していない。
The first semantic area P1 is formed spontaneously on the spot by the behavior of the participants (performers). As shown in Figures 2(a) and 2(b), for example, in the case of a soccer broadcast program, the ball, the player who manipulates the ball, and the players who stay near the ball are set as the setting conditions of the semantic area, and the spatial area where people and objects that satisfy these conditions exist is set as the semantic area P1. In the case of the semantic area P1, the area where the viewer is desired to be interested and look at is not known in advance, so the semantic area is determined over time.
2(a) is a gaze image of a scene where allies and enemies are jumbled together to fight for the ball, and FIG. 2(b) is a gaze image of a scene where players are waiting for a corner kick. The user's gaze is focused on the meaningful area P1 in FIG. 2(a), but the user's gaze is not focused on the meaningful area P1 in FIG. 2(b).
第2の意義的領域P2は、制作者の意思により予め意図的に作成されている。
図3(a),図3(b)に示すように、例えば、映画番組の場合、脚本家や監督の思惑によって視聴者に興味を持って視線を向けて欲しい領域が設定されているため、予め第1画像中に俳優の表情や動作からなる意義的領域P2が存在している。尚、図3(a)は、レストランでの会食シーンの視線画像、図3(b)は、傷心した俳優が項垂れるシーンの視線画像である。図3(a)の意義的領域P2には、ユーザの視線が集中しているが、図3(b)の意義的領域P2には、ユーザの視線が集中していない。
The second semantic area P2 is created intentionally in advance by the creator.
As shown in Figures 3(a) and 3(b), for example, in the case of a movie program, the screenwriter or director has set an area where the viewer is expected to take an interest and look at the first image, so a semantic area P2 consisting of the actor's facial expressions and actions is already present in the first image. Note that Figure 3(a) is a gaze image of a dining scene at a restaurant, and Figure 3(b) is a gaze image of a scene where a broken-hearted actor hangs his head. The user's gaze is focused on the semantic area P2 in Figure 3(a), but not on the semantic area P2 in Figure 3(b).
図4(a),図4(b)に示すように、例えば、ニュース報道番組の場合、制作者側の思惑によってキャスターとモニタ画面からなる意義的領域P2が存在している。尚、図4(a)は、ユーザのお気に入りのキャスターが興味のあるニュースを解説するシーンの視線画像であり、図4(b)は、ユーザの興味がないキャスターが興味のないニュースを解説するシーンの視線画像である。図4(a)の意義的領域P2には、ユーザの視線が集中しているが、図4(b)の意義的領域P2には、ユーザの視線が集中していない。
以下、意義的領域P1と意義的領域P2を区別する必要がない場合、両者を総称して単に意義的領域Pとして説明する。
As shown in Figures 4(a) and 4(b), for example, in the case of a news report program, a semantic area P2 consisting of a newscaster and a monitor screen exists due to the intention of the producer. Note that Figure 4(a) is a gaze image of a scene in which a favorite newscaster of the user explains news of interest, and Figure 4(b) is a gaze image of a scene in which a newscaster who is not of interest to the user explains news of no interest to the user. The user's gaze is concentrated on the semantic area P2 in Figure 4(a), but the user's gaze is not concentrated on the semantic area P2 in Figure 4(b).
Hereinafter, when there is no need to distinguish between semantic area P1 and semantic area P2, they will be collectively referred to simply as semantic area P.
誘目度判定部42は、映像制作会社1から受信した第1画像において、表示された画像に関連付けて区分した領域毎に誘目度を判定している。区分した領域とは、例えば、画像中の構造物領域、空間領域、或いは、意義的領域Pとそれ以外の領域等後の処理に関連する区分領域である。誘目度は、視覚的顕著性或いはサリエンシーとも言われ、物理的視覚刺激(輝度、色合い、エッジ方向等)のみによって規定されるユーザの注視の集め易さと定義されている。ユーザの興味や意図等の要因を考慮しなければ、人間工学上、視野内のうち誘目度の高い領域が自然に注視されている。 The visual attraction determination unit 42 determines the visual attraction of each divided area in the first image received from the video production company 1 in association with the displayed image. The divided areas are, for example, structural areas in the image, spatial areas, or divided areas related to subsequent processing such as semantic areas P and other areas. Visual attraction is also called visual salience or saliency, and is defined as the ease with which a user's gaze is attracted, determined only by physical visual stimuli (brightness, color, edge direction, etc.). If factors such as the user's interests and intentions are not taken into account, then, from an ergonomic perspective, the user will naturally focus on areas with high visual attraction within the field of view.
誘目度判定部42は、第1画像とユーザの周辺画像とについて、特徴に依存しない視覚刺激の誘目度をスカラー量として計算し、二次元の誘目度マップとして夫々表現している。この誘目度マップの作成方法は、公知の技術であるため、詳細な説明は省略する。 The attention determining unit 42 calculates the attention of visual stimuli that are not dependent on features for the first image and the user's peripheral image as a scalar quantity, and expresses each as a two-dimensional attention map. The method for creating this attention map is a known technique, so a detailed description is omitted.
集中度判定部43は、ユーザの精神状態を散漫状態、漫然状態、集注状態、没頭状態の4つの状態に分類し、これらの状態に基づき集中度を判定している。
この集中度判定部43は、コントローラ35から受信した視線画像と意義的領域設定部41が設定した意義的領域Pを用いて、集中度を判定している。
視対象L(ユーザの注視点)が意義的領域Pに存在しない場合、散漫状態であり、低集中度が判定される。具体的には、視対象Lが判定時間のうち意義的領域Pに滞在した時間割合(例えば、40%)以上を基準としており、視対象Lが意義的領域Pに滞在した時間が判定時間中40%未満の場合、視対象Lが意義的領域Pに滞在していないと判定している。
The concentration level determination unit 43 classifies the user's mental state into four states: a distracted state, an absent-minded state, a focused state, and an engrossed state, and determines the concentration level based on these states.
The concentration level determination unit 43 determines the concentration level using the gaze image received from the controller 35 and the semantic area P set by the semantic area setting unit 41 .
When the visual target L (user's gaze point) is not present in the semantic area P, the user is determined to be in a distracted state and to have a low level of concentration. Specifically, the time ratio (e.g., 40% or more) during which the visual target L stays in the semantic area P during the determination time is used as the criterion, and when the time during which the visual target L stays in the semantic area P is less than 40% of the determination time, it is determined that the visual target L does not stay in the semantic area P.
集中度判定部43は、意義的領域設定部41が設定した意義的領域Pと誘目度判定部42が判定した領域毎の誘目度を用いて、ユーザの集中度を判定している。
具体的には、視対象Lが滞在する意義的領域Pの第1誘目度が第1閾値以下の場合、没頭状態であり、高集中度が判定される。他の領域に比べて誘目度が低い意義的領域Pに敢えて視線を向けている場合、ユーザは番組に集中した没頭状態である。
The concentration level determination unit 43 determines the concentration level of the user using the semantic area P set by the semantic area setting unit 41 and the degree of attraction of each area determined by the attention level determination unit 42 .
Specifically, when the first attractiveness of the semantic area P where the visual target L is staying is equal to or less than a first threshold, the user is in an immersive state and is determined to have a high degree of concentration. When the user directs his/her gaze to the semantic area P that has a lower attractiveness than other areas, the user is in an immersive state concentrating on the program.
散漫状態と没頭状態を除いた状態を更に細かく区分するため、集中度判定部43は、視線の移動先の誘目度(第2誘目度)に基づき、漫然状態と集注状態を判定している。
集中度判定部43は、ユーザの視線が意義的領域Pから意義的領域P以外に移動した場合、移動先の第2誘目度を用いて、ユーザの心理状態を判定している。視覚的注意とサッケード眼球運動は、ユーザの集中度に密接に関連しているからである。
In order to classify the states other than the distracted state and the engrossed state more finely, the concentration level determination unit 43 determines whether the state is absent-minded or focused based on the degree of attraction (second degree of attraction) of the destination of the gaze.
When the user's line of sight moves from the meaningful area P to a location other than the meaningful area P, the concentration level determination unit 43 determines the user's psychological state using the second degree of attraction of the destination. This is because visual attention and saccadic eye movement are closely related to the user's level of concentration.
視対象L(注視点)が意義的領域Pに存在しても、ユーザの意識が向かう(興味がある)とは限らない。視対象Lであっても、意識対象ではないことがある。そこで、ユーザの視線が意義的領域Pから移動した際、直前までの状態を誘目度を用いて判定する。
具体的には、ユーザの視線が移動した移動先の第2誘目度が第2閾値(第1閾値<第2閾値)以下の場合、集注状態(中集中度)を判定している。敢えて、誘目度が低い対象を注視することは、ユーザが意思を持って意識対象に視線を向けたと推測される。
第2誘目度が第2閾値よりも大きい場合、漫然状態(低集中度)を判定している。
誘目度が高い対象を注視することは、移動前に無意識的に意義的領域Pへ視線を向けていたと推測される。
Even if the visual target L (point of gaze) is in the semantic area P, it does not necessarily mean that the user is aware of it (is interested in it). Even if it is the visual target L, it may not be the target of attention. Therefore, when the user's gaze moves from the semantic area P, the state up until that point is determined using the degree of attention.
Specifically, when the second attractiveness of the destination to which the user's gaze has moved is equal to or less than a second threshold (first threshold < second threshold), the state of focus (medium concentration) is determined. When the user deliberately focuses on an object with a low attractiveness, it is presumed that the user has intentionally directed his or her gaze toward the object of interest.
When the second degree of attraction is greater than the second threshold value, a absentminded state (low degree of concentration) is determined.
It is assumed that gazing at a highly eye-catching object indicates that the gaze was unconsciously directed toward the meaningful area P before moving.
広告仕様設定部44は、第1画像に合成する第2画像の誘目度をユーザの集中度に応じて変更している。この広告仕様設定部44は、中集中度のとき、第2画像の誘目度を低誘目度にし、低集中度のとき、第2画像の誘目度を高誘目度にしている。
第2画像の誘目度を高誘目度にする場合、例えば、広告文字の輝度又は色の明るさを高くする、或いは広告の動きを大きくしている。低誘目度にする場合、上記の逆を行う。
これにより、中集中度のとき、ユーザの視聴の妨害を回避し、低集中度のとき、ユーザの視線をモニタ31に惹き付けつつユーザの購買意欲を促進している。尚、高集中度のとき、第2画像は第1画像に合成されないため、第2画像の誘目度は設定されない。
The advertisement specification setting unit 44 changes the degree of attraction of the second image to be combined with the first image in accordance with the degree of concentration of the user. When the degree of concentration is medium, the advertisement specification setting unit 44 sets the degree of attraction of the second image to low, and when the degree of concentration is low, the advertisement specification setting unit 44 sets the degree of attraction of the second image to high.
When the eye-catching degree of the second image is to be high, for example, the luminance or color brightness of the advertisement characters is increased, or the movement of the advertisement is enlarged.
In this way, when the degree of concentration is medium, the disturbance of the user's viewing is avoided, and when the degree of concentration is low, the user's desire to purchase is promoted while attracting the user's gaze to the monitor 31. Note that when the degree of concentration is high, the second image is not composited with the first image, and therefore the degree of attraction of the second image is not set.
広告合成部45は、誘目度が設定された第2画像に所定の加工を施し、第1画像の広告掲示領域Aに合成して表示用画像(番組コンテンツ)を生成する。
この広告合成部45は、 第1画像の一部領域を構成する広告掲示領域Aに、第1画像の一部として第2画像が重畳されたオーバーレイ広告を形成している。
図2(b),図3(b),図4(b)に示すように、広告掲示領域Aは、第1画像の一部領域を構成している。具体的には、広告掲示領域Aは、図2では、サッカー場の無地(緑色)フェンスであり、図3では、レストランの壁に装着された装飾用単色板であり、図4では、報道室の壁に設置された番組タイトルの表示板に設定されている。
配信制御部46は、広告合成部45で生成された番組コンテンツをコントローラ35(ユーザ領域3)に配信する。
The advertisement combining unit 45 applies a predetermined process to the second image having the set eye-catching degree, and combines it with the advertisement posting area A of the first image to generate a display image (program content).
The advertisement synthesis unit 45 forms an overlay advertisement in which the second image is superimposed as a part of the first image in an advertisement display area A that constitutes a partial area of the first image.
As shown in Fig. 2(b), Fig. 3(b), and Fig. 4(b), the advertisement display area A constitutes a part of the first image. Specifically, the advertisement display area A is a plain (green) fence of a soccer field in Fig. 2, a single-color decorative board attached to the wall of a restaurant in Fig. 3, and is set as a display board of a program title installed on the wall of a news room in Fig. 4.
The distribution control unit 46 distributes the program content generated by the advertisement combining unit 45 to the controller 35 (user area 3).
次に、図5に示すフローチャートを参照しながら、広告表示制御処理の一例について説明する。尚、図中、Si(i=1,2,…)は、各ステップを示す。
まず、適宜、必要な情報を取り込み(S1)、S2に移行する。
S2では、ユーザが所定の番組コンテンツを視聴している状況において、ユーザの視線画像とユーザの周辺画像とを逐次作成して、S3に移行する。
Next, an example of an advertisement display control process will be described with reference to the flowchart shown in Fig. 5. In the figure, Si (i = 1, 2, ...) indicates each step.
First, necessary information is acquired as appropriate (S1), and the process proceeds to S2.
In S2, while the user is viewing a predetermined program content, a gaze image of the user and an image of the user's surroundings are sequentially created, and the process proceeds to S3.
S3では、ユーザが視聴する表示用画像の意義的領域Pを設定して、S4に移行する。
S4では、ユーザが視聴する表示用画像とユーザの周辺画像の領域毎の誘目度を演算して、S5に移行する。
In S3, a semantic area P of the display image viewed by the user is set, and the process moves to S4.
In S4, the attention degree for each area of the display image viewed by the user and the image surrounding the user is calculated, and the process proceeds to S5.
S5では、所定の判定時間において、ユーザの視対象Lが意義的領域Pの外か否か判定する。S5の判定の結果、ユーザの視対象Lが意義的領域Pの外の場合、ユーザが番組コンテンツに興味がないため、S6に移行する。S5の判定の結果、ユーザの視対象Lが意義的領域Pに存在する場合、ユーザが番組コンテンツに興味があると推定されるため、S11に移行する。 In S5, it is determined whether or not the user's visual target L is outside the semantic area P at a predetermined determination time. If the result of the determination in S5 is that the user's visual target L is outside the semantic area P, the user is not interested in the program content, and the process proceeds to S6. If the result of the determination in S5 is that the user's visual target L is within the semantic area P, it is presumed that the user is interested in the program content, and the process proceeds to S11.
S6では、前回もユーザの視対象Lが意義的領域Pの外か否か判定する。
S6の判定の結果、前回もユーザの視対象Lが意義的領域Pの外である場合、ユーザが続けて意義的領域Pの外を視ているため、ユーザは番組コンテンツに興味がなく、低集中度と判定する(S7)。S6の判定の結果、前回の視対象Lが意義的領域Pの内であり、今回初めて意義的領域Pの外に外れた場合、S10に移行する。
In S6, it is determined whether the user's visual target L was outside the semantic region P last time as well.
If the result of the determination in S6 is that the user's viewing target L was also outside the semantic region P last time, the user is determined to be uninterested in the program content and to have a low concentration level because the user continues to look outside the semantic region P (S7). If the result of the determination in S6 is that the previous viewing target L was within the semantic region P and this time it is the first time that it has fallen outside the semantic region P, the process proceeds to S10.
S10では、前回の視対象Lが意義的領域Pの内であって、今回、視線移動先の誘目度である第2誘目度が第2閾値よりも大きいか否か判定する。
S10の判定の結果、第2誘目度が第2閾値よりも大きいとき、意義的領域Pを漫然と視ていた視線が反射的に高い誘目度に誘導されたため、S7に移行する。
S10の判定の結果、第2誘目度が第2閾値よりも以下のとき、意義的領域Pを集注して視ていた視線が意識的に低い誘目度の意識対象に向けられたため、S12に移行する。
In S10, it is determined whether the previous visual target L was within the semantic area P and whether the second visual attraction, which is the visual attraction of the current visual line movement destination, is greater than a second threshold value.
When the result of the determination in S10 is that the second degree of attraction is greater than the second threshold, the line of sight that had been casually gazing at the meaningful area P is reflexively guided to the high degree of attraction, and the process proceeds to S7.
When the result of the judgment in S10 is that the second degree of attraction is equal to or less than the second threshold, the gaze, which was focused on the semantic area P, has been consciously directed toward an object of attention with a lower degree of attraction, and the process proceeds to S12.
図6に示すように、表示用画像全体の誘目度と一般ユーザの視線による頻度との関係は、上に突出した特性D1であり、意義的領域Pの誘目度と一般ユーザの視線による頻度との関係は、高誘目度領域において上に突出した特性D2である。
図7に、図6を誘目度と一般ユーザの視線確率との関係に変換したグラフを示す。
図7に示すように、意義的領域Pの特性D3は、高誘目度、例えば平均値+標準偏差以上の領域において、略7割以上の領域を占めている。これは、意義的領域P内では、輝度等の要素に加えて、動き等の要素が大きくなるためと推測される。従って、視対象Lが意義的領域P外に移動したとき、移動先の誘目度が低い場合、ユーザは興味対象に対して意識的に視線を向けている。
As shown in Figure 6, the relationship between the attractiveness of the entire display image and the frequency of gaze of general users is an upwardly protruding characteristic D1, and the relationship between the attractiveness of the semantic area P and the frequency of gaze of general users is an upwardly protruding characteristic D2 in the high-attraction area.
FIG. 7 shows a graph obtained by converting the graph in FIG. 6 into a relationship between the degree of eye-attraction and the probability of line-of-sight of general users.
7, the characteristic D3 of the meaningful area P occupies approximately 70% or more of the area with high attractiveness, for example, the area of the average value + standard deviation or more. This is presumably because, in addition to elements such as brightness, elements such as movement become large within the meaningful area P. Therefore, when the visual target L moves outside the meaningful area P, if the attractiveness of the destination is low, the user consciously directs his or her gaze toward the target of interest.
図5のフローチャートの説明に戻る。
S7の後、指向性スピーカ34の音源分離機能により音源定位してユーザの視線を広告掲示領域Aに誘導し(S8)、広告掲示領域Aに高誘目度の第2画像の広告を表示して(S9)、リターンする。ここで、ユーザが継続して意義的領域Pの外を視ている場合(S5,S6共にYES)、ユーザの視線をモニタ31に惹き付けるため、広告掲示領域Aに表示される第2画像の誘目度をユーザの周辺画像(家具やカーテン等を含む居住空間)の誘目度よりも高くなるように設定している。
Returning to the explanation of the flowchart in FIG.
After S7, the sound source is localized by the sound source separation function of the directional speaker 34, and the user's gaze is guided to the advertisement posting area A (S8), and a second image advertisement with high eye-catching is displayed in the advertisement posting area A (S9), and the process returns. Here, if the user continues to look outside the semantic area P (YES in both S5 and S6), the eye-catching degree of the second image displayed in the advertisement posting area A is set to be higher than the eye-catching degree of the image surrounding the user (living space including furniture, curtains, etc.) in order to attract the user's gaze to the monitor 31.
S11では、ユーザの視対象Lが存在する意義的領域Pの第1誘目度が第1閾値よりも大きいか否か判定する。S11の判定の結果、第1誘目度が第1閾値よりも大きい場合、ユーザが番組コンテンツに興味がある集注状態であるため、中集中度と判定する(S12)。S12の後、広告掲示領域Aに低誘目度の第2画像の広告を表示して(S13)、リターンする。集注状態のユーザの視聴を阻害しないように、広告表示する。 In S11, it is determined whether the first attractiveness of the semantic area P in which the user's visual target L exists is greater than a first threshold value. If the result of the determination in S11 is that the first attractiveness is greater than the first threshold value, the user is in a focused state where he or she is interested in the program content, and therefore the level of concentration is determined to be medium (S12). After S12, an advertisement of a second image with low attractiveness is displayed in the advertisement display area A (S13), and the process returns. The advertisement is displayed so as not to interfere with the viewing of the user in the focused state.
S11の判定の結果、第1誘目度が第1閾値以下の場合、ユーザが番組コンテンツに集中した没頭状態であるため、高集中度と判定する(S14)。ユーザが完全に集中して番組コンテンツを視聴できる環境を整えるためである。
S14の後、広告掲示領域の広告表示を禁止して(S15)、リターンする。
If the result of the determination in S11 is that the first degree of attraction is equal to or less than the first threshold, the user is in a state of being engrossed in the program content, and therefore the degree of concentration is determined to be high (S14). This is to prepare an environment in which the user can watch the program content with complete concentration.
After S14, the display of advertisements in the advertisement display area is prohibited (S15), and the process returns.
次に、上記広告提供システムSの作用、効果について説明する。
本広告提供システムSによれば、モニタ31に表示される画像を視るユーザの視線を検出する第1カメラ32を有するため、ユーザの視線を惹き付ける視対象L(ユーザの注視点)を判定することができる。画像内における画像の重要部を表示する意義的領域Pを検出する意義的領域設定部41を有するため、制作者側がユーザに興味を持って視線を向けて欲しい意義的領域Pを検出することができ、視覚的に表示することができる。
広告掲示領域Aに重畳される第2画像(広告情報)を制御する広告合成部45を有するため、画像を中断する広告表示時間を別途必要とすることなく、第2画像を表示することができる。広告合成部45は、視対象Lが意義的領域Pに存在しないとき、広告掲示領域Aに第2画像を重畳表示するため、ユーザが画像に対して散漫状態である低集中度のとき、ユーザの集中状態を阻害することなく第2画像を表示することができる。
Next, the operation and effect of the advertisement providing system S will be described.
According to the present advertisement providing system S, since it has the first camera 32 that detects the line of sight of the user who is viewing the image displayed on the monitor 31, it is possible to determine the visual target L (user's gaze point) that attracts the user's gaze. Since it has the semantic area setting part 41 that detects the semantic area P that displays the important part of the image within the image, it is possible to detect the semantic area P that the creator wants the user to be interested in and direct their gaze to, and to visually display it.
Since the device has an advertisement synthesis unit 45 that controls the second image (advertising information) superimposed on the advertisement posting area A, the second image can be displayed without requiring a separate advertisement display time to interrupt the image. When the visual target L does not exist in the semantic area P, the advertisement synthesis unit 45 superimposes the second image on the advertisement posting area A, so that when the user is in a distracted state with respect to the image and has a low level of concentration, the second image can be displayed without disturbing the user's concentration.
意義的領域Pの誘目度を検出可能な誘目度判定部42を有し、広告合成部45は、視対象Lが意義的領域Pに存在するとき、意義的領域Pの誘目度に応じて重畳表示される第2画像の表示形態を変更するため、ユーザの集中度に応じて第2画像の表示形態を変更することができる。 The system has an attractiveness determination unit 42 capable of detecting the attractiveness of the semantic area P, and the advertisement synthesis unit 45 changes the display form of the second image superimposed according to the attractiveness of the semantic area P when the visual target L is present in the semantic area P, so that the display form of the second image can be changed according to the user's concentration level.
広告合成部45は、意義的領域Pの誘目度が所定の閾値よりも低いとき、第2画像の重畳を行わず第2画像の表示を禁止している。これにより、ユーザが画像に対して没頭状態である高集中度のとき、広告情報である第2画像の表示を禁止するため、ユーザの集中状態を阻害しない。 When the degree of attention of the semantic area P is lower than a predetermined threshold, the advertisement synthesis unit 45 does not superimpose the second image and prohibits the display of the second image. As a result, when the user is engrossed in the image and has a high level of concentration, the display of the second image, which is advertisement information, is prohibited, so that the user's concentration is not hindered.
表示された画像に関連付けて区分した領域毎に誘目度を検出可能な誘目度判定部42を有し、広告仕様設定部44は、視対象Lが意義的領域Pから意義的領域P外に移動したとき、移動した先の誘目度に応じて重畳表示される第2画像の表示形態を変更するため、第2画像の誘目度をユーザの集中度に合わせて設定することができる。 The system has an attractiveness determination unit 42 capable of detecting the degree of attraction for each area divided in association with the displayed image, and the advertising specification setting unit 44 changes the display form of the second image superimposed according to the attractiveness of the area to which the visual target L moves from the semantic area P to outside the semantic area P, so that the attractiveness of the second image can be set according to the user's concentration level.
広告仕様設定部44は、移動した先の誘目度が高いとき、移動した先の誘目度が低いときに比べて重畳表示される第2画像の誘目度を高くしている。
これにより、移動した先の誘目度が高いとき、視線が誘目度に反射的に引き付けられて移動する漫然状態(低集中度)であるため、第2画像の誘目度を高くしてユーザの広告認識度を高くすることができる。移動した先の誘目度が低いとき、視線が意図的に意識対象に移動する集注状態(中集中度)であるため、第2画像の誘目度を低くして集中状態の阻害を回避することができる。
When the degree of attraction of the destination is high, the advertisement specification setting unit 44 increases the degree of attraction of the second image to be superimposed and displayed compared to when the degree of attraction of the destination is low.
In this way, when the degree of attraction of the destination is high, the gaze is reflexively attracted to the degree of attraction and moves in a random state (low concentration), so the degree of attraction of the second image can be increased to increase the user's recognition of the advertisement.When the degree of attraction of the destination is low, the gaze is intentionally moved to the target of attention and moves in a focused state (medium concentration), so the degree of attraction of the second image can be decreased to avoid disruption of the focused state.
本広告提供方法は、広告情報を重畳可能な広告掲示領域Aを含む画像を配信する番組配信会社4と、この番組配信会社4から配信された表示用画像を表示するモニタ31を用いて広告を提供する広告提供方法において、表示用画像を視るユーザの視線を検出する視線検出ステップと、表示用画像内における画像の重要部を表示する意義的領域Pを検出する意義的領域検出ステップと、視対象Lが意義的領域Pに存在しないとき、広告掲示領域Aに広告情報を重畳表示する広告表示ステップと、を有している。
本広告提供方法によれば、上記広告提供システムSと同様の効果を奏することができる。
This advertisement providing method, which involves a program distribution company 4 distributing an image including an advertisement posting area A on which advertising information can be superimposed, and a monitor 31 displaying the display image distributed from the program distribution company 4, provides advertisements using the monitor 31, and includes a gaze detection step for detecting the gaze of a user viewing the display image, a meaningful area detection step for detecting a meaningful area P that displays an important part of the image within the display image, and an advertisement display step for superimposing advertising information on the advertisement posting area A when a visual target L is not present in the meaningful area P.
According to this advertisement providing method, it is possible to achieve the same effects as those achieved by the advertisement providing system S described above.
次に、前記実施形態を部分的に変更した変形例について説明する。
1〕前記実施形態においては、画像管理手段が映像制作会社1である例を説明したが、映像制作会社1と番組配信会社4が一体である画像管理手段であっても良い。
また、映像制作会社1と広告制作会社2と番組配信会社4で画像管理手段を構成することも可能である。
Next, a modified example in which the above embodiment is partially changed will be described.
1) In the above embodiment, the image management means is the video production company 1, but the video production company 1 and the program distribution company 4 may be integrated into one image management means.
It is also possible for the video production company 1, the advertising production company 2 and the program distribution company 4 to constitute an image management means.
2〕前記実施形態においては、番組配信会社4が受信した第1画像と第2画像を予め合成し、番組配信会社4が合成した番組コンテンツをユーザ領域3のコントローラ35に配信する例を説明したが、映像制作会社1と広告制作会社2から第1,第2画像を直接的にユーザ領域3に送信しても良い。この場合、コントローラ35に、第1,第2画像の受信機能と、意義的領域設定部41、誘目度判定部42、集中度判定部43、広告仕様設定部44、広告合成部45等の機能を設ける。 2) In the above embodiment, an example was described in which the first image and the second image received by the program distribution company 4 are synthesized in advance, and the synthesized program content is distributed by the program distribution company 4 to the controller 35 of the user area 3, but the first and second images may be sent directly to the user area 3 from the video production company 1 and the advertising production company 2. In this case, the controller 35 is provided with a function for receiving the first and second images, as well as functions such as a semantic area setting unit 41, an attention degree determination unit 42, a concentration degree determination unit 43, an advertising specification setting unit 44, and an advertising synthesis unit 45.
3〕前記実施形態においては、番組配信会社4からユーザ領域3に番組コンテンツがネットワーク5を介して配信される例を説明したが、番組配信会社4からユーザ領域3に地上波(電波)を介して配信されるように構成しても良い。この場合、ユーザの視線画像とユーザの周辺画像は、ユーザ領域3から番組配信会社4に有線又は無線にて別途送信される。 3) In the above embodiment, an example was described in which program content was distributed from the program distribution company 4 to the user area 3 via the network 5, but it may also be configured to be distributed from the program distribution company 4 to the user area 3 via terrestrial waves (radio waves). In this case, the user's gaze image and the user's surroundings image are separately transmitted from the user area 3 to the program distribution company 4 via wired or wireless communication.
4〕前記実施形態においては、広告掲示領域Aに第1画像の一部として第2画像が重畳されたオーバーレイ広告が表示された例を説明したが、第2画像の重畳方法としてスーパーインポーズ法を用いて第2画像を重畳しても良い。 4) In the above embodiment, an example was described in which an overlay advertisement was displayed in advertising display area A, in which a second image was superimposed as part of a first image, but the second image may also be superimposed using a superimposition method.
5〕その他、当業者であれば、本発明の趣旨を逸脱することなく、前記実施形態に種々の変更を付加した形態で実施可能であり、本発明はそのような変更形態も包含するものである。 5) In addition, a person skilled in the art can implement the above-mentioned embodiment in various modified forms without departing from the spirit of the present invention, and the present invention also includes such modified forms.
1 映像制作会社
4 番組配信会社
31 モニタ
32 第1カメラ
41 意義的領域設定部
42 誘目度判定部
44 広告仕様設定部
45 広告合成部
S 広告提供システム
P 意義的領域
L 視対象
Reference Signs List 1 Video production company 4 Program distribution company 31 Monitor 32 First camera 41 Semantic area setting unit 42 Eye-catching degree determination unit 44 Advertisement specification setting unit 45 Advertisement synthesis unit S Advertisement provision system P Semantic area L Visual target
Claims (6)
前記画像を視る視聴者の視線を検出する視線検出手段と、
前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出手段と、
前記広告掲示領域に重畳される広告情報を制御する広告表示制御手段とを有し、
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示することを特徴とする広告提供システム。 1. An advertisement providing system that provides advertisements using an image management means that delivers an image including an advertisement posting area on which advertisement information can be superimposed, and an image display means that displays the image delivered from the image management means,
A gaze detection means for detecting a gaze of a viewer viewing the image;
a significant area detection means for detecting significant areas within the image, the significant areas representing important parts of the image;
an advertisement display control means for controlling advertisement information superimposed on the advertisement display area,
The advertisement providing system is characterized in that the advertisement display control means superimposes and displays advertisement information on the advertisement display area when the viewer's line of sight is not in the semantic area.
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域に存在するとき、前記意義的領域の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴とする請求項1に記載の広告提供システム。 an attractiveness detection means for detecting the attractiveness of the semantic area;
The advertising provision system according to claim 1, characterized in that the advertising display control means changes the display format of the superimposed advertising information according to the attractiveness of the semantic area when the viewer's line of sight is in the semantic area.
前記広告表示制御手段は、前記視聴者の視線が前記意義的領域から意義的領域外に移動したとき、前記移動した先の誘目度に応じて前記重畳表示される広告情報の表示形態を変更することを特徴とする請求項1に記載の広告提供システム。 an attractiveness detection means for detecting an attractiveness of each divided area in association with the displayed image;
The advertising provision system described in claim 1, characterized in that the advertising display control means changes the display format of the superimposed advertising information depending on the degree of visibility of the destination when the viewer's gaze moves from the semantic area to outside the semantic area.
前記画像を視る視聴者の視線を検出する視線検出ステップと、
前記画像内における画像の重要部を表示する意義的領域を検出する意義的領域検出ステップと、
前記視聴者の視線が前記意義的領域に存在しないとき、前記広告掲示領域に広告情報を重畳表示する広告表示ステップと、
を有することを特徴とする広告提供方法。 1. An advertisement providing method for providing an advertisement using an image management means for delivering an image including an advertisement posting area on which advertisement information can be superimposed, and an image display means for displaying the image delivered from the image management means, comprising:
a gaze detection step of detecting a gaze of a viewer viewing the image;
a significant region detection step for detecting significant regions in the image, the significant regions representing important parts of the image;
an advertisement display step of superimposing and displaying advertisement information on the advertisement display area when the viewer's line of sight is not in the semantic area;
13. A method for providing an advertisement, comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020198236A JP7578904B2 (en) | 2020-11-30 | 2020-11-30 | Advertisement provision system and advertisement provision method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020198236A JP7578904B2 (en) | 2020-11-30 | 2020-11-30 | Advertisement provision system and advertisement provision method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022086302A JP2022086302A (en) | 2022-06-09 |
JP7578904B2 true JP7578904B2 (en) | 2024-11-07 |
Family
ID=81893780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020198236A Active JP7578904B2 (en) | 2020-11-30 | 2020-11-30 | Advertisement provision system and advertisement provision method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7578904B2 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010154395A (en) | 2008-12-26 | 2010-07-08 | Sony Corp | Information processing apparatus and method, and program |
WO2011086877A1 (en) | 2010-01-13 | 2011-07-21 | パナソニック株式会社 | Video processing device and video display device |
WO2017199848A1 (en) | 2016-05-17 | 2017-11-23 | 株式会社コロプラ | Method for providing virtual space, program, and recording medium |
JP2019039988A (en) | 2017-08-23 | 2019-03-14 | 株式会社ソニー・インタラクティブエンタテインメント | Information processing apparatus and image display method |
JP2019047366A (en) | 2017-09-04 | 2019-03-22 | 株式会社ドワンゴ | Content delivery server, content delivery method and content delivery program |
WO2020061358A1 (en) | 2018-09-21 | 2020-03-26 | Neurable Inc. | Human-computer interface using high-speed and accurate tracking of user interactions |
-
2020
- 2020-11-30 JP JP2020198236A patent/JP7578904B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010154395A (en) | 2008-12-26 | 2010-07-08 | Sony Corp | Information processing apparatus and method, and program |
WO2011086877A1 (en) | 2010-01-13 | 2011-07-21 | パナソニック株式会社 | Video processing device and video display device |
WO2017199848A1 (en) | 2016-05-17 | 2017-11-23 | 株式会社コロプラ | Method for providing virtual space, program, and recording medium |
JP2019039988A (en) | 2017-08-23 | 2019-03-14 | 株式会社ソニー・インタラクティブエンタテインメント | Information processing apparatus and image display method |
JP2019047366A (en) | 2017-09-04 | 2019-03-22 | 株式会社ドワンゴ | Content delivery server, content delivery method and content delivery program |
WO2020061358A1 (en) | 2018-09-21 | 2020-03-26 | Neurable Inc. | Human-computer interface using high-speed and accurate tracking of user interactions |
Also Published As
Publication number | Publication date |
---|---|
JP2022086302A (en) | 2022-06-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10609308B2 (en) | Overly non-video content on a mobile device | |
US9762817B2 (en) | Overlay non-video content on a mobile device | |
US8849063B2 (en) | Apparatus and method for optimizing on-screen location of additional content overlay on video content | |
US20160066051A1 (en) | Method and Apparatus for Interfacing Buyers With Products Depicted in a Video | |
JP6558587B2 (en) | Information processing apparatus, display apparatus, information processing method, program, and information processing system | |
KR101482025B1 (en) | Augmented reality presentations | |
JP4704464B2 (en) | Multi-view display system | |
US7746356B2 (en) | Visual content signal display apparatus and a method of displaying a visual content signal therefor | |
US7956929B2 (en) | Video background subtractor system | |
CN110764859B (en) | Method for automatically adjusting and optimally displaying visible area of screen | |
KR102085129B1 (en) | Method for providing virtual reality advertisement | |
JP2004213486A (en) | Image processor and processing method, storage medium, and program | |
CN114651448B (en) | Information processing system, information processing method, and program | |
JP7578904B2 (en) | Advertisement provision system and advertisement provision method | |
CN112840377A (en) | System and method for enhancing a live audience experience on an electronic device | |
US9032447B1 (en) | Method and apparatus for interfacing buyers with products depicted in a video | |
WO2002025940A1 (en) | Picture-in-picture | |
WO2021124680A1 (en) | Information processing device and information processing method | |
CN110910508B (en) | Image display method, device and system | |
US20240333998A1 (en) | Intelligent content visibility filtering via transparent screen overlay | |
CN115176223A (en) | Information processing apparatus, information processing method, and computer program | |
US20150215666A1 (en) | Electronic displays with user agents for managing canvases on the displays | |
WO2024079778A1 (en) | Information processing device, display system, and information processing method | |
WO2021161894A1 (en) | Information processing system, information processing method, and program | |
EP3389267A1 (en) | Display apparatus and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230919 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240830 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240925 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20241008 |