[go: up one dir, main page]
More Web Proxy on the site http://driver.im/

JP6340558B2 - 映像受信装置、映像認識方法および付加情報表示システム - Google Patents

映像受信装置、映像認識方法および付加情報表示システム Download PDF

Info

Publication number
JP6340558B2
JP6340558B2 JP2015512955A JP2015512955A JP6340558B2 JP 6340558 B2 JP6340558 B2 JP 6340558B2 JP 2015512955 A JP2015512955 A JP 2015512955A JP 2015512955 A JP2015512955 A JP 2015512955A JP 6340558 B2 JP6340558 B2 JP 6340558B2
Authority
JP
Japan
Prior art keywords
video
information
recognition
content
video recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015512955A
Other languages
English (en)
Other versions
JPWO2015145492A1 (ja
Inventor
博史 薮
博史 薮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2015145492A1 publication Critical patent/JPWO2015145492A1/ja
Application granted granted Critical
Publication of JP6340558B2 publication Critical patent/JP6340558B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7837Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using objects detected or recognised in the video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/48Matching video sequences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23424Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for inserting or substituting an advertisement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/237Communication with additional data server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25841Management of client data involving the geographical location of the client
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/437Interfacing the upstream path of the transmission network, e.g. for transmitting client requests to a VOD server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6582Data stored in the client, e.g. viewing habits, hardware capabilities, credit card number
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84Generation or processing of descriptive data, e.g. content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Marketing (AREA)
  • Business, Economics & Management (AREA)
  • Computer Graphics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Description

本開示は、外部から入力される映像信号に関する付加情報を取得して映像信号に重畳する映像受信装置に関する。
特許文献1は、データ処理システムを開示する。このシステムでは、クライアント装置は、映像認識装置であるサーバ装置に、ネットワークを通して映像データを送信し、映像認識処理を依頼する。サーバ装置は、受信した映像データにもとづき映像認識を行い、映像認識の結果を、ネットワークを通してクライアント装置に送信する。
特開平10−214258号公報
本開示は、外部から入力される映像信号に関する付加情報を取得し、取得した付加情報を映像信号へ重畳するのに有効な映像受信装置、映像認識方法、および付加情報表示システムを提供する。
本開示の映像受信装置は、通信ネットワークを介してデータの送受信を行えるように構成されており、入力部、映像抽出部、記憶部、映像認識部、および制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。記憶部は、通信ネットワークに接続された映像認識装置から取得された第1のコンテンツ認識情報を記憶するように構成されている。映像認識部は、その部分映像から第2のコンテンツ認識情報を生成し、映像認識装置に第2のコンテンツ認識情報を送信して映像認識処理を依頼するオンラインマッチング処理と、第2のコンテンツ認識情報を記憶部に記憶された第1のコンテンツ認識情報と照合するローカルマッチング処理との少なくとも一方を行うように構成されている。制御部は、オンライングマッチング処理の結果またはローカルマッチング処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得する制御を行うように構成されている。
本開示の映像認識方法は、通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における映像認識方法であって、外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、通信ネットワークに接続された映像認識装置から第1のコンテンツ認識情報を取得して記憶部に記憶するステップと、部分映像から第2のコンテンツ認識情報を生成するステップと、映像認識装置に、第2のコンテンツ認識情報を送信して映像認識処理を依頼するオンラインマッチング処理と、第2のコンテンツ認識情報を記憶部に記憶された第1のコンテンツ認識情報と照合するローカルマッチング処理との少なくとも一方を行うステップと、オンライングマッチング処理の結果またはローカルマッチング処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得するステップと、を備える。
本開示の付加情報表示システムは、通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備える。映像受信装置は、入力部、映像抽出部、記憶部、映像認識部、および制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識用の部分映像を抽出するように構成されている。記憶部は、映像認識装置から通信ネットワークを介して取得された第1のコンテンツ認識情報を記憶するように構成されている。映像認識部は、その部分映像から第2のコンテンツ認識情報を生成し、映像認識装置に通信ネットワークを介して第2のコンテンツ認識情報を送信して映像認識処理を依頼するオンラインマッチング処理と、第2のコンテンツ認識情報を記憶部に記憶された第1のコンテンツ認識情報と照合するローカルマッチング処理との少なくとも一方を行うように構成されている。制御部は、オンライングマッチング処理の結果またはローカルマッチング処理の結果に基づく付加情報を付加情報配信装置から通信ネットワークを介して取得する制御を行うように構成されている。映像認識装置は、取得した映像信号から第1のコンテンツ認識情報を生成して記憶するとともに映像受信装置に送信するように構成され、かつ、通信ネットワークを介して受信した第2のコンテンツ認識情報を、記憶された第1のコンテンツ認識情報と照合してオンラインマッチング処理を行うように構成されている。付加情報配信装置は、通信ネットワークを介して受信したオンライングマッチング処理の結果またはローカルマッチング処理の結果に対応する付加情報を通信ネットワークを介して映像受信装置に送信するように構成されている。
図1は、実施の形態1における付加情報表示システムの構成の一例を概略的に示す図である。 図2は、実施の形態1における映像認識装置の動作の一例を概略的に示す模式図である。 図3は、実施の形態1における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図4は、実施の形態1における付加情報表示システムのオンラインマッチング処理とローカルマッチング処理の概要を概略的に示す模式図である。 図5は、実施の形態1における映像受信装置で行う付加情報表示処理の動作を概略的に示すフローチャートである。 図6は、実施の形態1における映像受信装置で行うコンテンツ特定処理の動作を概略的に示すフローチャートである。 図7は、実施の形態1における映像受信装置で行うローカルマッチング処理の動作を概略的に示すフローチャートである。 図8は、実施の形態1における映像受信装置および映像認識装置で行うオンラインマッチング処理の動作を概略的に示すフローチャートである。 図9は、実施の形態1における映像受信装置および映像認識装置で行うローカルデータベース更新処理の動作を概略的に示すフローチャートである。 図10は、実施の形態1における映像受信装置で行う次視聴情報生成処理の動作を概略的に示すフローチャートである。 図11は、実施の形態1における映像受信装置で行う次視聴時間帯選定処理の動作を概略的に示すフローチャートである。 図12は、実施の形態1における映像受信装置で行う次視聴時間帯選定処理の動作の一例を概略的に示す模式図である。 図13は、実施の形態1における映像受信装置の映像認識部で算出する次視聴時間帯尤度の一例を示す図である。 図14は、実施の形態1における映像受信装置で行う次視聴チャンネル選定処理の動作を概略的に示すフローチャートである。 図15は、実施の形態1における映像受信装置で行う次視聴チャンネル選定処理の動作の一例を概略的に示す模式図である。 図16は、実施の形態1における映像受信装置の映像認識部で算出する次視聴チャンネル尤度の一例を示す図である。 図17は、他の実施の形態における映像受信装置で行うコンテンツ特定処理の動作を概略的に示すフローチャートである。 図18は、他の実施の形態における映像受信装置および映像認識装置で行うローカルデータベース更新処理の動作の一例を概略的に示すフローチャートである。 図19は、他の実施の形態における映像受信装置および映像認識装置で行うローカルデータベース更新処理の動作の他の一例を概略的に示すフローチャートである。 図20は、他の実施の形態における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
(実施の形態1)
以下、図1〜図16を用いて、実施の形態1を説明する。
[1−1.構成]
[1−1−1.付加情報表示システム構成の概略]
図1は、実施の形態1における付加情報表示システム10の構成の一例を概略的に示す図である。付加情報表示システム10は、放送局12、映像送信装置であるSTB(Set Top Box)14、映像認識装置20、付加情報配信装置30、および映像受信装置40を備える。付加情報表示システム10は、映像認識装置20が有する映像認識技術を利用して、映像受信装置40が受信した映像がどのコンテンツのものかを特定し、そのコンテンツに関連する付加情報を、付加情報配信装置30から取得して映像受信装置40に表示する、ことができるように構成された通信システムである。
映像受信装置40と、映像認識装置20および付加情報配信装置30とは、通信ネットワーク16を介して互いに接続されている。
通信ネットワーク16は、有線、または無線、あるいはその双方が混在して構成されている。通信ネットワーク16は、例えばインターネットであるが、イントラネットや商業回線、あるいはその他の通信回線であってもよく、それらが混在していてもよい。
映像受信装置40とSTB14とは、通信インターフェースを介して互いに接続されている。通信インターフェースは、例えばHDMI(登録商標)(High−Definition Multimedia Interfase)であるが、ビデオケーブルであってもよく、あるいはWi−Fi(登録商標)やBluetooth(登録商標)、無線LAN(Local Area Network)等の無線通信であってもよい。
放送局12は、放送信号を送信(放送)するように構成された送信装置である。放送局12は、番組本体とコマーシャルメッセージ(CM)とを含むテレビ番組を映像信号にして放送信号に重畳し放送する。番組本体とCMとは時間の経過に伴って互いに切り替わる。以下、番組本体やCMを「コンテンツ」と記す。すなわち、放送局12は、時間の経過に伴って切り替わるコンテンツを放送する。なお、送信装置は何ら放送局12に限定されるものではなく、時間の経過に伴って切り替わるコンテンツを送信または放送するものであればよい。
STB14は、放送局12が放送する放送信号を受信して映像信号を取り出すように構成された受信機(チューナ)である。STB14は、例えば放送局12がデジタルの映像信号を放送する場合、受信した映像信号をデコードする機能を備えていてもよい。STB14は、放送局12が放送する複数のチャンネルの中から、ユーザ(User)の指示にもとづき選局したチャンネルを受信し、そのチャンネルの映像信号を通信インターフェース(例えば、HDMI(登録商標))を介して、映像受信装置40に出力する。なお、映像送信装置は何らSTB14に限定されるものではなく、例えば録画機能と放送信号受信機能と映像信号出力機能とをあわせ持つ録画装置、等であってもよい。
映像認識装置20は、通信ネットワーク16に接続されたサーバ装置であり、映像認識処理にもとづくコンテンツ特定処理を行うWebサイトである。コンテンツ特定処理とは、映像受信装置40から通信ネットワーク16を介して送信されてくる第2のコンテンツ認識情報にもとづき映像認識処理を行い、その映像認識処理の結果にもとづきその第2のコンテンツ認識情報が表すコンテンツを特定する処理のことである。それらの処理に用いるために、映像認識装置20は、放送局12が放送するコンテンツ(映像信号)を取得して解析を行い、そのコンテンツから第1のコンテンツ認識情報と解析情報を生成して記憶部23に記憶する。この第1のコンテンツ認識情報は、例えば、動画を構成する各画像のハッシュ値である。以下、この第1のコンテンツ認識情報を「サーバ映像認識情報」とも記す。すなわち、映像認識装置20は、受信した第2のコンテンツ認識情報を、映像認識装置20があらかじめ生成し記憶部23に記憶しておいた「サーバ映像認識情報」と照合し(映像認識処理)、その照合の結果にもとづきコンテンツを特定し(コンテンツ特定処理)、特定されたコンテンツに関連する解析情報を映像受信装置40に返信するように動作する。
映像認識装置20は、放送局12が放送する膨大な数のコンテンツを受信し、それらを解析してその結果を記憶部23に記憶するので、記憶部23に記憶される情報量も膨大になる。以下、記憶部23に記憶された情報(コンテンツ特定処理に使用される情報)の集合体を「オンラインデータベース」と記す。映像認識装置20は、それら膨大な情報量のオンラインデータベースから所定の第1のコンテンツ認識情報(サーバ映像認識情報)および解析情報を選択して「ローカルデータベース」を生成し、映像受信装置40に送信することも行う。
映像認識装置20の動作の詳細は後述する。
映像受信装置40は、外部から入力される映像信号にもとづく映像を表示部54に表示するように構成された映像受信デバイスであり、例えばテレビジョン受像機である。映像受信装置40は、通信ネットワーク16に接続されており、通信ネットワーク16を介して映像認識装置20および付加情報配信装置30とデータの送受信ができる。
本実施の形態における映像受信装置40は、以下のことができるように構成されている。映像受信装置40は、映像送信装置(例えば、STB14)から通信インターフェースを介して入力される映像信号に関するコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を映像認識装置20を利用して行う。コンテンツ特定処理とは、上述したように、その映像信号が表すコンテンツを特定する処理のことである。映像受信装置40は、コンテンツ特定処理の結果として映像認識装置20から送信されてくる解析情報を受信し、その解析情報にもとづき、そのコンテンツに関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報をその映像信号に重畳して表示部54に表示する。
具体的には、映像受信装置40は、入力される映像信号から一部を周期的に切り出すことで部分映像を周期的に抽出し、その部分映像から生成した第2のコンテンツ認識情報とコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)の要求を、通信ネットワーク16を介して映像認識装置20に送信する。この第2のコンテンツ認識情報は、例えば、部分映像を構成する各画像のハッシュ値である。以下、映像受信装置40が生成する第2のコンテンツ認識情報を「端末映像認識情報」とも記す。また、映像受信装置40から映像認識装置20に送信するコンテンツ特定処理の要求のことを「映像認識要求」とも記す。そして、映像受信装置40は、その第2のコンテンツ認識情報に対するコンテンツ特定処理の結果(解析情報)を映像認識装置20から通信ネットワーク16を介して取得する。本実施の形態では、映像受信装置40が映像認識装置20を利用して行うコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)のことを「オンラインマッチング処理」と呼称する。
また、映像受信装置40は、映像認識装置20から送信される「ローカルデータベース」を受信して記憶部47に記憶する。このローカルデータベースには、映像認識装置20で生成された第1のコンテンツ認識情報(サーバ映像認識情報)と解析情報とが含まれている。そして、映像受信装置40は、上述のオンラインマッチング処理とは別に、端末映像認識情報を、記憶部47に記憶されたローカルデータベースと照合してコンテンツ特定処理を行い、その結果にもとづく解析情報を記憶部47から読み出す動作も行う。本実施の形態では、記憶部47に記憶されたローカルデータベースを用いて行うコンテンツ特定処理を「ローカルマッチング処理」と呼称する。
そして、映像受信装置40は、オンラインマッチング処理またはローカルマッチング処理の結果として取得した解析情報に関連する付加情報を、付加情報配信装置30から通信ネットワーク16を介して取得する。そして、取得した付加情報にもとづく画像(図1には、「付加情報51」として示す)を、表示部54に表示中の映像に重畳して表示する。これらの詳細は後述する。
なお、本実施の形態では、コンテンツ認識情報(端末映像認識情報、サーバ映像認識情報)をフィンガープリントとする例を説明する。コンテンツ認識情報は、映像を認識するための情報であり、フィンガープリントは、部分映像や動画を構成する各画像のハッシュ値である。しかし、コンテンツ認識情報は、映像認識処理に使用できる情報(データ)であればよく、何らフィンガープリント(ハッシュ値)に限定されない。
付加情報配信装置30は、通信ネットワーク16に接続されたサーバ装置であり、様々な商品の広告情報を保持して配信するWebサイト(広告配信サイト)である。付加情報配信装置30は、映像受信装置40から送信されてくるコンテンツ特定処理の結果(映像受信装置40が、オンラインマッチング処理の結果として映像認識装置20から取得した解析情報、またはローカルマッチング処理の結果として記憶部47から読み出した解析情報)を通信ネットワーク16を介して受信すると、その解析情報に関連する付加情報を通信ネットワーク16を介して映像受信装置40に送信する。この付加情報は、例えば、コンテンツ特定処理により特定されたコンテンツに関連する広告情報である。
なお、付加情報は何ら広告情報に限定されるものではなく、例えば観光情報、歴史情報、人物プロフィール情報、URL(Uniform Resource Locator)、公共公報情報、放送中の番組に関する情報、ツイッター(登録商標)等のソーシャル情報、等であってもよい。
次に、映像認識装置20の動作の一例を図2を用いて説明する。図2は、実施の形態1における映像認識装置20の動作の一例を概略的に示す模式図である。なお、図2は信号や情報の流れを模式的に示したものであり、回路ブロックの構成を示したものではない。
映像認識装置20は、放送局12から放送される実質的に全てのコンテンツ81を取得する。そして、取得したコンテンツに対する解析を行い、コンテンツの時間、容量、放送形式、内容、ジャンル、登場人物、タイムテーブル、等を調べ、解析情報83を作成する。また、映像認識装置20は、放送局12から取得したコンテンツ81の映像信号から第2のコンテンツ認識情報であるフィンガープリント84を作成する。映像認識装置20は、放送局から放送される放送信号を受信してコンテンツを取得してもよく、あるいは、専用の映像回線等を介して放送局12から送信される映像信号を受信してコンテンツを取得してもよい。また、この解析は、例えば、自動で行われてもよく、作業者が手作業で行ってもよい。この解析結果である解析情報83およびフィンガープリント84は、そのコンテンツ81に関する情報とともに映像認識装置20の記憶部23に記憶される。したがって、記憶部23には膨大な量の情報が記憶される。
そして、映像認識装置20は、映像受信装置40の要求があれば、オンラインマッチング処理を行う。すなわち、映像認識装置20は、映像受信装置40から送信されてくるフィンガープリント82(端末映像認識情報。STB14から出力される映像信号91の部分映像から生成された第2のコンテンツ認識情報)を伴った映像認識要求を通信ネットワーク16を介して受信すると、そのフィンガープリント82を、記憶部23に記憶された第1のコンテンツ認識情報であるフィンガープリント84(サーバ映像認識情報)と照合し(映像認識処理)、そのフィンガープリント82に対応するコンテンツを特定する。なお、この照合動作では、例えば、フィンガープリント82との類似度が所定の数値(例えば、60%)以上であるフィンガープリント84を、フィンガープリント82に対応するフィンガープリントとしてもよい。こうして、映像認識装置20は、映像受信装置40から送信されてくるフィンガープリント82が何のコンテンツの部分映像から作成されたものかを判断してそのコンテンツを特定するコンテンツ特定処理を行う。そして、特定したコンテンツに関する解析結果(解析情報83)を記憶部23から読み出し、読み出した解析情報83をコンテンツ特定処理の結果として映像受信装置40に通信ネットワーク16を介して返信する。このオンラインマッチング処理の詳細は後述する。
このような手法による映像認識処理(映像認識処理にもとづくコンテンツ特定処理)を「ACR(Automatic Content Recognition)」とも呼称する。
なお、映像認識装置20の記憶部23は、例えば通信ネットワーク16を介する等して映像認識装置20の本体とデータのやり取りができるように構成されていれば、映像認識装置20の本体と異なる場所に設置されていてもよい。
[1−1−2.映像認識装置および映像受信装置の構成]
図3は、実施の形態1における映像認識装置20および映像受信装置40の構成の一例を概略的に示すブロック図である。
なお、図3には、本実施の形態に示す動作に関連する主な回路ブロックを示しており、他の動作に関する機能や回路ブロックは省略している。これは、本実施の形態で説明する動作を分かりやすく示すためである。また、図3に示す各回路ブロックは、それぞれが独立した回路で構成されていてもよく、あるいは、図3に示す回路ブロックの1つまたは複数を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。また、以下、第1のコンテンツ認識情報、第2のコンテンツ認識情報を、単に「フィンガープリント」と略記する。
映像認識装置20は、HTTP(Hypertext Transfer Protocol)送受信部21、検索部22、および記憶部23、を備えるサーバ装置である。映像認識装置20は、映像受信装置40のオンラインマッチング処理に利用され、映像認識処理にもとづくコンテンツ特定処理のサービスを通信ネットワーク16を介して映像受信装置40に提供するように構成されている。
HTTP送受信部21は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部21は、通信ネットワーク16を介して映像受信装置40とデータの送受信を行うことができるように構成されている。
記憶部23は、例えばHDD(Hard Disk Drive)等で構成された記憶装置である。記憶部23は、放送局12から放送されるコンテンツのフィンガープリントと、そのコンテンツに対する解析結果の解析情報とを、そのコンテンツに対応付けて記憶するように構成されている。
記憶部23は、例えば、放送局12から放送される全チャンネル(例えば、300チャンネル)について、放送からわずかな時間遅れ(例えば、10秒)で、コンテンツ(例えば、番組本体やCM)毎に、フィンガープリントと解析結果(解析情報)を対応付けて記憶する。この解析結果(解析情報)には、例えば、番組のタイトル、CMのタイトル、番組のあらすじ、CMのあらすじ、登場人物、映像に関連する場所、URL等が含まれていてもよい。また、記憶部23には、事前に放送内容が決定されているドラマ、映画、CM等のフィンガープリントおよび解析情報が記憶されてもよく、あるいは放送中に表示されることが事前にわかっている番組タイトル、企業や商品のロゴ、出演者情報等に関するフィンガープリントや解析情報が記憶されてもよい。
検索部22は、映像受信装置40から送信されてくるフィンガープリント(端末映像認識情報)を伴う映像認識要求をHTTP送受信部21を介して受信すると、そのフィンガープリントを用いた映像認識処理にもとづくコンテンツ特定処理を行い、その結果(解析情報)をHTTP送受信部21を介して映像受信装置40に返信するように構成されている。
具体的には、検索部22は、映像受信装置40から送信されてくるフィンガープリント(端末映像認識情報)を伴う映像認識要求を、通信ネットワーク16およびHTTP送受信部21を介して受信する。次に、受信したフィンガープリント(端末映像認識情報)を、記憶部23に記憶されているフィンガープリント(サーバ映像認識情報)と照合し、受信したフィンガープリントに対応するフィンガープリントを検索する(映像認識処理)。そして、その検索の結果により特定されたフィンガープリントに対応するコンテンツを、受信したフィンガープリントに対応するコンテンツとする(コンテンツ特定処理)。このようにして、検索部22は、受信したフィンガープリントに対応するコンテンツを特定する。そして、検索部22は、特定したコンテンツに対応付けられた解析結果(解析情報)を記憶部23から読み出し、読み出した解析結果(解析情報)を、コンテンツ特定処理の結果として、HTTP送受信部21および通信ネットワーク16を介して映像受信装置40に返信する。
映像受信装置40は、制御部41、HTTP送受信部42、操作信号受信部43、映像出力部44、表示部54、映像抽出部45、付加情報表示制御部46、記憶部47、映像入力部48および映像認識部66を備える。映像受信装置40は、映像認識装置20を利用した映像認識処理にもとづくコンテンツ特定処理を行い(オンラインマッチング処理)、そのコンテンツ特定処理の結果としての解析情報を映像認識装置20から取得するように構成されている。また、映像受信装置40は、記憶部47に記憶されたローカルデータベースを利用した映像認識処理にもとづくコンテンツ特定処理を行い(ローカルマッチング処理)、そのコンテンツ特定処理の結果にもとづく解析情報を記憶部47から読み出すようにも構成されている。そして、映像受信装置40は、その解析情報に関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、受信した映像信号による映像(コンテンツ)に、その付加情報(例えば、その映像に関連する広告情報)による画像を重畳して表示部54に表示するように構成されている。
HTTP送受信部42は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部42は、通信ネットワーク16を介して映像認識装置20とデータの送受信を行うことができるように構成されている。
操作信号受信部43は、ユーザ操作を受け付けたリモートコントロール装置(以下、「リモコン」と略記する)等の操作部(図示せず)が発信する操作信号(映像受信装置40に対する操作信号)を受信するように構成されている。操作信号受信部43は、ジャイロセンサを有するリモコンが、そのリモコンに生じる物理的な変動にもとづき発信する信号を受信するように構成されていてもよい。
映像入力部48は、受信回路およびデコーダであり、放送局が送信する放送信号を受信するように構成された受信部49と、映像送信装置(例えば、STB14)が出力する映像信号を入力するように構成された入力部65とを有する。映像入力部48が受け取る映像信号には、時間の経過に伴って切り替わるコンテンツ(番組本体とCM、等)が含まれる。
受信部49は、放送局12が送信する放送信号をアンテナ(図示せず)等を介して受信するように構成されている。
入力部65は、外部に設置された映像送信装置から出力されてくる映像信号を入力するように構成されたインターフェースである。入力部65は、例えばHDMI(登録商標)の規格に適合するように構成されており、映像送信装置からHDMI(登録商標)を介して送信されてくる映像信号を受け取ることができる。この映像送信装置は、例えばSTB14であるが、映像記録再生装置等であってもよい。また、入力部は、ビデオケーブルを介して送信されてくる映像信号や、無線通信で送信されてくる映像信号を受け取るように構成されていてもよい。
映像出力部44は、表示部54を制御する機能を有し、映像入力部48から入力される映像信号にもとづき表示部54を制御して、その映像信号にもとづく映像を表示部54に表示するように構成されている。映像出力部44は、制御部41から付加情報が入力されたときは、表示部54に表示中の映像に、付加情報にもとづく画像を重畳する。
表示部54は、映像信号にもとづく映像を表示するように構成されたディスプレイであり、例えばLCD(Liquid Crystal Display)である。しかし、本実施の形態は何らこの構成に限定されるものではなく、表示部54は、PDP(Plasma Display Panel)やOLED(Organic Electro Luminescence Display)、等であってもよい。
付加情報表示制御部46は、付加情報の表示制御を行うように構成されている。具体的には、付加情報表示制御部46は、オンラインマッチング処理またはローカルマッチング処理の結果として取得した解析情報にもとづき付加情報配信装置30から取得した付加情報を、表示部54に表示するか否か(映像信号に重畳するか否か)、または表示部54に表示中の付加情報を継続表示するか非表示にするか、を判断し、その判断にもとづく指示を制御部41に出力する。また、付加情報表示制御部46は、取得した付加情報にもとづく画像(または、文字列)を、表示部54に表示中の映像のどこに重畳するかを判断し、その判断にもとづく指示を制御部41に出力する。
映像抽出部45は、映像入力部48から入力される映像信号から部分映像を抽出するように構成されている。映像抽出部45は、映像信号から、あらかじめ定められた周期で、映像信号の一部である部分映像を所定時間分抽出するように構成されている。例えば、あらかじめ定められた周期が3秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、3秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を3秒毎に隙間なく連続して抽出する動作を繰り返す。また、例えば、あらかじめ定められた周期が15秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、15秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を12秒の間隔をおいて抽出する動作を繰り返す。なお、映像信号から抽出する部分映像は秒単位での抽出に限定されるものではなく、例えば、映像フレームレートにおいて予め定められたフレーム数で部分映像を抽出してもよい。
映像認識部66は、映像抽出部45で抽出された部分映像からフィンガープリント(端末映像認識情報)を生成する。このフィンガープリントは、例えば、部分映像を構成する各画像のハッシュ値(フィンガープリント)である。映像認識部66は、部分映像から生成したフィンガープリントを用いて、映像受信装置40内でコンテンツ特定処理を行うローカルマッチング処理と、映像認識装置20を利用してコンテンツ特定処理を行うオンラインマッチング処理との少なくとも一方を行い、その部分映像に関する解析情報を取得する。
記憶部47は、例えば不揮発性メモリ等で構成された記憶装置である。記憶部47は、映像入力部48で受信した電子番組表(Electronic Program Guide:EPG)等の番組メタ情報、HTTP送受信部42を介して付加情報配信装置30から取得した付加情報および付加情報の表示制御情報、映像認識部66で部分映像から生成されたフィンガープリント(端末映像認識情報)、および映像認識装置20から送信されてくるフィンガープリント(サーバ映像認識情報)と解析情報を含むローカルデータベース、等を記憶する。付加情報の表示制御情報とは、付加情報の表示を制御するための情報であり、例えば付加情報の表示期間を示す情報、等が含まれる。また、記憶部47は、映像受信装置40の視聴履歴に関する情報も記憶している。
制御部41は、映像受信装置40が備える各回路ブロックを制御するように構成されている。制御部41は、例えば、プログラム(アプリケーションプログラム等)を記憶しているROM等の不揮発性メモリ、そのプログラムを実行するCPU、および、CPUがプログラムを実行するときに一時的にデータやパラメータ等を記憶するRAM等の揮発性メモリ、等から構成される。
制御部41が行う制御には、例えば次のようなものがある。制御部41は、映像抽出部45が映像信号から部分映像を所定の周期で抽出するように、映像抽出部45を制御する。また、制御部41は、部分映像からフィンガープリント(端末映像認識情報)を生成(算出)し、生成したフィンガープリントにもとづくオンラインマッチング処理またはローカルマッチング処理を行うように映像認識部66を制御する。そして、オンラインマッチング処理を行うときは、制御部41は、フィンガープリント(端末映像認識情報)を、映像認識要求とともに、HTTP送受信部42および通信ネットワーク16を介して映像認識装置20に送信し、そのフィンガープリントに対するコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を映像認識装置20に依頼するように、各回路ブロックを制御する。そして、制御部41は、そのフィンガープリントに対するコンテンツ特定処理の結果(解析情報)を通信ネットワーク16およびHTTP送受信部42を介して映像認識装置20から取得して記憶部47に記憶するように、各回路ブロックを制御する。また、ローカルマッチング処理を行うときは、制御部41は、フィンガープリント(端末映像認識情報)を、記憶部47に記憶されたローカルデータベースと照合してコンテンツ特定処理を行い、そのコンテンツ特定処理の結果にもとづく解析情報を記憶部47から読み出すように、各回路ブロックを制御する。そして、制御部41は、オンラインマッチング処理またはローカルマッチング処理の結果として得られた解析情報に対応する付加情報を通信ネットワーク16およびHTTP送受信部42を介して付加情報配信装置30から取得するように、各回路ブロックを制御する。そして、取得した付加情報を記憶部47に記憶するとともに映像出力部44に出力し、表示部54に表示中の映像に付加情報を重畳して表示するように、各回路ブロックを制御する。このとき、制御部41は、付加情報表示制御部46が「付加情報を非表示にする」と判断すれば、表示部54に表示中の付加情報を非表示にするように、各回路ブロックを制御する。
なお、映像受信装置40が映像認識装置20にオンラインマッチング処理を依頼するときには、映像受信装置40がオンラインマッチング処理の依頼を表す信号(データ)を作成し、その信号を映像認識要求として映像認識装置20に送信するように付加情報表示システム10を構成してもよいが、例えば、そのような信号(データ)の送信は行わず、映像受信装置40がフィンガープリントを映像認識装置20に送信することで映像認識装置20にオンラインマッチング処理を依頼したことになるように映像受信装置40と映像認識装置20との間であらかじめ取り決めをしておいてもよい。
次に、オンラインマッチング処理とローカルマッチング処理の概要を説明する。図4は、実施の形態1における付加情報表示システム10のオンラインマッチング処理とローカルマッチング処理の概要を概略的に示す模式図である。なお、図4は信号や情報の流れを模式的に示したものであり、回路ブロックの構成を示したものではない。
オンラインマッチング処理では、図4に示すように、映像受信装置40と映像認識装置20とが互いに連携して、映像認識処理にもとづくコンテンツ特定処理(STB14等の映像送信装置から映像受信装置40に入力される映像信号に関するコンテンツ特定処理)を行う。
上述したように、映像認識装置20の記憶部23に記憶されるオンラインデータベースのデータ量は膨大である。そのため、オンラインマッチング処理では、精度の高いコンテンツ特定処理を行うことができるが、映像受信装置40から送信されてくるフィンガープリント(端末映像認識情報)と、オンラインデータベースとして記憶部23に記憶されているフィンガープリント(サーバ映像認識情報)との照合に時間を要する。
例えば、直前のコンテンツ特定処理の結果等から現在の視聴チャンネル(STB14において選択されているチャンネル)がわかっていれば、映像認識装置20は、検索の対象範囲をその視聴チャンネルに絞ることができるので、その照合は、相対的に短時間で終了可能である。しかし、映像受信装置40の電源投入直後やチャンネル変更直後、等、現在の視聴チャンネルが不明であれば、検索の対象範囲が全チャンネルに拡大するため、映像認識装置20では、照合に、相対的に長い時間を要する。
また、オンラインマッチング処理では、通信ネットワーク16を介してデータを送受信する時間も必要となる。
一方、映像受信装置40の記憶部47に記憶されたローカルデータベースは、映像認識装置20がオンラインデータベースから選別したフィンガープリント(サーバ映像認識情報)および解析情報等によって生成したものなので、オンラインデータベースと比較してデータ量が少ない。すなわち、ローカルマッチング処理は、映像受信装置40が生成したフィンガープリント(端末映像認識情報)を、オンラインデータベースよりもデータ量が少ないローカルデータベースと照合して行うコンテンツ特定処理である。さらに、ローカルマッチング処理ではコンテンツ特定処理を行う際に通信ネットワーク16を介してデータを送受信する必要がない。したがって、ローカルマッチング処理に要する時間は、オンラインマッチング処理に要する時間と比較して短縮することができる。
映像受信装置40は、このようなローカルマッチング処理とオンラインマッチング処理とを、選択的に、または双方を行うことで、STB14等の映像送信装置から入力される映像信号に関するコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を、時間を短縮しつつ高精度に行うことが可能となる。
なお、ローカルマッチング処理を高精度に行うためには、ローカルデータベースを適切に更新することが望ましい。ローカルデータベースの更新については後述する。
[1−2.動作]
以上のように構成された付加情報表示システム10の動作の一例を、図5〜図16を用いて説明する。
上述したように、映像受信装置40は、例えばSTB14等の映像送信装置から出力される映像信号が入力されると、その映像信号に対するコンテンツ特定処理を、映像認識装置20を利用したオンラインマッチング処理、またはローカルデータベースを利用したローカルマッチング処理によって行う。そして、そのコンテンツ特定処理の結果に関連する付加情報51(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報51を映像信号に重畳して表示部54に表示する。また、映像受信装置40は、取得した付加情報51(例えば、広告情報)を、その付加情報51とともに取得した付加情報の表示制御情報に応じて表示または非表示にする。
以下、この付加情報表示処理の概要を説明する。
[1−2−1.付加情報表示処理の動作]
図5は、実施の形態1における映像受信装置40で行う付加情報表示処理の動作を概略的に示すフローチャートである。
映像受信装置40の映像抽出部45は、STB14から出力され入力部65に入力される映像信号から部分映像を抽出する(ステップS40)。この映像信号は、放送局12が放送し、STB14で受信され、使用者が選択したチャンネルの映像信号である。
次に、映像受信装置40は、以下のコンテンツ特定処理を行う(ステップS41)。
映像受信装置40の映像認識部66は、映像抽出部45が抽出した部分映像にもとづき、フィンガープリント(端末映像認識情報)を生成する。映像受信装置40でオンラインマッチング処理を行うときは、生成されたフィンガープリント(端末映像認識情報)は、制御部41の指示により、HTTP送受信部42を介して映像認識装置20へ送信される。映像認識装置20は、そのフィンガープリントを用いた映像認識処理にもとづくコンテンツ特定処理を行い、特定したコンテンツに関連する解析情報(コンテンツ特定処理の結果)を通信ネットワーク16を介して映像受信装置40へ送信する。このとき、コンテンツ特定処理に失敗した場合には、例えば、映像認識装置20は解析情報として「NG」や「0」等の特定の情報を映像受信装置40へ送信するように動作してもよい。制御部41は、映像認識装置20から送信されてくる解析情報(コンテンツ特定処理の結果)を受信して記憶部47に記憶するように各回路ブロックを制御する。映像受信装置40でローカルマッチング処理を行うときは、映像認識部66は、生成されたフィンガープリント(端末映像認識情報)を、映像受信装置40の記憶部47に記憶されたローカルデータベースと照合し、その照合の結果にもとづく解析情報を記憶部47から読み出す。これらのコンテンツ特定処理の詳細は後述する。
制御部41は、ステップS41のコンテンツ特定処理が成功したか否かを判断し(ステップS42)、成功していなければ(No)、ステップS40、S41の動作を再度行うように各回路ブロックに指示を出す。成功していれば(Yes)次のステップに進む。ステップS42では、例えば、解析情報が特定の情報(例えば、「NG」や「0」等)であれば、コンテンツ特定処理は成功していない、と判断することができる。
次に、映像受信装置40は、解析情報にもとづき付加情報を取得する(ステップS43)。映像受信装置40の制御部41は、ステップS41で、オンラインマッチング処理により映像認識装置20から受信した解析情報、またはローカルマッチング処理により記憶部47から読み出した解析情報を、HTTP送受信部42および通信ネットワーク16を介して付加情報配信装置30に送信するように各回路ブロックを制御する。付加情報配信装置30は、受信した解析情報に関連する付加情報を通信ネットワーク16を通して映像受信装置40に送信する。制御部41は、付加情報配信装置30から送信されてくる付加情報を受信して記憶部47に記憶するように、各回路ブロックを制御する。
この解析情報には、例えば、部分映像に含まれている商品画像の商品に関するURLが含まれていてもよい。その場合、制御部41は、そのURLを指定して付加情報配信装置30にアクセスし、そのURLに関連する情報を、その解析情報に関連する付加情報として付加情報配信装置30から取得するように動作してもよい。この付加情報は、例えば、その商品に関連する広告情報であってもよい。また、付加情報配信装置30は、その付加情報の表示制御情報を付加情報とともに映像受信装置40に返信してもよい。
制御部41は、受信した付加情報(例えば、広告情報)を映像出力部44に転送し、付加情報表示制御部46からの指示にもとづき、この付加情報を表示部54に表示中の映像に重畳して表示するように、各回路ブロックを制御する(ステップS44)。付加情報表示制御部46は、付加情報とともに取得した付加情報の表示制御情報等にもとづき、付加情報の表示位置、表示サイズ、表示時間等を判断し、その判断にもとづく指示を制御部41に出す。これにより、受信された付加情報(例えば、広告情報)は、表示部54に表示中の映像に、例えば付加情報表示制御部46に指示された表示位置、表示サイズ、表示時間で重畳されて、表示される。
1つの部分映像について上述した一連の付加情報表示処理が終了したら、映像受信装置40は、次の部分映像を抽出し上述と同様の付加情報表示処理を繰り返す。
なお、制御部41は、映像信号の状態を検知し、その検知結果にもとづき付加情報の表示を制御してもよい。例えば、映像信号に字幕やOSD(On Screen Display)が重畳されていることを検知したときは、制御部41は、字幕やOSDが表示されている期間または領域には付加情報を表示せず、字幕やOSDが表示されない期間または領域に付加情報を表示するように、各回路ブロックを制御してもよい。
次に、ステップS41のコンテンツ特定処理について説明する。
[1−2−2.コンテンツ特定処理の動作]
図6は、実施の形態1における映像受信装置40で行うコンテンツ特定処理の動作を概略的に示すフローチャートである。
まず、映像受信装置40の映像認識部66は、制御部41の指示にもとづき、映像抽出部45が抽出した部分映像からフィンガープリント(端末映像認識情報)を生成する(ステップS50)。
制御部41が生成するフィンガープリントは、部分映像を構成する各画像のハッシュ値である。しかし、本実施の形態は、コンテンツ認識情報を何らハッシュ値に限定するものではない。コンテンツ認識情報は、映像認識処理に使用できる情報(データ)であればよい。
次に、制御部41は、オンラインマッチング処理とローカルマッチング処理のいずれを行うかを選択する(ステップS56)。
ステップS56における選択は、例えば、事前に設定された条件にもとづき制御部41が判断するように構成されていてもよく、ユーザ設定により選択されるように構成されていてもよい。
制御部41が判断するための事前設定条件としては、例えば、次の条件を一例として挙げることができる。映像受信装置40に電源が投入された直後、およびローカルデータベースが更新された後は、まずローカルマッチング処理を行い、ローカルマッチング処理に成功すればローカルマッチング処理を継続し、ローカルマッチング処理に失敗したときはオンラインマッチング処理に切り替える。
この動作例は単なる一実施例に過ぎず、本実施の形態は何らこの動作例に限定されるものではない。オンラインマッチング処理とローカルマッチング処理の選択は、映像受信装置40の仕様や付加情報表示システム10の仕様等にもとづき適切に行われることが望ましい。
ステップS56でローカルマッチング処理が選択されれば、次のステップS51へ進む。
制御部41は、ローカルデータベースが記憶部47に記憶されているかどうかを判断する(ステップS51)。なお、図面では、ローカルデータベースを「ローカルDB」と略記する。
ステップS51で、ローカルデータベースは記憶部47に記憶されている、と判断されたとき(Yes)は、制御部41は、映像認識部66にローカルマッチング処理を行うように指示し、その指示にもとづき映像認識部66はローカルマッチング処理を行う(ステップS52)。ローカルマッチング処理の詳細は後述する。
次に、制御部41は、記憶部47に記憶されているローカルデータベースの有効期間を判断する(ステップS54)。
ステップS54で、ローカルデータベースの有効期間は既に過ぎており、ローカルデータベースはコンテンツ特定処理に利用できない、と判断されたとき(No)は、制御部41はローカルデータベースを更新するように各回路ブロックを制御する(ステップS55)。ローカルデータベースの更新処理の詳細は後述する。なお、ステップS54では、例えば、ローカルデータベース内のコンテンツは過去に放送されたものである、といった判断がなされたときに、「No」が選択される。
なお、ローカルデータベースは、映像受信装置40に電源が投入されたときや電源が切られたとき、あるいは受信チャンネルが切り替えられたとき、等に更新されるように構成されていてもよい。
ステップS51で、ローカルデータベースは記憶部47に記憶されていない、と判断されたとき(No)は、ローカルマッチング処理は行われず、図5のステップS42へ移行する。このときステップS42では、コンテンツ特定処理は成功していない(No)と判断される。
なお、ステップS51で、ローカルデータベースは記憶部47に記憶されていない、と判断されたとき(No)は、ステップS55に移行してローカルデータベースを新たに取得するように動作してもよい。
ステップS54で、ローカルデータベースは有効期間内のものであり、ローカルデータベースはコンテンツ特定処理に利用できる、と判断されたとき(Yes)は、ローカルデータベースの更新は行われず、図5のステップS42へ移行する。ステップS42では、ステップS52で行われたローカルマッチング処理の結果にもとづく判断がなされる。
ステップS56でオンラインマッチング処理が選択されれば、制御部41は、映像認識部66にオンラインマッチング処理を行うように指示し、その指示にもとづき映像認識部66はオンラインマッチング処理を行う(ステップS53)。ステップS53では、制御部41は、ステップS50で生成されたフィンガープリント(端末映像認識情報)を映像認識装置20に送信してコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を要求するように各回路ブロックを制御する。また、オンラインマッチング処理の結果として映像認識装置20から送信されてくる解析情報を受信して記憶部47に記憶するように各回路ブロックを制御する。オンラインマッチング処理の詳細は後述する。
ステップS53のオンラインマッチング処理が終了したら、図5のステップS42へ移行する。ステップS42では、ステップS53で行われたオンラインマッチング処理の結果にもとづく判断がなされる。
次に、ステップS52のローカルマッチング処理について説明する。
[1−2−3.ローカルマッチング処理の動作]
図7は、実施の形態1における映像受信装置40で行うローカルマッチング処理の動作を概略的に示すフローチャートである。
映像受信装置40の映像認識部66は、部分映像に対応するコンテンツをローカルマッチング処理によって特定するために、ステップS50で部分映像から生成されたフィンガープリント(端末映像認識情報)を、映像受信装置40の記憶部47に記憶されたローカルデータベースに含まれるフィンガープリント(サーバ映像認識情報)と照合して映像認識処理を行い、端末映像認識情報に合致するサーバ映像認識情報を検索する(ステップS61)。映像認識部66は、照合に必要な制御を行うように制御部41に指示を出しながら、これらの動作を行う。なお、ステップS61では、映像認識部66は、端末映像認識情報との類似度が所定の数値(例えば60%)以上のサーバ映像認識情報を検索するように動作してもよい。
ステップS61で、端末映像認識情報に合致するサーバ映像認識情報をローカルデータベースから探し出すことができれば、映像認識部66は、そのサーバ映像認識情報に対応するコンテンツに関連付けられた解析情報を記憶部47(ローカルデータベース)から読み出して制御部41に出力する(ステップS62)。
このようにして、ローカルマッチング処理では、部分映像から生成されたフィンガープリント(端末映像認識情報)のコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を行う。
ステップS61で、端末映像認識情報に合致するサーバ映像認識情報がローカルデータベース内にない(あるいは、端末映像認識情報との類似度が所定の数値未満のサーバ映像認識情報しかない)と判断されたときは、ステップS62では、コンテンツ特定処理が成功しなかったことを示す情報(例えば、「NG」や「0」等)を解析情報として制御部41に出力する。
その後、図6のステップS54へ移行する。
次に、ステップS53のオンラインマッチング処理について説明する。
[1−2−4.オンラインマッチング処理の動作]
図8は、実施の形態1における映像受信装置40および映像認識装置20で行うオンラインマッチング処理の動作を概略的に示すフローチャートである。
映像受信装置40の映像認識部66は、部分映像に対応するコンテンツをオンラインマッチング処理によって特定するために、ステップS50で部分映像から生成されたフィンガープリント(端末映像認識情報)を映像認識要求とともに映像認識装置20に送信するように制御部41に指示する(ステップS71)。
この指示にもとづき、制御部41は、端末映像認識情報と映像認識要求を映像認識装置20に送信するように各回路ブロックを制御する。
映像認識装置20は、映像受信装置40から通信ネットワーク16を介して送信されてくるフィンガープリント(端末映像認識情報)と映像認識要求を受信する(ステップS72)。
映像認識装置20の検索部22は、ステップS72で受信した端末映像認識情報を、映像認識装置20の記憶部23に記憶されたオンラインデータベース(図面には、「オンラインDB」と略記する)のフィンガープリント(サーバ映像認識情報)と照合して映像認識処理を行い、端末映像認識情報に合致するサーバ映像認識情報を検索する(ステップS73)。
なお、ステップS73では、映像認識装置20は、端末映像認識情報との類似度が所定の数値(例えば、60%)以上のサーバ映像認識情報を検索するように動作してもよい。
ステップS73で、端末映像認識情報に合致するサーバ映像認識情報をオンラインデータベースから探し出すことができれば、検索部22は、そのサーバ映像認識情報に対応するコンテンツを特定し(コンテンツ特定処理)、そのコンテンツに関連付けられた解析情報を記憶部23(オンラインデータベース)から読み出して映像受信装置40に送信する(ステップS74)。
このようにして、オンラインマッチング処理では、部分映像から生成されたフィンガープリント(端末映像認識情報)のコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を行う。
ステップS73で、端末映像認識情報に合致するサーバ映像認識情報がオンラインデータベース内にない(あるいは、端末映像認識情報との類似度が所定の数値未満のサーバ映像認識情報しかない)と判断されたときは、ステップS74では、コンテンツ特定処理が成功しなかったことを示す情報(例えば、「NG」や「0」等)を解析情報として映像受信装置40に送信する。
映像受信装置40の制御部41は、この解析情報を受信して記憶部47に記憶するように各回路ブロックを制御する(ステップS75)。
その後、図5のステップS42へ移行する。
次に、ステップS55のローカルデータベースの更新処理について説明する。
[1−2−5.ローカルデータベース更新処理の動作]
本実施の形態では、以下のようにして記憶部47に記憶されたローカルデータベースを更新する。
映像受信装置40は、映像受信装置40の記憶部47に記憶された視聴履歴(映像認識装置20の記憶部23に記憶され、映像認識装置20から映像受信装置40が取得した映像受信装置40の視聴履歴)にもとづき、映像受信装置40で次に視聴される可能性の高い時間帯およびチャンネル(またはコンテンツ)を予測する。このチャンネルは、STB14等の映像送信装置において使用者に選択されたチャンネルであってもよく、映像受信装置40が有するチューナーで選択されたチャンネルであってもよい。この予測は映像受信装置40から映像認識装置20に送信され、映像認識装置20は、予測された時間帯およびチャンネル(またはコンテンツ)に関連付けられたフィンガープリント(サーバ映像認識情報)および解析情報を有するローカルデータベースをオンラインデータベースから生成する。そのローカルデータベースは、映像認識装置20から映像受信装置40に送信され、映像受信装置40の記憶部47に記憶される。こうしてローカルデータベースが更新される。
この動作の詳細を、フローチャートを用いて説明する。
図9は、実施の形態1における映像受信装置40および映像認識装置20で行うローカルデータベース更新処理の動作を概略的に示すフローチャートである。
映像受信装置40の制御部41は、現在の視聴情報(例えば、現在の視聴チャンネルや視聴開始時刻等)を映像認識装置20に送信するように各回路ブロックを制御する(ステップS80)。
映像認識装置20は、映像受信装置40から送信されてくる現在の視聴情報を受信し、記憶部23に記憶されている映像受信装置40の視聴履歴に、受信した視聴情報を加えて、映像受信装置40の視聴履歴を更新する。すなわち、この視聴履歴は、映像受信装置40においてこれまでに視聴されたチャンネル(またはコンテンツ)および視聴が行われた日時等の、過去から現在までの履歴を表す情報である。そして、更新後の視聴履歴の情報を映像認識装置20から映像受信装置40に送信する(ステップS81)。
なお、映像認識装置20は、映像受信装置40から送信されてくるフィンガープリント(端末映像認識情報)にもとづき行うコンテンツ特定処理によって映像受信装置40の視聴状況を把握できるので、そのコンテンツ特定処理の結果にもとづき、記憶部23に記憶されている映像受信装置40の視聴履歴を更新するように構成されていてもよい。
映像受信装置40の制御部41は、映像認識装置20から送信されてくる視聴履歴の情報を受信して記憶部47に記憶するように各回路ブロックを制御する(ステップS82)。
なお、本実施の形態は、現時刻から過去5週間分以上の視聴履歴が映像認識装置20の記憶部23に記憶され、現時刻から少なくとも過去5週間分の視聴履歴の情報が映像認識装置20から映像受信装置40に送信されて映像受信装置40の記憶部47に記憶されるものとするが、視聴履歴の保存対象期間は付加情報表示システム10の仕様等に応じて適切に設定することが望ましい。
映像受信装置40の映像認識部66は、記憶部47に記憶された視聴履歴の情報と現在の視聴情報とにもとづき、次視聴情報を生成する(ステップS83)。次視聴情報とは、次回視聴されることが予想されるチャンネルおよび時間帯に関する情報を含む情報のことである。次視聴情報の生成処理については後述する。
生成された次視聴情報は、映像受信装置40から映像認識装置20に送信される(ステップS84)。すなわち、上述した「予測」とは、この次視聴情報のことである。
映像認識装置20は、映像受信装置40から送信されてくる次視聴情報を受信し、受信した次視聴情報に含まれる情報にもとづきオンラインデータベースを検索する。次視聴情報に含まれる情報(次回視聴されることが予測されるチャンネルおよび時間帯の情報)に該当するコンテンツをオンラインデータベースから探し出すことができれば、映像認識装置20は、そのコンテンツに関するフィンガープリント(サーバ映像認識情報)および解析情報を有するローカルデータベースを生成する。なお、この解析情報には電子番組表等の番組メタ情報が含まれていてもよい。そして、映像認識装置20は、生成したローカルデータベースを通信ネットワーク16を通して映像受信装置40に送信する(ステップS85)。
映像受信装置40の制御部41は、映像認識装置20から送信されてくるローカルデータベースを受信して記憶部47に記憶するように各回路ブロックを制御する(ステップS86)。こうして、記憶部47内のローカルデータベースが更新される。
ローカルデータベースの更新処理が終了したら、図5のステップS42へ移行する。
なお、図6に示したフローチャートでは、ローカルマッチング処理の後に、ローカルデータベースの更新処理を行う構成を示しているが、本実施の形態は何らこの構成に限定されない。ローカルデータベースの更新処理は、例えば、映像受信装置40の電源投入直後に行われてもよく、チャンネルが切り換えられたときに行われてもよい。あるいは、映像受信装置40にバックアップ電源を備え、映像受信装置40の電源が切られた後に、そのバックアップ電源を使用して、ローカルデータベースの更新処理が行われてもよい。ローカルマッチング処理の精度を高めるために、適切にローカルデータベースの更新処理を行うことが望ましい。
次に、ステップS83の次視聴情報の生成処理について説明する。
[1−2−6.次視聴情報生成処理の動作]
映像受信装置40の映像認識部66は、これまでの視聴履歴と現在の視聴情報(使用者が視聴中のチャンネル)にもとづき、使用者の視聴傾向を把握し、使用者が次に視聴を行う時間帯およびチャンネルを予測する。次視聴情報には、これらの予測された時間帯およびチャンネルの情報が含まれる。
この動作の詳細を、フローチャートを用いて説明する。
図10は、実施の形態1における映像受信装置40で行う次視聴情報生成処理の動作を概略的に示すフローチャートである。
映像認識部66は、「次視聴時間帯」を選定する(ステップS90)。次視聴時間帯とは、使用者が次にコンテンツの視聴を行うことが予測される時間帯のことである。この次視聴時間帯選定処理の詳細は後述する。
次に、映像認識部66は、「次視聴チャンネル」を選定する(ステップS91)。次視聴チャンネルとは、使用者が次に視聴することが予測されるチャンネルのことである。この次視聴チャンネル選定処理の詳細は後述する。
そして、映像受信装置40は、ステップS90で選定した次視聴時間帯の情報と、ステップS91で選定した次視聴チャンネルの情報と、を備えた次視聴情報を生成する。
次視聴情報生成処理が終了したら、図9のステップS84に移行する。
次視聴情報が映像受信装置40から映像認識装置20に送信されることで、映像認識装置20ではその次視聴情報にもとづくローカルデータベースが生成される。そして、その生成されたローカルデータベースが映像認識装置20から映像受信装置40に送信されることで、映像受信装置40はローカルデータベースを取得し、更新することができる。
次に、ステップS90の次視聴時間帯の選定処理について説明する。
[1−2−7.次視聴時間帯選定処理の動作]
映像受信装置40の映像認識部66は、1日(24時間)を複数の時間帯に分け、現時刻が属する時間帯(「現時間帯」と記す)から以降の所定期間(例えば、1週間)の各時間帯で「次視聴時間帯尤度」を算出し、「次視聴時間帯尤度」が最も高い時間帯を「次視聴時間帯」として選定する。次視聴時間帯尤度とは、使用者がその時間帯において視聴を行う可能性を数値化したものである。次視聴時間帯尤度の算出式は、使用者が視聴を行う可能性が高い時間帯ほど数値が大きくなるように設定されている。本実施の形態では、次視聴時間帯尤度を算出することで、次に使用者が視聴を行う時間帯(次視聴時間帯)を予測し選定している。
映像認識部66は、現時刻と各時間帯との時間差、各時間帯における過去の視聴頻度および視聴習慣、録画予約(視聴予約)の有無、等を数値化し、それらの数値にもとづいて次視聴時間帯尤度を算出する。次視聴時間帯尤度は、現時刻に近い時間帯ほど数値が大きくなり、過去の視聴頻度が高く視聴習慣がある時間帯ほど数値が大きくなり、録画予約(または視聴予約)がある時間帯ほど数値が大きくなるように設定されている。
これらの動作の詳細を、フローチャートを用いて説明する。
図11は、実施の形態1における映像受信装置40で行う次視聴時間帯選定処理の動作を概略的に示すフローチャートである。
まず、映像認識部66は、1日(24時間)を複数の時間帯に分け、現時刻が属する時間帯(現時間帯)から以降の所定期間(例えば、1週間)内で1つの時間帯を選択し、その時間帯を次視聴時間帯尤度の算出対象時間帯に設定する(ステップS100)。以下、次視聴時間帯尤度の算出対象時間帯を、「尤度算出対象時間帯」と略記する。
なお、この所定期間、すなわち次視聴時間帯尤度の算出対象期間は、何ら1週間に限定されるものではなく、1週間以上であってもよく、1週間未満であってもよい。この所定期間は、付加情報表示システム10の仕様等に応じて適切に設定されることが望ましい。
次に、映像認識部66は、現時刻と尤度算出対象時間帯との時間差にもとづき「時間間隔」を算出する(ステップS101)。この「時間間隔」とは、現時刻と尤度算出対象時間帯との時間差と、所定の重み係数(α)と、にもとづき算出される数値のことであり、その時間差が小さいほど数値が大きくなるように設定されている。「時間間隔」の具体的な算出例は後述する。
次に、映像認識部66は、記憶部47に記憶されている視聴履歴にもとづき、尤度算出対象時間帯における「視聴頻度」を算出する(ステップS102)。この「視聴頻度」とは、「第1の視聴回数」と所定の重み係数(γ)とにもとづき算出される数値のことであり、「第1の視聴回数」が多いほど数値が大きくなるように設定されている。「第1の視聴回数」とは、次視聴時間帯尤度を算出するための視聴履歴の検索範囲である所定の過去の期間において、尤度算出対象時間帯が属する曜日と同じ曜日の、尤度算出対象時間帯と同じ時間帯に、使用者による視聴が何回あったかを表す数値である。
例えば、所定の過去の期間が5週間に設定されて現時間帯から過去5週間の視聴履歴にもとづき次視聴時間帯尤度が算出されるように設定され、今週の月曜日の20:00から24:00の時間帯が尤度算出対象時間帯として設定されていれば、映像認識部66は、記憶部47に記憶されている視聴履歴を参照し、現時間帯から過去5週間の各月曜日の20:00から24:00の時間帯における視聴の有無を調べて「第1の視聴回数」を算出する。過去5週間の各月曜日の20:00から24:00の時間帯にそれぞれ視聴の履歴があれば、「第1の視聴回数」は「5」となる。この「第1の視聴回数」に所定の重み係数(γ)が乗算されて「視聴頻度」が算出される。「視聴頻度」の具体的な算出例は後述する。
次に、映像認識部66は、記憶部47に記憶されている視聴履歴にもとづき、尤度算出対象時間帯における「視聴慣習度」を算出する(ステップS103)。この「視聴慣習度」とは、所定の過去の期間において、尤度算出対象時間帯が属する曜日と同じ曜日の、尤度算出対象時間帯と同じ時間帯において、使用者による視聴がどの程度習慣的に行われていたかを表す数値であり、習慣性が高いほど数値が大きくなるように設定されている。映像認識部66は、記憶部47に記憶されている視聴履歴と尤度算出対象時間帯とにもとづき「標準偏差」を算出し、その「標準偏差」と所定の重み係数(β)とにもとづき「視聴慣習度」を算出する。「視聴慣習度」の具体的な算出例は後述する。
次に、映像認識部66は、尤度算出対象時間帯における録画予約(または視聴予約)の有無を確認し、その確認の結果を、所定の重み係数(δ)にもとづき数値化する(ステップS104)。以下、この数値を「第1の予約状況」と記す。「第1の予約状況」の具体的な算出例は後述する。
そして、映像認識部66は、ステップS101で算出された「時間間隔」、ステップS102で算出された「視聴頻度」、ステップS103で算出された「視聴慣習度」、およびステップS104で算出された「第1の予約状況」から、ステップS100で設定された尤度算出対象時間帯における「次視聴時間帯尤度」を算出する(ステップS105)。ここで算出された「次視聴時間帯尤度」は、どの時間帯に関して算出されたものかがわかるようにして、記憶部47に記憶される。「次視聴時間帯尤度」の具体的な算出例は後述する。
次に、映像認識部66は、所定期間の全ての時間帯で次視聴時間帯尤度を算出し終えたか否かを判断する(ステップS106)。
ステップS106で、次視聴時間帯尤度を算出していない時間帯が所定期間内に存在する、と判断されたとき(No)は、映像認識部66は、ステップS100に戻り、次視聴時間帯尤度を算出していない時間帯を新たな尤度算出対象時間帯に設定して、上述の一連の動作を繰り返す。
ステップS106で、所定期間内の全ての時間帯で次視聴時間帯尤度を算出し終えた、と判断されたとき(Yes)は、映像認識部66は、算出し終えた次視聴時間帯尤度を互いに比較し、次視聴時間帯尤度が最も高い時間帯を「次視聴時間帯」として選定する(ステップS107)。
次視聴時間帯選定処理が終了したら、図10のステップS91に移行する。
なお、「時間間隔」を算出するステップS101、「視聴頻度」を算出するステップS102、「視聴慣習度」を算出するステップS103、および「第1の予約状況」を算出するステップS104、の各ステップは、何らこの順番に限定されるものではなく、どのような順番で行われてもよい。
なお、所定の過去の期間、すなわち次視聴時間帯尤度を算出するための視聴履歴の検索範囲は、何ら5週間に限定されるものではなく、5週間以上であってもよく、5週間未満であってもよい。所定の過去の期間は、付加情報表示システム10の仕様等に応じて適切に設定されることが望ましい。
次に、次視聴時間帯選定処理の具体的な動作の一例を、図面を用いて説明する。
図12は、実施の形態1における映像受信装置40で行う次視聴時間帯選定処理の動作の一例を概略的に示す模式図である。
図12には、24時間を第1時間帯から第6時間帯までの4時間毎の6つの時間帯に分け、各時間帯を、0:00〜4:00(第1時間帯)、4:00〜8:00(第2時間帯)、8:00〜12:00(第3時間帯)、12:00〜16:00(第4時間帯)、16:00〜20:00(第5時間帯)、20:00〜24:00(第6時間帯)、と設定した例を示している。
また、図12に示す例では、今週を第10週とし、現時間帯を第10週の日曜日第6時間帯(20:00〜24:00)としている。
また、図12に示す例では、所定の過去の期間、すなわち、次視聴時間帯尤度を算出するための視聴履歴の検索範囲を5週間とし、現時間帯から過去5週間(第5週の日曜日第6時間帯から第10週の日曜日第5時間帯まで)の視聴履歴にもとづき次視聴時間帯尤度を算出するように設定している。
したがって、映像受信装置40の記憶部47には、現時刻から少なくとも過去5週間分の視聴履歴の情報が、映像認識装置20から取得されて記憶されているものとする。
また、図12に示す例では、次視聴時間帯尤度の算出対象期間である所定期間を1週間とし、現時間帯から以降の1週間(第10週の月曜日第1時間帯から第11週の日曜日第6時間帯まで)の各時間帯を次視聴時間帯尤度の算出対象に設定している。
なお、映像受信装置40では、その算出対象期間内の全時間帯が順に尤度算出対象時間帯に設定され、各時間帯で次視聴時間帯尤度が算出されるが、ここでは、一例として、時間帯A(第10週の月曜日第6時間帯)、時間帯B(第10週の火曜日第3時間帯)、時間帯C(第10週の水曜日第5時間帯)、時間帯D(第10週の金曜日第2時間帯)の4つの時間帯が尤度算出対象時間帯に設定され、それらの時間帯で次視聴時間帯尤度を算出するときの例を説明する。
図13は、実施の形態1における映像受信装置40の映像認識部66で算出する次視聴時間帯尤度の一例を示す図である。
図13には、図12に示した時間帯A、時間帯B、時間帯C、時間帯Dの各時間帯について、ステップS101で算出する「時間間隔」、ステップS102で算出する「視聴頻度」、ステップS103で算出する「視聴慣習度」、ステップS104で算出する「第1の予約状況」、およびステップS105で算出する「次視聴時間帯尤度」の各算出値の一例を示す。
映像認識部66は、ステップS101で説明した「時間間隔」を以下の式で算出する。なお、本実施の形態では、重み係数αを4とする例を示す。
時間間隔=α×所定期間/(尤度算出対象時間帯と現時刻との時間差)
この計算式では、所定期間を時間に換算する。図12に示す例では所定期間を1週間としているので、上述の式に用いる所定期間は、1週間×24時間=168時間となる。また、例えば、現時刻を第10週の日曜日の20:00とすると、尤度算出対象時間帯と現時刻との時間差は、図13に示すように、時間帯Aでは24時間、時間帯Bでは36時間、時間帯Cでは68時間、時間帯Dでは104時間、となる。したがって、例えば時間帯Aの「時間間隔」は、以下のようになる。
時間間隔=4×168/24=28
同様にして他の時間帯の「時間間隔」を計算すると、図13に示すように、時間帯Bでは18.67、時間帯Cでは9.88、時間帯Dでは6.46、となる。
なお、尤度算出対象時間帯と現時刻との時間差に代えて、現時間帯の開始時刻と尤度算出対象時間帯の開始時刻との差を用いてもよい。
次に、映像認識部66は、ステップS102で説明した「視聴頻度」を以下の式で算出する。なお、本実施の形態では、重み係数γを3とする例を示す。
視聴頻度=γ×(尤度算出対象時間帯の第1の視聴回数)
「第1の視聴回数」とは、視聴履歴の検索範囲(所定の過去の期間)において、尤度算出対象時間帯が属する曜日と同じ曜日の、尤度算出対象時間帯と同じ時間帯に、使用者による視聴(どのチャンネルでもよい)が何回あったかを表す数値である。例えば、図12に示す例では、時間帯Aに関する「第1の視聴回数」は、第5週から第9週までの各月曜日の第6時間帯における視聴回数の総和となり、時間帯Bに関する「第1の視聴回数」は、第5週から第9週までの各火曜日の第3時間帯における視聴回数の総和となる。図12に示す例では、「第1の視聴回数」は、時間帯Aでは5、時間帯Bでは3、時間帯Cでは3、時間帯Dでは5となる。したがって、例えば時間帯Aの「視聴頻度」は、以下のようになる。
視聴頻度=3×5=15
同様にして他の時間帯の「視聴頻度」を計算すると、図13に示すように、時間帯Bでは9、時間帯Cでは9、時間帯Dでは15、となる。
次に、映像認識部66は、ステップS103で説明した「視聴慣習度」を以下の数式1で算出する。なお、本実施の形態では、重み係数βを3とする例を示す。
Figure 0006340558
数式1での各数値の単位は「週」である。
数式1において、
Fは、「視聴慣習度」である。
Tfは、「視聴履歴の検索範囲」である。例えば、図12に示す例では、視聴履歴の検索範囲は5週間なので、Tf=5となる。
Taは、視聴履歴の検索範囲における、尤度算出対象時間帯と同時間帯の平均視聴間隔である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第5週から第9週の各月曜日の第6時間帯でそれぞれ視聴が行われているので、平均視聴間隔Tfは、Tf=(1+1+1+1)/4=1となる。尤度算出対象時間帯を時間帯Bとすると、第5週、第6週、第9週の各火曜日の第3時間帯でそれぞれ視聴が行われ、第6週、第7週の各火曜日の第3時間帯では視聴は行われていないので、平均視聴間隔Tfは、Tf=(1+3)/2=2となる。
T1は、尤度算出対象時間帯と、前回視聴が行われた同時間帯との時間差である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第9週の月曜日の第6時間帯で視聴が行われているので、T1=1となる。
T2は、尤度算出対象時間帯に関する、前回視聴が行われた同時間帯と2回前に視聴が行われた同時間帯との時間差である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第8週と第9週の各月曜日の第6時間帯で視聴が行われているので、T2=1となる。尤度算出対象時間帯を時間帯Bとすると、第6週と第9週の各火曜日の第3時間帯で視聴が行われ、第7週と第8週の各火曜日の第3時間帯では視聴が行われていないので、T2=3となる。
T3は、尤度算出対象時間帯に関する、2回前に視聴が行われた同時間帯と3回前に視聴が行われた同時間帯との時間差である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第7週と第8週の各月曜日の第6時間帯で視聴が行われているので、T3=1となる。
T4は、尤度算出対象時間帯に関する、3回前に視聴が行われた同時間帯と4回前に視聴が行われた同時間帯との時間差である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第6週と第7週の各月曜日の第6時間帯で視聴が行われているので、T4=1となる。
T5は、尤度算出対象時間帯に関する、4回前に視聴が行われた同時間帯と5回前に視聴が行われた同時間帯との時間差である。例えば、図12に示す例では、尤度算出対象時間帯を時間帯Aとすると、第5週と第6週の各月曜日の第6時間帯で視聴が行われているので、T5=1となる。
したがって、例えば図12に示す例では、時間帯Aに関する視聴慣習度Fは次のようになる。
Figure 0006340558
時間帯Bに関する視聴慣習度Fは、図12に示す例では、次のようになる。
Figure 0006340558
同様にして他の時間帯の「視聴慣習度」を計算すると、図13に示すように、時間帯Cでは3、時間帯Dでは3、となる。
次に、映像認識部66は、ステップS104で説明した「第1の予約状況」を以下の式で算出する。なお、本実施の形態では、重み係数δを5とする例を示す。
第1の予約状況=δ×尤度算出対象時間帯における録画予約(または視聴予約)の有無
なお、この式では、予約があれば1、予約がなければ0を代入する。図12に示す例では、時間帯A、時間帯B、時間帯C、時間帯Dのいずれの時間帯も予約はなされていないので、図13に示すように、各時間帯の「第1の予約状況」はそれぞれ0となる。
次に、映像認識部66は、ステップS105で説明した「次視聴時間帯尤度」を以下の式で算出する。
次視聴時間帯尤度=時間間隔+視聴頻度+視聴慣習度+第1の予約状況
例えば、図12、図13に示す例では、時間帯Aの「次視聴時間帯尤度」は次のようになる。
次視聴時間帯尤度=28+15+3+0=46
同様にして他の時間帯の「次視聴時間帯尤度」を計算すると、図13に示すように、時間帯Bでは29.36、時間帯Cでは21.88、時間帯Dでは24.46、となる。
次に、映像認識部66は、ステップS107で説明したように、次視聴時間帯尤度が最も高い時間帯を「次視聴時間帯」として選定する。図12、図13に示す例では、時間帯Aの「次視聴時間帯尤度」の数値が最も大きい。したがって、映像認識部66は、時間帯Aを、次に視聴が行われる可能性が最も高い時間帯と予測し、「次視聴時間帯」として選定する。
なお、ここに挙げた各設定値は単なる一実施例に過ぎず、本実施の形態は各設定値が何ら上述した数値に限定されるものではない。各設定値は、付加情報表示システム10の仕様等に応じて最適に設定することが望ましい。
次に、ステップS91の次視聴チャンネル選定処理について説明する。
[1−2−8.次視聴チャンネル選定処理の動作]
映像受信装置40の映像認識部66は、ステップS90で選定された「次視聴時間帯」において、受信可能な全てのチャンネルに関してチャンネル毎に「次視聴チャンネル尤度」を算出し、「次視聴チャンネル尤度」が最も高いチャンネルを「次視聴チャンネル」として選定する。次視聴チャンネル尤度とは、使用者がそのチャンネルを視聴する可能性を数値化したものである。次視聴チャンネル尤度の算出式は、使用者が視聴する可能性が高いチャンネルほど数値が大きくなるように設定されている。本実施の形態では、次視聴チャンネル尤度を算出することで、次視聴時間帯に使用者が視聴するチャンネル(次視聴チャンネル)を予測し選定している。
映像認識部66は、各チャンネルの視聴回数、録画予約(視聴予約)の有無、等を数値化し、それらの数値にもとづいて次視聴チャンネル尤度を算出する。次視聴チャンネル尤度は、過去の視聴回数が多いチャンネルほど数値が大きくなり、次視聴時間帯に録画予約(または視聴予約)があるチャンネルほど数値が大きくなる。
これらの動作の詳細を、フローチャートを用いて説明する。
図14は、実施の形態1における映像受信装置40で行う次視聴チャンネル選定処理の動作を概略的に示すフローチャートである。
まず、映像認識部66は、受信可能なチャンネルのうちの1つのチャンネルを選択し、そのチャンネルを次視聴チャンネル尤度の算出対象チャンネルに設定する(ステップS110)。以下、次視聴チャンネル尤度の算出対象チャンネルを、「尤度算出対象チャンネル」と略記する。
次に、映像認識部66は、ステップS90で選定された次視聴時間帯における尤度算出対象チャンネルの「占有率」を算出する(ステップS111)。「占有率」とは、「視聴履歴の検索範囲」と「第2の視聴回数」と所定の重み係数(ε)とにもとづき算出される数値のことであり、「第2の視聴回数」が多いほど数値が大きくなるように設定されている。この「第2の視聴回数」とは、視聴履歴の検索範囲(上述した所定の過去の期間)において、次視聴時間帯が属する曜日と同じ曜日の、次視聴時間帯と同じ時間帯において、使用者による尤度算出対象チャンネルの視聴が何回あったかを表す数値のことである。
例えば、今週の月曜日の20:00から24:00の時間帯が次視聴時間帯に選定され、第5チャンネルが尤度算出対象チャンネルに設定され、視聴履歴の検索範囲(所定の過去の期間)が5週間に設定されて現時間帯から過去5週間の視聴履歴にもとづき次視聴チャンネル尤度が算出されるように設定されているとする。この場合、映像認識部66は、記憶部47に記憶されている視聴履歴を参照し、現時間帯から過去5週間の各月曜日の20:00から24:00の時間帯における第5チャンネルの視聴の有無を調べて「第2の視聴回数」を算出し、「第2の視聴回数」にもとづき「占有率」を算出する。「占有率」の具体的な算出例は後述する。
次に、映像認識部66は、次視聴時間帯における録画予約(または視聴予約)の有無を確認し、その確認の結果を、所定の重み係数(ζ)にもとづき数値化する(ステップS112)。この数値を「第2の予約状況」と記す。「第2の予約状況」の具体的な算出例は後述する。
そして、映像認識部66は、ステップS111で算出された「占有率」、およびステップS112で算出された「第2の予約状況」から、ステップS110で設定された尤度算出対象チャンネルにおける「次視聴チャンネル尤度」を算出する(ステップS113)。ここで算出された「次視聴チャンネル尤度」は、どのチャンネルに関して算出されたものかがわかるようにして、記憶部47に記憶される。「次視聴チャンネル尤度」の具体的な算出例は後述する。
次に、映像認識部66は、受信可能な全てのチャンネルに関して、次視聴時間帯における次視聴チャンネル尤度を算出し終えたか否かを判断する(ステップS114)。
ステップS114で、次視聴チャンネル尤度を算出していないチャンネルがある、と判断されたとき(No)は、映像認識部66は、ステップS110に戻り、次視聴チャンネル尤度を算出していないチャンネルを新たな尤度算出対象チャンネルに設定して、上述の一連の動作を繰り返す。
ステップS114で、受信可能な全てのチャンネルに関して次視聴チャンネル尤度を算出し終えた、と判断されたとき(Yes)は、映像認識部66は、算出し終えた次視聴チャンネル尤度を互いに比較し、次視聴チャンネル尤度が最も高いチャンネルを「次視聴チャンネル」として選定する(ステップS115)。
次視聴チャンネル選定処理が終了したら、図9のステップS84に移行する。
次に、次視聴チャンネル選定処理の具体的な動作の一例を、図面を用いて説明する。
図15は、実施の形態1における映像受信装置40で行う次視聴チャンネル選定処理の動作の一例を概略的に示す模式図である。
図15には、「次視聴時間帯」として時間帯A(第10週の月曜日の20:00〜24:00)が選定され、時間帯Aの第1チャンネルから第5チャンネルまでの5つのチャンネルに関して次視聴チャンネル選定処理を行う例を示している。
また、図15に示す例では、所定の過去の期間、すなわち、次視聴チャンネル尤度を算出するための視聴履歴の検索範囲を5週間とし、現時間帯から過去5週間の視聴履歴にもとづき次視聴チャンネル尤度を算出するように設定している。
したがって、映像受信装置40の記憶部47には、現時刻から少なくとも過去5週間分の視聴履歴の情報が、映像認識装置20から取得されて記憶されているものとする。
図16は、実施の形態1における映像受信装置40の映像認識部66で算出する次視聴チャンネル尤度の一例を示す図である。
図16には、図15示した第1チャンネル、第2チャンネル、第3チャンネル、第4チャンネル、第5チャンネル、の各チャンネルについて、ステップS111で算出する「占有率」、ステップS112で算出する「第2の予約状況」、およびステップS113で算出する「次視聴チャンネル尤度」の各算出値の一例を示す。
映像認識部66は、ステップS111で説明した「占有率」を以下の式で算出する。なお、本実施の形態では、重み係数εを5とする例を示す。
占有率=ε×(尤度算出対象チャンネルの第2の視聴回数+1)/(視聴履歴の検索範囲+1)
「第2の視聴回数」とは、視聴履歴の検索範囲(図15に示す例では過去5週間)において、次視聴時間帯が属する曜日と同じ曜日の、次視聴時間帯と同じ時間帯において、使用者による尤度算出対象チャンネルの視聴が何回あったかを表す数値のことである。例えば、図15に示す例では、第5チャンネルに関する「第2の視聴回数」は、第5週から第9週までの各月曜日の20:00〜24:00における第5チャンネルの視聴回数の総和であり、第5週、第8週、第9週の同時間帯で視聴が行われているので、3となる。したがって、例えば、「次視聴時間帯」として選定された時間帯Aの第5チャンネルの「占有率」は、次のようになる。
占有率=5×(3+1)/(5+1)=5×4/6=3.33
同様にして他のチャンネルの「占有率」を計算すると、図16に示すように、第1チャンネルでは0.83、第2チャンネルでは2.50、第3チャンネルでは0.83、第4チャンネルでは0.83となる。
次に、映像認識部66は、ステップS112で説明した「第2の予約状況」を以下の式で算出する。なお、本実施の形態では、重み係数ζを3とする例を示す。
第2の予約状況=ζ×次視聴時間帯における録画予約(または視聴予約)の有無
なお、この式では、予約があれば1、予約がなければ0を代入する。図16に示す例では、第1チャンネルから第5チャンネルのいずれのチャンネルも予約はなされていないので、図16に示すように、各チャンネルの「第2の予約状況」はそれぞれ0となる。
次に、映像認識部66は、ステップS113で説明した「次視聴チャンネル尤度」を以下の式で算出する。
次視聴チャンネル尤度=占有率+第2の予約状況
例えば、図15、図16に示す例では、第5チャンネルの「次視聴チャンネル尤度」は次のようになる。
次視聴チャンネル尤度=3.33+0=3.33
同様にして他のチャンネルの「次視聴チャンネル尤度」を計算すると、図16に示すように、第1チャンネルでは0.83、第2チャンネルでは2.50、第3チャンネルでは0.83、第4チャンネルでは0.83、となる。
次に、映像認識部66は、ステップS115で説明したように、次視聴チャンネル尤度が最も高いチャンネルを「次視聴チャンネル」として選定する。図15、図16に示す例では、第5チャンネルの「次視聴チャンネル尤度」の数値が最も大きい。したがって、映像認識部66は、第5チャンネルを、次に視聴が行われる可能性が最も高いチャンネルと予測し、「次視聴チャンネル」として選定する。
この次視聴チャンネルの情報は映像受信装置40から映像認識装置20に送信され、映像認識装置20はこの次視聴チャンネルの情報にもとづきローカルデータベースを生成して映像受信装置40に送信する。
なお、ここに挙げた各設定値は単なる一実施例に過ぎず、本実施の形態は各設定値が何ら上述した数値に限定されるものではない。各設定値は、付加情報表示システム10の仕様等に応じて最適に設定することが望ましい。
[1−3.効果等]
以上のように、本実施の形態において、映像受信装置40は、通信ネットワーク16を介してデータの送受信を行えるように構成されており、入力部65、映像抽出部45、記憶部47、映像認識部66、および制御部41、を備える。入力部65は、外部に設置された映像送信装置(例えば、STB14)から出力される映像信号を入力するように構成されている。映像抽出部45は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。記憶部47は、通信ネットワーク16に接続された映像認識装置20から取得された第1のコンテンツ認識情報(サーバ映像認識情報)を記憶するように構成されている。映像認識部66は、映像抽出部45が抽出した部分映像から第2のコンテンツ認識情報(端末映像認識情報)を生成し、映像認識装置20に第2のコンテンツ認識情報(端末映像認識情報)を送信して映像認識処理を依頼するオンラインマッチング処理と、第2のコンテンツ認識情報(端末映像認識情報)を記憶部47に記憶されたローカルデータベースに含まれる第1のコンテンツ認識情報(サーバ映像認識情報)と照合するローカルマッチング処理との少なくとも一方を行うように構成されている。制御部41は、オンライングマッチング処理の結果またはローカルマッチング処理の結果に基づく付加情報(例えば、広告情報)を通信ネットワーク16に接続された付加情報配信装置30から取得する制御を行うように構成されている。
映像認識装置20の記憶部23に記憶されるオンラインデータベースのデータ量は上述したように膨大である。そのため、オンラインマッチング処理では、精度の高いコンテンツ特定処理を行うことができるが、映像受信装置40から送信されてくる第2のコンテンツ認識情報(端末映像認識情報)と、オンラインデータベースとして記憶部23に記憶されている第1のコンテンツ認識情報(サーバ映像認識情報)との照合に時間を要する。
一方、映像受信装置40の記憶部47に記憶されたローカルデータベースは、映像認識装置20がオンラインデータベースから選別して生成したものなので、オンラインデータベースと比較してデータ量が少ない。すなわち、ローカルデータベースを利用して行うローカルマッチング処理は、オンラインマッチング処理と比較して、短時間で終了することができる。
したがって、映像受信装置40は、ローカルマッチング処理とオンラインマッチング処理とを、選択的に(または双方を)行うことで、STB14等の映像送信装置から入力される映像信号に関するコンテンツ特定処理(映像認識処理にもとづくコンテンツ特定処理)を、時間を短縮しつつ高精度に行うことが可能となる。
そして、映像受信装置40は、オンラインマッチング処理またはローカルマッチング処理の結果にもとづく付加情報を付加情報配信装置30から取得して、その映像信号に重畳することができる。
また、映像受信装置40は、映像信号に付加情報51を重畳した映像を表示するように構成された表示部54を備えていてもよい。
また、映像受信装置40の制御部41は、映像受信装置40の電源が投入された後に第1のコンテンツ認識情報(サーバ映像認識情報)を映像認識装置20から取得する制御を行うように構成されていてもよい。
また、映像受信装置40の映像認識部66は、ローカルマッチング処理を優先的に行い、ローカルマッチング処理に失敗したときにオンラインマッチング処理を行うように構成されていてもよい。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態1を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略等を行った実施の形態にも適用できる。また、上記実施の形態1〜3で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
そこで、以下、他の実施の形態を例示する。
実施の形態1では、映像受信装置40が、ローカルマッチング処理とオンラインマッチング処理のいずれか一方を行うように動作する例を、図6を用いて説明した。しかし、映像受信装置40は、図5に示したステップS41のコンテンツ特定処理において、図6に示した動作に代えて、図17に示すように、ローカルマッチング処理とオンラインマッチング処理の双方を行うように構成されていてもよい。
図17は、他の実施の形態における映像受信装置40で行うコンテンツ特定処理の動作を概略的に示すフローチャートである。なお、図17に示すフローチャートでは、図6に示したステップと実質的に同じ動作のステップには図6に示した符号と同じ符号を付与し、詳細な説明は省略する。
図17に示す動作例では、映像認識部66は、まず、図6に示したステップS50と同様に、映像抽出部45が抽出した部分映像からフィンガープリント(端末映像認識情報)を生成する(ステップS50)。
次に、制御部41は、図6に示したステップS51と同様に、ローカルデータベースが記憶部47に記憶されているかどうかを判断する。なお、以下の図面では、ローカルデータベースを「ローカルDB」と略記する(ステップS51)。
ステップS51で、ローカルデータベースは記憶部47に記憶されている、と判断されたとき(Yes)は、制御部41は、図6に示したステップS52と同様に、映像認識部66にローカルマッチング処理を行うように指示し、その指示にもとづき映像認識部66はローカルマッチング処理を行う(ステップS52)。
ステップS51で、ローカルデータベースは記憶部47に記憶されていない、と判断されたとき(No)、またはステップS52の終了後は、制御部41は、図6に示したステップS53と同様に、映像認識部66にオンラインマッチング処理を行うように指示し、その指示にもとづき映像認識部66はオンラインマッチング処理を行う(ステップS53)。
次に、制御部41は、図6に示したステップS54と同様に、記憶部47に記憶されているローカルデータベースの有効期間を判断する(ステップS54)。
ステップS54で、ローカルデータベースの有効期間は既に過ぎており、ローカルデータベースはコンテンツ特定処理に利用できない、と判断されたとき(No)は、制御部41は、図6に示したステップS55と同様に、ローカルデータベースを更新するように各回路ブロックを制御する(ステップS55)。
ステップS54で、ローカルデータベースは有効期間内のものであり、ローカルデータベースはコンテンツ特定処理に利用できる、と判断されたとき(Yes)は、制御部41は、ローカルデータベースの更新を行わない。映像認識部66は、ローカルマッチング処理の結果とオンラインマッチング処理の結果のいずれか一方を選択し(ステップS57)、図5のステップS42へ移行する。
ステップS57では、映像認識部66は、ローカルマッチング処理の結果とオンラインマッチング処理の結果が一致したときにその一致した結果を選択し、一致しないときは、映像認識処理に失敗した、という結果を選択してもよい。あるいは、映像認識部66は、ローカルマッチング処理の結果とオンラインマッチング処理の結果が一致しないときに、オンラインマッチング処理の結果を選択するように動作してもよい。
このように構成された映像受信装置40では、ローカルマッチング処理とオンラインマッチング処理の双方を行うことで、映像認識処理の精度を高めることができる。なお、図17に示すフローチャートでは、オンラインマッチング処理の後にローカルマッチング処理を行ってもよい。
実施の形態1では、ローカルデータベース更新処理の手順の一例を図9に示したが、本実施の形態は、何らローカルデータベース更新処理が図9に示す手順に限定されない。
図18は、他の実施の形態における映像受信装置40および映像認識装置20で行うローカルデータベース更新処理の動作の一例を概略的に示すフローチャートである。なお、図18に示すフローチャートでは、図9に示したステップと実質的に同じ動作のステップには図9に示した符号と同じ符号を付与し、詳細な説明は省略する。
図9に示すフローチャートでは、映像受信装置40の視聴履歴が映像認識装置20で管理される例を示したが、図18に示すフローチャートでは、映像受信装置40の視聴履歴は、映像受信装置40で管理される。
映像受信装置40の現在の視聴情報は、記憶部47に記憶されている映像受信装置40の視聴履歴に加えられ、映像受信装置40の視聴履歴が更新される。映像認識部66は、図9に示したステップS83と同様に、記憶部47に記憶された視聴履歴の情報と現在の視聴情報とにもとづき、次視聴情報を生成する。生成された次視聴情報は、図9に示したステップS84と同様に、映像受信装置40から映像認識装置20に送信される(ステップS87)。
映像認識装置20は、図9に示したステップS85と同様に、映像受信装置40から送信されてくる次視聴情報にもとづきローカルデータベースを生成して映像受信装置40に送信する(ステップS85)。
映像受信装置40の制御部41は、図9に示したステップS86と同様に、映像認識装置20から送信されてくるローカルデータベースを受信して記憶部47に記憶するように各回路ブロックを制御し(ステップS86)、図5のステップS42へ移行する。
このようにして、記憶部47内のローカルデータベースが更新されてもよい。この手法では、映像受信装置40の記憶部47に記憶される視聴履歴にもとづきローカルデータベースが更新されるので、図9に示した手法と比較して、ローカルデータベースの更新に要する時間を短縮することができる。
図19は、他の実施の形態における映像受信装置40および映像認識装置20で行うローカルデータベース更新処理の動作の他の一例を概略的に示すフローチャートである。なお、図19に示すフローチャートでは、図9に示したステップと実質的に同じ動作のステップには図9に示した符号と同じ符号を付与し、詳細な説明は省略する。
図18に示すフローチャートでは、高視聴率番組情報にもとづき、ローカルデータベースが更新される。
映像受信装置40の制御部41は、高視聴率番組情報を映像認識装置20に送信し、高視聴率番組情報にもとづきローカルデータベースを生成するように映像認識装置20に指示する(ステップS88)。
高視聴率番組情報とは、例えば、コンテンツ特定処理の対象となる機会の多いコンテンツを示す情報のことである。なお、映像受信装置40は、過去のコンテンツ特定処理の結果を蓄積して高視聴率番組情報を生成してもよく、外部から供給される高視聴率番組情報を通信ネットワーク16を介して取得してもよい。あるいは、映像受信装置40は、映像認識装置20に、高視聴率番組情報を通信ネットワーク16を介して取得してその高視聴率番組情報にもとづきローカルデータベースを生成するように指示してもよい。
映像認識装置20は、映像受信装置40から送信されてくる高視聴率番組情報にもとづきローカルデータベースを生成して映像受信装置40に送信する(ステップS89)。なお、ステップS89における映像認識装置20の動作は、次視聴情報を高視聴率番組情報に置き換えた以外は、図9に示したステップS85と実質的に同様である。
映像受信装置40の制御部41は、図9に示したステップS86と同様に、映像認識装置20から送信されてくるローカルデータベースを受信して記憶部47に記憶するように各回路ブロックを制御し(ステップS86)、図5のステップS42へ移行する。
このようにして、記憶部47内のローカルデータベースが更新されてもよい。この手法では、視聴率の高いコンテンツに関するローカルデータベースが生成されるので、ローカルマッチング処理の精度を高めることができる。
実施の形態1では、映像受信装置40は表示部54を備えている構成を説明したが、本実施の形態における映像受信装置は何らこの構成に限定されるものではない。映像受信装置は表示部を備えていなくてもかまわない。
図20は、他の実施の形態における映像受信装置140の構成の一例を概略的に示すブロック図である。図20に示す映像受信装置140は、主に以下の点が、実施の形態1で図3に示した映像受信装置40と異なる。映像受信装置140は、表示部54を備えておらず、映像出力部144が、外部に設置された映像表示装置154に、有線または無線で、映像信号を出力するように構成されている。映像出力部144は、実施の形態1に示した映像出力部44と同様に、制御部41からの指示にもとづき、映像信号に付加情報を重畳する。
このような映像受信装置140の一例として、例えば、録画機能、放送信号受信機能、映像信号入力機能、および映像信号出力機能を備え、外部に設置された映像表示装置154に映像信号を送信するように構成された録画装置、等を挙げることができる。そのような録画装置には、例えばハードディスクレコーダや、DVDレコーダ、BDレコーダ、等がある。
なお、図20では、図3に示した映像受信装置40を構成する構成要素と実質的に等しい動作をする構成要素には同じ符号を付与し、説明を省略する。また、図20には、本実施の形態に示す動作に関連する主な回路ブロックを示し、他の動作に関する機能や回路ブロック(例えば、録画機能等)は省略している。
このような構成の映像受信装置140においても、実施の形態1に示した映像受信装置40と同様の効果を得ることができる。
なお、本実施の形態に示した各構成要素は、それぞれを独立した専用の回路で構成してもよく、あるいは、それらの1つまたは複数の動作を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。また、このときのプログラムは、サーバ等からのダウンロードにより取得されてもよく、所定の記録媒体(例えば、CD−ROM等の光ディスクや磁気ディスク、半導体メモリ等)を介して取得されてもよい。
また、本実施の形態に示したサーバにおける各動作は、単数のサーバで集中処理されてもよく、複数のサーバで分散処理されてもよい。
なお、実施の形態1に示した具体的な数値は、単に実施の形態における一例を示したものに過ぎず、本開示はこれらの数値に何ら限定されるものではない。各数値は映像受信装置の仕様等にあわせて最適な値に設定することが望ましい。
本開示は、外部に設置された映像送信装置から入力される映像信号に関する付加情報を取得し、取得した付加情報を映像信号へ重畳することが可能な映像受信装置に適用可能である。具体的には、テレビジョン受像機、ハードディスクレコーダ、DVDレコーダ、BDレコーダ、等に本開示は適用可能である。
10 付加情報表示システム
12 放送局
14 STB
16 通信ネットワーク
20 映像認識装置
21,42 HTTP送受信部
22 検索部
23,47 記憶部
30 付加情報配信装置
40,140 映像受信装置
41,141 制御部
43 操作信号受信部
44,144 映像出力部
45 映像抽出部
46 付加情報表示制御部
48 映像入力部
49 受信部
51 付加情報
54 表示部
65 入力部
66 映像認識部
81 コンテンツ
82,84 フィンガープリント
83 解析情報
91 映像信号
154 映像表示装置

Claims (4)

  1. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置であって、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記通信ネットワークに接続された映像認識装置が次視聴情報に基づいて生成した映像認識処理用のローカルデータベースを受信して記憶するように構成された記憶部と、
    前記部分映像から映像認識処理用の第2のコンテンツ認識情報を生成し、前記映像認識装置に前記第2のコンテンツ認識情報を送信して第1のコンテンツ認識情報と映像認識処理を実行するオンラインマッチング処理を依頼し、または前記第2のコンテンツ認識情報を前記記憶部に記憶された前記ローカルデータベースに含まれる映像認識処理用の前記第1のコンテンツ認識情報と照合するローカルマッチング処理との少なくとも一方を行うように構成された映像認識部と、
    前記映像認識装置から前記ローカルデータベースと前記オンラインマッチング処理の結果により特定したコンテンツを取得する制御を行うとともに、前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定したコンテンツを前記通信ネットワークに接続された付加情報配信装置に送信し、前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定した前記コンテンツに基づく付加情報を前記付加情報配信装置から取得する制御を行うように構成された制御部と、を備え、
    前記映像認識部は、前記記憶部に記憶された視聴履歴に基づき前記次視聴情報を生成し、
    前記制御部は、前記次視聴情報を前記映像認識装置に送信するように制御し、
    前記映像認識部は、前記ローカルマッチング処理が成功しなかった場合に、前記映像認識装置に前記第2のコンテンツ認識情報を送信して第1のコンテンツ認識情報と映像認識処理を実行するオンラインマッチング処理を依頼する、
    映像受信装置。
  2. 前記映像信号に前記付加情報を重畳した映像を表示するように構成された表示部、をさらに備えた、請求項1に記載の映像受信装置。
  3. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における映像認識方法であって、
    外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、
    前記部分映像から映像認識処理用の第2のコンテンツ認識情報を生成するステップと、
    視聴履歴に基づき次視聴情報を生成するステップと、
    前記通信ネットワークに接続された映像認識装置に前記次視聴情報を送信するステップと、
    前記映像認識装置が前記次視聴情報に基づき生成した映像認識処理用のローカルデータベースを取得して記憶部に記憶するステップと、
    前記第2のコンテンツ認識情報と前記記憶部に記憶された前記ローカルデータベースに含まれる映像認識処理用の第1のコンテンツ認識情報とを照合するローカルマッチング処理を行うステップと、
    前記ローカルマッチング処理が成功しなかった場合に、前記映像認識装置に前記第2のコンテンツ認識情報を送信して前記映像認識装置が記憶する前記第1のコンテンツ認識情報と映像認識処理を行うオンラインマッチング処理を依頼するステップと、
    前記ローカルマッチング処理の結果により特定したコンテンツ、または前記オンラインマッチング処理の結果により特定したコンテンツを取得するステップと、
    前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定した前記コンテンツを、前記通信ネットワークに接続された付加情報配信装置に送信するステップと、
    前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定した前記コンテンツに基づく付加情報を、前記付加情報配信装置から取得するステップと、を備えた映像認識方法。
  4. 通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備えた付加情報表示システムであって、
    前記映像受信装置は、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記通信ネットワークに接続された映像認識装置が次視聴情報に基づいて生成した映像認識処理用のローカルデータベースを受信して記憶するように構成された記憶部と、
    前記部分映像から映像認識処理用の第2のコンテンツ認識情報を生成し、前記映像認識装置に前記第2のコンテンツ認識情報を送信して第1のコンテンツ認識情報と映像認識処理を実行するオンラインマッチング処理を依頼し、または前記第2のコンテンツ認識情報を前記記憶部に記憶された前記ローカルデータベースに含まれる映像認識処理用の前記第1のコンテンツ認識情報と照合するローカルマッチング処理との少なくとも一方を行うように構成された映像認識部と、
    前記映像認識装置から前記ローカルデータベースと前記オンラインマッチング処理の結果により特定するコンテンツを取得する制御を行うとともに、前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定したコンテンツを前記通信ネットワークに接続された付加情報配信装置に送信し、前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定した前記コンテンツにもとづく付加情報を前記付加情報配信装置から取得する制御を行うように構成された制御部とを備え、
    前記映像認識部は、前記記憶部に記憶された視聴履歴に基づき前記次視聴情報を生成し、
    前記制御部は、前記次視聴情報を前記映像認識装置に送信するように制御し、
    前記映像認識部は、前記ローカルマッチング処理が成功しなかった場合に、前記映像認識装置に前記第2のコンテンツ認識情報を送信して第1のコンテンツ認識情報と映像認識処理を実行するオンラインマッチング処理を依頼するように制御し、
    前記映像認識装置は、取得した映像信号から前記第1のコンテンツ認識情報を生成して記憶するとともに、前記次視聴情報に関連する前記第1のコンテンツ認識情報を選択して前記ローカルデータベースを生成し、前記ローカルデータベースを前記映像受信装置に送信するように構成され、かつ前記通信ネットワークを介して受信した前記第2のコンテンツ認識情報を前記第1のコンテンツ認識情報と照合して前記オンラインマッチング処理を行い、前記オンラインマッチング処理の結果により特定した前記コンテンツを前記映像受信装置に送信するように構成され、
    前記付加情報配信装置は、前記通信ネットワークを介して受信した前記オンラインマッチング処理の結果により特定した前記コンテンツまたは前記ローカルマッチング処理の結果により特定したコンテンツに対応する付加情報を前記映像受信装置に送信するように構成される、付加情報表示システム。
JP2015512955A 2014-03-26 2014-07-16 映像受信装置、映像認識方法および付加情報表示システム Active JP6340558B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014063498 2014-03-26
JP2014063498 2014-03-26
PCT/JP2014/003761 WO2015145492A1 (ja) 2014-03-26 2014-07-16 映像受信装置、映像認識方法および付加情報表示システム

Publications (2)

Publication Number Publication Date
JPWO2015145492A1 JPWO2015145492A1 (ja) 2017-04-13
JP6340558B2 true JP6340558B2 (ja) 2018-06-13

Family

ID=54194098

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015512955A Active JP6340558B2 (ja) 2014-03-26 2014-07-16 映像受信装置、映像認識方法および付加情報表示システム
JP2015512961A Active JP6340596B2 (ja) 2014-03-26 2014-07-16 映像受信装置、映像認識方法および付加情報表示システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2015512961A Active JP6340596B2 (ja) 2014-03-26 2014-07-16 映像受信装置、映像認識方法および付加情報表示システム

Country Status (5)

Country Link
US (2) US9906844B2 (ja)
EP (2) EP3125568A4 (ja)
JP (2) JP6340558B2 (ja)
CN (2) CN105144735A (ja)
WO (2) WO2015145493A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102019493B1 (ko) * 2015-02-09 2019-09-06 삼성전자주식회사 디스플레이 장치 및 그 정보 제공 방법
KR20180037826A (ko) 2016-10-05 2018-04-13 삼성전자주식회사 디스플레이 장치, 이의 제어 방법 및 정보 제공 시스템
JP7030316B2 (ja) * 2016-10-14 2022-03-07 学校法人立命館 情報記録装置、時刻特定装置、時刻特定システム、及び時刻特定方法
KR102384215B1 (ko) * 2017-08-01 2022-04-07 삼성전자주식회사 전자 장치 및 그의 제어방법
KR102569660B1 (ko) * 2018-06-15 2023-08-25 삼성전자주식회사 디스플레이장치 및 그 제어방법
TWI715166B (zh) * 2019-08-27 2021-01-01 宏正自動科技股份有限公司 多螢幕控制系統

Family Cites Families (108)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04245552A (ja) 1991-01-31 1992-09-02 Canon Inc データベース検索方法
JPH09185720A (ja) 1995-12-28 1997-07-15 Canon Inc 画像抽出装置
JP3731952B2 (ja) 1996-10-18 2006-01-05 シャープ株式会社 動画像検索用情報生成装置
JPH10214258A (ja) 1997-01-28 1998-08-11 Victor Co Of Japan Ltd データ処理システム
JP2000287189A (ja) 1999-03-31 2000-10-13 Toshiba Corp テレビ番組の視聴管理装置
JP3485020B2 (ja) 1999-04-09 2004-01-13 日本電気株式会社 文字認識方法及び装置ならびに記憶媒体
US8205223B2 (en) 2000-04-12 2012-06-19 Lg Electronics Inc. Method and video device for accessing information
US7712123B2 (en) 2000-04-14 2010-05-04 Nippon Telegraph And Telephone Corporation Method, system, and apparatus for acquiring information concerning broadcast information
JP3994682B2 (ja) 2000-04-14 2007-10-24 日本電信電話株式会社 放送情報送受信システム
CA2406253C (en) 2000-04-14 2006-03-14 Nippon Telegraph And Telephone Corporation Method, system and apparatus for obtaining information related to broadcast information
JP2002016885A (ja) 2000-06-30 2002-01-18 Pioneer Electronic Corp 映像再生装置及び映像再生方法
US20020126990A1 (en) 2000-10-24 2002-09-12 Gary Rasmussen Creating on content enhancements
JP2002175311A (ja) 2000-12-08 2002-06-21 Nippon Telegr & Teleph Corp <Ntt> 映像情報登録方法、映像情報登録装置、映像情報検索方法及び映像情報検索装置
US6829015B2 (en) 2001-01-19 2004-12-07 Samsung Electronics Co., Ltd. Device and method for realizing transparency in an on screen display
JP2002232372A (ja) 2001-01-31 2002-08-16 Matsushita Electric Ind Co Ltd 放送番組関連情報提供装置
KR20020072453A (ko) 2001-03-10 2002-09-16 삼성전자 주식회사 재생장치 및 부가정보 서비스 서버 시스템
JP2002334010A (ja) * 2001-05-11 2002-11-22 Tsubasa System Co Ltd 広域ネットワークシステム
JP2004007323A (ja) 2001-06-11 2004-01-08 Matsushita Electric Ind Co Ltd テレビジョン放送受信機
US20030084462A1 (en) 2001-10-26 2003-05-01 Junichi Kubota Digital boradcast reception device and method thereof, and printing device and method thereof
US20030149983A1 (en) 2002-02-06 2003-08-07 Markel Steven O. Tracking moving objects on video with interactive access points
JP2004104368A (ja) 2002-09-06 2004-04-02 Sony Corp 画像データ処理方法、画像データ処理プログラム及び立体画像表示装置
KR100930351B1 (ko) 2003-02-25 2009-12-08 엘지전자 주식회사 고밀도 광디스크의 그래픽 및 서브타이틀 데이터관리방법
US7809154B2 (en) 2003-03-07 2010-10-05 Technology, Patents & Licensing, Inc. Video entity recognition in compressed digital video streams
US7738704B2 (en) 2003-03-07 2010-06-15 Technology, Patents And Licensing, Inc. Detecting known video entities utilizing fingerprints
US20040194130A1 (en) 2003-03-07 2004-09-30 Richard Konig Method and system for advertisement detection and subsitution
JP4374902B2 (ja) 2003-05-16 2009-12-02 富士通株式会社 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP4109185B2 (ja) 2003-12-01 2008-07-02 日本電信電話株式会社 映像シーン区間情報抽出方法,映像シーン区間情報抽出装置,映像シーン区間情報抽出プログラムおよびそのプログラムを記録した記録媒体
JP2005167894A (ja) 2003-12-05 2005-06-23 Matsushita Electric Ind Co Ltd コンテンツ切替方法、およびチャンネル切替方法
JP2005347806A (ja) 2004-05-31 2005-12-15 Toshiba Corp 電子機器および該電子機器にて実行される番組情報取得方法
JP2006030244A (ja) 2004-07-12 2006-02-02 Matsushita Electric Ind Co Ltd 情報端末及びプログラム
US20070233285A1 (en) 2004-09-14 2007-10-04 Kakuya Yamamoto Apparatus Control System and Apparatus Control Method
US20060200842A1 (en) 2005-03-01 2006-09-07 Microsoft Corporation Picture-in-picture (PIP) alerts
JP2006303936A (ja) 2005-04-21 2006-11-02 Matsushita Electric Ind Co Ltd コンテンツデータ、受信装置、生成装置および送信装置
JP3894940B2 (ja) 2005-08-11 2007-03-22 三菱電機株式会社 映像音声記録装置
WO2007017970A1 (ja) 2005-08-11 2007-02-15 Mitsubishi Denki Kabushiki Kaisha 映像記録装置、シーンチェンジ抽出方法、及び映像音声記録装置
EP1954041A4 (en) 2005-09-30 2010-01-27 Pioneer Corp SUMMARY PRODUCTION EQUIPMENT AND PROGRAM THEREFOR
JP2007134948A (ja) 2005-11-10 2007-05-31 Matsushita Electric Ind Co Ltd 駐車車両搭乗者撮像装置
US20070157242A1 (en) 2005-12-29 2007-07-05 United Video Properties, Inc. Systems and methods for managing content
JP4871668B2 (ja) 2006-08-01 2012-02-08 キヤノン株式会社 画像処理システム、画像処理方法及びプログラム
JP2008040622A (ja) 2006-08-02 2008-02-21 Sharp Corp 広告提供システム、広告提供装置、広告表示装置、広告提供方法およびプログラム
JP2008116792A (ja) 2006-11-07 2008-05-22 Sharp Corp 表示制御装置、映像表示機器及び表示制御方法
JP4746568B2 (ja) 2007-01-16 2011-08-10 ヤフー株式会社 情報提供装置、情報提供方法、及びプログラム
JP4957960B2 (ja) 2007-01-29 2012-06-20 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
US8281332B2 (en) 2007-05-02 2012-10-02 Google Inc. Animated video overlays
US8229227B2 (en) 2007-06-18 2012-07-24 Zeitera, Llc Methods and apparatus for providing a scalable identification of digital video sequences
US8433611B2 (en) 2007-06-27 2013-04-30 Google Inc. Selection of advertisements for placement with content
WO2009011030A1 (ja) 2007-07-17 2009-01-22 Pioneer Corporation 情報処理システム、並びに情報処理装置及び情報処理方法
JP5203648B2 (ja) 2007-07-20 2013-06-05 オリンパス株式会社 画像抽出装置および画像抽出プログラム
JP2009088777A (ja) 2007-09-28 2009-04-23 Dentsu Inc 広告選択最適化処理装置及びその処理方法
US8060609B2 (en) 2008-01-04 2011-11-15 Sling Media Inc. Systems and methods for determining attributes of media items accessed via a personal media broadcaster
US8621505B2 (en) 2008-03-31 2013-12-31 At&T Intellectual Property I, L.P. Method and system for closed caption processing
JP4623135B2 (ja) 2008-05-08 2011-02-02 株式会社デンソー 画像認識装置
EP2306717B1 (en) 2008-05-28 2019-10-09 Kyocera Corporation Communication terminal, search server, and communication system
EP2154664A4 (en) 2008-06-11 2014-08-20 Panasonic Corp PATTERN RECOGNITION DEVICE, PATTERN RECOGNITION METHOD, IMAGE PROCESSING DEVICE, AND IMAGE PROCESSING METHOD
US9367544B2 (en) 2008-06-18 2016-06-14 Gracenote, Inc. Method for efficient database formation and search on media devices acting synchronously with television programming
US8195689B2 (en) 2009-06-10 2012-06-05 Zeitera, Llc Media fingerprinting and identification system
JP4640456B2 (ja) 2008-06-25 2011-03-02 ソニー株式会社 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
EP2332328A4 (en) 2008-08-18 2012-07-04 Ipharro Media Gmbh PROVIDING ADDITIONAL INFORMATION
KR101380783B1 (ko) 2008-08-22 2014-04-02 정태우 영상에 포함된 객체를 식별하여 부가 서비스를 제공하는 시스템
CN102047654A (zh) 2008-09-02 2011-05-04 松下电器产业株式会社 内容显示处理设备和内容显示处理方法
CN101803396B (zh) 2008-09-17 2014-03-05 松下电器产业株式会社 记录方法、再现装置和集成电路
JP2010164901A (ja) 2009-01-19 2010-07-29 Sharp Corp Osd信号処理装置、av装置、映像表示システム、及びosd表示方法
KR101369915B1 (ko) 2009-01-23 2014-03-06 닛본 덴끼 가부시끼가이샤 영상 식별자 추출 장치
US8260055B2 (en) 2009-03-27 2012-09-04 The Nielsen Company (Us), Llc Methods and apparatus for identifying primary media content in a post-production media content presentation
JP5434265B2 (ja) 2009-05-22 2014-03-05 三菱電機株式会社 領域分類装置、画質改善装置、映像表示装置、およびそれらの方法
US8421921B1 (en) 2009-07-31 2013-04-16 Pixelworks, Inc. Post processing displays with on-screen displays
JP5320204B2 (ja) * 2009-07-31 2013-10-23 日本電信電話株式会社 情報端末装置、情報検索方法、および情報検索プログラム
JP2013501477A (ja) * 2009-08-05 2013-01-10 アイファロ メディア ゲーエムベーハー 補足メディア配信方法
JP5440051B2 (ja) 2009-09-11 2014-03-12 株式会社Jvcケンウッド コンテンツ同定方法、コンテンツ同定システム、コンテンツ検索装置及びコンテンツ利用装置
US8582952B2 (en) 2009-09-15 2013-11-12 Apple Inc. Method and apparatus for identifying video transitions
US8327407B2 (en) 2009-10-27 2012-12-04 Sling Media, Inc. Determination of receiving live versus time-shifted media content at a communication device
US8682145B2 (en) 2009-12-04 2014-03-25 Tivo Inc. Recording system based on multimedia content fingerprints
US20110137976A1 (en) 2009-12-04 2011-06-09 Bob Poniatowski Multifunction Multimedia Device
KR20110088334A (ko) 2010-01-28 2011-08-03 삼성전자주식회사 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 생성 방법 및 장치, 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 수신 방법 및 장치
CN102196192A (zh) * 2010-03-17 2011-09-21 联想(新加坡)私人有限公司 用于识别媒体并提供额外的媒体内容的系统和方法
US8355910B2 (en) 2010-03-30 2013-01-15 The Nielsen Company (Us), Llc Methods and apparatus for audio watermarking a substantially silent media content presentation
JP5111627B2 (ja) 2010-04-06 2013-01-09 キヤノン株式会社 映像処理装置及び映像処理方法
JP5594002B2 (ja) 2010-04-06 2014-09-24 ソニー株式会社 画像データ送信装置、画像データ送信方法および画像データ受信装置
CN103026713B (zh) 2010-07-12 2016-02-24 皇家飞利浦电子股份有限公司 3d视频广播中的辅助数据
JP2012027687A (ja) 2010-07-23 2012-02-09 Casio Comput Co Ltd 画像処理装置及びプログラム
WO2012070251A1 (ja) 2010-11-25 2012-05-31 パナソニック株式会社 通信機器
JP2012231383A (ja) 2011-04-27 2012-11-22 Nippon Telegr & Teleph Corp <Ntt> Iptvサービスを利用した情報表示制御装置、表示用情報提供サーバ、情報表示制御方法、情報配信方法、情報表示制御用プログラム、および情報配信用プログラム
KR101778530B1 (ko) 2011-06-14 2017-09-15 삼성전자 주식회사 영상 처리 방법 및 장치
KR101828342B1 (ko) 2011-08-10 2018-02-12 삼성전자 주식회사 방송수신장치, 방송신호 관련 연관정보 제공방법 및 서버
KR101995425B1 (ko) 2011-08-21 2019-07-02 엘지전자 주식회사 영상 표시 장치, 단말 장치 및 그 동작 방법
US8805827B2 (en) 2011-08-23 2014-08-12 Dialogic (Us) Inc. Content identification using fingerprint matching
WO2013040533A1 (en) 2011-09-16 2013-03-21 Umami Co. Second screen interactive platform
JP5948773B2 (ja) 2011-09-22 2016-07-06 ソニー株式会社 受信装置、受信方法、プログラム、及び情報処理システム
KR101310943B1 (ko) 2011-09-26 2013-09-23 (주)엔써즈 방송 콘텐츠와 연관된 콘텐츠 연관 정보를 제공하는 시스템 및 방법
US20130094591A1 (en) 2011-10-12 2013-04-18 Vixs Systems, Inc. Video decoding device for selecting embedded metadata and methods for use therewith
US9204199B2 (en) 2011-12-06 2015-12-01 Lg Electronics Inc. Image display apparatus and methods for operating the same
JP2013125191A (ja) 2011-12-15 2013-06-24 Canon Inc 映像表示装置、映像表示方法及びプログラム
CN102523500B (zh) * 2011-12-21 2015-01-28 Tcl王牌电器(惠州)有限公司 基于云计算的广告过滤方法、系统及其数字电视装置
US20120092248A1 (en) 2011-12-23 2012-04-19 Sasanka Prabhala method, apparatus, and system for energy efficiency and energy conservation including dynamic user interface based on viewing conditions
US9578378B2 (en) 2012-01-05 2017-02-21 Lg Electronics Inc. Video display apparatus and operating method thereof
WO2013112991A2 (en) 2012-01-27 2013-08-01 Xumo Llc System and method of augmenting linear broadcast advertising
US9043821B2 (en) * 2012-02-07 2015-05-26 Turner Broadcasting System, Inc. Method and system for linking content on a connected television screen with a browser
JP5867133B2 (ja) 2012-02-10 2016-02-24 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
CN104137560B (zh) 2012-02-10 2018-07-24 Lg 电子株式会社 图像显示设备及其操作方法
WO2013130988A1 (en) * 2012-03-02 2013-09-06 Care Cam Innovations, Llc Apparatus, method and computer-readable storage medium for media processing and delivery
KR102116679B1 (ko) 2012-03-05 2020-05-29 엘지전자 주식회사 영상 표시 장치 및 그 동작 방법
US9292894B2 (en) 2012-03-14 2016-03-22 Digimarc Corporation Content recognition and synchronization using local caching
US8645994B2 (en) 2012-06-28 2014-02-04 Microsoft Corporation Brand detection in audiovisual media
WO2014006903A1 (ja) 2012-07-06 2014-01-09 パナソニック株式会社 コンテンツ制御方法、コンテンツ制御装置およびプログラム
CN103593356A (zh) * 2012-08-16 2014-02-19 丁瑞彭 基于多媒体信息指纹技术的信息搜索方法、系统和应用
JP5820986B2 (ja) 2013-03-26 2015-11-24 パナソニックIpマネジメント株式会社 映像受信装置及び受信映像の画像認識方法
US20150026718A1 (en) 2013-07-19 2015-01-22 United Video Properties, Inc. Systems and methods for displaying a selectable advertisement when video has a background advertisement
US9456237B2 (en) * 2013-12-31 2016-09-27 Google Inc. Methods, systems, and media for presenting supplemental information corresponding to on-demand media content

Also Published As

Publication number Publication date
US20160088365A1 (en) 2016-03-24
EP3125569A1 (en) 2017-02-01
WO2015145493A1 (ja) 2015-10-01
JPWO2015145493A1 (ja) 2017-04-13
JPWO2015145492A1 (ja) 2017-04-13
CN105144735A (zh) 2015-12-09
CN105144734B (zh) 2018-11-06
US9906844B2 (en) 2018-02-27
WO2015145492A1 (ja) 2015-10-01
CN105144734A (zh) 2015-12-09
EP3125569A4 (en) 2017-03-29
JP6340596B2 (ja) 2018-06-13
US9774924B2 (en) 2017-09-26
EP3125568A1 (en) 2017-02-01
EP3125568A4 (en) 2017-03-29
US20160088364A1 (en) 2016-03-24

Similar Documents

Publication Publication Date Title
JP6340558B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
JP6194484B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
JP6281125B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
JP6281126B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
JP6379362B2 (ja) 映像受信装置、パラメータ設定方法および付加情報表示システム
EP3273697A1 (en) Display device and method for recommending contents of the display device
US9900650B2 (en) Video reception device, video recognition method, and additional information display system
JP2012005041A (ja) 端末装置、サーバ
US10194216B2 (en) Video reception device, video recognition method, and additional information display system
JP2011150380A (ja) 視聴者情報推定装置、方法及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180409

R151 Written notification of patent or utility model registration

Ref document number: 6340558

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151