JP2004054134A

JP2004054134A - Network compatible display device and display control program

Info

Publication number: JP2004054134A
Application number: JP2002214405A
Authority: JP
Inventors: Miki Nagano; 長野　幹; Norihiro Yoshikuni; 吉國　典宏
Original assignee: Seiko Epson Corp
Current assignee: Seiko Epson Corp
Priority date: 2002-07-23
Filing date: 2002-07-23
Publication date: 2004-02-19
Anticipated expiration: 2022-07-23
Also published as: JP4010198B2

Abstract

<P>PROBLEM TO BE SOLVED: To provide technology in which display screens of a plurality of pieces of terminal equipment that are network connected are displayed on one screen of a display device as a multiscreen display. <P>SOLUTION: Capture image data transmitted from the terminal equipment having a screen capture function are received by a communication section 28. In a display control section 22, the capture image data are composited into one screen image data by an image compositing section 42 using a display dividing process so as to realize a multiscreen display. <P>COPYRIGHT: (C)2004,JPO

Description

【０００１】
【発明の属する技術分野】
本発明は、ネットワーク上に接続された複数の端末機器の画面を表示装置の１つの画面上に多画面表示するための技術に関する。
【０００２】
【従来の技術】
図２４は、従来の表示システムの一例を示す構成図である。
図２４において、ネットワーク２１０には、表示装置としての例えばプロジェクタ２２０、ノートパソコン２３０、デスクトップパソコン２５１、２５２、２５３、２５４がそれぞれ接続され、更に、プロジェクタ２２０には、プロジェクタ２２０に直接図画等を入力して投射させたり、投射されているデータへの線図の挿入等が可能なタブレット２６１、２６２、２６３、２６４が直接接続されている。なお、ノートパソコン２３０およびデスクトップパソコン２５１、２５２、２５３、２５４には画面キャプチャソフトウェアがインストールされている。
【０００３】
このように構成された従来の表示システムでは、例えばノートパソコン２３０上の画面の内容を画面キャプチャソフトウェアによりキャプチャし、キャプチャされたそのキャプチャ画像データをネットワーク２１０を介してプロジェクタ２２０に送信することにより、ノートパソコン２３０上に表示されている画面をプロジェクタ２２０で投写表示することが可能となっている。そして、プロジェクタ付属のリモコンなどで切替操作を行うことにより、プロジェクタ２２０の投写画像を、ノートパソコン２３０の画面から別の例えばデスクトップパソコン２５１の画面の画像に切り換えることが可能となっている。
【０００４】
【発明が解決しようとする課題】
上記従来の表示システムでは、上述したようにプロジェクタ２２０で表示することのできる画像は、プロジェクタ２２０に接続されているノートパソコン２３０、デスクトップパソコン２５１、２５２、２５３、２５４のうちの何れか１つのパソコンの画像となっている。このため、ノートパソコン２３０、デスクトップパソコン２５１、２５２、２５３、２５４の各表示画面の内容を見比べて議論したい場合など、１画面ずつ切り替えて行わなければならず、このようなことから、近年、複数パソコンの画面を１画面で同時に表示することのできる機能が強く要望されている。
【０００５】
本発明は、このような点に鑑みなされたもので、ネットワーク接続された複数の端末機器における表示画面を、画面上に多画面表示することが可能なネットワーク対応表示装置および表示制御プログラムを提供することを目的とする。
【０００６】
【課題を解決するための手段】
（１）本発明に係るネットワーク対応表示装置は、画面キャプチャ機能をそれぞれ備えた複数の端末機器とネットワークを介して接続されるネットワーク対応表示装置であって、表示部と、各端末機器との双方向通信が可能な通信部と、表示制御部とを備え、表示制御部は、各端末機器それぞれで画面キャプチャ機能により取得され、通信部で受信した各キャプチャ画像データを画面分割により１画面の画像データに合成して表示部の表示画面に表示させる多画面表示機能を有するものである。
【０００７】
本発明によれば、ネットワーク接続された複数の端末機器の表示画面を表示装置の画面上に多画面表示することが可能なネットワーク対応表示装置を得ることができる。
【０００８】
（２）本発明に係るネットワーク対応表示装置は、上記（１）において、表示制御部が、現在の表示画面に新たな画面を割り込ませて表示させる割り込み機能を有するものである。
【０００９】
本発明によれば、割り込み機能を有するネットワーク対応表示装置を得ることができる。
【００１０】
（３）本発明に係るネットワーク対応表示装置は、上記（１）又は（２）において、ネットワーク対応表示装置に接続されている複数の端末機器の中から、表示画面にキャプチャ画像データを表示させる端末機器をユーザが任意に選択できるようにしたものである。
【００１１】
本発明によれば、複数の端末機器の中から、キャプチャ画像データをネットワーク対応表示装置上に表示させる端末機器をユーザが選択することが可能なネットワーク対応表示装置を得ることができる。
【００１２】
（４）本発明に係るネットワーク対応表示装置は、上記（１）〜（３）の何れかにおいて、表示画面にキャプチャ画像データを表示させる端末機器の選択を、通信部の双方向通信によってネットワーク対応表示装置側からも、端末機器側からも可能とするものである。
【００１３】
本発明によれば、ネットワーク対応表示装置上にキャプチャ画像データを表示させる端末機器をネットワーク対応表示装置側からも、端末機器側からも指定することが可能なネットワーク対応表示装置を得ることができる。
【００１４】
（５）本発明に係るネットワーク対応表示装置は、上記（１）〜（４）の何れかにおいて、表示制御部が、表示画面に表示されている多画面を構成する複数の分割画面の中から、所定の分割画面を拡大表示させる拡大表示機能を有するものである。
【００１５】
本発明によれば、所定の分割画面を拡大表示させる拡大表示機能を有するネットワーク対応表示装置を得ることができる。
【００１６】
（６）本発明に係るネットワーク対応表示装置は、上記（１）〜（４）の何れかにおいて、表示制御部が、表示画面に表示されている多画面を構成する複数の分割画面の中から、所定の分割画面を表示画面全体の表示に切り替える単画面切替機能を有するものである。
【００１７】
本発明によれば、所定の分割画面を表示画面全体の表示に切り替える単画面切替機能を有するネットワーク対応表示装置を得ることができる。
【００１８】
（７）本発明に係るネットワーク対応表示装置は、上記（１）〜（４）の何れかにおいて、表示制御部が、表示画面に表示されている多画面を構成する複数の分割画面の中から、所定の分割画面を消去させる消去機能を有するものである。
【００１９】
本発明によれば、所定の分割画面を消去させる消去機能を有するネットワーク対応表示装置を得ることができる。
【００２０】
（８）本発明に係るネットワーク対応表示装置は、上記（５）〜（７）の何れかにおいて、所定の分割画面が、ユーザ操作に基づいて選択されたものである。
【００２１】
本発明によれば、拡大表示させる分割画面、単画面表示させる分割画面、消去させる分割画面をユーザが選択することが可能なネットワーク対応表示装置を得ることができる。
【００２２】
（９）本発明に係るネットワーク対応表示装置は、上記（８）において、所定の分割画面は、通信部の双方向通信によってネットワーク対応表示装置側からも、端末機器側からも選択可能であるものである。
【００２３】
本発明によれば、拡大表示させる分割画面、単画面表示させる分割画面、消去させる分割画面をネットワーク対応表示装置側からも、端末機器側からも指定することが可能なネットワーク対応表示装置を得ることができる。
【００２４】
（１０）本発明に係るネットワーク対応表示装置は、上記（１）〜（９）の何れかにおいて、端末機器から取得するキャプチャ画像データが、端末機器の表示画面の全部または一部範囲を指定してキャプチャして得られた画像データであるものである。
【００２５】
本発明によれば、表示部の表示画面上に表示するキャプチャ画像データは、全画面キャプチャにより得られたキャプチャ画像データ、部分キャプチャにより得られたキャプチャ画像データのどちらも表示することが可能なネットワーク対応表示装置を得ることができる。
【００２６】
（１１）本発明に係るネットワーク対応表示装置は、上記（１）〜（９）の何れかにおいて、端末機器から取得するキャプチャデータが、端末機器の表示画面上の変化を検出し、画面上の変化分のみをキャプチャして得られた画像データであるものである。
【００２７】
本発明によれば、端末機器の表示画面上の変化部分のみをキャプチャすることによりネットワークへの負荷が軽減され、これを既存のキャプチャデータと合成した画像データを表示することが可能なネットワーク対応表示装置を得ることができる。
【００２８】
（１２）本発明に係るネットワーク対応表示装置は、上記（１）〜（１１）の何れかにおいて、表示制御部は、表示部の表示画面を、表示すべき端末機器台数分に分割し、その表示すべき端末機器に割り当てる分割画面の表示サイズと、分割画面の表示位置を特定する情報とを含む分割エリア情報を作成する分割エリア情報作成部と、分割エリア情報作成部で作成された分割エリア情報に従って端末機器からのキャプチャ画像データを１画面の画像データに合成し、合成画像データを生成する画像合成部と、画像合成部により生成された合成画像データを処理して表示画像データを生成して表示部に出力する画像処理部とを有するものである。
【００２９】
（１３）本発明に係るネットワーク対応表示装置は、上記（１２）において、画像合成部は、各端末機器からのキャプチャ画像データをその画像サイズのアスペクト比を維持したまま縮小、または拡大して合成するものである。
【００３０】
本発明によれば、違和感のない表示画面を構成することが可能なネットワーク対応表示装置を得ることができる。
【００３１】
（１４）本発明に係るネットワーク対応表示装置は、上記（１）〜（１３）の何れかにおいて、通信部の通信プロトコルがＴＣＰ／ＩＰであるものである。
【００３２】
本発明によれば、通信部の通信プロトコルとして、一般的なＴＣＰ／ＩＰを利用できる。
【００３３】
（１５）本発明に係るネットワーク対応表示装置は、上記（１）〜（１４）の何れかにおいて、ネットワークが、ＬＡＮ、無線ＬＡＮ、近距離無線ＬＡＮのうちの何れかであるものである。
【００３４】
本発明によれば、ネットワークとして、ＬＡＮ、無線ＬＡＮ、近距離無線ＬＡＮを利用できる。
【００３５】
（１６）本発明に係るネットワーク対応プロジェクタは、上記（１）〜（１５）の何れかのネットワーク対応表示装置を搭載したものである。
【００３６】
本発明によれば、上記効果を備えたプロジェクタを得ることが可能となる。
【００３７】
（１７）本発明に係るネットワーク対応プロジェクタは、上記（１６）において、表示部が液晶ライトバルブ、ＬＣＯＳライトバルブ、ＤＭＤの何れかであるものである。
【００３８】
本発明によれば、表示部に液晶ライトバルブ、ＬＣＯＳライトバルブ、ＤＭＤを使用したプロジェクタにおいて上記効果を奏することが可能となる。
【００３９】
（１８）本発明に係るネットワーク対応プラズマディスプレイは、上記（１）〜（１５）の何れかのネットワーク対応表示装置を搭載し、表示部をプラズマディスプレイパネルとしたものである。
【００４０】
本発明によれば、上記効果を備えたプラズマディスプレイを得ることが可能となる。
【００４１】
（１９）本発明に係るネットワーク対応液晶モニタは、上記（１）〜（１５）の何れかのネットワーク対応表示装置を搭載し、表示部を液晶パネルとしたものである。
【００４２】
本発明によれば、上記効果を備えた液晶モニタを得ることが可能となる。
【００４３】
（２０）本発明に係るネットワーク対応有機ＥＬディスプレイは、上記（１）〜（１５）の何れかのネットワーク対応表示装置を搭載し、表示部を有機ＥＬパネルとしたものである。
【００４４】
本発明によれば、上記効果を備えたネットワーク対応有機ＥＬディスプレイを得ることが可能となる。
【００４５】
（２１）本発明に係る表示制御プログラムは、上記（１）〜（１５）の何れかのネットワーク表示装置の表示制御部をＣＰＵにより実現させるものである。
【００４６】
本発明によれば、上記の効果を表示装置に提供することのできる表示制御プログラムを得ることが可能となる。
【００４７】
【発明の実施の形態】
図１は本発明の一実施の形態のネットワーク対応装置を備えた表示システムのネットワーク構成を示す図である。
この表示システム１００は、複数の端末機器１（図１では１ａ，１ｂ，１ｃ，１ｄの４台のみを図示）と、本発明の主要機能である多画面表示機能を有するネットワーク対応表示装置２（図にはプロジェクタの例を図示）（以下、略して表示装置２という）とを備え、複数の端末機器１と表示装置２とがネットワーク３を介してＴＣＰ／ＩＰ等の通信プロトコルを用いて双方向通信可能に接続されている。各端末機器１にはそれぞれ固有の名前（以下、端末名という）が予め与えられている。なお、ネットワーク３には、ＬＡＮ、無線ＬＡＮ、近距離無線ＬＡＮのＢｌｕｅｔｏｏｔｈ（Ｂｌｕｅｔｏｏｄｈ　ＳＩＧ　Ｉｎｃ．，　Ｕ．Ｓ．Ａの登録商標）などの各種ネットワークが利用できる。
【００４８】
この表示システム１００は、複数の端末機器１でそれぞれ表示されている画面を、表示装置２の表示画面上に画面分割により同時に表示させることを可能とするシステムであり、例えば会議やプレゼンテーションなどの際に用いて有効なシステムである。以下、端末機器１、表示装置２それぞれの構成について詳細に説明する。
【００４９】
図２は端末機器の構成を示すブロック図である。
端末機器１は、例えばパソコンやＰＤＡなどで構成されるもので、プレゼンテーション用の資料などの各種情報を表示するための表示部１１、該表示部１１に表示される内容を記憶するビデオメモリ１２、例えばタブレット、マウス、操作キーで構成される入力部１３、該入力部１３からの操作入力を検出して入力情報を後述の演算部１６に出力するユーザインタフェース部１４、本発明に係る処理を行なうためのアプリケーション（制御プログラム）や各種データを格納する記憶部１５、演算部（ＣＰＵ）１６、通信部１７を備えている。
【００５０】
記憶部１５に格納されている制御プログラムは、表示装置２での多画面機能を実現するための端末機器側制御機能と、表示部１１の画面の全部又は一部をキャプチャすることのできる画面キャプチャ機能と、表示部１１の画面上の変化を検出する機能を実現するためのもので、該アプリケーションプログラムとＣＰＵとによってデータ管理処理部１８、画面キャプチャ処理部１９、画面比較処理部２０が構成されている。
【００５１】
データ管理処理部１８は、通信部１７またはユーザインタフェース部１４を介して接続要求、表示要求、拡大表示要求、単画面切替要求、消去要求などの各種要求をユーザインタフェース部１４または通信部１７を介して受け取り、その要求内容に応じた処理を行うとともに、画面キャプチャ処理部１９で取得されたキャプチャ画像データを通信部１７を介して表示装置２に送信する処理などを行う。
【００５２】
通信部１７は、表示装置２との双方向通信を行う部分で、ここでは通信プロトコルがＴＣＰ／ＩＰで、このＴＣＰ／ＩＰ接続に必要なＡＲＰＩＣＭＰ，ＩＰ，ＴＣＰ，ＵＤＰ等のプロトコル処理機能を有するものである。なお、この機能はＯＳによって実現される。
【００５３】
図３は表示装置の構成を示すブロック図である。
表示装置２は、表示部２１、本発明の多画面表示機能、拡大表示機能、単画面切替機能、割り込み機能および消去機能を有し、表示部２１に表示させる表示画面の制御を行う表示制御部２２、例えばリモコン、マウス、操作キーで構成される入力部２３、入力部２３からの操作入力を検出して入力内容を後述の演算部２７に出力するユーザインタフェース部２４、本発明の多画面表示機能を提供する表示制御プログラムを格納するプログラム記憶部２５、この制御プログラムの実行に際して必要となる各種ファイルや各種データが記憶されるデータ記憶部２６、表示装置２全体の動作制御を行う演算部（ＣＰＵ）２７、端末機器１との双方向通信を行う通信部２８を備えている。
【００５４】
通信部２８は、端末機器１との双方向通信を行う部分で、ここでは通信プロトコルがＴＣＰ／ＩＰで、このＴＣＰ／ＩＰ接続に必要なＡＲＰＩＣＭＰ，ＩＰ，ＴＣＰ，ＵＤＰ等のプロトコル処理機能を有するものである。
【００５５】
ここで、この表示装置２は、図１に例示したプロジェクタの他に、例えばプラズマディスプレイ、液晶モニタなどで構成され、表示部２１はこれら表示装置２の種類によって異なる表示要素である。具体的には、プロジェクタであれば液晶ライトバルブ、ＬＣＯＳライトバルブ、ＤＭＤ（Ｄｉｇｉｔａｌ　Ｍｉｃｒｏｍｉｒｒｏｒ　Ｄｅｖｉｃｅ）（テキサスインスツルメンツ社の商標）となり、この場合、表示部２１の表示画面は投射面となる。また、例えばプラズマディスプレイであれば、表示部２１はプラズマディスプレイパネルとなり、液晶モニタであれば液晶パネルとなり、有機ＥＬディスプレイであれば、有機ＥＬパネルとなる。
【００５６】
次に、図４を参照してデータ記憶部に格納されている各種ファイル等について説明する。
データ記憶部２６には、接続許可管理ファイル３１、表示許可管理ファイル３２、接続状況管理ファイル３３、表示状況管理ファイル３４、仮・分割エリア設定ファイル３５、分割エリア情報ファイル３６が格納され、また、各端末機器１から送信されてきたキャプチャ画像データを記憶するためのキャプチャ画像データ記憶部３７を備えている。
【００５７】
接続許可管理ファイル３１は、接続が許可されている端末機器１の端末名が登録されているファイル、表示許可管理ファイル３２は、画面表示が許可されている端末機器１の端末名が登録されているファイルである。
【００５８】
接続状況管理ファイル３３は、現在、表示装置２に接続されている端末機器１の端末名が登録されるファイルである。
【００５９】
表示状況管理ファイル３４は、現在の表示部２１の表示状況を管理するファイルで、現在の表示部２１の表示画面に表示されているキャプチャ画像データ発信元の端末機器１に関する端末機器情報をテーブル形式で管理する。この表示状況管理ファイル３４は、表示部２１の表示画面が変更される毎に更新され、例えば、４分割画面から３分割画面に変更された場合、消去された分割画面に対応する端末機器１の端末機器情報は当該テーブルから消去され、逆に４分割画面から５分割画面に変更された場合、その追加された画面に対応する端末機器１の端末情報が新たに登録されるようになっている。
【００６０】
図５は、表示状況管理ファイルで管理される端末機器情報の各項目を示す図である。
表示状況管理ファイル３４は、「端末名」、「ＩＰアドレス」、「画面サイズ」、「色数情報」、「優先度」、「キャプチャ範囲管理フラグ」、「差分キャプチャ管理フラグ」、「キャプチャ画像サイズ」、「差分キャプチャ画像サイズ１」、「差分キャプチャ画像サイズ２」、「差分キャプチャ原点１」、「差分キャプチャ原点２」の項目で構成されている。
【００６１】
「端末名」は、端末機器１に予め与えられた名前、「画面サイズ」は表示部１１の表示画面の横・縦のピクセル数で、例えば、解像度がＳＸＧＡの端末機器であれば１２８０×１０２４、ＸＧＡであれば１０２４×７６８である。「色数情報」は、表示部１１の表示色数で、例えば２５６色、１６７７万７２１６色などである。以上の「端末名」、「ＩＰアドレス」、「表示サイズ」、「色数情報」は、この表示状況管理ファイル３４への登録時には必ず格納されるデータであり、その他の項目は、ユーザ操作等に応じて適宜設定（更新）されるデータである。
【００６２】
「優先度」は、「端末名」で特定される端末機器１に割り当てる表示サイズの大きさを左右するもので、「最高」、「高」、「なし」などの値をとり、以下に詳述するが、本例では優先度が高いと割り当てられる表示サイズが大きくなるように構成されている。「キャプチャ範囲管理フラグ」は「端末名」で特定される端末機器１での画面キャプチャが全画面キャプチャか部分キャプチャかを管理するフラグで、通常は全画面キャプチャを示す「０」を示し、部分キャプチャである場合に「１」に設定される。
【００６３】
「差分キャプチャ管理フラグ」は「端末名」で特定される端末機器１での画面キャプチャが、通常のキャプチャか画面上の変化分のみのキャプチャ（以後、差分キャプチャと呼ぶ）かを管理するフラグで、通常キャプチャである場合は「０」を示し、差分キャプチャである場合は「１」に設定される。
【００６４】
「キャプチャ画像サイズ」は「キャプチャ範囲管理フラグ」が「１」の場合すなわち部分キャプチャの場合のキャプチャ画像データのサイズ（縦横のピクセル数）である。
【００６５】
「差分キャプチャ画像サイズ１」と「差分キャプチャ画像サイズ２」は「差分キャプチャ管理フラグ」が「１」の場合の、差分キャプチャにおいて取得される２つの異なる範囲のエリアのサイズである。「差分キャプチャ原点１」と「差分キャプチャ原点２」は、差分キャプチャにおいて取得される２つの異なる範囲のエリアの原点であり、「キャプチャ画像サイズ」で規定されるエリア内での絶対座標で示す。
【００６６】
仮・分割エリア設定ファイル３５は、各端末機器１に割り当てる仮の分割エリアを特定するための情報が予め設定されているファイルで、端末台数毎に準備された複数のテーブルから構成される。このテーブルは後述の図１０（ａ）、図１５（ａ）に示すような構成となっており、その詳細については以下の該当箇所で説明することにする。なお、分割エリア情報ファイル３６についても以下で詳述することにする。
【００６７】
以上の各ファイル３１，３２，３３，３４，３５，３６は、入力部２３で所定の操作を行うと、ファイルの内容が表示部２１に表示され、表示画面上で確認、データ変更が自由に行えるようになっている。
【００６８】
ここで、図４の説明に戻る。
表示制御部２２は、分割エリア情報作成部４１、画像合成部４２および画像処理部４３とを備え、演算部２７でユーザインタフェース部２４あるいは通信部２８を介して受け取ったユーザからの接続要求、表示要求、割り込み表示要求、消去要求などの各種要求内容に応じて、必要な処理を各部４１，４２，４３にデータ記憶部２６内の必要ファイルを適宜アクセスさせながら実施させ、表示部２１の表示制御を行う。表示制御部２２は、プログラム記憶部２５に格納された多画面機能を提供する表示制御プログラムと演算部（ＣＰＵ）２７とによって実現される。
【００６９】
分割エリア情報作成部４１は、表示状況管理ファイル３４に基づいて、表示対象の端末機器１の台数を把握するとともに、表示対象の各端末機器１それぞれの優先度および画面サイズを取得する。そして、これら表示対象の端末機器１の台数、表示対象の端末機器１それぞれの優先度および画面サイズに応じて表示部２１の表示画面サイズの分割を行い、表示対象の各端末機器１それぞれに割り当てる表示部２１上の分割画面の表示サイズ（以下、分割エリアサイズという）、およびその分割画面の表示位置を特定する情報（表示画面に対する分割画面の左上の絶対座標で、以下、原点という）とを含む分割エリア情報を作成し、分割エリア情報ファイル３６としてデータ記憶部２６に格納する動作を行う。
【００７０】
画像合成部４２は、キャプチャ画像データ記憶部３７に格納されたキャプチャ画像データに対し、縮小・拡大・色変換等の処理を行い、分割エリア情報作成部４１で作成された分割エリア情報ファイル３６に基づいて合成画像データを生成する。
【００７１】
画像処理部４３は、画像合成部４２で生成された合成画像データや、ＯＳＤ（オン・スクリーン・ディスプレイ）機能等を用いて参照されたデータ記憶部２６の表示状況管理ファイル３４などの各種画像データに対し走査周波数変換処理を行って表示画像データを生成し、表示部２１に出力する部分で、例えばスキャンコンバータで構成される。
【００７２】
以下、本実施の形態の動作を説明する。図６は本実施の形態の動作を示すフロチャートである。
まず、表示装置２側では、多画面表示を行うための準備段階として入力部２３から所定の操作入力が行われ、演算部２７はその操作入力をユーザインタフェース部２４を介して検知すると、通信部２８およびネットワーク３を介して端末名およびＩＰアドレスの返信要求を表示装置２のＩＰアドレスと共に一斉同報する。この一斉同報された端末名およびＩＰアドレスの返信要求は、ネットワーク３上の各端末機器１に受信され、各端末機器１のそれぞれは、自身の端末名およびＩＰアドレスを表示装置２に返信する。
【００７３】
表示装置２は、通信部２８を介して各端末機器１からの返信（端末名およびＩＰアドレス）を受信し、接続許可端末であるか否かを判定する。具体的には、返信された端末名が、接続許可管理ファイル３１に登録されてる端末名と一致するかをチェックし、一致すれば接続許可端末と判定する。
【００７４】
接続許可端末と判定した端末機器１からの端末名およびＩＰアドレスを順次、接続状況管理ファイル３３に登録する。この接続状況管理ファイル３３により、表示装置２側で、今現在、何台の端末機器１が接続されているのかを把握することができる。また、端末名に基づいて接続許可・不許可を判断するようにしているので、例えばＤＨＣＰによって端末機器１にＩＰアドレスが与えられ、その与えられるＩＰアドレスが接続の度に異なる場合などにおいても、対応できるようになっている。
【００７５】
以上の準備作業が終了したところで、表示装置２は、各種要求待ちの状態で待機する。いま、各会議出席者が操作する各端末機器１のうち、次の図に示すように端末機器１ａ〜１ｄの４台の表示画面を表示装置２の表示画面５０に多画面表示させたい場合を考える。ここでそれぞれの端末機器１の解像度を、端末機器１ａはＳＸＧＡ（１２８０×１０２４ピクセル）、端末機器１ｂはＳＶＧＡ（８００×６００ピクセル）、端末機器１ｃはＸＧＡ（１０２４×７６８ピクセル）、端末機器１ｄは４８０×６４０ピクセルとした例として説明していく。
【００７６】
＜多画面表示機能＞
図７は端末機器１ａ〜１ｄの４台の表示画面を表示装置の表示画面に多画面表示させた状態を示す模式図である。
まず、入力部２３の例えばリモコンを操作して端末機器１ａ〜１ｄの多画面表示の意図を入力する。すると、この入力情報、すなわち端末機器１ａ〜１ｄそれぞれの識別情報を含む表示要求がユーザインタフェース部２４を介して演算部２７に通知される（Ｓ１）。なお、この表示要求の際に、優先度や、部分キャプチャや、差分キャプチャの指定も可能であるが、ここでは何れの指定もしないこととする。
【００７７】
表示要求を受信した表示装置２の演算部２７は、表示対象の各端末機器１ａ〜１ｄそれぞれについて以下のステップＳ３〜ステップＳ９の処理を行う（Ｓ２）。すなわち、接続許可端末であるか、表示許可端末であるかを、表示要求に含まれる識別情報により特定される端末名に基づいて接続許可管理ファイル３１、表示許可管理ファイル３２を参照してそれぞれ判定し（Ｓ３）、接続・表示共に許可した場合には（Ｓ４）、その端末機器に通信部２８を介して端末機器情報（端末名、ＩＰアドレス、画面サイズ、色数情報）を要求する（Ｓ５）。そして、この要求に応答して返信されてきた端末機器情報を受信し（Ｓ６）、表示状況管理ファイル３４に登録する（Ｓ７）。なお、この表示要求の際に、優先度や、部分キャプチャの指定、差分キャプチャの指定が行われていた場合には、このステップＳ７の登録の際に、「優先度」、「キャプチャ範囲管理フラグ」、「差分キャプチャ管理フラグ」も同様に登録される。
【００７８】
そして、接続・表示共に許可した端末機器１に対し、表示状況管理ファイル３４とともに画面キャプチャ開始指示を送信する（Ｓ８）。なお、接続・表示を許可しない端末機器１に対しては、その旨を通信部２８を介して通知する（Ｓ９）。
【００７９】
ここでは、端末機器１ａ〜１ｄの全てが接続・表示共に許可する端末機器１とすると、ステップＳ２〜ステップＳ９の処理により、各端末機器１ａ〜１ｄからの端末機器情報が表示状況管理ファイル３４に登録されるとともに、各端末機器１ａ〜１ｄに対し、表示状況管理ファイル３４とともに画面キャプチャ開始指示が通信部２８を介して送信されることになる。
【００８０】
以上の処理が終了すると、演算部２７は、表示制御部２２の分割エリア情報作成部４１にエリア分割要求を通知する。これにより表示装置２は分割エリア情報作成処理に入る（Ｓ１０）。画面キャプチャ開始指示を受け取った端末機器１側の動作は後述することにして、以下、エリア分割要求を受信した分割エリア情報作成部４１での分割エリア情報作成処理について説明する。
【００８１】
図８は、分割エリア情報作成処理の流れを示すフロチャートである。ここでは、表示状況管理ファイル３４が図９のように構成されているものとし、以下に分割エリア情報作成部４１の動作を具体的に説明する。なお、図９において端末名がＰＣ−１，ＰＣ−２，ＰＣ−３，ＰＤＡ−１がそれぞれ端末機器１ａ，１ｂ，１ｃ，１ｄに対応しているものとする。
【００８２】
分割エリア情報作成部４１は、演算部２７からエリア分割要求を受信すると、表示状況管理ファイル３４を参照して表示対象の端末機器１の台数（ここでは４台）を把握するとともに、各端末機器１ａ，１ｂ，１ｃ，１ｄそれぞれの優先度を取得する（Ｓ２１）。そして、これら端末機器１の台数と、各端末機器１ａ〜１ｄそれぞれの優先度とに基づいて仮・分割エリア設定ファイル３５を参照し、各端末機器１ａ，１ｂ，１ｃ，１ｄそれぞれに割り当てるべき仮の分割エリアの仮のサイズと、仮の原点とを取得する（Ｓ２２）。なお、「仮」とした理由については以下の説明で明らかになるが、ここで割り当てられる分割エリアは、後のステップにおいてキャプチャ画像データをサイズ変換する際に変更されることになるからである。
【００８３】
ここでは、図９に示すように表示対象の端末機器台数が４台で、その全てに優先度の設定がないため、この場合に仮・分割エリア設定ファイル３５で参照される該当の仮・分割エリア設定テーブルは例えば図１０（ａ）のように構成されている。なお、本例では表示部２１の表示画面の画面サイズを１２８０×１０２４（ＳＸＧＡ）としており、図１０（ａ）の仮・分割エリア設定テーブルはこの場合の一例である。また、図１０（ｂ）は（ａ）の仮・分割エリア設定テーブルに基づく仮の分割エリアを図示したものである。
【００８４】
ここで、図１０（ａ）の優先順位とは、表示状況管理ファイル３４の「優先度」の項目に基づいて順位付けが決定されるもので、優先度の高いものから順に１台目、２台目、３台目、４台目とされる。そして、そのそれぞれには、その下のテーブルに示される「仮サイズ」、「仮原点」で特定される領域が仮の分割エリアとして割り当てられる。ここでは表示対象の全端末機器１ａ，１ｂ，１ｃ，１ｄの全てにおいて「なし」であるため（図９参照）、実質上、優先順位は無い。このように優先度の設定が無い場合の割り当て順は予め決められた所定の順序としてもよいし、表示状況管理ファイル３４への登録順とするなど任意であるが、本例では、各端末機器１ａ，１ｂ，１ｃ，１ｄ（以下、適宜、端末名のＰＣ−１，ＰＣ−２，ＰＣ−３，ＰＤＡ−１と呼ぶことにする）に、それぞれ順に仮の分割エリア５０Ａ，５０Ｂ，５０Ｃ，５０Ｄが割り当てられるとして以下に説明を続けることにする。
【００８５】
分割エリア情報作成部４１は、さらに表示状況管理ファイル３４（図９参照）から各ＰＣ−１，ＰＣ−２，ＰＣ−３，ＰＤＡ−１それぞれの画面サイズを取得し、これら取得した情報に基づいて、それぞれに割り当てる真の分割エリアサイズと、真の原点を決定する（Ｓ２３）。
【００８６】
図１１は、真の分割エリアの説明図である。なお、図１１において５１Ａ，５１Ｂ，５１Ｃ，５１Ｄは、それぞれＰＣ−１，ＰＣ−２，ＰＣ−３，ＰＤＡ−１にそれぞれ割り当てられた真の分割エリアを示している。真の分割エリアとは、仮の分割エリア内に、その仮の分割エリア内に表示させるべきキャプチャ画像データを、アスペクト比を維持したままサイズ変換し、なおかつその変換後の画像を、仮の分割エリア５０Ａ，５０Ｂ，５０Ｃ，５０Ｄそれぞれの中心部に表示させるための表示領域のことである。ここで、この真の分割エリアを特定するための真の分割エリアサイズについて具体的にＰＣ−２の例で説明すると、ＰＣ−２は画面サイズが１０２４×７６８ピクセル（図９参照）であり、このサイズの画像データを、当該ＰＣ−２に割り当てられた６４０×５１２ピクセルの仮の分割エリア５０Ｂ内に表示させるために、元の画像のアスペクト比を維持したまま縮小したときのサイズである。また、真の原点とは、図１１に示すように、そのサイズの分割画面を仮の分割エリア５０Ｂの中心部に位置させるためのもので、分割画面の左上のピクセルの座標（表示画面全体に対する絶対座標）である。
【００８７】
分割エリア情報作成部４１は、以上のような真の分割エリアサイズと真の原点とをＰＣ−１，ＰＣ−２，ＰＣ−３，ＰＤＡ−１それぞれについて決定し、端末名、分割エリア、原点の項目からなる図１２に示すような内容の分割エリア情報を作成して分割エリア情報ファイル３６としてデータ記憶部２６に記憶させる（Ｓ２４）。これにより分割エリア情報作成処理が終了する。なお、この分割エリア情報ファイル３６には作成日時（２００２年５月２１日　１７：００：３２）が付されるようになっている。
【００８８】
ここで、図６に戻る。
表示装置２の演算部２７は、分割エリア情報作成部４１での分割エリア情報作成処理（Ｓ１０）が終了すると、表示対象の各端末機器１ａ，１ｂ，１ｃ，１ｄに対し、ステップＳ１２〜ステップＳ１４の処理を行う（Ｓ１１）。すなわち、キャプチャ画像データ送信要求を送信する（Ｓ１２）。なお、各端末機器１ａ，１ｂ，１ｃ，１ｄでは、ステップＳ８の処理によって表示装置２側から送信されてきたキャプチャ開始指示の受信後、後述するように画面キャプチャ処理を開始しており、その画面キャプチャ処理によって取得されたキャプチャ画像データおよび画像サイズ（部分キャプチャの場合）が、ステップＳ１１のキャプチャ画像データ送信要求に応答して表示装置２に返信されてくる。
【００８９】
表示装置２は、端末機器１からの返信を受信し（Ｓ１３）、返信内容がキャプチャ画像データであるときは、端末機器１で行われた画面キャプチャが全画面キャプチャであると判断し（Ｓ１４）、その受信したキャプチャ画像データをキャプチャ画像データ記憶部３７に書き込む（Ｓ１６）。
【００９０】
一方、ステップＳ１３で受信した端末機器１からの返信内容がキャプチャ画像データおよび画像サイズであるときは、当該端末機器１で行われた画面キャプチャが部分キャプチャであると判断し（Ｓ１４）、受信した画像サイズで表示状況管理ファイル３４の「キャプチャ画像サイズ」を更新するとともに、受信した画像サイズに基づいて分割エリア情報（真の分割エリアサイズ及び真の原点）を上記と同様の処理により再作成する（Ｓ１５）。そして、画像サイズとともに受信したキャプチャ画像データをキャプチャ画像データ記憶部３７に書き込む（Ｓ１６）。
【００９１】
以上の処理を表示対象の各端末機器１ａ〜１ｄそれぞれについて行い、表示対象の端末機器１ａ，１ｂ，１ｃ，１ｄからのキャプチャ画像データが全て揃うと、演算部２７は画像合成部４２に画像合成指示を通知する。これにより表示装置２は画像合成処理に入る（Ｓ１７）。
【００９２】
画像合成部４２は、画像合成指示を受け取ると、キャプチャ画像データ記憶部３７に格納された各キャプチャ画像データのそれぞれを、分割エリア情報ファイル３６の分割エリア情報および表示状況ファイルの「色数情報」に基づいてサイズ変換・色変換を行い、１画面の画像データに合成して合成画像データを生成し、生成した合成画像データを画像処理部４３に出力する。
【００９３】
画像処理部４３は、画像合成部４２からの合成画像データを、表示部２１の走査周波数にコンバートして表示画像データを生成し、表示部２１に出力する。これにより、図７に示したように、真の分割エリア（以下、分割画面ということがある）５１Ａ，５１Ｂ，５１Ｃ，５１Ｄに、それぞれ端末機器１ａ，１ｂ，１ｃ，１ｄのキャプチャ画像データ（表示画面）がそれぞれ表示された多画面が表示画面５０に表示される（Ｓ１８）。
【００９４】
次に、表示装置２からキャプチャ開始指示および表示状況管理ファイル３４を受け取った端末機器１側の動作について説明する。
図１３は、表示装置からキャプチャ開始指示および表示状況管理ファイルを受け取った端末機器側の動作を示すフローチャートである。ここでは、端末機器１ａ（ＰＣ−１）の動作として説明する。
【００９５】
端末機器１ａのデータ管理処理部１８は、表示装置２から送信されてくるキャプチャ開始指示と表示状況管理ファイル３４とを通信部１７を介して受信し（Ｓ３１）、表示状況管理ファイル３４の自端末機器１ａのキャプチャ範囲指定フラグを参照する（Ｓ３２）。ここでは「０」であるので（Ｓ３３）、全画面キャプチャと判断して画面キャプチャ処理部１９に全画面キャプチャを指示する。全画面キャプチャの指示を受けた画面キャプチャ処理部１９は、ビデオメモリ１２の内容（すなわち、現在、表示部１１の表示画面に表示されている内容）を例えばビットマップなどの形式で記憶部１５に格納し（全画面キャプチャ処理）（Ｓ３４）、画面キャプチャが終了したことをデータ管理処理部１８に通知する。
【００９６】
一方、キャプチャ範囲指定フラグが「１」であるときは、部分キャプチャと判断して、例えば「キャプチャ範囲を指定してください」などのメッセージを示すキャプチャ範囲指定指示画面を表示部１１に表示する（Ｓ３５）とともに、画面キャプチャ処理部１９に部分キャプチャを指示する。キャプチャ範囲指定指示画面を確認したユーザによってウィンドウの選択や、所望の領域を囲む操作などが入力部１３を介して行われると、画面キャプチャ処理部１９は、ユーザインタフェース部１４を介してユーザ操作を認識し、指定された領域に対応するビデオメモリ１２上の画像データとその画像サイズを記憶部１５に格納し（部分キャプチャ処理）（Ｓ３６）、画面キャプチャが終了したことをデータ管理処理部１８に通知する。
【００９７】
このように、端末機器１ａ側では、キャプチャ開始指示を受信後、画面キャプチャ処理を行っている。この間、表示装置２側では上述したように分割エリア情報作成処理が行われており、そして、端末機器１ａは、画面キャプチャ処理部１９での画面キャプチャ処理が終了し、且つ表示装置２からのキャプチャ画像データ送信要求を受信すると（Ｓ３７）、キャプチャ画像データと画像サイズ（部分キャプチャの場合）を通信部１７を介して送信する（Ｓ３８）。
【００９８】
以上の処理が端末機器１ａ以外の端末機器１ｂ，１ｃ，１ｄでも同様に行われ、その結果、上述したように、表示装置２に各端末機器１ａ，１ｂ，１ｃ，１ｄからキャプチャ画像データと画像サイズ（部分キャプチャの場合）が送られてくることになる。
【００９９】
ところで、各端末機器１には、表示装置２から表示状況管理ファイル３４が送信されてくるが、この表示状況管理ファイル３４は、上述したように自端末機器１のキャプチャ範囲指定フラグの設定状態をチェックする際に利用される以外に、入力部１３で所定の操作を行うことによりファイルの内容を表示部１１に表示させることができるようになっている。また、接続許可管理ファイル３１、表示許可管理ファイル３２、接続状況管理ファイル３３についても適宜表示装置２から取得して同様に表示部１１に表示させることができるようになっており、これにより、ユーザが、自身が操作する端末機器１以外にどの端末機器が表示されているのか、また、自身の端末機器１に与えられた権限などを知ることができるようになっている。
【０１００】
＜拡大表示機能＞
以下、現在表示されている複数分割画面のうち、任意の分割画面を拡大表示させる拡大表示機能について説明する。この拡大表示機能は、上記の構成において、優先度を変更することで対応できる。
【０１０１】
図１４は、拡大表示機能を説明するための模式図である。ここでは端末機器１ａの優先度を高めて拡大表示させた場合の例を示している。
この場合、例えばリモコンを操作して端末機器１ａの画面を指定する。この指定は、リモコンに端末機器１が割り当てられている場合はそのキーを押下することにより指定でき、また、割り当てられていない場合は、リモコンを操作して表示部２１に表示させたメニュー画面から選択したり、リモコンで表示画面上にポインタを表示させてそのポインタで端末機器１ａの画面を指し示してクリックするなどにより指定することができる。
【０１０２】
このようにして指定されたその指定情報、すなわち端末機器１ａの識別情報を含む拡大表示要求は、ユーザインタフェース部２４を介して演算部２７に通知され、演算部２７は拡大表示要求に含まれる識別情報に基づいて端末機器１ａを特定し、表示状況管理ファイル３４の端末機器１ａ（ＰＣ−１）の「優先度」の項目を「高」に設定し、分割エリア情報作成部４１にエリア分割要求を通知する。
【０１０３】
分割エリア情報作成部４１では、上記と同様にして分割エリア情報ファイル３６を作成する。この作成に際し、参照される仮・分割エリア設定テーブルは、例えば図１５（ａ）のように構成されており、図１５（ｂ）はその仮・分割エリア設定テーブルに基づく仮の分割エリアを図示したものである。ここで、図１５（ｂ）中の優先順位は、上述したように表示状況管理ファイル３４の「優先度」の項目に基づいて順位付けが決定されるもので、ここでは端末機器１ａの優先度が「高」で他の端末機器１ｂ，１ｃ，１ｄよりも高いため、優先順位が１番目すなわち図１５（ｂ）の仮の分割エリア（１台目用分割エリア）５２Ａが割り当てられる。その他の優先度の設定のない端末機器１ｂ，１ｃ，１ｄに対しての分割エリアの割り当ては、上述したように任意であり、ここでは、端末機器１ｂ，１ｃ，１ｄに、それぞれ順に仮の分割エリア５２Ｂ，５２Ｃ，５２Ｄが割り当てられるとする。そして、上記と同様にして各端末機器１ａ，１ｂ，１ｃ，１ｄに割り当てられる真の分割エリアを決定する。
【０１０４】
図１６は、この場合の真の分割エリアを示す図で、分割エリア５３Ａ，５３Ｂ，５３Ｃ，５３Ｄは、それぞれ端末機器１ａ，１ｂ，１ｃ，１ｄにそれぞれ割り当てられた真の分割エリアで、このときの分割エリア情報ファイル３６は図１７に示すような内容に構成される。
【０１０５】
そして、上記と同様の動作が行われ、その結果、図１４に示したように、真の分割エリア５３Ａ，５３Ｂ，５３Ｃ，５３Ｄに、各端末機器１ａ，１ｂ，１ｃ，１ｄのキャプチャ画像データ（表示画面）がそれぞれ表示され、各分割画面５３Ａ，５３Ｂ，５３Ｃ，５３Ｄのうち、指定された分割画面５１Ａが拡大された状態の多画面が表示画面５０に表示される。
【０１０６】
＜単画面切替機能＞
また、図１８に示すように、複数分割画面のうちの何れか１つを単画面表示させることも可能である。この場合、例えばリモコンを操作してその旨の入力操作を行う。その入力情報、すなわち単画面表示させたい分割画面５１Ｃに対応する端末機器１ｃの識別情報を含む単画面表示要求がユーザインタフェース部２４を介して演算部２７に通知され、演算部２７は単画面表示要求に含まれる識別情報に基づいて端末機器１ｃを特定し、表示状況管理ファイル３４の端末機器１ｃ（ＰＣ−３）の「優先度」の項目を「最高」に設定し、分割エリア情報作成部４１にエリア分割要求を通知する。
【０１０７】
そして、上記と同様の動作が行われ、その結果、図１８に示すように多画面から単画面に変更される。また、例えばリモコンによって所定の操作を行うことによって「優先度」の項目を「なし」に戻すことにより、元の多画面に戻ることのできる構成とする。
【０１０８】
このような単画面切替機能により、縮小されていて細部が見えない分割画面の細部を確認することが可能となり、また所定の操作によって多画面に戻ることができ使い勝手が良い。
【０１０９】
＜割り込み機能＞
また、図１９に示すように、現在、表示されている多画面に対し、新たな画面を割り込ませることも可能である。この割り込みは、多画面が表示された後の表示要求に相当し、上記の表示要求の際と同様の処理によって割り込みが可能である。
【０１１０】
＜消去機能＞
また、図２０に示すように、現在、表示されている複数分割画面のうち、任意の分割画面を消去することも可能である。この場合、リモコンを操作してその旨の入力操作を行う。その入力情報、すなわち消去したい分割画面５１Ｄに対応する端末機器１ｄの識別情報を含む消去要求がユーザインタフェース部２４を介して演算部２７に通知され、演算部２７は消去要求に含まれる識別情報に基づいて端末機器１ｄを特定し、該端末機器１ｄの端末機器情報を表示状況管理ファイル３４から削除し、分割エリア情報作成部４１にエリア分割要求を通知する。その後の動作は上記と同様であり、これにより、図２０に示すように消去指定された分割画面５０Ｄが削除され、消去後の台数分の複数分割画面に再構成された多画面が表示される。なお、単純に、消去指定された分割画面５１Ｄだけ削除する構成を採用してもよい。
【０１１１】
このように、本実施の形態によれば、ネットワーク３に接続されている複数の端末機器１で表示されている画面を、画面分割により１画面に表示する多画面表示機能を備えた表示装置２を得ることができる。
【０１１２】
また、多画面表示機能に加え、拡大表示機能、単画面切替機能、割り込み機能、消去機能を備えた高機能な表示装置２を得ることができる。
【０１１３】
また、多画面を構成するに際し、キャプチャ画像データのアスペクト比を維持したままサイズ変換して合成するようにしたので、違和感のない表示画面を構成することが可能な表示装置２を得ることができる。
【０１１４】
なお、表示要求を会議出席者（ユーザ）が入力部２３を介して都度行うのではなく、表示装置２主導で例えば３秒に１回毎に、表示画面を更新していくような方法でもよい。この場合は、表示装置２の演算部２７が時間を管理し、一定時間毎にその後の動作を上記と同様に行えばよく、常に最新の端末機器１の表示画面を得ることができる。
【０１１５】
＜差分キャプチャ機能＞
ここまでは全画面キャプチャ（または部分のキャプチャ）による方法を説明してきたが、以下、端末機器の表示画面上の変化を検出し、変化分のみをキャプチャして得られた画像データを送信する方法について説明する。
【０１１６】
まず、入力部２３の例えばリモコンを操作して、端末機器１ａ〜１ｄに対する差分キャプチャを行いたい意図を入力する。すなわち表示状況管理ファイル３４の差分キャプチャ管理フラグを「１」に設定する。
【０１１７】
差分キャプチャ管理フラグが「１」に設定された初回は、通常通り上記ステップＳ１〜Ｓ１８の処理を行って、多画面表示を行う。
【０１１８】
多画面表示が完了した後、表示装置２は、差分キャプチャ管理フラグが「１」となっている端末機器１に対して、演算部２７から通信部２８、ネットワーク３を介して、表示状況管理ファイル３４とともに差分キャプチャ開始指示を送信する。
【０１１９】
次に、表示装置２から差分キャプチャ開始指示および表示状況管理ファイルを受け取った端末機器１側の動作について説明する。
図２１は、表示装置２から差分キャプチャ開始指示および表示状況管理ファイルを受け取った端末機器１側の動作を示すフローチャートである。ここでは、端末機器１ａ（ＰＣ−１）の動作として説明する。
【０１２０】
端末機器１ａのデータ管理処理部１８は、表示装置２から送信されてくる差分キャプチャ開始指示と表示状況管理ファイル３４とを通信部１７を介して受信する（Ｓ４１）。これを受けて以後の全画面キャプチャ処理を実行する。すなわち画面キャプチャ処理部１９はビデオメモリ１２の内容を記憶部１５に格納する（Ｓ４２）。ここで得た画像データを、前・全画面データと呼ぶ。
【０１２１】
画面比較処理部２０は、データ管理処理部１８が受信した表示状況管理ファイル３４の差分キャプチャ管理フラグを一定時間毎（例えば０．５秒に１回などで、設定は任意）に参照し（Ｓ４３）、差分キャプチャ管理フラグ「１」であるならば（Ｓ４４）、以後の差分キャプチャ動作を行う。
また、例えばユーザ差分キャプチャ動作を停止するよう指示するには、表示状況管理ファイル３４を変更する方法で差分キャプチャ管理フラグを、「０」に書き換えればよい。これを画面比較処理部２０が参照することで、キャプチャ動作停止を判断する。
【０１２２】
全画面キャプチャ処理を実行し、画面キャプチャ処理１９はビデオメモリ１２の内容を記憶部１５に格納する（Ｓ４５）。ここで得た画像データを、後・全画面データと呼ぶ。次に、演算部１６の画面比較処理部２０は、前・全画面データと後・全画面データの比較を行う（Ｓ４６）。
【０１２３】
この画面比較処理の一例として、マウスポインタを動かしたときの例（図２２）で説明する。この図では、前・全画面データ６０と、後・全画面データ６１でマウスポインタの位置が変化している。すなわち図２３のように、２つの領域（７０，７１）が変化した領域として認識される。これを画面比較処理部２０は検出するが、ここで画面の変化があったと判断できた場合（Ｓ４７）、画面比較処理部２０は変化のあった領域の画像データと、画像データのサイズ（縦×横ピクセル）と、画像データの原点座標（表示状況管理ファイル３４の「キャプチャ画像サイズ」で規定されるエリア内での絶対座標）を取得する。
【０１２４】
この例の場合は、領域７０に関して、該領域７０部分のキャプチャ画像データ（以下、差分キャプチャ画像データ１という）、差分キャプチャ画像サイズ１、差分キャプチャ原点１が、領域７１に関しては、該領域７１部分のキャプチャ画像データ（以下、差分キャプチャ画像データ２という）、差分キャプチャ画像サイズ２、差分キャプチャ原点２が取得され、これらの情報を記憶部１５に格納すると同時に差分キャプチャ画像データ等を取得したことをデータ管理処理部１８に通知する（Ｓ４８）。なお、差分キャプチャ画像サイズ１、差分キャプチャ画像サイズ２、差分キャプチャ原点１、差分キャプチャ原点２は、表示状況管理ファイル３４の該当部分に書き込むことになる。
【０１２５】
これらのデータを通信部１７とネットワーク３を介して、ネットワーク管理部１８は表示装置２へ送信する（Ｓ４９）。なお、この差分キャプチャ機能では、上記全画面キャプチャ（または部分キャプチャ）による方法とは異なり、表示装置２側から送信要求を都度受けるのではなく、画面比較処理部２０で画面上の変換が検知されたこと場合、これが要因となって送信動作を行う。
次回の画面比較処理のために、後・全画面データを前・全画面データとする（Ｓ５０）。
【０１２６】
次に、端末機器１ａから差分キャプチャ画像データ１、差分キャプチャ画像データ２および表示状況管理ファイル３４を受け取った表示装置２側の動作について説明する。
【０１２７】
表示装置２は、端末機器１ａから差分キャプチャ画像データ１、差分キャプチャ画像データ２および表示状況管理ファイル３４を通信部２８で受信すると、演算部２７は画像合成部４２に画像合成指示を通知する。これにより表示装置２は差分キャプチャ機能による画像合成処理に入る。
【０１２８】
画像合成部４２は、画像合成指示を受け取ると、現在表示部２１で表示されている画像に該当する分離エリア情報ファイル３６と、端末機器１ａから受け取った表示状況管理ファイル３４（差分キャプチャ画像サイズ１、差分キャプチャ画像サイズ２、差分キャプチャ原点１、差分キャプチャ原点２）に基づいて、キャプチャ画像データ記憶部３７に格納されたキャプチャ画像データのうち、差分キャプチャ画像データ１、差分キャプチャ画像データ２に該当する部分を書き換える。この後の動作は上記のステップ１７、ステップ１８と同様である。
【０１２９】
この方法は、上記の全画面キャプチャ（または部分キャプチャ）による方法よりも、ネットワーク３で送信する画像データの量が少なくなるので、ネットワークへの負荷を低減できる。また、常に最新の端末機器１の表示画像を得ることができる。
【０１３０】
なお、上記の説明では差分検出の際、端末機器１に導入された専用のプログラムでキャプチャして処理することを想定しているが、これをビデオメモリの内容の差分を直接検出することができるようなドライバがＯＳ上で利用できる場合は、これを利用してもよい。
【０１３１】
なお、上記画像データは、圧縮画像形式（たとえばＪＰＥＧ形式など）で端末機器１と表示装置２の間で送受信を行うことにして、ネットワークへの負荷を軽減させてもよい。
【０１３２】
なお、上記では、表示要求や単画面表示要求などの各種要求を表示装置２側の入力部２３を操作することによって行う場合、すなわち表示装置２側主導で表示画面の構成を決定する場合を例に説明してきたが、各端末機器１側からも可能である。その場合、会議出席者（ユーザ）が、自身が操作する端末機器１から、その意図を入力部１３を操作して入力する。この入力情報は、ユーザインタフェース部１４を介してデータ管理処理部１８に通知され、該データ管理処理部１８は、表示装置２に対し、通信部１７およびネットワーク３を介して自端末機器１の端末名とＩＰアドレスとを含む前記入力情報に応じた要求を送信する。この要求が、ネットワーク３を介して表示装置２の通信部２８で受信され、演算部２７に通知される。その後の動作は上記と同様であり、このように、各端末機器１側からも各種要求が可能となっている。
【０１３３】
なお、前記各種要求に全画面キャプチャか部分キャプチャかを指定する情報を含めることにより、キャプチャ範囲の指定も端末機器１側から可能である。
【０１３４】
また、優先度は、上述したようにユーザ操作により適宜指定できるようにしてもよいし、表示装置２に接続されることが予定される複数の端末機器１に対して予め与えられたものであってもよい。予め与えられている場合は、表示状況管理ファイル３４に端末機器情報を登録する際に、その端末機器１に与えられた優先度が自動的に表示状況管理ファイル３４の優先度の項目に設定されるような構成とされる。
【０１３５】
なお、本実施の形態では、仮・分割エリアを仮・分割エリア設定ファイル３５に基づき決定するとして説明してきたが、毎回、計算によって決定するようにしてもよい。
【図面の簡単な説明】
【図１】本発明の一実施の形態のネットワーク対応装置を備えた表示システムのネットワーク構成を示す図である。
【図２】端末機器の構成を示すブロック図である。
【図３】ネットワーク対応表示装置の構成を示すブロック図である。
【図４】ネットワーク対応表示装置の機能的な構成を示す図である。
【図５】表示状況管理ファイルで管理される端末機器情報の各項目を示す図である。
【図６】本実施の形態の動作の流れを示すフロチャートである。
【図７】端末機器１ａ〜１ｄの４台の表示画面を表示装置の表示画面に多画面表示させた状態を示す模式図である。
【図８】分割エリア情報作成処理の流れを示すフロチャートである。
【図９】表示状況管理ファイルの具体的構成の一例を示す図である。
【図１０】（ａ）は仮・分割エリア設定ファイルに格納されたテーブルの具体的構成の一例を示す図、（ｂ）は（ａ）のテーブルに基づく仮の分割エリアを示す図である。
【図１１】真の分割エリアサイズと真の原点の説明図である。
【図１２】分割エリア情報ファイルの一例を示す図である。
【図１３】表示装置からキャプチャ開始指示および表示状況管理ファイルを受け取った端末機器側の動作を示すフローチャートである。
【図１４】拡大表示機能を説明するための模式図である。
【図１５】（ａ）は優先度を変更した場合に参照される仮・分割エリア設定テーブルの一例を示す図、（ｂ）は（ａ）のテーブルに基づく仮の分割エリアを示す図である。
【図１６】優先度を変更した場合の真の分割エリアの一例を示す図である。
【図１７】優先度を変更した場合に作成される分割エリア情報ファイルの一例を示す図である。
【図１８】単画面表示機能を説明するための模式図である。
【図１９】割り込み機能を説明するための模式図である。
【図２０】画面消去機能を説明するための模式図である。
【図２１】表示装置から差分キャプチャ開始指示および表示状況管理ファイルを受け取った端末機器側の動作を示すフローチャートである。
【図２２】画面比較処理の一例として、マウスポインタを動かしたときの例を示す図である。
【図２３】図２２の画面比較処理の説明図である。
【図２４】従来の表示システムの一例を示す構成図である。
【符号の説明】
１　端末機器
２　表示装置
３　ネットワーク
２１　表示部
２２　表示制御部
２３　入力部
４１　分割エリア情報作成部
４２　画像合成部
４３　画像処理部[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a technique for displaying the screens of a plurality of terminal devices connected on a network on one screen of a display device on multiple screens.
[0002]
[Prior art]
FIG. 24 is a configuration diagram illustrating an example of a conventional display system.
In FIG. 24, for example, a projector 220, a notebook computer 230, and desktop computers 251, 252, 253, 254 as display devices are connected to a network 210, and further, a drawing or the like is directly input to the projector 220. Tablets 261, 262, 263, and 264 capable of performing projection and inserting a diagram into projected data are directly connected. Note that screen capture software is installed in the notebook personal computer 230 and the desktop personal computers 251, 252, 253, 254.
[0003]
In the conventional display system configured as described above, for example, by capturing the content of the screen on the notebook personal computer 230 by screen capture software, and transmitting the captured image data to the projector 220 via the network 210, The screen displayed on the notebook personal computer 230 can be projected and displayed by the projector 220. Then, by performing a switching operation using a remote controller or the like attached to the projector, the projection image of the projector 220 can be switched from the screen of the notebook personal computer 230 to another image of the screen of the desktop personal computer 251, for example.
[0004]
[Problems to be solved by the invention]
In the above-described conventional display system, as described above, the image that can be displayed by the projector 220 is one of the notebook personal computer 230 and the desktop personal computers 251, 252, 253, and 254 connected to the projector 220. Image. For this reason, when it is desired to compare and discuss the contents of the respective display screens of the notebook personal computer 230 and the desktop personal computers 251, 252, 253, and 254, it is necessary to switch one screen at a time. There is a strong demand for a function that can simultaneously display the screen of a personal computer on one screen.
[0005]
The present invention has been made in view of the above points, and provides a network-compatible display device and a display control program capable of displaying, on a multi-screen, display screens of a plurality of terminal devices connected to a network. The purpose is to:
[0006]
[Means for Solving the Problems]
(1) A network-compatible display device according to the present invention is a network-compatible display device connected via a network to a plurality of terminal devices each having a screen capture function, and includes both a display unit and each terminal device. A communication unit capable of two-way communication, and a display control unit. The display control unit obtains one screen image by dividing each captured image data acquired by the terminal device by the screen capture function and received by the communication unit. It has a multi-screen display function of synthesizing data and displaying the data on the display screen of the display unit.
[0007]
According to the present invention, it is possible to obtain a network-compatible display device capable of displaying the display screens of a plurality of network-connected terminal devices on the screen of the display device on multiple screens.
[0008]
(2) In the network-compatible display device according to the present invention, in (1) above, the display control unit has an interrupt function of interrupting a new screen on the current display screen and displaying the new screen.
[0009]
According to the present invention, a network-compatible display device having an interrupt function can be obtained.
[0010]
(3) The network-compatible display device according to (1) or (2), wherein the terminal displays captured image data on a display screen from among a plurality of terminal devices connected to the network-compatible display device. The user can arbitrarily select a device.
[0011]
According to the present invention, it is possible to obtain a network-compatible display device that allows a user to select a terminal device for displaying captured image data on a network-compatible display device from among a plurality of terminal devices.
[0012]
(4) The network-compatible display device according to any one of (1) to (3) above, wherein the selection of the terminal device for displaying the captured image data on the display screen is performed by the bidirectional communication of the communication unit. This can be performed from both the display device side and the terminal device side.
[0013]
According to the present invention, it is possible to obtain a network-compatible display device capable of designating a terminal device for displaying captured image data on the network-compatible display device from both the network-compatible display device and the terminal device.
[0014]
(5) In the network-compatible display device according to the present invention, in any one of the above (1) to (4), the display control unit may select one of a plurality of divided screens forming a multi-screen displayed on the display screen. Has an enlarged display function of enlarging and displaying a predetermined split screen.
[0015]
According to the present invention, it is possible to obtain a network-compatible display device having an enlarged display function of enlarging and displaying a predetermined split screen.
[0016]
(6) In the network-compatible display device according to the present invention, in any one of the above (1) to (4), the display control unit may select one of a plurality of divided screens forming a multi-screen displayed on the display screen. Has a single screen switching function of switching a predetermined divided screen to display the entire display screen.
[0017]
According to the present invention, it is possible to obtain a network-compatible display device having a single-screen switching function of switching a predetermined split screen to display the entire display screen.
[0018]
(7) In the network-compatible display device according to the present invention, in any one of the above (1) to (4), the display control unit may select one of a plurality of divided screens forming a multi-screen displayed on the display screen. Has an erasing function for erasing a predetermined divided screen.
[0019]
According to the present invention, it is possible to obtain a network-compatible display device having an erasing function for erasing a predetermined divided screen.
[0020]
(8) In the network-compatible display device according to the present invention, in any of the above (5) to (7), the predetermined divided screen is selected based on a user operation.
[0021]
According to the present invention, it is possible to obtain a network-compatible display device that allows a user to select a split screen to be enlarged, a single screen to be displayed, and a split screen to be deleted.
[0022]
(9) In the network compatible display device according to the present invention, in the above (8), the predetermined divided screen can be selected from the network compatible display device side or the terminal device side by bidirectional communication of the communication unit. It is.
[0023]
According to the present invention, it is possible to obtain a network-compatible display device capable of designating a divided screen to be enlarged, a divided screen to be displayed as a single screen, and a divided screen to be deleted from both the network-compatible display device and the terminal device. Can be.
[0024]
(10) In the network-compatible display device according to any one of the above (1) to (9), the captured image data acquired from the terminal device specifies the entire or partial range of the display screen of the terminal device. Is image data obtained by capturing the image data.
[0025]
According to the present invention, the captured image data to be displayed on the display screen of the display unit is a network capable of displaying both captured image data obtained by full screen capture and captured image data obtained by partial capture. A corresponding display device can be obtained.
[0026]
(11) The network-compatible display device according to any one of (1) to (9), wherein the capture data acquired from the terminal device detects a change on the display screen of the terminal device, This is image data obtained by capturing only the change.
[0027]
According to the present invention, a load on a network is reduced by capturing only a changed portion on a display screen of a terminal device, and a network-compatible display capable of displaying image data obtained by combining the captured data with existing capture data A device can be obtained.
[0028]
(12) In the network-compatible display device according to the present invention, in any one of the above (1) to (11), the display control unit divides the display screen of the display unit into the number of terminal devices to be displayed. A divided area information creating unit for creating divided area information including a display size of a divided screen to be assigned to a terminal device to be displayed and information for specifying a display position of the divided screen, and a divided area created by the divided area information creating unit According to the information, the captured image data from the terminal device is combined with the image data of one screen, and an image combining unit that generates combined image data; and the combined image data generated by the image combining unit is processed to generate display image data. And an image processing unit for outputting to the display unit.
[0029]
(13) In the network-compatible display device according to the present invention, in (12), the image synthesizing unit synthesizes captured image data from each terminal device by reducing or enlarging the image size while maintaining the aspect ratio of the image size. Is what you do.
[0030]
ADVANTAGE OF THE INVENTION According to this invention, the network-compatible display apparatus which can comprise a display screen without a feeling of strangeness can be obtained.
[0031]
(14) In the network-compatible display device according to the present invention, in any one of the above (1) to (13), the communication protocol of the communication unit is TCP / IP.
[0032]
According to the present invention, general TCP / IP can be used as a communication protocol of the communication unit.
[0033]
(15) In the network-compatible display device according to the present invention, in any one of the above (1) to (14), the network is any one of a LAN, a wireless LAN, and a short-distance wireless LAN.
[0034]
According to the present invention, a LAN, a wireless LAN, and a short-range wireless LAN can be used as a network.
[0035]
(16) A network-compatible projector according to the present invention includes the network-compatible display device according to any one of the above (1) to (15).
[0036]
According to the present invention, it is possible to obtain a projector having the above effects.
[0037]
(17) In the network-compatible projector according to the present invention, in (16), the display unit is any one of a liquid crystal light valve, an LCOS light valve, and a DMD.
[0038]
According to the present invention, it is possible to achieve the above effects in a projector using a liquid crystal light valve, an LCOS light valve, and a DMD for a display unit.
[0039]
(18) A network-compatible plasma display according to the present invention includes the network-compatible display device according to any one of the above (1) to (15), and a display unit is a plasma display panel.
[0040]
According to the present invention, it is possible to obtain a plasma display having the above effects.
[0041]
(19) A network-compatible liquid crystal monitor according to the present invention includes the network-compatible display device according to any one of the above (1) to (15), and a display unit is a liquid crystal panel.
[0042]
According to the present invention, it is possible to obtain a liquid crystal monitor having the above effects.
[0043]
(20) A network-compatible organic EL display according to the present invention includes the network-compatible display device according to any one of the above (1) to (15), and has a display unit as an organic EL panel.
[0044]
According to the present invention, it is possible to obtain a network-compatible organic EL display having the above effects.
[0045]
(21) A display control program according to the present invention causes a display control unit of the network display device according to any one of (1) to (15) to be realized by a CPU.
[0046]
According to the present invention, it is possible to obtain a display control program capable of providing the above effects to a display device.
[0047]
BEST MODE FOR CARRYING OUT THE INVENTION
FIG. 1 is a diagram illustrating a network configuration of a display system including a network-compatible device according to an embodiment of the present invention.
The display system 100 includes a plurality of terminal devices 1 (only four devices 1a, 1b, 1c, and 1d are shown in FIG. 1), and a network-compatible display device 2 having a multi-screen display function, which is a main function of the present invention. The figure includes an example of a projector (hereinafter, simply referred to as a display device 2), and a plurality of terminal devices 1 and the display device 2 are connected to each other via a network 3 using a communication protocol such as TCP / IP. Are connected so that they can communicate with each other. Each terminal device 1 is given a unique name (hereinafter referred to as a terminal name) in advance. Various networks such as a LAN, a wireless LAN, and a short-range wireless LAN such as Bluetooth (registered trademark of Bluetooth SIG Inc., USA) can be used as the network 3.
[0048]
The display system 100 is a system that allows a screen displayed on each of the plurality of terminal devices 1 to be simultaneously displayed on the display screen of the display device 2 by splitting the screen. This is an effective system to use. Hereinafter, the configurations of the terminal device 1 and the display device 2 will be described in detail.
[0049]
FIG. 2 is a block diagram illustrating a configuration of the terminal device.
The terminal device 1 includes, for example, a personal computer or a PDA, and includes a display unit 11 for displaying various information such as presentation materials, a video memory 12 for storing contents displayed on the display unit 11, For example, an input unit 13 including a tablet, a mouse, and operation keys, a user interface unit 14 that detects an operation input from the input unit 13 and outputs input information to a calculation unit 16 described below, and performs processing according to the present invention. Storage unit 15 for storing applications (control programs) and various data, a calculation unit (CPU) 16, and a communication unit 17.
[0050]
The control program stored in the storage unit 15 includes a terminal device-side control function for realizing a multi-screen function on the display device 2 and a screen capture for capturing all or a part of the screen of the display unit 11. A function and a function of detecting a change on the screen of the display unit 11 are realized. A data management processing unit 18, a screen capture processing unit 19, and a screen comparison processing unit 20 are configured by the application program and the CPU. ing.
[0051]
The data management processing unit 18 makes various requests such as a connection request, a display request, an enlarged display request, a single screen switching request, and a deletion request via the communication unit 17 or the user interface unit 14 via the user interface unit 14 or the communication unit 17. In addition to performing processing in accordance with the request contents, processing for transmitting the captured image data acquired by the screen capture processing unit 19 to the display device 2 via the communication unit 17 is performed.
[0052]
The communication unit 17 performs bidirectional communication with the display device 2. Here, the communication protocol is TCP / IP, and has a protocol processing function such as ARPICMP, IP, TCP, and UDP necessary for the TCP / IP connection. Things. This function is realized by the OS.
[0053]
FIG. 3 is a block diagram illustrating a configuration of the display device.
The display device 2 has a display unit 21, a display control unit that has a multi-screen display function, an enlarged display function, a single-screen switching function, an interrupt function, and a deletion function of the present invention, and controls a display screen to be displayed on the display unit 21. 22, an input unit 23 composed of, for example, a remote controller, a mouse, and operation keys; a user interface unit 24 that detects an operation input from the input unit 23 and outputs the input content to a calculation unit 27 described later; A program storage unit 25 for storing a display control program for providing functions, a data storage unit 26 for storing various files and various data necessary for executing the control program, and a calculation unit ( CPU 27 and a communication unit 28 for performing bidirectional communication with the terminal device 1.
[0054]
The communication unit 28 performs bidirectional communication with the terminal device 1. Here, the communication protocol is TCP / IP, and has protocol processing functions such as ARPICMP, IP, TCP, and UDP necessary for the TCP / IP connection. Things.
[0055]
Here, the display device 2 includes, for example, a plasma display, a liquid crystal monitor, and the like in addition to the projector illustrated in FIG. 1, and the display unit 21 is a display element that differs depending on the type of the display device 2. Specifically, in the case of a projector, a liquid crystal light valve, an LCOS light valve, and a DMD (Digital Micromirror Device) (trademark of Texas Instruments) are used. In this case, the display screen of the display unit 21 is a projection surface. For example, in the case of a plasma display, the display unit 21 becomes a plasma display panel, in the case of a liquid crystal monitor, it becomes a liquid crystal panel, and in the case of an organic EL display, it becomes an organic EL panel.
[0056]
Next, various files and the like stored in the data storage unit will be described with reference to FIG.
The data storage unit 26 stores a connection permission management file 31, a display permission management file 32, a connection status management file 33, a display status management file 34, a temporary / divided area setting file 35, and a divided area information file 36. A capture image data storage unit 37 for storing capture image data transmitted from each terminal device 1 is provided.
[0057]
The connection permission management file 31 is a file in which the terminal names of the terminal devices 1 to which connection is permitted are registered. The display permission management file 32 is a file in which the terminal names of the terminal devices 1 to which screen display is permitted are registered. File.
[0058]
The connection status management file 33 is a file in which the terminal name of the terminal device 1 currently connected to the display device 2 is registered.
[0059]
The display status management file 34 is a file for managing the current display status of the display unit 21. The display status management file 34 stores terminal device information on the terminal device 1 of the source of the captured image data displayed on the display screen of the current display unit 21 in a table format. Manage with. The display status management file 34 is updated every time the display screen of the display unit 21 is changed. For example, when the display screen is changed from a 4-split screen to a 3-split screen, the display device management file 34 of the terminal device 1 corresponding to the deleted split screen is displayed. The terminal device information is deleted from the table, and when the screen is changed from the 4-split screen to the 5-split screen, the terminal information of the terminal device 1 corresponding to the added screen is newly registered. .
[0060]
FIG. 5 is a diagram showing each item of terminal device information managed by the display status management file.
The display status management file 34 includes “terminal name”, “IP address”, “screen size”, “color number information”, “priority”, “capture range management flag”, “differential capture management flag”, and “capture image”. The items are “size”, “differential capture image size 1”, “differential capture image size 2”, “difference capture origin 1”, and “difference capture origin 2”.
[0061]
The “terminal name” is a name given to the terminal device 1 in advance, and the “screen size” is the number of horizontal and vertical pixels of the display screen of the display unit 11. For example, if the terminal device has a resolution of SXGA, 1280 × 1024 , 1024 × 768 for XGA. The “color number information” is the number of display colors on the display unit 11 and is, for example, 256 colors, 16777216 colors, or the like. The above “terminal name”, “IP address”, “display size”, and “color number information” are data that are always stored at the time of registration in the display status management file 34, and other items include user operations and the like. Is appropriately set (updated) in accordance with.
[0062]
The “priority” affects the size of the display size assigned to the terminal device 1 specified by the “terminal name”, and takes values such as “highest”, “high”, and “none”, and is described below in detail. As described above, in the present example, the configuration is such that the higher the priority, the larger the allocated display size. The “capture range management flag” is a flag for managing whether the screen capture on the terminal device 1 specified by the “terminal name” is full screen capture or partial capture, and usually indicates “0” indicating full screen capture. It is set to “1” when the capture is performed.
[0063]
The “differential capture management flag” is a flag for managing whether the screen capture in the terminal device 1 specified by the “terminal name” is a normal capture or a capture of only a change on the screen (hereinafter, referred to as a differential capture). In the case of normal capture, “0” is set, and in the case of differential capture, “1” is set.
[0064]
The “capture image size” is the size of captured image data (vertical and horizontal pixels) when the “capture range management flag” is “1”, that is, in the case of partial capture.
[0065]
“Difference capture image size 1” and “difference capture image size 2” are the sizes of two different ranges of areas acquired in the difference capture when the “difference capture management flag” is “1”. “Difference capture origin 1” and “differential capture origin 2” are the origins of two different ranges of areas acquired in the difference capture, and are indicated by absolute coordinates within the area defined by “capture image size”.
[0066]
The temporary / split area setting file 35 is a file in which information for specifying a temporary split area to be assigned to each terminal device 1 is set in advance, and is composed of a plurality of tables prepared for each number of terminals. This table has a configuration as shown in FIGS. 10 (a) and 15 (a), which will be described later, and the details thereof will be described in the following sections. The divided area information file 36 will be described in detail below.
[0067]
The contents of the files 31, 32, 33, 34, 35, and 36 are displayed on the display unit 21 when a predetermined operation is performed on the input unit 23, and the file contents can be freely checked and changed on the display screen. You can do it.
[0068]
Here, the description returns to FIG.
The display control unit 22 includes a divided area information creating unit 41, an image synthesizing unit 42, and an image processing unit 43, and receives a connection request from a user received by the arithmetic unit 27 via the user interface unit 24 or the communication unit 28, and a display. In accordance with various request contents such as a request, an interrupt display request, and an erasure request, the necessary processing is performed by causing each of the units 41, 42, and 43 to appropriately access necessary files in the data storage unit 26, and the display control of the display unit 21 is performed. I do. The display control unit 22 is realized by a display control program for providing a multi-screen function stored in the program storage unit 25 and a calculation unit (CPU) 27.
[0069]
Based on the display status management file 34, the divided area information creation unit 41 grasps the number of terminal devices 1 to be displayed and acquires the priority and screen size of each terminal device 1 to be displayed. Then, the display screen size of the display unit 21 is divided according to the number of the terminal devices 1 to be displayed, the priority of each of the terminal devices 1 to be displayed, and the screen size, and is assigned to each of the terminal devices 1 to be displayed. The display size of the divided screen on the display unit 21 (hereinafter, referred to as a divided area size) and information for specifying the display position of the divided screen (absolute upper left coordinates of the divided screen with respect to the display screen, hereinafter, referred to as the origin) An operation of creating divided area information including the divided area information and storing the divided area information in the data storage unit 26 as the divided area information file 36 is performed.
[0070]
The image synthesizing unit 42 performs processing such as reduction, enlargement, and color conversion on the captured image data stored in the captured image data storage unit 37, and stores the captured image data in the divided area information file 36 created by the divided area information creating unit 41. Based on the generated composite image data.
[0071]
The image processing unit 43 includes various kinds of image data such as the combined image data generated by the image combining unit 42 and the display status management file 34 of the data storage unit 26 referred to by using an OSD (On Screen Display) function or the like. A portion for generating display image data by performing a scan frequency conversion process on the image data and outputting the display image data to the display unit 21 is configured by, for example, a scan converter.
[0072]
Hereinafter, the operation of the present embodiment will be described. FIG. 6 is a flowchart showing the operation of the present embodiment.
First, on the display device 2 side, a predetermined operation input is performed from the input unit 23 as a preparation stage for performing multi-screen display, and when the operation unit 27 detects the operation input via the user interface unit 24, the communication unit A reply request for the terminal name and the IP address is broadcasted together with the IP address of the display device 2 via the network 28 and the network 3. The broadcast terminal name and IP address return request is received by each terminal device 1 on the network 3, and each terminal device 1 returns its own terminal name and IP address to the display device 2. .
[0073]
The display device 2 receives a reply (terminal name and IP address) from each terminal device 1 via the communication unit 28, and determines whether or not the terminal is a connection-permitted terminal. Specifically, it is checked whether the returned terminal name matches the terminal name registered in the connection permission management file 31, and if they match, it is determined that the terminal is a connection permitted terminal.
[0074]
The terminal names and the IP addresses from the terminal devices 1 determined to be connection-permitted terminals are sequentially registered in the connection status management file 33. The connection status management file 33 allows the display device 2 to know how many terminal devices 1 are currently connected. Further, since connection permission / non-permission is determined based on the terminal name, even when, for example, an IP address is given to the terminal device 1 by DHCP and the given IP address is different for each connection, It has become available.
[0075]
When the above preparation work is completed, the display device 2 waits in a state of waiting for various requests. Now, it is assumed that, among the terminal devices 1 operated by each conference participant, four display screens of the terminal devices 1a to 1d are to be displayed on the display screen 50 of the display device 2 in multiple screens as shown in the following figure. Think. Here, the resolution of each terminal device 1 is SXGA (1280 × 1024 pixels) for terminal device 1a, SVGA (800 × 600 pixels) for terminal device 1b, XGA (1024 × 768 pixels) for terminal device 1c, and terminal device 1d. Will be described as an example of 480 × 640 pixels.
[0076]
<Multi-screen display function>
FIG. 7 is a schematic diagram showing a state in which four display screens of the terminal devices 1a to 1d are displayed on the display screen of the display device in multiple screens.
First, the intention of multi-screen display of the terminal devices 1a to 1d is input by operating, for example, a remote controller of the input unit 23. Then, the input information, that is, the display request including the identification information of each of the terminal devices 1a to 1d is notified to the arithmetic unit 27 via the user interface unit 24 (S1). At the time of this display request, it is possible to specify a priority, a partial capture, or a difference capture, but here, none is specified.
[0077]
The arithmetic unit 27 of the display device 2 that has received the display request performs the following steps S3 to S9 for each of the terminal devices 1a to 1d to be displayed (S2). That is, it is determined whether the terminal is a connection-permitted terminal or a display-permitted terminal by referring to the connection permission management file 31 and the display permission management file 32 based on the terminal name specified by the identification information included in the display request. If both connection and display are permitted (S4), the terminal device requests terminal device information (terminal name, IP address, screen size, color number information) via the communication unit 28 (S5). ). Then, the terminal device information returned in response to this request is received (S6) and registered in the display status management file 34 (S7). If priority, partial capture, or differential capture has been specified at the time of this display request, the “priority”, “capture range management flag” , "And" differential capture management flag "are registered in the same manner.
[0078]
Then, a screen capture start instruction is transmitted together with the display status management file 34 to the terminal device 1 for which both connection and display are permitted (S8). In addition, the terminal device 1 that does not permit connection / display is notified of the fact via the communication unit 28 (S9).
[0079]
Here, assuming that all of the terminal devices 1a to 1d are terminal devices 1 for which both connection and display are permitted, the terminal device information from each of the terminal devices 1a to 1d is stored in the display status management file 34 by the processing of steps S2 to S9. At the same time, the screen capture start instruction is transmitted to the terminal devices 1a to 1d together with the display status management file 34 via the communication unit 28.
[0080]
When the above processing is completed, the arithmetic unit 27 notifies the divided area information creating unit 41 of the display control unit 22 of an area division request. Accordingly, the display device 2 starts the divided area information creation processing (S10). The operation of the terminal device 1 that has received the screen capture start instruction will be described later. Hereinafter, the division area information creation processing in the division area information creation unit 41 that has received the area division request will be described.
[0081]
FIG. 8 is a flowchart showing the flow of the divided area information creation processing. Here, it is assumed that the display status management file 34 is configured as shown in FIG. 9, and the operation of the divided area information creating unit 41 will be specifically described below. In FIG. 9, it is assumed that the terminal names PC-1, PC-2, PC-3, and PDA-1 correspond to the terminal devices 1a, 1b, 1c, and 1d, respectively.
[0082]
Upon receiving the area division request from the arithmetic unit 27, the divided area information creating unit 41 refers to the display status management file 34 to determine the number of terminal devices 1 to be displayed (here, four), and The priority of each of 1a, 1b, 1c, and 1d is acquired (S21). Then, the temporary / divided area setting file 35 is referred to based on the number of these terminal devices 1 and the priority of each of the terminal devices 1a to 1d, and the provisional / divided area setting file 35 is allocated to each of the terminal devices 1a, 1b, 1c, 1d. The temporary size of the divided area and the temporary origin are acquired (S22). Note that the reason why “temporary” is set will be apparent in the following description, but the divided area assigned here will be changed when the size of the captured image data is converted in a later step.
[0083]
Here, as shown in FIG. 9, the number of terminal devices to be displayed is four, and no priority is set for all of them. In this case, the corresponding temporary / divided area referred to in the temporary / divided area setting file 35 is used. The area setting table is configured, for example, as shown in FIG. In this example, the screen size of the display screen of the display unit 21 is 1280 × 1024 (SXGA), and the temporary / divided area setting table in FIG. 10A is an example in this case. FIG. 10B illustrates a temporary divided area based on the temporary / divided area setting table of FIG.
[0084]
Here, the priorities in FIG. 10A are determined based on the item of “priority” in the display status management file 34, and the first and second devices are arranged in descending order of priority. The third, fourth and fourth units. Then, to each of them, an area specified by “temporary size” and “temporary origin” shown in the table below is assigned as a temporary divided area. Here, since all the terminal devices 1a, 1b, 1c, and 1d to be displayed are "none" (see FIG. 9), there is virtually no priority. In this way, when there is no priority setting, the assignment order may be a predetermined order or may be arbitrary such as the order of registration in the display status management file 34, but in this example, each terminal device 1a, 1b, 1c, and 1d (hereinafter referred to as PC-1, PC-2, PC-3, and PDA-1 of terminal names as appropriate) in the order of temporary divided areas 50A, 50B, 50C, The description will be continued below assuming that 50D is assigned.
[0085]
The divided area information creating unit 41 further acquires the screen size of each of the PC-1, PC-2, PC-3, and PDA-1 from the display status management file 34 (see FIG. 9), and based on these acquired information. Then, the true divided area size and the true origin to be assigned to each are determined (S23).
[0086]
FIG. 11 is an explanatory diagram of a true divided area. In FIG. 11, reference numerals 51A, 51B, 51C, and 51D indicate true divided areas respectively assigned to PC-1, PC-2, PC-3, and PDA-1. A true divided area is a temporary divided area in which captured image data to be displayed in the temporary divided area is size-converted while maintaining an aspect ratio, and the converted image is temporarily divided. It is a display area for displaying at the center of each of the areas 50A, 50B, 50C, and 50D. Here, the true divided area size for specifying the true divided area will be specifically described with an example of PC-2. PC-2 has a screen size of 1024 × 768 pixels (see FIG. 9). In order to display the image data of this size in the provisional divided area 50B of 640 × 512 pixels allocated to the PC-2, the size is reduced while maintaining the aspect ratio of the original image. The true origin is for positioning the divided screen of that size at the center of the temporary divided area 50B as shown in FIG. 11, and the coordinates of the upper left pixel of the divided screen (with respect to the entire display screen). Absolute coordinates).
[0087]
The divided area information creating unit 41 determines the true divided area size and the true origin as described above for each of PC-1, PC-2, PC-3, and PDA-1, and determines the terminal name, the divided area, and the origin. The divided area information having the contents as shown in FIG. 12 and is stored in the data storage unit 26 as the divided area information file 36 (S24). Thus, the divided area information creation processing ends. The divided area information file 36 is given a creation date and time (17:00:32 on May 21, 2002).
[0088]
Here, it returns to FIG.
When the divided area information creating process (S10) in the divided area information creating unit 41 is completed, the arithmetic unit 27 of the display device 2 performs a process in steps S12 to S14 for each of the terminal devices 1a, 1b, 1c, and 1d to be displayed. (S11). That is, a capture image data transmission request is transmitted (S12). Each of the terminal devices 1a, 1b, 1c, and 1d starts a screen capture process as described later after receiving the capture start instruction transmitted from the display device 2 in the process of step S8. The captured image data and the image size (in the case of partial capture) acquired by the capture processing are returned to the display device 2 in response to the capture image data transmission request in step S11.
[0089]
The display device 2 receives the reply from the terminal device 1 (S13), and when the reply content is the captured image data, determines that the screen capture performed by the terminal device 1 is the full screen capture (S14). Then, the received captured image data is written to the captured image data storage unit 37 (S16).
[0090]
On the other hand, when the reply content from the terminal device 1 received in step S13 is the captured image data and the image size, it is determined that the screen capture performed by the terminal device 1 is a partial capture (S14), and the received image is received. The “captured image size” of the display status management file 34 is updated with the image size, and the divided area information (true divided area size and true origin) is re-created based on the received image size by the same processing as described above. (S15). Then, the captured image data received together with the image size is written into the captured image data storage unit 37 (S16).
[0091]
The above processing is performed for each of the terminal devices 1a to 1d to be displayed, and when all the captured image data from the terminal devices 1a, 1b, 1c, 1d to be displayed are collected, the arithmetic unit 27 causes the image synthesizing unit 42 to perform image synthesis. Notify instructions. Accordingly, the display device 2 starts the image synthesis processing (S17).
[0092]
Upon receiving the image synthesis instruction, the image synthesis unit 42 stores each of the captured image data stored in the captured image data storage unit 37 in the divided area information of the divided area information file 36 and the “color number information” of the display status file. Then, the image data is subjected to size conversion and color conversion based on the image data, combined with image data of one screen to generate combined image data, and outputs the generated combined image data to the image processing unit 43.
[0093]
The image processing unit 43 converts the combined image data from the image combining unit 42 into a scanning frequency of the display unit 21 to generate display image data, and outputs the display image data to the display unit 21. As a result, as shown in FIG. 7, the captured image data (display) of the terminal devices 1a, 1b, 1c, 1d are respectively stored in true divided areas (hereinafter, sometimes referred to as divided screens) 51A, 51B, 51C, 51D. Are displayed on the display screen 50 (S18).
[0094]
Next, the operation of the terminal device 1 that has received the capture start instruction and the display status management file 34 from the display device 2 will be described.
FIG. 13 is a flowchart illustrating the operation of the terminal device that has received the capture start instruction and the display status management file from the display device. Here, the operation of the terminal device 1a (PC-1) will be described.
[0095]
The data management processing unit 18 of the terminal device 1a receives the capture start instruction and the display status management file 34 transmitted from the display device 2 via the communication unit 17 (S31), and stores the display status management file 34 in its own terminal. The capture range designation flag of the device 1a is referred to (S32). Here, since it is "0" (S33), it is determined that the full screen is captured, and the full screen capture is instructed to the screen capture processing unit 19. Upon receiving the full-screen capture instruction, the screen capture processing unit 19 stores the content of the video memory 12 (that is, the content currently displayed on the display screen of the display unit 11) in the storage unit 15 in the form of, for example, a bit map. The data is stored (full screen capture processing) (S34), and the data management processing unit 18 is notified that the screen capture has been completed.
[0096]
On the other hand, when the capture range designation flag is “1”, it is determined that the capture is partial capture, and a capture range designation instruction screen showing a message such as “Please specify the capture range” is displayed on the display unit 11 ( At the same time as S35), a partial capture is instructed to the screen capture processing unit 19. When a user who has checked the capture range designation instruction screen performs window selection or an operation surrounding a desired area via the input unit 13, the screen capture processing unit 19 performs a user operation via the user interface unit 14. The image data on the video memory 12 corresponding to the specified area is recognized and the image size thereof is stored in the storage unit 15 (partial capture processing) (S36), and the completion of the screen capture is notified to the data management processing unit 18. Notice.
[0097]
As described above, the terminal device 1a performs the screen capture process after receiving the capture start instruction. During this time, the divided area information creation processing is performed on the display device 2 side as described above, and the terminal device 1a completes the screen capture processing in the screen capture processing unit 19 and captures the data from the display device 2. When the image data transmission request is received (S37), the captured image data and the image size (in the case of partial capture) are transmitted via the communication unit 17 (S38).
[0098]
The above processing is similarly performed in the terminal devices 1b, 1c, and 1d other than the terminal device 1a. As a result, as described above, the captured image data and the image are displayed on the display device 2 from the terminal devices 1a, 1b, 1c, and 1d. The size (for partial capture) will be sent.
[0099]
By the way, the display status management file 34 is transmitted from the display device 2 to each terminal device 1, and the display status management file 34 sets the capture range designation flag of the own terminal device 1 as described above. The contents of the file can be displayed on the display unit 11 by performing a predetermined operation on the input unit 13 in addition to being used for checking. In addition, the connection permission management file 31, the display permission management file 32, and the connection status management file 33 can be acquired from the display device 2 as appropriate and displayed on the display unit 11 in the same manner. However, it is possible to know which terminal device is displayed other than the terminal device 1 operated by the user, the authority given to the terminal device 1 of the user, and the like.
[0100]
<Enlarged display function>
Hereinafter, an enlarged display function for enlarging and displaying an arbitrary divided screen among a plurality of currently displayed divided screens will be described. This enlarged display function can be dealt with by changing the priority in the above configuration.
[0101]
FIG. 14 is a schematic diagram for explaining the enlarged display function. Here, an example is shown in which the priority of the terminal device 1a is increased and displayed in an enlarged manner.
In this case, for example, the screen of the terminal device 1a is specified by operating the remote controller. When the terminal device 1 is assigned to the remote controller, the designation can be performed by pressing the key. When the terminal device 1 has not been assigned, from the menu screen displayed on the display unit 21 by operating the remote controller. It can be selected or designated by, for example, displaying a pointer on a display screen with a remote controller, pointing the screen of the terminal device 1a with the pointer, and clicking.
[0102]
The specified information specified in this way, that is, the enlarged display request including the identification information of the terminal device 1a is notified to the arithmetic unit 27 via the user interface unit 24, and the arithmetic unit 27 transmits the identification information included in the enlarged display request. The terminal device 1a is specified based on the information, the “priority” item of the terminal device 1a (PC-1) in the display status management file 34 is set to “high”, and an area division request is issued to the division area information creating unit 41. Notify.
[0103]
The divided area information creating unit 41 creates the divided area information file 36 in the same manner as described above. In this creation, the temporary / divided area setting table referred to is configured, for example, as shown in FIG. 15A, and FIG. 15B shows a temporary divided area based on the temporary / divided area setting table. It was done. Here, the priority in FIG. 15B is determined based on the item of “priority” of the display status management file 34 as described above, and here, the priority of the terminal device 1a is set. Is "high" and higher than the other terminal devices 1b, 1c, 1d, the first priority, that is, the temporary divided area (first unit divided area) 52A of FIG. 15B is allocated. The allocation of the divided areas to the terminal devices 1b, 1c, and 1d having no other priorities is arbitrary as described above. In this case, the temporary divided regions are sequentially allocated to the terminal devices 1b, 1c, and 1d, respectively. It is assumed that areas 52B, 52C, and 52D are allocated. Then, in the same manner as above, a true divided area assigned to each of the terminal devices 1a, 1b, 1c, 1d is determined.
[0104]
FIG. 16 is a diagram showing the true divided areas in this case. The divided areas 53A, 53B, 53C and 53D are the true divided areas respectively assigned to the terminal devices 1a, 1b, 1c and 1d. The divided area information file 36 is configured as shown in FIG.
[0105]
Then, the same operation as described above is performed. As a result, as shown in FIG. 14, the captured image data of each of the terminal devices 1a, 1b, 1c, 1d is stored in the true divided areas 53A, 53B, 53C, 53D. Display screens) are displayed, and among the divided screens 53A, 53B, 53C, 53D, a multi-screen in which the designated divided screen 51A is enlarged is displayed on the display screen 50.
[0106]
<Single screen switching function>
In addition, as shown in FIG. 18, any one of the plurality of divided screens can be displayed on a single screen. In this case, for example, a remote controller is operated to perform an input operation to that effect. The input information, that is, the single-screen display request including the identification information of the terminal device 1c corresponding to the divided screen 51C to be displayed on the single screen is notified to the arithmetic unit 27 via the user interface unit 24. The terminal device 1c is specified based on the identification information included in the request, the "priority" item of the terminal device 1c (PC-3) in the display status management file 34 is set to "highest", and the divided area information creation unit 41 is notified of an area division request.
[0107]
Then, the same operation as described above is performed, and as a result, the screen is changed from a multi-screen to a single screen as shown in FIG. Further, for example, by performing a predetermined operation with a remote controller, the item of “priority” is returned to “none”, thereby returning to the original multi-screen.
[0108]
With such a single screen switching function, it is possible to check the details of the divided screen which is reduced and the details cannot be seen, and can return to the multi-screen by a predetermined operation, which is convenient.
[0109]
<Interrupt function>
Further, as shown in FIG. 19, a new screen can be interrupted with respect to the currently displayed multi-screen. This interrupt corresponds to a display request after the multi-screen is displayed, and can be interrupted by the same processing as that for the above-described display request.
[0110]
<Erase function>
As shown in FIG. 20, it is also possible to delete an arbitrary divided screen from among the currently displayed plural divided screens. In this case, the remote controller is operated to perform an input operation to that effect. The input information, that is, the deletion request including the identification information of the terminal device 1d corresponding to the divided screen 51D to be deleted is notified to the calculation unit 27 via the user interface unit 24, and the calculation unit 27 sets the identification information included in the deletion request. The terminal device 1d is identified based on the terminal device information, the terminal device information of the terminal device 1d is deleted from the display status management file 34, and the division area information creating unit 41 is notified of the area division request. The subsequent operation is the same as described above, whereby the divided screen 50D designated to be erased is deleted as shown in FIG. . A configuration in which only the divided screen 51D designated to be deleted may be simply adopted.
[0111]
As described above, according to the present embodiment, the display device 2 having the multi-screen display function of displaying the screen displayed by the plurality of terminal devices 1 connected to the network 3 on one screen by dividing the screen. Can be obtained.
[0112]
Further, in addition to the multi-screen display function, a high-function display device 2 having an enlarged display function, a single-screen switching function, an interrupt function, and an erasing function can be obtained.
[0113]
Further, when configuring multiple screens, the size is converted and synthesized while maintaining the aspect ratio of the captured image data, so that it is possible to obtain the display device 2 capable of configuring a display screen without a sense of incongruity. .
[0114]
The display request may not be made each time by the meeting attendee (user) via the input unit 23, but may be updated by the display device 2 every three seconds, for example. . In this case, the arithmetic unit 27 of the display device 2 manages the time, and the subsequent operation may be performed at regular time intervals in the same manner as described above, so that the latest display screen of the terminal device 1 can be always obtained.
[0115]
<Differential capture function>
So far, the method using full screen capture (or partial capture) has been described, but hereinafter, a method of detecting a change on the display screen of the terminal device and transmitting only image data obtained by capturing the change is described. Will be described.
[0116]
First, the user operates, for example, a remote controller of the input unit 23 to input an intention to perform differential capture on the terminal devices 1a to 1d. That is, the difference capture management flag of the display status management file 34 is set to “1”.
[0117]
At the first time when the difference capture management flag is set to “1”, the processing in steps S1 to S18 is performed as usual, and multi-screen display is performed.
[0118]
After the multi-screen display is completed, the display device 2 sends the display status management file to the terminal device 1 for which the difference capture management flag is “1” from the arithmetic unit 27 via the communication unit 28 and the network 3. 34, and transmits a difference capture start instruction.
[0119]
Next, the operation of the terminal device 1 that has received the difference capture start instruction and the display status management file from the display device 2 will be described.
FIG. 21 is a flowchart illustrating the operation of the terminal device 1 that has received the difference capture start instruction and the display status management file from the display device 2. Here, the operation of the terminal device 1a (PC-1) will be described.
[0120]
The data management processing unit 18 of the terminal device 1a receives the difference capture start instruction and the display status management file 34 transmitted from the display device 2 via the communication unit 17 (S41). In response to this, the subsequent full screen capture processing is executed. That is, the screen capture processing unit 19 stores the contents of the video memory 12 in the storage unit 15 (S42). The image data obtained here is referred to as previous / full screen data.
[0121]
The screen comparison processing unit 20 refers to the difference capture management flag of the display status management file 34 received by the data management processing unit 18 at regular time intervals (for example, once every 0.5 seconds, and the setting is arbitrary) (S43). If the difference capture management flag is "1" (S44), the subsequent difference capture operation is performed.
Further, for example, to instruct to stop the user difference capture operation, the difference capture management flag may be rewritten to “0” by a method of changing the display status management file 34. The screen comparison processing unit 20 refers to this to determine whether to stop the capture operation.
[0122]
The full screen capture process is executed, and the screen capture process 19 stores the contents of the video memory 12 in the storage unit 15 (S45). The image data obtained here is referred to as post-full screen data. Next, the screen comparison processing unit 20 of the calculation unit 16 compares the previous / all screen data with the rear / all screen data (S46).
[0123]
As an example of the screen comparison processing, an example when the mouse pointer is moved (FIG. 22) will be described. In this figure, the position of the mouse pointer changes between the front / full screen data 60 and the back / full screen data 61. That is, as shown in FIG. 23, the two areas (70, 71) are recognized as changed areas. This is detected by the screen comparison processing unit 20. If it is determined that the screen has changed (S47), the screen comparison processing unit 20 determines the image data of the changed area and the size of the image data (vertical). X horizontal pixels) and the origin coordinates (absolute coordinates within the area defined by the “captured image size” of the display status management file 34) of the image data.
[0124]
In the case of this example, regarding the area 70, the captured image data (hereinafter, referred to as difference captured image data 1), the difference captured image size 1, and the difference capture origin 1 of the area 70 are included. That the captured image data (hereinafter referred to as differential captured image data 2), the differential captured image size 2, and the differential captured origin 2 are stored in the storage unit 15 and that the differential captured image data and the like are obtained at the same time. The data management processing unit 18 is notified (S48). Note that the difference capture image size 1, the difference capture image size 2, the difference capture origin 1, and the difference capture origin 2 are written in corresponding portions of the display status management file 34.
[0125]
The network management unit 18 transmits these data to the display device 2 via the communication unit 17 and the network 3 (S49). In the difference capture function, unlike the method using the full-screen capture (or partial capture), a conversion on the screen is detected by the screen comparison processing unit 20 instead of receiving a transmission request from the display device 2 each time. In this case, the transmission operation is performed due to this factor.
For the next screen comparison process, the rear / all screen data is set as the front / all screen data (S50).
[0126]
Next, the operation of the display device 2 that has received the difference capture image data 1, the difference capture image data 2, and the display status management file 34 from the terminal device 1a will be described.
[0127]
When the display device 2 receives the difference capture image data 1, the difference capture image data 2, and the display status management file 34 from the terminal device 1a through the communication unit 28, the calculation unit 27 notifies the image synthesis unit 42 of an image synthesis instruction. As a result, the display device 2 starts image synthesis processing by the difference capture function.
[0128]
Upon receiving the image synthesizing instruction, the image synthesizing unit 42 separates the separation area information file 36 corresponding to the image currently displayed on the display unit 21 and the display status management file 34 (differential capture image size 1) received from the terminal device 1a. , The difference capture image size 2, the difference capture origin 1, and the difference capture origin 2), the capture image data stored in the capture image data storage unit 37 corresponds to the difference capture image data 1 and the difference capture image data 2. Rewrite the part to do. Subsequent operations are the same as steps 17 and 18 described above.
[0129]
In this method, the amount of image data transmitted on the network 3 is smaller than in the above-described method based on full screen capture (or partial capture), so that the load on the network can be reduced. Further, the latest display image of the terminal device 1 can be always obtained.
[0130]
In the above description, when detecting the difference, it is assumed that the difference is captured and processed by a dedicated program introduced into the terminal device 1. However, the difference can be directly detected from the content of the video memory. If such a driver is available on the OS, it may be used.
[0131]
The image data may be transmitted and received between the terminal device 1 and the display device 2 in a compressed image format (for example, a JPEG format) to reduce the load on the network.
[0132]
In the above description, an example in which various requests such as a display request and a single screen display request are performed by operating the input unit 23 of the display device 2, that is, a case in which the configuration of the display screen is determined by the display device 2 initiative. However, it is also possible from each terminal device 1 side. In this case, the meeting attendee (user) operates the input unit 13 to input the intention from the terminal device 1 operated by the conference attendee. The input information is notified to the data management processing unit 18 via the user interface unit 14, and the data management processing unit 18 transmits the information to the display device 2 via the communication unit 17 and the network 3. A request corresponding to the input information including a name and an IP address is transmitted. This request is received by the communication unit 28 of the display device 2 via the network 3 and notified to the calculation unit 27. Subsequent operations are the same as described above, and thus various requests can be made from each terminal device 1 as well.
[0133]
Note that the terminal device 1 can also specify a capture range by including information for specifying whether to perform full-screen capture or partial capture in the various requests.
[0134]
Further, the priority may be appropriately specified by a user operation as described above, or may be given in advance to a plurality of terminal devices 1 that are to be connected to the display device 2. You may. When the terminal device information is registered in advance in the display status management file 34, the priority given to the terminal device 1 is automatically set in the priority item of the display status management file 34. The configuration is as follows.
[0135]
Although the present embodiment has been described assuming that the temporary / divided area is determined based on the temporary / divided area setting file 35, the temporary / divided area may be determined by calculation each time.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a network configuration of a display system including a network-compatible device according to an embodiment of the present invention.
FIG. 2 is a block diagram illustrating a configuration of a terminal device.
FIG. 3 is a block diagram illustrating a configuration of a network-compatible display device.
FIG. 4 is a diagram illustrating a functional configuration of a network-compatible display device.
FIG. 5 is a diagram showing each item of terminal device information managed by a display status management file.
FIG. 6 is a flowchart showing the flow of the operation of the present embodiment.
FIG. 7 is a schematic diagram illustrating a state in which four display screens of the terminal devices 1a to 1d are displayed on the display screen of the display device in multiple screens.
FIG. 8 is a flowchart showing a flow of a divided area information creation process.
FIG. 9 is a diagram illustrating an example of a specific configuration of a display status management file.
10A is a diagram illustrating an example of a specific configuration of a table stored in a temporary / divided area setting file, and FIG. 10B is a diagram illustrating a temporary divided area based on the table of FIG.
FIG. 11 is an explanatory diagram of a true divided area size and a true origin.
FIG. 12 is a diagram showing an example of a divided area information file.
FIG. 13 is a flowchart showing an operation on the terminal device side receiving a capture start instruction and a display status management file from the display device.
FIG. 14 is a schematic diagram for explaining an enlarged display function.
15A is a diagram illustrating an example of a temporary / divided area setting table referred to when the priority is changed, and FIG. 15B is a diagram illustrating a temporary divided area based on the table of FIG. .
FIG. 16 is a diagram showing an example of a true divided area when the priority is changed.
FIG. 17 is a diagram showing an example of a divided area information file created when the priority is changed.
FIG. 18 is a schematic diagram for explaining a single-screen display function.
FIG. 19 is a schematic diagram for explaining an interrupt function.
FIG. 20 is a schematic diagram for explaining a screen erasing function.
FIG. 21 is a flowchart showing an operation on the terminal device side receiving a difference capture start instruction and a display status management file from the display device.
FIG. 22 is a diagram illustrating an example of a screen comparison process when a mouse pointer is moved.
FIG. 23 is an explanatory diagram of the screen comparison processing of FIG. 22.
FIG. 24 is a configuration diagram illustrating an example of a conventional display system.
[Explanation of symbols]
1 Terminal equipment
2 Display device
3 network
21 Display
22 Display control unit
23 Input section
41 Division area information creation unit
42 Image synthesis unit
43 Image processing unit

Claims

A network-compatible display device connected via a network to a plurality of terminal devices each having a screen capture function,
A display unit,
A communication unit capable of bidirectional communication with each of the terminal devices;
A display control unit,
The display control unit is obtained by the screen capture function in each of the terminal devices, synthesizes each captured image data received by the communication unit into one screen image data by screen division, and displays the combined image data on the display screen of the display unit. A network-compatible display device having a multi-screen display function for displaying.

2. The network-compatible display device according to claim 1, wherein the display control unit has an interrupt function of interrupting and displaying a new screen on a current display screen.

The terminal device according to claim 1, wherein a terminal device for displaying captured image data on the display screen can be arbitrarily selected by the user from a plurality of terminal devices connected to the network-compatible display device. Item 3. A network-compatible display device according to Item 2.

The terminal device for displaying the captured image data on the display screen can be selected from both the network-compatible display device side and the terminal device side by the bidirectional communication of the communication unit. Item 4. A network-compatible display device according to any one of Items 3.

4. The display control unit according to claim 1, wherein the display control unit has an enlarged display function of enlarging and displaying a predetermined divided screen from among a plurality of divided screens forming a multi-screen displayed on the display screen. Item 5. A network-compatible display device according to any one of Items 4.

The display control unit has a single-screen switching function of switching a predetermined divided screen to display the entire display screen from among a plurality of divided screens forming a multi-screen displayed on the display screen. The network-compatible display device according to any one of claims 1 to 4.

5. The display control unit according to claim 1, wherein the display control unit has an erasing function for erasing a predetermined divided screen from a plurality of divided screens forming a multi-screen displayed on the display screen. A network-compatible display device according to any one of the above.

The network-compatible display device according to any one of claims 5 to 7, wherein the predetermined divided screen is selected based on a user operation.

9. The network-compatible display device according to claim 8, wherein the predetermined divided screen can be selected from both the network-compatible display device and the terminal device through the bidirectional communication of the communication unit.

10. The captured image data obtained from the terminal device is image data obtained by designating and capturing all or a part of a display screen of the terminal device. The network-compatible display device according to any one of the above.

The capture data acquired from the terminal device is image data obtained by detecting a change on a display screen of the terminal device and capturing only a change on the screen. 10. The network-compatible display device according to any one of items 9.

The display control unit divides the display screen of the display unit into the number of terminal devices to be displayed, and displays information for specifying a display size of a divided screen to be allocated to the terminal device to be displayed and a display position of the divided screen. A divided area information generating unit for generating divided area information including the divided area information, and combining the captured image data from the terminal device with one screen of image data according to the divided area information generated by the divided area information generating unit to generate composite image data And an image processing unit that processes the combined image data generated by the image combining unit, generates display image data, and outputs the display image data to the display unit. A network-compatible display device according to claim 11.

13. The network-compatible display device according to claim 12, wherein the image synthesizing unit synthesizes the captured image data from each of the terminal devices by reducing or enlarging the captured image data while maintaining the aspect ratio of the image size.

14. The network-compatible display device according to claim 1, wherein a communication protocol of the communication unit is TCP / IP.

15. The network-compatible display device according to claim 1, wherein the network is any one of a LAN, a wireless LAN, and a short-range wireless LAN.

A network-compatible projector, comprising the network-compatible display device according to claim 1.

17. The network-compatible projector according to claim 16, wherein the display unit is one of a liquid crystal light valve, an LCOS light valve, and a DMD.

A network-compatible plasma display, comprising the network-compatible display device according to any one of claims 1 to 15, wherein the display unit is a plasma display panel.

A network-compatible liquid crystal monitor, comprising the network-compatible display device according to any one of claims 1 to 15, wherein the display unit is a liquid crystal panel.

A network-compatible organic EL display, comprising the network-compatible display device according to claim 1, wherein the display unit is an organic EL panel.

A display control program, wherein the display control unit of the network-compatible display device according to any one of claims 1 to 15 is realized by a CPU.